محصولات
حامی هوش مصنوعی: همکاری Hugging Face و Protect AI برای امنیت مدل‌های یادگیری ماشین
Hugging Face با Protect AI همکاری کرده تا امنیت مدل‌های هوش مصنوعی در جامعه یادگیری ماشین را تقویت کند. این شراکت مبتنی بر اصول متن‌باز و امنیت مشترک طراحی شده است.
پژوهش
نبرد با حملات انسانی: سنجش مقاومت هوش مصنوعی با رهبر جدید
رهبر تازه انتشار یافته Red-Teaming Resistance به بررسی مقاومت مدل‌های زبانی در برابر حملات واقع‌گرایانه می‌پردازد و نویدبخش توسعه مسئولانه هوش مصنوعی است.
پژوهش
هوش مصنوعی امن: لیور برد DecodingTrust و چالش‌های جدید هوش مصنوعی
در آخرین پژوهش هابِیگنِگ فِیچ، لیور برد DecodingTrust بررسی جامع امنیت مدل‌های بزرگ زبان (LLM) را معرفی می‌کند؛ نیاز به راهکارهای امنیتی برای هوش مصنوعی را برجسته می‌کند.
اخبار
حسابرسی امنیتی safetensors تأیید شد؛ فرمت پیش‌فرض ذخیره مدل‌های هوش مصنوعی
حسابرسی امنیتی Trail of Bits امنیت کتابخانه safetensors را تأیید کرد و سه شرکت پیشرو، این فرمت را به استاندارد پیش‌فرض ذخیره مدل‌های هوش مصنوعی تبدیل می‌کنند.
پژوهش
هوش مصنوعی: نکات کلیدی برای استفاده ایمن و جلوگیری از سوءاستفاده در مدل‌های زبانی
در این مقاله به بررسی دروس یاد گرفته شده دربارهٔ ایمنی و سوءاستفاده از مدل‌های زبانی پرداخته و راهکارهای عملی برای توسعه‌دهندگان را بررسی می‌کنیم.
پژوهش
انتقال استحکام خصمانه بین انواع اختلال؛ پژوهش جدید OpenAI در حوزه هوش مصنوعی
پژوهش جدید OpenAI نشان می‌دهد استحکام خصمانه مدل‌های هوش مصنوعی می‌تواند بین انواع مختلف اختلال‌ها انتقال یابد و امنیت مدل‌ها را بهبود بخشد.
پژوهش
هوش مصنوعی و محدودیت‌های محاسباتی در طبقه‌بندی مقاوم؛ نتایج برد-برد
پژوهش جدید OpenAI نشان می‌دهد که طبقه‌بندی مقاوم در هوش مصنوعی علی‌رغم محدودیت‌های محاسباتی، می‌تواند نتایج برد-برد به همراه داشته باشد. با این تحلیل همراه شوید.
پژوهش
حملات هوش مصنوعی با نمونه‌های آزاردهنده: چگونه مدل‌های یادگیری ماشین را فریب می‌دهند
در این مقاله به بررسی حملات هوش مصنوعی با نمونه‌های آزاردهنده، آثارشان بر مدل‌های یادگیری ماشین و چالش‌های دفاعی پرداخته می‌شود.