محصولات OpenAI با خرید Promptfoo، امنیت هوش مصنوعی در توسعه را بهبود می‌بخشد OpenAI با اکتساب پلتفرم Promptfoo، به‌دست آوردن راهکارهای امنیتی پیشرفته برای شناسایی و رفع آسیب‌پذیری‌های سیستم‌های هوش مصنوعی در طول توسعه. ۱۸ اسفند ۱۴۰۴ ۲ دقیقه پژوهش هوش مصنوعی و کنترل زنجیره تفکر: پیشرفت OpenAI با CoT-Control OpenAI با معرفی CoT-Control نشان می‌دهد که مدل‌های تفکر هنوز در کنترل زنجیره‌های تفکری دشوارند؛ این فنّاوری به عنوان ابزار امنیتی جدید مطرح می‌شود. ۱۴ اسفند ۱۴۰۴ ۲ دقیقه پژوهش OpenAI سرمایه‌گذاری 7.5 ملیون دلار برای پروژهٔ هماهنگی مستقل هوش مصنوعی OpenAI مبلغ 7.5 ملیون دلار را در قالب پروژهٔ هماهنگی مستقل تخصیص داده، به منظور تقویت تحقیقات مستقل در زمینهٔ هماهنگی هوش مصنوعی و کاهش خطرات AGI. ۳۰ بهمن ۱۴۰۴ ۲ دقیقه سیاست و قانون OpenAI با محدودیت حساب‌های چین: چالش‌های هوش مصنوعی در امنیت سایبری OpenAI با محدودیت حساب‌های احتمالی چین برای جلوگیری از پژوهش سراسری و شیوه‌های مهندسی اجتماعی به کاربران و سازمان‌های آمریکایی هشدار می‌دهد. این اقدام تأثیر زیادی بر هوش مصنوعی دارد. ۱۲ بهمن ۱۴۰۴ ۲ دقیقه سخت‌افزار هشدار هوش مصنوعی: حملات تزریق پرامپت به چالش امنیتی بزرگ حملات تزریق پرامپت، چالش امنیتی برای سیستم‌های هوش مصنوعی؛ بررسی راهکارهای OpenAI در حفاظت از داده‌ها و کارایی مدل‌ها در برابر این تهدید محدود. ۱۶ آبان ۱۴۰۴ ۲ دقیقه پژوهش OpenAI با CAISI و AISI همکاری می‌کند تا امنیت هوش مصنوعی را تقویت کند OpenAI در پی تقویت امنیت و ایمنی سیستم‌های هوش مصنوعی، همکاری خود را با سازمان‌های CAISI در آمریکا و AISI در انگلستان به اشتراک می‌گذارد، که به تحکیم استانداردهای جدیدی برای حفاظت از هوش مصنوعی می‌انجامد. ۲۱ شهریور ۱۴۰۴ ۲ دقیقه اخبار همکاری بین OpenAI و Anthropic در ارزیابی امنیت هوش مصنوعی OpenAI و Anthropic همکاری کردند تا با ارزیابی مشترک مدل‌های هوش مصنوعی، از جمله مسائل هم‌ترازگی، دستورات، ایوازش، و نفوذ، پیشرفت‌ها و چالش‌های جدید را کشف کنند. ۵ شهریور ۱۴۰۴ ۲ دقیقه سیاست و قانون پاسخ هوگینگ فیس به کاخ سفید: هوش مصنوعی باز اولویت دارد هوگینگ فیس در پاسخ به کاخ سفید، سه توصیه کلیدی برای سیاست هوش مصنوعی ارائه کرده است: تکیه بر متن‌باز، کارآمدی و امنیت شفاف. در این مقاله بخوانید. ۲۹ اسفند ۱۴۰۳ ۲ دقیقه اخبار رویکرد چندلایه OpenAI برای ایمنی هوش مصنوعی: از محافظت تا ارزیابی اوپن‌ای‌آی با انتشار «Operator System Card»، رویکرد جامع خود را در برابر چالش‌های امنیتی هوش مصنوعی، شامل محافظت از حریم خصوصی و مقابله با حملات، تشریح می‌کند. ۴ بهمن ۱۴۰۳ ۳ دقیقه پژوهش معاوضه قدرت محاسباتی و استحکام تهاجمی در هوش مصنوعی: راهکاری نوین اوپن‌ای‌آی رویکردی جدید برای مقابله با حملات تهاجمی به مدل‌های هوش مصنوعی معرفی کرده است. این روش شامل افزایش محاسبات زمان استنتاج برای بهبود چشمگیر استحکام و امنیت مدل‌هاست. ۳ بهمن ۱۴۰۳ ۳ دقیقه