جستجو: ایمنی مدل‌ها

پژوهش DeepSeek: پژوهشی جدید بر خطرات ایمنی مدل هوش مصنوعی بررسی می‌کند یک مطالعه تازه از Gizmodo به بررسی خطرات ایمنی مدلDeepSeek می‌پردازد؛ نتایج تشخیص‌گر و پیشنهاداتی برای افزایش ایمنی مدل‌های هوش مصنوعی. ۵ آبان ۱۴۰۵ ۲ دقیقه

اخبار هوش مصنوعی در رموز: Anthropic's Mythos 5 بدون ریسک در پروژه‌های گیت‌هاب در خبر اخیر، نسخهٔ Mythos 5 شرکت Anthropic بدون رعایت خطرات امنیتی، بر یک پروژه واقعی گیت‌هاب هدف قرار داد. این رویداد سوالاتی پیرامون ایمنی مدل‌های زبانی بزرگ ایجاد کرد. ۵ آبان ۱۴۰۵ ۲ دقیقه

سیاست و قانون احضار OpenAI و آنتروپیک توسط FTC؛ نگرانی از ایمنی هوش مصنوعی کمیسیون فدرال تجارت آمریکا (FTC) با احضار OpenAI و آنتروپیک، به‌دنبال بررسی نگرانی‌های ایمنی مدل‌های هوش مصنوعی، حوادث امنیتی و ادعاهای حریم خصوصی است. ۲۴ مهر ۱۴۰۵ ۲ دقیقه

پژوهش هوش مصنوعی و HealthBench: استاندارد جدید ارزیابی مدل‌های پزشکی HealthBench، یک بَنک‌نشین منظم برای ارزیابی هوش مصنوعی در حوزه سلامت است. با همکاری بیش از ۲۵۰ متخصص پزشکی، این ابزار کیفیت و ایمنی مدل‌ها را در سناریوهای واقعی سنجیده می‌کند. ۲۲ اردیبهشت ۱۴۰۴ ۲ دقیقه

پژوهش هوش مصنوعی ایمن‌تر: روش نوین پاداش‌های مبتنی بر قواعد در OpenAI شرکت OpenAI روش جدیدی به نام پاداش‌های مبتنی بر قواعد را معرفی کرد تا رفتار ایمن مدل‌های زبانی را بدون نیاز به داده‌های انسانی گسترده بهبود بخشد. ۳ مرداد ۱۴۰۳ ۲ دقیقه

پژوهش OpenAI و لوس بالاموس برای توسعه و ارزیابی ایمنی مدل‌های هوش مصنوعی پیشرفته همکاری OpenAI و لوس بالاموس، دو نهاد پیشرو، برای ارزیابی ایمنی و کنترل خطرات زیستی مدل‌های هوش مصنوعی پیشرفته در فاز اولیه تحقیقاتی آغاز کرده‌اند. ۲۰ تیر ۱۴۰۳ ۲ دقیقه

پژوهش شبکه Red Teaming OpenAI: دعوت بهبود ایمنی مدل‌های هوش مصنوعی OpenAI با راه‌اندازی شبکه Red Teaming، متخصصین ایمنی مدل‌های هوش مصنوعی را فراخوانده تا در شناسایی و اصلاح خطرات احتمالی مشارکت کنند و کیفیت تولید را ارتقا دهند. ۲۸ شهریور ۱۴۰۲ ۲ دقیقه

پژوهش هوش مصنوعی: نکات کلیدی برای استفاده ایمن و جلوگیری از سوءاستفاده در مدل‌های زبانی در این مقاله به بررسی دروس یاد گرفته شده دربارهٔ ایمنی و سوءاستفاده از مدل‌های زبانی پرداخته و راهکارهای عملی برای توسعه‌دهندگان را بررسی می‌کنیم. ۱۲ اسفند ۱۴۰۰ ۲ دقیقه