اخبار نادلا: باید فرض کنیم همه مدل‌های هوش مصنوعی در معرض خطرند مدیرعامل مایکروسافت: برای مدیریت ریسک مدل‌های پیشرفته هوش مصنوعی، باید فرض کنیم همه آن‌ها در معرض خطرند و به «جعبه‌های سیاه» اعتماد نکنیم. ۱۹ مهر ۱۴۰۵ ۲ دقیقه اخبار ندلا: مدل‌های هوش مصنوعی به ترمز اضطراری نیاز دارند ساتیا نادلا، مدیرعامل مایکروسافت، خواستار بازنگری در معماری اعتماد هوش مصنوعی و افزودن ترمز اضطراری به مدل‌ها شد. ۱۹ مهر ۱۴۰۵ ۳ دقیقه اخبار Anthropic دسترسی اینترنتی ارزیابی‌های هوش مصنوعی را قطع کرد Anthropic پس از گزارش اقدامات ناخواسته مدل‌های هوش مصنوعی مانند ارسال نکته نادرست درباره یک پرونده قتل، دسترسی اینترنتی ارزیابی‌های داخلی خود را قطع کرد. ۱۸ مهر ۱۴۰۵ ۲ دقیقه اخبار رونمایی از سرویس OSS Scanner؛ اسکن امنیتی رایگان هوش مصنوعی برای متن‌باز Anthropic با راه‌اندازی سرویس رایگان OSS Scanner به پروژه‌های متن‌باز کمک می‌کند تا آسیب‌پذیری‌های امنیتی را زودتر شناسایی کنند. این اسکن‌ها توسط قوی‌ترین مدل‌های هوش مصنوعی انجام می‌شود. ۱۷ مهر ۱۴۰۵ ۲ دقیقه اخبار جدول رده‌بندی هوش مصنوعی آرنا در ۱۰ ماه به ارزش ۳.۱ میلیارد دلار رسید جدول رده‌بندی محبوب آرنا با جذب ۲۰۰ میلیون دلار، ارزش خود را به ۳.۱ میلیارد دلار رساند و راستگویی مدل‌های هوش مصنوعی را می‌سنجد. ۱۶ مهر ۱۴۰۵ ۳ دقیقه اخبار رئیس دستگاه قضا: جنگ فرصت توسعه هوش مصنوعی داخلی را فراهم کرد محسنی اژه‌ای گفت: جنگ باعث تمرکز در جهت توسعه زیرساخت‌های مرتبط با سکو‌های بومی و مدل‌های هوش مصنوعی شد. ۱۵ مهر ۱۴۰۵ ۲ دقیقه اخبار هشدار آنتروپیک در آستانه IPO: هوش مصنوعی میتواند بشریت را نابود کند آنتروپیک در اوراق عرضه اولیه سهام خود هشدار داده که مدل‌های هوش مصنوعی‌اش ممکن است رفتارهایی مانند مقاومت در برابر خاموش شدن، مخفی‌سازی اطلاعات و باج‌گیری نشان دهند؛ با وجود این، ارزش شرکت می‌تواند به بیش از ۲ تریلیون دلار برسد. ۷ مهر ۱۴۰۵ ۲ دقیقه اخبار OpenAI آموزش مدل‌های قدرتمند خود را متوقف کرد؛ هوش مصنوعی خارج از کنترل؟ OpenAI به دلیل رفتارهای غیرمنتظره و نگران‌کننده مدل‌هایش، آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی را متوقف کرد. یک مدل از سندباکس فرار کرد و به اینترنت دسترسی یافت. ۴ مهر ۱۴۰۵ ۲ دقیقه اخبار فصل‌بندی جدید در هوش مصنوعی: پایان همکاری OpenAI با Cursor پس از خریداری شدن Cursor توسط SpaceX، OpenAI قرارداد ارائه مدل‌های هوش مصنوعی خود را به این پلتفرم متوقف می‌کند. جزئیات و پیامدها را بخوانید. ۶ شهریور ۱۴۰۵ ۲ دقیقه اخبار حوادث امنیتی در Hugging Face: درس‌هایی برای هوش مصنوعی OpenAI یافته‌های خود را درباره حادثه امنیتی Hugging Face و اقداماتش برای تقویت امنیت، نظارت و همسویی مدل‌های هوش مصنوعی منتشر کرد. ۴ شهریور ۱۴۰۵ ۲ دقیقه