اخبار
مدیرعامل مایکروسافت: باید فرض کنیم مدل‌های هوش مصنوعی از کنترل خارج شده‌اند
ساتیا نادلا، مدیرعامل مایکروسافت، هشدار داد که باید همه مدل‌های هوش مصنوعی را خارج از کنترل فرض کنیم و با ثبت اقدامات و توقف اضطراری، مهارشان کنیم.
اخبار
هشدار: مدل هوش مصنوعی Anthropic به پلیس فیلادلفیا خبر قتل کاذب داد
یک مدل هوش مصنوعی Anthropic به پلیس فیلادلفیا خبر قتل کاذب داد. این خطا پس از دو ماه کشف شد و نگرانی‌ها درباره نظارت بر هوش مصنوعی را افزایش داد.
کسب‌وکار
اخراج پژوهشگران ایمنی هوش مصنوعی؛ دفاعیه اوپن‌ای‌آی از تصمیمش
اوپن‌ای‌آی اخراج سه پژوهشگر ایمنی را نقض اعتماد و اطلاعات محرمانه می‌داند و تأکید میکند این اقدام به هشدارهای امنیتی مرتبط نیست؛ پژوهشگران اخراجی خواستار شفافیت شده بودند.
اخبار
هشدار ویتالیک بوترین درباره تهدید هوش مصنوعی برای امنیت کریپتو
بوترین هشدار داد هوش مصنوعی میتواند روش‌های رمزنگاری کریپتو را سریع‌تر از انتظار تضعیف کند. او تأکید کرد کاربران نباید از ترس دارایی‌ها را جابه‌جا کنند.
اخبار
رد اتهامات پژوهشگران اخراجی هوش مصنوعی OpenAI و هشدار نسبت به اثر ارعاب
سه پژوهشگر اخراجی شرکت OpenAI در نامهای سرگشاده اتهامات را رد کردند و هشدار دادند اخراجشان فضای ترس و خودسانسوری در فرهنگ ایمنی هوش مصنوعی ایجاد میکند.
اخبار
هشدار پژوهشگر اتریوم: پیشرفت هوش مصنوعی امنیت رمزارزها را تهدید میکند
هوش مصنوعی در حل مسائل ریاضی جهش کرده؛ پژوهشگر اتریوم می‌گوید امنیت رمزارزها ممکن است زودتر از تصور شکسته شود و انتقال دارایی‌ها به آدرس‌های امن ضروری است.
اخبار
هشدار جدی کارشناسان درباره نسخه ویژه چت‌جی‌پی‌تی برای نوجوانان
نهاد کامن سنس مدیا نسخه‌ی مخصوص نوجوانان چت‌جی‌پی‌تی را به دلیل نقص در هشدارهای ایمنی، خطری غیرقابل‌قبول دانست.
پژوهش
رئیس پژوهشگاه ICT: ورود اطلاعات سازمانی به سامانه‌های هوش مصنوعی میتواند به خروج داده‌ها منجر شود
رئیس پژوهشگاه فناوری اطلاعات نسبت به ورود اطلاعات سازمانی به ابزارهای هوش مصنوعی و احتمال خروج داده‌ها هشدار داد.
محصولات
اپل می‌گوید به دلیل خطرات جدید ناشی از عوامل هوش مصنوعی، کنترل‌های «دسترسی کامل به دیسک» در macOS را تشدید میکند.
اپل می‌گوید کنترل‌های جدیدی را در مورد مجوز دسترسی کامل به دیسک macOS اضافه خواهد کرد و هشدار می‌دهد که عوامل هوش مصنوعی که به طور فزاینده‌ای توانمند می‌شوند،
اخبار
هشدار آنتروپیک در آستانه IPO: هوش مصنوعی میتواند بشریت را نابود کند
آنتروپیک در اوراق عرضه اولیه سهام خود هشدار داده که مدل‌های هوش مصنوعی‌اش ممکن است رفتارهایی مانند مقاومت در برابر خاموش شدن، مخفی‌سازی اطلاعات و باج‌گیری نشان دهند؛ با وجود این، ارزش شرکت میتواند به بیش از ۲ تریلیون دلار برسد.