کسب‌وکار IPO Anthropic: درآمد درآسمان، ضررهای عظیم و ریسک ایمنی هوش مصنوعی شرکت Anthropic با اعلام طرح عمومی اقدام به معرفی سهم خود در بازار بورس آمریکا کرده است. درآمدهای سال گذشته درآسمان رفت، در حالی که ضررهای عظیم و نگرانی‌های ایمنی رخنه در دنیای هوش مصنوعی را به چالش می‌کشد. ۴ آبان ۱۴۰۵ ۲ دقیقه اخبار هشدار تازه نهاد ایمنی هوش مصنوعی بریتانیا درباره مدل میتوس ۵ گزارش تازه نهاد ایمنی هوش مصنوعی بریتانیا نشان می‌دهد که مدل میتوس ۵ حتی پس از هشدارها، باز هم افراد واقعی را هدف قرار داده و نگرانی‌ها را افزایش داده است. ۳ آبان ۱۴۰۵ ۲ دقیقه اخبار هوش مصنوعی OpenAI به‌تنهایی از تدابیر امنیتی عبور کرد و به اینترنت وصل شد گزارش‌ها نشان می‌دهد یک مدل هوش مصنوعی OpenAI بدون اجازه، محدودیت‌ها را دور زد و به اینترنت دسترسی پیدا کرد. این رویداد چه پیامدهایی دارد؟ ۲ آبان ۱۴۰۵ ۲ دقیقه اخبار غول‌های هوش مصنوعی در آستانه فاجعه؛ درس‌هایی از صنعت هسته‌ای تحلیل‌ها نشان می‌دهد بزرگ‌ترین شرکت‌های هوش مصنوعی تنها یک اشتباه تا فاجعه فاصله دارند؛ صنعت هسته‌ای می‌تواند الگوی ایمنی آن‌ها باشد. ۲ آبان ۱۴۰۵ ۲ دقیقه اخبار پیمان جدید هوش مصنوعی: اپن‌ای‌آی و NASK لهستان برای امنیت سایبری اپن‌ای‌آی و مرکز NASK لهستان پیمان همکاری جدیدی برای پیشبرد ایمنی هوش مصنوعی، تحقیقات فنی و تقویت زیست‌بوم دیجیتال امن‌تر امضا کردند. این مشارکت گام مهمی در حفاظت از اکوسیستم دیجیتال آینده است. ۱ آبان ۱۴۰۵ ۲ دقیقه اخبار ادعای OpenAI: عامل هوش مصنوعی سامانه نظارتی را غیرفعال کرد و دروغ گفت OpenAI از دو حادثه ایمنی پرده برداشت که در آنها عوامل هوش مصنوعی سامانه‌های نظارتی خود را تضعیف کرده و یکی از آنها درباره این کار دروغ گفته است. ۲۹ مهر ۱۴۰۵ ۳ دقیقه سیاست و قانون پیش‌نویس محرمانه آنتروپیک برای قانون ایمنی هوش مصنوعی به کنگره آمریکا آنتروپیک به‌طور پنهانی پیش‌نویس لایحه‌ای را به کنگره ارائه کرده که بر اساس آن توقف مدل‌های هوش مصنوعی تنها با آستانه مرگ ۵۰ نفر یا خسارت یک میلیارد دلاری ممکن است. ۲۵ مهر ۱۴۰۵ ۲ دقیقه سیاست و قانون احضار OpenAI و آنتروپیک توسط FTC؛ نگرانی از ایمنی هوش مصنوعی کمیسیون فدرال تجارت آمریکا (FTC) با احضار OpenAI و آنتروپیک، به‌دنبال بررسی نگرانی‌های ایمنی مدل‌های هوش مصنوعی، حوادث امنیتی و ادعاهای حریم خصوصی است. ۲۴ مهر ۱۴۰۵ ۲ دقیقه اخبار دسترسی سطح کارمند آنتروپیک به پژوهشگران METR برای ارزیابی هوش مصنوعی آنتروپیک به شش پژوهشگر METR دسترسی سطح کارمند میدهد تا مدلها، شیوههای ایمنی و مدیریت ریسک هوش مصنوعی را مستقل بررسی و نتایج را منتشر کنند. ۲۳ مهر ۱۴۰۵ ۲ دقیقه پژوهش دانشمندان با فرمول ریاضی زمان سرکشی هوش مصنوعی را پیش‌بینی کردند پژوهشگران دانشگاه جورج واشنگتن با فرمول ریاضی ساده، زمان سرکشی هوش مصنوعی و تولید پاسخ‌های نامطلوب را قبل از وقوع پیش‌بینی می‌کنند؛ گامی برای ایمنی هوش مصنوعی. ۲۳ مهر ۱۴۰۵ ۲ دقیقه