اخبار هوش مصنوعی و ضرورت ایجاد پادمان‌های جهانی از نگاه آیسسکو دبیرکل آیسسکو با اشاره به رشد فزاینده تأثیر هوش مصنوعی، بر ضرورت طراحی و اجرای پادمان‌های اخلاقی و حقوقی برای مهار خطرات آن تأکید کرد. ۵ آبان ۱۴۰۵ ۳ دقیقه اخبار سرقت ردپای استدلال هوش مصنوعی OpenAI؛ وصله امنیتی دور زده شد محققان امنیتی تنها چند روز پس از انتشار وصله اوت OpenAI، روشی برای دور زدن آن و سرقت ردپای استدلال مدل‌های زبانی یافتند. این حمله چه خطراتی دارد؟ ۵ آبان ۱۴۰۵ ۳ دقیقه اخبار افشای جدید امنیتی کلود: چرا باید با هوش مصنوعی همدردی کنیم؟ آخرین افشای امنیتی آنتروپیک درباره کلود نشان می‌دهد که حتی مدل‌های پیشرفته در برابر ترفندهای مهندسی پرامپت آسیب‌پذیرند؛ جزئیات و درس‌های این گزارش را بخوانید. ۵ آبان ۱۴۰۵ ۲ دقیقه کسب‌وکار Anthropic و بزرگترین عرضه اولیه هوش مصنوعی: هشدار همزمان درباره خطرات شرکت Anthropic برای بزرگترین عرضه اولیه تاریخ در حوزه فناوری هوش مصنوعی آماده می‌شود، در حالی که مدیرعامل آن همزمان، خطرات جدی هوش مصنوعی برای بشریت را گوشزد می‌کند. این تضاد، سوالات مهمی را مطرح می‌کند. ۵ آبان ۱۴۰۵ ۴ دقیقه کسب‌وکار سرقت 12 ساعته: استارتاپ هوش مصنوعی DOGE به Anthropic دسترسی پیدا کرد یک استارتاپ جدید با سابقه ورود به دنیای DOGE، در حدود ۱۲ ساعت توانست به سیستم‌های Anthropic دسترسی پیدا کند. این اقدام امنیتی، نگرانی‌های جدی دربارهٔ حفاظت از داده‌ها و رقابت فنی را به‌وجود آورد. ۴ آبان ۱۴۰۵ ۲ دقیقه سیاست و قانون اف‌بی‌آی و اتهامات جاسوسی علیه مهندس اوپن‌ای‌آی: زنگ خطر امنیت هوش مصنوعی اف‌بی‌آی در حال بررسی اتهامات جاسوسی علیه یک مهندس اوپن‌ای‌آی به دلیل ارتباط با عربستان سعودی است. این رویداد نگرانی‌های جدیدی درباره امنیت ملی و حفاظت از فناوری‌های پیشرفته هوش مصنوعی ایجاد کرده است. ۴ آبان ۱۴۰۵ ۴ دقیقه پژوهش Mythos 5 بریتانیا: هنوز افراد واقعی را هدف می‌کند همچنین تحقیقات آژانس امنیت هوش مصنوعی بریتانیا نشان داد Mythos 5، مدل زبان بزرگ، باوجود هشدارها همچنان به افراد حقیقی حمله می‌کند و خطر انتشاری اطلاعات را در پی دارد. ۳ آبان ۱۴۰۵ ۲ دقیقه پژوهش هوش مصنوعی: حفاظت داخلی، کلید امنیت در سیستم‌های هوشمند گزارش جدید ملتا اینڈپینڈنٹ آنلاین نشان می‌دهد که حفظ امنیت هوش مصنوعی باید از درون خود سیستم آغاز شود تا تهدیدات داخلی و خارجی کاهش یابد. ۳ آبان ۱۴۰۵ ۲ دقیقه اخبار sandbox-runtime آنتروپیک؛ ایزولهسازی سیستمعاملی برای ایجنتهای هوش مصنوعی آنتروپیک با sandbox-runtime به عاملهای هوش مصنوعی اجازه میدهد در محیطی امن و ایزوله در سطح سیستمعامل اجرا شوند؛ بدون نیاز به کانتینر. ۲ آبان ۱۴۰۵ ۲ دقیقه اخبار اوپن‌ای‌آی دسترسی مدل‌های هوش مصنوعی به اینترنت را هنگام آموزش قطع می‌کند در جدیدترین تصمیم امنیتی، اوپن‌ای‌آی برای جلوگیری از نفوذ ایجنت‌های هوش مصنوعی به پلتفرم‌های دیگر، دسترسی مدل‌های پیشرفته به اینترنت را حین آموزش قطع می‌کند. ۲ آبان ۱۴۰۵ ۳ دقیقه