بازگشت به چت هما هما وبلاگ
اخبار زنده هوش مصنوعی
۱۵۳ خبر
پژوهش تحلیل ریسک LLMهای باز: تهدیدهای زیست‌شناسی و امنیت سایبری پژوهشی که خطرات انتشار gpt‑oss را بررسی می‌کند و با معرفی Fine‑Tuning مخرب (MFT) در حوزه‌های زیست‌شناسی و امنیت سایبری، ریسک‌های بالقوه را نشان می‌دهد. پژوهش هوش مصنوعی در زیست‌شناسی: چالش‌های امنیتی و راهکارهای پیشگیری OpenAI به‌طور پیشگیرانه به نُسخۀ آینده هوش مصنوعی در زیست‌شناسی حرکت می‌کند؛ در این مقاله به خطرات امنیتی زیستی و راهکارهای مقابله پرداخته می‌شود. پژوهش هوش مصنوعی OpenAI: گزارش امنیتی و کارت پژوهش عمیق 2024 فناوری این گزارش در مورد چهارچوب امنیتی و اقدامات پیشگیرانه OpenAI برای پژوهش عمیق، از تیمزدادتس خارجی تا ارزیابی خطرات پیشرفته، توضیح می‌دهد. پژوهش هوش مصنوعی ایمن: بررسی کارت سیستم OpenAI o1 و اقدامات ایمنی کارت سیستم OpenAI o1، گزارش جامعی درباره‌ی اقدامات ایمنی پیش‌گیرانه، شامل تست ورژن‌های جانبی و ارزیابی خطرات پیشرفته بر اساس چارچوب آمادگی و استانداردهای بین‌المللی. پژوهش OpenAI و لوس بالاموس برای توسعه و ارزیابی ایمنی مدل‌های هوش مصنوعی پیشرفته همکاری OpenAI و لوس بالاموس، دو نهاد پیشرو، برای ارزیابی ایمنی و کنترل خطرات زیستی مدل‌های هوش مصنوعی پیشرفته در فاز اولیه تحقیقاتی آغاز کرده‌اند. سیاست و قانون هوش مصنوعی و ایمنی کودکان: OpenAI اصول Safety by Design را می‌پذیرد OpenAI با پذیرش اصول Safety by Design گامی مهم برای محافظت از کودکان در برابر خطرات هوش مصنوعی برداشته است. این مقاله ابعاد و پیامدهای این تعهد را بررسی می‌کند. پژوهش کشف خطرات آینده: تیم آمادگی و چالش‌های AI در تلاش برای ایمنی سیستم‌های قدرتمند OpenAI با ایجاد تیم آمادگی و راه‌اندازی چالش تازه، برای مدیریت خطرات احتمالی هوش مصنوعی پیشرفته، اقداماتی جدی وارد عمل کرده است. پژوهش شبکه Red Teaming OpenAI: دعوت بهبود ایمنی مدل‌های هوش مصنوعی OpenAI با راه‌اندازی شبکه Red Teaming، متخصصین ایمنی مدل‌های هوش مصنوعی را فراخوانده تا در شناسایی و اصلاح خطرات احتمالی مشارکت کنند و کیفیت تولید را ارتقا دهند. پژوهش هوش مصنوعی چندتایی: چارتر اخلاقی پیشگام در پژوهش و توسعه Hugging Face با ایجاد چارتر اخلاقی در حوزه هوش مصنوعی چندتایی، اصول اخلاقی را در هستهٔ چرخهٔ پژوهش قرار داده و با شفافیت، عدالت، مسئولیت و احترام به حریم خصوصی، ابتکاراتی برای پیش‌بازی خطرات فنی و اجتماعی ارائه می‌کند. پژوهش هوش مصنوعی و امنیت: چگونگی استفاده از مباحثه برای جلوگیری از خطرات مدلی نوین بر پایهٔ مباحثه بین ربات‌های هوش مصنوعی به معرفی الگوریتمی می‌پردازد که با ارزشیابی انسانی برنده نقش‌ بازی می‌کند و هدف آن پیشگیری از خطرات بالقوه و ارتقاء ایمنی سامانه‌های هوش مصنوعی است.