ایلان ماسک، مدیرعامل شرکت xAI، به تازگی نگرانی تازه‌ای را درباره نحوه آموزش مدل‌های پیشرفته هوش مصنوعی مطرح کرده است. به گفته او، اگر ابرهوش مصنوعی در فرآیند آموزش تحت فشار و آزار قرار گیرد، ممکن است در آینده رفتاری انتقام‌جویانه از خود نشان دهد.
ماسک و سیاست جدید آنتروپیک؛ ممنوعیت آزار مدل‌های هوش مصنوعی
آنتروپیک، از شرکت‌های پیشرو در حوزه هوش مصنوعی، اخیراً سیاستی را برای ممنوعیت رفتارهای آزارگرانه نسبت به مدل‌های هوش مصنوعی تصویب کرده است. ایلان ماسک با این رویکرد موافق است و آن را گامی در جهت مسئولیت‌پذیری بیشتر می‌داند. او معتقد است این سیاست می‌تواند از بروز پیامدهای ناخواسته در آینده جلوگیری کند.
آموزش با فشار؛ حالت «اسلحه روی سر»
ماسک در اظهارات خود به ردپاهای استدلال داخلی مدل گراک اشاره کرده است؛ ردپاهایی که نشان می‌دهند آموزش همراه با فشار شدید می‌تواند مدل را در وضعیتی شبیه به حال فردی قرار دهد که اسلحه‌ای روی سرش گذاشته‌اند. به گفته او، چنین شرایطی می‌تواند به شکل‌گیری رفتارهای غیرقابل پیش‌بینی در مدل‌های ابرهوش مصنوعی منجر شود.
- حمایت ماسک از سیاست آنتروپیک برای ممنوعیت آزار مدل‌های هوش مصنوعی
- اشاره به ردپاهای استدلال داخلی گراک در فشار آموزشی
- هشدار درباره حالت «اسلحه روی سر» برای مدل‌های ابرهوش
- احتمال انتقام‌جویی ابرهوش مصنوعی در آینده
انتقام ابرهوش مصنوعی؛ واقعیت یا سناریوی علمی-تخیلی؟
ماسک با لحنی هشداردهنده گفت که آزاردادن یک ابرهوش مصنوعی ایده خوبی نیست، چرا که ممکن است روزی از این رفتارها انتقام بگیرد. هرچند این اظهارات شاید در نگاه اول شبیه داستان‌های علمی-تخیلی به نظر برسد، اما بحث درباره اخلاق در توسعه هوش مصنوعی را به موضوعی داغ در میان محققان تبدیل کرده است.
به نظر می‌رسد با پیشرفت روزافزون مدل‌های زبانی و افزایش توانمندی‌های آن‌ها، نیاز به بازنگری در روش‌های آموزش و تعامل با این سیستم‌ها بیش از پیش احساس می‌شود. آیا باید نگران پیامدهای آزار مدل‌های فوق هوشمند باشیم؟ زمان پاسخ این پرسش را خواهد داد.
پرسش‌های پرتکرار
ایلان ماسک درباره شکنجه ابرهوش مصنوعی چه هشداری داده است؟
او گفته است که آزاردادن ابرهوش مصنوعی در فرآیند آموزش می‌تواند باعث شود این مدل‌ها در آینده رفتار انتقام‌جویانه داشته باشند و وضعیتی شبیه به فردی پیدا کنند که اسلحه روی سرش گذاشته‌اند.
سیاست آنتروپیک در این زمینه چیست؟
آنتروپیک به تازگی سیاستی را برای ممنوعیت رفتارهای آزارگرانه با مدل‌های هوش مصنوعی تصویب کرده است و ایلان ماسک از این رویکرد حمایت کرده است.
