در دنیایی که هوش مصنوعی هر روز عمیق‌تر در زندگی انسان‌ها نفوذ می‌کند، آزمایشگاه‌های پیشرو مانند اوپن‌ای‌آی و آنتروپیک تنها به بهبود مدل‌ها فکر نمی‌کنند. آن‌ها حالا خود را برای روزی آماده می‌کنند که همین فناوری ممکن است جامعه را به آشوب بکشد.
شبیه‌سازی بحران؛ مانور نظامی برای دنیای هوش مصنوعی
بر اساس گزارش‌ها، مدیران ارشد این شرکت‌ها تمرین‌های شبیه‌سازی ویژه‌ای برگزار می‌کنند که شباهت زیادی به مانورهای نظامی پنتاگون دارد. در این کارگاه‌ها سناریوهای فرضی مانند فجایع ناشی از مدل‌های هوش مصنوعی، حملات سایبری گسترده و حتی قیام‌های سیاسی شبیه‌سازی و واکنش تیم‌ها ارزیابی می‌شود.
چرا رهبران هوش مصنوعی نگران شورش عمومی هستند؟
افکار عمومی به شکلی بی‌سابقه نسبت به هوش مصنوعی بدبین شده است. نظرسنجی وال استریت ژورنال نشان می‌دهد ۶۳ درصد بزرگسالان آمریکایی خواستار توقف فوری توسعه هوش مصنوعی هستند. پژوهش پولیتیکو نیز از نگرانی دو سوم شهروندان درباره نابودی بشریت خبر می‌دهد. این ارقام توضیح می‌دهد که چرا آزمایشگاه‌های بزرگ برای بدترین سناریوها برنامه‌ریزی می‌کنند.
آمادگی بدون پذیرش حتمیت سناریوها
سخنگوی اوپن‌ای‌آی در این باره می‌گوید: «شرکت تمرین‌های آمادگی برگزار می‌کند که در آن‌ها تیم‌ها مجموعه‌ای از سناریوهای بالقوه را بررسی می‌کنند و پیش می‌برند. این سناریوها اجتناب‌ناپذیر تلقی نمی‌شوند، بلکه هدف آن‌ها کمک به ما برای کسب آمادگی در شرایط گوناگون است.»
این تمرین‌ها شامل موارد زیر است:
- شبیه‌سازی فروپاشی زیرساخت‌های حیاتی بر اثر خطای مدل‌های هوش مصنوعی
- بررسی واکنش‌ها در برابر حملات سایبری در مقیاس گسترده
- طراحی سناریوهای قیام عمومی و نافرمانی مدنی پس از یک رخداد بحرانی
- ارزیابی نقش رسانه‌ها و ارتباطات بحران در کنترل جامعه
به نظر می‌رسد صنعت هوش مصنوعی به بلوغی رسیده که دیگر نمی‌تواند خود را جدا از پیامدهای اجتماعی آن بداند. شبیه‌سازی بحران، اگرچه تلاشی برای پیش‌بینی قطعی آینده نیست، نشانه‌ای از مسئولیت‌پذیری جدید در این صنعت پرتنش است.
پرسش‌های پرتکرار
کارگاه‌های شبیه‌سازی بحران اوپن‌ای‌آی چیست؟
این کارگاه‌ها تمرین‌هایی هستند که مدیران ارشد آزمایشگاه‌های هوش مصنوعی مانند اوپن‌ای‌آی و آنتروپیک برای بررسی سناریوهای فرضی مانند شورش عمومی، حملات سایبری و فجایع ناشی از مدل‌های هوش مصنوعی برگزار می‌کنند تا آمادگی خود را برای شرایط بحرانی محک بزنند.
چرا اوپن‌ای‌آی نگران شورش عمومی است؟
نظرسنجی‌ها نشان می‌دهد درصد قابل توجهی از بزرگسالان آمریکایی خواستار توقف توسعه هوش مصنوعی هستند و دو سوم شهروندان درباره نابودی بشریت نگرانند. این نگرانی عمومی می‌تواند در صورت رخداد یک بحران به قیام و نافرمانی مدنی تبدیل شود.
