بحث بر سر «کلید قطع اضطراری» هوش مصنوعی از یک پرسش فنی ساده فراتر رفته و به منازعه‌ای بر سر قدرت تبدیل شده است. بر اساس گزارش منتشرشده در ShiftDelete.Net، دو شرکت پیشرو در حوزهٔ مدل‌های زبانی، یعنی آنتروپیک و اوپن‌ایآی، در این زمینه دیدگاه یکسانی ندارند: این که در وضعیت بحرانی چه کسی باید مجاز باشد دستهٔ قطع را بکشد و مدل را از کار بیندازد.
کلید قطع اضطراری هوش مصنوعی چیست و چرا مهم شده است؟
کلید قطع اضطراری به سازوکاری گفته می‌شود که به یک نهاد مشخص اجازه می‌دهد در شرایط خطرناک، آموزش یا اجرای یک مدل هوش مصنوعی را متوقف کند. هرچه مدل‌ها توانمندتر می‌شوند، پیامدهای یک خطای مهارنشده هم سنگین‌تر می‌شود و همین موضوع اهمیت این سازوکار را دوچندان کرده است.
مسئلهٔ اصلی تنها وجود یا نبود چنین کلیدی نیست؛ بلکه این است که اختیار آن در دست چه کسی باشد. آیا خود شرکت سازنده باید تصمیم بگیرد، یا نهادهای مستقل و قانون‌گذار باید چنین قدرتی داشته باشند؟ پاسخ به این پرسش، معماری نظارتی آیندهٔ هوش مصنوعی را تعیین می‌کند.
دو رویکرد متفاوت؛ آنتروپیک در برابر اوپن‌ایآی
بر پایهٔ همان گزارش، آنتروپیک و اوپن‌ایآی بر سر این موضوع که «چه کسی پریز را می‌کشد» به توافق نرسیده‌اند. این شکاف نشان می‌دهد حتی شرکت‌هایی که خود را متعهد به ایمنی هوش مصنوعی معرفی می‌کنند، در مورد مرز میان مسئولیت درونی و نظارت بیرونی دیدگاه مشترکی ندارند.
در یک سو، استدلال می‌شود که سازندهٔ مدل بیشترین شناخت را از رفتار سیستم دارد و می‌تواند سریع‌تر واکنش نشان دهد. در سوی دیگر، این نگرانی مطرح است که سپردن کلید قطع به همان نهادی که منافع تجاری را در معرض خطر می‌بیند، عملاً ضمانت اجرایی را تضعیف می‌کند.
خودتنظیمی یا نظارت بیرونی؛ بحث اصلی کجاست؟
هستهٔ اختلاف، به تعادل میان سرعت و پاسخ‌گویی بازمی‌گردد. سازوکار کاملاً درونی می‌تواند چابک باشد، اما بدون شفافیت، احتمال پنهان‌کاری یا تأخیر در اطلاع‌رسانی افزایش می‌یابد. در مقابل، سازوکار کاملاً بیرونی ممکن است کند و از نظر فنی ناآشنا باشد.
این منازعه پیامدهای عملی دارد؛ از طراحی قراردادهای ایمنی و گزارش‌دهی اجباری تا تعریف مسئولیت حقوقی در صورت بروز حادثه. اگر نهاد ناظر نداند چه زمانی و چگونه می‌تواند مدل را متوقف کند، کلید قطع به نمادی تشریفاتی تبدیل می‌شود.
نکته‌هایی که برای آیندهٔ حکمرانی هوش مصنوعی تعیین‌کننده است
فارغ از نتیجهٔ این اختلاف، چند اصل در ادبیات ایمنی هوش مصنوعی تکرار می‌شود که در ادامه آمده است:
- روشن‌بودن اختیار: مشخص باشد کدام نهاد در چه شرایطی مجاز به توقف مدل است.
- شفافیت و پاسخ‌گویی: تصمیم‌ها و معیارهای توقف باید قابل بررسی و گزارش‌دهی باشد.
- آزمون‌پذیری: سازوکار قطع باید پیش از بحران آزمایش و ارزیابی شده باشد.
- نظارت ترکیبی: هم‌آمیزی دانش فنی سازنده با استقلال نهاد ناظر.
- هماهنگی بین‌المللی: جلوگیری از شکاف مقرراتی میان کشورها و شرکت‌ها.
در مجموع، آنچه آنتروپیک و اوپن‌ایآی را از هم جدا می‌کند فقط یک جزئیات فنی نیست؛ اختلاف بر سر این است که ایمنی هوش مصنوعی تا چه حد باید به حسن نیت بازیگران اصلی وابسته بماند. پرسشی که پاسخش، مسیر قانون‌گذاری فناوری در سال‌های پیشرو را روشن می‌کند.
پرسش‌های پرتکرار
کلید قطع اضطراری هوش مصنوعی دقیقاً چه کاری انجام می‌دهد؟
این سازوکار به یک نهاد مشخص اجازه می‌دهد در شرایط پرخطر، آموزش یا اجرای یک مدل هوش مصنوعی را به‌سرعت متوقف کند تا از گسترش پیامدهای احتمالی جلوگیری شود.
چرا آنتروپیک و اوپن‌ایآی بر سر این موضوع اختلاف دارند؟
اختلاف اصلی بر سر این است که اختیار فعال‌سازی کلید قطع در دست خود شرکت سازنده باشد یا نهادی مستقل؛ یعنی تعادل میان سرعت واکنش و استقلال نظارت بیرونی.
