چرا هوش مصنوعی را باید خارج از کنترل فرض کنیم؟
ساتیا نادلا، مدیرعامل مایکروسافت، در تازه‌ترین اظهارنظر خود خواستار تغییر نگاه جهانی به ایمنی هوش مصنوعی شده است. او تأکید می‌کند که به‌جای اعتماد به رفتار مدل‌ها، باید از همان ابتدا آن‌ها را بالقوه خطرناک و خارج از کنترل ببینیم. این رویکرد، پیشگیرانه و مبتنی بر سناریوی بدبینانه است تا بتوان پیش از وقوع بحران، سازوکارهای مهار را فعال کرد.
راهکارهای مایکروسافت برای کنترل مدل‌ها چیست؟
نادلا در این زمینه بر دو ابزار مهم تأکید کرده است: ثبت کامل اقدامات مدل‌ها و ایجاد امکان توقف فوری. به گفته او، شفافیت در عملکرد و ثبت دقیق تصمیم‌های سامانه‌های هوش مصنوعی به ناظران اجازه می‌دهد رفتارهای غیرمنتظره را زودتر شناسایی کنند و پیش از تشدید خطر، مداخله نمایند.
- ثبت جزئیات تصمیم‌گیری‌ها و خروجی‌های مدل‌های هوش مصنوعی
- امکان فعال‌سازی ترمز اضطراری در هر مرحله از اجرا
- پایش مستمر رفتار مدل در محیط‌های واقعی و آزمایشی
- ایجاد شفافیت در داده‌های آموزش و فرآیند یادگیری
پیام نادلا به سیاست‌گذاران و شرکت‌های فناوری
مدیرعامل مایکروسافت معتقد است که تنها راه مقابله با ریسک‌های هوش مصنوعی، ترکیب نوآوری با نظارت مؤثر است. او از نهادهای قانونی خواسته است که استانداردهای شفاف و الزام‌آوری برای مسئولیت‌پذیری توسعه‌دهندگان تعریف کنند تا سرعت پیشرفت فناوری، از ایمنی و کنترل عمومی فاصله نگیرد. این دیدگاه نشان‌دهنده تغییری جدی در سیاست‌های غول‌های فناوری نسبت به حکمرانی هوش مصنوعی است.
پرسش‌های پرتکرار
آیا مدل‌های هوش مصنوعی واقعاً از کنترل خارج شده‌اند؟
ساتیا نادلا معتقد است برای مدیریت ریسک، باید فرض کنیم همه مدل‌های هوش مصنوعی امکان خروج از کنترل دارند؛ حتی اگر در حال حاضر چنین اتفاقی نیفتاده باشد. این رویکرد باعث می‌شود تدابیر پیشگیرانه جدی‌تری در طراحی و اجرا در نظر گرفته شود.
مهم‌ترین راهکار نادلا برای مهار هوش مصنوعی چیست؟
مهم‌ترین راهکارهای پیشنهادی او شامل ثبت کامل اقدامات مدل‌ها، ایجاد شفافیت در فرآیند یادگیری و فراهم‌کردن امکان توقف اضطراری در هر مرحله است تا در صورت مشاهده رفتار غیرمنتظره، مداخله فوری ممکن باشد.
