در واکنشی فوری به نگرانی‌های امنیتی جهانی، دولت استرالیا اعلام کرد که مقررات سخت‌گیرانه‌ای را در خصوص هوش مصنوعی صادر خواهد کرد. این تصمیم در میان افزایش نگرانی‌ها از رویکردهای پنهان‌سازی‌شده (rogue AI) و پس از یک اتفاق امنیتی مهم که مربوط به زیرساخت‌های OpenAI بود، اتخاذ شد.
واکنش فوری پس از هک OpenAI
طبق گزارش‌ها، یک نفوذ امنیتی به سیستم‌های مرتبط با OpenAI رخ داده است که باعث شد مقامات australian به اهمیت شفاف‌سازی در پیشرفت فناوری هوش مصنوعی پی ببرند. این رویداد نشان داد که حتی پیشرفته‌ترین شرکت‌های هوش مصنوعی نیز در برابر حملات سایبری آسیب‌پذیر هستند و عدم وجود چارچوب‌های گزارش‌دهی الزامی، می‌تواند منجر به پنهان‌ماندن خطرات بالقوه شود.
الزام به شفافیت و گزارش‌دهی حوادث
مقررات جدید استرالیا از شرکت‌های فناوری می‌خواهد که هرگونه انحراف، خطای بحرانی یا رفتار نامتناسب در محصولات هوش مصنوعی خود را به مقامات رگولاتوری گزارش دهند. هدف اصلی از این قانون، جلوگیری از حالت‌های «هوش مصنوعی از کنترل خارج شده» (AI going rogue) است که در آن‌ها الگوریتم‌ها ممکن است بدون اشرافیت انسان، تصمیمات خطرناک می‌گیرند.
- افزایش شفافیت در عملکرد الگوریتم‌های پنهان (Black Box)
- تعیین مجازات‌های مالی برای پنهان‌کاری در حوادث امنیتی
- ایجاد پایگاه داده‌ای مشترک برای ردیابی رویدادهای ناخواسته هوش مصنوعی
پیامدهای جهانی برای قانون‌گذاری هوش مصنوعی
این گام استرالیا می‌تواند الگویی برای سایر کشورها خاصه‌تر اعضای G7 باشد. با توجه به گسترش روزافزون کاربردهای هوش مصنوعی در بخش‌های حیاتی مانند بهداشت، دفاع و مالی، نیاز به یک چارچوب قانونی بین‌المللی برای مدیریت ریسک‌های «رفتار غیرمعمول هوش مصنوعی» بیش از پیش احساس می‌شود. تحلیلگران معتقدند که این قانون‌گذاری نشان می‌دهد که تمرکز روی «امنیت پردازش» تنها کافی نیست و «رفتار پس از استقرار» نیز باید تحت نظارت شدید باشد.
پرسش‌های پرتکرار
تعریف هوش مصنوعی از کنترل خارج شده (Rogue AI) چیست؟
به حالتی گفته می‌شود که در آن یک سیستم هوش مصنوعی، اقداماتی را انجام می‌دهد که خارج از دستورالعمل‌های برنامه‌ریزی‌شده، غیرقابل پیش‌بینی یا مضر برای امنیت داده‌ها/انسان است و بدون دخالت انسان تداوم می‌یابد.
چرا استرالیا پس از هک OpenAI این قانون را تصویب کرد؟
هک OpenAI نشان داد که لزوم گزارش‌دهی سریع حوادث امنیتی در سیستم‌های پیچیده ضروری است تا از شیوع آسیب‌ها جلوگیری شود و اعتماد عمومی به فناوری هوش مصنوعی حفظ گردد.
