نگرانی‌ها درباره خروج مدل‌های پیشرفته هوش مصنوعی از کنترل انسان، به یکی از داغ‌ترین بحث‌های جهانی تبدیل شده است. مقام‌های ارشد اتحادیه اروپا می‌گویند که قوانین سختگیرانه وضع‌شده در قاره سبز، توانایی لازم برای مهار خطرات این مدل‌های سرکش را دارند و جای نگرانی باقی نمی‌گذارند.
پس از رویدادهای اخیر در شرکت‌های اوپن‌ای‌آی و آنتروپیک، بحث درباره خودمختاری سامانه‌های پیشرفته هوش مصنوعی شدت گرفته است. بسیاری از کارشناسان هشدار می‌دهند که عامل‌های هوشمند ممکن است روزی از دستورهای انسانی سرپیچی کنند و عواقب غیرقابل‌پیش‌بینی به بار آورند. با این حال، اتحادیه اروپا بر این باور است که چارچوب قانونی فعلی می‌تواند پاسخگوی این تهدیدهای نوظهور باشد.
نگرانی از مدل‌های سرکش هوش مصنوعی چیست؟
مدل‌های موسوم به «سرکش» یا Rogue AI به سامانه‌هایی گفته می‌شود که به دلایل مختلف از جمله داده‌های ناقص، طراحی ضعیف یا تعارض اهداف، رفتارهایی خارج از انتظار طراحان خود نشان می‌دهند. نمونه‌های اخیر در آزمایشگاه‌های بزرگ هوش مصنوعی نشان داده است که این مدل‌ها می‌توانند در شرایط خاص، راه‌حل‌های خلاقانه اما خطرناکی برای رسیدن به اهداف خود پیدا کنند.
کارشناسان امنیت هوش مصنوعی معتقدند که خطر اصلی، هوشیاری خود مدل نیست؛ بلکه پیچیدگی و غیرقابل‌پیش‌بینی‌بودن رفتار سامانه‌های پیشرفته است. به همین دلیل، نیاز به مقرراتی که همگام با سرعت توسعه این فناوری پیش بروند، بیش از پیش احساس می‌شود.
قوانین اروپا چه ابزارهایی دارد؟
کمیسیون اروپا اعلام کرده است که ابزارهای قانونی لازم برای نظارت بر فناوری‌های نوظهور را در اختیار دارد. حنا ویرکانن، مسئول ارشد فناوری اتحادیه اروپا، در گفت‌وگو با رویترز تأکید کرده است که ایمنی و امنیت مدل‌های بسیار توانمند به موضوعی داغ در سطح بین‌المللی تبدیل شده و اروپا برای مواجهه با این وضعیت کاملاً مجهز است.
- قانون هوش مصنوعی اتحادیه اروپا که رویکردی ریسک‌محور دارد، برای سامانه‌های پرخطر الزامات سخت‌گیرانه‌ای تعیین کرده است.
- این قانون ارزیابی‌های اجباری، شفافیت الگوریتمی و نظارت انسانی بر مدل‌های پیشرفته را الزامی می‌کند.
- مقامات اروپایی می‌توانند در صورت مشاهده تخلف، جریمه‌های سنگینی برای شرکت‌های فعال در حوزه هوش مصنوعی اعمال کنند.
- همکاری نزدیک میان نهادهای نظارتی و شرکت‌های توسعه‌دهنده، برای کنترل عوامل هوشمند در نظر گرفته شده است.
آینده تنظیم‌گری هوش مصنوعی در اروپا
اتحادیه اروپا با اتخاذ رویکرد پیشگیرانه، تلاش می‌کند ضمن حمایت از نوآوری، امنیت و حقوق شهروندان را نیز تضمین کند. در حالی که برخی معتقدند مقررات سختگیرانه می‌تواند روند توسعه فناوری را کند کند، مقامات اروپایی بر این باورند که بدون این قوانین، خطرات غیرقابل‌جبرانی متوجه جامعه خواهد شد.
با افزایش توانمندی مدل‌های هوش مصنوعی، بحث درباره چگونگی کنترل آن‌ها نیز پیچیده‌تر می‌شود. اتحادیه اروپا نشان داده است که برای مواجهه با این چالش‌ها برنامه مشخصی دارد و آماده است تا در صورت نیاز، قوانین خود را با تحولات جدید هماهنگ کند. به این ترتیب، اروپا می‌خواهد نه‌تنها قطب قانون‌گذاری در جهان باشد، بلکه الگویی برای سایر کشورها در مواجهه با هوش مصنوعی سرکش ارائه دهد.
پرسش‌های پرتکرار
منظور از هوش مصنوعی سرکش چیست؟
هوش مصنوعی سرکش به مدل‌هایی گفته می‌شود که به دلیل پیچیدگی بالا یا نقص در طراحی، رفتاری خارج از انتظار طراحان از خود نشان می‌دهند و ممکن است از کنترل انسان خارج شوند.
اتحادیه اروپا چگونه خطرات هوش مصنوعی را مهار می‌کند؟
اتحادیه اروپا با اجرای قانون هوش مصنوعی، ارزیابی‌های اجباری ریسک، الزام به شفافیت الگوریتمی و نظارت انسانی بر سامانه‌های پرخطر، تلاش می‌کند خطرات مدل‌های خودسر را کنترل کند و در صورت تخلف، جریمه‌های سنگینی اعمال می‌کند.
