شرکت هوش مصنوعی آنتروپیک، سازنده دستیار هوشمند کلود، در تازه‌ترین گزارش خود خطاب به سرمایه‌گذاران، فهرستی از ریسک‌های جدی را منتشر کرده است که در صدر آن‌ها، خطرات ناشی از «هوش مصنوعی مهارنشدنی» قرار دارد. این هشدار در حالی مطرح می‌شود که رقابت برای توسعه مدل‌های پیشرفته‌تر هوش مصنوعی در جهان شدت گرفته و نگرانی‌ها درباره آینده این فناوری روزبه‌روز بیشتر می‌شود.
هشدار آنتروپیک درباره هوش مصنوعی مهارنشدنی
آنتروپیک در این گزارش تاکید کرده که برخلاف تصور رایج، تهدیدهای هوش مصنوعی فقط به مشاغل یا حریم خصوصی محدود نمی‌شود؛ بلکه نمونه‌هایی از «هوش مصنوعی مهارنشدنی» می‌تواند منجر به پیامدهای فاجعه‌باری شود که کنترل آن از توان انسان خارج است. این شرکت که به‌عنوان یکی از بازیگران اصلی حوزه ایمنی هوش مصنوعی شناخته می‌شود، مدعی است که حتی با وجود پروتکل‌های ایمنی پیشرفته، امکان وقوع خطاها یا رفتارهای غیرمنتظره در سیستم‌های فوق‌هوشمند وجود دارد.
ریسک‌های اصلی از نگاه آنتروپیک
در گزارش منتشرشده از سوی آنتروپیک، چند دسته ریسک به‌طور مشخص برای آگاهی سرمایه‌گذاران برجسته شده است که عبارتند از:
- خطر از دست دادن کنترل بر مدل‌های هوش مصنوعی پیشرفته و ایجاد رفتارهای غیرقابل پیش‌بینی
- تشدید نابرابری‌های اقتصادی و اجتماعی در نتیجه اتوماسیون گسترده و اخراج نیروی کار انسانی
- افزایش احتمال سوءاستفاده جنایی، حملات سایبری و حملات بیولوژیک با کمک هوش مصنوعی
- ریسک‌های حقوقی و قانونی ناشی از تصمیم‌گیری‌های خودمختار سیستم‌های هوشمند
- وابستگی بیش از حد زیرساخت‌های حیاتی به سیستم‌های هوش مصنوعی که می‌تواند آسیب‌پذیری ایجاد کند
واکنش‌ها و پیامدها برای صنعت هوش مصنوعی
این هشدار صریح آنتروپیک در حالی منتشر می‌شود که بسیاری از شرکت‌های بزرگ فناوری مانند گوگل، متا و اوپن‌ای‌آی نیز در تلاش‌اند تا ضمن توسعه قابلیت‌های جدید، چارچوب‌های مسئولیت‌پذیری را در محصولات خود لحاظ کنند. به گفته تحلیلگران، چنین افشاسازی‌هایی علاوه بر شفاف‌سازی ریسک‌ها، نشان‌دهنده بلوغ صنعت هوش مصنوعی برای ورود به مرحله‌ای جدید از تنظیم‌گری و پاسخگویی شرکتی است.
سرمایه‌گذاران نیز به‌تدریج متوجه می‌شوند که پرتفوی آن‌ها در حوزه هوش مصنوعی با نوسان‌های جدی مواجه خواهد بود؛ به‌ویژه اگر بحران‌های پیش‌بینی‌شده در گزارش‌هایی از این دست تحقق یابد. به همین دلیل، تحلیلگران مالی توصیه می‌کنند که ارزیابی ریسک‌های فنی و اخلاقی، بخش جدایی‌ناپذیر هر تصمیم سرمایه‌گذاری در پروژه‌های هوش مصنوعی باشد.
پرسش‌های پرتکرار
آنتروپیک چه هشداری به سرمایه‌گذاران داده است؟
آنتروپیک در گزارش ریسک خود به سرمایه‌گذاران هشدار داده که هوش مصنوعی مهارنشدنی می‌تواند آسیب‌های جدی و غیرقابل کنترلی ایجاد کند، از جمله رفتارهای غیرقابل پیش‌بینی، سوءاستفاده‌های سایبری و زیستی، و تشدید نابرابری‌های اقتصادی.
چرا هوش مصنوعی مهارنشدنی برای سرمایه‌گذاران خطرناک است؟
چنین فناوری‌هایی می‌توانند منجر به بحران‌های اجتماعی و قانونی شوند که ارزش سرمایه‌گذاری را به شدت کاهش دهد؛ علاوه بر آن، وابستگی زیرساخت‌های حیاتی به این سیستم‌ها می‌تواند آسیب‌پذیری‌های زنجیره‌ای ایجاد کند.
