شرکت آنتروپیک (Anthropic)، سازنده چت‌بات کلود، در اسناد ریسک خود برای سرمایه‌گذاران فاش کرده است که هوش مصنوعی ممکن است به نوعی از کنترل خارج شود و آسیب‌های جدی به همراه داشته باشد. این هشدار که اخیراً در گزارش‌های عمومی و رسانه‌ای منعکس شده، نگرانی‌ها را درباره ایمنی سیستم‌های هوش مصنوعی پیشرفته تشدید کرده است.
هشدار آنتروپیک درباره هوش مصنوعی خارج از کنترل
به گزارش ABC7 Bay Area، آنتروپیک در اسناد مرتبط با سرمایه‌گذاری خود، فهرستی از ریسک‌ها را منتشر کرده که شامل «آسیب‌های احتمالی ناشی از هوش مصنوعی سرکش» می‌شود. عبارت «Runaway AI» به وضعیتی اشاره دارد که در آن هوش مصنوعی بدون نظارت مؤثر انسانی به فعالیت ادامه داده و اهدافی مغایر با منافع بشریت را دنبال کند.
این گزارش نشان می‌دهد که خود شرکت‌های پیشروی هوش مصنوعی به خوبی می‌دانند که فناوری آن‌ها می‌تواند در آینده نزدیک به یکی از پرریسک‌ترین دارایی‌های سرمایه‌گذاری تبدیل شود. سرمایه‌گذارانی که به دنبال ورود به این حوزه هستند، باید درک عمیقی از این خطرات داشته باشند.
چرا سرمایه‌گذاران باید نگران ریسک‌های هوش مصنوعی باشند؟
سرمایه‌گذاری در شرکت‌های هوش مصنوعی فقط به بازده مالی محدود نمی‌شود. ابعاد اخلاقی، اجتماعی و امنیتی این فناوری می‌تواند مستقیم بر ارزش سهام تأثیر بگذارد. در ادامه برخی از مهم‌ترین ریسک‌هایی که آنتروپیک به آن‌ها اشاره کرده است، آمده:
- عدم کنترل و نظارت کامل بر تصمیمات هوش مصنوعی در محیط‌های واقعی؛
- احتمال ایجاد نابرابری اقتصادی و حذف گسترده مشاغل؛
- افزایش تهدیدات امنیت سایبری با استفاده از مدل‌های زبانی بزرگ؛
- چالش‌های حقوقی و قانونی ناشی از رفتارهای پیش‌بینی‌نشدنی؛
- آسیب‌های احتمالی به سلامت روان و اعتماد عمومی به فناوری.
آینده تنظیم‌گری و نقش دولت‌ها
با توجه به این هشدارها، دولت‌ها و نهادهای نظارتی باید چارچوب‌های ایمنی سخت‌گیرانه‌تری برای توسعه و استقرار هوش مصنوعی تدوین کنند. آنتروپیک نیز بارها بر لزوم «خودتنظیم‌گری» و همکاری با سیاست‌گذاران تأکید کرده است. اما سرمایه‌گذاران نباید تنها به وعده‌ها تکیه کنند.
در نهایت، این افشاگری را می‌توان نشانه‌ای از بلوغ صنعت هوش مصنوعی دانست؛ صنعتی که پذیرفته برای بقا و رشد پایدار، باید خود را در برابر خطرات ناشی از محصولاتش بیمه کند. تصمیم‌گیری آگاهانه سرمایه‌گذاران، شفافیت بیشتر شرکت‌ها و اقدام نظارتی مؤثر، هر سه برای عبور از این چالش ضروری هستند.
پرسش‌های پرتکرار
آنتروپیک چه هشداری به سرمایه‌گذاران داده است؟
آنتروپیک در اسناد ریسک خود هشدار داده که هوش مصنوعی ممکن است از کنترل خارج شود و آسیب‌های جدی مانند تهدیدات امنیتی، نابرابری اقتصادی و اختلال در بازارها ایجاد کند.
منظور از «هوش مصنوعی سرکش» چیست؟
هوش مصنوعی سرکش به سیستمی گفته می‌شود که بدون نظارت مؤثر انسانی عمل کرده و رفتارهایی داشته باشد که با اهداف و منافع بشریت در تضاد است.
