شرکت آنتروپیک (Anthropic)، سازنده دستیار هوش مصنوعی کلود، به‌تازگی گامی غیرمنتظره در حوزه سیاست‌گذاری برداشته است. بر اساس گزارش پولیتیکو، نمایندگان این شرکت به‌طور محرمانه با قانون‌گذاران کنگره آمریکا دیدار کرده و پیش‌نویس لایحه‌ای برای نظارت بر ایمنی و امنیت مدل‌های مرزی هوش مصنوعی ارائه کرده‌اند.
آستانه خطر؛ چه زمانی مدل‌ها متوقف می‌شوند؟
نکته کلیدی این پیش‌نویس، تعریف معیارهای مشخص برای توقف توسعه یا استقرار مدل‌های پیشرفته است. طبق این سند، توقف مدل‌ها تنها زمانی مجاز است که احتمال مرگ بیش از ۵۰ نفر یا خسارت مالی یک میلیارد دلاری وجود داشته باشد. این آستانه کمی می‌تواند بحث‌های زیادی را درباره سخت‌گیری یا سهل‌گیری مقررات برانگیزد.
چرا آنتروپیک وارد عرصه قانون‌گذاری شده است؟
آنتروپیک همواره بر ایمنی هوش مصنوعی تأکید کرده و حتی ساختار حاکمیتی خاصی برای این موضوع طراحی کرده است. ارائه این پیش‌نویس نشان می‌دهد که این شرکت به‌دنبال تأثیرگذاری بر روند قانون‌گذاری پیش از تصویب قوانین سخت‌گیرانه‌تر است. برخی تحلیلگران معتقدند این اقدام می‌تواند الگویی برای دیگر شرکت‌های بزرگ فناوری باشد.
واکنش‌ها و پیامدهای احتمالی
هنوز واکنش رسمی کنگره یا سایر شرکت‌ها اعلام نشده است. با این حال، این گزارش نشان می‌دهد که شرکت‌های پیشرو در حوزه هوش مصنوعی در تلاش هستند تا چارچوب‌های ایمنی را پیش از تحمیل سیاست‌های بیرونی، خودشان طراحی کنند. این رویکرد هم می‌تواند شفافیت را افزایش دهد و هم نگرانی‌هایی درباره نفوذ شرکت‌ها در قوانین ایجاد کند.
در مجموع، این اقدام آنتروپیک را می‌توان بخشی از روند بلوغ صنعت هوش مصنوعی و حرکت به سمت حکمرانی مشارکتی دانست؛ هرچند جزئیات دقیق لایحه هنوز منتشر نشده است.
- ارائه پیش‌نویس قانون ایمنی هوش مصنوعی به کنگره آمریکا به‌صورت محرمانه
- تعیین آستانه مرگ ۵۰ نفر یا خسارت یک میلیارد دلاری برای توقف مدل‌ها
- گزارش پولیتیکو بر اساس منابع آگاه از دیدار نمایندگان آنتروپیک
- احتمال تأثیرگذاری بر قوانین آینده هوش مصنوعی در آمریکا
پرسش‌های پرتکرار
پیش‌نویس آنتروپیک چه معیاری برای توقف مدل‌ها تعیین کرده است؟
بر اساس گزارش پولیتیکو، توقف مدل‌ها تنها در صورت احتمال مرگ بیش از ۵۰ نفر یا خسارت یک میلیارد دلاری مجاز است.
این پیش‌نویس چگونه به کنگره ارائه شد؟
نمایندگان آنتروپیک به‌طور محرمانه با قانون‌گذاران کنگره دیدار کرده و پیش‌نویس لایحه‌ای را برای نظارت بر ایمنی مدل‌های مرزی هوش مصنوعی ارائه کردند.
