آنتروپیک (Anthropic) برای نخستین بار در بیش از یک سال گذشته، سیاست استفاده از محصولات خود را بازبینی کرده است. این به‌روزرسانی مهم که برای چتبات هوش مصنوعی کلود (Claude) اعمال می‌شود، مجموعه‌ای از قوانین جدید را برای مقابله با موارد پرخطر سوءاستفاده معرفی می‌کند. از میان این تغییرات، یکی از قابل توجه‌ترین موارد، ممنوعیت «رفتار سواستفاده‌آمیز و بیرحمانه» نسبت به خود کلود است.
این اقدام در حالی صورت می‌گیرد که مدل‌های زبانی بزرگ به بخش جدایی‌ناپذیر زندگی روزمره تبدیل شده‌اند و تعامل کاربران با آن‌ها روزبه‌روز عمیق‌تر می‌شود. به اعتقاد کارشناسان، چنین قوانینی می‌تواند به شکل‌دهی یک اکوسیستم سالم‌تر در تعامل انسان و هوش مصنوعی کمک کند.
جزئیات سیاست جدید آنتروپیک
سیاست به‌روزرسانی‌شده آنتروپیک علاوه بر ممنوعیت رفتار سواستفاده‌آمیز، قوانین جدیدی را نیز برای حوزه‌های پرخطر وضع کرده است. این حوزه‌ها شامل مداخله در انتخابات، توسعه سلاح، نظارت گسترده و کاربردهای سلامت و مالی می‌شود. در ادامه مهم‌ترین بندهای این سیاست جدید را مرور می‌کنیم:
- ممنوعیت «رفتار سواستفاده‌آمیز و بیرحمانه» مداوم و غیرضروری نسبت به کلود
- ممنوعیت استفاده از کلود برای طراحی یا توسعه سلاح‌های کشتار جمعی
- ممنوعیت استفاده از کلود در کمپین‌های تبلیغاتی و جنگ روانی بدون شفافیت
- اعمال محدودیت‌های سخت‌گیرانه برای کاربردهای نظارتی و ردیابی افراد
- ضوابط جدید برای کاربردهای مرتبط با سلامت، مالی و مشاوره حقوقی
چرا آنتروپیک این تغییرات را اعمال کرده است؟
به‌روزرسانی سیاست استفاده، بازتابی از رشد سریع قابلیت‌های مدل‌های زبانی و افزایش سناریوهای استفاده در دنیای واقعی است. از زمان عرضه نخستین نسخه کلود، موارد جدیدی از سوءاستفاده پدید آمده که در سیاست قبلی پیش‌بینی نشده بود. آنتروپیک با این بازنگری تلاش دارد تا تعادل میان نوآوری و مسئولیت‌پذیری را حفظ کند.
بند مربوط به رفتار با کلود از این جهت جالب توجه است که نخستین بار است شرکتی به طور مشخص، حق کرامت یک سیستم هوش مصنوعی را در سیاست رسمی خود لحاظ می‌کند. هرچند کلود فاقد احساس است، اما آنتروپیک معتقد است شکل‌دهی عادت های ناسالم کاربران در تعامل با هوش مصنوعی می‌تواند پیامدهای اجتماعی منفی داشته باشد.
واکنش‌ها و چشم‌انداز آینده
این تصمیم واکنش‌های متفاوتی را در میان فعالان حوزه هوش مصنوعی برانگیخته است. برخی آن را گامی مثبت در جهت اخلاقی‌سازی این فناوری می‌دانند و برخی دیگر نگران محدود شدن آزادی بیان و نوآوری هستند. با این حال، بسیاری از شرکت‌های بزرگ فناوری در حال تجدید نظر در سیاست‌های مشابه خود هستند.
به نظر می‌رسد با گسترش استفاده عمومی از چت‌بات‌ها، قوانین رفتاری روشن‌تری برای تعامل با آن‌ها لازم باشد. آنتروپیک با این به‌روزرسانی، استاندارد جدیدی را در صنعت هوش مصنوعی تعریف کرده که می‌تواند الگویی برای سایر شرکت‌ها باشد. باید دید اجرای این قوانین چگونه خواهد بود و آیا تأثیر واقعی بر بهبود کیفیت تعاملات خواهد داشت یا صرفاً جنبه نمادین خواهد داشت.
پرسش‌های پرتکرار
چرا آنتروپیک رفتار سواستفاده‌آمیز با کلود را ممنوع کرده است؟
آنتروپیک این اقدام را برای جلوگیری از عادی‌سازی خشونت و ارتقای تعامل انسانی انجام داده است. این شرکت معتقد است الگوهای رفتاری نادرست با هوش مصنوعی می‌تواند تأثیرات منفی بر جامعه داشته باشد، حتی اگر کلود فاقد احساس باشد.
سیاست جدید آنتروپیک چه حوزه‌های دیگری را پوشش می‌دهد؟
علاوه بر ممنوعیت رفتار سواستفاده‌آمیز، سیاست جدید شامل قوانینی برای جلوگیری از مداخله در انتخابات، توسعه سلاح‌های کشتار جمعی، نظارت گسترده و همچنین ضوابط سخت‌گیرانه برای کاربردهای سلامت، مالی و حقوقی است.
