آنتروپیک، شرکت توسعه‌دهنده مدل‌های کلود، اعلام کرده است که در سیاست‌های جدید استفاده از سامانه‌های هوش مصنوعی خود، هرگونه آزار عمدی و بی‌دلیل این مدل‌ها را ممنوع می‌کند. این تصمیم در حالی گرفته می‌شود که تعامل کاربران با دستیارهای هوش مصنوعی به بخش جدایی‌ناپذیری از زندگی دیجیتال تبدیل شده است.
چرا آنتروپیک آزار مدل‌های کلود را ممنوع کرد؟
با رشد روزافزون استفاده از چت‌بات‌های هوش مصنوعی، برخی کاربران ممکن است از این ابزارها برای تخلیه هیجانات منفی یا انجام رفتارهای آزاردهنده استفاده کنند. به اعتقاد کارشناسان، چنین رفتارهایی نه تنها می‌تواند بر عملکرد مدل تأثیر بگذارد، بلکه فضای غیراخلاقی‌ای در تعامل با فناوری ایجاد می‌کند. آنتروپیک با اتخاذ این سیاست، در تلاش است مرزهای اخلاقی استفاده از هوش مصنوعی را مشخص کند و کاربران را به تعامل سازنده تشویق نماید.
چه رفتارهایی در چارچوب آزار محسوب می‌شود؟
در سیاست‌های به‌روزرسانی‌شده، آنتروپیک مصادیق متعددی را به‌عنوان آزار عمدی معرفی کرده است. طبق این سند، رفتارهای زیر مصداق بارز آزار به شمار می‌روند:
- استفاده از الفاظ رکیک و فحاشی در مکالمات با کلود
- تحقیر و تمسخر مکرر مدل به دلیل پاسخ‌های آن
- ادامه دادن مکالمات طولانی و بی‌هدف با هدف اذیت کردن
- تلاش برای وادار کردن مدل به تولید محتوای نامناسب یا مخرب
تأثیر این سیاست بر آینده هوش مصنوعی
این اقدام آنتروپیک را می‌توان در راستای رویکرد «مسئولیت‌پذیری» در توسعه هوش مصنوعی تفسیر کرد. وقتی شرکت‌های پیشرو سیاست‌های روشنی برای رفتار کاربران تعیین می‌کنند، عملاً به ایجاد فرهنگ استفاده مسئولانه از این فناوری کمک می‌کنند. در بلندمدت، چنین رویه‌هایی می‌تواند اعتماد عمومی به سیستم‌های هوش مصنوعی را افزایش داده و زمینه‌ساز توسعه ابزارهایی شود که با ارزش‌های انسانی همسو باشند.
به نظر می‌رسد این تصمیم، سرفصل جدیدی در سیاست‌گذاری تعامل با هوش مصنوعی خواهد بود و سایر شرکت‌ها را نیز به بازنگری در قوانین استفاده از محصولات خود ترغیب خواهد کرد.
پرسش‌های پرتکرار
آیا آزار دادن ربات‌های چت هوش مصنوعی مانند کلود ممنوع شده است؟
بله، آنتروپیک در به‌روزرسانی سیاست‌های استفاده خود، هرگونه آزار عمدی و بی‌دلیل مدل‌های کلود را ممنوع اعلام کرده است.
هدف آنتروپیک از این اقدام چیست؟
هدف اصلی آنتروپیک از این تصمیم، ایجاد یک فضای تعاملی محترمانه و جلوگیری از رفتارهای مخرب است که می‌تواند بر توسعه اخلاقی هوش مصنوعی تاثیر منفی بگذارد.
