Anthropic، سازنده خانواده مدل‌های Claude، روز پنجشنبه سیاست استفاده از محصولات خود را به‌روزرسانی کرد. در این نسخه جدید، ممنوعیت‌های صریحی برای دخالت در انتخابات، توسعه نرم‌افزارهای تسلیحاتی، نظارت گسترده و همچنین سوءاستفاده کلامی مکرر از مدل وضع شده است.
این تغییر در حالی رخ می‌دهد که انتظار می‌رود استفاده از هوش مصنوعی در کمپین‌های سیاسی و زمینه‌های حساس افزایش یابد. سیاست جدید تلاش می‌کند تا مرزهای استفاده مسئولانه از مدل‌های زبانی بزرگ را مشخص کند.
ممنوعیت سوءاستفاده مکرر و شدید از کلود
مهم‌ترین بخش سیاست به‌روزرسانی شده، ممنوعیت «آزار کلامی طولانی‌مدت» از مدل است. این قاعده جدید، برخلاف انتقاد عادی یا ابراز نارضایتی موقت، موارد شدیدی را که کاربر به‌طور مکرر به رفتارهای آسیب‌زا و توهین‌آمیز ادامه دهد، پوشش می‌دهد.
پیش از این، از ماه اوت (مرداد/شهریور)، کلود آموزش دیده بود که گفتگوهای دارای تعاملات مضر و سوءاستفاده‌آمیز مداوم را خاتمه دهد. اکنون، این رفتار به‌طور مستقیم در خط‌مشی استفاده ممنوع اعلام شده است تا شفافیت حقوقی بیشتری برای کاربران و توسعه‌دهندگان ایجاد کند.
ممنوعیت دخالت در انتخابات و ابزارهای فریبنده
این به‌روزرسانی همچنین دامنه فعالیت‌های سیاسی را محدود می‌کند. بر اساس قوانین جدید، استفاده از مدل‌های Anthropic برای مداخله در فرآیندهای انتخاباتی یا اجرای کمپین‌های فریبکارانه با هدف فریب رأی‌دهندگان، به‌طور کامل ممنوع است.
علاوه بر این، توسعه نرم‌افزارهایی که برای نظارت غیرقانونی بر افراد یا ساخت ابزارهای تسلیحاتی استفاده می‌شوند، تحت ممنوعیت قرار گرفته‌اند. این اقدام در راستای کاهش سوءاستفاده‌های امنیتی و حقوق بشری از هوش مصنوعی ارزیابی می‌شود.
چه چیزهایی دیگر مجاز نیستند؟
- سوءاستفاده کلامی مکرر و شدید از دستیارهای مبتنی بر کلود
- دخالت در انتخابات یا تلاش برای تغییر نتایج رأی‌گیری
- اجرای کمپین‌های فریبکارانه در فضای مجازی
- توسعه یا به‌کارگیری نرم‌افزارهای تسلیحاتی
- استفاده از مدل برای نظارت گسترده و نقض حریم خصوصی
واکنش کاربران و چشم‌انداز آینده
کاربران عادی که گاهی از پاسخ‌های مدل ناراضی هستند جای نگرانی ندارند. انتقاد صریح، پیشنهاد برای بهبود و حتی بحث‌های تند بر سر کیفیت خروجی، همچنان مجاز است. اما رفتارهای تکراری که به‌عنوان آزار و اذیت مدل تلقی شوند، ممکن است منجر به اعمال محدودیت برای حساب کاربری شود.
این تصمیم Anthropic نشان‌دهنده روند رو به رشد شرکت‌های هوش مصنوعی برای تدوین سیاست‌های شفاف اخلاقی است. به نظر می‌رسد در آینده، سایر ارائه‌دهندگان مدل‌های زبانی نیز قوانین مشابهی برای پیشگیری از سوءاستفاده و حفظ سلامت تعامل انسان و ماشین وضع کنند.
پرسش‌های پرتکرار
سیاست جدید Anthropic چه مواردی را ممنوع می‌کند؟
سیاست جدید استفاده Anthropic شامل ممنوعیت سوءاستفاده کلامی مکرر و شدید از Claude، دخالت در انتخابات، کمپین‌های فریبکارانه، توسعه نرم‌افزارهای تسلیحاتی و نظارت گسترده است.
آیا انتقاد از Claude همچنان مجاز است؟
بله، انتقاد عادی، ابراز نارضایتی و پیشنهادهای سازنده برای بهبود مدل هیچ محدودیتی ندارد. ممنوعیت جدید فقط شامل رفتارهای توهین‌آمیز و آزاردهنده مکرر در موارد شدید است.
