ایالت ویرجینیای غربی آمریکا شکایتی را علیه شرکت اسنپ (مالک اسنپ‌چت) تنظیم کرده است که بر ایمنی کودکان و عملکرد چت‌بات هوش مصنوعی این پلتفرم متمرکز است. این پرونده در حالی مطرح می‌شود که نظارت‌های قانونی بر پلتفرم‌های اجتماعی و ابزارهای مبتنی بر هوش مصنوعی در ایالات متحده به‌طور قابل توجهی افزایش یافته است.
جزئیات شکایت از اسنپ
به گزارش م‌لکس، مقامات ویرجینیای غربی ادعا می‌کنند که اسنپ از طریق چت‌بات گفتگوی مبتنی بر هوش مصنوعی خود موسوم به «مای ای‌آی» (My AI) پاسخ‌هایی ارائه می‌دهد که برای سلامت روانی و جسمی کاربران نوجوان خطرناک است. این ادعاها شامل زمینه‌هایی مانند تشویق به رفتارهای پرخطر، ارائه اطلاعات نامناسب با سن کاربر و فقدان سازوکارهای مؤثر برای شناسایی و حمایت از کودکان در معرض خطر است.
چرا این پرونده اهمیت دارد؟
این شکایت تنها یک پرونده حقوقی ساده نیست؛ بلکه نشانه‌ای از تغییر رویکرد قانونگذاران به مسئولیت پلتفرم‌های دیجیتال در قبال الگوریتم‌ها و مدل‌های هوش مصنوعی است. نکات کلیدی این پرونده عبارتند از:
- ارزیابی استقلال چت‌بات‌های هوش مصنوعی در تعامل با کودکان
- الزام پلتفرم‌ها به رعایت استانداردهای ایمنی کودکان در طراحی هوش مصنوعی
- شفاف‌سازی درباره نحوه جمع‌آوری و استفاده از داده‌های کاربران خردسال
- احتمال ایجاد رویه‌ای قضایی که بر سایر ایالت‌ها و حتی کشورهای دیگر تأثیر بگذارد
واکنش اسنپ و چشم‌انداز آینده
اسنپ هنوز به‌طور رسمی به این شکایت پاسخ کامل نداده است، اما انتظار می‌رود این شرکت با اتکا به شرایط استفاده از سرویس و اقدامات ایمنی موجود از خود دفاع کند. فعالان حقوق کودکان از این شکایت استقبال کرده‌اند و معتقدند که وجود هوش مصنوعی در اپلیکیشن‌های پرطرفدار نوجوانان باید با سخت‌گیرانه‌ترین مقررات همراه شود. این پرونده می‌تواند نقطه عطفی در سیاستگذاری هوش مصنوعی و حفاظت از کودکان در فضای دیجیتال باشد.
به نظر می‌رسد آینده قوانین اینترنت و هوش مصنوعی در آمریکا بیش از پیش به سمت اعمال محدودیت‌های مشخص بر طراحی الگوریتم‌ها و چت‌بات‌ها حرکت می‌کند و پرونده‌هایی مانند این می‌توانند معیارهای جدیدی برای مسئولیت‌پذیری شرکت‌های فناوری ایجاد کنند.
پرسش‌های پرتکرار
اسنپ به چه دلیلی از سوی ویرجینیای غربی شکایت شده است؟
این ایالت ادعا کرده که چت‌بات هوش مصنوعی اسنپ به نام «مای ای‌آی» پاسخ‌هایی ایمن و مناسب برای کودکان ارائه نمی‌دهد و ممکن است آن‌ها را به رفتارهای پرخطر یا دریافت محتوای نامناسب تشویق کند.
این شکایت چه تأثیری بر آینده هوش مصنوعی در اپلیکیشن‌های اجتماعی خواهد داشت؟
این پرونده می‌تواند رویه‌ای حقوقی ایجاد کند که شرکت‌های فناوری را موظف به رعایت معیارهای سخت‌گیرانه‌تر در طراحی چت‌بات‌ها و الگوریتم‌های تعاملی به‌ویژه برای کاربران زیر ۱۸ سال کند و قانونگذاری در حوزه هوش مصنوعی را تسریع نماید.
