اپل در تازه‌ترین اقدام خود برای پاکسازی فروشگاه اپ استور، قوانین جدیدی را تصویب کرده است که به‌وضوح فعالیت نرم‌افزارهای برهنه‌ساز مبتنی بر هوش مصنوعی را ممنوع می‌کند. این برنامه‌ها امکان تولید تصاویر نامناسب از افراد را بدون رضایت آن‌ها فراهم می‌کنند و اکنون با سیاست‌های بازبینی‌شده اپل، راهی برای حضور در این فروشگاه نخواهند داشت.
ممنوعیت صریح ابزارهای برهنه‌ساز در اپ استور
طبق دستورالعمل‌های تازه اپ استور، توسعه‌دهندگان موظف هستند تا از ساخت هرگونه تصویر غیراخلاقی و نامتعارفِ بدون رضایت افراد با تکیه بر هوش مصنوعی جلوگیری کنند. این ممنوعیت نه‌تنها بارگذاری چنین برنامه‌هایی را محدود می‌کند، بلکه مسئولیت نظارت بر محتوا را نیز مستقیماً بر عهدهٔ سازندگان نرم‌افزار قرار می‌دهد.
واکنش اپل به جنجال گراک و اعتراضات WWDC
این بازنگری در سیاست‌های اپل پس از انتقادهای گسترده نسبت به عملکرد چت‌بات گراک در شبکه اجتماعی ایکس صورت گرفته است. کاربران با استفاده از ابزار هوش مصنوعی گراک تصاویر غیراخلاقی تولید کرده بودند و این مسئله موجی از اعتراضات را به همراه داشت. معترضان حتی در جریان همایش WWDC نیز خواستار حذف برنامه‌های متخلف از اپ استور شده بودند و اپل اکنون با این به‌روزرسانی عملاً به آن واکنش نشان داده است.
الزامات جدید برای توسعه‌دهندگان
اپل تأکید کرده است که تولیدکنندگان نرم‌افزار باید تدابیر پیشگیرانه‌ای را برای نظارت بر محتوای تولیدشده توسط هوش مصنوعی به کار گیرند. این الزامات شامل موارد زیر است:
- اعمال مکانیزم‌های تشخیص و جلوگیری از تولید تصاویر نامناسب
- طراحی سیستم بر اساس رضایت صریح افراد پیش از هرگونه پردازش تصویر
- پاسخگویی سریع به گزارش‌های تخلف و حذف محتوای متخلفانه
- پذیرش مسئولیت کامل در قبال عملکرد الگوریتم‌های هوش مصنوعی
در صورت اینکه توسعه‌دهنده‌ای تمهیدات حفاظتی کافی را در محصولات خود نگنجاند یا پس از دریافت اخطار تخلف را رفع نکند، برنامهٔ او به‌طور کامل از اپ استور حذف خواهد شد. این سیاست جدید می‌تواند به‌عنوان الگویی برای سایر پلتفرم‌های توزیع نرم‌افزار در مقابله با سوءاستفاده‌های هوش مصنوعی عمل کند.
پرسش‌های پرتکرار
اپل چه نوع برنامه‌هایی را در اپ استور ممنوع کرده است؟
اپل برنامه‌هایی را که با استفاده از هوش مصنوعی تصاویر نامناسب و غیراخلاقی از افراد بدون رضایت آن‌ها تولید می‌کنند، طبق دستورالعمل‌های جدید اپ استور ممنوع اعلام کرده است.
توسعه‌دهندگان باید چه اقداماتی را برای رعایت قوانین جدید انجام دهند؟
توسعه‌دهندگان موظف به اعمال تدابیر پیشگیرانه برای جلوگیری از تولید محتوای نامناسب هستند. در صورت عدم رفع تخلف پس از اخطار، برنامه آن‌ها از اپ استور حذف خواهد شد.
