گزارش‌های تازه نشان می‌دهد که ناظر ایمنی آنلاین استرالیا با استناد به رشد چشمگیر شکایت‌های کاربران، از نهادهای قانون‌گذار خواسته است تا برای مهار خطرات هوش مصنوعی، الزامات ایمنی مشخصی را تدوین کنند. این درخواست در حالی مطرح می‌شود که نگرانی‌ها درباره تولید محتوای گمراه‌کننده، نقض حریم خصوصی و تبعیض الگوریتمی به اوج خود رسیده است.
وضعیت هشداردهنده شکایت‌ها
بر اساس آمار منتشرشده از سوی این نهاد نظارتی، تعداد شکایت‌های مرتبط با سامانه‌های هوش مصنوعی در سال گذشته به طور قابل توجهی افزایش یافته است. کاربران مواردی مانند خروجی‌های نژادپرستانه، اطلاعات نادرست پزشکی و تولید تصاویر جعلی را گزارش کرده‌اند. این روند نشان می‌دهد که ابزارهای هوش مصنوعی بدون نظارت کافی در اختیار عموم قرار گرفته‌اند و شرکت‌های توسعه‌دهنده مسئولیت‌پذیری لازم را ندارند.
خواسته‌های ناظر ایمنی آنلاین
ناظر ایمنی آنلاین استرالیا در پاسخ به این وضعیت، فهرستی از الزامات پیشنهادی را ارائه کرده است که می‌تواند پایه‌گذار قوانین جدید در این کشور باشد. مهم‌ترین محورهای این خواسته‌ها عبارتند از:
- ارزیابی اجباری ریسک قبل از عرضه عمومی هر مدل هوش مصنوعی
- ایجاد مکانیسم‌های شفاف برای گزارش‌دهی خطاها و سوگیری‌ها
- مسئولیت حقوقی مشخص برای شرکت‌های توسعه‌دهنده در قبال آسیب‌های ناشی از الگوریتم‌ها
- الزام به ارائه مستندات فنی و توضیح‌پذیری تصمیم‌های خودکار
- حمایت از کاربران آسیب‌پذیر در برابر محتوای تولیدشده توسط هوش مصنوعی
چالش‌های پیش روی صنعت هوش مصنوعی
در حالی که شرکت‌های بزرگ فناوری بر مزایای اقتصادی و اجتماعی هوش مصنوعی تأکید دارند، کارشناسان هشدار می‌دهند که خودتنظیم‌گری شکست خورده است. استرالیا با این اقدام، به جمع کشورهایی می‌پیوندد که به دنبال چارچوب‌های الزام‌آور برای کنترل این فناوری هستند. اما اجرای چنین قوانینی با موانعی مانند تعریف دقیق خطر، نحوه ممیزی الگوریتم‌ها و هماهنگی بین‌المللی مواجه است.
تحلیلگران معتقدند که این فشارها می‌تواند به تغییر رفتار توسعه‌دهندگان بزرگ هوش مصنوعی منجر شود و آنها را وادار کند که پیش از انتشار محصولات، تست‌های ایمنی جامع‌تری انجام دهند. در غیر این صورت، اعتماد عمومی به هوش مصنوعی روزبه‌روز کاهش خواهد یافت و نوآوری نیز در بلندمدت آسیب خواهد دید.
پرسش‌های پرتکرار
چرا شکایت‌های مربوط به هوش مصنوعی در استرالیا افزایش یافته است؟
افزایش استفاده عمومی از ابزارهای هوش مصنوعی و نبود قوانین شفاف، باعث شده مواردی مانند محتوای گمراه‌کننده، تبعیض الگوریتمی و نقض حریم خصوصی بیشتر گزارش شود.
ناظر ایمنی آنلاین استرالیا چه الزاماتی را پیشنهاد کرده است؟
ارزیابی اجباری ریسک پیش از عرضه، شفافیت در توضیح‌پذیری الگوریتم‌ها، مسئولیت حقوقی شرکت‌ها و مکانیسم گزارش‌دهی خطاها از مهم‌ترین الزامات پیشنهادی است.
