ادعای جنجالی: «اوپن‌ای‌آی برای جهان بد بوده است»
بحث‌ها پیرامون مسئولیت اجتماعی غول‌های فناوری در حوزه هوش مصنوعی بار دیگر داغ شده است. به گزارش شبکه خبری ان‌دی‌تی‌وی، یک پژوهشگر سابق گوگل در اظهارنظری تند مدعی شده که اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، برای جهان «بسیار بد» بوده است. این جمله کوتاه اما سنگین، واکنش‌های گسترده‌ای در میان فعالان صنعت فناوری برانگیخته و پرسشی قدیمی را زنده کرده است: آیا شرکت‌های پیشگام هوش مصنوعی سریع‌تر از توان جامعه برای جذب این فناوری حرکت می‌کنند؟
چرا اوپن‌ای‌آی در مرکز انتقادها قرار گرفته است؟
اوپن‌ای‌آی در سال ۲۰۱۵ با وعده توسعه هوش مصنوعی عام‌المنفعه و در قالب یک مؤسسه غیرانتفاعی متولد شد؛ اما عبور از آن فاز به دوره‌ای که در آن چت‌جی‌پی‌تی به پرطرفدارترین ابزار این حوزه تبدیل شد، چهره شرکت را دگرگون کرد. شراکت چند میلیارد دلاری با مایکروسافت و حرکت به سمت ساختار سودآور، از نگاه منتقدان نشانه فاصله گرفتن از مأموریت اولیه است. منتقدان می‌گویند رقابت شدید با غول‌هایی چون گوگل و متا، شرکت را به سمت عرضه سریع‌تر مدل‌ها و کوتاه کردن مسیرهای ارزیابی ریسک سوق داده است.
از نگاه کارشناسان، مهم‌ترین انتقادهایی که در چنین مباحثاتی مطرح می‌شود عبارت‌اند از:
- شتاب بی‌رویه در عرضه مدل‌های قدرتمندتر بدون ارزیابی کامل ریسک‌های اجتماعی
- گذار از ساختار غیرانتفاعی به مدل تجاری و اولویت‌یافتن منافع سرمایه‌گذاران
- خروج شماری از پژوهشگران و فعالان حوزه ایمنی هوش مصنوعی از شرکت در سال‌های گذشته
- نگرانی درباره سوءاستفاده از ابزارهای مولد، از جعل اطلاعات تا تأثیر بر بازار کار
- تمرکز قدرت هوش مصنوعی پیشرفته در دست معدودی شرکت بزرگ فناوری
نوآوری یا ایمنی؛ جدالی که پایان ندارد
در مقابل، حامیان اوپن‌ای‌آی استدلال می‌کنند که همین شرکت بود که هوش مصنوعی مولد را از آزمایشگاه‌ها بیرون آورد و در دسترس میلیون‌ها نفر قرار داد؛ از دانش‌آموز و مترجم تا برنامه‌نویس و پزشک. طرفداران این دیدگاه می‌گویند تعادل میان سرعت نوآوری و ملاحظات ایمنی، چالش همه بازیگران این صنعت است، نه فقط یک شرکت. اوپن‌ای‌آی نیز بارها اعلام کرده که ایمنی در کنار قابلیت، بخش جدایی‌ناپذیر فرایند توسعه مدل‌هایش است.
نکته قابل تأمل آنکه این انتقاد از زبان چهره‌ای مطرح شده که خود سال‌ها در دل یکی از بزرگ‌ترین شرکت‌های هوش مصنوعی جهان کار کرده است؛ موضوعی که نشان می‌دهد نقد مسیر فعلی صنعت، دیگر تنها به منتقدان بیرونی محدود نمی‌شود.
پیام این جنجال برای آینده هوش مصنوعی چیست؟
این اظهارنظر در مقطعی صورت می‌گیرد که قانون‌گذاران در اروپا، آمریکا و آسیا مشغول شکل‌دهی به چارچوب‌های نظارتی برای هوش مصنوعی هستند و فشار عمومی برای شفافیت بیشتر مدل‌ها روزبه‌روز افزایش می‌یابد. تجربه نشان داده هر انتقاد جدی از شرکت‌های بزرگ فناوری، موج تازه‌ای از بحث درباره استانداردهای ایمنی، ممیزی مستقل و مسئولیت حقوقی خروجی مدل‌ها راه می‌اندازد. به نظر می‌رسد این بار نیز چنین اتفاقی بیفتد؛ چراکه پرسش اصلی کماکان این است: چه کسی باید هزینه اشتباهات هوش مصنوعی را بپردازد؟ آنچه مسلم است، بی‌اعتنایی به این پرسش دیگر برای هیچ بازیگری در این صنعت امکان‌پذیر نیست.
پرسش‌های پرتکرار
پژوهشگر سابق گوگل درباره اوپن‌ای‌آی چه گفته است؟
او در اظهارنظری جنجالی مدعی شده که اوپن‌ای‌آی برای جهان «بسیار بد» بوده است؛ اظهارنظری که بحث‌ها درباره ایمنی و تجاری‌سازی هوش مصنوعی را دوباره داغ کرده است.
اصلی‌ترین انتقادها به اوپن‌ای‌آی چیست؟
منتقدان بر شتاب بی‌رویه در عرضه مدل‌ها، فاصله گرفتن از مأموریت غیرانتفاعی اولیه، خروج پژوهشگران ایمنی و تمرکز قدرت در دست شرکت‌های بزرگ فناوری تأکید دارند.
