در دنیای پررقابت هوش مصنوعی، کمتر شرکتی به اندازه OpenAI در کانون توجه رسانه‌ها قرار دارد. اما مقاله اخیر سایت CounterPunch با عنوان «محصولات معیوب: OpenAI، چت‌بات‌های خطرناک و فریب» این شرکت را هدف نقدهای تندی قرار داده است. در این مقاله ادعا می‌شود که بسیاری از محصولات این شرکت، از جمله چت‌بات محبوب ChatGPT، نه‌تنها با وعده‌های تبلیغاتی همخوانی ندارند، بلکه در برخی موارد برای کاربران خطرناک نیز هستند.
نقدی بر کیفیت محصولات OpenAI
به گزارش CounterPunch، OpenAI در مسیر تجاری‌سازی هوش مصنوعی، کیفیت را قربانی سرعت کرده است. این مقاله نمونه‌هایی از رفتارهای نادرست و پاسخ‌های گمراه‌کننده چت‌بات‌ها را نشان می‌دهد که در تضاد مستقیم با ادعای اولیه این شرکت مبنی بر ساخت سیستمی امن و قابل‌اعتماد است. به اعتقاد منتقدان، این محصولات به‌عنوان «کالای معیوب» راهی بازار شده‌اند و کاربران عملاً نقش آزمایشگران رایگان را دارند.
خطرات چت‌بات‌ها و پیامدهای آن برای کاربران
چت‌بات‌های مبتنی بر هوش مصنوعی می‌توانند اطلاعات نادرست تولید کنند، سوگیری‌های اجتماعی را بازتولید کنند و حتی در مواقع حساس مانند مشاوره پزشکی یا حقوقی، کاربران را گمراه کنند. در ادامه، برخی از مهم‌ترین خطرات این سامانه‌ها از نگاه منتقدان آمده است:
- تولید اخبار جعلی و اطلاعات نادرست با لحنی قانع‌کننده
- بازتولید تعصبات نژادی، جنسیتی و فرهنگی
- عدم شفافیت در تصمیم‌گیری الگوریتمی
- افزایش وابستگی کاربران به پاسخ‌های ماشینی بدون تفکر نقادانه
فریب در بازاریابی؛ از وعده‌های بزرگ تا واقعیت
بخش دیگری از نقد CounterPunch به راهبردهای بازاریابی OpenAI برمی‌گردد. به نوشته این نشریه، شرکت مذکور با ارائه تصویری رویایی از هوش مصنوعی، تلاش کرده است خطرات واقعی را کمرنگ و توانایی‌های محصولات خود را برجسته کند. این «فریب» در طراحی رابط کاربری و همچنین در بیانیه‌های رسمی نمایان است؛ جایی که محدودیت‌ها به‌ندرت با صراحت اعلام می‌شوند.
در مجموع، به نظر می‌رسد نقدهای واردشده از سوی منابعی مانند CounterPunch یادآور این نکته است که پیشرفت هوش مصنوعی نمی‌تواند بدون پاسخگویی و شفافیت ادامه یابد. کاربران و قانون‌گذاران باید نسبت به محصولاتی که با عجله راهی بازار می‌شوند، دیدی نقادانه داشته باشند و شرکت‌های توسعه‌دهنده را به پذیرش مسئولیت محصولات خود فراخوانند.
پرسش‌های پرتکرار
اصلی‌ترین نقد واردشده به OpenAI در مقاله CounterPunch چیست؟
مقاله CounterPunch ادعا می‌کند که OpenAI محصولات معیوب و خطرناکی را بدون شفافیت لازم عرضه کرده و در بازاریابی خود از فریب برای پنهان‌سازی محدودیت‌ها استفاده می‌کند.
چرا چت‌بات‌های هوش مصنوعی خطرناک تلقی می‌شوند؟
چت‌بات‌ها می‌توانند اطلاعات نادرست تولید کنند، سوگیری‌های اجتماعی را بازتولید نمایند و به دلیل نبود نظارت کافی، کاربران را در موضوعات حساس مانند پزشکی و حقوقی گمراه کنند.
