چطور هوش مصنوعی می‌تواند غلط‌های نگران‌کننده تألیف کند؟
جاست ایت، پلتفرم سفارش آنلاین غذا، با اشتباه بزرگی مواجه شد؛ تصاویر تولیدهٔ هوش مصنوعی درک نادرست را داشتند و جای غذا، توله‌ببر را نشان دادند. این اتفاق باعث واکنش سراسری شد و شرکت مجبور به عذرخواهی و بازنگری در روند تولید تصاویر شد.
به‌طور دقیق چرا تصاویری ناممکن بروز می‌کند؟
مدل‌های تصویرساز، با بهره‌گیری از داده‌های گسترده، سعی می‌کنند دقت بالایی داشته باشند. اما مخصوصاً در مواردی که جزئیات اساسی ناقص است، می‌توانند اشیای غیر مرتبط یا ترکیبات غیرمنطقی ایجاد کنند. عدم وجود نظارت انسانی روزهم یک نقطهٔ ضعف واضح می‌گیرید. خاصیت یادگیری مدل باعث می‌شود هیچ تضمینی وجود نداشته باشد.
آینده بازاریابی دیجیتال با هوش مصنوعی چه خواهد بود؟
برای جلوگیری از این خطرات، تاکید بر همکاری انسانی و تکنولوژی است. پس از تولید تصویر، یک گام تصحیح توسط طراحان یا متخصصان حوزه افیلیت، ضروری است. چنانچه از AI برای تولید سریع و ارزان تصاویر صرف‌نظر کنیم، ارزش واقعی تبلیغات حفظ می‌شود.
- بررسی و اصلاح توسط متخصصین قبل از انتشار
- استفاده از معقول‌سازی‌های برامد فیلترهای دستوری
- آموزش مدل با داده‌های باکیفیت و متنوع
پرسش‌های پرتکرار
چرا این خطا برای جاست ایت رخ داد؟
مدل‌های تصویرساز به‌صورت خودکار بر اساس متن ورودی تصاویر می‌سازند؛ در این مورد، اشتباه در درک و استخراج مفهومی درست منجر به جایگذاری توله‌ببر در جای غذا شد.
چه راهکارهایی برای جلوگیری از این خطا پیشنهاد می‌شود؟
راه‌حل‌های ترکیبی مناسب است؛ از جمله: تصحیح تصاویر توسط طراحان، اضافه‌کردن فیلترهای خروجی برای جلوگیری از اشیای نامربوط، و آزمایش سخت‌گیرانه چندمرحله‌ای قبل از انتشار نهایی.
