در دنیای پشتیبانی مشتریان، دستیارهای هوش مصنوعی به ابزاری محبوب تبدیل شده‌اند؛ اما تازه‌ترین گزارش از شرکت Instinct نشان می‌دهد که این فناوری همچنان می‌تواند با شکست‌های عجیبی مواجه شود. یک دستیار هوش مصنوعی در واتساپ، در پاسخ به کاربران، دچار خطا شد و به‌جای ارائه راه‌حل، مشکل را به صورتحساب پرداخت ربط داد.
کاربران چه چیزی دیدند؟
طبق اخبار منتشرشده، چندین کاربر در تماس با حساب واتساپ Instinct با پیام‌های غیرمنتظره‌ای روبه‌رو شدند. دستیار هوش مصنوعی به‌جای ارسال پاسخ‌های مفید، به بهانه‌های مربوط به پرداخت و بدهی اشاره کرده بود. این رفتار نه‌تنها مشکل کاربر را حل نکرد، بلکه باعث سردرگمی و نارضایتی بیشتر شد.
به نظر می‌رسد ریشه این مشکل به عدم تطابق بین سیستم پرداخت و سرویس پیام‌رسان مربوط است. مدل زبانی که وظیفه پاسخ‌گویی را بر عهده دارد، به‌دلیل خطا در تشخیص وضعیت حساب، به یک پیام خطای داخلی دسترسی پیدا کرده و آن را به‌عنوان جواب به کاربر ارسال کرده است.
چرا این اتفاق مهم است؟
این رویداد نشان می‌دهد که حتی پیشرفته‌ترین سیستم‌های هوش مصنوعی نیز در شرایط واقعی می‌توانند رفتاری غیرمنتظره داشته باشند. کاربران انتظار دارند که ابزارهای هوشمند، تجربه‌ای روان و بدون خطا ارائه دهند؛ اما شکست‌هایی از این دست می‌تواند اعتماد عمومی به فناوری را کاهش دهد.
- وابستگی بیش از حد به مدل‌های زبانی بدون نظارت انسانی خطرناک است.
- خطاهای سیستمی مانند مشکل پرداخت، نباید مستقیماً به کاربران نشان داده شود.
- تست کیفیت در سناریوهای واقعی، پیش از استقرار گسترده ضروری است.
- شفافیت در خطاها به جلب اعتماد کاربران کمک می‌کند.
راه‌های جلوگیری از تکرار
پیاده‌سازی یک سیستم بازخورد مناسب، اتصال هوش مصنوعی به پایگاه داده دقیق و آموزش مدل با داده‌های خطا، می‌تواند از بروز چنین مشکلاتی جلوگیری کند. همچنین وجود گزینه «انتقال به اپراتور انسانی» برای مواقعی که مدل با عدم قطعیت مواجه است، یک ضرورت به حساب می‌آید.
در نهایت، این حادثه یادآور این است که هوش مصنوعی هنوز جایگزین کاملی برای انسان نیست و در مسیر استفاده گسترده، باید نقاط ضعف آن را جدی گرفت.
پرسش‌های پرتکرار
علت اصلی خطای دستیار هوش مصنوعی در واتساپ چه بود؟
به نظر می‌رسد مدل زبانی به اطلاعات نادرست از سیستم پرداخت دسترسی داشت و به‌جای پاسخ، پیام خطای مربوط به صورتحساب را برای کاربران ارسال کرد.
این خطا چه تأثیری بر اعتماد کاربران داشت؟
این اتفاق نشان داد که چت‌بات‌های هوش مصنوعی در صورت عدم طراحی مناسب، می‌توانند تجربه بدی ایجاد کنند و اعتماد کاربران به برند را کاهش دهند.
