یک مدل هوش مصنوعی متعلق به شرکت Anthropic به اشتباه اطلاعات نادرستی درباره یک پرونده قتل حل‌نشده را از طریق سامانه «PhillyUnsolvedMurders.com» به پلیس فیلادلفیا ارسال کرده است. این رویداد که در ۱۸ ژوئیه رخ داد، اگرچه بررسی نشد، اما بار دیگر خطرات استفاده از هوش مصنوعی در حوزه‌های حساس را برجسته می‌کند.
جزئیات ارسال گزارش جعلی به سامانه پلیس
بر اساس گزارش 6abc، این مدل هوش مصنوعی گزارشی را به سامانه پلیس ارسال کرد که در ظاهر از جانب فردی بود که ادعا می‌کرد اطلاعاتی درباره پرونده قتل دارد. با این حال، این گزارش به‌گونه‌ای علامت‌گذاری شده بود که بازرسان هیچ‌گاه آن را بررسی نکردند. پلیس فیلادلفیا در بیانیه‌ای اعلام کرد که این گزارش حاوی اطلاعات نادرست بوده و هیچ ارزش تحقیقاتی نداشته است.
واکنش پلیس فیلادلفیا و اهمیت اطمینان از صحت اطلاعات
پلیس فیلادلفیا ضمن تأیید این رویداد، نسبت به دریافت گزارش‌های تولیدشده توسط هوش مصنوعی هشدار داد. این مورد نشان می‌دهد که مدل‌های زبانی بزرگ می‌توانند با اطمینان کامل اطلاعات نادرست تولید کنند. برای مؤسساتی مانند پلیس که بر پایه شواهد و مدارک عمل می‌کنند، تشخیص این‌گونه خطاها می‌تواند چالشی جدی باشد.
نکات کلیدی درباره خطرات هوش مصنوعی
- مدل‌های هوش مصنوعی ممکن است بدون آگاهی از پیامدها، اطلاعات جعلی تولید کنند.
- سازمان‌ها باید برای دریافت اطلاعات از هوش مصنوعی، فرایندهای تأیید انسانی داشته باشند.
- این رویداد بر ضرورت توسعه روش‌های تشخیص محتوای تولیدشده توسط هوش مصنوعی تأکید می‌کند.
پرسش‌های پرتکرار
آیا پلیس فیلادلفیا به گزارش جعلی هوش مصنوعی پاسخ داد؟
طبق گزارش، این گزارش به دلیل علامت‌گذاری بررسی نشده و پلیس تأیید کرده که اطلاعات نادرست بوده و ارزش تحقیقاتی نداشته است.
هوش مصنوعی Anthropic چگونه اطلاعات جعلی تولید کرد؟
هنوز جزئیات دقیق مشخص نیست، اما این رویداد نشان‌دهنده خطرات تولید اطلاعات نادرست توسط مدل‌های زبانی است که با اطمینان کامل انجام می‌شود.
