در دنیای متحرک فناوری، ورود هوش مصنوعی به صنایع مختلف از جمله حقوق را变革 داده است. با این حال، یک نظرسنجی تازه از قاضی‌های کره جنوبی نور می‌افکنی روی یک چالش نگران‌کننده: شیوع اسناد حقوقی جعلی که توسط الگوریتم‌های هوش مصنوعی تولید شده‌اند. این پدیده که به «هالوسیناسیون» یا توهم مدل‌های زبانی بزرگ (LLM) شناخته می‌شود، می‌تواند پایه و اساس اطمینان سیستم قضایی را به خطر بیندازد.
یافته‌های شگفت‌انگیز نظرسنجی
بر اساس گزارش‌های رسیده، حجم قابل‌توجهی از قاضی‌ها و وکلای کره جنوبی گزارش داده‌اند که حداقل یک بار با ارجاعات به آرای قضایی یا مواد قانونی که اصلاً وجود ندارند مواجه شده‌اند. این اسناد جعلی، اغلب با لحنی کاملاً حرفه‌ای و با ساختاری منطقی ارائه می‌شوند که تشخیص کلاهبرداری را برای انسان دشوار می‌سازد. این وضعیت نشان می‌دهد که هشدارهای قبلی درباره خطرات استفاده بی‌دقت از ابزارهای هوش مصنوعی در صحنه‌های حساس حقوقی، بدیهی نیستند.
چرا هوش مصنوعی ریشه‌کنی‌های حقوقی ساخت؟
مدل‌های زبانی بزرگ برای پیش‌بینی کلمات بعدی بر اساس نقاط داده آموزشی طراحی شده‌اند، نه برای «دانستن» حقیقت. وقتی یک کاربر از این مدل‌ها می‌خواهد که مبنای یک استدلال حقوقی را بیابد، مدل ممکن است به جای شناخت واقعیت، یک الگو متقاعدکننده اما کذب بسازد. این پدیده به‌ویژه در حوزه‌هایی که داده‌های آموزشی کم‌تر یا پیچیده‌تر هستند، تشدید می‌شود. از آنجا که قاضی‌ها و وکلا بارها روی اعتبار منابع استنادی تکیه می‌کنند، ورود چنین اطلاعات غلطی می‌تواند عواقب فاجعه‌باری برای عدالت داشته باشد.
- کاهش زمان تحقیق اولیه: وکلا ممکن است به دلیل تکیه بر سرعت خروجی هوش مصنوعی، از راستی‌آزمایی دقت منابع صرف‌نظر کنند.
- گسترش خطا در چارچوب‌های قضایی: پخش شدن اسناد جعلی در لابه‌لای پرونده‌ها می‌تواند به اخلال در فرآیند تصمیم‌گیری منجر شود.
- ضرورت بازآموزی و پیکربندی مجدد: نیاز به اصلاح پروتکل‌های کاری و آموزش‌های تخصصی برای تشخیص تصادفی خروجی‌های هوش مصنوعی احراز شده است.
راهکارها برای مقابله با توهم‌های الگوریتمی
برای مواجهه با این بحران، سیستم‌های قضایی موظف‌اند از وابسته‌سازی کورکورانه به فناوری‌های نوظهور پرهیز کنند. استفاده از ابزارهای اعتبارسنجی مستقل برای راستی‌آزمایی هرگونه ارجاع قانونی یا قضایی پیشنهاد می‌شود. همچنین، توسعه الگوریتم‌های هوش مصنوعی که قابلیت ردیابی منابع و شفاف‌سازی منبع‌یابی داشته باشند، می‌تواند ریسک تولید اطلاعات غلط را به حداقل برساند. همکاری بین‌المللی برای تعیین استانداردهای اخلاقی و فنی استفاده از هوش مصنوعی در امور قضایی نیز یک ضرورت روزافزون به نظر می‌رسد.
پرسش‌های پرتکرار
چرا مدل‌های هوش مصنوعی گاهی آرای قضایی جعلی تولید می‌کنند؟
مدل‌های زبانی بزرگ بر اساس الگوهای语言文字ی عمل می‌کنند نه حقایق. اگر در داده‌های آموزشی با الگویی مواجه شوند که شبیه به یک پیشینه حقوقی است، ممکن است آن را حتی اگر وجود خارجی ندارد، بازسازی کنند.
قاضی‌های کره جنوبی چگونه می‌توانند از این خطرات جلوگیری کنند؟
استفاده از ابزارهای مستقل برای راستی‌آزمایی استنادات، بازآموزی تیم‌ها درباره محدودیت‌های هوش مصنوعی، و اجبار به ارجاع به مواد قانونی اصل از طریق پایگاه‌های داده قابل اعتماد، از کلیدی‌ترین راهکارها هستند.
