با نزدیک شدن به فصل انتخابات، نگرانی‌ها درباره تأثیر دیپفیک بر روند دموکراتیک افزایش یافته است. در این میان، OpenAI با افزودن قابلیت‌های جدید به ChatGPT تلاش کرده است تا جلوی سوءاستفاده‌های انتخاباتی را بگیرد. اما بررسی‌ها نشان می‌دهد که این اقدامات هرچند نوآورانه هستند، هنوز با چالش‌های جدی روبه‌رو هستند.
دیپفیک؛ تهدیدی که انتخابات را متزلزل می‌کند
فناوری دیپفیک به کاربران اجازه می‌دهد ویدیوها و صداهای جعلی بسازند که تشخیص آن‌ها از نمونه‌های واقعی تقریباً غیرممکن است. در دوران انتخابات، این ابزارها می‌توانند برای انتشار اطلاعات نادرست درباره نامزدها یا القای تقلب در فرآیند رأی‌گیری استفاده شوند. به همین دلیل، شرکت‌های بزرگ فناوری تلاش می‌کنند راه‌حل‌هایی برای شناسایی و مسدودسازی چنین محتوایی ارائه دهند.
اقدامات جدید ChatGPT برای مقابله با دیپفیک
به گزارش گیزمودو، OpenAI در جدیدترین به‌روزرسانی خود، قابلیت‌هایی را به ChatGPT اضافه کرده است که هدف آن‌ها کاهش خطر دیپ‌فیک‌های انتخاباتی است. این اقدامات شامل موارد زیر می‌شود:
- افزایش دقت شناسایی محتوای تولیدشده توسط هوش مصنوعی در تصاویر و ویدیوها
- اعمال محدودیت برای پاسخ به سوالات مرتبط با انتخابات
- ارائه هشدار به کاربران هنگام احتمال وجود محتوای جعلی
- همکاری با نهادهای مستقل برای ارزیابی صحت اطلاعات
این ویژگی‌ها در نگاه اول می‌توانند مفید باشند، اما آیا واقعاً برای حفاظت از فرآیند انتخاباتی کافی هستند؟
نواقص و محدودیت‌های موجود
کارشناسان معتقدند که این اقدامات هنوز ناقص‌اند. یکی از مشکلات اصلی این است که فناوری‌های تشخیص دیپفیک همیشه دقیق نیستند و مدل‌های جدید هوش مصنوعی می‌توانند از این سیستم‌ها عبور کنند. علاوه بر این، دامنه اعمال محدودیت‌ها به نسخه پولی ChatGPT محدود شده و کاربران نسخه رایگان ممکن است همچنان در معرض محتوای مضر باشند.
همچنین، برخی معتقدند OpenAI در اجرای این سیاست‌ها با شفافیت کافی عمل نکرده است و معیارهای دقیقی برای ارزیابی موفقیت این اقدامات ارائه نداده است. در نتیجه، اگرچه گام‌های برداشته شده مثبت هستند، اما نمیتوانند به تنهایی از سلامت انتخابات محافظت کنند.
در مجموع، به نظر می‌رسد که برای مقابله مؤثر با دیپفیک انتخاباتی، نیاز به همکاری گسترده‌تر بین شرکت‌های فناوری، دولت‌ها و نهادهای مدنی وجود دارد. هوش مصنوعی می‌تواند ابزاری قدرتمند باشد، اما تنها در صورتی که به درستی تنظیم و نظارت شود.
پرسش‌های پرتکرار
ChatGPT چه اقداماتی برای مقابله با دیپفیک انتخاباتی انجام داده است؟
OpenAI قابلیت‌هایی مانند شناسایی محتوای تولیدشده توسط هوش مصنوعی، محدودیت در پاسخ به سوالات انتخاباتی و هشدار به کاربران را به ChatGPT اضافه کرده است.
آیا این اقدامات برای جلوگیری از دیپفیک کافی هستند؟
طبق بررسی‌ها، این اقدامات مفید اما ناقص‌اند؛ چرا که دقت تشخیص بالا نیست و محدودیت‌ها به تمام کاربران اعمال نمی‌شود.
