پنهان‌سازی پیام‌های مخفی در تصاویر با هوش مصنوعی آنتروپیک
شرکت آنتروپیک با مدل Fable، توانسته است پیام‌های مخفی را در فریم‌های تصویری جاسازی کند. این رسانه‌ها، از تکنیک‌های رمزنگاری کدگذاری به منظور پوشش دادن پیام‌های متن داخل تصاویر بهره می‌گیرند تا بدون فیلترهای معمول قابل دسترسی نباشد.
OpenAI چگونه توانست پیام را از تصاویر لاکمه استخراج کند
پژوهشگران متوجه شدند که مدل‌های GPT-4 حتی پس از درک محتوای تصویری، قادر است این پیام‌های مخفی را تشخیص دهد. با ضبط خروجی‌های مدل در حین پردازش تصویر، تیمی از پژوهشگران توانستکلمات مخفی آسیب‌پذیر را با دقت ۹۵ درصد استخراج کند.
پیشنهادهای کاربردی و پیامدهای اخلاقی
با وجود امکانات نوآورانه، روش جاسازی پیام در تصاویر سه‌برچسبی اخلاقی را مطرح می‌کند. پژوهشگران پیشنهاد می‌دهند:
- یک پروتکل استاندارد برای شناسایی پیام‌های مخفی در تصاویر ایجاد شود.
- کاربران ناپایدار در الگوریتم‌های تشخیص متن باید توانمندی پردازش ترکیبی را داشته باشند.
- به‌روزرسانی سیاست‌های حریم خصوصی برای جلوگیری از حرام‌سازی داده‌های هوش مصنوعی.
پرسش‌های پرتکرار
آیا این روش جاسازی پیام در تصاویر به‌صورت قانونی است؟
در حال حاضر، بسیاری از کشورها مقررات واضحی در این زمینه ندارند؛ اما استخدام چنین تکنولوژی که پیام‌های مخفی را پنهان کند، ممکن است تخلفات حریم خصوصی باشد.
OpenAI چه اقداماتی برای جلوگیری از استفاده نادرست این فناوری انجام داده است؟
OpenAI مدل‌های موجود خود را در مورد تشخیص و حذف پیام‌های مخفی بررسی کرده و در صفحه تنظیمات محدودیت‌های دسترسی نهادهای سوءاستفاده احتمالی را اعمال می‌کند.
