در ماه‌های اخیر، اخبار متعددی درباره «دیپ‌فیک» یا محتوای تولیدشده با هوش مصنوعی منتشر شده است؛ از تصاویر جعلی از افراد مشهور گرفته تا ویدیوهای دستکاری‌شده و صداهای شبیه‌سازی‌شده. این محتواها می‌توانند برای فروش محصولات، جعل تصاویر بدون رضایت افراد، فیشینگ اطلاعات شخصی و حتی تولید اخبار جعلی برای گمراه کردن رأی‌دهندگان استفاده شوند. انتشار سریع چنین محتوایی در شبکه‌های اجتماعی می‌تواند آسیب‌های ماندگاری به همراه داشته باشد. در این مقاله به معرفی رویکردهای «واترمارکینگ» (نشانه‌گذاری) می‌پردازیم؛ تکنیکی که می‌تواند به شناسایی و مدیریت محتوای تولیدشده توسط هوش مصنوعی کمک کند.
واترمارکینگ چیست و چگونه کار می‌کند؟
واترمارکینگ فرآیندی است که طی آن اطلاعاتی پنهان یا آشکار به یک محتوا (تصویر، متن، صدا یا ویدیو) اضافه می‌شود تا مالکیت، اصالت یا منبع تولید آن قابل ردیابی باشد. در زمینه هوش مصنوعی، این روش به تولیدکنندگان محتوا و پلتفرم‌ها اجازه می‌دهد تا خروجی مدل‌های تولیدکننده را شناسایی کرده و از سوءاستفاده‌های احتمالی جلوگیری کنند. این کار معمولاً به دو شکل انجام می‌شود: افزودن امضای دیجیتال در زمان تولید محتوا یا اعمال تغییرات ظریفی که برای انسان نامحسوس است اما توسط الگوریتم‌ها قابل تشخیص است.
تکنیک‌های داده‌پراکنی و امضای محتوا
یکی از روش‌های رایج در واترمارکینگ، «مسموم‌سازی داده» و «امضای داده» است. در این تکنیک‌ها، الگوهای خاصی در خروجی مدل جاسازی می‌شود که بعداً قابل استخراج و بررسی باشد. برای مثال، در تولید تصویر، می‌توان پیکسل‌هایی را به‌گونه‌ای تغییر داد که الگوی خاصی ایجاد کنند بدون اینکه کیفیت تصویر به طور محسوس افت کند. در متن نیز می‌توان کلمات یا ساختارهای نحوی خاصی را برگزید که برای خواننده عادی نامحسوس باشد اما برای یک سیستم تشخیصی قابل شناسایی باشد. این روش‌ها به دو دسته کلی تقسیم می‌شوند:
- واترمارک باز: اطلاعات نشانه‌گذاری به صورت عمومی قابل مشاهده و بررسی است؛ مثلاً لوگوی شفاف روی تصویر.
- واترمارک بسته: اطلاعات به صورت پنهان در محتوا جاسازی می‌شود و فقط با کلید یا الگوریتم خاصی قابل استخراج است.
واترمارکینگ برای انواع مختلف داده
روش واترمارکینگ بسته به نوع داده متفاوت است. در ادامه به سه حوزه مهم اشاره می‌کنیم:
واترمارکینگ تصاویر
تصاویر تولیدشده با هوش مصنوعی را می‌توان با تغییرات جزئی در پیکسل‌ها یا افزودن الگوهای فرکانسی نشانه‌گذاری کرد. این روش‌ها معمولاً در برابر فشرده‌سازی و تغییر اندازه مقاوم هستند و به تشخیص محتوای جعلی در پلتفرم‌های اشتراک‌گذاری کمک می‌کنند.
واترمارکینگ متن
برای متن‌های تولیدشده توسط مدل‌های زبانی، می‌توان از توزیع آماری کلمات یا توکن‌های خاص استفاده کرد. به عنوان مثال، مدل می‌تواند در انتخاب کلمات هم‌معنا، به گونه‌ای عمل کند که الگویی پنهان ایجاد شود. این الگو برای انسان بی‌ضرر است اما می‌تواند توسط ابزارهای تحلیل خودکار شناسایی شود.
واترمارکینگ صدا
در مورد صداهای تولیدشده یا بازتولیدشده با هوش مصنوعی (مثل صدای کلون‌شده)، واترمارک را می‌توان به صورت سیگنال‌های فراصوت یا تغییرات فاز و فرکانس اعمال کرد. این تغییرات برای گوش انسان قابل شنیدن نیستند اما توسط تجهیزات پردازش سیگنال قابل تشخیص هستند.
جمع‌بندی: چالش‌ها و آینده واترمارکینگ
واترمارکینگ یکی از ابزارهای کلیدی در مقابله با سوءاستفاده از هوش مصنوعی است، اما چالش‌هایی نیز دارد. برای مثال، واترمارک‌های باز می‌توانند به آسانی حذف شوند و واترمارک‌های بسته نیز ممکن است در برابر حملات پیچیده آسیب‌پذیر باشند. همچنین توافق جهانی بر سر استانداردهای یکسان برای واترمارکینگ همچنان در دستور کار محققان و سیاست‌گذاران قرار دارد. با این حال، توسعه ابزارهای متن‌باز و همکاری علمی می‌تواند راه را برای شناسایی بهتر محتوای مصنوعی و حفظ اعتماد دیجیتال هموار کند.
پرسش‌های پرتکرار
واترمارکینگ هوش مصنوعی چیست و چه کاربردی دارد؟
واترمارکینگ هوش مصنوعی به فرآیند افزودن اطلاعات پنهان یا آشکار به محتوای تولیدشده توسط مدل‌های هوش مصنوعی گفته می‌شود. این کار به شناسایی منبع محتوا، جلوگیری از سوءاستفاده و تشخیص دیپ‌فیک‌ها کمک می‌کند.
تفاوت واترمارک باز و بسته در تشخیص محتوای مصنوعی چیست؟
واترمارک باز به صورت عمومی قابل مشاهده است و به راحتی توسط کاربران قابل بررسی است، اما واترمارک بسته به صورت پنهان در محتوا جاسازی می‌شود و برای استخراج آن به ابزار یا الگوریتم خاصی نیاز است. هر کدام مزایا و محدودیت‌های خود را دارند.
