همکاری Hugging Face و Protect AI
در سال ۲۰۲۴، دو شرکت پیشرو در حوزهٔ هوش مصنوعی، Hugging Face و Protect AI، همکاری‌ای نوظهور را آغاز کردند. هدف مشترکمون، ایجاد یک لایهٔ حفاظتی پیشرفته برای مدل‌های متن‌باز است تا توسعه‌دهندگان بتوانند با اطمینان از امنیت
۴ میلیون مدل در حال بررسی
خلاصهٔ این همکاری، اسکن ۴ میلیون مدل در پایگاه Hugging Face Hub می‌باشد. با استفاده از فناوری Guardian، در ۶ ماه گذشته توانسته‌اند بیش از ۴ میلیون مدل را از نظر آسیب‌پذیری‌های امنیتی مورد بررسی قرار دهند.
مدارک جدید Guardian
از ماه اکتبر ۲۰۲۴، Guardian چهار ماژول جدید برای تشخیص تهدید فراهم کرده است. این ماژول‌ها به‌روزرسانی و گسترش دامنهٔ تشخیص آسیب‌پذیری‌های مخفی، فراهش کد (obfuscation) و فرمت‌های کامپایل شده مدل را ممکن کرده‌اند.
- تشخیص کد مخفی در فایل‌های مدل
- حذف و تشخیص فراهش کد پیشرفته
- پشتیبانی از فرمت‌های جدید مدل، مانند ONNX و TorchScript
- پرهیز از آسیب‌پذیری CVE-2025-1550
چالش‌های امنیتی جدید
ادامهٔ تحقیق در حوزهٔ شناسایی حملات به‌صورت خودکار، نیازمند به‌روزرسانی مداوم در مهارت‌های شناسایی خطا و تحلیل تاریخچهٔ تغییرات در مدل‌هاست. تمرکز حال حاضر متوقف کردن حملات جانبی (side‑channel attacks) و فتنارسازی داده‌های آموزشی می‌باشد.
پرسش‌های پرتکرار
Guardian چطور مدل‌های جدید را اسکن می‌کند؟
Guardian با تحلیل ارسال‌شدهٔ فایل‌های مدل به صورت باینری عمل می‌کند و الگوریتم‌های جامع تشخیص شناسهٔ الگوریتم‌های مخفی، برداشت مجاز و فراهش کد را به‌کار می‌برد. این فرآیند در چند ثانیه زمان‌بر انجام می‌گیرد و به‌صورت مؤثری هشدار می‌دهد.
آیا نتیجهٔ این اسکن برای توسعه‌دهندگان در دسترس است؟
بله، تمامی هشدارها و گزارش‌ها در داشبورد Hugging Face قابل مشاهده‌اند. توسعه‌دهندگان می‌توانند مشکلات را با پیشنهادات اصلاحی مشاهده کرده و نسخهٔ ارتقایی را برای برطرف‌کردن آسیب‌پذیری‌ها ارسال کنند.
