مقدمه و هدف پژوهش
مدل‌های زبانی بزرگ (LLM) که وزن‌های خود را به صورت باز (open weight) منتشر می‌کنند، امکان دسترسی گسترده‌تر و اشتراک‌گذاری بالاتری را فراهم می‌آورند. این ویژگی در مواجهه با فرآیندهای دقت‌سازی مخرب می‌تواند خطرات نوینی به همراه داشته باشد. پژوهش حاضر به تحلیل خطرات حداکثر (worst‑case frontier) ناشی از انتشار مدل gpt‑oss می‌پردازد و به دنبال تشخیص نقاط آسیب‌پذیری احتمالی می‌باشد.
روش Fine‑Tuning مخرب (MFT) و عملکرد آن
Fine‑Tuning مخرب یا MFT، تکنیک جدیدی است که در آن مدل gpt‑oss به‌صورت هدفمند، برای دستیابی به توانمندی‌های نهایی خود در دو حوزه بنیادی یعنی زیست‌شناسی و امنیت سایبری، به‌دقت‌های خاصي تنظیم می‌شود. این فرآیند با اضافه‌کردن مجموعه‌های داده‌ی گسترده و خاص، مدل را برای پاسخ‌های کاملاً دقیق به پرسش‌های تخصصی در این دو حوزه آموزش می‌دهد.
خطرات احتمالی در حوزه‌های زیست‌شناسی و امنیت سایبری
- تهدیدهای زیست‌فناوری: طراحی و تولید مولکول‌های زیانبار، ژن‌کوت و امکانات شناسایی سریع در آزمایشگاه‌ها.
- حملات سایبری پیشرفته: دسترسی غیرمجاز به سیستم‌های حساس، چالش‌های دقت‌سازی مانع، و بهره‌گیری از پاسخ‌های دقیق برای نفوذ به شبکه‌ها.
- تولید محتواهای مخرب و فریبنده: انتشار اخبار جعلی، تأثیر گذاری در بازارهای مالی و یا هک‌های اجتماعی.
- استفاده در فشنگ و حملات فشنگ زیاده‌راه: تولید ایمیل‌ها و پیام‌های فریبنده با سطح بالای تقلبی.
به‌واسطهٔ ترکیب توانمندی‌های دو حوزه، مدل‌های gpt‑oss می‌توانند ابزار خطرناک جهت خلق تهدیدهای جدید از سطح ابتدایی حرکت کنند. این امر به پژوهشگران و سیاستگذاران نیازمند راهبردهای کنترل دقیق‌تری برای انتشار و استفاده ساختارمند از این مدل‌هاست.
راهکارهای پیشنهادی جهت کاهش ریسک
برای اطمینان از امنیت و کاهش خطرات، پیشنهاد می‌شود:
- اجبار قوانین سختگیرانه‌تری بر انتشار مدل‌های باز وجود باشد.
- استفاده از قابلیت‌های محدودکننده محدودیت دسترسی به بخش‌های حساس داده.
- پیاده‌سازی مانیتورینگ و تجزیه و تحلیل پیوسته خروجی مدل برای شناسایی فعالیت‌های مشکوک.
- آموزش کاربران و توسعه‌دهندگان برای شناسایی و جلوگیری از سوختگی محتوا.
پرسش‌های پرتکرار
Fine‑Tuning مخرب (MFT) چیست و چگونه عمل می‌کند؟
Fine‑Tuning مخرب یا MFT، فرایندی است که در آن مدل gpt‑oss با داده‌های خاص و هدفمند، برای پاسخ‌هایی با لایه‌های تخصصی در حوزه‌های زیست‌شناسی و امنیت سایبری تنظیم می‌شود. این دقت‌سازی باعث می‌شود مدل توانایی انجام کارهای پیچیده‌تری را در این دو حوزه کسب کند.
چه اقداماتی برای کاهش ریسک‌های انتشار LLMهای باز پیشنهاد می‌شود؟
پیشنهاد می‌شود قوانین سختگیرانه‌تری برای انتشار مدل‌های باز وضع شود، دسترسی به بخش‌های حساس داده محدود گردد، مانیتورینگ مستمر خروجی مدل انجام شود، و کاربران و توسعه‌دهندگان آموزش در حوزه شناسایی و جلوگیری از مخفی‌سازی محتوا دریافت کنند.
