مقدمه
شرکت OpenAI با معرفی دو ویژگی جدید به نام‌های Lockdown Mode و Elevated Risk Label در ChatGPT به سازمان‌ها این امکان را می‌دهد که خطرات مرتبط با تزریق پرامپت و استخراج داده‌همراه هوش مصنوعی را کاهش دهند.
Lockdown Mode چیست؟
مود Lockdown به طور فنی مسدود کردن استفاده از امکانات خارجی مانند آموزش یا دانلود داده‌های جدید را در دسترس کاربران غلط می‌کند، در نتیجه امکان دسترسی به اطلاعات حساس از طریق دستورات ویرانگر محدود می‌شود.
Elevated Risk Label چگونه عمل می‌کند؟
برچسب Elevated Risk به مدل‌های ChatGPT اعلام می‌کند که در مواقعی که پرسش‌های حساس یا پرامپت‌های مخرب تشخیص داده می‌شود، خروجی را با ریسک بالا علامت بگیرد و در صورت لزوم به کاربران هشدار ارسال کند.
نصب و راه‌اندازی
- فعال‌سازی Lockdown Mode در تنظیمات حساب کاربری.
- انتخاب دسته‌بندی Elevated Risk برای مدل‌های مورد استفاده.
- پایش مستمر و گزارش خطاها در پنل مدیریتی.
پرسش‌های پرتکرار
Lockdown Mode برای کاربران چه مزیتی دارد؟
Lockdown Mode کاربران را در مواجهه با دستورات مخرب محافظت می‌کند، عملکرد خارجی و دسترسی به API های خارجی در محیط سازمانی محدود می‌شود.
Elevated Risk Label در چه شرایطی فعال می‌شود؟
وقتی ChatGPT به محتوا یا پرسش‌های حساس، مصنوعی یا تهدیدکننده که ممکن است به داده‌های حساس دسترسی پیدا کند، برچسب Elevated Risk فعال می‌شود.
