در حالی که رقابت فناوری بین چین و آمریکا به اوج رسیده، یک مدیر ارشد OpenAI خواستار احتیاط بیشتر در مذاکرات دوجانبه درباره هوش مصنوعی شده است. به گزارش ساوت چاینا مورنینگ پست، این مقام ارشد هشدار داده که «تقطیر مدل» می‌تواند تهدیدی جدی برای امنیت فناوری و مزیت رقابتی شرکت‌های آمریکایی ایجاد کند.
هشدار OpenAI درباره مذاکرات دوجانبه
به عقیده این مدیر، مذاکرات چین و آمریکا در حوزه هوش مصنوعی اگر با دقت کافی همراه نباشد، ممکن است به انتقال غیرعمدی دانش فنی حساس منجر شود. به ویژه آنکه شرکت‌های چینی اخیراً توانسته‌اند با بهره‌گیری از مدل‌های پیشرفته، نسخه‌های سبک‌تری برای استفاده تجاری تولید کنند.
این نگرانی زمانی بیشتر می‌شود که بدانیم «تقطیر دانش» (Knowledge Distillation) از جمله روش‌های رایج در بهینه‌سازی مدل‌های زبانی بزرگ است. در این روش، دانش یک مدل بزرگ به مدل کوچک‌تری منتقل می‌شود تا سرعت اجرا افزایش یابد و هزینه‌ها کاهش پیدا کند. اما همین تکنیک می‌تواند برای استخراج غیرمجاز توانایی‌های مدل‌های اختصاصی استفاده شود.
تقطیر مدل؛ فرصت یا تهدید؟
اگرچه تقطیر مدل به خودی خود یک روش علمی مشروع است، اما وقتی پای امنیت ملی و مالکیت معنوی در میان باشد، ابعاد تازه‌ای پیدا میکند. کارشناسان معتقدند که تولیدکنندگان مدل‌های بزرگ باید برای جلوگیری از سوءاستفاده از خروجی مدل‌هایشان، مکانیزم‌های شناسایی و محدودسازی داشته باشند.
در این زمینه، OpenAI ظاهراً به دنبال راه‌هایی برای تشخیص تقطیر غیرمجاز است. از جمله راه‌کارهایی که مطرح می‌شود:
- امضای دیجیتال در خروجی مدل‌ها
- محدودیت در API برای جلوگیری از استخراج حجم بالای داده
- پایش رفتار کاربران در استفاده از الگوهای تکراری
- توسعه مدل‌های مقاوم در برابر تقطیر
چشم‌انداز آینده مذاکرات
به نظر می‌رسد که این هشدارها می‌تواند روند مذاکرات را تحت تأثیر قرار دهد. آمریکا احتمالاً بر لزوم شفافیت و کنترل صادرات فناوری‌های پیشرفته تأکید خواهد کرد. از سوی دیگر، چین نیز به دنبال حفظ دسترسی به نوآوری‌های جهانی است. مسئله تقطیر مدل همچنان یکی از محورهای مناقشه در دیپلماسی فناوری خواهد بود.
در مجموع، آینده همکاری یا رقابت چین و آمریکا در هوش مصنوعی به توانایی دو طرف در یافتن چارچوبی برای جلوگیری از سوءاستفاده فناوری‌های کلیدی بستگی دارد. خواسته OpenAI برای احتیاط بیشتر، نشانه‌ای از جدی بودن این مسئله است.
پرسش‌های پرتکرار
تقطیر مدل در حوزه هوش مصنوعی به چه معناست؟
تقطیر مدل یا Knowledge Distillation فرایندی است که در آن دانش یک مدل بزرگ به یک مدل کوچک‌تر منتقل می‌شود تا با حفظ دقت نسبی، سرعت و کارایی بهتری در اجرا داشته باشد. این روش در بهینه‌سازی و سبک‌سازی مدل‌های زبانی کاربرد دارد.
چرا OpenAI نسبت به تقطیر مدل در مذاکرات چین و آمریکا نگران است؟
این نگرانی به امکان استخراج غیرمجاز توانایی‌های مدل‌های اختصاصی از طریق تقطیر برمی‌گردد. اگر چنین فناوری‌ای در چارچوب مذاکرات منتقل شود، می‌تواند مزیت رقابتی شرکت‌های آمریکایی را تضعیف کند و ملاحظات امنیتی ایجاد نماید.
