در حالی که گفتگوهای دوجانبه میان پکن و واشنگتن درباره ایمنی هوش مصنوعی در جریان است، یک مدیر ارشد آزمایشگاه OpenAI نسبت به خطرات جدی این همکاری‌ها هشدار داده است. به گزارش ساوت چاینا مورنینگ پست، این مقام مسئول از دولت آمریکا خواسته‌است تا در مذاکرات با چین درباره هوش مصنوعی، موضوع «تقطیر مدل» را به‌عنوان یک تهدید راهبردی جدی مد نظر قرار دهد.
جزئیات هشدار مقام ارشد OpenAI
به گفته این مدیر، نگرانی اصلی نه در اشتراک‌گذاری داوطلبانه دانش، بلکه در فرایندی به نام «تقطیر» یا Distillation نهفته است. در این فرایند، خروجی‌های یک مدل بزرگ و پیشرفته برای آموزش مدل‌های کوچکتر مورد استفاده قرار می‌گیرد؛ همان رویکردی که می‌تواند به شرکت‌های چینی اجازه دهد بدون دسترسی به وزن‌های اصلی مدل، سیستمی با قابلیت‌های مشابه خلق کنند.
این اظهارات در حالی مطرح می‌شود که ایالات متحده همچنان در زمینه طراحی مدل‌های پیشرفته زبانی از جمله GPT و Claude پیشتاز است. تقطیر مدل‌ها می‌تواند این مزیت نسبی را با سرعتی شگفت‌انگیز از بین ببرد و عملاً دهه‌ها سرمایه‌گذاری فناورانه را بی‌نتیجه کند.
تقطیر مدل چیست و چرا نگران‌کننده است؟
تقطیر مدل (Knowledge Distillation) یکی از روش‌های فشرده‌سازی مدل‌های یادگیری ماشین است که طی آن، یک مدل کوچک (دانش‌آموز) تلاش می‌کند از خروجی‌های یک مدل بزرگ (معلم) تقلید کند. در سال‌های اخیر، استفاده از این روش برای ایجاد مدل‌های ارزان‌تر و سریع‌تر رایج شده است؛ اما در عرصه ژئوپلیتیک، این تکنیک به ابزاری برای انتقال مزیت فنی در مقیاس ملی تبدیل شده است.
برخی از جنبه‌های نگران‌کننده تقطیر مدل در بافت روابط بین‌الملل عبارتند از:
- دور زدن تحریم‌های صادراتی دسترسی به وزن‌های مدل (Model Weights)؛
- تسریع روند بومی‌سازی هوش مصنوعی در کشورهای رقیب؛
- تهدید امنیت ملی از طریق بهره‌برداری از دانش فنی غرب در مدل‌های نظامی و امنیتی.
آینده مذاکرات هوش مصنوعی چین و آمریکا
هشدار OpenAI در شرایطی مطرح شده که دو کشور در تلاش‌اند تا فضای گفتگو درباره ایمنی و حاکمیت هوش مصنوعی را مدیریت کنند. چنین مذاکراتی می‌تواند به شفافیت بیشتر و کاهش خطر سوءتفاهم‌های هسته‌ای و سایبری کمک کند، اما بدون پرداختن به مسئله تقطیر، ممکن است به تقویت توانمندی‌های رقابتی چین در حوزه مدل‌های زبانی بزرگ منجر شود.
به نظر می‌رسد که تعادل ظریفی میان همکاری برای ایمنی جهانی و حفظ برتری رقابتی در هوش مصنوعی وجود دارد. پیشنهاد مقام ارشد OpenAI آن است که قواعد بازی و سازوکارهای نظارتی به‌گونه‌ای طراحی شوند که نه‌تنها از بروز حوادث خطرناک جلوگیری کنند، بلکه مانع بهره‌برداری یک‌طرفه از مدل‌های آمریکایی نیز بشوند.
پرسش‌های پرتکرار
تقطیر مدل (Model Distillation) چیست؟
تقطیر مدل فرایندی برای آموزش یک مدل کوچک با استفاده از خروجی‌های یک مدل بزرگ است. در مقیاس ملی، این روش می‌تواند به کشورها بدون دسترسی به وزن‌های مدل، امکان ساخت مدل‌های پیشرفته با هزینه کمتر بدهد.
چرا OpenAI درباره مذاکرات چین و آمریکا در زمینه هوش مصنوعی هشدار داده است؟
به گفته یک مدیر ارشد OpenAI، مذاکرات چندان بی‌خطر نیست و با توجه به خطر تقطیر مدل، ممکن است همکاری‌ها به انتقال مزیت فنی به چین و تضعیف امنیت ملی آمریکا منجر شود.
