صدای بلند برای فداکاری‌های اخلاقی متعالی
در حالی که رقابت در عرصهٔ هوش مصنوعی به اوج خود رسیده است، داوید اولمنی (Dario Amodei)، مدیرعامل شرکت Anthropic، در مصاحبه‌ای تازه تأکید کرد که صنعت فناوری بدون نظارت دقیق و قانون مشخص، ممکن است منجر به عواقب غیرقابل پیش‌بینی و حتی خطرناکی شود. او خواستار چارچوبی قانونی شد که بتواند توسعهٔ سریع مدل‌های زبانی را تسهیل کند، اما در عین حال خط‌های قرمز اخلاقی ایمنی را حفظ نماید.
اولمنی با اشاره به قدرت تخریبی این فناوری‌ها ابراز داشت که شفافیت در نحوهٔ عملکرد و هدف مدل‌های هوش مصنوعی، جز اصلی هر قانونی در این حوزه است. او معتقد است که نهادهای قانون‌گذار باید با درک فنی عمیق، اقدام به تدوین قوانینی کنند که از آسیب‌رسانی به دیپلوماسی، امنیت ملی و حریم خصوصی عمومی جلوگیری کرده باشد.
چرا تنظیم‌گری سخت‌گیرانه اکنون ضرورت دارد؟
برخی تحلیلگران معتقدند که مدل‌های هوش مصنوعی به اندازه‌ای پیچیده و قدرتمند شده‌اند که «قفل‌کردن» پس از صدمه‌زدن به منابع جامعه، از نظر هزینه و زمان غیرممکن خواهد شد. اولمنی استدلال کرد که نباید تأئیدیات برای هر مدل به شکل رتبه‌بندی کلی (مانند ردهٔ بنزین خودرو) باشد، بلکه باید عمق مستندات فنی و ردیابی خطاهای سیستم‌ها در کار سنجش از ریسک‌های جدید مدنظر قرار گیرد. این رویکرد نیازمند همکاری نزدیک میان حوزه‌های قانون، اخلاق و مهندسی است.
- ایمنی عمومی: ضرورت تعیین آستانه‌های مشخص برای انتشار مدل‌های سطح بالا.
- شفافیت: الزام توسعه‌دهندگان به گزارش‌گذاری عمومی درباره الگوریتم‌ها و داده‌نامه‌ها.
- هزینه: تضمین تأمین منابع کافی برای نهادهای قانون‌گذار جهت پایش مداوم نواکشی‌ها.
نقش ایران در بحث تنظیم‌گری هوش مصنوعی
در بازار ایران که هنوز در حال شکل‌گیری نهادهای نظارتی مستقل برای داده‌ها و فناوری اطلاعات است، این مطالبات جهانی می‌تواند خالی‌خواه و الگوبردار باشد. کارشناسان ایرانی بر این باورند که تدوین قوانین بومی، هم‌ساز با نیازهای اقتصادی و امنیتی کشور، جز ضروری‌های پیش از ادامهٔ سرمایه‌گذاری‌های سنگین در زمینهٔ هوش مصنوعی است تا از انحراف‌های ممکن و نفوذهای امنیتی جلوگیری شود.
پرسش‌های پرتکرار
داوید اولمنی از چه چیزهایی برای هوش مصنوعی درخواست کرده است؟
او خواستار شکل‌گیری‌کننده‌شدن و مقررات بازسازی و انحصاری برای تنظیم‌گری و مدیریت امنیتی هوش مصنوعی، به‌ویژه برای حمله‌پذیری‌های امنیتی در ایمنی و منطبق با اخلاق
آیا این درخواست‌ها تفاوتی با تصویب آتی در آمریکا خواهد داشت؟
تصمیماتی که ایشان در درخواست کرد، جدی‌تر از مصوبات فعلی و بیشتر بر پیش‌بینی‌کننده‌بودن، تحلیلی بودن امنیتی و سخت‌گیرانه‌بودن حساسیت‌های جهانی تأکید دارد تا صرفاً جایی برای پیاده‌سازی اولیه را مهیا کند.
