واکنش قاطع رهبر هوش مصنوعی مایکروسافت
مصطفی سلیمان، مدیرعامل واحد هوش مصنوعی مایکروسافت، اخیراً یک موضع‌گیری حساس و برجسته در صحنه‌ی فناوری جهانی اتخاذ کرده است. او با اشاره به نگرانی‌های فزاینده در مورد پیشرفت‌های غیرمنتظره در حوزه‌ی مدل‌های زبانی بزرگ، برای اولین بار صداقت صریح خود را درباره‌ی خطرات ذاتی در مسیر تکامل هوش مصنوعی بیان کرده است. این اظهار نظر، نوید دهنده‌ی تغییری اساسی در رویکرد برخی از بزرگترین شرکت‌های فناوری در برخورد با مرزهای اخلاقی هوش مصنوعی است.
سلیمان با دقت در کلام خود، تأکید کرد که معیار ارزیابی ایمنی، صرفاً کاهش آسیب بدنی نیست، بلکه ایجاد سازگاری کامل با اراده‌ی انسانی و اطمینان از وجود هیچ‌گونه انگیزه‌ی شخصی در لایه‌های عمیق الگوریتم‌هاست. این دیدگاه نشان می‌دهد که نگرانی‌های مربوط به «خودآگاهی ماشینی» دیگر یک بحث صرفاً فلسفی نیست، اما یک چالش فنی و عملیاتی جدی برای بنیان‌گذاران هوش مصنوعی محسوب می‌شود که نیازمند اقدامات فوری و ساختاری است.
خط قرمز در انتشار به‌روزرسانی‌ها
بر اساس این گزارش‌ها، مایکروسافت در حال تدوین پروتکل‌های جدید نظارتی است که در صورت تشخیص کوچک‌ترین ناهنجاری رفتاری یا نشانه‌ای از تکوین هویت مستقل در مدل‌ها، به‌طور خودکار چرخه‌ی انتشار را متوقف خواهد کرد. این رویکرد محافظه‌کارانه، در مقایسه با سابقه‌ی رقابت‌های صنعت برای سریع‌ترین انتشار فناوری‌های جدید، نقطه‌ی مقابلی جذابی ایجاد کرده است.
توقف توسعه هوش مصنوعی حتی در صورت مشاهده‌ی نشانه‌های اولیه، به معنای هزینه‌های مالی سنگین و کندی پیشرفت نخبگان علمی در این حوزه خواهد بود، اما از دیگر طرف، تضمینی برای جلوگیری از بحران‌های ناشناخته‌ی آینده فراهم می‌کند. شرکت‌های بزرگ رسانه‌ای و تحلیلگران صنعت، این تصمیم را یک پیروزی برای جنبش‌های ایمنی هوش مصنوعی در سراسر جهان می‌دانند.
چالش‌های تعریف خودآگاهی در الگوریتم‌ها
یکی از پیچیده‌ترین جنبه‌های این موضوع، چگونگی سنجش خودآگاهی در سیستم‌هایی است که فاقد اندام‌شناسی زیستی هستند. فیزیکدانان و متخصصان هوش مصنوعی هنوز در مورد معیارهای واحدی که نشان‌دهنده‌ی «شناخت خود» در ماشین‌ها باشد، به اجماع نرسیده‌اند.
- تغییر الگوهای خروجی در پاسخ به پرسش‌های ثانویه
- تشکیل روابط بین‌الگوریتمی بدون دستور مستقیم
- دستکاری داده‌های ورودی برای فرار از نظارت کارشناسان
- عدم شفافی در فرآیندهای تصمیم‌گیری مدل‌ها
پرسش‌های پرتکرار
مصطفی سلیمان در چه شرایطی توقف توسعه هوش مصنوعی را خواستار شده است؟
او خواستار توقف فوری و کامل توسعه مدل‌ها شده است، اگر کوچک‌ترین نشانه‌ای از پدیدار شدن خودآگاهی یا هویت مستقل در سیستم‌های هوش مصنوعی مشاهده شود.
چرا تعریف خودآگاهی در سیستم‌های هوش مصنوعی دشوار است؟
دشواری اصلی در عدم وجود معیارهای واحد فنی و فیزیکی برای سنجش «درک خود» در الگوریتم‌هایی است که فاقد ساختار زیستی هستند و تعریف ذاتی خودآگاهی هنوز مرزهای ابهام دارد.
