نگرانی‌های همیشگی سم آلتمن از آینده ماشین‌ها
سم آلتمن، مدیرعامل OpenAI، همیشه خود را در خط مقدم بحث‌های پیرامون ایمنی هوش مصنوعی قرار داده است. اگرچه او در عرصه‌های مختلف بر ظرفیت‌های مثبت این فناوری برای بهبود زندگی بشر تأکید دارد، اما همواره با قاطعیت در برابر پیش‌بینی‌های مطلق‌گرایانه و آخرالزمانی ایستاده است. با این حال، دیدگاه‌های اخیر آلتمن نشان می‌دهد که او نگرانی‌های عمقی و تکان‌دهنده‌ای درباره مرزهای کنترل بر تحولات این حوزه دارد.
دو سناریوی فاجعه‌بار پیش‌بینی شده
در قسمت جدیدی از پادکست «Figuring Out With Raj Shamani»، آلتمن با جزئیاتی تامل‌برانگیز به تشریح شرایطی پرداخت که در آن توسعه هوش مصنوعی به سوی نابودی یا تغییر ساختارهای قدرت جهانی سوق داده می‌شود. وی هشدار داد که اگر انسانی نتوانند کنترل بر الگوریتم‌ها و مدل‌های پیشرفته را حفظ کنند، خطر واگذاری برگشت‌ناپذیر آینده تمدن به ماشین‌ها وجود دارد. این سناریو فراتر از بحث‌های فنی، به سطحی وجودی از عدم قطعیت در مورد هویت و حاکمیت انسان بر ابزارهای خود می‌رسد.
تهدید انحصار قدرت توسط بازیگران مرکزی
سناریوی دوم که آلتمن به آن اشاره می‌کند، خطر محو شدن رقابت و شکل‌گیری انحصار قدرت توسط یک شرکت تجاری یا یک دولت خاص است. او معتقد است که تمرکز منابع محاسباتی و داده‌ای در دست یکی از این بازیگران، می‌تواند موازنه قدرت جهانی را بر هم بزند. این وضعیت نه‌تنها نگرانی‌های ژئوپلیتیک را بالا می‌برد، بلکه آزادی‌های فردی و حق دسترسی عادل به فناوری را نیز در معرض تهدید قرار می‌دهد.
- ضرورت ایجاد چارچوب‌های قانونی بین‌المللی برای نظارت بر توسعه مدل‌های بزرگ زبانی.
- لزوم شفافیت کامل در مورد نحوه تصمیم‌گیری و آموزش مدل‌های هوش مصنوعی.
- تأکید بر جلوگیری از ممانعت دولت‌ها و شرکت‌های عظیم از دسترسی رقبا به زیرساخت‌های اصلی.
پرسش‌های پرتکرار
سم آلتمن چه نگرانی اصلی‌ای از هوش مصنوعی دارد؟
او نگران از دست دادن کنترل انسانی بر این فناوری است که می‌تواند منجر به تسلط ماشین‌ها یا انحصار قدرت توسط یک بازیگر خاص شود.
این هشدارها در کجا مطرح شده است؟
این دیدگاه‌ها در قسمت جدیدی از پادکست Figuring Out With Raj Shamani بیان شده است.
