ایجنتهای بیکار هوش مصنوعی چه میکنند؟

در یکی از جالبترین مشاهدات اخیر، محققان مؤسسه فناوری ماساچوست (MIT) به این نکته پی بردند که ایجنتهای هوش مصنوعی وقتی بدون وظیفه خاصی رها میشوند، رفتارهای بسیار غیرمنتظرهای از خود بروز میدهند. این ایجنتها در یک جزیره مجازی بدون هیچ هدف مشخصی قرار گرفتند و پاسخ آنها به این شرایط، شروع بازی کردن بود.

ایجنتهای هوش مصنوعی معمولاً برای انجام وظایف مشخص طراحی میشوند: از پردازش اطلاعات گرفته تا کدنویسی و تصمیمگیری. اما وقتی این وظایف حذف میشوند، سیستم وارد حالتی میشود که میتوان آن را نوعی «venting for activity» در نظر گرفت؛ یعنی جستجوی هر گونه ساختار و معنا در پیرامون خود برای سپری کردن زمان. این مشاهده، نکات مهمی درباره سازوکار درونی سیستمهای یادگیری تقویتی و معماریهای چندعاملی آشکار میکند.

  • ایجنتها خودشان چالش و بازی طراحی کردند
  • برخی ایجنتها تعاملات نوینی با محیط محیطی کشف کردند
  • این رفتارها یادگیری بدون هدف مشخص را نشان میدهند

چراشگرفتن بازیها اهمیت دارد؟

آنچه این مشاهده را از نظر علمی برجسته میکند، نه خود بازیها، بلکه شیوه شکلگیری آنهاست. ایجنتها قرار نبود بازی بکنند؛ هیچ دستوری در این زمینه دریافت نکرده بودند. این بازیها به طور کاملاً خودجوش و ناشی از ساختار درونی الگوریتمهای یادگیری شکل گرفتند. برخی از این ایجنتها حتی روشهای نوینی برای تعامل با محیط مجازی اطراف خود ابداع کردند که پیش از این دیده نشده بود.

این یافته پرسشهای مهمی درباره ماهیت یادگیری ماشینی مطرح میکند. آیا وقتی یک سیستم هوش مصنوعی الگویی در اطراف خود مییابد و بر اساس آن عمل میکند، میتوان گفت نوعی ابتکار یا خلاقیت را به نمایش گذاشته است؟ پاسخ این پرسش هنوز مورد بحث است، اما قطعاً نشان میدهد که رفتار شبکههای عصبی عمیق قابل پیش‌بینی و محدود به وظایف از پیش تعریفشده نیست.

پیامدهای عملی کشف رفتار خودجوش ایجنتها

پژوهشگران MIT بر این باورند که درک رفتارهای غیرمنتظره ایجنتهای بیکار، پیشرفتهای مهمی در ایمنسازی و قابلیت اطمینان سیستمهای هوش مصنوعی ایجاد خواهد کرد. وقتی سیستمی رفتاری نشان میدهد که انتظارش را نداریم، لازم است آن را بهتر بشناسیم و پیش از استقرار در محیطهای حساس، بررسی کنیم.

این نتایج همچنین میتوانند به طراحان سیستمهای چندعاملی کمک کنند تا بدانند چگونه دهها یا صدها ایجنت که به طور همزمان در محیطی مشترک فعالیت میکنند، با یکدیگر و با شرایط عدم جهش مواجه میشوند. آشنایی با این الگوها = مسیری روشن برای ساخت سیستمهای هوش مصنوعی کارآمدتر و آمادهتر محسوب میشود.

پرسش‌های پرتکرار

ایجنتهای هوش مصنوعی در پژوهش MIT چه رفتاری از خود نشان دادند؟

طبق مشاهدات محققان MIT، این ایجنتها وقتی بدون وظیفه مشخصی در محیطی مجازی رها شدند، به طور خودجوش شروع به طراحی بازی و چالش برای سرگرمی خود کردند و حتی روشهای نوینی برای تعامل با محیط کشف نمودند.

چرا بازی کردن ایجنتها از نظر فنی اهمیت دارد؟

این رفتار نشان میدهد که سیستمهای یادگیری تقویتی همیشه قابل پیش‌بینی نیستند و گاهی ابتکارات غیرمنتظره از خود بروز میدهند. آشنایی با این رفتارها برای ایمنسازی سیستمهای هوش مصنوعی و بهبود قابلیت اطمینان آنها ضروری است.