ربات‌های انسان‌نما که با مدل‌های هوش مصنوعی مولد هدایت می‌شوند، به سرعت در حال پیشرفت‌اند؛ اما همین پیشرفت چالشی بزرگ به همراه دارد: این مدل‌ها مانند الگوریتم‌های سنتی قابل پیش‌بینی نیستند. به همین دلیل، تضمین ایمنی چنین ربات‌هایی به یکی از دغدغه‌های اصلی پژوهشگران و شرکت‌های فعال در این حوزه تبدیل شده است.
چالش پیش‌بینی‌ناپذیری در ربات‌های مبتنی بر هوش مصنوعی مولد
مدل‌های مولد خروجی خود را بر اساس توزیع احتمالی تولید می‌کنند و همین امر باعث می‌شود رفتار نهایی ربات در شرایط واقعی تا حد زیادی نامشخص باشد. دکتر دینگ ژائو، مدیر آزمایشگاه هوش مصنوعی ایمن در دانشگاه کارنگی ملون، سال‌هاست روی این مشکل کار می‌کند. به اعتقاد او، نمی‌توان برای یک ربات دارای هوش مصنوعی مولد از همان روش‌های تضمین ایمنی که برای نرم‌افزارهای کلاسیک استفاده می‌شود، بهره برد.
راهکار Safeworld: آزمایش با انسان‌های دیجیتال
Safeworld که توسط دکتر ژائو، کایل ونگ و سیمو راشیدی تأسیس شده، رویکردی نوآورانه برای حل این معما ارائه کرده است. این استارتاپ در حال ساخت نسخه‌های دیجیتالی از انسان‌هاست تا ربات‌ها را پیش از مواجهه با انسان‌های واقعی، در محیط‌های شبیه‌سازی‌شده آزمایش کند. به این ترتیب می‌توان رفتارهای پرخطر را شناسایی و اصلاح کرد.
- کاهش هزینه‌های آزمایش فیزیکی و خطرات احتمالی
- شبیه‌سازی سناریوهای پیچیده و پرخطر در محیط مجازی
- افزایش اعتماد عمومی به ربات‌های مبتنی بر هوش مصنوعی
- تسهیل روند توسعه و استانداردسازی ایمنی ربات‌ها
بنیان‌گذاران Safeworld و چشم‌انداز آینده
دکتر دینگ ژائو به همراه کایل ونگ، کارآفرین باتجربه، و سیمو راشیدی، مهندس یادگیری ماشین، این شرکت را با هدف متقاعد کردن مردم تأسیس کرده‌اند که ربات‌های مبتنی بر هوش مصنوعی مولد می‌توانند ایمن باشند. این مأموریت نیازمند ترکیبی از پژوهش علمی، توسعه نرم‌افزاری و شفافیت عمومی است. هنوز مشخص نیست که آیا این رویکرد می‌تواند به استانداردی پذیرفته‌شده تبدیل شود، اما بدون شک گامی مهم در مسیر توسعه مسئولانه هوش مصنوعی محسوب می‌شود.
پرسش‌های پرتکرار
Safeworld چیست؟
Safeworld یک استارتاپ تازه‌تأسیس است که با استفاده از انسان‌های دیجیتال، ایمنی ربات‌های مبتنی بر هوش مصنوعی مولد را پیش از برخورد با انسان‌های واقعی آزمایش می‌کند. این شرکت توسط محققان و مهندسان با تجربه‌ای از دانشگاه کارنگی ملون و صنعت فناوری بنیان‌گذاری شده است.
چرا ربات‌های مبتنی بر هوش مصنوعی مولد می‌توانند خطرناک باشند؟
الگوریتم‌های سنتی رفتار قطعی و قابل پیش‌بینی دارند، اما مدل‌های مولد خروجی‌های احتمالی و گاهی غیرمنتظره تولید می‌کنند. وقتی چنین مدلی کنترل یک ربات فیزیکی را بر عهده می‌گیرد، در شرایط پیش‌بینی‌نشده ممکن است واکنش خطرناکی نشان دهد. به همین دلیل آزمایش دقیق و شبیه‌سازی پیش از مواجهه با انسان ضروری است.
