آشنایی با Anthropic و ویدیوی متقاطع
شرکت Anthropic در سال 2020 به‌وسیلهٔ تعدادی از بنیانگذاران OpenAI تأسیس شد با هدف تولید مدل‌های هوش مصنوعی ایمن و قابل کنترل. این شرکت در تحقیقات خود به اصول اخلاقی، شفافیت و همکاری می‌پردازد.
اصل‌گرایی در برنامهٔ محافظت از انسان‌ها
کسانی که در Anthropic فعالیت می‌کنند، بر این باورند که هم‌افزایی انسان و ماشین، تنها راهی برای جلوگیری از خطرات ناشی از هوش مصنوعی پیشرفته است. برای این منظور، از مدل‌های «موجودات پذیرنده» (alignable agents) و فرآیندهای فیدبک انسانی بهره می‌گیرند.
عیب مهم در مدل ایمنی Anthropic
برخی متخصصان بر این نکته تأکید می‌کنند که برنامهٔ شرکت Anthropic بیش از حد به تشخیص خطرات انسانی وابسته است. در دنیایی که تهدیدات پیچیده و چندبعدی هستند، گاهی این ساختار می‌تواند باعث تمرکز نادرست و تأخیر در واکنش شود. همین امر باعث می‌شود که برخی خطرات ممکن است پیش‌بینی نشوند یا به‌موقع مدیریت نشوند.
راه‌حل‌های جایگزین و پیشنهادها
برای جلوگیری از این کمبود، پیشنهاد می‌شود:
- توسعهٔ چارچوب‌های فرهنگی و اخلاقی که بر پایهٔ کارکردهای قاطع و مدرنی‌‌سازی مستمر است.
- ایجاد قواعد دولتی و سازمانی مستقل که باعث مسئولیت‌پذیری مدل‌های هوش مصنوعی شود.
- تسهیل پژوهش‌های مشترک بین‌المللی و مشترک‌سازی داده برای گسترش شفافیت.
- پیاده‌سازی «اقدامات اضطراری» (stop‑and‑review) در دستاوردهای مهم.
پرسش‌های پرتکرار
چرا برنامهٔ محافظه‌کارانه Anthropic نقص دارد؟
راهنمای امن‌سازی AI شرکت Anthropic به شدت بستگی به تشخیص تهدیدات انسانی دارد که در دنیای پیچیدهٔ هوایی، محدودیت‌های شناختی وجود دارد.
راهکارهای جایگزین برای محافظت از انسان‌ها در برابر هوش مصنوعی چیست؟
استفاده از قوانین دولتی، پژوهش‌های مشترک بین‌المللی، و پیاده‌سازی پروتکل‌های اضطراری شفاف و مستقل.
