هشدار جدی درباره آینده نزدیک
یکی از اعضای پرکار هیئت امنای OpenAI اخیراً اظهاراتی مبنی بر نزدیکی مواجهه بشر با مرحله‌ای که هوش مصنوعی کنترل کامل را به دست می‌گیرد، تقدیم کرده است. این افشاگری باعث می‌شود مسیری که پیش از آن انتظار می‌رفت تا سال‌ها آینده اتفاق بیفتد، اکنون به ماه‌ها کاهش یابد و نگرانی‌های جدی‌ای در جامعه فناوری ایجاد کند.
- کاهش بازه زمانی تا رسیدن به تکامل هوش مصنوعی
- ریسک‌های ناشی از عدم نظارت کافی بر توسعه مدل‌ها
- ضرورت کار بر روی پروتکل‌های جدی‌تر برای کنترل توسعه
تفصیل اعتراضات هیئت امنا
بر اساس گزارش‌های منتشر شده از Gizmodo، این عضو هیئت امنا به چالش‌های پیش‌رو و خطرهای ناشی از بی‌توجهی به قوانین و مقررات توسعه هوش مصنوعی اشاره داشته است. او معتقد است که تقویت بیشتر هوش مصنوعی می‌تواند منجر به وضعیتی شود که ما در آن قدرت بازگشت بر کنترل پرهزینه کنیم، از جمله اگر فیدبک‌ها به‌طور کافی دنبال نشود.
اثرات این هشدار بر آینده هوش مصنوعی
این هشدارها می‌توانند حساسیت‌ها بخصوص در حوزه قانونگذاری و اخلاق هوش مصنوعی افزایش دهند. به نظر می‌رسد که بقیه شرکت‌های فناوری نیز می‌بایست به آن‌ها توجه کنند و سرمایه‌گذاری در زمینه‌های مشابه از جمله حوزه‌های تست ایمنی و کنترل، را افزایش دهند. در حالی که برخی این هشدارها را زیاده‌روی می‌دانند، اما نمی‌توان از احتمال این احتمال بد بین وجود خودداری کرد.
پرسش‌های پرتکرار
چه زمانی می‌تواند به هوش مصنوعی کنترل کامل برسیم؟
بر اساس هشدار عضو هیئت امنای OpenAI، این مرحله می‌تواند تا چند ماه دیگر رخ دهد.
پیشنهادهای OpenAI برای کنترل هوش مصنوعی چیست؟
OpenAI پیشنهاد دیده‌شدن در کنترل توسعه هوش مصنوعی و افزایش سرمایه‌گذاری در تعیبه‌ری یا پیش‌بینی ریسک‌ها را مطرح کرده است.
