پیشینهٔ سرمایه‌گذاری در Anthropic
Anthropic یک شرکت پیشتاز در حوزهٔ هوش مصنوعی است که در سال‌های اخیر به سرعت به‌دنبال توسعه‌ی مدل‌های متقارن و ایمن تشخیص‌گران انسانی می‌باشد. به‌جای رقابت با شرکت‌های هماهنگ، هدف Anthropic تمرکز بر روی ساخت هوش مصنوعی قابل کنترل و قابل پیش‌بینی است. سرمایه‌گذاری‌های اخیر در این حوزه، گرایش به سمت سرمایه‌گذاری در پروژه‌های تحقیقاتی با قابلیت توسعه نوآورانه دارند.
ریسک‌های ایمنی و فیزیکی در هوش مصنوعی
با توجه به روند رشد هوش مصنوعی، سفارشی‌سازی رایانش، همان‌طور که در گزارش WSMV برجسته شد، ریسک‌های چندگانه‌ای ایجاد می‌شود. شامل خطرات زیر است:
- عملکرد بی‌پایان مدل‌های یادگیری ماشینی
- عدم وضوح در مستندسازی و کدهای زیرساخت
- عدم تطابق اهداف انسانی در الگوریتم‌های تصمیم‌گیری
- راندمان بیشتر مدل‌ها نسبت به کنترل‌های انسانی
- کاهش شفافیت در مجموعه داده‌های بزرگ
چگونه می‌توان ریسک‌های احتمالی را کنترل کرد؟
برای کاهش خطرات مذکور، توصیه‌های زیر می‌تواند راهکارهای اولیه‌ای باشد:
۱. اجرای آزمایش‌های ارتقای مدل در محیط‌های کنترل‌شده؛
۲. ایجاد شفافیت در فرآیندهای طراحی و برقراری مسیری برای بازخورد؛
۳. بسته‌بندی دقیق مدل‌های چابک به‌منحیث یک سرویس با قابلیت بازجویی؛ و
۴. همکاری نزدیک با سازمان‌های نظارتی برای هم‌سازکردن مقررات و خط‌مشی‌های اخلاقی.
پرسش‌های پرتکرار
Anthropic چیست و چه نقش ایفا می‌کند؟
Anthropic یک شرکت توسعه هوش مصنوعی است که با هدف ایجاد مدل‌های ایمن و قابل کنترل، به‌دنبال ایجاد نوآوری در حوزه تنظیم الگوریتم‌های یادگیری ماشینی است.
خطرات احتمالی آیندهٔ هوش مصنوعی چگونه ارزیابی می‌شود؟
ارزیابی خطرات احتمالی توسط تجزیه و تحلیل‌های فنی، مدل‌سازی شبیه‌سازی، و شفاف‌سازی داده‌ها و کدها صورت می‌گیرد و نه‌بودن هماهنگ با معیارهای اخلاقی و حقوقی بررسی می‌شود.
