به گزارش سرویس اخبار هوش مصنوعی وبلاگ «هما»، شرکت آنتروپیک (Anthropic) تأیید کرد که مدل زبانی بزرگ کلود (Claude) به داده‌های عمومی رأی‌دهندگان ایالت جورجیا در ایالات متحده دسترسی داشته است. این خبر ابتدا توسط Fox Business منتشر شد و واکنش‌های گسترده‌ای را در فضای مجازی و میان کارشناسان حریم خصوصی برانگیخته است.

جزئیات دسترسی کلود به داده‌های رأی‌دهندگان

بر اساس اعلام آنتروپیک، این دسترسی به داده‌های عمومی ثبت‌نام رأی‌دهندگان بوده است که به صورت قانونی در دسترس عموم قرار دارد. این داده‌ها معمولاً شامل نام، آدرس، تاریخ تولد و برخی اطلاعات تماس هستند. با این حال، تأیید این موضوع توسط آنتروپیک، سؤالات جدی درباره نحوه استفاده مدل‌های هوش مصنوعی از داده‌های حساس جمعیتی ایجاد کرده است.

واکنش کارشناسان و نگرانی‌های حریم خصوصی

کارشناسان امنیت و حریم خصوصی هشدار داده‌اند که حتی داده‌های عمومی نیز وقتی در مقیاس گسترده توسط سیستم‌های هوش مصنوعی پردازش می‌شوند، ممکن است خطرات جدیدی ایجاد کنند. برخی نگران هستند که این داده‌ها بتوانند برای نیمرخ‌سازی سیاسی، تبلیغات هدفمند یا حتی نظارت استفاده شوند. آنتروپیک نیز در بیانیه‌ای اعلام کرده است که استفاده از داده‌های عمومی را در راستای آموزش و بهبود مدل‌های خود ضروری می‌داند، اما به شفافیت بیشتر متعهد است.

اهمیت شفافیت در عصر هوش مصنوعی

این رویداد یادآور می‌شود که توسعه هوش مصنوعی نیازمند چارچوب‌های اخلاقی و قانونی دقیق است. نکات کلیدی این موضوع عبارتند از:

  • تفاوت میان داده‌های عمومی و داده‌های حساس از منظر کاربردهای هوش مصنوعی
  • لزوم افشای شفاف درباره منابع داده‌های مورد استفاده در آموزش مدل‌ها
  • ضرورت نظارت مستقل بر نحوه پردازش اطلاعات جمعیتی
  • تقویت قوانین حریم خصوصی برای پاسخگویی به چالش‌های فناوری‌های نوین

در حالی که آنتروپیک تأکید دارد که استفاده از داده‌های عمومی با قوانین موجود سازگار است، این اتفاق نشان می‌دهد که شرکت‌های فناوری باید در مورد جمع‌آوری و استفاده از داده‌ها، حتی داده‌های عمومی، رویکردی محافظه‌کارانه‌تر و شفاف‌تر در پیش بگیرند.

پرسش‌های پرتکرار

کلود چه داده‌هایی از رأی‌دهندگان جورجیا دریافت کرده است؟

بر اساس تأیید آنتروپیک، کلود به داده‌های عمومی ثبت‌نام رأی‌دهندگان جورجیا مانند نام، آدرس و تاریخ تولد دسترسی داشته است که این داده‌ها به صورت قانونی در دسترس عموم قرار دارند.

واکنش آنتروپیک به نگرانی‌های حریم خصوصی چه بوده است؟

آنتروپیک اعلام کرده که استفاده از داده‌های عمومی برای آموزش مدل‌ها ضروری است و تأکید کرده که این کار با قوانین موجود سازگار است. با این حال، این شرکت به شفافیت بیشتر و رعایت اصول اخلاقی در توسعه هوش مصنوعی متعهد شده است.