شرکت OpenAI در تازه‌ترین اقدام خود برای ارتقای امنیت کاربران، قابلیت جدیدی به نام «پیش‌بینی سن» را به ChatGPT اضافه کرده است. این ویژگی با استفاده از هوش مصنوعی تلاش می‌کند تشخیص دهد که کاربر زیر ۱۸ سال است یا بالای آن، تا بتواند محافظت‌های مناسب را برای نوجوانان فعال کند. این حرکت در شرایطی انجام می‌شود که فشار نهادهای نظارتی برای ایمن‌سازی پلتفرم‌های هوش مصنوعی در حال افزایش است.

تشخیص سن در ChatGPT چگونه کار می‌کند؟

سیستم پیش‌بینی سن OpenAI بر اساس تحلیل رفتار کاربر و الگوهای تعامل او با چت‌بات طراحی شده است. این مدل هوش مصنوعی به‌جای اتکا به اظهارات کاربر، تلاش می‌کند از روی سبک نوشتار، موضوعات موردبحث و سایر سیگنال‌های متنی، تخمینی از بازه سنی ارائه دهد. هدف اصلی، شناسایی کاربرانی است که در گروه نوجوانان قرار می‌گیرند تا تنظیمات ایمنی ویژه‌ای برایشان اعمال شود.

  • برآورد سن به‌صورت تدریجی و با آموزش مداوم بهبود می‌یابد.
  • این سیستم برای هر دو گروه کمتر از ۱۸ سال و بالای ۱۸ سال طراحی شده است.
  • اقدامات حفاظتی ویژه نوجوانان پس از تشخیص سن فعال می‌شود.
  • دقت مدل با گذشت زمان و دریافت بازخورد، افزایش پیدا می‌کند.

چرا تشخیص سن برای هوش مصنوعی حیاتی است؟

یکی از چالش‌های اساسی پلتفرم‌های آنلاین، عدم توانایی در تشخیص دقیق سن کاربران است. بسیاری از نوجوانان ممکن است هنگام ثبت‌نام سن واقعی خود را وارد نکنند یا از ابزارهای دور زدن محدودیت استفاده کنند. رویکرد جدید OpenAI با تحلیل رفتاری، لایه‌ای اضافی از امنیت را ایجاد می‌کند که به محدود کردن دسترسی نوجوانان به محتوای نامناسب یا پاسخ‌های حساس کمک می‌کند. این اقدام همچنین گامی مهم در راستای شفافیت و مسئولیت‌پذیری در توسعه هوش مصنوعی محسوب می‌شود.

بهینه‌سازی تدریجی و چشم‌انداز آینده

OpenAI اعلام کرده است که این سیستم در مرحله اول با دقت کامل عمل نمی‌کند و به‌تدریج با استفاده از داده‌های واقعی و بازخورد کاربران، الگوریتم‌های خود را اصلاح خواهد کرد. این رویکرد تکاملی نشان می‌دهد که غول هوش مصنوعی به دنبال راهکاری پایدار برای کاهش خطرات احتمالی و همگامی با انتظارات قانونی است. در آینده، احتمالاً شاهد گسترش این فناوری به سایر محصولات OpenAI و حتی ارائه آن به توسعه‌دهندگان شخص ثالث خواهیم بود.

پرسش‌های پرتکرار

رویکرد OpenAI برای تشخیص سن کاربران چیست؟

OpenAI با بهره‌گیری از هوش مصنوعی و تحلیل رفتار کاربران در ChatGPT، تخمین می‌زند که آیا کاربر زیر ۱۸ سال است یا بالای آن تا محافظت‌های ویژه نوجوانان را فعال کند.

آیا تشخیص سن در ChatGPT دقیق است؟

این سیستم در ابتدا دقت کامل ندارد و به‌صورت تدریجی با آموزش مستمر و بازخورد کاربران، دقت خود را افزایش می‌دهد.