یک کلیک، و درِ حساب ChatGPT باز می‌شد
تصور کنید تنها کاری که یک مهاجم باید انجام دهد، فرستادن یک لینک اشتراک‌گذاری‌شده و متقاعد کردن شما به باز کردن آن است. پژوهشگران امنیتی شرکت Parameter دقیقاً همین سناریو را در چت‌جی‌پی‌تی به اثبات رساندند: نقصی که با باز شدن یک لینک، امکان تسلط کامل بر حساب کاربر قربانی را فراهم می‌کرد. این یافته نشان می‌دهد که حتی سرویس‌های پرکاربردی مانند ChatGPT نیز از خطر آسیب‌پذیری‌های سمت وب در امان نیستند.
بر اساس گزارش منتشرشده، تیم پژوهش با توسعه یک کد آزمایشی توانست بدون اطلاع صاحب حساب، به چت‌های خصوصی او دسترسی پیدا کند؛ چت‌هایی که هرگز با هیچ شخص یا سرویس دیگری به اشتراک گذاشته نشده بودند. بخشی از محتوای این گفتگوها نیز به‌عنوان نمونه برای محققان ارسال شد تا شدت رخنه مستند شود.
اوپن‌ای‌آی چه زمانی واکنش نشان داد؟
پس از دریافت گزارش مسئولانه از سوی تیم Parameter، مهندسان اوپن‌ای‌آی وارد عمل شدند و در بازه‌ای هشت‌روزه این شکاف امنیتی را مسدود کردند. این سرعت واکنش، تفاوت مهمی میان یک نقص مهارشده و یک فاجعه‌ی گسترده‌ی حریم خصوصی ایجاد کرد.
اوپن‌ای‌آی همچنین مبلغ پنج هزار دلار پاداش بابت کشف و گزارش این آسیب‌پذیری به پژوهشگران پرداخت کرد؛ رویه‌ای که در صنعت امنیت با عنوان «افشای مسئولانه» شناخته می‌شود و انگیزه‌ی همکاری پژوهشگران با شرکت‌ها را افزایش می‌دهد.
چرا لینک‌های اشتراکی، نقطه‌ی ضعف حساب‌های کاربری هستند؟
ویژگی اشتراک‌گذاری گفتگو در چت‌جی‌پی‌تی برای سهولت کار کاربران طراحی شده است، اما هر قابلیتی که محتوای خصوصی را با یک نشانی اینترنتی قابل‌دسترس پیوند می‌دهد، سطح حمله را گسترش می‌دهد. اگر کنترل دسترسی و اعتبارسنجی نشانی درست پیاده‌سازی نشود، همان لینک می‌تواند به ابزاری برای سرقت داده تبدیل شود.
- لینک‌های اشتراکی ناشناس را از منابع نامعتبر باز نکنید.
- گفتگوهای حاوی اطلاعات حساس یا کاری را به‌صورت عمومی به اشتراک نگذارید.
- نشست‌های فعال حساب خود را دوره‌ای بررسی و رمز عبور را تغییر دهید.
- احراز هویت دومرحله‌ای را برای حساب ChatGPT فعال کنید.
- گزارش‌های امنیتی سرویس‌ها را جدی بگیرید و به‌روزرسانی‌ها را نادیده نگیرید.
درس بزرگ برای کاربران هوش مصنوعی
این ماجرا یادآوری می‌کند که ابزارهای هوش مصنوعی مولد، به برخورداری از سواد دیجیتال و امنیتی نیاز دارند. داده‌هایی که در گفتگو با یک مدل زبانی وارد می‌کنیم، ممکن است شامل اطلاعات شغلی، مالی یا شخصی باشد؛ بنابراین پیش از هر اشتراک‌گذاری باید پرسید که آیا واقعاً لازم است این محتوا از حساب ما خارج شود یا خیر.
خوشبختانه در این مورد، رخنه پیش از سوءاستفاده‌ی گسترده بسته شد؛ اما تکرار چنین سناریوهایی نشان می‌دهد که امنیت محصولات هوش مصنوعی، به همان اندازه‌ی توانایی مدل‌ها در پاسخ‌دهی، اهمیت دارد.
پرسش‌های پرتکرار
آسیب‌پذیری کشف‌شده در ChatGPT چه خطری ایجاد می‌کرد؟
با باز کردن یک لینک اشتراک‌گذاری‌شده، مهاجم می‌توانست کنترل کامل حساب کاربر را به دست بگیرد و حتی به چت‌های خصوصی‌ای دسترسی پیدا کند که هرگز به اشتراک گذاشته نشده بودند.
آیا این نقص امنیتی هنوز فعال است؟
خیر. اوپن‌ای‌آی پس از دریافت گزارش مسئولانه از سوی شرکت امنیتی Parameter، این نقص را در بازه‌ای هشت‌روزه برطرف کرد و پاداش پنج هزار دلاری نیز به پژوهشگران پرداخت شد.
