چرایی ضرورت امنیتی در آموزش و پرورش
ورود ابزارهای هوش مصنوعی به کلاس‌های درس از پایه تا دبیرستان، افق‌های جدیدی از یادگیری باز کرده است، اما همزمان نگرانی‌های جدی‌ای را پیرامون امنیت داده‌ها ایجاد کرده است. مدرسه‌ها مخازن عظیمی از اطلاعات شخصی سن، محل سکونت، پیشرفت تحصیلی و گاه مسائل روان‌شناختی دانش‌آموزان هستند که محافظت از آن‌ها اولویت مطلق است.
رسانه‌هایی که داده‌های حساس را جمع‌آوری می‌کنند
بسیاری از پلتفرم‌های آموزشی مبتنی بر هوش مصنوعی برای بهبود الگوریتم‌های خود، داده‌های ورودی کاربران را ذخیره و پردازش می‌کنند. اگرچه دستورات داده‌منفی از سمت مشاغل‌ها وجود دارد، اما شفافیت دربارۀ نحوه استفاده از این داده‌ها اغلب گمراه‌کننده است و نیازمند نظارت دقیق است.
- صحت داده‌ها و نادرستی در پاسخ‌های مدل‌ها
- بارگذاری تصادفی اطلاعات‌های مدرسه در چت‌بات‌ها
- عدم امکان حذف اجباری داده‌ها پس از استفاده
راهکارهای عملی برای مدیران مدارس
مدیران و معلمان باید قبل از استقرار هر ابزار هوش مصنوعی، نهادهای حقوقی و فنی را درگیر کنند. سیاست‌های واضح برای استفاده از این ابزارها، آموزش دانش‌آموزان دربارۀ حقوق داده (یا «حق فراموشی» و «اطلاعات‌دهی») و نظارت بر فعالیت‌های الکترونیکی، ارکان اصلی این دفاع نیست.
مستقبل امنیت در آموزش
با تشدید رقابت در بازار EdTech و سرعت بالای توسعه فناوری، انتظار باید باشد که استانداردهای ایمنی در مقایسه با توسعه‌ها عقب بماند. همکاری فعال مدرسه‌ها با نهادهای نظارتی جهت تدوین چارچوب‌های امانتوری، کلید ایجاد اعتماد از سوی والدین و دانش‌آموزان است.
پرسش‌های پرتکرار
آیا استفاده از چت‌بات‌های عمومی برای کارهای مدرسه امن نیست؟
خیر؛ ورود اطلاعات دانش‌آموزان به سرورهای عمومی می‌تواند منجر به نشت اطلاعات شخصی و حتی بارگذاری داده‌های حساس در آموزش تجاری الگوریتم‌ها شود. از ابزارهای مجاز و ایمن‌سازی شده استفاده کنید.
مدیران مدارس باید از چه جنبه‌هایی هوش مصنوعی را بسنجید؟
تمرکز اصلی باید روی روش‌های جمع‌آوری داده، نحوه‌ی ذخیره‌سازی، دسترسی‌پذیری والدین برای حذف اطلاعات و شفافیت پلتفرم دربارۀ استفاده از داده برای آموزش مدل باشد.
