نهاد نظارت بر محتوای دیجیتال اتحادیه اروپا در تحقیقی که هفته‌ها به طول انجامید، تیک‌تاک را موظف به بازطراحی الگوریتم فید «برای شما» (For You) کرده است. این اقدام پس از آن صورت گرفت که شواهدی در خصوص توصیه محتوای مضر — از جمله محتوایی که می‌تواند سلامت روان کاربران را به خطر بیندازد — به دست آمد.
زمینه‌های تحقیق ناظران اروپایی
این تحقیق در چارچوب مقررات خدمات دیجیتال قانون (DSA) اتحادیه اروپا انجام شد. بر اساس یافته‌ها، الگوریتم توصیه‌گر تیک‌تاک در برخی موارد محتوایی را به کاربران نشان داده که با استانداردهای امنیت آنلاین و محافظت از کاربران — به‌ویژه نوجوانان — همخوانی ندارد. ناظران ضمن به رسمیت شناختن حق شرکت‌ها برای طراحی موتورهای توصیه‌گر خود، تأکید کردند که این آزادی نباید به قیمت کاهش ایمنی کاربران تمام شود.
فید «برای شما» مهم‌ترین و پرجنب‌وجوش‌ترین بخش تیک‌تاک است و همین الگوریتم است که محتوای هر کاربر را بر اساس عادات مشاهده‌اش شخصی‌سازی می‌کند. این فید مجبور به تغییراتی ساختاری خواهد شد تا سازوکار پیشنهاددهی آن شفاف‌تر و ایمن‌تر از پیش شود.
چه چیزی باید تغییر کند؟
بر اساس دستور صادرشده، تیک‌تاک موظف است سازوکارهای مؤثری برای پیشگیری از بازنشر محتوای خاص ایجاد کند. موارد کلیدی که باید مورد بازبینی قرار گیرند عبارتند از:
- بازبینی پارامترهای رتبه‌بندی محتوا در فید توصیه‌ای
- کاهش احتمال تکرار یا تقویت محتوای بالقوه مضر
- ارائه ابزارهای شفاف‌تر به کاربران برای کنترل محتوای دریافتی‌شان
- افزایش توجه ویژه به محافظت از کاربران کم‌سن‌ویکال
پیامدها برای تیک‌تاک و صنعت فناوری
این تصمیم می‌تواند اثری گسترده‌تر از یک شرکت واحد داشته باشد. سایر پلتفرم‌های مبتنی بر هوش مصنوعی که فیدهای پیشنهادی دارند — از اینستاگرام و یوتیوب گرفته تا پلتفرم‌های کوچک‌تر — نیز ممکن است تحت فشار مشابه ابتکارهای مشابهی را داشته باشند. این رویداد نشان می‌دهد که قانون‌گذاران اروپایی قصد دارند به طور جدی‌تری روی نقش الگوریتم‌های مبتنی بر هوش مصنوعی در زندگی روزمره مردم نظارت کنند.
تیک‌تاک پیش از این نیز با مجموعه‌ای از چالش‌های قانونی در بازارهای مختلف مواجه بوده است، اما فشار ناشی از قوانین اتحادیه اروپا می‌تواند تغییرات اساسی‌تری را در نحوه عملکرد این پلتفرم ایجاد کند. حال باید دید شرکت به دستور صادرشده چه واکنشی نشان خواهد داد و تمامیت اصلاحات تا چه حد خواهد بود.
پرسش‌های پرتکرار
اتحادیه اروپا دقیقاً از تیک‌تاک چه خواسته‌ای دارد؟
ناظران اتحادیه اروپا تیک‌تاک را مجبور کرده‌اند تا فید «برای شما» را بازطراحی کند تا از پیشنهاد محتوای مضر به کاربران — به‌ویژه نوجوانان — جلوگیری شود.
این تصمیم بر سایر پلتفرم‌ها چه تأثیری خواهد داشت؟
این تصمیم می‌تواند الگویی برای پلتفرم‌های دیگر مبتنی بر هوش مصنوعی مانند اینستاگرام و یوتیوب باشد و همگی تحت فشار مشابهی برای بهبود الگوریتم‌های پیشنهادی خود قرار گیرند.
