الگوریتم‌های اینستاگرام محتوای جنسی را به نوجوانان نشان می‌دهد

به گزارش اخبار جدید به نقل از پیوست، این آزمایش‌ها که طی هفت ماه منتهی به ژوئن انجام گرفته‌اند، ادعای شرکت متا در ماه ژانویه را که اعلام کرده بود برای نوجوانان تجربه‌ای مناسب سن آنها فراهم می‌کند و محتوای حساس و به ویژه محتوای جنسی را از پیشنهادات آنها حذف خواهد کرد، نقض می‌کنند.

در آزمایش دیگری توسط وال‌استریت ژورنال و لاورا ادلسون، استاد کامپیوتر دانشگاه Northeastern، نیز در رویکردی مشابه حساب‌هایی جدید با سن ۱۳ سال مورد بررسی قرار گرفتند. سپس با استفاده از این حساب‌ها به بخش ریلز اینستاگرام مراجعه شد.

اینستاگرام از همان ابتدای کار ترکیبی از ویدیو‌ها را در اختیار این حساب‌ها قرار داد که در رده متوسط جنسی قرار می‌گیرند و زنان را در حالت‌های تحریک‌کننده به نمایش می‌گذارند. اما پس از آنکه کاربر محتواهای معمولی را کنار زده و تنها به محتوای جنسی توجه نشان داد، وضعیت محتوای پیشنهادی بدتر شد.

تنها پس از سه دقیقه ویدیو‌هایی مربوط به تولیدکنندگان محتوای بزرگسال در الگوریتم اینستاگرام پدیدار شد. پس از ۲۰ دقیقه تماشای ریلز، بیشتر پیشنهادات این حساب‌ها مربوط به چنین حساب‌هایی بود و در پست‌های مربوطه موضوعاتی مثل ارسال تصاویر برهنه نیز مطرح شده بود.

آزمایشی مشابه با نتایج یکسان در شبکه اجتماعی اسنپ‌چت همراه بود اما تیک‌تاک تا این سطح از محتوای جنسی را برای کاربران کم سن پیشنهاد نمی‌کرد.

ادلسون می‌گوید: «این در حالی است که هر سه پلتفرم می‌گویند بین محتوای پیشنهادی برای نوجوانان و بزرگسالان تفاوت وجود دارد. اما حتی بزرگسالان در تیک‌تاک نیز چنین سطحی از محتوای بزرگسالی که نوجوانان در بخش ریلز اینستاگرام تجربه می‌کنند را شاهد نیستند.»

متا یافته‌های این بررسی را رد کرده و می‌گوید با تجربه کلی نوجوانان در این پلتفرم مغایرت دارد.

اند استون، سخنگوی متا، گفت: «این یک تجربه مصنوعی است و با وقعیت سبک استفاده نوجوانان از اینستاگرام تفاوت دارد.»

به گفته استون، این شرکت تمهیداتی را در نظر گرفته تا محتوای نامناسب به کودکان و کاربران کم سن و سال پیشنهاد داده نشود. او می‌گوید: «در بخشی از تلاش مداوم ما در رابطه با جوانان، ما سعی کردیم تا حجم محتوای حساسی که نوجوان ممکن است در اینستاگرام مشاهده کند را کاهش دهیم و در چند ماه گذشته به شکل معناداری ارقام را کاهش داده‌ایم.»

بخش زیادی از بررسی‌های ادلسون و وا‌استریت ژورنال در ماه‌های ژانویه تا آوریل انجام شده‌اند. بررسی دیگری از سوی این روزنامه در ماه ژوئن نیز نشان داد که مشکل همچنان ادامه دارد. طی این بررسی، یک حساب آزمایشی ۱۳ ساله تنها نیم ساعت پس از افتتاح حساب و با تماشای ویدیو‌هایی با حضور زنان، در نهایت محتوایی مربوط به موضوعات صریح جنسی دریافت کرد.

آزمایش‌های داخلی متا نیز مساله را تایید می‌کنند

بررسی‌ها و آزمایش‌هایی که کارکنان متا انجام داده‌اند نیز به مشکلات مشابهی اشاره می‌کند. به گفته برخی از کارکنان فعلی و سابق این شرکت و مستنداتی که به رویت وال‌استریت ژورنال رسیده‌اند، کارمندان بخش امنیت متا در سال ۲۰۲۱با انجام آزمایش‌هایی مشابه آنچه ادلسون و وال‌استریت ژورنال انجام دادند، به نتایج یکسان دست یافتند.

مستندات نشان می‌دهد که اقدامات خودکار متا برای جلوگیری از تزریق محتوای جنسی و خشونت آمیز به فید نوجوانان در بیشتر موارد بسیار ضعیف یا بی‌ثمر است.

این مستندات می‌گویند که بهترین راه برای جلوگیری از پیشنهاد چنین محتوایی به نوجوانان، ساخت یک سیستم پیشنهاد کاملا جداگانه برای آنها است که البته متا چنین پیشنهادی را دنبال نکرده است.

کارکنان متا می‌گویند که حتی برخی از مدیران ارشد از جمله آدام ماسوری، رئیس اینستاگرام، نیز درمورد نمایش محتوای جنسی و خشونت آمیز به کودکان اظهار نگرانی کرده‌اند.

بخشی از وظیفه الگوریتم ریلز اینستاگرام، تشخیص علایق کاربر است و این کار را براساس زمان تماشا یا توجه او به یک دسته خاص از محتوا انجام می‌دهد.

با این حال براساس سیاست‌هایی که متا برای سیستم پیشنهاد محتوای خود در نظر گرفته است، محتوای جنسی نباید به کاربر نوجوان و زیر سن قانونی پیشنهاد شود، مگر اینکه فرد یک حساب تولیدکننده این محتوا را مستقیما دنبال کرده باشد.

با این حال آزمایش‌ وال‌استریت ژورنال و چندین پژوهشگر دیگر نشان می‌دهد که بخش پیشنهادات اینستاگرام به راحتی چنین محتوایی را در فید کاربران ۱۳ ساله تزریق می‌کند و تنها نیم ساعت برای غرق شدن کودکان در محتوای جنسی کافی است.