Алгоритми рекомендацій інстаграму пов’язують і просувають акаунти, які шукають та продають контент із сексуальним насильством над дітьми. Про це йдеться у публікації The Wall Street Journal, що ґрунтується на дослідженні, проведеному працівниками Стенфордського університету та Університету Массачусетса в Амхерсті.

Дослідники виявили, що інстаграм дозволяв людям шукати відверті хештеги, такі як #pedowhore і #preteensex, і сконтактовував їх з обліковими записами, які використовували ці терміни для реклами матеріалів дитячого сексу на продаж. У таких облікових записах з відверто сексуальними назвами часто стверджувалося, що їх власниками є діти.

«Через широке використання хештегів, відносно довге існування акаунтів продавців і, особливо, дієвий алгоритм рекомендацій, інстаграм слугує ключовим механізмом пошуку для цієї специфічної спільноти покупців і продавців», — сказано в дослідженні.

Дослідники виявили, що алгоритми рекомендацій інстаграму також просувають їх користувачам, які переглядають акаунт у мережі, що дає змогу знаходити акаунти без пошуку за ключовими словами.

Meta відповіла на запити WSJ перед публікацією, сказавши, що заблокувала тисячі хештегів, які сексуалізують дітей, декотрі з яких, за даними журналу, містили мільйони публікацій.

Технологічний гігант також заявив, що заборонив своїм системам рекомендувати пошукові терміни користувачам, які пов’язані з сексуальним насильством над дітьми.

Згідно з публікацією WSJ, Meta видалила опцію, яка дозволяє користувачам переглядати підозрювані випадки сексуального насильства, лише після того, як видання запитало про це, і компанія відмовилася пояснити, чому взагалі була така опція.

Також Meta запевнила WSJ, що працює над запобіганням тому, щоб її системи рекомендували потенційно педофілічним дорослим зв’язуватися одне з одним або взаємодіяти з вмістом одне одного.

Після публікації комісар ЄС з питань внутрішнього ринку Тьєррі Бретон заявив, що особисто відвідає штаб-квартиру Meta в Каліфорнії 23 червня, щоб обговорити це питання з її власником Марком Цукербергом.

«Здається, добровільний кодекс #Meta щодо захисту дітей не працює», — написав Бретон у твітері й додав, що «тепер Марк Цукерберг повинен пояснити та вжити негайних заходів».

#Meta’s voluntary code on child protection seems not to work.

Mark Zuckerberg must now explain & take immediate action.

I will discuss with him at Meta’s HQ in Menlo Park on 23 June.

After 25 August, under #DSA Meta has to demonstrate measures to us or face heavy sanctions. pic.twitter.com/jA25IJH8Dp

— Thierry Breton (@ThierryBreton) June 8, 2023

За словами Бретона, наприкінці літа на Meta почне поширюватися закон Європейського Союзу про модерацію контенту. Порушення закону «Про цифрові послуги» можуть спричинити «суворі санкції»: штраф може сягнути 6% світового доходу компанії.

Нагадаємо, раніше повідомлялося, що рекомендації ютубу можуть вести дітей до відео про шкільні стрілянини та іншого контенту, пов’язаного зі зброєю. Про це свідчать дані некомерційної наглядової групи Tech Transparency Project.

Фото: Unsplash