Новий звіт від організації Digitalt Ansvar свідчить, що Instagram сприяє розповсюдженню контенту, пов’язаного із самопошкодженням підлітків через неефективну модерацію.

Про це пише The Guardian.

Дослідження виявило, що Instagram не видаляє відверті зображення та сприяє формуванню спільнот, які заохочують до самопошкодження.

Данські дослідники створили мережу підроблених акаунтів у Instagram, які імітували 13-річних підлітків. Вони опублікували 85 матеріалів, пов’язаних із самопошкодженням, включаючи зображення крові, леза та заклики до дій. Протягом місяця платформа не видалила жодного посту.

Організація також створила простий штучний інтелект (AI), який зміг автоматично виявити 38% усіх публікацій і 88% найсерйозніших випадків. Це показує, що технологія для модерації існує, але Instagram не впроваджує її належним чином.

Замість того, щоб зупинити мережу самопошкодження, Instagram заохочував її розвиток. Алгоритм платформи рекомендував членам групи ставати друзями один з одним, розширюючи мережу. Це свідчить про те, що Instagram активно сприяє формуванню таких груп.

Meta відреагувала на звіт, заявивши, що видалення контенту, пов’язаного із самопошкодженням, є її пріоритетом. У першій половині 2024 року компанія видалила понад 12 мільйонів таких публікацій, 99% із яких було видалено до скарг користувачів. Meta також впровадила акаунти для підлітків із суворими налаштуваннями контролю контенту.

Digitalt Ansvar стверджує, що платформа порушує вимоги Digital Services Act ЄС, які зобов’язують великі цифрові сервіси зменшувати системні ризики, включаючи негативний вплив на фізичне та психічне здоров’я.

Голова Digitalt Ansvar, Аск Гесбі Холм, зазначив, що команда очікувала, що Instagram виявить тривожний контент.

«Ми були шоковані, коли зрозуміли, що цього не сталося. Це тривожний сигнал про відсутність належної системи для ідентифікації такого контенту», — підкреслив Холм.

Він додав: «Це викликало занепокоєння, тому що ми думали, що у них є якийсь механізм, який намагається з’ясувати та ідентифікувати цей вміст».

Нагадаємо, у Польщі мільярдер домігся штрафів для Meta через рекламні дипфейки. 

Фото: The Guardian.