Компанія пішла на такий крок після критики через поширення неприйнятного контенту на платформі, який порушує її правила та містить сцени насильства чи заклики до нього. YouTube виявилася однією з декількох інтернет-компаній, які зазнали тиску з боку ЄС та національних урядів, які зажадали, аби такі відеоролики видалялися якнайшвидше.

Це перший звіт YouTube щодо модерування відео. Він охоплює період між жовтнем та груднем 2017 року. В цей звіт не увійшли ролики, які були видалені через порушення авторських прав. Більшість неприйнятних відеороликів (6,7 млн) були знайдені алгоритмами YouTube. Ще 1,1 млн були знайдені «довіреними користувачами».

Як YouTube знаходить ролики, які порушують правила платформи.

YouTube зробила «цифрові відбитки» видалених роликів, тож якщо хтось вирішить завантажити їх повторно, вони будуть негайно видалені.

Нещодавно в галузі виникла дискусія про психологічний тиск, якого зазнають модератори через постійний перегляд відео та фото зі сценами насильства. Як правило, до такої роботи залучають сторонніх підрядників, які не мають таких же переваг та доступу до психологічної допомоги, як штатні працівники великих ІТ-компаній. CEO YouTube Сьюзан Войчицькі заявила, що модератори платформи працюватимуть не більше 4 годин на день.

Кілька місяців тому модераторка Facebook Сара Кец розповіла про психологічний тиск через перегляд відео з порнографією та насильством. Вона 8 місяців пропрацювала на агенцію, що була підрядником соцмережі. «Якби мені запропонували психологічну допомогу, то я скоріше б за все нею скористалася. Звичайно, вони нас попереджали, але попередження і те, що ти реально бачиш, - зовсім різні речі», - розповіла вона.