Інцидент, про який повідомляє The Verge, стався в лютому 2021 року, коли деякі кабінети лікарів все ще були закриті через пандемію COVID-19. Чоловік на ім'я Марк (прізвище його не розголошується) помітив набряк в області геніталій своєї дитини й на прохання медсестри надіслав зображення проблемної зони. Лікар призначив антибіотики, які вилікували інфекцію.

Через два дні Марк отримав сповіщення від Google, у якому говорилося, що його акаунти заблоковано через «шкідливий вміст», який є «серйозним порушенням політики Google і може бути незаконним». Google позначив фото малюка як матеріали сексуального насильства над дітьми (CSAM). Компанія також подала звіт до Національного центру у справах зниклих і експлуатованих дітей (NCMEC) і ініціювала розслідування поліції.

Як повідомляє видання, Марк втратив доступ до своїх електронних листів, контактів, фотографій і навіть свого номера телефону, оскільки він використовував мобільний сервіс Google Fi. Марк негайно спробував оскаржити рішення Google, але Google відхилив запит Марка. У грудні 2021 року департамент поліції Сан-Франциско, де живе Марк, розпочав розслідування проти Марка та отримав усю інформацію, яку він зберігав у Google. Слідчий у справі зрештою встановив, що інцидент «не містить ознак злочину і злочину не було».

Як і багато інших інтернет-компаній, у тому числі Facebook, Twitter і Reddit, Google використовував хеш-зіставлення за допомогою Microsoft PhotoDNA для сканування завантажених зображень, щоб виявити збіги з відомими CSAM. У 2012 році це призвело до арешту чоловіка, який був зареєстрованим сексуальним злочинцем і використовував Gmail для надсилання зображень молодої дівчини.

У 2018 році Google оголосив про запуск свого набору інструментів Content Safety API AI, який може «завчасно ідентифікувати ніколи раніше не бачені зображення CSAM, щоб їх можна було переглянути та, якщо буде підтверджено, якомога швидше видалити та повідомити про них». Компанія використовує цей інструмент для власних служб і разом із рішенням для зіставлення хешів CSAI Match, розробленим інженерами YouTube, пропонує для використання й іншим.

Критики стверджують, що практика сканування фотографій користувачів безпідставно посягає на їх конфіденційність. Джон Каллас, директор технологічних проєктів EFF, назвав дії Google «нав’язливими». «Це кошмар, яким ми всі стурбовані. Вони скануватимуть мій сімейний альбом, а потім у мене будуть проблеми», — сказала Каллас.

Раніше «MediaSapiens» розповідав про світній проєкт #stop_sexтинг та надавав рекомендації, як захистити дитину у разі виникнення таких ситуацій.

Фото:  Рexels