У TikTok зʼявляються згенеровані штучним інтелектом відео, на яких діти розповідають про обставини своєї смерті
У TikTok зʼявляються згенеровані штучним інтелектом відео, на яких діти розповідають про обставини своєї смерті
У TikTok ширяться відеоролики, на яких померлі діти розповідають поробиці власної смерті. Зображення справжніх неповнолітніх генерують за допомогою технології штучного інтелекту. На деякі з відео вже відреагували батьки, які випадково побачили історії своїх померлих дітей на платформі. Про це повідомив The Washington Post, передає Zmina.
З березня цього року соцмережа забороняє поширювати фото реальних дітей, доповнені штучним інтелектом. Попри це, відео з використанням технології продовжують зʼявлятися в тіктоку.
Так, у мережі помітили відео, створене з образу дворічного британського хлопчика, якого у 1993 році викрали та вбили, доки його мама розраховувалася в магазині.
«Привіт, мене звуть Джеймс Балджер. Якби моя мама повернулася направо, зараз я міг би бути живим. На жаль, вона повернулася наліво», — каже дитячий голос, що насправді не належав загиблому хлопчику.
Як зауважують у The Washington Post, штучний інтелект посилається на реальні слова мами Джеймса про те, що вона не помітила, як того дня її сина забрали двоє десятирічних хлопців.
Амелі Лемʼє також випадково побачила відео, у якому начебто її 11-річна донька Нора розповідала, що її з сестрою вбив батько, який згодом покінчив життя самогубством. І хоча після розголосу TikTok видалив анонімний акаунт, що опублікував це відео, однак його автора досі не ідентифікували.
Окрім цього, мережа видалила кілька відеороликів, на яких хлопчик на імʼя Джеймс розповідає про своє викрадення та смерть у Кіркбі. Платформа видалила ці відео після скарг, однак багато з них досі доступні для перегляду на ютубі.
Мати Джеймса, Деніз Фергюс, назвала ролики про її сина огидними: «Використовувати обличчя і рухи губами дитини, якої більше немає, яку жорстоко забрали у нас… Немає слів».
Представник TikTok Барні Хупер вважає такий контент «тривожним». Він заявив, що платформа забороняє подібні відео.
«У наших правилах спільноти чітко зазначається, що ми не допускаємо штучних зображень дітей. Ми продовжуємо видаляти контент такого характеру, коли знаходимо його», — зазначив Хупер.
Нагадаємо, нещодавно на відеоплатформі TikTok почали впроваджувати для користувачів способи повідомляти про контент, згенерований за допомогою штучного інтелекту. У розділі «Додаткові параметри» консультант із соцмереж Метт Навара помітив новий перемикач «Контент, згенерований ШІ». Немарковане відео невдовзі зможуть видаляти з платформи.
Фото: The Verge
