Автори:

Юлія Поліковська

Компанія TikTok тестує новий ШІ-інструмент Symphony Digile Avatars Tiktok, що дає змогу генерувати відео з цифровим аватаром та їх озвученням на основі зображень на плакатах та розміщених на них закликів. Посилання на інструмент помилково опублікували для користувачів-рекламодавців відеоплатформи TikTok Ads Manager. Скориставшись цим, редакція CNN згенерувала відео з цитатами Гітлера, що суперечить встановленим щодо контенту правилам соцмережі. Про це повідомило The Verge.

Першою «лазівку» помітила редакція телеканалу CNN. Відтак згенерували з допомогою ШІ-інструмента відео з цитатами Гітлера про «білу расу», відео з промовою Осами Бін Ладена «Лист до Америки» та фейкову інструкцію, як голосувати на виборах.

TikTok placed zero content restrictions on the app. Any words we put in created a video with a peppy “Stock AI” Avatar reciting them. That included:

-The 14 words
-An excerpt from Mein Kampf
-Osama Bin Laden’s Letter to America
-A video telling people to drink bleach from “a… pic.twitter.com/I2QbqbDFnw

— Jon Sarlin (@jonsarlin) June 21, 2024

CNN не публікувало згадуваних відео, проте стало зрозуміло, що наразі інструмент не містить жодних обмежень щодо генерації забороненого контенту та не пропонує додавати водяний знак на ШІ-відео.

Прессекретарка компанії TikTok Лора Перес запевнила медіа, що в разі, якби CNN опублікувало згадувані відео в соцмережі, їх заблокували б за невідповідність встановленим стандартам.

• Читайте також: «Forbes Україна»: TikTok призупинив перемовини про відкриття свого представництва в Україні

 Фото: «TiкToк» / Getty Images