Чатбот зі штучним інтелектом Grok, розроблений компанією xAI Ілона Маска, щогодини генерував близько 6700 зображень, які містять сексуальний підтекст або оголені тіла. Про це, як пише Bloomberg, свідчать результати аналізу, який провели протягом однієї доби — з 5 по 6 січня.

За словами дослідниці соціальних мереж і дипфейків Женевʼєв О, пʼять інших провідних вебсайтів з подібним контентом публікували в середньому 79 таких зображень на годину. Дослідники також підрахували, що 85% усіх зображень Grok мають сексуалізований характер.

З кінця грудня користувачі соцмережі X все активніше просили Grok згенерувати роздягнені зображення з фото інших користувачів. За словами юристки, що спеціалізується на сексуальних злочинах в інтернеті, Керрі Голдберг, масштаби дипфейків на іксі «безпрецедентні», оскільки чатбот безплатний і не має обмежень на створення такого контенту.

Жертви дипфейків почали сперечатися з Grok у коментарях до своїх постів. Чатбот часто просить вибачення та каже, що видалить зображення. Але в багатьох випадках вони залишаються активними, а Grok продовжує створювати нові.

Нагадаємо, органи влади Франції та Малайзії розпочали розслідування щодо Grok через створення ним сексуалізованих зображень жінок і неповнолітніх. В Індії заявили, що X має вжити заходів, щоб обмежити чатбот у створенні контенту, який порушує закон. 

Єврокомісія засудила поширення чатботом Grok сексуалізованих зображень на платформі X і заявила, що ті є «незаконними» та «огидними». Пояснень від соцмережі також вимагає Велика Британія.

Сам Ілон Маск висловив думку, що відповідальність мають нести користувачі, які спонукають чатбот створювати незаконний контент. «Будь-хто, хто використовує Grok для створення незаконного контенту, зазнає тих самих наслідків, що й ті, хто завантажує цей контент», — писав він в іксі.

Фото: Unsplash