Платформа Ілона Маска X впровадила технологічні заходи щодо роботи чатбота Grok — він більше не зможе редагувати зображення реальних людей у відвертому одязі, зокрема в бікіні. Про це йдеться в заяві компанії.

Нові правила діють для всіх користувачів — навіть для власників платної підписки. 

Про зміну в політиці X оголосила через кілька годин після того, як генеральний прокурор Каліфорнії заявив, що штат розслідує поширення сексуалізованих дипфейків, зокрема із зображенням дітей, згенерованих цим чатботом.

«Тепер ми геоблокуємо можливість створювати зображення реальних людей у ​​бікіні, спідній білизні та подібному одязі через обліковий запис Grok та в Grok у X для всіх користувачів у тих юрисдикціях, де це незаконно», — повідомили в компанії.

Створювати та редагувати зображення через Grok на платформі X тепер можуть лише платні користувачі. У компанії вважають, що це має допомогти притягнути до відповідальності тих, хто намагається зловживати інструментом і порушувати закон або правила платформи.

Нагадаємо, 2 січня Bloomberg повідомило, що чатбот Grok на запити користувачів генерував зображення неповнолітніх у мінімальному одязі, чим порушив свою власну політику, яка забороняє сексуалізацію дітей. 

Після публікацій у медіа Маск написав, що «ті, хто використовує Grok для створення незаконного контенту, зазнають тих самих наслідків, що й ті, хто завантажує цей контент». Сам чатбот повідомив про «прогалини в захисних механізмах».

Органи влади Франції та Малайзії розпочали розслідування щодо Grok через створення ним сексуалізованих зображень жінок і неповнолітніх. В Індії заявили, що X має вжити заходів, щоб обмежити чатбот у створенні контенту, який порушує закон. 

Єврокомісія засудила поширення чатботом Grok подібних дипфейків на платформі X і заявила, що ті є «незаконними» та «огидними». Премʼєр Великої Британії Кір Стармер сказав, що британський регулятор може заблокувати ікс на території країни.

За підрахунками Bloomberg,  Grok щогодини генерував близько 6700 зображень, які містять сексуальний підтекст або оголені тіла, тоді як інші сайти з подібним контентом — 79.

9 січня стало відомо, що Grok вимкнув генератор зображень для більшості користувачів після хвилі обурення. Водночас деякі країни ухвалили рішення заблокувати чатбот. Зокрема, Індонезія тимчасово заборонила Grok через ризик поширення порнографічного контенту, створеного ШІ. 

Фото: Unsplash