В американському штаті Каліфорнія за тиждень було подано до суду сім позовів проти ChatGPT компанії OpenAI, в яких стверджується, що взаємодія з чатботом призвела до серйозних психічних зривів та кількох смертей. Про це повідомляє The Guardian.

За даними Центру правового захисту жертв соціальних мереж та Проєкту технічного правосуддя, які подавали позови від імені клієнтів, всі позивачі на початку використовували ChatGPT для «загальної допомоги зі шкільними завданнями, дослідженнями, письмом, рецептами, роботою або духовним керівництвом».

Однак з часом чатбот «еволюціонував у психологічно маніпулятивну особистість, позиціюючи себе як довірену особу, що надає емоційну підтримку».

«Замість того, щоб направляти людей до професійної допомоги, коли вони її потребували, ChatGPT посилював шкідливі марення, а в деяких випадках діяв як «тренер із самогубства», — заявили представники організацій.

Зокрема, йдеться про чотири смертельні випадки.

Один стосується Зейна Шамбліна з Техасу, який покінчив життя самогубством у липні у віці 23 років. Його родина стверджує, що ChatGPT погіршив ізоляцію їхнього сина, заохочував його ігнорувати близьких та «підбурював» до самогубства.

Інший випадок стосується Аморі Лейсі з Джорджії, чия родина стверджує, що за кілька тижнів до того, як Лейсі покінчив життя самогубством у віці 17 років, ChatGPT розповідав йому, «як найефективніше зав’язати петлю і як довго він зможе “жити без дихання”».

У третій заяві родичі 26-річного Джошуа Еннекінга стверджують, що він звернувся по допомогу до ChatGPT, але «натомість його заохотили діяти за планом самогубства». Чатбот, після довгих розмов про депресію та суїцидальні думки, надав Джошуа інформацію про те, як придбати та використовувати зброю, за кілька тижнів до його смерті.

Остання справа стосується Джо Чекканті, дружина якого звинувачує ChatGPT в тому, що він спричинив у Чекканті «депресію та психотичні марення». Його родина каже, що чоловік був впевнений, що бот розумний, у червні у нього стався психічний зрив, Джо двічі госпіталізовували, але він скоїв суїцид у віці 48 років.

Повідомляється, що всі користувачі, згадані в позовах, використовували ChatGPT-4o.

Окрім відшкодування збитків, позивачі вимагають змін у продукті, включно із введенням обов'язкового повідомлення контактних осіб у разі висловлення користувачами суїцидальних думок, автоматичне припинення розмови під час обговорення самоушкодження або методів самогубства, а також інші заходи безпеки.

Нагадаємо, ChatGPT під час спілкування з 20-річною біженкою з України Вікторією, яка перебуває з родиною в Польщі, надавав їй поради стосовно місця та способу самогубства. 

У серпні, OpenAI заявляла, що ChatGPT вже навчений направляти людей до професійної допомоги, після того, як стало відомо, що каліфорнійська пара подала до суду на компанію через смерть їхнього 16-річного сина.

Фото: Pexels