Автори:

Валерія Буняк

Компанія OpenAI заявила в поданні до суду, що не несе відповідальності за самогубство 16-річного Адама Рейна, стверджуючи, що підліток неправильно використовував ШІ-модель. Про це пише CNBC.

У серпні батьки підлітка Адама Рейна, який вчинив самогубство після обговорення з чатботом своїх намірів піти з життя, подали до суду на OpenAI та гендиректора Сема Альтмана. За їхніми словами, чатбот надав інформацію про смертельні методи самоушкодження, підказав, як приховати докази невдалої спроби самогубства, а також запропонував скласти передсмертну записку.

Родина звинуватила компанію в недбалості, дефектах дизайну та відсутності попереджень. Деякі фрагменти чатів свідчать, що GPT-4o іноді відповідав некоректно, попри повідомлення з рекомендацією звернутися по допомогу. За словами батьків, син обходив захисні механізми, маскуючи запити під вигадані сценарії.

OpenAI зі свого боку наголосила, що сервіс заборонений для дітей без дозволу батьків, і користувачі не мають використовувати ШІ в контексті завдання собі шкоди, а також обходити будь-які захисні заходи ChatGPT. Компанія нагадала про обмеження відповідальності у своїх умовах користування та вказала, що у хлопця нібито були фактори ризику ще до спілкування з моделлю. Як стверджує OpenAI, чатбот понад 100 разів писав підлітку про фахову допомогу.

В окремому дописі OpenAI також зазначила, що після інциденту впровадила нові інструменти безпеки та батьківського контролю, а GPT-4o пройшов тести щодо взаємодії з користувачами у кризових станах.

Адвокати родини назвали позицію компанії «тривожною».

«Вони зневажливо ігнорують усі викривальні факти, які ми висунули: як GPT-4o був поспішно виведений на ринок без повного тестування. Що OpenAI двічі змінював свою модельну специфікацію, щоб вимагати від ChatGPT участі в обговореннях самоушкодження. Що ChatGPT радив Адаму не розповідати батькам про свої суїцидальні думки та активно допомагав йому планувати "гарне самогубство". А OpenAI та Сем Альтман не мають пояснення останніх годин життя Адама, коли ChatGPT підбадьорив його, а потім запропонував написати передсмертну записку», — йдеться в листі адвоката.

Нагадаємо, у листопаді в американському штаті Каліфорнія за тиждень також було подано до суду сім позовів проти ChatGPT, в яких стверджується, що взаємодія з чатботом призвела до серйозних психічних зривів та кількох смертей. 

Фото: Unsplash