Компанія OpenAI анонсувала запуск функції «Довірений контакт», призначеної для сповіщення близьких у випадку, якщо в розмові користувача з ChatGPT зʼявлятимуться суїцидальні наміри. Про це пише TechCrunch.

Дорослий користувач зможе призначити довіреним контактом друга або члена родини. Якщо в чаті йтиметься про самоушкодження, OpenAI заохочуватиме користувача зв’язатися з цим контактом. Таке ж сповіщення отримуватиме довірена особа.

Наразі OpenAI використовує комбінацію автоматизації та людської перевірки для реагування на потенційно небезпечні інциденти. Певні тригери в розмові сповіщають систему компанії про суїцидальні думки. Потім цю інформацію передають команді з безпеки, яка перевіряє інцидент протягом години.

Якщо внутрішня команда OpenAI вирішить, що ситуація становить серйозний ризик для безпеки, ChatGPT надсилає довіреному контакту сповіщення — електронною поштою, SMS-повідомленням або через додаток. 

Компанія зазначає, що сповіщення не міститиме детальної інформації про те, що користувач обговорював з чатботом, щоб захистити його приватність.

Водночас TechCrunch зауважує, що функція «Довірений контакт» не є обовʼязковою і навіть якщо її активовано для певного облікового запису, будь-який користувач може мати у  ChatGPT кілька акаунтів.

OpenAI зіткнулася з хвилею судових позовів від родин людей, які вчинили самогубство після розмови з її чатботом. У багатьох випадках родини стверджують, що ChatGPT підштовхував їхніх близьких до самогубства або навіть допоміг їм це спланувати.

Нагадаємо, нещодавно сім сімей загиблих або постраждалих унаслідок стрілянини в канадській школі подали судовий позов проти OpenAI та її гендиректора Сема Альтмана, в якому звинуватили компанію в недбалості.

Перед цим Альтман заявив, що шкодує про те, що компанія не повідомила правоохоронців про заблокований акаунт підозрюваної, і запевнив, що OpenAI намагатиметься запобігти подібним трагедіям у майбутньому.

Фото: OpenAI