Компанія Google відключила функцію AI Overviews для частини медичних запитів після розслідування The Guardian, яке виявило неправдиві відповіді штучного інтелекту. Про це пише TechCrunch.

Журналісти видання зʼясували, що коли користувачі запитували «what is the normal range for liver blood tests» («яка норма показників аналізів печінки»), їм надавали цифри без урахування національності, статі, етнічного походження чи віку. Це могло створювати хибне враження, що результати їхніх аналізів у нормі.

Тепер огляди від ШІ більше не з’являються для запитів «what is the normal range for liver blood tests» і «what is the normal range for liver function tests» («яка норма печінкових проб»). Однак на варіації цих запитів, як-от «lft reference range», ШІ все ще може давати зведення. 

TechCrunch також зазначає, що хоч огляди від ШІ наразі не з’являються для згаданих вище запитів, Google і надалі пропонує користувачам скористатися режимом AI Mode — функцією розширеного пошуку на основі штучного інтелекту.

Речник Google заявив, що компанія не коментує окремі випадки видалення результатів у пошуку, але працює над «загальними покращеннями». За його словами, внутрішня команда перевірила запити, на які вказувало The Guardian, і дійшла висновку, що «в багатьох випадках інформація відповідала дійсності та ґрунтувалася на високоякісних вебсайтах».

Директорка з комунікацій та політики British Liver Trust Ванесса Гебдич назвала видалення AI Overviews для цих медичних запитів «чудовою новиною», але додала, що це не вирішує проблему ШІ-зведень на тему здоровʼя загалом.

Нагадаємо, розширення AI Overviews у пошуку Google стало доступним в Україні торік у травні. Тоді повідомлялося, що його можна використовувати для запитань чи збору ідей.

Напередодні стало відомо, що компанія OpenAI запустила ChatGPT Health, який дає змогу користувачам аналізувати результати медичних тестів та отримувати поради щодо харчування і тренувань.

Фото: Google