Автори:

Валерія Буняк

У новій книзі письменника, співзасновника Центру сталого розвитку медіа Стівена Розенбаума з назвою «Майбутнє правди: як ШІ змінює реальність» виявили понад пів десятка фейкових цитат, згенерованих чатботами. Про це повідомили журналісти The New York Times. 

Автор книги визнав, що до книги увійшли вигадані або неправильно приписані цитати, але, за його словами, це трапилося випадково, і він не мав наміру вигадувати точки зору під час написання.

«Як я розкрив у подяках до книги, я використовував інструменти штучного інтелекту ChatGPT та Claude під час дослідження, написання та редагування. Це не виправдовує цих помилок, за які я несу повну відповідальність. Зараз я працюю з редакторами, щоб ретельно переглянути та швидко виправити будь-які пошкоджені уривки; будь-які майбутні видання будуть виправлені», — сказав Розенбаум у своїй заяві. 

Одну із фейкових цитат у книзі приписали журналістці Карі Свішер.

«Найдосконаліша модель ШІ — це дзеркало, що відображає нашу мораль: відшліфовану та чітку, але зрештою порожню всередині. Вона не обмежена законами Азімова чи будь-якими етичними рамками — вона обмежена закономірностями в її навчальних даних та цілями, поставленими її творцями», — йдеться в уривку. 

За словами Свішер, вона цього не казала, тоді як ChatGPT, на думку журналістки, змусив її звучати «наче зануда».

В іншому розділі про вплив соцмереж та фейкових відео на підлітків є одразу дві цитати нібито з книги професорки психології Лізи Фельдман Барретт: «Емоції — це не просто реакції на правду, вони є тим, як ми конструюємо правду. (...) Коли молоді люди кажуть, що щось "відчувається правдою", вони описують складний процес творення сенсу, який інтегрує емоційні та соціальні сигнали». 

Однак Барретт заперечила, що ці цитати були в її книзі.

Також до видання увійшли кілька реальних цитат, приписаних не тим людям або джерелам.

За словами Розенбаума, його помилка стане уроком і «попередженням щодо ризиків використання ШІ та необхідності фактчекінгу».

«Ці помилки насправді не применшують ширших питань, які порушує книга про правду, довіру та штучний інтелект, а також його вплив на суспільство, демократію та діяльність редакцій», — сказав він.

Читайте також:

• Три способи, якими штучний інтелект змінює інформаційний простір, і чому фактчекери необхідні
• Штучний інтелект навчився мислити в дечому краще, ніж пересічна людина
• Штучний інтелект під контролем: які міжнародні правила мають знати українські редакції

Фото: Non-Obvious/інстаграм