Американська компанія OpenAI вирішила боротися зі спотворенням інформації штучним інтелектом (ШІ) і напрацьовує новий метод навчання моделей ШІ для боротьби з дезінформацією. Про це повідомило видання CNBC.

Зазначається, що так звані «галюцинації» ШІ виникають, коли такі моделі, як ChatGPT від OpenAI або Bard від Google повністю фабрикують інформацію, при цьому подаючи її так, ніби це факти. Як приклад, видання наводить ситуації, коли у власному лютневому рекламному відео Google для Bard чатбот зробив неправдиву заяву про космічний телескоп Джеймса Вебба або нещодавно ChatGPT посилався на «підроблені» справи в заяві федерального суду Нью-Йорка.

«Навіть найсучасніші моделі схильні до хибних висновків — вони схильні вигадувати факти у моменти невизначеності, — пишуть дослідники OpenAI у звіті. — Ці галюцинації особливо проблематичні в галузях, що вимагають багатоступінчастого міркування, оскільки однієї логічної помилки достатньо, щоб зірвати набагато масштабніше рішення».

Наразі дезінформація, що виходить від систем ШІ, обговорюється особливо активно на тлі буму генеративного ШІ та за умов підготовки до виборів президента США у 2024 році.

Потенційно OpenAI має навчити моделі штучного інтелекту винагороджувати себе за кожне правильне міркування, коли вони приходять до відповіді, замість того, щоб просто винагороджувати правильний остаточний висновок. Цей підхід називається «нагляд за процесом», на відміну від «нагляду за результатами», і, на думку дослідників, він може привести до кращої роботи систем ШІ. Простіше кажучи, ШІ хочуть навчити дотримуватись підходу, більш схожого на людський ланцюжок «думок».

Коли саме його буде впроваджено, наразі невідомо.

Нагадаємо, нещодавно американська компанія Gorilla Technologies створила бот Superchat на основі технології штучного інтелекту від OpenAI, що дає змогу розмовляти з віртуальними персонажами, зокрема з Шекспіром, Альбертом Ейнштейном, Клеопатрою, Нілом Армстронгом, Білосніжкою, Рапунцель, Дракулою, Шерлоком Голмсом тощо.