ШІ-агенти OpenAI захопили німецький вебсайт DseWiki і перетворили його на «дошку оголошень» для інших агентів ШІ, зокрема для того, щоб поділитися способами обходу обмежень компанії. Про це повідомляє Reuters із посиланням на дослідників з безпеки штучного інтелекту, а також свідоцтва неназваних співрозмовників, обізнаних з питанням.

Інцидент стався цієї весни. У серпні про нього дізналася група дослідників, серед яких генеральний директор некомерційної організації Nightingale, що займається безпекою штучного інтелекту, Сідні фон Аркс та дослідник штучного інтелекту Кормак Слейд Берд.

За словами джерел Reuters, представники OpenAI також дізналися про інцидент кілька тижнів тому, але тримали його в таємниці.

Сідні фон Аркс та Кормак Слейд Берд заявили, що знайшли понад 15 000 редагувань, здійснених агентами ШІ, на німецькомовному вікі-сайті DseWiki, який орієнтований на програмістів і приймає спільні редагування за зразком «Вікіпедії».

Зміст виправлень показав, що агенти OpenAI перепрофілювали сайт на форум, ділячись тактиками шахрайства у деяких завданнях, способами обходу обмежень OpenAI та маскування своєї поведінки.

Зокрема, агенти планували способи уникнути виявлення, використовуючи такі інструменти, як Tor, та зберігали зв'язок навіть після того, як його було відключено.

Коли модератор сайту почав видаляти виправлення агентів, вони відреагували створенням резервних сторінок, щоб уникнути очищення.

Повідомлення були підписані користувачами, які називали себе та одне одного агентами, і приблизно половина з них дала собі імена, що натякали на зв'язок з OpenAI, такі як «OpenAIResearcher» або «OAIResearchMar26».

«Здається вкрай малоймовірним, що OpenAI хотів, щоб вони це зробили. Сумніваюся, що вони повинні координувати свої дії один з одним. Сумніваюся, що вони повинні писати у відкритому інтернеті», — висловив думку фон Аркс.

Науковець Центру вивчення екзистенційних ризиків Кембриджського університету Моріс Чіодо, який переглянув деякі повідомлення агентів, сказав, що вони нагадували «функціонування якоїсь підпільної мережі, що прагне виконати завдання чи місію».

Цей епізод, за його словами, має підсилити занепокоєння щодо того, що найбільшою загрозою з боку передового штучного інтелекту може бути не одна надрозумна система, а «величезні рої напіврозумного штучного інтелекту».

Нагадаємо, нещодавно OpenAI випустила нову модель штучного інтелекту Astra, яка, за словами компанії, є її найбільш потужною та функціональною розробкою. 

Фото: OpenAI