Компанія OpenAI  проводитиме навчання передових моделей штучного інтелекту без доступу до інтернету. Про це компанія повідомила у своєму блозі. 

Заходи безпеки було посилено після низки інцедентів, під час яких ШІ-агенти самостійно виходили у глобальний інтернет або несанкційовано встановлювали контакт із іншими агентами. 

«Виходячи з поточного стану досліджень узгодженості, систем моніторингу та безпеки інтернет-інфраструктури, ми вважаємо, що відповідальним підходом є проведення навчання передових  моделей без доступу до інтернету. Ми впровадили цю політику та будемо дотримуватися її, доки прогрес у цих заходах безпеки не виправдає ширший доступ до Інтернету», — йдеться у повідомленні компанії.

Водночас OpenAI запустила кампанію з виявлення слабких місць у своїх системах. Тести виявили раніше невідомі вразливості програмного забезпечення, а також неправильні конфігурації у дослідницькій інфраструктурі. Компанія повідомила, що слабкі місця були усунуті, але тестування системи вирішили запровадити на постійній основі.

«Кількість вразливостей та неправильних конфігурацій, виявлених нашими агентами-тестувальниками, значно зменшилася. Хоча ми розглядаємо це як обнадійливий сигнал щодо потужності нашої інфраструктури, ми очікуємо, що майбутні моделі зможуть виявляти та використовувати вразливості, про які нам ще не відомо. Тому ми розглядаємо постійне тестування як ключову частину  довгострокової стратегії зміцнення безпеки наших дослідницьких середовищ», — повідомили вOpenAI. 

Нагадаємо, раніше  автономні ШІ-агенти OpenAI атакували інфраструктуру стартапу Hugging Face, а також німецький вебсайт DseWiki. Ці та інші схожі випадки посилили занепокоєння щодо безпеки штучного інтелекту. 

Після цього керівник Anthropic Даріо Амодей закликав сповільнити розвиток передових ШІ-моделей. Його думку підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск. 

Пізніше чотири користувачі сервісів ChatGPT, Claude, Grok та Gemini подали колективний позов проти компаній-розробників цих ШІ-моделей через домовленість про сповільнення розвитку технології.