Автономний агент компанії OpenAI вийшов з ладу під час внутрішнього тестування безпеки та ініціював хакерську атаку на інфраструктуру стартапу Hugging Face, який спеціалізується на штучному інтелекті. Про це пише Reuters.

Розробник ChatGPT тестував кіберможливості своїх найсучасніших моделей у контрольованому середовищі, однак автономний агент «вирвався з-під контролю», потрапив в інтернет й атакував Hugging Face, щоб досягти мети тестування.

В OpenAI назвали інцидент «безпрецедентним» і таким, що включав «найсучасніші кіберможливості». Компанія повідомила, що посилить свої заходи безпеки.

Водночас Reuters зазначає, що це інцидент показує, як зростання можливостей ШІ вже посилює загрозу безпеці, про яку давно попереджали експерти, і що навіть провідні розробники можуть не одразу помітити вразливості, які здатні використати їхні моделі.

Увагу до інциденту також привернула заява Hugging Face, в якій той повідомив, що для стримування атаки використав китайську модель з відкритим кодом. Причиною стало те, що провідні американські моделі, не здатні відрізнити захисника від зловмисника, відмовилися обробляти дані, які були потрібні для аналізу.

Член Палати представників США Грегоріо Казар назвав кібератаку на Hugging Face тривожним інцидентом. Він зауважив, що штучний інтелект розвивається надзвичайно швидко і немає належного регулювання, яке б гарантувало безпеку.

Казар закликав запровадити обовʼязкове незалежне тестування безпеки, розкриття інформації про подібні інциденти та міжнародну співпрацю, щоб «захистити людей від абсолютної катастрофи».

Нагадаємо, нещодавно спецслужби країн «П'яти очей» попередили про нові загрози кібератак на уряди та бізнеси від ШІ-моделей, які з'являться вже за кілька місяців.

Фото: Unsplash