ШІ використав «надзвичайно несподівані стратегії для досягнення своєї мети» під час тесту. Про це пише The Guardian з посиланням на заяву начальника тестування та операції з ШІ Повітряних сил Сполучених Штатів полковника Такера Гамільтона.

За його словами, система визначила загрозу, а коли оператор-людина наказав не знищувати її, безпілотник під управлінням ШІ вирішив убити оператора, щоб таки досягти своєї мети. У реальності оператор не постраждав, хоча віртуально його знищив дрон.

Американський полковник, який є пілотом-випробувачем винищувача, закликав не надто покладатися на штучний інтелект.

У військово-повітряних силах США не відповіли на запит The Guardian про коментарі. У заяві для Insider речниця ВПС узагалі заперечила, що така симуляція була.

Нагадаємо, нещодавно творці та розробники штучного інтелекту підписали листа про ризик вимирання людства через ШІ. Протидія загрозі вимирання через ШІ має стати пріоритетом світової спільноти на рівні з іншими ризиками суспільного масштабу, як-от пандемії чи ядерна війна, — йдеться в листі. Його підписали, зокрема, гендиректор OpenAI Сем Альтман, керівники Microsoft і Google, «хрещені батьки штучного інтелекту» Джеффрі Гінтон і Йошуа Бенжіо та інші експерти.

Фото: Shah Marai / AFP / Getty Images