США та Росія домовилися позбавити контролю людей зброю зі штучним інтелектом. Про це повідомляє The Washington Post із посиланням на три джерела, що знайомі з перебігом обговорень.

Обговорення угоди щодо застосування летальних автономних систем озброєння  відбувалося на початку вересня у залі засідань ООН у Швейцарії у закритому режимі. 

США та Росія послабили низку гарантій щодо регулювання використання зброї зі штучним інтелектом.

Зокрема, обидві сторони погодилися виключили формулювання, яке вимагає, щоб системи працювали «передбачувано» та «надійно», а також видалили пункт, який зобов'язує враховувати етичні міркування під час використання зброї зі штучним інтелектом. Американська та російська команди також видалили положення, яке вимагає від людей переглядати військові цілі, розроблені штучним інтелектом, перед ударом.

Як зазначає The Washington Post, переговори щодо летальної автономної зброї в ООН наразі не мають обов'язкової сили, хоча вони можуть відкрити шлях до договору, який буде юридично обов'язковим, якщо країни-члени погодяться. У листопаді країни знову зберуться у Женеві, щоб обговорити, чи можуть переговори отримати офіційний статус.

Нагадаємо, занепокоєння щодо безпеки штучного інтелекту зросло, зокрема, після попередження про ризики від двох колишніх працівників компаній-розробників ШІ. Так, Джейкоб Коксон, який останні три роки працював в OpenAI та Anthropic, заявив, що ШІ-компанії «граються з нашими життями». Його думку підтримав колишній дослідник Google DeepMind Білал Чугтаї, який сказав, що штучний інтелект здатен знищити людство, а час, щоб цьому запобігти, спливає.

Після цього керівник Anthropic Даріо Амодей закликав сповільнити розвиток передових ШІ-моделей. Його думку підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск. 

Водночас  Дональд Трамп сказав, що вважає невтішні попередження щодо ШІ перебільшеними і що «негативні сили» роблять заяви про те, чого ніколи не станеться. Невдовзі президент США оголосив про створення Сил штучного інтелекту та пообіцяв незабаром призначити керівника структури, якого назвав «царем ШІ».

Фото: фейсбук Анатолія Амеліна