Автори:

Юлія Поліковська

В Українській Гельсінській спілці з прав людини (УГСПЛ) провели дослідження щодо використання технологій штучного інтелекту у військовій сфері та виробили юридично-правові рекомендації для держави, щоб застосування прогресивних систем в обороні України від повномасштабного вторгнення Росії відповідало Конвенції з захисту прав людини і основоположних свобод та вимогам міжнародного гуманітарного права. Про це під час презентації дослідження в «Укрінформі» повідомила докторка філософії, юристка Центру стратегічних справ УГСПЛ Юлія Коваленко, що здійснила дослідження разом з колегою Максимом Войновим.

ШІ активно застосовується для ведення війни за допомогою програмного забезпечення, використання дронів, для розпізнавання і розшифрування супутникових знімків, розпізнавання цілей на полі бою і прогнозування засобів, якими вони можуть бути уражені, для розпізнавання облич та ідентифікації військових злочинців або виявлення, ідентифікації жертв війни та повернення тіл загиблих їхнім сім’ям тощо. Україна, як і інші країни, стикається з викликами регулювання використання ШІ у військовій сфері у контексті триваючої збройної агресії. Тому важливо знайти баланс між використанням новітніх технологій для захисту країни та забезпеченням дотримання прав людини, акцентували автори дослідження.

Юлія Коваленко розповіла, що вироблення законодавства у цій сфері лише розпочалося. Європарламент першим у світі ухвалив закон про ШІ, проте він регулює використання ШІ у всіх сферах життєдіяльності, окрім військової.

За її інформацією, для вироблення національного законодавства України щодо військового використання Ші важливо орієнтуватися на ухвалені рекомендації Організації економічного співробітництва та розвитку та рамкову конвенцію Ради Європи з питань ШІ. Обидва документи закликають держави встановлювати таке регулювання систем ШІ у військовій сфері, яке вимагає контролювати системи ШІ людьми на всіх стадіях від розробки до використання та відповідність дотриманню демократичних цінностей, основоположних прав та свобод людини й верховенству права.

Щодо вимог міжнародного права, яким регулюються збройні конфлікти, за її словами, у застосуванні новітнього озброєння слід дотримуватися таких принципів: пам’ятати про заборону вдаватися до нападів невибіркового характеру (йдеться про військові та цивільні цілі. — Ред.), заборону використовувати засоби і методи, що можуть призвести до надмірних страждань чи зайвих руйнувань.

«У цьому ключі на сьогодні дискусійним є питання, чи може система ШІ оцінювати рівень страждань чи зайвих ушкоджень, — сказала Юлія Коваленко. — Міжнародна спільнота дійшла згоди про те, що використання автономного летального озброєння має залишатися під контролем людини. Рішення про завдання смертельних ушкоджень має залишатися під контролем людини».

• Читайте також: Україна посилюватиме цифрову співпрацю з компанією-партнером Пентагону

Така ж рекомендація стосується застосування систем, які використовують для аналізу загрози, прогнозування розвитку атак та цілей: оскільки є ризик, що їх алгоритми можуть призводити до упереджень та помилок, їх використання має контролюватися на всіх етапах людьми.

Детально ознайомитися з дослідженням «Штучний інтелект та права людини: орієнтири та обмеження у контексті національної безпеки та оборони» можна за посиланням.

Дослідження було здійснене за підтримки Європейського Союзу та Міжнародного фонду «Відродження» в рамках спільної ініціативи «Європейське Відродження України».

Фото: презентація дослідження УГСПЛ