Мер міста Нью-Йорк Ерік Адамс розповів, що використовував штучний інтелект для того, щоб «розмовляти» з жителями міста іноземними мовами, повідомило  Vice.

На пресконференції журналістам мали розповісти про нещодавній «форум чатботів» у мерії та оголосити, що в майбутньому місто буде використовувати чатботи зі штучним інтелектом. Вони розмовлятимуть із жителями Нью-Йорка обраною ними мовою, коли ті телефонують до служби 311 або до інших служб. Проте мер побіжно згадав, що місто вже використовує технологію для інших цілей і що жителів Нью-Йорка вже «вводять в оману» щодо мов, якими він володіє.

«Ми почали робити роботизовані дзвінки моїм голосом різними мовами. Люди постійно зупиняють мене на вулиці й кажуть: "Я не знав, що ви говорите мандаринською мовою". Для рободзвінків ми використовуємо різні мови, щоб спілкуватися з усім різноманіттям мешканців Нью-Йорка», — сказав Адамс на пресконференції.

За даними видання, мерія Нью-Йорка здійснює роботизовані дзвінки з використанням штучного інтелекту з березня 2022 року. За цей період відбулося 5 тисяч дзвінків іспанською, 250 їдишем, 160 китайською, 89 кантонською мовою. У дзвінках були повідомлення для мешканців Нью-Йорка про найм працівників на заходи, а також про серію безкоштовних концертів. Під час дзвінків не пояснюють, що вони створені штучно, у жителів Нью-Йорка створюється враження, що мер Адамс дійсно звертається іспанською, китайською мовами та їдишем.

Міська влада заявила, що автоматичні дзвінки були розроблені за допомогою Voice Lab компанії Eleven Labs. Сервіс дає змогу користувачам клонувати власні голоси, завантажуючи зразок аудіо на її вебсайт.

У січні Motherboard виявила, що користувачі 4chan використовували бета-версію сервісу для створення голосів Джо Рогана, Бена Шапіро та Емми Вотсон, які робили расистські та трансфобні коментарі. Опісля компанія заявила, що додасть гарантії після виявлення того, що вона назвала «випадками неправильного використання».

Після пресконференції мера Нью-Йорка громадська організація Surveillance Technology Oversight Project (STOP) розкритикувала застосування таких автоматичних дзвінків, назвавши їх оманливими.

«Це вкрай неетично, особливо з точки зору платників податків, — заявив виконавчий директор STOP Альберт Фокс Кан. — Використання штучного інтелекту, щоб переконати жителів Нью-Йорка, що він розмовляє мовами, якими він не володіє, є глибоко Орвеллом. Так, нам потрібні оголошення всіма рідними мовами жителів Нью-Йорка, але глибокі фейки — це просто моторошний марнославський проєкт».

Однією з головних проблем, пов’язаних із використанням алгоритмічно згенерованих зображень, відео та голосів, є те, що вони можуть вводити в оману. Законопроект, прийнятий в асамблеї штату Нью-Йорк, передбачатиме розкриття інформації про використання такої технології в політичній рекламі. Проте наразі немає нормативного акту, який би зобов’язував розкривати інформацію в інших формах урядового зв’язку, як-от автоматизовані дзвінки чи запити 311.

Нагадаємо, міністерство цифрової трансформації розробило дорожну карту регулювання штучного інтелекту в Україні. Спершу планується підготовка бізнесу до майбутнього регулювання ШІ, а згодом — ухвалення закону, аналогічного до європейського AI Аct.

На фото: мер Нью-Йорка Ерік Адамс

Фото: NYC Mayor's Office / YouTube