Науковці Чиказького університету розробили додаток Fawkes, який допомагає обманути системи розпізнавання облич Clearview AI. Завдяки новому інструменту вченим вдалось обманути системи розпізнавання облич Amazon, Microsoft, Facebook та китайського технічного гіганта Megvii, який розробляє системи розпізнавання облич, повідомляє New York Times.

Розробники назвали додаток Fawkes на честь знаменитої маски Гая Фокса. Він на рівні пікселів майже не помітно змінює зображення так, що його не розпізнають системи розпізнавання облич. Науковці продемонстрували це, пропустивши через систему фотографії Гвінет Пелтроу, Джессіки Сімпсон і Патріка Демпсі. 

«Наша мета - змусити Clearview піти», - сказав професор комп'ютерних наук в університеті Чикаго Бен Чжао.

Додаток на веб-сайті розробників вже завантажили 50 тисяч користувачів. Хоча не обійшлось без курйозів. Журналістка видання New York Times Кашмір Хілл пропустила через програму фотографії членів своєї родини. 3-річній доньці журналістки програма намалювала бороду, а чоловікові змінила колір очей.

Розробники програми це пояснили тим, що Fawkes зіставляє зображення з зображеннями людей протилежної статі, які є в базі програми. Тому у жінок можуть з’являтись вуса і борода, а у чоловіків - довгі вії. Однак у майбутньому науковці планують удосконалити додаток, щоб він не змінював стать.

Нагадаємо, соціальна мережа Facebook бореться з так званими «глибинними фейками», але продовжує рекламувати додатки, які їх створюють.

Фото: SAND Lab, University of Chicago