Про це пише The Art Newspaper.

Як ідеться у звіті, зловмисники можуть використовувати ці недоліки для поширення дезінформації. Молоді люди особливо вразливі, оскільки вони дедалі більше покладаються на генеративні інструменти для пошуку в інтернеті інформації.

«Якщо ми дозволимо жахливі факти Голокосту розмивати, спотворювати або фальсифікувати через безвідповідальне використання штучного інтелекту, ми ризикуємо вибуховим поширенням антисемітизму та поступовим зменшенням нашого розуміння причин і наслідків цих жорстокостей», — сказав директор ЮНЕСКО.

Із середнім віком тих, хто пережив Голокост, 86 років живий зв’язок із цим геноцидом занепадає. На заклади освіти та культури покладено завдання захисту історичних пам’яток та збереження свідчень для майбутніх поколінь у боротьбі з ненавистю та антисемітизмом.

Інструменти на основі штучного інтелекту можуть допомогти дослідникам опрацьовувати і знаходити величезну кількість даних про Голокост, які охоплюють роки, мови та носії від фотографій і тексту до відео та аудіозаписів.

Прикладом є робота, яка виконується в Арольсенському архіві — це найповніша у світі колекція оригінальних документів та особистих речей 17,5 млн людей, які постраждали від нацистських переслідувань. Штучний інтелект допомагає видобувати й перевіряти мільйони документів і надсилати 20 000 запитів на рік. Також Всесвітній центр пам’яті жертв Голокосту в Єрусалимі використовує обробку природної мови та генеративний штучний інтелект для ідентифікації раніше невідомих жертв.

Культурні установи також використовують генеративний ШІ для освітніх цілей.

Але ЮНЕСКО попереджає, що ці ж технології можна використовувати для посилення повідомлень ненависті та дезінформації або для спрощення складної історії. У ньому згадується, як провідні чатботи реагували на підказки про Голокост історично неправильними відповідями. І це пояснює, як алгоритми, які наказують пошуковим системам і платформам соціальних мереж віддавати перевагу вмісту, орієнтованому на залучення уваги, можуть увічнити брехню та посилити регіональні упередження. У звіті встановлено, що генеративний ШІ може «галюцинувати» і повністю винаходити неправдиві наративи та джерела.

У чужих руках генеративні інструменти можуть стати агентами обману та ненависті у формі дипфейків і оманливих цифрових зображень, відео чи звукозаписів, які можуть пропагувати шкідливу ідеологію. Відомі приклади — це суперечливий додаток, який імітував розмови з історичними особами, зокрема Адольфом Гітлером, і широко розповсюджений фейк актриси Емми Вотсон, яка нібито читає «Майн Кампф».

Ці зловживання не залишаються непоміченими широким загалом. У 2023 році дослідження Антидифамаційної ліги виявили, що 84% американців стурбовані тим, що інструменти генеративного штучного інтелекту будуть використовуватися для поширення неправдивої або оманливої ​​інформації, і що 70% вважають, що це посилить екстремізм, ненависть або антисемітизм у США.

Звіт ЮНЕСКО, опублікований у партнерстві зі Всесвітнім єврейським конгресом, закликає технологічні компанії тісно співпрацювати з тими, хто пережив Голокост, та їхніми нащадками, а також експертами з антисемітизму та істориками при розробці інструментів штучного інтелекту, а також співробітників штучного інтелекту та політиків створити етичні принципи.

Як музеї, архіви та меморіали можуть захистити цю загрозу пам’яті про Голокост? Відповіддю може бути більше даних. Звіт ЮНЕСКО доручає цим установам продовжувати оцифровувати та розширювати історичні колекції та співпрацювати з технологічними компаніями у навчанні моделей штучного інтелекту та наданні контексту щодо чутливості та ризиків використання цих даних.

Поки політики та розробники не приймуть етичні стандарти, тягар визначення легітимності контенту про Голокост лежить на педагогах та окремих особистостях.

Нагадаємо, дослідники Голокосту використовують штучний інтелект для пошуку свідчень про неідентифікованих жертв.

Фото: Arolsen Archives