YouTube заблокував канал хорватського шахіста Антоніо Радича за «расизм» під час його розмови з Хікару Накамурою щодо різних стратегій гри. Штучний інтелект, який навчений шукати ознаки расизму та мову ненависті, порахував контент шкідливим, а комп'ютерні фахівці з Університету Карнегі-Меллона почали розслідування збою, пише The Independent. 

Радич, який працює під псевдонімом Agadmator, веде найпопулярніший у світі канал про шахи на YouTube із понад 1 мільйоном підписників. 28 червня 2020 року він був заблокований під час презентації шахового шоу з американським гросмейстером Накамурою, хоча відеоплатформа, що належить Google, не вказала жодної конкретної причини. 

Канал Радича був відновлений через 24 години. Шахіст вважає, що причина у висловлюванні «чорні проти білих», хоча мова йшла про шахи. 

Як пише видання, вчені з Університету Карнегі-Меллона розпочали розслідування збоїв і змоделювали реакцію програми на відео про шахи. Дослідники для цього використали сучасний класифікатор мови, щоб переглянути більше 680 тисяч коментарів з п'яти популярних шахових YouTube-каналів. Це пояснюють тим, що система модерації YouTube заснована на алгоритмах штучного інтелекту, а тому може невірно витлумачити коментарі, не розуміючи контекст.  

Перевіривши вручну вибірку з 1000 коментарів, які штучний інтелект класифікував як мову ворожнечі, вони виявили, що 82% з них були неправильно тлумачені через вживання таких слів, як «чорний», «білий», «атака» та «загроза» — все це зазвичай використовується в шаховій мові.  

Раніше MediaSapiens писав, що дослідники навчили штучний інтелект розрізняти сарказм у Twitter. 

Фото: freecodecamp.org