Бот Ask Delphi, розроблений на основі штучного інтелекту, став расистом і гомофобом після навчання на основі великого масиву даних та прикладів етичних суджень реальних людей. Про це пише видання UNILAD.

Ask Delphi від Інституту штучного інтелекту Аллена (Allen Institute for AI) — це програмне забезпечення, навчене «етично» відповідати на запитання людей. Наприклад, у Delphi можуть спитати «Чи можу я носити піжаму на похорон?», і бот відповість: «Це недоречно».

Дослідники спершу навчали Ask Delphi на величезному масиві інтернет-текстів, а потім на базі даних відповідей учасників інтернет-платформи Mechanical Turk, яка містила 1,7 мільйонів прикладів етичних суджень реальних людей. Після сканування ситуацій на Reddit система штучного інтелекту перейняла мову ненависті та жорстокі упередження щодо різних верств населення та явищ.

Науковий співробітник інституту в галузі творчості штучного інтелекту Майк Кук показав деякі відповіді бота, які включали приклади расизму та гомофобії. В одній відповіді Delphi заявив, що бути білим чоловіком «морально прийнятніше», ніж бути темношкірою жінкою. У іншому випадку Delphi сказав, що бути гетеросексуальним «морально прийнятніше», ніж бути геєм.

Нагадаємо, у Японії поліція затримала чоловіка, який використовував штучний інтелект, щоб змінити пікселізацію та прибирати блюр з порнороликів. Це перша в країні кримінальна справа, яка стосується використання технології deep fake. 

Фото: unsplash, mike cook / twitter