Бот став расистом і гомофобом після вивчення прикладів етичних суджень людей

Бот став расистом і гомофобом після вивчення прикладів етичних суджень людей

15:33,
8 Листопада 2021
2324

Бот став расистом і гомофобом після вивчення прикладів етичних суджень людей

15:33,
8 Листопада 2021
2324
Бот став расистом і гомофобом після вивчення прикладів етичних суджень людей
Бот став расистом і гомофобом після вивчення прикладів етичних суджень людей
Автори:
В одній відповіді Delphi заявив, що бути білим чоловіком «морально прийнятніше», ніж бути темношкірою жінкою. У іншому випадку Delphi сказав, що бути гетеросексуальним «морально прийнятніше», ніж бути геєм.

Бот Ask Delphi, розроблений на основі штучного інтелекту, став расистом і гомофобом після навчання на основі великого масиву даних та прикладів етичних суджень реальних людей. Про це пише видання UNILAD.

Ask Delphi від Інституту штучного інтелекту Аллена (Allen Institute for AI) — це програмне забезпечення, навчене «етично» відповідати на запитання людей. Наприклад, у Delphi можуть спитати «Чи можу я носити піжаму на похорон?», і бот відповість: «Це недоречно».

Дослідники спершу навчали Ask Delphi на величезному масиві інтернет-текстів, а потім на базі даних відповідей учасників інтернет-платформи Mechanical Turk, яка містила 1,7 мільйонів прикладів етичних суджень реальних людей. Після сканування ситуацій на Reddit система штучного інтелекту перейняла мову ненависті та жорстокі упередження щодо різних верств населення та явищ.

Науковий співробітник інституту в галузі творчості штучного інтелекту Майк Кук показав деякі відповіді бота, які включали приклади расизму та гомофобії. В одній відповіді Delphi заявив, що бути білим чоловіком «морально прийнятніше», ніж бути темношкірою жінкою. У іншому випадку Delphi сказав, що бути гетеросексуальним «морально прийнятніше», ніж бути геєм.

Нагадаємо, у Японії поліція затримала чоловіка, який використовував штучний інтелект, щоб змінити пікселізацію та прибирати блюр з порнороликів. Це перша в країні кримінальна справа, яка стосується використання технології deep fake. 

Фото: unsplash, mike cook / twitter

Читайте також
* Знайшовши помилку, виділіть її та натисніть Ctrl+Enter.
Коментарі
оновити
Код:
Ім'я:
Текст:
2019 — 2022 Dev.
Andrey U. Chulkov
Develop
Використовуючи наш сайт ви даєте нам згоду на використання файлів cookie на вашому пристрої.
Даю згоду