Через вміння писати фейкові новини дослідники обмежили доступ до нового штучного інтелекту

Через вміння писати фейкові новини дослідники обмежили доступ до нового штучного інтелекту

11:57,
19 Лютого 2019
2466

Через вміння писати фейкові новини дослідники обмежили доступ до нового штучного інтелекту

11:57,
19 Лютого 2019
2466
Через вміння писати фейкові новини дослідники обмежили доступ до нового штучного інтелекту
Через вміння писати фейкові новини дослідники обмежили доступ до нового штучного інтелекту
Нова система штучного інтелекту настільки досконало генерує тексти, що її автори відмовляються зробити її доступною широкому загалу. Побоюються, що винахід використовуватимуть для написання фейкових новин.

Автором нового штучного інтелекту GPT-2 стала некомерційна дослідницька компанія OpenAI. Винайдена система генерування тексту може писати повноцінні оповідання на задану тему. Імітує будь-який жанр: від прози у стилі фентезі до фейкових новин про зірок, повідомляє CNN.

Початкова мета OpenAI полягала в тому, щоб навчити систему логічно продовжувати речення, базуючись на вже присутніх у ньому словах. Аби цьому навчитися, штучний інтелект опанував більше 8 мільйонів веб-сторінок.

Днями OpenAI розмістила в інтернеті перші здобутки системи. GPT-2 змогла переконливо продовжити фрагмент з циклу “Володар Перснів”, в якому описуються пригоди Гімлі та Леголаса.

Ось як виглядало перше речення:

“Леголас і Гімлі наступили на орків, піднявши свою зброю з бойовим кличем”.

Таке продовження запропонувала система:

“У відповідь орки атакували, розмахуючи пазурями та клацаючи зубами.Навіть Елронд був змушений відступити. “Ти в надійних руках, карлик», – сказав Гімлі. Він був одним з перших, хто напав на орків”.

“Нас дуже дивує, як система себе поводить”, – каже директор з питань політики OpenAI Джек Кларк (Jack Clark). Хоча ця технологія потенційно корисна, бо зможе  допомагати письменникам або покращувати голосові помічники, але її також можуть використати для своїх цілей зловмисники. Система здатна створювати фейкові новини та провокації в соцмережах.

У GPT-2 завантажили вигадану новину, яка починалася реченням: “Сьогодні в Цинциннаті був вкрадений вагон поїзда з ядерними відходами. Його місцезнаходження невідоме”.

У відповідь штучний інтелект створив повноцінний новинний матеріал, де описував місце крадіжки (на залізничній лінії в центрі міста”), звідки був узятий ядерний матеріал (з ядерного дослідницького центру Університету Цинциннаті”), а також переказував фіктивну заяву неіснуючого міністра енергетики США.

OpenAI зазвичай робить свої дослідницькі проекти доступними для скачування. Але не у випадку з генератором тексту. Дослідники заявили, що не зроблять його загальнодоступним через побоювання з приводу шкідливих можливостей технології”. Замість цього компанія пообіцяла випустити зменшену версію GPT-2 – менш функціональну версію того ж алгоритму, – яку зможуть застосовувати інші користувачі.

Нагадаємо, що розпізнавати фейкові новини та протидіяти тролям MediaSapiens вже вчили тут.

The Hustle
* Знайшовши помилку, виділіть її та натисніть Ctrl+Enter.
Коментарі
оновити
Код:
Ім'я:
Текст:
2019 — 2022 Dev.
Andrey U. Chulkov
Develop
Використовуючи наш сайт ви даєте нам згоду на використання файлів cookie на вашому пристрої.
Даю згоду