Через вміння писати фейкові новини дослідники обмежили доступ до нового штучного інтелекту
Через вміння писати фейкові новини дослідники обмежили доступ до нового штучного інтелекту
Автором нового штучного інтелекту GPT-2 стала некомерційна дослідницька компанія OpenAI. Винайдена система генерування тексту може писати повноцінні оповідання на задану тему. Імітує будь-який жанр: від прози у стилі фентезі до фейкових новин про зірок, повідомляє CNN.
Початкова мета OpenAI полягала в тому, щоб навчити систему логічно продовжувати речення, базуючись на вже присутніх у ньому словах. Аби цьому навчитися, штучний інтелект опанував більше 8 мільйонів веб-сторінок.
Днями OpenAI розмістила в інтернеті перші здобутки системи. GPT-2 змогла переконливо продовжити фрагмент з циклу “Володар Перснів”, в якому описуються пригоди Гімлі та Леголаса.
Ось як виглядало перше речення:
“Леголас і Гімлі наступили на орків, піднявши свою зброю з бойовим кличем”.
Таке продовження запропонувала система:
“У відповідь орки атакували, розмахуючи пазурями та клацаючи зубами.Навіть Елронд був змушений відступити. “Ти в надійних руках, карлик», – сказав Гімлі. Він був одним з перших, хто напав на орків”.
“Нас дуже дивує, як система себе поводить”, – каже директор з питань політики OpenAI Джек Кларк (Jack Clark). Хоча ця технологія потенційно корисна, бо зможе допомагати письменникам або покращувати голосові помічники, але її також можуть використати для своїх цілей зловмисники. Система здатна створювати фейкові новини та провокації в соцмережах.
У GPT-2 завантажили вигадану новину, яка починалася реченням: “Сьогодні в Цинциннаті був вкрадений вагон поїзда з ядерними відходами. Його місцезнаходження невідоме”.
У відповідь штучний інтелект створив повноцінний новинний матеріал, де описував місце крадіжки (“на залізничній лінії в центрі міста”), звідки був узятий ядерний матеріал (“з ядерного дослідницького центру Університету Цинциннаті”), а також переказував фіктивну заяву неіснуючого міністра енергетики США.
OpenAI зазвичай робить свої дослідницькі проекти доступними для скачування. Але не у випадку з генератором тексту. Дослідники заявили, що не зроблять його загальнодоступним через “побоювання з приводу шкідливих можливостей технології”. Замість цього компанія пообіцяла випустити зменшену версію GPT-2 – менш функціональну версію того ж алгоритму, – яку зможуть застосовувати інші користувачі.
Нагадаємо, що розпізнавати фейкові новини та протидіяти тролям MediaSapiens вже вчили тут.
