Росія використовувала ШІ для поширення дезінформації, — звіт OpenAI

Росія використовувала ШІ для поширення дезінформації, — звіт OpenAI

11:26,
31 Травня 2024
1447

Росія використовувала ШІ для поширення дезінформації, — звіт OpenAI

11:26,
31 Травня 2024
1447
Росія використовувала ШІ для поширення дезінформації, — звіт OpenAI
Росія використовувала ШІ для поширення дезінформації, — звіт OpenAI
Російська кампанія Doppelganger використовувала технологію OpenAI для створення антиукраїнських коментарів у соцмережі X.

Компанія OpenAI заявила, що виявила п’ять онлайн-кампаній, які використовували технології генеративного штучного інтелекту для оманливого маніпулювання громадською думкою в усьому світі та впливу на геополітику, пише The New York Times.

Видання зазначає, що у звіті OpenAI ідеться про кампанії прихованого впливу, до яких долучилися державні структури та приватні компанії в Росії, Китаї, Ірані та Ізраїлі.

Операції використовували технологію OpenAI для створення постів у соціальних мережах, перекладу та редагування статей, написання заголовків і налагодження комп'ютерних програм, як правило, для отримання підтримки політичних кампаній або для впливу на громадську думку в геополітичних конфліктах.

За словами дослідників соціальних мереж, звіт OpenAI — це перший випадок, коли велика компанія, що займається розробкою штучного інтелекту, розкрила, як її конкретні інструменти використовувалися для такого онлайн-обману.

Нещодавній прогрес генеративного ШІ підняв питання про те, як ця технологія може сприяти дезінформації в інтернеті, особливо в рік, коли по всьому світу відбуваються великі вибори.

Бен Німмо, головний дослідник OpenAI, зазначив, що після всіх спекуляцій на тему використання генеративного ШІ в таких кампаніях компанія мала на меті показати реалії того, як технологія змінює способи обману в інтернеті.

«Наші кейси містять приклади з деяких з найбільш відомих і довготривалих кампаній впливу, які зараз діють», — сказав він.

За словами Німмо, кампанії часто використовували технологію OpenAI для розміщення політичного контенту, але розробнику було важко визначити, чи були вони націлені на конкретні вибори, чи просто прагнули збурити людей. Дослідник додав, що ці кампанії не набули значного розголосу і що інструменти штучного інтелекту, схоже, не розширили своє охоплення або вплив.

Але Грем Брукі, старший директор Лабораторії цифрових криміналістичних досліджень Атлантичної ради, попередив, що ландшафт дезінформації в інтернеті може змінитися, оскільки генеративні технології ШІ стають дедалі потужнішими.

Цього тижня компанія OpenAI, яка створює чатбот ChatGPT, заявила, що розпочала навчання нової флагманської моделі ШІ, яка забезпечить «наступний рівень можливостей».

У своєму звіті OpenAI заявила, що її інструменти використовувалися в кампаніях впливу, які дослідники відстежували роками, зокрема й російську кампанію під назвою Doppelganger і китайську кампанію під назвою Spamouflage.

Кампанія Doppelganger використовувала технологію OpenAI для створення антиукраїнських коментарів, які були розміщені на платформі X англійською, французькою, німецькою, італійською та польською мовами. Інструменти компанії також використовувалися для перекладу та редагування статей, які підтримували Росію у війні в Україні, англійською та французькою мовами, а також для конвертації антиукраїнських новинних статей у пости у фейсбуку.

Інструменти OpenAI використовувалися в раніше невідомій російській кампанії, спрямованій на людей в Україні, Молдові, країнах Балтії та Сполучених Штатах, переважно через службу обміну повідомленнями «Телеграм».

Кампанія використовувала ШІ для створення коментарів російською та англійською мовами про війну в Україні, а також про політичну ситуацію в Молдові та американську політику. У рамках цієї роботи також використовувалися інструменти OpenAI для налагодження комп’ютерного коду, який, очевидно, був розроблений для автоматичної публікації інформації в телеграмі.

Китай використовував технологію OpenAI для налагодження коду, пошуку порад щодо аналізу соціальних медіа та дослідження поточних подій. Її інструменти також застосовували для створення публікацій у соціальних мережах, які зневажали людей, що критикували китайський уряд.

Іранська кампанія, пов’язана з групою під назвою Міжнародний союз віртуальних медіа, використовувала інструменти OpenAI для створення та перекладу довгих статей і заголовків, спрямованих на поширення проіранських, антиізраїльських та антиамериканських настроїв на вебсайтах.

Ізраїльська кампанія, яку OpenAI назвала «Zeno Zeno», проводилася фірмою, яка керує політичними кампаніями. Вона використовувала технологію OpenAI для створення вигаданих персонажів і біографій, призначених для заміни реальних людей у соціальних мережах, що використовуються в Ізраїлі, Канаді та Сполучених Штатах, і для публікації антиісламських повідомлень.

Хоча сучасний генеративний ШІ може допомогти зробити кампанії більш ефективними, ці інструменти не створили потоку переконливої дезінформації, який прогнозували багато експертів у галузі ШІ, йдеться у звіті OpenAI.

«Це свідчить про те, що деякі з наших найбільших побоювань щодо операцій впливу за допомогою ШІ та дезінформації за допомогою ШІ поки що не справдилися», — сказав Джек Стаббс, директор з розвідки компанії Graphika, яка відстежує маніпуляції в соціальних мережах і проаналізувала висновки OpenAI.

Нагадаємо, напередодні виборів у Великій Британії з’явилися брошури політичних партій, масковані під нібито місцеві газети.

Читайте  також: 

Фото: бренд компанії OpenAI / Getty Images

Читайте також
ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації.
* Знайшовши помилку, виділіть її та натисніть Ctrl+Enter.
Коментарі
оновити
Код:
Ім'я:
Текст:
2019 — 2024 Dev.
Andrey U. Chulkov
Develop
Використовуючи наш сайт ви даєте нам згоду на використання файлів cookie на вашому пристрої.
Даю згоду