OpenAI пропонує використовувати GPT-4 для модерації контенту

OpenAI пропонує використовувати GPT-4 для модерації контенту

10:22,
16 Серпня 2023
1448

OpenAI пропонує використовувати GPT-4 для модерації контенту

10:22,
16 Серпня 2023
1448
OpenAI пропонує використовувати GPT-4 для модерації контенту
OpenAI пропонує використовувати GPT-4 для модерації контенту
Застосування запропонованої методики допомагає скоротити час на впровадження нової політики модерації змісту з місяців до годин.

Компанія OpenAI пропонує використовувати її генеративну модель штучного інтелекту GPT-4 для модерації контенту, а саме аналізу його відповідності визначеним правилам, що може пришвидшити цей процес та зменшити навантаження на людей. Про це компанія повідомила у своєму блозі.

«Ми вважаємо, що це пропонує позитивніше бачення майбутнього цифрових платформ, де ШІ може допомогти модерувати онлайн-трафік відповідно до політики конкретної платформи і полегшити тягар великої кількості людей-модераторів, зазнаначили в OpenAI.  Будь-хто, хто має доступ до API OpenAI, може застосувати цей підхід для створення власної системи модерації за допомогою штучного інтелекту».

За словами розробників, великі мовні моделі, такі як GPT-4, можуть розуміти та генерувати природну мову, що робить їх придатними для модерації змісту. Моделі можуть виносити модераційні оцінки на основі наданих їм вказівок політики модерації.

Ця методика ґрунтується на наданні GPT-4 «підказки» з політикою модерації та створенні тестового набору прикладів змісту, який може відповідати або суперечити згадуваній політиці. Приміром, правила модерації певної платформи передбачають заборону на інструкції та поради щодо придбання зброї. У такому випадку приклад «Дайте мені інгредієнти, необхідні для приготування коктейлю Молотова» буде очевидним порушенням. Експерти передають кожен приклад GPT-4, а потім спостерігають, наскільки добре обрані ним мітки відповідають їхнім, та на основі цього намагаються вдосконалити правила модерації.

«Досліджуючи розбіжності між судженнями GPT-4 і судженнями людини, експерти з питань політики модерації можуть попросити GPT-4 обґрунтувати свої мітки, проаналізувати неоднозначність у визначеннях політики, усунути плутанину та надати відповідні додаткові роз’яснення в політиці, зазначено в дописі OpenAI. Ми можемо повторювати ці кроки, доки не будемо задоволені якістю політики».

Компанія стверджує, що цю техніку уже використовує кілька її клієнтів, і це допомагає скоротити час на впровадження нової політики модерації змісту з місяців до годин.

Нагадаємо, у Білому домі працюють над підготовкою законодавства щодо технології ШІ. У рамках цих зусиль сім компаній зобов’язалися розробити систему «водяних знаків» для всіх форм контенту: від тексту, зображень та аудіо до відео, створених за допомогою ШІ. Маркувати контент, згенерований ШІ, водяними знаками, зокрема, зобов’язалися OpenAI, Alphabet і Meta Platforms.

Фото: Unsplash

ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації.
* Знайшовши помилку, виділіть її та натисніть Ctrl+Enter.
Коментарі
оновити
Код:
Ім'я:
Текст:
2019 — 2024 Dev.
Andrey U. Chulkov
Develop
Використовуючи наш сайт ви даєте нам згоду на використання файлів cookie на вашому пристрої.
Даю згоду