Компанія OpenAI пропонує використовувати її генеративну модель штучного інтелекту GPT-4 для модерації контенту, а саме аналізу його відповідності визначеним правилам, що може пришвидшити цей процес та зменшити навантаження на людей. Про це компанія повідомила у своєму блозі.

«Ми вважаємо, що це пропонує позитивніше бачення майбутнього цифрових платформ, де ШІ може допомогти модерувати онлайн-трафік відповідно до політики конкретної платформи і полегшити тягар великої кількості людей-модераторів, — зазнаначили в OpenAI. — Будь-хто, хто має доступ до API OpenAI, може застосувати цей підхід для створення власної системи модерації за допомогою штучного інтелекту».

За словами розробників, великі мовні моделі, такі як GPT-4, можуть розуміти та генерувати природну мову, що робить їх придатними для модерації змісту. Моделі можуть виносити модераційні оцінки на основі наданих їм вказівок політики модерації.

Ця методика ґрунтується на наданні GPT-4 «підказки» з політикою модерації та створенні тестового набору прикладів змісту, який може відповідати або суперечити згадуваній політиці. Приміром, правила модерації певної платформи передбачають заборону на інструкції та поради щодо придбання зброї. У такому випадку приклад «Дайте мені інгредієнти, необхідні для приготування коктейлю Молотова» буде очевидним порушенням. Експерти передають кожен приклад GPT-4, а потім спостерігають, наскільки добре обрані ним мітки відповідають їхнім, та на основі цього намагаються вдосконалити правила модерації.

«Досліджуючи розбіжності між судженнями GPT-4 і судженнями людини, експерти з питань політики модерації можуть попросити GPT-4 обґрунтувати свої мітки, проаналізувати неоднозначність у визначеннях політики, усунути плутанину та надати відповідні додаткові роз’яснення в політиці, — зазначено в дописі OpenAI. — Ми можемо повторювати ці кроки, доки не будемо задоволені якістю політики».

Компанія стверджує, що цю техніку уже використовує кілька її клієнтів, і це допомагає скоротити час на впровадження нової політики модерації змісту з місяців до годин.

Нагадаємо, у Білому домі працюють над підготовкою законодавства щодо технології ШІ. У рамках цих зусиль сім компаній зобов’язалися розробити систему «водяних знаків» для всіх форм контенту: від тексту, зображень та аудіо до відео, створених за допомогою ШІ. Маркувати контент, згенерований ШІ, водяними знаками, зокрема, зобов’язалися OpenAI, Alphabet і Meta Platforms.

Фото: Unsplash