OpenAI розробляє інструмент для позначення водяними знаками текстів, створених ChatGPT
OpenAI розробляє інструмент для позначення водяними знаками текстів, створених ChatGPT
OpenAI розробляє технологію, що може допомогти виявляти студентів, які шахраюють, просячи чатбот зі штучним інтелектом ChatGPT виконувати письмові завдання за їхніми текстовими підказками. Компанія поки що оцінює, чи варто випускати цей інструмент на ринок, повідомив The Wall Street Journal.
Після публікації WSJ, в якій повідомлено, що згадуваний інструмент може виявляти штучно згенеровані тексти з високим ступенем точності, компанія оприлюднила більше інформації про це.
В оновленні до травневого допису OpenAІ, опублікованому в неділю, зазначено: «Наші команди розробили текстовий метод водяного маркування, який ми продовжуємо розглядати, коли ми досліджуємо альтернативи».
Компанія заявила, що застосування водяних знаків — одне з багатьох можливих рішень, які вивчає компанія, для системи ідентифікації походження тексту, на рівні з класифікаторами та метаданими.
- Читайте також: OpenAI повідомила про запуск пошукової системи SearchGPT на основі штучного інтелекту
За інформацією OpenAI, у частині випадків інструмент дуже точно виявляв згенеровані тексти, однак «не працює так добре, коли зіштовхується із певними формами підробок», наприклад використання систем перекладу, перероблення згенерованого тексту за допомогою іншої ШІ-моделі або вимога до чатбота вставляти спеціальний знак між кожним словом з подальшим його видаленням.
З цього погляду, на думку компанії, наразі текстове водяне маркування може «непропорційно впливати на певні групи авторів».
«Наприклад, це може стигматизувати використання штучного інтелекту як корисного інструменту для авторів, для яких англійська не є рідною мовою», — зазначено у повідомленні.
OpenAI заявила у своєму блозі, що зважує такі ризики.
«Метод текстових водяних знаків, який ми розробляємо, технічно перспективний, але має значні ризики, які ми зважуємо, поки досліджуємо альтернативи, зокрема сприйнятливість до обходу зловмисниками та потенційний непропорційний вплив на групи, наприклад неангломовні», — повідомив прессекретар OpenAI у коментарі TechCrunch.
Фото: чатбот ChatGPT на смартфоні / Getty Images
