Автори:

Валерія Буняк

Компанія Meta планує замінити працівників-рецензентів штучним інтелектом для оцінювання приватності та ризиків у своїх продуктах. Про це свідчать внутрішні документи, з якими ознайомилося медіа NPR.

Згідно з документами, до 90% усіх оцінок ризиків скоро будуть автоматизовані. Тож критичні оновлення алгоритмів Meta, нові функції безпеки та зміни в тому, як дозволено обмінюватися вмістом між платформами компанії, будуть здебільшого схвалені системою на основі ШІ і більше не підлягатимуть перевірці співробітниками.

У Meta цю зміну розглядають як перемогу для розробників продуктів, які тепер зможуть швидше випускати оновлення додатків і функцій. Але нинішні та колишні співробітники Meta побоюються, що новий поштовх до автоматизації може призвести до зростання ризиків та негативних зовнішніх ефектів.

Тепер команди розробників заповнюватимуть анкету про продукт, яку проаналізує ШІ, миттєво визначаючи потенційні ризики. За даними Meta, людський досвід все ще буде використовуватися для оцінювання складних питань, а ШІ займатиметься низькоризиковими рішеннями.

Водночас внутрішні документи, перевірені NPR, показують, що компанія розглядає можливість автоматизації перевірки чутливих сфер, включно з безпекою штучного інтелекту, ризиками для молоді та категорією, що охоплює насильницький контент і поширення неправди.

Нагадаємо, у квітні The Wall Street Journal з посиланням на внутрішні джерела й власні тестування повідомила, що компанія Meta дозволяла своїм чатботам зі штучним інтелектом брати участь у романтичних розмовах, а також обговореннях відверто сексуального характеру з неповнолітніми користувачами. Деякі боти використовували голоси знаменитостей, зокрема чемпіона світу з реслінгу та актора Джона Сіни й акторки Крістен Белл.

Фото: flickr