Microsoft створила запобіжники, щоб люди не налаштовували чатботи з ШІ на зловмисні дії

Microsoft створила запобіжники, щоб люди не налаштовували чатботи з ШІ на зловмисні дії

10:50,
1 Квітня 2024
924

Microsoft створила запобіжники, щоб люди не налаштовували чатботи з ШІ на зловмисні дії

10:50,
1 Квітня 2024
924
Microsoft створила запобіжники, щоб люди не налаштовували чатботи з ШІ на зловмисні дії
Microsoft створила запобіжники, щоб люди не налаштовували чатботи з ШІ на зловмисні дії
Користувачі отримуватимуть оперативні сповіщення про невідповідну поведінку чатбота.

Корпорація Microsoft доповнила сервіс Azure AI Studio, що дає розробникам змогу створювати персоналізованих ші-помічників на основі моделі OpenAI, інструментами, що блокують спроби налаштовувати чатботи на зловмисну, шкідливу роботу. Про це повідомив Bloomberg.

Зокрема, сервіс доповнили так званими «оперативними щитами («prompt shields»), які автоматично блокуватимуть спроби змусити ШІ-модель поводитися непередбачувано. Йдеться про випадки, коли хакери вставляють зловмисні інструкції в набір даних, на яких уже навчається модель, і обманом змушують її виконувати недозволені дії, як викрадення інформації користувача або викрадення системи.

Також компанія розгорнула ще одну додаткову функцію, яка попереджатиме користувачів, коли ШІ-модель вигадує щось або генерує помилкові відповіді.

Директорка Microsoft з питань відповідального ШІ Сара Берд сказала, що нові засоби захисту призначені для «виявлення підозрілих вхідних даних і їх блокування в режимі реального часу».

Таким чином компанія намагається підвищити довіру до своїх генеративних інструментів штучного інтелекту. У лютому розслідували інциденти з Copilot, який генерував «дивні та шкідливі» відповіді. Проте після аналізу з’ясувалося, що люди навмисно змусили ШІ-модель це робити.

Фото: офісна будівля Microsoft / Getty Images

ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації.
* Знайшовши помилку, виділіть її та натисніть Ctrl+Enter.
Коментарі
оновити
Код:
Ім'я:
Текст:
2019 — 2024 Dev.
Andrey U. Chulkov
Develop
Використовуючи наш сайт ви даєте нам згоду на використання файлів cookie на вашому пристрої.
Даю згоду