Компанія OpenAI заявила про підвищення рівня безпеки ChatGPT

Компанія OpenAI заявила про підвищення рівня безпеки ChatGPT

12:25,
10 Квітня 2023
1680

Компанія OpenAI заявила про підвищення рівня безпеки ChatGPT

12:25,
10 Квітня 2023
1680
Компанія OpenAI заявила про підвищення рівня безпеки ChatGPT
Компанія OpenAI заявила про підвищення рівня безпеки ChatGPT
З набору навчальних даних моделі штучного інтелекта вилучають інформацію про приватних осіб.

Американська компанія OpenAI, що створила чат-бот ChatGPT, оголосила про посилення заходів безпеки інтерактивного продукту на основі штучного інтелекту для захисту конфіденційності користувачів.

У своєму офіційному блозі компанія повідомила, що працює над тим, аби видалити з навчального набору даних ChatGPT інформацію про приватних осіб.

«Хоча деякі з наших навчальних даних включають особисту інформацію, доступну в загальнодоступному Інтернеті, ми хочемо, щоб наші моделі дізнавалися про світ, а не про приватних осіб. Тому ми працюємо над видаленням особистої інформації з навчального набору даних, де це можливо, налаштовуємо моделі для відхилення запитів на особисту інформацію приватних осіб і відповідаємо на запити окремих осіб щодо видалення їх особистої інформації з наших систем. Ці кроки зводять до мінімуму ймовірність того, що наші моделі можуть генерувати відповіді, які містять особисту інформацію приватних осіб», — йдеться у повідомленні компанії.

Також в OpenAI заявили, що доклали значних зусиль, щоб звести до мінімуму потенціал їхніх моделей штучного інтелекту створювати контент, що шкодить дітям.

«Ми вимагаємо, щоб люди були віком від 18 років або старше від 13 років із дозволу батьків, щоб використовувати наші інструменти штучного інтелекту, і розглядаємо варіанти перевірки», — йдеться у блозі.

OpenAI також повідомила, що запобігає програмуванню технології для генерування ненависницького контенту й такого, що пропагує насильство та жорстокість.

За даними компанії, порівняно з попереднім варіантом новітня модель GPT-4 на 82% менш імовірно відповідатиме на запити щодо забороненого контенту. Для неї запроваджено систему для відстеження зловживань.

Нагадаємо, Італійська служба захисту даних наприкінці березня ініціювала розпочала розслідування щодо чатбота ChatGPT через підозру в порушенні правил збору даних, та на час перевірки заборонила доступ до нього.

Служба захисту даних звернула увагу на «відсутність будь-якої правової бази, яка виправдовує масовий збір і зберігання персональних даних з метою "навчання" алгоритмів, що лежать в основі роботи платформи».

Також італійська служба вказала на те, що хоч сервіс призначений для осіб, які досягли 13-річного віку, відсутність фільтрів для перевірки віку користувачів наражає неповнолітніх на відповіді, які абсолютно не відповідають їхньому рівню розвитку та самосвідомості.

У Канаді Офіс комісара з питань приватності Канади також розпочав розслідування щодо можливого неналежного використання особистих даних чат-ботом ChatGPT.

Фото: chat-gpt.org

 

Читайте також
ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації.
* Знайшовши помилку, виділіть її та натисніть Ctrl+Enter.
Коментарі
оновити
Код:
Ім'я:
Текст:
2019 — 2024 Dev.
Andrey U. Chulkov
Develop
Використовуючи наш сайт ви даєте нам згоду на використання файлів cookie на вашому пристрої.
Даю згоду