На конференції SXSW президентка компанії Signal Мередіт Віттакер висловила серйозні застереження щодо використання агентного штучного інтелекту. Про це повідомляє TechCrunch.

Вона наголосила, що такі системи можуть становити значну загрозу для конфіденційності та безпеки користувачів, оскільки для виконання своїх завдань агентний ШІ потребує доступу до великої кількості персональних даних.

Віттакер пояснила, що для виконання завдань, таких як бронювання квитків, управління календарем або надсилання повідомлень, агентний ШІ повинен мати доступ до браузера, інформації про кредитні картки, застосунків для обміну повідомленнями та інших баз даних. Обробка цих даних, імовірно, відбувається у відкритому вигляді на хмарних серверах, що створює серйозні ризики для безпеки.

Президентка Signal також зазначила, що інтеграція таких агентів у додатки для обміну повідомленнями, як-от Signal, може підірвати конфіденційність користувачів. Вона застерегла, що сучасна парадигма ШІ, яка базується на масовому зборі даних, має потенційно небезпечні наслідки. На її думку, гонитва за «чарівним ботом», який вирішує всі життєві потреби, може ще більше послабити захист даних користувачів.

Нагадаємо, що російські хакери проникли в облікові записи деяких українських військових у месенджері Signal і отримали доступ до конфіденційних повідомлень.

Фото месенджер Signal / root-nation.com