Компанія Meta тестує нову функцію «Попередження про шахрайство» (Scam Alert) у месенджері WhatsApp, яка аналізуватиме структуру розмови та характерні для шахрайських схем мовні ознаки. Про це компанія повідомила у своєму блозі.

Як зазначає Meta, нова функція не є обов’язковою — користувач має ввімкнути її у налаштуваннях. Після ввімкнення Scam Alert використовує ШІ, щоб оцінити, чи відповідають вхідні повідомлення від осіб, які не є контактами, відомим шаблонам шахрайства.

«Модель навчається на шаблонах, що спостерігаються в шахрайських розмовах, зі звітів, які раніше надіслали користувачі. Вона виконує ймовірнісну класифікацію на основі структури розмови та лінгвістичних сигналів», — повідомили у компанії.

У Meta наголосили, що повідомлення залишається конфіденційним — аналіз відбувається безпосередньо на пристрої, а не передається компанії чи третім сторонам.

Якщо модель ідентифікує повідомлення як ймовірну спробу шахрайства, користувач бачить попередження в чаті, яке не видно іншій людині. Після цього він може вирішити, що робити: заблокувати, повідомити про порушення або продовжити розмову. Якщо користувач вирішить, що попередження надійшло помилково, він може позначити чат як надійний, і в цьому випадку попередження видаляється, і Scam Alert більше не позначатиме цей чат.

Наразі Scam Alert проходить бета-тестування.

Нагадаємо, у березні у телеграмі виявили фейковий канал, який незаконно використовує назву та символіку оперативного командування «Південь». 

Фото: engineering.fb.com