Якщо дані у соціальних мережах відкриті, зокрема, для індексування пошуковими системами, у подальшому ці дані можна аналізувати за певними ключовими словами», – вважає засновник статистичної служби LiveInternet Герман Клименко.

При цьому не всі соціальні мережі відкривають користувальницікі дані і повідомлення для індексації, що може стати проблемою для такого аналізу, додає він. Крім того, адміністрації відкритих для індексування соцмереж залишають користувачам можливість вручну закрити свої сторінки від індексації пошуковиками.

Система автоматизованого аналізу може лише створити «об’єм робіт» для подальшого інтелектуального аналізу фахівцями – якщо провести повністю машинний аналіз, до вибірки можуть потрапити цілком невинні акаунти і пости, наголошує директор з науково-технічного розвитку аналітичної компанії «Поиск-ИТ» Дмитро Макаренко.

«Подібна система, якщо її буде створено, зможе здійснювати лише первинний відбір повідомлень на основі ключових слів або на основі подібності до повідомлень, вже оцінених як екстремістські чи протиправні. До цієї вибірки можуть потрапити повідомлення, які не мають ознак екстремізму – тому масив інформації потім доведеться аналізувати вручну», – пояснює Макаренко.

Регулювання контенту більшість соціальних мереж поки що здійснюють самостійно. Так, наприклад, представник Facebook повідомила: «Facebook видаляє той чи інший контент з сайту, якщо він суперечить правилам, встановленим на Facebook». Правила соціальної мережі забороняють публікувати матеріали, які розпалюють ненависть, а також погрози, порнографію і зображення оголеного тіла чи сцен насильства.

Правила Вконтакте також забороняють розміщення матеріалів екстремістського характеру і публікацій, що пропагують насильство, расову та релігійну нетерпимість, фашизм та ідеологію расової переваги. Подібні пости адміністрація видаляє на основі скарг користувачів, моніторингу модераторів ВКонтакте і за рішенням суду та зверненням правоохоронних структур.

Раніше російська федеральна служба із нагляду у сфері зв’язку, інформаційних технології і масових комунікацій (Роскомнадзор) планувала запуск автоматичної системи моніторингу протиправного контенту у онлайн-ЗМІ.

Система повинна була аналізувати редакційні тексти, коментарі, відео, аудіо та зображення стосовно наявності ознак екстремізму, дитячої порнографії, пропаганди наркотиків і т.п.

Розробник системи, компанія «ДатаЦентр», не виправдала сподівань замовників – кінцевий продукт за функціональністю мало чим відзрізнявся від існуюючих пошукових систем, не міг ефективно проводити моніторинг ЗМІ, і так і не був запущений.