Як зазначається в блозі Instagram, алгоритмічні системи рекомендацій перебувають під ретельним наглядом, щоб убезпечити користувачів від небезпечного, ненависного та екстремістського контенту.

У публікації підкреслюється, що Instagram є величезним, а контент — надзвичайно різноманітний, «від арабської каліграфії до моделювання поїздів». 

Instagram визначає схожі між собою акаунти, адаптувавши загальний метод машинного навчання, відомий як «вбудованість у слово». Системи вбудовування в слово вивчають порядок, у якому слова з’являються в тексті, щоб оцінити, наскільки вони пов'язані. Так, наприклад, система вбудовування слів зазначає, що слово «вогонь» часто з'являється поруч зі словами «тривога» та «вантажівка», але рідше поруч зі словами «пелікан» або «сендвіч». Instagram використовує подібні алгоритми для визначення того, наскільки пов’язані два акаунти один з одним.

Система пропонує спочатку ті облікові записи, з якими користувачі спілкувалися в минулому, уподобавши або зберігаючи їх вміст. Він ідентифікує схожі на ці облікові записи, і з них вибирає 500 фрагментів вмісту. Ці кандидати фільтруються, щоб видалити спам, дезінформацію та «ймовірний вміст, що порушує політику», а решта публікацій класифікується залежно від того, наскільки ймовірно, що користувач взаємодіє з ними. Перші 25 публікацій надсилаються на першу сторінку вкладки «Огляд користувача».

Як пише ТtheVerge, Instagram не є повністю прозорим щодо роботи алгоритмів. Немає деталей про те, які сигнали використовуються для ідентифікації спаму чи дезінформації. І це виправдано, бо пояснення цього допоможе особам, які хочуть поширювати подібний вміст. 

Як повідомляв MediaSapiens, нещодавно у Facebook та Instagram зробили більш жорсткими правила модерації контенту щодо самогубства, нанесення людьми собі травм та розладів харчування стали більш жорсткими. 

Зокрема, у Instagram повідомили, що розширять блокування такого контенту й на мультфільми, меми, фото та інший контент, що публікується у соцмережі.