Платформа Netflix выпустила документальный проект The Social Dilemma, «Социальная дилемма», — пугающий фильм о катастрофе, к которой необратимо и стремительно движется человечество под влиянием соцсетей. Фильм сразу же стал поводом для дискуссии — по иронии, его активно обсуждают именно пользователи соцсетей. Мнения разделились: одни люди пишут, что это прекрасный фильм, со всей очевидностью демонстрирующий вред, нанесенный жителям земли соцсетями. Другие считают, что фильм — банальная страшилка, так и не раскрывшая суть проблемы и к тому же не предлагающая никакого выхода или внятного механизма сопротивления. Мы уже публиковали колонку директора ГО «Детектор медиа» Галины Петренко о фильме; теперь MediaSapiens подробнее рассказывает о новом прокете Netflix.

Режиссер Джефф Орловски, снявший «Дилемму», не впервые берется за социальные темы: два его предыдущих документальных расследования, принесших ему известность, — «В поисках кораллов» и «В погоне за ледниками», — посвящены экологическим проблемам земли. В своем последнем фильме он тоже исследует проблему планетарного масштаба; герои «Дилеммы» неоднократно повторяют, что социальные сети — «величайшая угроза существования всему человечеству». И они должны об этом знать лучше других: в фильме о вреде соцсетей (и шире — технологий) говорят те, кто их разработал, занимал высокие посты в IT-гигантах, а затем разочаровался в результатах своей деятельности. Среди них — Тим Кендалл, экс-президент Pinterest и бывший директор по монетизации Facebook, Джастин Розенштейн, который придумал кнопку Like; Гийом Шасло, создатель алгоритма рекомендации видео для YouTube, — первые лица индустрии. Но главным героем, конечно, является Тристан Харрис — бывший специалист этики дизайна в Google. Он — центральная фигура фильма: много лет назад он начал волноваться о том, что банальная электронная почта отнимает слишком много времени у пользователя, а разработчики делают все, чтобы человек ежесекундно вспоминал о сервисе — всякие улучшения дизайна, затем чаты, уведомления и т. д. Харрис, которому по роду деятельности полагалось беспокоиться об этических вопросах, спросил коллег, почему их не смущает, что они «не стараются сделать сервис менее аддиктивным», то есть таким, который бы не вызывал привыкание и зависимость. Его вопросы проигнорировали. Он написал об этом презентацию, где рассказал об угрозе создания продуктов, вызывающих привыкание и крадущих наше внимание и время, и разослал ее коллегам в компании. Она стала «культурным событием» в Google, ее обсуждали множество людей, включая руководство Google, и высказались одобрительно о проведённой Харрисом работе. В итоге все согласились с его выводами о том, что такой подход несет опасность, — и продолжили делать то, что делали.

Попробовав изменить индустрию изнутри и ничего не добившись, Харрис создал «Центр гуманных технологий», где постепенно собрал единомышленников из бывших сотрудников IT-гигантов. Сейчас он старается привлечь внимание к тому, как (пагубно) влияют на мир соцсети, — ходит на ТВ, где его называют «совестью Кремниевой долины», читает публичные лекции, теперь вот снялся в фильме для Netflix.

По мнению всех, кто говорит в фильме — а кроме технических специалистов в нем высказываются философы, психологи, социологи и бизнесмены, связанные с индустрией, — основная проблема соцсетей это бизнес-модель, которую они используют. И объясняют: поскольку сами платформы бесплатны, IT-компании зарабатывают на рекламе. А что именно они продают рекламодателю? Нас, отвечают создатели фильма. Собственно, каждый пользователь соцсети — это и есть товар. При продаже соцсеть гарантирует рекламодателю две вещи: что реклама достигнет именно тех, кому она предназначена; и что потенциальный покупатель всегда будет доступен для рекламы.

Чтобы решить первую задачу, соцсеть собирает и перерабатывает все более и более обширные данные, которые предоставляют сами пользователи. Анализируется все: ваши лайки, репосты, покупки, игры, сколько времени вы потратили на то или иное видео, что пролистнули не глядя, когда пишете друзьям, где бываете, когда выключаете телефон и т. д. и т. п.

Решая вторую задачу, алгоритмы соцсетей, учитывая все, что они знают о пользователях, формируют их ленту таким образом, чтобы пользователь проводил в этом персонифицированном мыльном пузыре как можно больше времени. А если он по каким-то причинам срывается с крючка — его немедленно возвращают назад. Например, с помощью уведомлений. А затем подсовывая ему нужный контент, подсаживая его на иглу постоянного потребления. Собственно, параллель между наркотической зависимостью и зависимостью от соцсетей в фильме продемонстрирована самым прямолинейным и наглядным образом: и с помощью видеоряда с иглами и расширяющимися зрачками, и вербально. «Наркотики и соцсети — это два бизнеса, в котором клиентов называют юзерами», — говорится в фильме. В борьбе за внимание юзера компании, утверждает еще один герой фильма, Джером Ланье, один из самых влиятельных теоретиков «виртуальной реальности» (он сам и придумал термин), платформы не просто заставляют юзеров проводить в сетях как можно больше времени. Он считает, что они пошли дальше традиционных рекламных платформ, вроде телевидения, — и постепенно, незаметно и неумолимо меняют поведение и восприятие пользователей в необходимую заказчику рекламы сторону. Это — и есть товар: изменение поведения или образа мышления юзера.

Для наглядности режиссер фильма вставил в документальный фильм художественную линию: он рассказывает историю одной типичной американской семьи с тремя детьми. Мать, обеспокоенная тем, что дети слишком много времени проводят за телефоном. Старшая дочь, которая обладает достаточным критическим мышлением, чтобы осознать опасность соцсетей. Младшая, которая становится агрессивной из-за попытки ограничить ее время с телефоном или рыдает в туалете из-за недостаточного количества лайков под ее фотографией. И их брат, который теряет интерес ко всему реальному, проводя время за просмотром конспирологических видео в интернете. Все эти герои выдуманные, их поведение утрировано для наглядности и убедительности — но в фильме приводятся и реальные факты нанесенного соцсетями вреда. Это и Пиццагейт, и геноцид в Мьянме, и количество подростковых самоубийств, растущее невероятными темпами именно со времен распространения соцсетей— с их буллингом, грумингом, и навязанными стандартами красоты или успешности.

Кроме семьи, в фильме есть еще один герой — персонифицированный алгоритм, кто-то вроде агента Смита из «Матрицы»; с его помощью Орловски показывает зрителям, далеким от программирования, как именно действует искусственный интеллект, обрабатывая данные пользователя, и выдавая ему нужную информацию в нужный момент. Кстати, один из самых легких способов, как утверждают создатели фильма, удержать внимание пользователя — показывать ему контент, который вызывает резко противоположные мнения. Поляризация общества выгодна соцсетям, поскольку ведет к непрекращающимся боям внутри платформы, а следовательно, к увеличению времени, проводимому человеком в попытке отстоять свою точку зрения. Потому-то, считают спикеры фильма, обострение гражданского противостояния в разных странах, кадры которых показаны в «Дилемме», — в некотором роде последствия влияния соцсетей.

Таким образом, под угрозой оказываются не только жизни отдельных людей, но и существование целых государств. С помощью соцсетей можно хакнуть не только отдельного человека, но и всю систему. Вот почему алгоритм должен быть разрушен, повторяют на все лады герои фильма — иначе человечество окажется настолько видоизменённым, что нам самим не понравится будущее, в котором мы оказались. Разделенные, потерявшие навык социальной жизни, живущие в своем информационном пузыре, агрессивные и не идущие на компромисс, марионетки, управляемые всезнающим и жестоким алгоритмом, посеявшим хаос и разрушившим демократию ради прибыли. Профессор Гарвардского университета, социальный психолог Шошанна Зубофф, которая написала книгу «Эпоха надзорного капитализма», предлагает довольно радикальный выход из ситуации: объявить рынок, основанный на торговле или использовании персональных данных людей, вне закона — также как в свое время была признана незаконной продажа человеческих органов или торговля людьми. Ее поддерживают и другие герои фильма — проблема, с их точки зрения, именно в бизнес-модели, и если гигантам запретить зарабатывать на добыче нашего внимания, ситуация изменится.

Во всем этом пафосе, мастерски нагнетаемом автором фильма и его героями, есть доля манипуляции — почти такой же, которую они приписывают закулисным механизмам соцсетей. Людям нравится бояться, страх хорошо продается, а фильм Netflix — отличный способ напугать зрителей. Конечно, хорошо, если люди задумаются о том, сколько времени поводят дети в телефоне, или сколько они сами тратят на общение в сети вместо того, чтобы пообщаться с реальными людьми в реальном пространстве. Конечно, осознать и проговорить проблему — первый шаг к ее преодолению. Но фильм — это не столько постановка диагноза или поиск решения, это — манифест: давайте потребуем наши права назад. Мы можем объединиться в борьбе против тотального контроля корпораций. Мы можем сделать лучше, заявляют бывшие разработчики в фильме — и поставить алгоритмы на место, которое ему изначально отводилось: работать во благо людей, объединяя их через континенты, помогая им найти единомышленников, помогая им узнать и увидеть то, что невозможно было узнать и увидеть до изобретения соцсетей. Если мы не изменим это прямо сейчас, случится катастрофа.

Но, кажется, это и есть главный недостаток фильма — идея о том, что можно все исправить, написав другой код и приняв пару законов. Да, технологии влияют на нашу жизнь, да, они изменили множество вещей — в том числе наш быт, наши поведенческие привычки, способ нашего заработка. О том, какую пользу все это принесло человечеству и отдельному человеку, в фильме фактически не сказано. Весь его сюжет сосредоточен на вреде (особенно иронично это выглядит, если учесть, что фильм презентовали на фестивале «Санденс» во время локдауна, вызванного коронавирусом, когда IT-технологии были единственном способом общения с миром, заработка или образования для миллионов людей). И даже если этот вред неоспорим и очевиден, создатели фильма говорят так, будто это соцсети используют нас, и искусственный интеллект сам сеет хаос, вмешивается в выборы, стравливает людей разной веры или национальности. Но манипуляция общественным мнением, поляризация общества, борьба за внимание потребителей любой ценой изобретена не матрицей, а людьми, и довольно давно — сейчас у нас просто появился новый, дешевый и удобный инструмент для всего этого. Изменить людей переписыванием кода, очевидно, не удастся — и они всегда найдут способ использовать даже самую гуманную технологию для получения власти или выгоды.

Но спикеры фильма настроены оптимистично. Они верят, что если сейчас все осознают угрозу и выступят единым фронтом, человечество сможет направить развитие технологии в нужную ему, гуманную и безопасную сторону. А до тех пор, пока этика не победила жажду наживы (то есть до наступления рая на земле) они предлагают нам следовать несложным правилам:

- отключить уведомления;

- не смотреть рекомендованные видео, а выбирать его самостоятельно;

- прежде чем репостить что-то, проверить источник информации;

- установить расширение в браузере, которое удаляет рекомендации;

- никаких девайсов перед сном;

- никаких соцсетей для детей до старшей школы.

И удалите фесйсбук. Если сможете.