Генеалогия дипфейка. Что помогает воспроизводству лжи в социальных сетях

Может прозвучать странно, но в мире без интернета ориентироваться было проще, ведь раньше приходилось обрабатывать на порядок меньший объем информации: телевизор, газета или журнал безальтернативно решали за нас, что правда, а что ложь, что достойно нашего внимания, а что нет. Старые медиа были одновременно и менее демократичными, чем интернет-среда, и более щадящими по отношению к нашим когнитивным ресурсам: раньше мы тоже не знали всей правды, но и не испытывали постоянной информационной перегрузки.

На самом ли деле интернет более демократичен, чем старые медиа? Когда Сеть только появилась, многие так и думали: интернет казался децентрализованной анархистской сетью, неподвластной ни государствам, ни крупным корпорациям. Так его видели и журналисты, и многие социальные теоретики. Например, философы Антонио Негри и Майкл Хардт в своей классической монографии «Империя» (2000) утверждали, что сама архитектура Сети, где количество узлов потенциально бесконечно, делает контроль над ней невозможным.

Но надежды, возложенные на ранний интернет, на поверку оказались очень наивными. Теоретик медиа Александр Гэллоуэй, отвечая Хардту и Негри, признавал, что, действительно нет одного человека или организации, контролирующей интернет, но отвергал идею, что контроля в нем нет вовсе — просто он как бы размазан по всему интернету: для того, чтобы узлы Сети могли сообщаться друг с другом, им мало быть соединенными — они должны говорить на одном языке и работать по одним и тем же правилам.

Этот необходимый набор инструкций содержат в себе сетевые протоколы. Кто-то все равно должен решить, как будет происходить коммуникация. То есть уже в самом устройстве интернета было заложено противоречие: это и потенциально демократическая структура, и место всеобщей стандартизации и контроля.

Чем ближе мы подходили к сегодняшнему дню, тем глубже становилось это противоречие. Интернет всеобщей эмансипации превратился, по выражению теоретика медиа Герта Ловинка, в интернет вымирания. Метафора вымирания здесь многоуровневая. С одной стороны, речь идет о беспощадной эксплуатации природных ресурсов, на которой основаны технологии сегодняшних медиа — и, прежде всего, искусственный интеллект, который структурирует интернет 2020-х. С другой — Ловинк имеет в виду и эксплуатацию когнитивных ресурсов, ведь компании и платформы соревнуются в интернете за наше внимание и всеми силами пытаются привязать нас к экрану. В этом смысле интернет — еще и проводник массового выгорания, характерного для современных обществ.

Интернет вымирания — также и интернет недоверия. Третий уровень метафоры в особенности касается социальных медиа: как узнать наверняка, кто или что скрывается за незнакомым профилем: дальний приятель, спам-бот или проплаченный тролль? Выходит, недоверие — естественный спутник децентрализации, анонимности и свободы.

Разобраться, что такое дезинформация — не такая уж тривиальная задача. Журналисты, политики и обыватели настолько часто употребляют слово «фейк», что оно теряет всякий смысл и функционирует скорее как ругательство. Ведь обвинить оппонента в распространении лжи — значит потенциально подорвать к нему доверие.

Важную попытку дать внятное определение фейкньюс, или фейковых новостей, предпринял философ науки Аксель Гелферт. Само понятие фейка, или подделки, черпает свою силу от оригинала, под который мимикрирует. Например, в мире искусства копии существовали постольку, поскольку уже существовали прославленные оригиналы, но существовали все же в ограниченном количестве. И чем желаннее оригинал, тем более искусными будут его подделки: художникам выгодно подделывать мастеров.

Так и в интернете: фейки пытаются выдать себя за честные новости, а дезинформация — за информацию. Или, как пишет Гелферт: фейкньюс — ложные факты, упакованные в форму новостей. Важное свойство фейковых новостей также в том, что они ложные изначально, по своему замыслу. Важен и медиум, который распространяет фейки: по своей природе фейки создаются затем, чтобы стать частью существующих сетевых инфраструктур — и в конечном счете донести до целевой аудитории заведомо ложный месседж.

При таком подходе к фейковым новостям не столь важно, несут ли они в себе определенный идеологический заряд или нет. В этом их отличие от пропаганды, которая всегда идеологически ангажирована. Фейки могут распространяться государствами, но их могут создавать и частные лица, просто из желания заработать или развлечься. Так, например, в 2017 году огромная сеть с политическими фейкньюс была запущена подростками из Македонии, которые просто хотели заработать на сенсационном контенте.

С другой стороны, важно, что фейки создаются с намерением ввести в заблуждение. Если журналист делает «честную» фактологическую ошибку, это не делает всю новость фейковой; даже откровенно плохая журналистская работа с плохой фактологической базой не равна фейку. Да, медиа могут распространять ложную информацию, сами того не зная, — например, из-за идеологической ангажированности, которая влияет на интерпретацию освещаемых фактов. Но, как показывает Гелферт, фейкньюс — отдельный техно-социальный феномен, не равный по своему содержанию ложной информации в целом.

В 2009 году Google стал использовать персональные фильтры, которые создавали индивидуальную поисковую выдачу для каждого пользователя. Так закончилась эпоха, когда интернет был одинаков для всех, — по сути, нас заперли в индивидуальном пузыре фильтров, как называет это явление медиаактивист Эли Паризер. В этом эффекте заключена большая проблема: чтобы у людей с разными взглядами была возможность диалога, им нужна общая фактологическая база; вместо этого они вынуждены проживать зачастую в параллельных и отдельных друг от друга информационных вселенных.

Пузыри фильтров структурируют наш опыт не только в поиске, но и в социальных сетях. Паризер рассказывает, например, что в какой-то момент из его ленты в «Фейсбуке»* исчезли почти все посты от его политически консервативных друзей. Сам он придерживается скорее прогрессивных взглядов, но тем не менее для него было важно услышать мнение другой стороны. «Фейсбук»* с начала десятых эту возможность существенно ограничил, заполняя ленту Паризера тем контентом, с которым он, скорее всего, и так согласен.

Разработчики алгоритмов персонализации нередко утверждают, что такие алгоритмы нужны затем, чтобы снизить информационную перегрузку, — грубо говоря, сделать интернет выгорания более пригодным для жизни местом. Но в этом есть определенное лукавство. Как отмечал Паризер, персональные фильтры нужны техногигантам просто потому, что они увеличивают прибыль: если платформы предлагают нам то, что мы хотим, мы проводим на них больше времени, а значит нам можно показать больше рекламы.

Бизнес-антрополог Карлос Диас Руис уверен, что проблема платформ в том, что они созданы для того, чтобы нас развлекать, — а не, например, для того, чтобы быть местом дискуссии. Как утверждает Руис, устройство цифровых рынков подталкивает рекламодателей к определенной этической слепоте и неразборчивости: грубо говоря, если реклама находит свою аудиторию, то уже не важно, спонсирует ли она фейки или хейтспич. Поэтому само устройство платформ до определенной степени поощряет производство и распространение фейков.

Получается, что социальные медиа, с одной стороны, запирают нас внутри персонализированных информационных пузырей, а с другой — способствуют производству фейков. Может ли быть в таком случае, что часть пользователей оказывается внутри пузырей фильтров, заполненных фейками? Представьте, например, такую ситуацию — вы сомневаетесь в том, что земля круглая, и начинаете искать на «Ютубе» видео о теориях плоской земли. Вполне возможно, что со временем алгоритмы персонализации будут показывать вам больше контента, доказывающего, что земля плоская, чем опровергающего.

С тех пор как Паризер ввел в обиход понятие «пузыри фильтров» в 2011 году, представление о том, что алгоритмы способствуют поляризации мнений, стало общим местом. Сам Паризер видел в этом прямую угрозу демократии: в либеральной философской традиции истина возникает из столкновения мнений. И, как утверждал классик либерализма Джон Стюарт Милль, ошибочные мнения критически важны для установки истины — она как бы рождается через их опровержение. Получается, что пузыри фильтров как раз препятствуют спору, потому что противники могут даже не подозревать о существовании друг друга; а значит, постепенно уничтожают и демократические принципы, которое предписывают членам общества постоянно договариваться друг с другом.

Неприятная картина, но, возможно, все не так драматично. Мы не можем заглянуть внутрь Google или «Фейсбука», чтобы узнать, до какой степени они на самом деле способствуют поляризации пользователей. Но существуют исследования, в которых техногигантов подвергают реверс-инжинирингу— например, сравнивают пользовательскую выдачу в агрегаторе новостей Google News. Такие исследования показывают, что значимые различия существуют только между пользователями в разных странах, а в остальных случаях пользователи видят схожую информацию.

При этом, как утверждают исследователи медиа из Университета Вирджинии, пузыри фильтров на разных платформах работают по-разному. Изучив историю поиска 200 тысяч пользователей из США, они пришли к выводу, что «Фейсбук» зачастую рекомендует материалы небольших самопальных медиа, тогда как Reddit в большей степени рекомендует крупные СМИ. Алгоритмы «Твиттера»,

i

в данный момент соцсеть X в свою очередь, одинаково рекомендовали и то, и другое. Другими словами, не существует одного большого алгоритма, который навсегда отделил бы информационные пространства пользователей друг от друга; этих алгоритмов много, и работают они по-разному. Да, они действительно манипулируют нашим вниманием, но, по всей видимости, эти манипуляции не носят радикальный характер, а наши индивидуальные пузыри фильтров зачастую вполне проницаемы друг для друга.

Мы выяснили, что фейки — органичная часть сетевых инфраструктур: медиапространство так устроено, что в нем просто не может не быть фейков. Но в фейках есть и нечто жуткое (uncanny), как отмечает группа исследователей медиа из Франции и Великобритании. Они очень похожи на обычные новости, но в них есть какой-то смысловой сбой, из-за которого не до конца понятно, что перед нами. Существуют, например, новостные сайты, заполненные исключительно фейками, но выглядят они при этом, как настоящие. Известный пример — сатирический ресурс ИА Панорама, новости из которого российские СМИ нередко принимают за чистую монету.

Фейковые новостные сайты могут быть похожи на настоящие; но стоит задержаться на них подольше, как оказывается, что перед нами не новости, а призраки новостей. Неясен не только статус события, о котором они пишут, но и их авторство: за текстом может стоять как бот, так и живой человек. Но странное дело: зачастую фейковые новости получают более высокие позиции в поисковой выдаче, чем контент из крупных СМИ.

Например, во время выборов президента США 2016 года на первых позициях выдачи Google были новости, утверждающие, что Дональд Трамп набрал больше голосов избирателей, чем Хиллари Клинтон. На самом же деле было ровно наоборот: Трамп набрал меньше голосов избирателей, но при этом его выбрали коллегии выборщиков (и это позволило ему одержать победу на выборах). В этом тоже есть нечто жуткое — с одной стороны, мы привыкли верить поисковым системам и ждем от них, что они выдадут нам самую релевантную информацию, а с другой — непонятно, как фейкньюс вообще там оказались и как фальсификация может оказаться популярнее правды?

Как пишет социолог технологий Ричард Роджерс, поисковые движки — это не нейтральные источники информации; это настоящие эпистемологические машины.

i

такие системы, которые исследуют и структурируют циркулирующее в сети знание Тот же Google на самом деле не просто предоставляет нам данные «как есть» — напротив, он структурирует знание в Сети, создавая собственную версию реальности.

При этом поисковые движки ранжируют контент исходя из очень простой экономики ссылок: чем больше сайтов ссылаются на тот или иной источник, тем более высокую позицию в поиске он получает. Если вернуться к фейковым новостям, то они получают высокую позицию в поиске именно потому, что про них пишут, что они фейковые: главное, что на них есть ссылка. Существуют отдельные сайты, специализирующиеся на фактчекинге и опровержении дезинформации, а иногда этим занимаются и обычные медиа. Но, как это ни парадоксально, зачастую именно они делают фейки более видимыми и популярными.

В соцсетях фейковые новости тоже нередко привлекают больше внимания, чем собственно новости. Ведь социальные медиа ранжируют контент, исходя из экономики лайков, или экономики пользовательского внимания. Проще говоря, если люди лайкают что-то, то алгоритмы персонализации решают, что это важно — и чаще предлагают это другим. При этом фейки работают как «клей» для разрозненных онлайн-сообществ. Зачастую они написаны так, чтобы вызвать сильный эмоциональный отклик: раздражение, радость или озабоченность. И когда люди лайкают и распространяют такой контент, они чувствуют себя частью сетевых микросообществ.

Живучесть фейков в информационном пространстве обеспечивается еще и тем, что они системно эксплуатируют наши когнитивные уязвимости. Например, как пишет Гелферт, фейковые новости часто имеют яркую эмоциональную окраску. Аффективно заряженный текст тяжелее поставить под сомнение и подвергнуть критике — как сложно спорить с человеком, который на вас кричит. А еще фейки эксплуатируют то, что психологи называют предвзятостью подтверждения: люди склонны верить тем утверждениям, которые согласуются с их убеждениями. То, что подтверждает нашу точку зрения, нам интересно, а то, что ее опровергает, зачастую даже не попадает в поле нашего внимания. В этом смысле и цифровые пузыри фильтров — не вполне новость: мы существуем в них и без алгоритмов ИИ, а алгоритмы персонализации лишь усиливают наши когнитивные искажения.