Цифровая мимикрия. Почему наша интуиция больше не распознает фейки и как это исправить

Вместе с развитием CGI

i

Computer-Generated Imagery — изображения и анимация, созданные с помощью компьютерной графики. и генеративных ИИ активно множатся и фейковые изображения ― видео и картинки, которые выдают себя за свидетельства реальных событий. Некоторые фейки относительно безобидны ― как, например, изображения папы римского в сверкающем пуховике. Есть и более проблемные, формирующие ложную картину политических событий. Много фейков такого рода появляется сейчас в контексте войны на Ближнем Востоке ― они генерируются нейросетями или создаются из скриншотов компьютерных игр. Таким изображениям легко верить: они вызывают эмоциональную реакцию еще до того, как мы успеваем усомниться в правдивости изображения. 

Мартина Марчиняк много лет работает в проектах, расследующих визуальные фейки. Анализируя проблему доверия в своем эссе, она пишет, что мы теряем интуитивное чувство ненастоящего. Исчезает тот самый «эффект зловещей долины» — тревога, которая возникала, например, при виде фото с десятью слипшимися пальцами. Новые технологии генерации работают тоньше, и теперь наша интуиция часто ошибается. 

Этому мешает и переизбыток образов катастроф в медиа. Как отмечает Мартина, привычка регулярно читать репортажи о чрезвычайных происшествиях приводит к тому, что «паника быстро овладевает чувствами, и острое недоверие к изображениям катаклизмов (как настоящих, так и фейковых) уже не срабатывает». Этот принцип распространяется на любой эмоциональный контент, будь то умиление от котиков, гнев из-за новости о пострадавших детях или тревога перед пугающими слухами.

Мартина предлагает неожиданную точку зрения: способность распознавать фейки определяется не только цифровой грамотностью и опытом работы с источниками. Это территория интуиции, внутреннего чутья. Чтобы вернуть себе это чутье (или хотя бы попытаться), полезно знать, какие приемы используются при создании фейков. Ниже расскажем о некоторых из них, а в конце дадим шпаргалку ― где и как можно быстро найти первоисточник изображения, сравнить кадры и распознать фейк.

В конце июля в «Тиктоке» завирусилось видео, как бы снятое на скрытую камеру: десяток кроликов под покровом ночи резвятся на батуте в чьем-то дворе. В ролике можно обнаружить очевидные признаки генерации: кролики неожиданно появляются из ниоткуда или исчезают, вырастают друг из друга, а иногда по ходу действия их хвосты превращаются в уши. Несмотря на это многие пользователи поверили в то, что видео показывает реальный случай. Оно быстро стало виральным: пользователи пересылали его друг другу, о нем стали говорить в новостях и писать в крупных международных медиа. Почему очевидные признаки оказались незаметны? Потому что создатель видео использовал приемы, которые мы привыкли считывать как показатель аутентичности. 

Во-первых, это эффект некачественной съемки. Все, что делает изображение нечетким, может усиливать правдоподобие: пыльные разводы или пятна на камере, размытость, туман или засвеченная вспышкой съемка. Ошибки или странности легко отнести к техническим проблемам: в конце концов, сложно разобрать, что происходит, если по линзе течет вода. 

Еще один прием, который помогает усыпить бдительность: имитация документальности. Запись с ночной или секьюрити-камеры выглядит интимно, как будто нас, зрителей, посвящают в какой-то секрет, который мы не должны знать. Ощущение, что ты становишься свидетелем чего-то скрытого, захватывает и отвлекает внимание, и мы забываем, сколько у кроликов на самом деле лап и ушей.

Другие похожие приемы ― стилизация под запись с боди-камеры, или видео, которое выглядит как запись на старой видеокассете. Эстетика документальности может создаваться и за счет эффектов, характерных для спонтанной, непрофессиональной (и потому более «аутентичной») съемки: это дрожание рук, шумы и голоса за кадром, быстрые и как бы случайные повороты камеры. Эффекты могут усиливать разного рода дефекты, например трещина на линзе или глитчи в записи.

Еще один инструмент, повышающий доверие к видео, ― элементы меню интерфейса. Мигающая точка REC, иконка заряда аккумулятора или бегущее время внизу экрана делают симуляцию более материальной. В случае с кроликами автор добавил эмоциональную подпись — как бы спонтанную реакцию на маленькое чудо:

В условиях массовой нейрогенерации само понятие реалистичности теряет смысл и уступает место новой псевдодокументальной эстетике. Изображения и видео заимствуют приемы из кино или используют CGI-графику, симулируя правдоподобие и притупляя критическое восприятие.

Кейс с кроликами — это просто милое видео, контент для повседневного скроллинга, их «фальшивость» относительно безвредна. Более ощутимая опасность таится там, где фейки определяют нашу картину мира: например, в политической и социальной сфере.

Некоторые явления мы чаще встречаем в фильмах, чем в реальной жизни, например взрыв или большой пожар в жилом доме. Поэтому представления о том, как выглядит тот же самый взрыв, для большинства из нас сформированы именно кино или компьютерными играми, а не практическим опытом. 

Именно эта кинематографическая условность и выдает фейки. Яркий пример — видео, распространившееся в июне этого года, когда Израиль нанес удар по тюрьме Эвин в Тегеране. Вскоре в одном из иранских телеграм-каналов появилось видео, на котором дверь тюрьмы выносит взрывной волной. Ролик быстро распространился как по официальным израильским каналам, так и в международных СМИ. Его быстро идентифицировали как фейк ― ракурс съемки и деревья в кадре были неотличимо похожи на фотографию, снятую намного раньше. Был и ещё один признак генерации ― собственно сам взрыв. Ударная волна выбивает одну лишь дверь, оказывая неправдоподобно слабое воздействие на кусты и машины у входа в здание. 

Подобные нарушения законов физики часто встречаются в сгенерированных видео. Среди типичных аномалий нереалистичность взрыва, хаотичное движение объектов или отсутствие отражений (в витринах, окнах домов и автомобилей). Для точной оценки реалистичности природных эффектов исследователи прибегают к сложному компьютерному моделированию ― например, создают цифровую копию здания и симулируют его разрушение. Но существуют и более простые, поверхностные признаки, на которые стоит обращать внимание.

Во-первых, это синхронизация звука и изображения. В фейковых записях звук часто накладывается поверх видео без учета свойств звуковой волны. Например, когда человек с камерой стоит далеко от взрыва, а зритель видит вспышку и одновременно слышит грохот (в реальности звук приходит с задержкой). Другой эффект, говорящий в пользу постановки, ― это внезапная тишина после взрыва, знакомая нам по кинобоевикам, как если бы взрыв оглушил самого зрителя. На самом деле если взрыв происходит в густонаселенном районе города, его сопровождают самые разные звуки ― сирены сигнализации, лай собак, звон бьющихся стекол и так далее. 

Во-вторых, это расположение света и теней. Мощные источники света, такие как взрывы и пожары, неизбежно отражаются на всех окружающих объектах ― окнах и облицовке зданий, на металлических поверхностях, отбрасывают блики на облака и асфальт. Если во время взрыва эти объекты не меняют яркость, это выглядит подозрительно.

В-третьих, это движение дыма и огня. В кино взрывы специально делают более эффектными ― их моделируют с помощью CGI-графики или используют пиротехнические смеси, которые делают взрыв более дымным, ― а потом еще и снимают их так, чтобы огненное облако выглядело больше, чем в реальности. ИИ тренируется как раз на таких постановочных видео и воспроизводит спецэффекты. А еще при создании текстур нейронка работает с паттернами ― одни и те же формы могут повторяться несколько раз.

В реальности дым и пламя движутся сложно и непредсказуемо и вряд ли будут выглядеть так же эффектно и геометрично, как в сценах из блокбастеров. Предметы вокруг обычно тоже приходят в движение или деформируются под воздействием ударной волны. В фейковых видео они могут оставаться на месте или двигаться по нереалистичной траектории: например, на видео «взрыва» в Иране одно из зданий падает в направлении взрыва, а не от него. 

Обычно видео с имитацией взрывающихся зданий короткие и «шумные» ― в кадре одновременно происходит много действий. Поэтому один из работающих методов распознать фейк ― периодически ставить видео на паузу и внимательно изучать подозрительные эпизоды. Так можно увидеть, что в кадре неожиданно появляются или исчезают какие-то артефакты, неестественно горит огонь или ударная волна воздействует на одни объекты, не затрагивая другие.

Фото вне контекста — другой частый прием, который используется в фейках. Причиной может быть как невнимательность, так и погоня за хайпом или желание ввести в заблуждение или навредить (см. гибридная война). В любом случае здесь опять же эстетика документальности подменяет информацию из первых рук. Как, например, в случае девочки Малек. 

В 2018 году пользователь Instagram* опубликовал фото очаровательного ребенка — девочка лет пяти в зеленом платье смотрит прямо в камеру: большие карие глаза, волосы рассыпаны по подушке. В своем посте автор сообщил, что Малек погибла во время израильского авиаудара по Газе. Эта история широко разошлась по X (бывш. Twitter): она звучала не только эмоционально, но и правдоподобно — да, во время военных действий погибают дети, и новости о новых жертвах регулярно появляются в лентах всех, кто следит за войной на Ближнем Востоке.

Проблема в том, что на фото — девочка София из Москвы, абсолютно здоровая и никак не связанная с арабо-израильским конфликтом. Изначально фотографию опубликовала ее мама в своем аккаунте. Значит ли это, что реальной Малек не было и автор ее придумал? Или она все-таки существует, но не нашлось подходящего изображения? В каком-то смысле это уже неважно. Фото девочки создает иллюстрацию трагедии: это уже не конкретный ребенок, это все погибшие дети, пусть даже фото не имело к ним никакого отношения. И это тоже проблема: эмоциональность и «правдоподобность» новости становятся важнее, чем проверенная информация с места событий. Фотография уже не фиксирует реальность и не несет новой информации — она просто подтверждает то, что люди и так готовы увидеть.

Выше мы перечислили далеко не все приемы, которые используются для имитации правдоподобности. Даже при большом опыте работы с информацией интуиция может подвести. Поэтому исследователи из Университета Торонто рекомендуют использовать так называемый метод SIFT (Stop, Investigate, Find, Trace). На русский можно перевести этот метод как п-3к ― пауза и три вопроса:

• Как выглядит?
• Кто еще об этом писал?
• Как выглядит оригинал?

Пауза ― важно отделить эмоциональную реакцию от действия. То, что вызывает быстрые и сильные чувства, может оказаться чьей-то шуткой или осознанной манипуляцией. Если контент требует немедленной реакции, стоит на пару секунд остановиться и спокойно подумать.

Как выглядит видео/фото? ― на этом шаге следует прочитать пост или просмотреть видео чуть внимательнее. Кто это опубликовал, нет ли признаков генерации, есть ли ссылки на источник? Тут как раз будут полезны знания о том, как создается виральный фейковый контент. 

Кто еще об этом писал? ― если, например, новость с сильной эмоциональной подачей вызывает сомнения, стоит провести кросс-поиск по названию, картинке или ключевым словам. Так можно выяснить, кто еще этом написал, ― и, может быть, найти уже готовый фактчек. 

Как выглядит оригинал? ― первоисточник фото- или видеоконтента можно найти с помощью поиска по фото или сервиса YouTube DataViewer. Иногда видео для иллюстрации «новостей» берут из аккаунтов ИИ-художников, и это можно быстро проверить кросс-поиском. Когда был опубликован оригинал? Что содержится в описании? Проверенный ли это источник? Выглядит ли оригинал иначе, чем его виральные версии?

Вот несколько полезных сервисов для быстрой автоматической проверки контента на возможную генерацию: DeepFake-o-Meter v2.0, Illuminarty, InVid.

Я пересматриваю видео с кроликами, и оно все еще выглядит милым, даже если я знаю, что изображение не настоящее. Важно ли это? Пример с кроликами хорошо показывает, что теперь мы неизбежно будем сталкиваться со сгенерированными изображениями, и у нас не всегда будет время и желание проводить детальное исследование. Может быть, в этом случае и не важно, запечатлела ли кроликов камера или создал ИИ. 

Кролики напоминают о жанре «историй из жизни», которые часто появляются в социальных сетях, но не имеют конкретного указания на источник. Они циркулируют как житейские анекдоты, без претензии на документальность, но их правдоподобие все равно вызывает интерес («ого, и так бывает!»). Если к таким историям в текстовом формате мы привыкли, то изображения и видео довольно часто воспринимаются как документальные свидетельства.

И все же быстро расширяющаяся воронка фейкового контента требует переосмысления того, как и чему мы доверяем. Возможно, стоит каждый раз спрашивать себя: стал бы я делиться с другом или ставить лайк этому видео, зная, что его создала нейросеть? Если это подборка милых толстых капибар под непритязательную музыку, происхождение видео, может быть, и не особо важно. 

А если это симуляция политической новости или эмоционального фото с места событий, репост окажется пусть и небольшим, но все же вкладом в коллективную нормализацию ситуации постправды ― когда уже не понятно, чему и кому доверять, да в целом это уже и не важно. В инфополе, изобилующем противоречивой или неверной информацией, ничему больше не доверять ― это довольно соблазнительная стратегия в силу своей простоты. Но если ничему не верить, то не о чем и заботиться ― мир сжимается до узкого круга самых близких людей, а социальные проблемы остаются чем-то эфемерным и далеким.

Сегодня доверие к фото и видео становится роскошью, которую можно позволить себе лишь в особых случаях. Поэтому в любой ситуации, где важна достоверность, включать скепсис теперь стоит по умолчанию. Как пишет Мартина Марчиняк, именно сейчас нам нужна новая «эстетика факта» ― новые критерии и практики визуального доверия.

* Принадлежит компании Meta, признанной экстремистской организацией и запрещенной на территории РФ.