Спойлеры, фейки и бомбы. Что такое инфоугрозы и как их предотвратить

«Всезнайство уму не научает» — так издавна учат философы. Говоря более современным языком, некоторые вещи лучше не знать. Распространен мем, который демонстрирует, как можно сломать себе фалангу пальца руки, согнув его и немного отведя запястье. Знание о том, что человеческое тело более хрупкое, чем кажется на первый взгляд, взбудоражило многих и привело к многочисленным травмам: пользователи имиджбордов и Twitter захотели проверить, правдива ли эта информация. Повторяя за мемом, люди наносили себе физические увечья.

В таких случаях говорят об информационных угрозах (infohazards) – рисках, возникающих от распространения или потенциального распространения правдивой информации, которая может принести вред или привести к причинению вреда. Причем масштаб вреда может быть разным. Например, можно говорить о психологическом дискомфорте, вызванным спойлерами сериала, или о дистрессе от неизлечимого диагноза. Даже привлечение внимание к какому-то явлению может принести вред — как это случилось с рыбками-клоунами, чья популяция пострадала от массового вылова после премьеры мультфильма «В поисках Немо».

Исследование риска и опасности трансдисциплинарно, в него вовлечены социологи, политологи, статистики, демографы, экономисты и многие другие. Как замечал социолог Никлас Луман (2001), впечатляют негативные последствия такой множественности дисциплин, вовлеченных в исследования опасности: из-за того, что в каждом подходе вводится собственное определение риска или опасности (будь то risk, hazard или danger), не существует определения, которое было бы научно обоснованным. Возникают сомнения, известно ли вообще, о чем идет речь? То же касается и инфоугроз: как определить это понятие, чтобы его можно было четко применять в конкретных контекстах?

Луман ссылается на одну из попыток различить риск и опасность: где последнее трактуется как угроза людям и тому, что представляет для них ценность, в то время как первое — это мера неожиданной опасности. Исследователи вводят понятие риска для математического уточнения своего стремления к надежности и предсказуемости процессов и событий, и этому соответствует переход к статистическому анализу риска. Риск, таким образом, противопоставляется надежности, что позволяет смоделировать и исчислить все решения с точки зрения их рискованности. Более того, как считает Луман, риск — более современное и точное понятие, поскольку оно отсылает к статистике.

Подход Лумана не помешал спустя 20 лет философу-трансгуманисту Нику Бострому ввести в научный оборот термин «инфоугроза». Новый термин оказался еще более размытым: концепт, который вводит Бостром, отсылает к глобальным издержкам прогресса, политическим идеологиям или просто опасным научно-техническим знаниям.

Классификация инфоугроз Бострома выглядит так:

• Угрозы данных. Некоторые данные, например, генетическая последовательность смертельного патогена может нести существенные риски при их распространении. Нетрудно представить себе дистопический мир, в котором через даркнет можно купить инструкцию по выращиванию вируса-убийцы.
• Угрозы идей. Религиозно-фундаменталистские, фанатичные идеи и учения, призывающие к насилию по отношению к иноверцам. Философские системы, провозглашающие, что жизнь человека ничего не стоит перед лицом истории — за что многих классических философов прошлого критиковали борцы с тоталитарной идеологией. Всесильный ИИ, который накажет всех, кто не приложил усилия к его созданию — как в парадоксе «василиска Роко».
  i
  Василиск Роко — мысленный эксперимент, представляющий будущее, в котором существует искусственный суперинтеллект (ИИ). Этот ИИ создает симуляцию виртуальной реальности, чтобы наказать тех, кто знал о его возможном существовании, но не способствовал его развитию.

• Угрозы внимания. Намеренное или случайное привлечение внимания к идеям, явлениям или данным, что может привести к рискам — например, упомянутый мем «как сломать палец» и большой пласт медицинской информации. Здесь стоит отметить особую роль СМИ: медиа могут «подсветить» создателя опасных, антигуманных идей и тем самым привлечь к нему больше сторонников.
• Угрозы рамки. Опасность информации во многом зависит от того, в каком виде или формате она подается. К примеру, детальную инструкцию по обходу систем безопасности или созданию фишингового сайта можно считать угрозами рамки: они в наглядном виде представляют технически сложную информацию, делая ее доступной для широкой общественности.
• Угрозы сигнализации. Вред может нанести и непрямая передача информации — скажем, когда компания непреднамеренно выдает слабые стороны своих систем защиты или намекает, что владеет секретной информацией, провоцируя этим промышленный шпионаж против себя.
• Угрозы эвокации. Способы передачи информации, которые могут спровоцировать негативные ментальные состояния. Например, брутальный фильм или игра могут притуплять чувствительность зрителей к насилию в реальной жизни или вызывать агрессивные мысли и поведение. Опасность здесь не только в содержании, но и в его способности вызывать вредные реакции или изменения в восприятии и поведении.

Инфоугрозы в прочтении Бострома имеют мало отношения к инфобезопасности, то есть процедурам устранения или снижения информационных рисков. Классификация угроз у философа носит скорее описательный характер и не предлагает алгоритмов их нейтрализации.

Что считать, а что не считать инфоугрозой, определяется с точки зрения некоей неопределенной нормативной инстанции — ей могут быть, например, государство, его институты, платформы социальных сетей.

Как и всякая классификация, подход Бострома уязвим для критики. К примеру, «угроза рамки» будто бы предполагает «угрозу данных», ведь чтобы пересказать опасную информацию в удобном для потенциальных злоумышленников виде, нужно, чтобы она уже была доступна. Разные с точки зрения классификации Бострома угрозы могут сочетаться друг с другом, и тогда неясно, зачем вводить отдельные категории.

Более того, подход Бострома чрезмерно идеологизирован и настроен алармистски по отношению к определенному кругу идей. Непонятно и то, кому конкретно несут угрозу перечисленные им риски. Подразумевается, что жертвой инфоугрозы может пасть все человечество. Важно отметить, что зачастую под глобальными проблемами человечества подразумеваются угрозы, возникающие в развитых странах Глобального Севера. Они могут быть не актуальны для бедных и развивающихся стран, в которые еще не проникла тотальная цифровизация.

Почему, по сути, локальные проблемы западных обществ наделяются статусом, аналогичным глобальным проблемам по версии ООН — вызовам, с которыми не может справиться ни одна страна в одиночку? К их числу относятся в том числе угрозы атомной энергетики, дефицит пресной воды, обеспечение безопасного интернета для детей и молодежи, голод, нищета, изменение климата, проблема беженцев, ограниченность природных ресурсов, гендерное неравенство. Налицо частичное пересечение инфоугроз и глобальных проблем, но перечень, предлагаемый ООН, выглядит более убедительным и риторически, и концептуально.

Выходит, что только изнутри конкретно взятой юрисдикции нечто определяется как инфоугроза: ведь, к примеру, реклама алкоголя или сигарет тоже несет опасность, потакая пагубным для жизни и здоровья привычкам. Опять же, получив информацию о том, что курение отражает респектабельный и стильный образ жизни, человек становится потенциальной мишенью для онкологического заболевания — чем это не инфоугроза? Бостром не учитывает таких проблем, но между тем понятно, что потребление никотина, алкоголя и прочих психоактивных субстанций — проблема вполне глобальная.

Мода на пластические операции, а также филлеры и ботокс, которые можно свободно купить в онлайн-магазинах и использовать дома, основана на распространении информации о том, как правильно использовать такого рода препараты и практики. Здесь очевидны риски и потенциальные угрозы здоровью, при этом инфоугрозы такая информация как будто не несет, ведь это совершенно легальная продукция и её использование — дело свободного выбора человека. Однако известны случаи, когда пациенты деформировали собственную внешность, ведь вместо филлера им продали неведомую субстанцию с добавлением лидокаина, который, как известно, может вызвать анафилактический шок.

Есть много примеров инфоугроз, получивших широкую известность благодаря тому, что они затрагивали селебрити. Например, в 2003 году Барбара Стрейзанд попыталась удалить фотографию своего дома из интернета, но вместо этого привлекла к нему еще больше внимания. В результате фото увидели почти полмиллиона человек за первый месяц после того, как Стрейзанд его удалила — этот кейс вошел в историю как эффект Стрейзанд.

Применительно к инфоугрозам эффект Стрейзанд может представлять собой косвенный риск: когда государство, социальная группа или частная организация пытаются подавить инфоугрозу, они рискуют непреднамеренно вызвать эффект Стрейзанд. Это может привести к тому, что информация привлечет больше внимания и распространится более широко, чем если бы ее не пытались цензурировать.

Развитие технологий несет свои риски. В особенности это касается потенциальной модификации природы человека: редактирование генома, медицинской кибернетики или использования ИИ в здравоохранении. Информация о том, как работают эти технологии, и главное — о том, как они создаются, — может представлять опасность для всего человечества. Достаточно представить, что может произойти, если в свободный доступ попадет информация о секвенировании ДНК, или редактировании генома в специальных интерфейсах типа CRISPR, или способах усиления генетических мутаций.

Проблема инфоугроз приобрела особое значение во время пандемии коронавируса. ВОЗ заявила, что, помимо стремительного распространения нового заболевания, мир охватила инфодемия — засилье разного рода информации, как правдивой, так и ложной. Фейки и конспирологические теории о вакцинации и происхождении болезни расширили понятие инфоугроз. Понятно, что ложная информация и раньше несла определенные риски, но с распространением новой инфекции на фоне общественной паники это стало особенно опасным, приобрело статус глобальной проблемы.

Согласно исследованию, опубликованному в журнале Nature, пользователи «Твиттера», которые делились ложной информацией о ковиде (например, опасными для здоровья способами лечения), испытывали примерно в два раза большее беспокойство, чем те, кто ознакомился с этой информацией, но не стал распространять её дальше.

Так, мы видим, что в условиях инфодемии распространение и истинной, и ложной информации может нести вред. И правда, и фейк могут шокировать и приводить к всплеску психических заболеваний, а ложь — к отрицанию факта болезни и демонстративному пренебрежению опасностью, вроде облизывания дверных ручек в общественных местах.

Можно говорить о нескольких способах нейтрализации инфоугроз, не нарушающих прав и свобод человека. Некоторые из них, не упоминаемые Бостромом, должны надежно обеспечивать инфобезопасность: к примеру, шифрование данных и создание безопасных каналов связи.

Другие связаны с деятельностью государства, его органов и институтов — создание нормативной базы, которая препятствовала бы распространению вредной информации. Например, можно законодательно ограничить или запретить распространение руководств по эксплуатации крупных энергетических объектов или доксинг (деанонимизацию через «пробив»).

Те же функции могут исполнять технологические компании и платформы, вводя политику модерации контента, механизмы информирования пользователей и настраивая алгоритмы обнаружения и устранения опасной информации. Такая регуляция может выйти на международный уровень, защищая от кибератак или злонамеренной дезинформации.

Но самый простой и доступный способ борьбы с инфоугрозой — повышение осведомленности и образование: пользователям и организациям можно рассказывать о потенциальных рисках и способах усилить защиту личных данных.

К примеру, блог LessWrong предлагает свои методы оценки рисков. Представим, что вы создаете новое оружие и опасаетесь, что из-за утечки или шпионажа эта информация может попасть не в те руки. В таком случае можно следовать такой методике:

1. Оцените силу воздействия информации — какую аудиторию она может охватить и насколько заметным будет ее влияние. Если влияние незначительно, информация не несет инфорисков.
2. Если риски высоки, нужно оценить уникальность информации: сколько специальных знаний требуется для ее осмысления, насколько она контринтуитивна и каковы стимулы ее разработки и распространения. Если информация прозрачна для узкого круга лиц, у нее низкая инфоугроза.
3. Если сведения легки для понимания широкой аудитории, оцените, как можно контролировать их доступность. Информация о создании бомбы может быть публичной, но ее распространение сдерживается государствами и международным правом. Если информацию можно засекретить, это значительно снижает риски.

По результатам оценки прийти к решению:

1. При отсутствии рисков информацию можно распространять.
2. Если риски высоки, нужно сформулировать ее таким способом, чтобы избежать злоупотреблений, разглашать ее частично или доверить небольшой группе посвященных.
3. При максимальных рисках стоит воздержаться от распространения информации и следить за тем, чтобы ее никто не распространял.

Конечно, универсального рецепта предотвращения рисков нет, но эта методика помогает оценить потенциальную опасность информации. В свою очередь, сама оценка может привести к мысли о цензуре и ограничении доступа к определенным сведениям. Но, во-первых, цензура не защищает от утечек, пример чему — активность Wikileaks и других расследовательских групп. Во-вторых, потребителям информации нужны не столько ограничения, сколько навыки критического мышления — умение фильтровать и осмыслять сведения, и в том числе оценивать их с точки зрения этических норм.

Не разделяя алармизма Бострома, можно сделать следующее заключение: чтобы этично и экологично решить проблему неограниченного распространения опасной информации, нужен взвешенный подход. Он должен учитывать интересы и права пользователей интернета, корпораций и государственных институтов. В то же время предлагаемое Бостромом и реализуемое на практике ужесточение цензурирования цифрового пространства — не только не выход, но и очевидно источник новых инфоугроз.