Промпт для управления человечеством: как ИИ создает наши желания. Фрагмент из книги Эрика Садена

Пора поговорить о различии между сознательным желанием и намерением. Первое связано со стремлением осуществить некую большую задачу. Например, поступить в престижный университет или вести более здоровый образ жизни. И в том и в другом случае предстоит использовать целый набор вспомогательных средств. Однако мы натыкаемся на два подводных камня. Во-первых, не факт, что у нас получится. Во-вторых, выбранные методы нельзя считать полностью подходящими и заранее гарантировать их эффективность. Сознательное желание предполагает достижение цели, но при этом неизбежны моменты неопределенности, движение наощупь. Во втором случае действует импульс того же типа, но он определен во времени и ищет вполне конкретного и, можно сказать, скромного завершения. Мы намерены сходить в магазин в середине дня. Мы сознательно не хотим идти в такой-то супермаркет в такое-то время, даже если это совпадает с нашим намерением. Таким образом, намерение всегда связано с обстоятельствами, оно из области прагматического и в конечном счете достаточно приземленное. Именно эта разница в характере разделяет «подручные» техники и когнитивные технологии. Первые — результат сознательного желания. Например, за желанием Гутенберга сделать так, чтобы документы можно было воспроизводить механически, один в один, был общий замысел, осуществимый гипотетически, и первым его воплощением стал знаменитый станок. Вторые зависят от систем автоматизированной классификации информации, — как информатика, — и изначально отвечают только намерениям. Намерения эти стали возникать одно за другим и стремительно множиться в результате ведущейся, — каждый раз в специфических целях — обработки информации.

Особенность компьютерных систем в том, что они стимулируют разработку множества приложений — для определенного применения. Это обусловлено самим принципом написания кода: он устроен так, что направлен не на широкое использование, а на конкретную цель. Тем более что кодовые строки составляются так, чтобы реагировать на команды. Ножу или велосипеду команд не дают — для них предусмотрен набор движений. Имеются в виду команды, отвечающие определенным намерениям (скажем, подготовить текст, ретушировать фотографию, включить музыку), осуществляют их алгоритмы. Компьютерные технологии, представляющие собой главным образом комбинации цифр, не перестают содействовать созданию новых функциональных возможностей и тем самым несут в себе неизменную виртуальность. Так называемая цифра — очень сложная наука, или даже искусство — искусство деталей, вплоть до самых малых, искусство различения, разделения, точного распределения, внутри которого каждый элемент занимает отведенное ему место. Как в математике, откуда эта наука-искусство вышла, состоящей из символов, пользуясь которыми можно бесконечно делить элементы реального. Не случайно мы говорим о «языке программирования» — по образцу естественного языка, с помощью которого почти все можно выразить, комбинируя буквы. Компьютерный код позволяет откликнуться чуть ли не на любое намерение, осуществимое в цифровой среде, надо только осмысленно обращаться с его элементарными частицами.

Намерений нынче хоть отбавляй, а с ними и действий, причем не просто абсолютно новых, но, кажется, еще и все более необычных (благодаря постоянно растущим вычислительным мощностям, усложнению алгоритмов и совершенствованию «железа»). Так к концу 1970-х годов мы начали открывать папки на «рабочем столе», подводя к ним курсор, или манипулировать джойстиком, перемещая по экрану нечто похожее на теннисную ракетку в бесхитростной видеоигре. То есть ряд команд, включенных в код, дают возможность совершить ряд практических действий. Их осуществление зависит только от процессоров и специального оборудования. Поэтому компьютерный язык породил массу новых желаний или, точнее сказать, открыл ящик Пандоры с некоторыми видами желаний. В дальнейшем этот поток все время будет набирать силу, словно он безграничен, и обнаружит множество явлений, которые мы проживаем с рубежа двухтысячных годов. Не случайно информатика, глубоко утилитарная дисциплина, получила развитие в XX веке, сделавшем утилитаризм своей главной религией, и, в свою очередь, да еще решающим образом, способствовала развитию этоса, который от и до структурирует наш мир и наше сознание.

***

С учетом сказанного следует подходить ко всей истории информатики, особенно с конца 1990-х годов, когда интернет стал общедоступным, снабдив сущности и отдельных людей различными системами, в результате чего осуществление бесчисленных намерений, вплоть до самых ничтожных, становится нормой. Практическая цифровизация не только разовьет утилитаризм, но приведет к появлению новых технологий власти на основе фракционного, детализированного анализа разнообразных ситуаций, в частности на предприятиях, потому ими и злоупотребляет современный менеджмент. В связи с этим стоит осознать неразрывную связь между подъемом неолиберализма нескольких последних десятилетий и — на микроскопическом уровне — препарированием реальности в инструментальных целях. Это нужно также учитывать, говоря о буме приложений в последние пятнадцать лет — их порой не пересчитать в нашем смартфоне, и одно это помогает представить, как часто информация служит утилитаризму в совершенно разных целях и во всех срезах повседневной жизни. Отличительная черта нашего настоящего в том, что способность тех или иных систем откликаться на наши намерения касается не только повседневной деятельности: теперь они научились запечатлевать различные формы нашей реальности.

То есть происходит — в реальном времени — прямое и вполне очевидное воздействие на ход вещей. К примеру, выбор маршрута по рекомендациям приложения с учетом автомобильной сарабанды на улицах, или заказ еды онлайн на одной из специализированных платформ, снабжающих бесконечные вереницы курьеров на велосипедах и скутерах во всех крупных городах планеты, или свидания, на которых встречаются люди, предварительно оставившие свои пожелания на каком-нибудь сайте знакомств. Эти роботизированные системы активно участвуют и в других процессах нашего бытия, частного или коллективного, — в покупке и продаже ценных бумаг, в приобретении картриджа, который заказывает онлайн сам принтер, или в работе беспилотных автомобилей будущего, передвигающихся благодаря интегрированным датчикам и обработке в реальном времени собранных отовсюду данных. Какой оборот примет наша реальность, все чаще зависит от объема переработанных данных, от алгоритмов, программ, разветвленных систем, наделенных собственными рабочими мощностями, чтобы выполнять бессчетное множество локальных задач.

Между тем широкую практику отправки команд (или инструкций) машинам, работа которых и так поддерживается командами, — что можно назвать «всеохватным инструкционизмом», — ждал столь же хорошо замаскированный, сколь неожиданный поворот. Мы пришли не только к тому, что даём машинам команды или позволяем, чтобы они давали их самим себе, но теперь и от них получаем указания. Рабочий механизм наглядно виден на примере рекомендаций, которыми без конца одаривают нас платформы, предлагающие что-либо сделать — обычно в коммерческих целях. Или в коллективном пространстве, где передвижения людей — с точностью почти до миллиметра — регулируются разными сигналами: в ход идут приёмы, применяемые прежде всего в логистических центрах. Что-то не то в нашем нынешнем образе действий, обусловленном не то личной волей, не то всемогущими роботами, не то призраками, которые обращаются к нам и с разными целями направляют наше поведение.

***

Это свойство получает совсем другой масштаб с появлением искусственного интеллекта, справедливо называемого «генеративным», когда с нашей подачи, на основе простых устных или письменных команд-инструкций, создаётся нечто совершенно новое — языковыми или изобразительными средствами. В английском это называется prompt — Кембриджский словарь даёт такое определение этого слова: To make someone decide to say or do something («сделать так, чтобы кто-то решил что-либо сказать или совершить»). Во французском языке оно тоже существует — скажем, в выражении réponse prompte, «быстрый, немедленный отклик», то есть тот, который следует сразу за нашей командой. В общем, мы даём команды системам, чтобы генерировать тексты, голоса, псевдофотографии, и всё это — внутри туго сплетённой, если не сказать — спутанной структуры. Люди дают команды машинам — и в то же самое время логика немедленного отклика призвана делать так, чтобы мы думали, будто сами решаем поставить задачу процессорам — что им произнести, какое действие выполнить, хотя в конечном счёте их цель всё равно одна — влиять на наше поведение.

К таким примерам можно отнести и ChatGPT, и другие похожие разработки, которые не только откликаются на наши запросы, но и, подобно призракам, прямо говорят, как лучше поступить, или посещают наше сознание, чтобы исподтишка, имитируя самую что ни на есть естественную речь, внушить нам совершенно посторонние взгляды, которыми мы должны руководствоваться. Именно здесь метавселенная и искусственный интеллект находят точку пересечения и образуют принципиально новую среду — или стиль жизни, — когда мы надеваем шлем и просим показать нам иллюзорное северное сияние или «провести» по пиксельному Токио, но только при этом нас постоянно будут тащить за руку или скрыто направлять. Кто бы поверил, что ChatGPT или любая аналогичная система задумана только чтобы выдавать нам тексты — просто так, без всякой задней мысли? Так же устроены Bing и Bard, чат-боты и «поисковики», принадлежащие, соответственно, Microsoft и Google, — они составляют контент по нашим запросам и в то же время, только скрыто, побуждают делать выбор в пользу упоминаемых компаний (которые изрядно раскошеливаются за право фигурировать в генерируемых текстах). Налицо возможность корректировать поведение через автоматический язык, выражающий всевозможные интересы и выступающий носителем квазиистины, — это удивительным образом вторит блестящей мысли Поля Валери, который в 1945 году написал: «Власть — это когда есть все условия, чтобы кто-то один, многие или все действовали по чьему-то слову. Быть у власти — значит говорить как хозяин. И, соответственно, владеть дискурсом, речью, которой будут повиноваться

i

Valéry P. Cours de poétique. T. II: Le langage, la société, l’histoire (1940–1945). Gallimard, coll. «Bibliothèque des Idées», 2023. P. 384. Перевод мой. — А. З. ». 

Можно смело поспорить, что ближайшее и следующее десятилетие пройдут под знаком промптов или всеобщего «промптимизма». Технико-экономический комплекс снабжает нас всё более эффективными системами и готов в конечном счёте выполнить чуть ли не все наши задачи — и когнитивные, и креативные. То, что испокон веков требовало обучения, сторонней помощи, физических и умственных усилий, вот-вот окажется бесполезным и морально устаревшим, а мы превратимся в существ, которые только создают промпты. Искусственные пифии, стоит их попросить, день за днём распишут стратегию предприятия, подскажут, кто из сотрудников недостаточно результативен, а в ком отпала необходимость, подготовят за нас сообщения, письма, речи, составят список якобы необходимых покупок, распланируют наши будни, придумают программу пребывания в незнакомом городе и даже примутся сочинять рассказы, мелодии или делать фильмы — какие любой из нас пожелает. Это и есть — на пользу всех и каждого — индустриализация непрерывного «правильного» пути, а заодно — систематическое потакание малейшим нашим капризам. Попробуем представить, как это скажется на индивидуальной и коллективной психике. Мы словно лежим на диване и ждём, что за нас всё сделают системы, выступающие в роли дворецких, которые бесконечно нас превосходят. Такая среда атрофирует как наше стремление во внешний мир, так и наши интеллектуальные способности — причём всё до того иезуитски устроено, что можно поверить, будто здесь все в выигрыше. Нынешнюю квантовую фрактальную троицу с недавних пор дополняет фрактальная троица ещё одного вида — «промптическая», — отмеченная эксклюзивной печатью утилитаризма.

На первой ступени — технологический режим, который сегодня преобладает и основан прежде всего на командах, прописанных в программах для того, чтобы роботы могли выполнять бесчисленные задачи. На второй — люди, которые этим пользуются и сами формулируют команды, отвечающие их намерениям. Наконец, на третьей ступени общество являет собой картину переизбытка команд, формулируемых людьми или сущностями для активации машин. Таким образом, мы вступаем в эпоху, в которой любое дуновение жизни будет искать одного — достижения в реальном времени определённых намеченных целей. До недавних пор утилитаризм был обусловлен замыслом, предполагающим содействие множеству начинаний, чтобы поддерживать порядок — оптимизированный и приносящий прибыль. Правда, эта логика не распространялась на многие эпизоды, связанные с передвижением людей и вещей. Теперь же индустрия «промпта», — которая скоро станет доминирующей, поскольку обещает обеспечить «окно взаимодействия» предприятий всего мира с нашими «вводными», — как следствие, подменяет этим этосом наше существование, упрочивает утилитаризм, который должен интегрироваться или, можно сказать, радикализоваться. И тогда всё, что не впишется в такую систему, будет восприниматься как пустая трата времени и сил — или глоток воздуха, порой такой желанный. Но, конечно, всё реже и реже.