От спиритических сеансов до ChatGPT. Краткая история автоматического письма

В своей последней монографии социолог Маттео Пасквинелли показывает: в машинах, автоматизирующих труд, гораздо больше человеческого, чем мы привыкли думать. Его исследовательская программа состоит в том, чтобы проследить социальное происхождение алгоритмов автоматизации — и искусственного интеллекта как их частного случая, показывая в том числе, что алгоритмическое мышление возникло задолго до цифровой эпохи.

Например, древнеиндийский ритуал Агничаяна предполагал возведение алтаря в форме птицы, состоящего из тысячи кирпичиков. Его должны были строить строго определенным образом, слой за слоем. А чтобы алгоритм постройки не забылся, его передавали из уст в уста в виде мантр.

Устройство первых индустриальных машин, уверен Пасквинелли, имитировало вполне человеческий принцип разделения труда: каждая деталь выполняла свою функцию (совсем как в социальном организме). Жизнь общества — это процесс, и государству важно, чтобы общество было прозрачным и читаемым, выражаясь словами антрополога Джеймса Скотта. Поэтому, чтобы лучше распорядиться телами и судьбами граждан, государство преобразует сложные жизненные процессы в абстрактные формальные схемы: например, документы, регламентирующие социальную жизнь, или карты с четкими национальными границами. Прямо как компьютерная программа, производящая операции над символами.

В этом тексте мы попробуем, вслед за Пасквинелли, раскрыть человеческую сторону автоматического письма. Под ним понимается порождение текста, происходящее без участия человеческой языковой способности в полном смысле этого слова. С одной стороны, язык могут имитировать алгоритмы — воплощенные как в цифровых, так и в механических машинах. С другой стороны, существуют и доалгоритмические практики автоматизации письма. Как, например, у поэтов-сюрреалистов, которые представляли собственные тела в виде машины, фиксирующей импульсы бессознательного.

В первых машинах, имитирующих человеческий язык, было не так уж много машинного. Их история начинается в середине XIX века: в 1848 году три сестры из небольшой американской деревушки осознали, что их тела могут передавать сообщения из потустороннего мира. Девушек повсюду сопровождали таинственные стуки. Они были уверены, что за этими странными звуками стоит разумное существо. Оно могло отвечать на простые вопросы — например, знало, сколько лет каждой из сестер, и сообщало правильное число посредством стуков. Со временем коммуникация стала более сложной: сестрам удалось расспросить призрака о его личности. Выяснилось, что это был странствующий торговец, убитый прошлыми владельцами дома.

Исследователь технологий Бернард Гэйган считает, что американское спиритуалистское движение середины XIX века — это одна большая машина, состоявшая из человеческих тел, несовершенных технологических инфраструктур, медиа и самоорганизующихся сообществ. Зона действия этой машины — на границе существующих коммуникационных сетей, в деревушках и городках, до которых не дотягивалась железная дорога, но зато их достигали странствующие торговцы.

Сообщение от крупных коммуникационных узлов доходило в такие места, но с задержкой. Спиритическая машина эту задержку компенсировала: контакт с духами может быть установлен мгновенно даже там, где нет ни телеграфа, ни транспортных систем.

В такой модели тело медиума выполняло роль технического устройства, передающего сообщение от духов в наш мир. Ранние спиритические сеансы были невозможны без людей с такой способностью. Но на самом деле, конечно, тела сестер Фокс не столько передавали, сколько производили языковые коды — вполне в маклюэновской логике «медиа — это и есть сообщение». Многочисленные разоблачители писали позже, что источником таинственных стуков были хрустящие коленные суставы.

Спиритуализм быстро набирал популярность: миллионы людей заинтересовались спиритическими практиками. Общаться с духами стали и жители крупных городов, в том числе и за пределами США. Появлялись новые медиумы, а способы сообщения с потусторонним кодифицировались и обрастали псевдонаучными элементами. Например, американский ясновидящий Эндрю Джексон Дэвис писал, что в спиритических сеансах должно участвовать равное число мужчин и женщин, а рассаживаться они должны по кругу. К тому же для более быстрой связи с миром духов круг должны пересекать токопроводящие проволоки, концы которых опускались в ведра с водой.

Со временем и вовсе появились устройства, позволяющие проводить спиритические сеансы и без участия медиума

i

Как отмечает Гэйган, спиритуализм демократизировался и стал доступным для каждого. . Одно из таких устройств, доска Уиджа, превращало тело оператора в машину для автоматического письма. Она состояла из доски, на которую были нанесены буквы алфавита, цифры, слова «да» и «нет». На доске находилась планшетка-указатель. Оператор располагал на ней кончики пальцев, а затем ждал, пока она не начнет двигаться. Другими словами, микродвижения рук оператора доска Уиджа преобразовывала в таинственную последовательность знаков, которую спиритуалистам предстояло расшифровывать.

Переместившись из американского захолустья в городские гостиные, спиритуализм, как пишет Гэйган, сменил свою функцию. Изначально он был местом встречи с жутким и потусторонним, но в итоге люди прибегали к спиритическим сеансам, чтобы больше узнать о самих себе: спиритические машины налаживали коммуникацию с темными уголками сознания участников.

В 1920-х медиумическое автоматическое машинное письмо апроприировали сюрреалисты, увидевшие в нем одновременно и поэтический, и политический потенциал. Духовные медиумы утверждали, что их тела способны проводить сигналы из другого мира — из-за особого таланта. А у сюрреалистов вокруг подобного автоматизма перевода была построена целая художественная программа. Вот как определял сюрреализм основоположник движения Андре Бретон: это «чистый психический автоматизм, имеющий целью выразить, или устно, или письменно, или другим способом, реальное функционирование мысли»; «диктовка мысли вне всякого контроля со стороны разума, вне каких бы то ни было эстетических или нравственных соображений».

В такой модели автоматического письма тело поэта превращается в записывающее устройство наподобие магнитофона: оно фиксирует бессознательное поэта вместе с его противоречивыми влечениями. Чтобы написать автоматический текст, поэту нужно перестать думать о том, что он пишет, и просто фиксировать все, что приходит в голову, никак это не оценивая. При этом ключевую роль играет скорость письма. Согласно Бретону, нужно писать так быстро, чтобы «критическое сознание» попросту не успевало за словами.

Цель сюрреалистского автоматизма — в подрыве сложившихся эстетических и социальных конвенций, утверждает искусствовед Хал Фостер. Сюрреалисты бунтовали одновременно и против буржуазного вкуса, и против буржуазной рациональности. Но у автоматического письма была и зловещая изнанка. Поэтом может овладеть влечение к смерти — одно из базовых психических влечений, согласно Фрейду. Освобождение субъекта может обернуться его распадом.

Превратить свое тело в машину для фиксации своих же мыслей — это жуткий опыт: поэт замирает между живым и неживым, человеческим и машинным. Столкновение с жутким — это всегда угроза, поэтому автоматическое письмо сюрреалистов — это еще и письмо компульсивное: оно больше не освобождает, а заключает поэта в порочный круг навязчивых повторений.

История технологизированного отчуждения языка от тела начинается ровно в этот момент — когда пишущие превращаются в устройства для фиксации речи.

В 1843 году изобретатель Джон Кларк создал «Эврику» — механическую машину, сочиняющую латинские гексаметры. Она размещалась в шкафу на ножках размером со стиральную машину, на передней панели было шесть небольших окошек разной длины — в каждом набор латинских символов. Чтобы завести машину, нужно было крутить небольшую рукоятку сбоку; тогда символы в окошках начинали двигаться, пока не складывались в осмысленные слова. Если пользователь и после этого продолжал крутить рукоятку, символы снова приходили в движение и складывались в новый набор слов.

Каждому окошку «Эврики» соответствовал барабан с торчащими из него проволоками разной длины. В начале каждого цикла программы деревянные планки с нанесенными на них буквами алфавита начинали двигаться сверху вниз и двигались до тех пор, пока не сталкивались с проволоками. Разная длина проволок кодировала разные алфавитные символы, а последовательность этих длин задавала целое латинское слово. Система шестеренок и противовесов внутри машины была устроена так, что каждый барабан с проволоками вращался независимо от других. Таким образом, потенциально каждое слово в строке могло встретиться с каждым другим словом.

В сущности, Кларк реализовал комбинаторную машину для языка. Слова, закодированные на барабанах, были подобраны так, чтобы при любом их сочетании получилось грамматически правильное предложение на латинском языке — хоть и не всегда осмысленное. Все предложения, которые могла породить «Эврика», использовали один и тот же синтаксический шаблон: на каждом барабане закодированы слова с одинаковой синтаксической функцией и с одними и теми же грамматическими признаками. На первом барабане были закодированы прилагательные во множественном числе и именительном падеже (altera, «другие»). На втором — существительные, к которым они относятся (damna, «потери»). Третий и четвертый барабан отвечали за глагол (promulgant, «провозглашают») и относящийся к нему наречный модификатор (foris, «снаружи»). Пятый и шестой — снова за существительное с прилагательным, выступающими в роли прямого дополнения (vulnera senta, «раны колючие»).

И вот что могло получиться на выходе: altera damna foris promulgant vulnera senta «другие потери снаружи провозглашают колючие раны». Смысла в такой выдаче немного — но зато она был грамматически правильной, а еще ложилась в стихотворный размер. По подсчетам исследователя Майка Шарплза, «Эврика» могла сочинить 26 265 600 отличных друг от друга стихов.

Как отмечает Шарплз, машина Кларка сильно опередила свое время. Подобные алгоритмы для симуляции естественного языка появятся только через сто лет уже на базе первых компьютеров. В сущности, «Эврика» представляла язык в виде набора чисел (разной длины проволок на барабане) и грамматических паттернов. Этим же занималась лингвистика 1950-х, вдохновленная кибернетикой. Лингвисты Роман Якобсон и Морис Халле в 1956 году перевели на язык нулей и единиц фонологический инвентарь русского языка, а в 1957 году Ноам Хомский перевернул лингвистическую теорию вверх дном, заявив, что язык — это набор формальных синтаксических правил, которые можно сформулировать на языке теории информации.

И у Хомского, и у Кларка язык редуцирован до чистой комбинаторики. Языковая машина просто соединяет между собой элементы нужных типов в нужном порядке — то есть применяет формальные грамматические правила. Места значению в этой модели просто нет: согласно Хомскому, за него отвечают внеязыковые когнитивные системы. Поэтому этот тип письма можно назвать квазислучайным.

«Эврика» могла сгенерировать миллионы разных предложений, из-за того что конкретный элемент для каждой синтаксической роли выбирается случайным образом. Точнее, почти случайным. Это просто механический эффект, как отмечает Шарплз: на скорость вращения каждого барабана влияет сила трения, а она для каждого барабана разная из-за небольших различий в их массе и в конфигурации проволок.

В цифровых машинах тот же эффект достигается с помощью генерации псевдослучайных чисел. Опираясь на те же синтаксические шаблоны, алгоритм Кристофера Стрэйчи (1952) генерировал целые любовные письма, а программа Тео Лутца (1959) писала зловещие верлибры, слова в которых были целиком взяты из «Замка» Франца Кафки.

У языковых машин, опирающихся на синтаксические шаблоны и квазислучайность, полностью отсутствует психический аппарат, а редукция языка до набора формальных грамматических правил еще сильнее углубляет разрыв между языком и человеческим телом.

В 1913 году математик А. А. Марков смоделировал алгоритм, который мог самостоятельно обучаться простым языковым правилам. Требовался только достаточно длинный текст на естественном языке. Марков проанализировал первые 20 тысяч букв «Евгения Онегина» и посчитал несколько вероятностей. Он поделил все элементы на два типа — гласные и согласные. Сначала он посчитал вероятность встретить гласную и согласную по отдельности; а потом вычислил более сложные вероятности, например встретить две гласных или согласных подряд.

Другими словами, в модели Маркова было несколько состояний — например, «гласная» или «согласная», и эта модель умела предсказывать следующее состояние, исходя из текущего. Например, в слове «МАРКОВ» такая последовательность гласных и согласных: «СГССГС» (С = согласная; Г = гласная). В этой последовательности встречаются такие пары: СГ, ГС, СС, СГ, ГС. Получается, что вероятность встретить гласную после согласной — ⅔, согласную после согласной — ⅓, согласную после гласной — 1, а две гласные подряд не встречаются.

Если в такую модель загрузить не просто одно слово, но целый текст, она выучит базовые фонологические правила этого языка и сможет их воспроизвести. Если цепь Маркова обучится на индонезийском тексте, она узнает, что в этом языке в большинстве случаев открытая структура слога (СГ), а если она проанализирует текст на грузинском, вероятность встретить две согласных подряд будет гораздо выше, чем в случае с русским языком, ведь скопления согласных в грузинском — норма.

Такие модели называют цепями Маркова. И, как мы сейчас убедились, сила цепей Маркова в том, что их не надо ничему учить. Они сами могут распознать простые языковые паттерны и представить их в виде набора вероятностей. Такой подход к моделированию языка казался не очень-то выигрышным в доцифровую эпоху: Маркову приходилось выполнять все вычисления на бумаге, и это занимало много времени. Но вскоре рутинные вычисления взяли на себя компьютеры, и оказалось, что вероятностное письмо в конечном счете часто очень сложно отличить от настоящего.

Проблема цепей Маркова в том, что у них нет памяти: такая модель может запоминать цепочки большей длины, например по три или четыре символа, но она в любом случае предсказывает следующий символ исходя из текущего. Недостатка отсутствия памяти лишены более современные алгоритмы, использующие искусственные нейронные сети. Например, рекуррентные нейронные сети запоминают и прошлые состояния модели, а значит, могут находить гораздо более сложные закономерности.

Современные модели, например проприетарные большие языковые модели, которые использует ChatGPT, оперируют не словами, но их векторными репрезентациями. Когда алгоритм обучается, каждое слово преобразуется в многомерный вектор. Каждое измерение в этом векторе показывает, насколько часто данное слово встречается рядом с другим. Например, очевидно, что слово «завтрак» чаще соседствует со словом «вкусный», чем «красивый». Значит, по оси «вкуса» у этого слова будет более высокое значение, чем по оси «красоты». Преобразуя слова в векторы, нейросеть получает информацию о значении этих слов. У синонимов, например, будут схожие векторные репрезентации: ведь слова со схожим значением встречаются в схожих контекстах, и когда нейросеть анализирует текст, она видит его как последовательность векторов. Статистическая языковая машина не просто случайно заменяет слова друг на друга, как «Эврика»: у нее есть знание о том, в каких отношениях слова состоят друг с другом.

Более того, у языковых моделей есть знания о мире, которые они получают из анализа слов. ChatGPT знает, какого цвета огурец и сколько лап у кошки — хотя, в отличие от нас, никогда не видел ни кошек, ни огурцов. Культурный обозреватель Роб Хорнинг считает, что большие языковые модели — это автоматизированные версии структурализма.

Структурализм, как отмечал еще Жак Деррида, интересует только структурное взаимоотношение символов в системе, и неважно, что это за система: глагольная парадигма в лингвистике, система родства в этнографии или даже мифологические структуры в обществе потребления. Однако историческое наполнение этих символов, или их сущность, от структурализма ускользает. Так и в языковых моделях: они знают, что помидор красный, только потому, что символы «красный» и «помидор» часто соседствуют друг с другом в текстах на русском языке, но они ничего не знают о причинах этого соседства — что помидоры на самом деле в основном красные, и поэтому мы так о них говорим.

Когда языковая модель становится по-настоящему большой, она, как отмечал философ Борис Гройс, начинает воплощать дух времени конкретной эпохи. С нами говорит само знание — искаженное, как в кривом зеркале, статистическими метриками машинного обучения. По этой причине нейросети воспроизводят и противоречия нашего времени — например, транслируют многочисленные гендерные и расовые предрассудки.

Языковые модели смотрят на мир через языковую линзу. Они сами находят закономерности и корреляции в мире знания. В конечном счете, как отмечала художник и медиа-теоретик Хито Штейерль, они узнают о нас то, что закрыто от нас самих: нейросети воспроизводят коллективное бессознательное. Язык, представленный в виде вероятностей и коэффициентов, утрачивает личное измерение, но зато хорошо отражает коллективное.

***

В этой точке история автоматического письма закольцовывается. Сюрреалисты превращали собственные тела в машины, чтобы зафиксировать собственное бессознательное, а статистические языковые машины воспроизводят не индивидуальное, но коллективное бессознательное.

За 150 лет автоматизации письма языковая способность оказалась полностью отчуждена от тела и мышления и представлена в виде коэффициентов и вероятностей. При этом пользователи интегрированы в интернет, а интернет интегрирован в них, и чем сильнее связь с миром цифровых сервисов, тем больше люди сращиваются с цифрой в единую вычислительную сеть. Язык сегодня локализован не в наших телах, но, скорее, в сети, где на равных участвуют пользователи и дата-центры.

За сюрреалистским и медиумическим письмом стояла реальная работа человеческого тела и сознания. Эффект автоматизма возникал за счет реального (или мнимого) отчуждения тела от самого себя. Но за современным автоматическим письмом, сгенерированным ИИ, тоже кроется реальный человеческий труд. Только цепь отчуждения языковых способностей длиннее. Далеко не все языковые паттерны ИИ способен распознать самостоятельно. Чтобы получить нужный набор данных для обучения, алгоритмам нужен языковой труд краудсорсеров.

Может быть, на этом история автоматического письма заканчивается, потому что теперь все письмо стало автоматическим. А может быть, на самом деле автоматического письма никогда и не было, потому что в нем всегда была доля человеческого.