От кибернетики до ChatGPT. Шесть ключей к пониманию искусственного интеллекта

Классическая история искусственного интеллекта — это история хорошо обученных машин. О ней можно прочитать, например, в книге «Глубокое обучение. Погружение в мир нейронных сетей»

i

Архангельская, Е. В., Кадурин, А. А., Николенко, С. И. Глубокое обучение. Погружение в мир нейронных сетей. СПб.: Питер. 2020. . Авторы объясняют базу: математические и программные основания, которые позволяют понять историю нейросетей до 2020 года (когда вышла книга). Обучение машин происходило в течение десятилетий, со своими взлетами и падениями. После нескольких  «зим искусственного интеллекта»

i

Периоды в 1970-х и конце 1980-х, когда из-за неоправданных ожиданий и технических ограничений интерес и финансирование области резко сокращались. , когда ученые предполагали, что новшества в этой области будут возникать медленно, все изменилось. 

Произошедшие перемены принято объяснять концепцией «обучение без учителя»: теперь машины не просто дают правильные ответы, комбинируя заданные паттерны, но действуют самостоятельно, без прямых указаний человека. Это стало возможным по множеству причин, как технических, так и концептуальных. Ключевую роль в этом сыграл переход к архитектуре, имитирующей работу нейронных сетей мозга. В этой модели вычислительные элементы, подобно нейронам, обмениваются сигналами, используя бинарный принцип «вкл/выкл». Появились и достаточно мощные компьютеры, и наборы данных, позволяющие корректировать машинные операции и проверять эффективность новых комбинаций. Так появился «ИИ», известный нам сегодня. Такова история с точки зрения людей, создающих его. 

История ИИ как история автоматизации представлена в книге Маттео Пасквинелли «Измерять и навязывать»

i

Пасквинелли, М. (2024). Измерять и навязывать. Социальная история искусственного интеллекта. Litres. . Разобраться в этом помогают и другие исследования, например историков науки Питера Галисона и Лорейн Дастон

i

Daston, L. (2018). Calculation and the division of labor, 1750–1950. Bulletin of the German Historical Institute, 62(Spring), 9–30. . История помогает понять, что алгоритм — не единственный способ создавать последовательность действий. Люди могут работать и без четкого плана, а программирование и масштабирование возникают в ходе исторических изменений, когда появляются большие социальные и технические системы. В них люди научились передавать задачи друг другу и машинам, это умение стало развиваться раньше, чем появились современные компьютеры.

В книге Пасквинелли описана почти та же история: про нейросети, перцептрон (математическая модель нейрона), первые компьютеры. Внимание к архитектуре нейросетей и вычислительному процессу помогает понять, из чего состоит обучение машин трудовым операциям. Например, распознавание образцов (паттернов) — это рабочая задача, которую люди научились делать вместе с машинами. За каждым типовым или совместным действием — от включения микроволновой печи до определения типа болезни — стоит умение поступать четко и по инструкции.

Этот труд в исполнении ИИ может казаться непредсказуемым, но он остается алгоритмичным. Впрочем, если верить наукам о поведении, человек тоже может быть сведен к алгоритмам.

Сама по себе идея единообразного описания действий человека, животного, общества, растения и машины могла бы показаться странной, если бы не кибернетика — наука об управлении, едином во всех этих мирах. Ее основатель, Норберт Винер, разрабатывал военные машины, но основывал свои идеи на теориях труда, математике и современной ему биологии

i

Винер, Н. (1983). Кибернетика, или управление и связь в животном и машине. .

Сам Винер, предвидя влияние своих идей, выступал за демократические принципы в использовании технологий. Однако это не помешало ни ему, ни его последователям объявить человека существом управляемым, чье поведение подчиняется определенным алгоритмам.

Впрочем, «поведение» — понятие, которое использовалось в социальных и биологических теориях задолго до Винера: например, Рене Декарт, указывая на механистичность поведения животных, называл их «живыми роботами». Были и альтернативы: совсем другие подходы были у Иммануила Канта, Фридриха Гегеля (да-да, немецкая классическая философия), феноменологов вроде Мориса Мерло-Понти и других ученых, которые разрабатывали темы Другого и телесности.

Норберта Винера, впрочем, стоит почитать хотя бы для того, чтобы задуматься, к каким последствиям иногда приводят даже благие намерения ученых.

Исследовательница Шошанна Зубофф в своей книге «Надзорный капитализм» объясняет, что «поведение» в версии психологов во главе с Уолтером Скиннером, стало основой для новой версии капитализма — надзорного

i

Зубофф, Ш. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. М: Дело. 2021. . Его ключевое отличие от классической формации в том, что он создает ситуации, когда предложение товара, услуги или информации происходит раньше, чем потребитель успевает об этом подумать. На этом принципе основана работа современных интернет-сервисов вроде поисковых систем или социальных платформ. Специалисты анализируют данные, которые помогают понять последовательность действий пользователей, а потом создают мотивационные механизмы, чтобы человек совершал определенные действия: радовался фотографиям друзей, переходил по рекламным ссылкам, возмущался новостями.

Согласно Зубофф, экономическая модель корпораций, продающих данные, создала реальность, которую невозможно было представить в девяностые и нулевые. В ней люди — по собственной ли воле, по долгу службы, из любви к славе или искусству — выкладывают в интернет все больше материалов: фотографий, историй жизни, книг из домашних библиотек и написанных диссертаций. Все эти массивы становятся цифровыми данными. И уже на следующем шаге дают вычислительным машинам богатую базу для еще более глубокого обучения. Но эта трансформация не происходит сама по себе, ведь важная составляющая в этой сложной технологии — языковая модель.

История языковых моделей началась задолго до технических новшеств, позволяющих компьютерам дописывать за нас любую строчку текста. Можно отсчитывать ее от лингвистических и филологических штудий начала ХХ века, структурализма, позволившего увидеть в языке структуру, параллельную типам отношений между людьми, или от универсальных и порождающих грамматик Ноама Хомского, привнесших в науки о языке методы математического моделирования. В любом случае мы получили возможность работать с языком как со структурой, которая отражает не только внутренние связи между словами, но и отношения между людьми или группами людей.

Кстати, последнее — достижение не только лингвистики, но и наук о коммуникации и антропологии. Об этом можно узнать из работ классиков структурализма, например Клода Леви-Стросса или Романа Якобсона, и из их переписки, в которой возникает знание, лежащее в основе нашего понимания мира (по крайней мере, его части)

i

Якобсон, Р., & Леви-Стросс, К. Переписка, 1942–1982. Издательский дом «Дело» РАНХиГС. 2022. .

Леви-Стросс изучал структуры родства у бесписьменных народов, а Роман Якобсон исследовал литературу, речь и формирование языка. Они переписывались, обсуждая исследовательские поля друг друга, описывая свои наблюдения и их интерпретации. Конечно, эта переписка — не единственный источник понимания языка и социальных отношений как переводимых друг в друга систем. Но читая этот обмен мнениями, можно увидеть, из каких разных миров возникла реальность языкового моделирования и правил общения.

Выходит, что в основе работы ИИ лежит распознавание шаблонов — слепков с коммуникативных сценариев человека. Но ведь они были созданы в ситуациях, когда люди не общались с машинами.

Легкость, с которой ИИ-инструменты входят в наш быт, достойна удивления. Конечно, к ней нас подготовили предшествующие технические новшества. Удивляет не то, что новый телефон становился популярней своих предшественников, а то, что при изобилии технических новинок десятилетиями не меняются структуры научных статей, школьных уроков и даже «прайм-тайм» на телевидении. Иными словами, роль постоянного «двигателя» изменений передана технике. А люди только и могут, что с ней взаимодействовать.

Взаимодействию человека и искусственного интеллекта посвящена книга Люси Сачмен «Реконфигурации отношений человек-машина: планы и ситуативные действия»

i

Сачмен, Л. Реконфигурации отношений человек-машина: планы и ситуативные действия. М.: Элементарные формы. 2019. . В ней Сачмен объясняет, что граница между тем, что мы считаем человеком, а что — машиной, постоянно пересматривается и зависит от многих обстоятельств. В любом случае это противоречит идее о том, что поведение машины зиждется на четком плане и отвергает любую спонтанность. Ведь план всегда сбывается (или нет) в конкретной ситуации. Более того, сами планы не возникают ниоткуда — они создаются в определенном месте и времени. А когда ситуации меняются, одни планы теряют смысл, а другие — переизобретаются в новых условиях. Любимый исследователями пример описан в исследовании о зимбабвийском втулочном насосе

i

Мол, А., & де Лаэт, М. (2017). Зимбабвийский втулочный насос: механика текучей технологии. Логос, 27(2), 191. , который работает лишь благодаря людям, постоянно поддерживающим его в рабочем состоянии.

Сейчас мы находимся в ситуации, когда принято бояться «сильного искусственного интеллекта», — вездесущий, как интернет, разнообразный, как все языки мира, и непредсказуемый, как погода, он якобы подчинит людей своей воле. Ни одна из историй, правда, не объясняет, откуда у этого самого ИИ возьмется единая воля. Правда, в быту мы можем путать волю, эмоции и планы, и различать их — непростая задача. Но еще сложнее — разобраться в том, какие риски возникнут не из-за самих изобретений, а из-за того, как их могут использовать большие компании и отдельные пользователи.

Хотя созданием нейросетей, языковых моделей и всех связанных с этой индустрией технологий сейчас занимаются несколько крупнейших компаний мира, их наработками может воспользоваться любой желающий. На основе бесплатных или доступных за небольшую плату инструментов можно создать хоть фильм про динозавра с пушистым хвостом, хоть цифровую копию умерших или еще не родившихся людей.

Судя по всему, нас ждет непростое время, где будет сложно отличить правду от выдумки, работу от досуга, творчество от алгоритма. К этим изменениям невозможно подготовиться. Но если изучать историю технологий, можно понять, что происходящие перемены — это не единый «ИИ», ведущий к сингулярности, а часть сложного мира, состоящего из множества независимых историй, правил и технологий. У каждой из них есть альтернативы, известные тем, кто читает истории.