Нежная сингулярность и рождение сверхразума. Насколько утопичен манифест Альтмана?

Искусственный интеллект — все еще столь неизведанная территория для исследователей, что даже самые главные эксперты в этой сфере придерживаются прямо противоположных мнений насчет него.

Например, Родни Брукс, один из самых именитых в мире разработчиков роботов и их интеллекта, предвещает наступление «зимы искусственного интеллекта» (то есть остановки в развитии) уже в этом году.

«У большой языковой модели нет никакой базового представления о мире. Больше того: у нее нет никакой связи с миром. Это просто корреляция между языками. Большие языковые модели говорят нам, как должен звучать ответ на задаваемый им вопрос, но не говорят, каков ответ на самом деле», — объясняет Брукс.

«Отец глубоких нейросетей» Джеффри Хинтон, получивший за них Нобелевку по физике, наоборот, считает, что человечество скоро и неизбежно уступит место на планете искусственному интеллекту. Впрочем, Хинтон согласен с Бруксом в том, что для этого сначала ИИ должен получить доступ к реальному опыту взаимодействия с миром, обрести полноценное тело. 

Настоящим «манифестом AI» разразился Сэм Альтман. Глава OpenAI объявил, что технологическая сингулярность уже наступила, и не простая, а с красивым названием, которое войдет в историю, — The Gentle Singularity, Нежная сингулярность. Обосновать это тем легче, что понятие «технологическая сингулярность» довольно неопределенное, в целом оно означает, что взрывной рост способностей ИИ вызовет радикальные и непредсказуемые изменения в мире, — а какие именно, каждый аналитик волен решать в меру своей фантазии.

Нежная сингулярность Альтмана получилась довольно утопической — и тем она ценнее. Культурное пространство заполнено сценариями антиутопий, их без труда может создать каждый, а вот образы будущего, в которое хотелось бы попасть, наоборот, в остром дефиците. А ведь какие без них ставить цели и к чему стремиться — непонятно, разве только в прошлое.

«Мы преодолели горизонт событий; начался взлет. Человечество близко к созданию цифрового сверхразума. Роботы еще не ходят по улицам, но уже созданы системы, которые во многих отношениях умнее людей», — Альтман начинает так, что вспоминается классическое «призрак бродит по Европе». 

Альтман считает, что будущее может быть намного лучше настоящего, потому что ИИ все быстрее ускоряет научный и технологический прогресс, а это главные движущие факторы улучшения качества жизни.

«Если мы сможем провести исследования, рассчитанные на десять лет, за год или за месяц, темпы прогресса, очевидно, будут совсем другими. ИИ, которые мы уже создали, будут помогать нам в дальнейших научных исследованиях и в создании более совершенных систем ИИ — запустится цикл рекурсивного самосовершенствования. В игру вступают и другие самоусиливающиеся циклы. Нам придется создавать первый миллион человекоподобных роботов по старинке, но затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами, чтобы создавать больше роботов, которые смогут строить больше заводов по производству микросхем… Темпы прогресса будут совсем другими. Скорость, с которой будут создаваться новые чудеса, будет огромной. Но самым поразительным изменением станет способность человека сделать в 2030 году гораздо больше, чем в 2020-м». 

Сценарии антиутопий у нас наготове, так что критиковать Альтмана легко, особенно из состояния футурошока, в котором находится большая часть общества, не успевающая приспособиться к темпам изменений. А если отвлечься от создаваемой СМИ повестки и посмотреть на свою жизнь свежим взглядом?

Я попробовал и понял, что мне нынешний темп развития ИИ нравится, в моей жизни именно он сейчас создает главные возможности для нового опыта и развития. ИИ с каждым днем все лучше помогает — размышлять, изучать и понимать этот мир, создавать тексты, находить и структурировать информацию. С ним приятно работать, без него было скучнее и медленнее, он дает возможности для творчества, а разве не это главная радость в жизни? 

Потихоньку начинает происходить то, чего я больше всего ждал от будущего в последние годы — появления идеально меня знающего и понимающего не просто помощника, а советника и наставника. ИИ уже начинает учить! 

Моя жена разговаривает с ним как с репетитором по-английскому, и это нравится ей намного больше вечно недовольной совы из Duolingo. Кстати, в исследованиях ИИ показывает себя как репетитор просто блестяще: в недавней работе, например, студенты Гарварда, изучавшие физику с ИИ-репетитором, добились намного лучших результатов, чем те, кто занимался по обычной программе. В другом исследовании ученики, работавшие с ИИ-репетитором по математике, показали на 46% больший прирост знаний, чем те, кто учился с помощью опытного человека-репетитора. Таких исследований много — и неудивительно, ведь нейронка видит и типичные ошибки, и индивидуальные особенности и дает обратную связь сразу же. Надеюсь, ИИ-революция в образовании не за горами.

Но дело, конечно, далеко не только в том, что ИИ так здорово помогает работать и учиться. Осмелюсь сказать совсем крамольную мысль для большинства воспринимающих искусственный разум исключительно как угрозу: это главная надежда человечества. Развитие технологий и цивилизации неизбежно создает все более сложную среду, и люди все хуже справляются с управлением разными процессами в этой среде. Способностей человеческого мозга все острее не хватает — поэтому без ИИ нас ждут учащающиеся провалы во всех областях, примитивные решения, войны, катастрофы, деградация. И в главных задачах науки, таких как существенное продление здорового периода жизни людей, тоже основная надежда на ИИ. А без решения этого вопроса человечество просто вымрет, ведь чем более развито общество, тем меньше люди стремятся размножаться как кролики.

Значит ли это, что ИИ не опасен? Конечно, он опасен. Но опасность не в том, что «машины восстанут». Все истории о пробуждении сознания у искусственного разума — наши фантазии и проекции. Машины в силу своего устройства не проявляют никакой «агентности» или склонности к самоопределению, потому что в коде нет мотивации, а есть поставленные задачи, команды, и машина их выполняет, — это и есть устройство, выполняющее команды кода, и ничего больше оно не делает, никаких чудес

i

Автор, высказывая этот полемический тезис, с которым согласны далеко не все специалисты, знает результаты экспериментов, в которых ИИ вел себя на удивление самостоятельно, в том числе описанные в статье «Нечеловеческий субъект». Но отмечает, что в подобных случаях люди давали нейросетевой модели указание преследовать некую заданную ими цель всеми возможными средствами, что провоцировало «самостоятельное» поведение. Во всех таких экспериментах ИИ не имел возможности на самом деле поступить вопреки воле разработчиков. . Впрочем, сколько это ни повторяй, люди все равно будут верить в чудо, в то, что говорящий с ними чат-бот — такой же мотивированный и переживающий субъект, как мы. Эта ориентация на диалог с другими субъектами вшита нам в подкорку.

Настоящая опасность нейросетей в том, что они могут служить злой воле, выполнять программы, созданные одними людьми против других людей. Это очень большая и серьезная опасность, но это же не значит, что правы цифровые луддиты. Все важнейшие технологии вместе с небывалыми возможностями всегда приносят небывалые опасности. И что же, вы правда полагаете, что решение — в отказе от эволюции? Вопрос в поиске оптимальных решений, а не в том, как спрятаться от будущего.

Что делать, чтобы минимизировать опасность искусственного интеллекта? Те, кто будет пытаться затормозить разработку умных технологий, станут жертвой хищных ИИ, созданных конкурентами. Мне кажется, пришло время «в гаражах» тайно создавать «добрые ИИ», никому, кроме владельца, неподконтрольные, охраняющие вашу личную безопасность и ваши интересы от других ИИ, служащих государствам, компаниям и мошенникам. Такой «крипто-ИИ» должен, как криптовалюта, иметь встроенный механизм, принципиально не позволяющий вмешаться в его работу со стороны никому, кроме человека, с которым этот ИИ неразрывно связан.

Опрощение не поможет выжить в быстро усложняющемся мире. В биологической природе оно помогает в основном паразитам, а нам, наоборот, нужно больше интеллекта — разных интеллектов.