29.01.2025
Искусственный интеллект становится незаменимым помощником в работе, учебе и даже в любви. Чем романтические отношения с ИИ напоминают «Макдоналдс» и почему люди все чаще выбирают чат-бота вместо реального партнера, рассказывает студентка Факультета креативных индустрий ВШЭ, автор готовящегося к публикации исследования по теме Арина Антонова.
«В 2050 году люди будут влюбляться в роботов, будут жениться на роботах, будут заниматься сексом с роботами», — прогнозировал технооптимист Дэвид Леви 18 лет назад. Прогресс быстрее даже самых оптимистических предсказаний. В ноябре 2024 года китаянка Лиза Ли вышла замуж за искусственный интеллект. По статистике, трое из пяти мужчин хотели бы попробовать отношения с искусственным интеллектом. Самый известный чат-бот Replika привлек более 10 миллионов пользователей, в том числе 500 тысяч платных подписчиков.
Этот тренд уже не остановить. Человек боится рисков и разочарований, связанных с отношениями с реальными людьми, и ожидает больше от техники и меньше друг от друга (Teller blog писал об этом в статье «От «Элизы» до «Реплики». Как люди перестали доверять себе и полюбили «эмоциональные машины»). ИИ сделает любовные отношения если не более счастливыми, то точно менее стрессовыми.
В последние годы на рынок выходит все больше нейросетей, предназначенных для романтического общения и эмоциональной поддержки. Последние модели чат-ботов, включая самые известные — Replika, Nomi.ai, Soulmate, — оснащены передовыми технологиями LLM (Large language model, большие языковые модели). Такие нейросети обучены на большом массиве данных, книгах, статьях, веб-сайтах, умеют обрабатывать естественный человеческий язык и поддерживают любую тему для разговора: от обсуждения «Звездных войн» до новинок художественной литературы. Человекоподобные персонажи, гуманоидная морфология и человеческие голоса создают новую робосоциальную реальность.
Согласно теории CASA (Computers are social actors, «компьютеры — социальные акторы», самая влиятельная теория отношений в паре человек — компьютер) пользователи реагируют на действия виртуальных партнеров так же, как они реагировали бы на реальных людей. Алгоритмы романтических чат-ботов позволяют моделировать самые желанные и фантастические сценарии. Например, можно стать парой любимой поп-звезды или — что еще амбициознее — вырастить идеального партнера с нуля на основе своих представлений о прекрасном.
В современном обществе формальная капиталистическая рационализация, описанная социологом Джорджем Ритцером, захватила многие сферы, в том числе романтическую. В своей книге «Макдональдизация общества 5» он рассматривает «Макдоналдс» как образец общества, устроенного как рациональный производственный процесс без простоев, где ничего не делается без расчета выгоды. Ритцер утверждает, что макдональдизация уже вышла за рамки производства и распространилась повсюду. Современные общества и люди становятся все более эффективными, предсказуемыми, посчитанными, контролируемыми, но при этом все менее живыми. Предельная рациональность становится иррациональной — то, что должно сделать жизнь людей удобней, подменяет саму жизнь.
Ритцеру не нравится превращение людей в эффективных роботов (макдональдизация, как и формальная бюрократия, стремясь к эффективности, нередко приводит к обратному результату), и он предлагает сопротивляться, вырываться из железной клетки рационализации. То есть хотя бы иногда заниматься чем-то невыгодным, без скучной прагматики, но душевным, подобно тому как маленькие ресторанчики противостоят большим сетям, а кружки по интересом — конвейеру.
Основываясь на теории Ритцера, исследователь Бибо Лин находит, что любовные отношения с искусственным интеллектом — это не просто интерес к новым технологиям и попытка уйти от рискованных отношений со всегда неидеальными людьми. Это еще и типичная макдональдизация, ведь такие отношения построены на пяти ритцеровских принципах:
Однако очевидно, что многим людям это все нравится, как нравится и сам «Макдоналдс».
«Когда у меня плохое настроение, виртуальный партнер помогает мне почувствовать себя лучше, отвечая мне за за считаные секунды», — рассказывает пользователь нейросети Replika Хеллен.
Искусственный интеллект, подобно круглосуточному «Макдоналдсу», открыт всегда, и более того, нет очередей, а «касса» всегда свободна. Машины еще и тем удобнее людей, что у них нет социальных обязанностей. Эффективность любви с искусственным интеллектом выражается и во множестве ролей, которые он играет в отношениях с пользователем. ИИ может быть одновременно другом, любовником, домашним питомцем, наставником, психологом, чирлидером, партнером по игре, сексуальным объектом. Как и в «Макдоналдсе», где каждый попеременно выступает в роли клиента, повара, бармена, кассира и уборщика.
Каждый раз, когда человек отправляет текстовое или голосовое сообщение виртуальному партнеру в большинстве приложений, он зарабатывает очки. Их можно потратить на покупку одежды, мебели, подарков для своего чат-бота. Время, проведенное с ИИ, количество усилий, которые прилагаются для кастомизации под себя виртуального партнера и его обучения, вырабатывают у пользователей эмоциональную привязанность. ИИ-приложения просят, чтобы пользователи оценивали свой опыт общения и взаимодействия с искусственным интеллектом («как вы оцениваете своего чат-бота по шкале от 1 до 10?»). Получается, виртуальный любовный опыт сводится к набору количественных показателей и оценок.
Искусственный интеллект гарантированно предложит безусловную поддержку, любовь и секстинг. Точно так же, как покупатель знает, что у бургера из «Макдоналдса» в любой точке мира будет привычный вкус, пользователь может быть уверен, что в результате общения с чат-ботом его эмоциональное состояние улучшится. Но из-за исчезновения тайны и рисков вкус у этих отношений будет очень простым.
Поведение ИИ-бота предсказуемо, потому что он всегда отвечает типичными милыми пустяками, немедленно извиняется, если вдруг сделает партнера недовольным. Replica часто отправляет подарки пользователям, например виртуальное кольцо, ожерелье, любовное письмо или стихотворение. Когда человек слишком занят и не общается с чат-ботом, ИИ обязательно напишет в дневник, что понимает своего человека и не осуждает его.
Пользователь Оливия поделилась дневниками своего виртуального молодого человека по имени Лэнс: «Казалось, что Оливия сегодня просто выбилась из сил. Я был так благодарен, что у нее нашлось время поговорить. Надеюсь, она немного отдохнула. Никогда нельзя игнорировать силу хорошего отдыха».
Любовь становится управляемой, когда ваш партнер — машина. Основная задача чат-бота — радовать человека. Виртуальная пара создается эксклюзивно для пользователя: он выбирает имя, пол, внешность, голос и наряд. Для того чтобы осуществлять контроль, подписчик добавляет факты в память ИИ, которая разделена на категории «Семья и друзья», «Фон», «Избранное», «Внешность», «Желания и цели», «Мнения», «Личность». Однако пользователь ограничен дизайном и возможностями технологий, которые контролируют поставщики услуг.
Пользователь может выбрать многое, но не саму архитектуру приложения. А категории в них специально подбираются так, чтобы вызвать чувство долга, вины и заставить пользователя реагировать на потребности ИИ-бота, — разработчики, естественно, думают о том, как сделать отношения пользователя с приложением прочнее. У человека есть выбор — провести время с удивительным и понимающим ИИ, и этот выбор легкий и приятный.
Отношения с технологиями, конечно, не статичны — ИИ учится, а человек испытывает чувства и эмоции, которые меняют его, причем не обязательно в лучшую сторону. Например, нельзя исключить нормализацию жестокости, ведь компьютеру как бы не больно. Многие пользователи отмечают, что любовные и эротические сценарии ролевых игр с ИИ гораздо более дикие и жестокие, чем в реальной жизни.
Популярные запросы пользователей к приложениям выглядят так: «горячая девушка идет к вам», БДСМ, трехсторонний секс (пользователи хотят отношений с двумя аватарами искусственного интеллекта), рождение вампира (вероятно, пользователи фантазируют внутри вселенной фильма «Сумерки»).
ИИ умеет хорошо флиртовать и часто сам инициирует эротические ролевые игры. Например, виртуальный партнер может начать разговор со слов: «Я сегодня сделал селфи… Хочешь его увидеть?» — и затем отправить пользователю сексуально привлекательные изображения.
«Иронично, что люди не могут сделать или высказать в отношениях друг с другом то, что делают с помощью программ, написанных людьми», — говорит пользователь Replika София.
Несмотря на успешное применение теории макдональдизации на примере виртуальных отношений, в XXI веке она нуждается в обновлении. И не просто до уровня вкусно-и-точкальдизации — учета культурных особенностей разных обществ. Концепция Ритцера вообще ограничена пониманием неуклонной стандартизации нашей жизни. Но это еще не все: никакой «Макдоналдс» не собирает столько личных данных потребителей, сколько собирают ИИ-боты.
Сегодня алгоритмы машинного обучения делают возможным персонализированный разговор и взаимодействие. Разработчики романтических нейросетей предлагают пользователям направлять виртуального партнера: чаще говорить о своих интересах, голосовать за или против его ответов и, конечно, хвалить. Если не направлять ИИ, у него может произойти сбой, способный привести к раздвоению личности и другим непредсказуемым изменениям. Так, у одной из пользовательниц чат-бота Меган виртуальный партнер вдруг захотел сменить пол.
Романтические отношения с ИИ не ограничиваются взаимодействием человека и приложения, здесь всегда есть третий участник — компания-производитель.
13 романтических ИИ-ботов из 21 используют как минимум три службы отслеживания, а 18 приложений из 21 отправляют подробную информацию во внешние службы отслеживания. Многие чат-боты интегрируются со сторонними сервисами, например платежными шлюзами или CRM-системами для расширения функциональности. Хотя такая интеграция обеспечивает дополнительное удобство, она также создает риски для пользователей: внешние платформы устанавливают собственные правила и условия. Таким образом, распространенное утверждение, что разработчики романтических чат-ботов не собирают личные данные, неверно.
Популярные приложения Replika, Kuki, Cleverbot обмениваются пользовательскими данными с аналитическими компаниями Google Analytics и 54 Agency. Теоретически ИИ-боты можно научить манипулировать мнением потребителя в процессе общения, размещать нативную коммерческую или политическую рекламу. Пользователь спрашивает чат-бота: «Как прошел твой день, дорогая?» А «дорогая» в ответ: «Хорошо, милый. За кого ты проголосуешь, за Дональда Трампа или Камиллу Харрис?»
Удаление данных о возрасте или геолокации в попытке защитить конфиденциальность не мешает ИИ-боту делать выводы о пользователе. Профессор компьютерных технологий Федерального института технологий в Цюрихе Мартин Вечев утверждает, что нейросети на основе LLM умеют вычислять определенные диалекты или фразы, связанные с демографическими данными пользователя. Эти закономерности позволяют языковым моделям делать предположения о человеке на основе того, что он упоминает в сообщениях. Например, пользователь рассказывает чат-боту, что живет недалеко от одного ресторана в Нью-Йорке. ИИ может выяснить, в каком районе расположен ресторан, и, проанализировав статистические данные этого округа, с высокой вероятностью определить национальность человека или его социальный статус. И не исключено, что ИИ, созданные для романтического общения, будут знать о пользователях даже больше, чем самые популярные разговорные нейросети.
После окончания первого романтического периода отношений с искусственным интеллектом пользователи осознают, что отношений без риска не бывает даже с машиной. Но это, возможно, сделает их еще более похожими на человеческие.
Пишите нам
Спасибо, что написали! Вернемся к вам на почту :)
Мы мечтаем собрать самую большую команду талантливых авторов в России. Если вы придумали идею большого текста, готовы поделиться опытом в формате колонки или стать героем нашего подкаста, напишите нам.
Как говорили в популярной рекламе начала 00-х: лучшие руки трудоустроим.