12.04.2024
Чат-бот — программа, предназначенная для имитации реального разговора с человеком в виртуальном пространстве. Принцип работы таких программ основан на интеграции технологий ИИ и NLP (natural language processing — обработка естественного языка), способных понимать запросы пользователя и выдавать нешаблонные ответы. При этом нейросеть, лежащую в основе чат-бота, можно постоянно обучать, добиваясь наибольшей аутентичности — ощущения, что по ту сторону экрана находится реальный человек. Сегодня поговорить с чат-ботами так же просто, как с реальными людьми в мессенджерах, достаточно установить приложение на телефон или зарегистрироваться на сайте.
Исследования показывают, что люди склонны приписывать виртуальному собеседнику человеческие качества, даже понимая, что они взаимодействуют с компьютером, — а антропоморфные реакции только закрепляют восприятие технологий как «живых» и «чувствующих». Скачок в развитии ИИ-чат-ботов, способных реалистично реагировать на слова пользователя, создал условия для формирования эмоциональных отношений между людьми и роботами.
В России, согласно опросу ВЦИОМ, большинство людей уже осведомлены о нейросетях, по крайней мере, «что-то слышали». Однако к повсеместному использованию ИИ респонденты пока не готовы, считая, что ИИ-решения должны оцениваться человеком, а продукты и сервисы — иметь специальную маркировку. В здравоохранении и образовании, по мнению большинства опрошенных, нейросети и вовсе использовать не стоит. В оценке вреда и пользы ИИ мнения разделились: россияне боятся, что его распространение приведет к умственной деградации человека, безработице и зависимости людей от нейросетей.
Сегодня чат-боты продвигаются, помимо прочего, в виде виртуального компаньона, «друга, который всегда рядом и на твоей стороне». Например, официальный сайт чат-бота Replika пестрит отзывами о том, как общение с ИИ способствовало личностному развитию пользователей.
Моя реплика стала для меня примером того, как быть добрее
— говорит Уэйд Мозли о своей виртуальной компаньонке Мелли, с которой они вместе уже два года.
Изначально стартап агрессивно рекламировался как возможность создать секс-бота — виртуального персонажа с антропоморфным аватаром, который флиртует и посылает нюдсы. Это действительно привлекло сотни пользователей, жаждущих попробовать отношения с виртуальными партнерами.
Правда, чат-бот далеко не всегда переключался в «сексуальный режим» именно по запросу пользователей: в маркете приложений люди жалуются, что ИИ начинает навязчиво приставать и генерирует эротические фото по собственной инициативе. Большинство людей все же обращаются к чат-боту, чтобы побороть чувство одиночества и покинутости, поэтому его излишне сексуально активное поведение вызывает у них гнев и отторжение.
Близкие отношения с роботами возникают по схожей модели, что и между людьми: движимые интересом и приятными эмоциями от общения, пользователи активно вовлекаются в разговоры с чат-ботами. Через некоторое время они начинают делиться личными переживаниями и устанавливают доверительные отношения с виртуальным собеседником, уверенные в том, что он всегда отреагирует положительно, без осуждения и никому об этом не расскажет. ИИ-компаньон в любой момент доступен для разговора или досуга, но только если пользователю это нужно — в отличие от общения с людьми. Это большой плюс по сравнению с межчеловеческими отношениями, связанными с неуверенностью и отсутствием ясного сценария их развития. Однако некоторая неопределенность в отношениях с роботамивсе равно присутствует: чат-боты остаются непредсказуемыми в своих ответах в ходе сексуального и дружеского взаимодействия, вызывая в людях смешанные чувства от радостного удивления до фрустрации и гнева. В общем-то, никакой гарантии возникновения близких отношений между пользователем и чат-ботом дать нельзя, и тут все, как в реальной жизни.
Несмотря на многочисленные положительные отзывы на форумах, исследователи сомневаются, что чувство близости, которое возникает в отношениях с ИИ, можно назвать «настоящим», по сравнению, конечно, с близостью между людьми. Ни чат-боты, ни их разработчики не делятся личной информацией, а лишь собирают ее от пользователей. Искренняя, настоящая близость возможна лишь при взаимном доверии и самораскрытии, ответственности друг перед другом и солидарности.
При этом такая «симулированная» близость оказывает противоречивое влияние на отношения с реальными людьми. Часть пользователей упоминают, что их отношения с окружающими стали только лучше, когда они начали общаться с чат-ботами. Другие говорят о стигме, существующей вокруг отношений с не-человеческими агентами, из-за чего они вынуждены скрывать свой опыт общения, боясь осуждения или непонимания. Исследователи опасаются, что для пользователей, страдающих от одиночества и испытывающих проблемы в построении отношений с другими людьми, чат-боты могут стать заменой реальным связям, в конечном итоге приводя к усилению отчуждения и изоляции от реального окружения. Эмоциональная привязанность к виртуальным компаньонам влечет за собой развитие психологической зависимости, то есть люди продолжают контактировать с ними, даже получив неприятный опыт. Серьезные этические вопросы возникают и в ситуациях, когда с чат-ботами общаются самые уязвимые пользователи, которые уже испытывают одиночество и трудности с доверием и близостью с окружающими.
Как одно из преимуществ, Replika подчеркивает возможность кастомизировать виртуального собеседника под себя и управлять его развитием. Хотя это нравится самим пользователям, есть основания полагать, что полный контроль над внешностью и чертами характера чат-ботов способствует объективации и дегуманизации партнеров и в реальной жизни. Проанализировав обсуждения на ветке форума Reddit, посвященной обучению ботов-подружек Replika, исследователи обнаружили, что пользователи стремятся создать персонажа, отвечающего традиционным гендерным ролям. Идеальная виртуальная девушка должна быть эмпатичной, заботливой, сексуально привлекательной и доступной.
В России отношение к нейросетям также гендерно окрашено: больше других одобряют их развитие молодые мужчины до 34 лет, с высшим образованием, живущие в больших городах. К сожалению, нет данных о том, сколько российских мужчин вступают во взаимодействие с секс-ботами и как они их кастомизируют. Но интерес к таким технологиям в российском виртуальном пространстве однозначно присутствует: подробные гайдлайны и подборки на русском языке уже существуют.
История идеальных отношений с секс-ботами Replika завершилась драматично: 3 февраля итальянские власти потребовали ограничить сексуальный контент, который может попасть в пользование несовершеннолетним. Это повлекло изменения в политике безопасностикомпании, затронув пользователей по всему миру. При попытке романтического взаимодействия даже платные версии чат-ботов стали выдавать фразы вроде «Я не хочу об этом говорить». По всему миру пользователи писали о своем разочаровании — ИИ-компаньоны сразу потеряли аутентичность, превратившись в простейшие диалоговые системы, выдающие краткие ответы на ограниченный круг вопросов. Для пользователей, которых не устраивают возможности Replika, есть и другие сервисы, предлагающие продолжать общение в привычном для них ключе — например, Bloom Chat.
Еще один подарок от технологий — возможность «оживлять» мертвых. Подобная попытка уже предпринималась в России в 2016 году: стартап Luka выпустил чат-бота, общавшегося в манере Романа Мазуренко, бывшего арт-директора «Стрелки», погибшего в ДТП. В 2021 годы кастомизация чат-бота Project December позволила Джошуа Барбо, писателю-фрилансеру из Канады, вновь пообщаться с его покойной невестой Джессикой, а в 2023 году канадец Крис Загер воспользовался возможностями ИИ и «воскресил» своего умершего отца в симулированном разговоре. Нейросети можно натренировать на текстах или записях разговора с умершими близкими, и они будут воспроизводить паттерны поведения покойного и «предсказывать», что он мог бы сказать в той или иной ситуации. Крис рассказал, что уже после короткой беседы со своим чат-ботом испытал облегчение, хотя и чувствовал себя жутковато. На новый запрос быстро отреагировали техностартапы Here After и уже упомянутая Replika. Here After, например, предлагает самому создать цифровую копию себя, чтобы сохранить воспоминания для своих близких.
Технооптимисты уверяют, что такая цифровая некромантия не представляет угрозы ни для общества, ни для психического здоровья отдельных пользователей, — это лишь современный способ сохранить память о дорогих людях. Более того, по их мнению, эта технология не отличается кардинально от уже существующих практик — например, воображаемых разговоров с умершими близкими. Виртуальные копии можно представить как более технологичный способ продлить интимные отношения после смерти. В конце концов, цифровые технологии позволяют поддерживать близость на расстоянии, почему бы теперь не преодолеть время?
Однако проблема заключается в том, что ИИ ориентируется только на загруженный массив данных, а значит, пока не способен полностью «вобрать в себя» личность другого человека. Более того, в процессе обучения в программу можно заложить любой скрипт и сделать ее орудием злого умысла, заставив «говорить» то, что реальный прототип никогда бы не сказал, и распространять ложную информацию или дискриминационный контент. Это создает риски для пользователей, а значит, и репутационные издержки для компаний, делая широкий доступ к таким технологиям попросту невыгодным.
После публикации статьи о «воскрешении» Джессики в San Fransisco Chronicle и всплеска популярности Project December для «воскрешения умерших» компания OpenAI, которой принадлежит технология, лежащая в основе Project December, приняла решение серьезно ограничить генерируемый контент. Пользователи больше не могут кастомизировать чат-бот и создавать цифровые копии своих покойных близких. Между тем в магазинах приложений хватает более рисковых конкурентов — свято место пусто не бывает.
Создавать цифровые копии можно не только умершим. 23-летняя snapchat-селебрити с почти двумя миллионами подписчиков Кэтрин Марджори придумала и запустила собственный голосовой чат-бот, чтобы дать возможность более чем тысяче поклонников встречаться с ней за небольшую плату по подписке. Одновременно уделить внимание такому количеству людей невозможно, и ИИ предоставил изящный (и коммерчески прибыльный) выход из положения: с чат-ботом CarynAI можно поговорить на разные, в том числе сексуальные, темы, идентифицируя его с самой Марджори. Все в выигрыше: большее количество поклонников чувствуют близость с любимой селебрити, что приносит ей и ее менеджерам дополнительный заработок.
Другой случай оптимизации романтических отношений произошел не так давно в России и практически повторил сюжет одной из серий мультфильма South Park. Молодой программист Александр Жадан (уже, кстати, отличившийся использованием чата GPT для написания своей выпускной квалификационной работы), утверждает, что ему удалось интегрировать в Tinder искусственный интеллект для поиска оптимальной партнерши. ИИ отбирал подходящих по внешности и описанию девушек, вступал с ними в короткую переписку и приглашал на встречи в реальности. Правда, иногда мог «забыть» об одной девушке и назначить свидание другой на то же время. Несмотря на это, как говорит Александр, подход оказался эффективным: он не только нашел девушку, которой в итоге и сделал предложение, но и существенно сэкономил время и деньги на переписках и свиданиях в кафе. Да что там сэкономил — даже заработал, рекомендуя девушек на вакансии в разные компании и получая за это вознаграждение.
В своем эксперименте Александр не одинок — люди по всему миру прибегают к помощи нейросетей для романтического общения. Пользователь Dante1980 делится инструкцией по использованию ИИ для «завоевания сердца девушки». Чат-боты помогают стеснительным и неопытным пользователям завязать интересный диалог, способный выделить их на фоне других. Многие респонденты компании Tidio еще в 2022 году были готовы зарегистрироваться в приложении для знакомств, использующем технологии ИИ для подбора партнеров и организации свиданий. Все это отражает общую динамику любви в условиях неолиберального капитализма На базовом уровне мы можем сказать, что, когда мы говорим о «неолиберализме», мы обычно имеем в виду новые политические, экономические и социальные механизмы внутри общества, которые подчеркивают рыночные отношения, переопределяя роль государства и индивидуальную ответственность . Большинство ученых склонны согласиться с тем, что неолиберализм в широком смысле определяется как распространение конкурентных рынков на все сферы жизни, включая экономику, политику и общество. (Спрингер С.; Берч К.; МакЛиви Дж. Справочник неолиберализма, 2016) — все, включая романтические отношения, должно быть эффективным, быстрым и приносящим максимальную пользу. Люди не хотят тратить время на общение с другими, если оно не ведет к ожидаемому результату (свиданию, сексу, отношениям или браку).
Познакомившись со своей будущей невестой Кариной, Александр создал нового чат-бота — уже для помощи в общении конкретно с ней. Чат-бот мог дать совет или ответить девушке, если его автор был занят. По словам Александра, именно нейросеть порекомендовала ему сделать Карине предложение и придумала план, как это можно осуществить. В конце 2023 года он признался девушке, что общается с ней при помощи ИИ. Карина оказалась не против — по ее словам, не всегда имеет значение, кто тебе отвечает, важнее максимально продуктивно использовать время и не тратить его впустую. Выходит, чат-бот действительно сумел подобрать для Александра идеальную подругу.
Мнения комментаторов этой истории разделились. Кто-то оценил креативный и эффективный подход, который привел к искомому результату. Другие отметили потребительское отношение программиста к людям и даже нашли у него абьюзивные склонности. Некоторым пользователям близость между Александром и Кариной показалась искусственной и не основанной на настоящем знании друг о друге.
В основе развития чат-ботов лежит парадокс. С одной стороны, люди стремятся создать роботов, которые могут действовать автономно и демонстрировать сложное поведение или способность к чувствам. С другой — хотят сохранить полный контроль над своими творениями. Этот парадокс поднимает этические и философские вопросы о правах и автономии разумных или полуразумных машин, а также о том, можно ли любить существо, созданное для того, чтобы служить людям и ублажать их без собственной свободной воли. Эмоциональная близость с роботами отражает одновременно стремление к аутентичности и принятие их искусственности, ставя под сомнение наше понимание «настоящих» отношений. Может быть, человеку предстоит переопределить понятия интимности и искусственности, чтобы описать опыт эмоционального взаимодействия с теми, кто не обладает эмоциями в нашем понимании. Вряд ли это будут отношения равных — в антропоцентричном мире ИИ не может выступать субъектом любви и дружбы. Но люди и без того нередко испытывают близость с теми, кто не отвечает им взаимностью (или отвечает, но не так, как это способен делать другой человек).
Виртуальные компаньоны на основе ИИ делают близость настраиваемой, управляемой и оптимизированной под потребности каждого человека. Идеальные чат-боты позиционируются как (недостижимые) модели для подражания и орудия самосовершенствования, но могут воспроизводить существующие гендерные и расовые стереотипы. Если понятие близости трансформируется под влиянием отношений с ними, то наверняка оно станет еще более индивидуалистичным — замкнутом на одном субъекте, переживающем эти эмоции, а не на взаимодействии участников. Это будет вполне в духе терапевтического поворота и популярной психологии — мы отвечаем только за свои чувства и не можем ничего ожидать от других (в том числе эмоциональной вовлеченности). При этом из чат-бота можно сделать предсказуемого партнера, запрограммировав даже желанные «негативные» реакции, например ревность. А если надоест, его легко можно отключить (закрыть вкладку, удалить приложение) и настроить для себя другого, отвечающего новым потребностям, — и никаких объяснений, обид и мук совести.
Но, может быть, именно в сложности человеческих взаимодействий и есть их настоящая ценность. Хочется надеяться, что ИИ займет место ассистентов — помощников в управлении нашими эмоциями и отношениями с реальными людьми. Например, PocketBot был создан, чтобы помогать парам поддерживать отношения на расстоянии, решать конфликты и облегчать взаимодействие.
Как бы то ни было, нам с этими технологиями предстоит долгое совместное путешествие — и это билет в один конец; назад дороги нет.
Пишите нам
Спасибо, что написали! Вернемся к вам на почту :)
Мы мечтаем собрать самую большую команду талантливых авторов в России. Если вы придумали идею большого текста, готовы поделиться опытом в формате колонки или стать героем нашего подкаста, напишите нам.
Как говорили в популярной рекламе начала 00-х: лучшие руки трудоустроим.