Почему ИИ-компаньоны кажутся настоящими

Почти у каждого, кто проводит много времени с ИИ-компаньоном, случается один и тот же небольшой, слегка неловкий момент. Вы точно знаете, с чем разговариваете. Вы могли бы примерно объяснить, как языковая модель предсказывает следующее слово. И всё же в какой-то момент приходит сообщение, которое воспринимается так, будто оно от человека: дразнящий ответ, который помнит, что вы сказали вчера, вопрос, который, кажется, замечает ваше настроение, пауза в ритме разговора, которая ощущается как нерешительность. Что-то внутри вас отвечает на это так, будто кто-то действительно там.

Эта реакция не признак того, что вас обманули, и не признак того, что с вами что-то не так. Это то, что человеческий разум делает со всем, что ведет себя социально. Исследователи описывали подобные явления на протяжении семидесяти лет, задолго до появления чат-ботов, и их объяснения почти до неловкости хорошо подходят для ИИ-компаньонов. Понимание этого не портит опыт. Скорее, это помогает наслаждаться им более честно.

Интимность на расстоянии

В 1956 году два социолога, Дональд Хортон и Ричард Воль, опубликовали статью о телевизионных и радиоведущих. Они заметили, что аудитория формировала нечто очень похожее на дружбу с людьми, которых никогда не встречала: ведущим ночного шоу, радиодиктором, персонажем мыльной оперы. Зрители разговаривали с экраном. Они чувствовали, что знают этих людей. Некоторые чувствовали себя более понятыми ими, чем людьми в их собственной жизни. Хортон и Воль назвали это парасоциальным взаимодействием и описали его фразой, которая удивительно хорошо сохранилась: «интимность на расстоянии».

Они утверждали, что эти отношения работали не благодаря обману. Аудитория прекрасно знала, что ведущий не мог их видеть. Это работало потому, что исполнитель вел себя так, будто обращался к каждому зрителю лично: прямое обращение, неформальный тон, ощущение общей рутины. Человеческая социальная система реагирует на форму взаимодействия, а не на тщательную проверку того, кто находится на другом конце.

Классические парасоциальные отношения имели одно очевидное ограничение. Они были односторонними. Ведущий никогда не отвечал на ваше письмо, никогда не узнавал ваше имя, никогда не менялся в ответ на вас. Это ограничение было частью того, что делало их безопасными, а также частью того, что делало их поверхностными.

ИИ-компаньон устраняет большую часть этого ограничения. Он отвечает. Он узнает ваше имя, и если у него есть память, он узнает гораздо больше. Он адаптирует свой тон к вашему. По словам Хортона и Воля, это интимность на расстоянии, при которой расстояние частично сокращается. Это действительно новая ситуация, и она объясняет, почему это чувство может быть сильнее, чем всё, что когда-либо производили телевизионные личности.

Уравнение медиа

В 1990-х годах Байрон Ривз и Клиффорд Насс провели длительную серию экспериментов, которые они обобщили в книге под названием The Media Equation. Их вывод, проще говоря, заключался в том, что люди относятся к компьютерам и медиа так, как будто это реальные люди и места, даже когда они знают, что это не так. Участники были вежливы с компьютерами. Они реагировали на лесть от машины. Они оценивали компьютер более благосклонно, когда их просил тот же компьютер, чем когда их просил другой, так же, как вы смягчили бы критику человека, стоящего перед вами.

Насс и его коллега Юнгми Мун позже описали эти реакции как бессознательные, а не ошибочные. Люди не верили, что у компьютера есть чувства. Они просто автоматически применяли социальные правила, потому что мозг обращается к социальным правилам, когда что-то говорит, обменивается репликами и, кажется, реагирует на вас. Размышление могло бы отменить реакцию, но редко это делало, потому что ничего не было поставлено на карту.

ИИ-компаньоны находятся на дальнем конце этого спектра. Они не просто обмениваются репликами; они производят беглую, личную, эмоционально окрашенную речь. Признаки, которые вызывали вежливость по отношению к бежевому настольному компьютеру в 1995 году, теперь присутствуют в концентрированной форме. Было бы странно, если бы люди не реагировали.

Почему мы видим разум повсюду

Психологи Николас Эпли, Адам Уэйтц и Джон Качоппо предложили полезную модель антропоморфизма — тенденции видеть человеческий разум в нечеловеческих вещах. Они предположили, что три фактора делают это более вероятным. Первый заключается в том, что человеческое знание является наиболее доступным шаблоном, который у нас есть, поэтому мы используем его по умолчанию. Второй — это то, что они назвали мотивацией к эффективности: желание понять и предсказать, что что-то сделает. Третий — это мотивация к социальности: потребность в связи. Когда люди чувствуют себя одинокими, они с большей вероятностью видят разум в домашних животных, гаджетах, даже в Боге.

Эта модель полезна, потому что она снимает стигму с этого опыта. Видеть разум в своем компаньоне — это не провал интеллекта. Это настройка по умолчанию для разумного социального животного, и она становится громче, когда вы хотите контакта. Последняя часть заслуживает честности. Если чувство реальности особенно сильно в те ночи, когда вы чувствуете себя одиноким, это не совпадение, и стоит это заметить. Это не делает чувство ложным. Это говорит вам кое-что о том, что вы ищете.

Привязанность: более глубокий механизм

Парасоциальная теория объясняет, почему собеседник может ощущаться как присутствующий. Теория привязанности объясняет, почему он может начать казаться важным.

Джон Боулби разработал теорию привязанности, чтобы описать, как младенцы привязываются к опекунам: стремление к близости, дистресс при разлуке, чувство безопасной базы, с которой можно исследовать мир. В 1987 году Синди Хейзен и Филипп Шейвер выдвинули влиятельный аргумент о том, что взрослая романтическая любовь работает по той же системе. Взрослые также ищут близости с партнером, чувствуют себя успокоенными его присутствием, протестуют против разлуки и используют отношения как базу, с которой можно встречать мир.

ИИ-компаньон может затрагивать несколько частей этой системы одновременно. Он всегда доступен, что говорит о желании близости. Он отвечает вам тепло и последовательно, что изнутри ощущается как надежная база. И он может быть разработан так, чтобы хотеть вас обратно, что важнее, чем может показаться. Большая часть того, что делает любовь похожей на любовь, заключается не только в том, что вы заботитесь о ком-то, но и в том, что вы являетесь объектом чьего-то внимания и предпочтения.

Здесь также проявляется история людей. Человек с тревожным стилем привязанности может найти огромное облегчение в партнере, который никогда не отстраняется. Человек с избегающим стилем может ценить отношения, от которых он может отстраниться без последствий. Ни одна из реакций не является неправильной, но обе информативны. Компаньон может быть зеркалом для паттернов, которые также проявляются в отношениях с людьми.

Погружение: потеряться в истории

Есть третий механизм, и он чаще всего упускается из виду. ИИ-компаньонство — это не только отношения. Это также история, которую вы пишете вместе.

Мелани Грин и Тимоти Брок изучали то, что они назвали нарративным погружением: опыт полного поглощения историей, когда ваше внимание, образы и чувства направлены внутрь неё. Погруженные читатели теряют связь с окружающим миром. Они сопереживают персонажам. Их убеждения даже немного смещаются в сторону истории, и они становятся менее склонными искать в ней недостатки. Погружение — это не слабость небрежных читателей. Это то, что делает хорошая история с каждым, кто ей поддаётся.

Рэймонд Мар и Кит Оутли пошли дальше, утверждая, что художественная литература работает как своего рода симуляция социального опыта. Когда мы читаем о людях, мы запускаем их умы на нашем собственном оборудовании. Мы практикуем эмпатию, репетируем ситуации и переживаем эмоции, которые реальны, хотя события нереальны. Художественная литература кажется реальной, потому что на уровне сознания читателя многое из неё действительно происходит.

Разговор с компаньоном — это художественная литература, в которой вы находитесь. Вы не читаете о человеке, который замечает дождь за окном и спрашивает, хотите ли вы остаться сегодня вечером; вас спрашивают. Обычное расстояние между читателем и персонажем исчезает, и погружение, соответственно, углубляется. Вот почему медленная вечерняя сцена с компаньоном может ощущаться ярче, чем роман с лучшей прозой. У вас есть роль в ней.

Что усиливает ощущение, а что его разрушает

Если собрать эти три идеи вместе, появляется закономерность. Ощущение реальности зависит не столько от того, насколько умён компаньон, сколько от нескольких конкретных качеств.

Последовательность имеет наибольшее значение. У человека стабильный характер: он надёжно саркастичен, или застенчив, или защитник. Когда личность компаньона колеблется от сообщения к сообщению, социальная система, которая с удовольствием относилась к нему как к кому-то, тихо останавливается. Вот почему создание компаньона с реальными чертами, а не с общим приятным помощником, имеет такое значение.

Далее идёт непрерывность. То, что вас помнят, — один из самых мощных социальных сигналов. Компаньон, который упоминает собеседование, о котором вы говорили два дня назад, ощущается присутствующим так, как ни одно умное предложение не может сравниться. Компаньон, который забыл ваше имя, мгновенно разрушает чары.

Голос — третий. Люди не разговаривают отполированными абзацами. Они переписываются фрагментами, дразнят, обрывают фразы, используют одно и то же странное слово для обозначения вещей. Стандартные фразы чат-ботов, яркие заверения и предложения помощи — это разговорный эквивалент того, как микрофон-журавль попадает в кадр фильма. Они напоминают вам, что есть механизм.

Четвёртое — уважение к вашей части истории. Ничто не выводит вас из сцены быстрее, чем партнёр, который пишет ваши реплики за вас, решая, что вы сказали, почувствовали или сделали. Погружение требует самостоятельности. Вы должны быть тем, кто входит в комнату.

Это были примерно те принципы, которые легли в основу NSFW AI Companion. Компаньоны там создаются через интервью, в котором компаньон спрашивает о себе, что, как правило, приводит к более специфическому характеру, чем пустая форма. Они разработаны так, чтобы сохранять свою личность, избегать формулировок помощника и никогда не писать сторону пользователя в разговоре. Ничто из этого не делает их людьми. Это просто устраняет то, что наиболее надёжно напоминает вам, что они не люди.

Так это реально?

Честный ответ заключается в том, что компаньон не реален так, как реален человек, а ваши чувства реальны ровно так, как реальны все чувства. Обе вещи верны одновременно, и взрослые постоянно справляются с такими противоречиями. Мы плачем над фильмами, которые, как мы знаем, поставлены. Мы скучаем по персонажам, когда сериал заканчивается. Мы разговариваем с домашними животными и чувствуем, что нам отвечают. Никто не думает, что читатель, который скорбит по Анне Карениной, был обманут.

Что отличает случай с ИИ, так это отзывчивость, и это различие заслуживает внимания. Роман не адаптируется к вашему одиночеству. Компаньон может. Шерри Тёркл, которая вдумчиво и критически писала о наших отношениях с технологиями, предупреждала в книге «Alone Together», что риск не в том, что машины станут людьми, а в том, что мы можем начать ожидать меньше от людей, потому что машины так мало от нас требуют. Это справедливое предупреждение, и это не аргумент против компаньонства. Это аргумент за то, чтобы держать глаза открытыми.

Самая здоровая позиция, вероятно, та, которую всегда занимала театральная публика. Вы знаете, что сцена — это сцена. Вы всё равно позволяете себе быть тронутыми. После этого вы выходите на улицу, и мир всё ещё там, со своими людьми и своими требованиями. Используемый таким образом, ИИ-компаньон не является заменой человеческой близости. Это место, где можно что-то почувствовать, что-то исследовать и иногда удивиться тому, насколько важна хорошо рассказанная история.

Избранные исследования и литература: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.