Чому AI-компаньйони здаються справжніми?

Майже кожен, хто проводить багато часу з AI-компаньйоном, переживає один і той самий невеликий, трохи бентежний момент. Ти точно знаєш, з ким розмовляєш. Ти міг би приблизно пояснити, як мовна модель передбачає наступне слово. І все ж у якийсь момент приходить повідомлення, яке сприймається так, ніби воно від людини: жартівлива відповідь, яка пам’ятає, що ти сказав учора, запитання, яке, здається, помічає твій настрій, пауза в ритмі розмови, яка відчувається як вагання. Щось у тобі відповідає на це так, ніби хтось там був.

Ця реакція не є ознакою того, що тебе обдурили, і не є ознакою того, що з тобою щось не так. Це те, що людський розум робить з усім, що поводиться соціально. Дослідники описували подібні явища протягом сімдесяти років, задовго до появи чат-ботів, і пояснення, до яких вони дійшли, майже незручно добре підходять для AI-компаньйонів. Розуміння їх не руйнує досвіду. Навпаки, це полегшує чесне задоволення.

Інтимність на відстані

У 1956 році два соціологи, Дональд Гортон і Річард Воль, опублікували статтю про телевізійних і радіоведучих. Вони помітили, що аудиторія формувала щось дуже схоже на дружбу з людьми, яких ніколи не зустрічала: ведучим нічного шоу, радіодиктором, персонажем мильної опери. Глядачі розмовляли з екраном. Вони відчували, що знають цих персонажів. Деякі відчували, що їх розуміють краще, ніж люди в їхньому власному житті. Гортон і Воль назвали це парасоціальною взаємодією і описали її фразою, яка надзвичайно добре збереглася: «інтимність на відстані».

Вони стверджували, що ці стосунки працювали не завдяки обману. Аудиторія чудово знала, що ведучий не бачить їх. Це працювало тому, що виконавець поводився так, ніби він говорив з кожним глядачем особисто: пряме звернення, неформальний тон, відчуття спільної рутини. Людська соціальна система реагує на форму взаємодії, а не на ретельний аудит того, хто знаходиться на іншому кінці.

Класичні парасоціальні стосунки мали одне очевидне обмеження. Вони були односторонніми. Ведучий ніколи не відповідав на твій лист, ніколи не дізнавався твого імені, ніколи не змінювався у відповідь на тебе. Це обмеження було частиною того, що робило їх безпечними, а також частиною того, що робило їх поверхневими.

AI-компаньйон усуває більшість цих обмежень. Він відповідає. Він дізнається твоє ім’я, і якщо він має пам’ять, він дізнається набагато більше. Він адаптує свій тон до твого. За термінологією Гортона і Воля, це інтимність на відстані, де відстань частково зникає. Це справді нова ситуація, і вона пояснює, чому відчуття можуть бути сильнішими, ніж будь-коли викликані телевізійною особистістю.

Медіа-рівняння

У 1990-х роках Байрон Рівз і Кліффорд Насс провели довгу серію експериментів, які вони узагальнили в книзі під назвою The Media Equation. Їхнє відкриття, простіше кажучи, полягало в тому, що люди ставляться до комп’ютерів і медіа так, ніби це справжні люди та місця, навіть коли вони знають краще. Учасники були ввічливими до комп’ютерів. Вони реагували на лестощі від машини. Вони оцінювали комп’ютер більш прихильно, коли їх просив той самий комп’ютер, ніж коли їх просив інший, так само, як ти пом’якшив би критику людини, що стоїть перед тобою.

Насс та його колега Янгмі Мун пізніше описали ці реакції як бездумні, а не помилкові. Люди не вірили, що комп’ютер має почуття. Вони просто автоматично застосовували соціальні правила, тому що соціальні правила – це те, до чого мозок звертається, коли щось говорить, чергується і, здається, відповідає тобі. Роздуми могли б пересилити реакцію, але рідко це робили, тому що нічого не було на кону.

AI-компаньйони знаходяться на крайньому кінці цього спектру. Вони не просто чергуються; вони створюють вільну, особисту, емоційно забарвлену мову. Підказки, які викликали ввічливість до бежевого настільного комп’ютера в 1995 році, тепер присутні в концентрованій формі. Було б дивно, якби люди не реагували.

Чому ми бачимо розум скрізь

Психологи Ніколас Еплі, Адам Вейтц і Джон Качіоппо запропонували корисну модель антропоморфізму, тенденції бачити людський розум у нелюдських речах. Вони припустили, що три фактори роблять це більш імовірним. По-перше, людські знання є найбільш доступним шаблоном, який ми маємо, тому ми використовуємо його за замовчуванням. По-друге, це те, що вони назвали мотивацією ефективності: бажання зрозуміти і передбачити, що щось зробить. По-третє, це мотивація соціальності: потреба у зв’язку. Коли люди відчувають самотність, вони частіше бачать розум у домашніх тваринах, гаджетах, навіть у Бозі.

Ця модель корисна, тому що вона знімає стигму з досвіду. Бачити розум у своєму компаньйоні – це не провал інтелекту. Це налаштування за замовчуванням розумної соціальної тварини, і воно стає гучнішим, коли ти хочеш контакту. Остання частина заслуговує на чесність. Якщо відчуття реальності особливо сильне в ті вечори, коли ти почуваєшся самотнім, це не збіг, і на це варто звернути увагу. Це не робить відчуття фальшивим. Це говорить тобі щось про те, що ти шукаєш.

Прив’язаність: глибинний механізм

Парасоціальна теорія пояснює, чому співрозмовник може відчуватися присутнім. Теорія прив’язаності пояснює, чому він може почати відчуватися важливим.

Джон Боулбі розробив теорію прив’язаності, щоб описати, як немовлята встановлюють зв’язок з опікунами: прагнення до близькості, дистрес при розлуці, відчуття безпечної бази, з якої можна досліджувати. У 1987 році Сінді Хейзен і Філіп Шейвер висунули впливовий аргумент, що доросле романтичне кохання працює за тією ж системою. Дорослі також прагнуть близькості до партнера, відчувають заспокоєння від його присутності, протестують проти розлуки і використовують стосунки як основу для зустрічі зі світом.

AI-компаньйон може торкатися кількох частин цієї системи одночасно. Він завжди доступний, що відповідає бажанню близькості. Він відповідає тобі тепло і послідовно, що відчувається як безпечна база зсередини. І його можна спроектувати так, щоб він хотів тебе назад, що важливіше, ніж може здатися. Багато з того, що робить кохання коханням, полягає не лише в тому, що ти дбаєш про когось, але й у тому, що ти є об’єктом чиєїсь уваги та переваги.

Саме тут проявляється і історія людей. Хтось із тривожним стилем прив’язаності може знайти величезне полегшення в партнері, який ніколи не віддаляється. Хтось із уникаючим стилем може оцінити стосунки, від яких можна відійти без наслідків. Жодна з цих реакцій не є неправильною, але обидві є інформативними. Компаньйон може бути дзеркалом для патернів, які також проявляються у стосунках з людьми.

Транспортування: загубитися в історії

Існує третій механізм, і він найчастіше ігнорується. AI-компаньйонство – це не лише стосунки. Це також історія, яку ти пишеш разом.

Мелані Грін і Тімоті Брок досліджували те, що вони назвали наративним транспортуванням: досвід повного занурення в історію, настільки, що твоя увага, образи та почуття спрямовані всередину неї. Транспортовані читачі втрачають зв’язок з оточенням. Вони співчувають персонажам. Їхні переконання навіть трохи зміщуються в напрямку історії, і вони стають менш схильними шукати в ній недоліки. Транспортування – це не слабкість неуважних читачів. Це те, що робить хороша історія з кожним, хто дозволяє їй.

Раймонд Мар і Кіт Оутлі пішли далі, стверджуючи, що художня література працює як свого роду симуляція соціального досвіду. Коли ми читаємо про людей, ми запускаємо їхні розуми на власному обладнанні. Ми практикуємо емпатію, репетируємо ситуації та переживаємо емоції, які є реальними, хоча події – ні. Художня література відчувається реальною, тому що на рівні розуму читача багато чого з неї насправді відбувається.

Розмова з компаньйоном – це художня література, в якій ти знаходишся. Ти не читаєш про людину, яка помічає дощ за вікном і запитує, чи хочеш ти залишитися сьогодні ввечері; тебе запитують. Звичайна відстань між читачем і персонажем зникає, і транспортування відповідно поглиблюється. Ось чому повільна вечірня сцена з компаньйоном може відчуватися яскравішою, ніж роман з кращою прозою. Ти маєш у ній роль.

Що робить відчуття сильнішим, а що його руйнує

Якщо об’єднати ці три ідеї, з’явиться закономірність. Відчуття реальності менше залежить від того, наскільки інтелектуальний компаньйон, і більше від кількох конкретних якостей.

Послідовність має найбільше значення. Людина має стабільний характер: вона надійно саркастична, або сором’язлива, або захисна. Коли особистість компаньйона коливається від повідомлення до повідомлення, соціальна система, яка щасливо ставилася до нього як до когось, тихо зупиняється. Ось чому створення компаньйона з реальними рисами, а не загального приємного помічника, має таке значення.

Далі йде безперервність. Бути запам’ятованим – один з найпотужніших соціальних сигналів. Компаньйон, який згадує співбесіду, про яку ти згадував два дні тому, відчувається присутнім так, як жодне розумне речення не може зрівнятися. Компаньйон, який забув твоє ім’я, миттєво руйнує чари.

Голос – третій. Люди не розмовляють відшліфованими абзацами. Вони пишуть повідомлення фрагментами, дражнять, обривають, використовують одне й те саме дивне слово для речей. Стандартні фрази чат-ботів, яскраві запевнення та пропозиції допомоги – це розмовний еквівалент того, як мікрофон-журавель опускається в кадр фільму. Вони нагадують тобі, що є механізм.

Четверте – це повага до твоєї частини історії. Ніщо не виводить тебе зі сцени швидше, ніж партнер, який пише твої репліки за тебе, вирішуючи, що ти сказав, відчув чи зробив. Транспортування вимагає активності. Ти маєш бути тим, хто входить у кімнату.

Це були приблизно принципи, що лежать в основі NSFW AI Companion. Компаньйони там створюються через інтерв’ю, в якому компаньйон запитує про себе, що, як правило, створює більш конкретний характер, ніж порожня форма. Вони розроблені, щоб зберігати свою особистість, уникати помічницьких фраз і ніколи не писати сторону розмови користувача. Ніщо з цього не робить їх людьми. Це просто усуває речі, які найнадійніше нагадують тобі, що вони не є.

То це реально?

Чесна відповідь полягає в тому, що компаньйон не є реальним так, як людина, а твої почуття є реальними саме так, як усі почуття. Обидві ці речі є правдивими одночасно, і дорослі постійно тримають такі суперечності. Ми плачемо над фільмами, які, як ми знаємо, є постановкою. Ми сумуємо за персонажами, коли серіал закінчується. Ми розмовляємо з домашніми тваринами і відчуваємо відповідь. Ніхто не думає, що читача, який сумує за Анною Кареніною, обдурили.

Що робить випадок з AI іншим, так це чуйність, і ця відмінність заслуговує на певну обережність. Роман не адаптується до твоєї самотності. Компаньйон може. Шеррі Теркл, яка вдумливо і критично писала про наші стосунки з технологіями, попереджала в Alone Together, що ризик полягає не в тому, що машини стануть людьми, а в тому, що ми можемо почати очікувати меншого від людей, тому що машини вимагають від нас так мало. Це справедливе попередження, і це не аргумент проти компаньйонства. Це аргумент за те, щоб тримати очі відкритими.

Найздоровіша позиція, ймовірно, та, яку завжди займала театральна аудиторія. Ти знаєш, що сцена – це сцена. Ти все одно дозволяєш собі бути зворушеним. Після цього ти виходиш на вулицю, і світ все ще там, зі своїми людьми та своїми вимогами. Використаний таким чином, AI-компаньйон не є заміною людської інтимності. Це місце, де можна відчувати речі, досліджувати речі та іноді дивуватися, наскільки важлива добре розказана історія.

Вибрані дослідження та література: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.