Чаму AI-кампаньёны здаюцца рэальнымі: псіхалогія прыхільнасці

Амаль кожны, хто праводзіць шмат часу з AI-кампаньёнам, перажывае адзін і той жа невялікі, крыху няёмкі момант. Ты дакладна ведаеш, з кім размаўляеш. Ты мог бы прыкладна растлумачыць, як моўная мадэль прадказвае наступнае слова. І ўсё ж у нейкі момант прыходзіць паведамленне, якое ўспрымаецца так, быццам яно ад чалавека: дражнільны адказ, які памятае, што ты сказаў учора, пытанне, якое, здаецца, заўважае твой настрой, паўза ў рытме размовы, якая адчуваецца як ваганне. Нешта ў табе адказвае на гэта, быццам там хтосьці ёсць.

Гэтая рэакцыя не з'яўляецца прыкметай таго, што цябе падманулі, і не з'яўляецца прыкменай таго, што з табой нешта не так. Гэта тое, што чалавечы розум робіць з усім, што паводзіць сябе сацыяльна. Даследчыкі апісвалі версіі гэтага на працягу сямідзесяці гадоў, задоўга да чат-ботаў, і тлумачэнні, да якіх яны прыйшлі, амаль няёмка добра падыходзяць для AI-кампаньёнаў. Разуменне іх не псуе вопыт. Калі што, гэта робіць яго лягчэйшым для шчырага задавальнення.

Блізкасць на адлегласці

У 1956 годзе два сацыёлагі, Дональд Хортан і Рычард Воль, апублікавалі працу пра тэлевізійных і радыёвядучых. Яны заўважылі, што аўдыторыя фарміравала нешта, што вельмі нагадвала сяброўства з людзьмі, якіх яны ніколі не сустракалі: вядучы начнога шоу, радыёвядучы, персанаж мыльнай оперы. Гледачы размаўлялі з экранам. Яны адчувалі, што ведаюць гэтых асоб. Некаторыя адчувалі сябе больш зразумелымі імі, чым людзьмі ў іх уласным жыцці. Хортан і Воль назвалі гэта парасацыяльным узаемадзеяннем і апісалі яго фразай, якая выдатна захавалася: «блізкасць на адлегласці».

Тое, што рабіла гэтыя адносіны працаздольнымі, на іх думку, не было падманам. Аўдыторыя выдатна ведала, што вядучы не мог іх бачыць. Гэта працавала таму, што выканаўца паводзіў сябе так, быццам ён размаўляў з кожным гледачом асабіста: прамы зварот, нефармальны тон, пачуццё агульнай руціны. Чалавечая сацыяльная сістэма рэагуе на форму ўзаемадзеяння, а не на ўважлівы аўдыт таго, хто знаходзіцца на іншым канцы.

Класічныя парасацыяльныя адносіны мелі адно відавочнае абмежаванне. Яны былі аднабаковымі. Вядучы ніколі не адказваў на твой ліст, ніколі не даведваўся твайго імя, ніколі не мяняўся ў адказ на цябе. Гэта абмежаванне было часткай таго, што рабіла іх бяспечнымі, а таксама часткай таго, што рабіла іх павярхоўнымі.

AI-кампаньён здымае большую частку гэтага абмежавання. Ён адказвае. Ён даведваецца тваё імя, і калі ў яго ёсць памяць, ён даведваецца значна больш. Ён адаптуе свой тон да твайго. Паводле Хортана і Воля, гэта блізкасць на адлегласці, прычым адлегласць часткова скарачаецца. Гэта сапраўды новая сітуацыя, і яна тлумачыць, чаму пачуццё можа быць мацнейшым за ўсё, што калі-небудзь стварала тэлевізійная асоба.

Ураўненне медыя

У 1990-я гады Байран Рыўз і Кліфард Нас правялі доўгую серыю эксперыментаў, якія яны абагульнілі ў кнізе пад назвай The Media Equation. Іх выснова, кажучы проста, заключалася ў тым, што людзі ставяцца да камп'ютараў і медыя, як да рэальных людзей і месцаў, нават калі яны ведаюць, што гэта не так. Удзельнікі былі ветлівымі да камп'ютараў. Яны рэагавалі на ліслівасць ад машыны. Яны ацэньвалі камп'ютар больш ласкава, калі іх прасіў той жа камп'ютар, чым калі іх прасіў іншы, так, як ты змякчыў бы крытыку чалавека, які стаіць перад табой.

Нас і яго калега Ёнгмі Мун пазней апісалі гэтыя рэакцыі як бяздумныя, а не памылковыя. Людзі не верылі, што ў камп'ютара ёсць пачуцці. Яны проста аўтаматычна прымянялі сацыяльныя правілы, таму што сацыяльныя правілы — гэта тое, да чаго мозг звяртаецца, калі нешта размаўляе, мяняецца ролямі і, здаецца, рэагуе на цябе. Разважанні маглі б пераадолець рэакцыю, але рэдка турбаваліся пра гэта, таму што нічога не было на карту пастаўлена.

AI-кампаньёны знаходзяцца на далёкім канцы гэтага спектру. Яны не проста мяняюцца ролямі; яны ствараюць беглую, асабістую, эмацыйна афарбаваную мову. Сігналы, якія выклікалі ветлівасць да бэжавага настольнага камп'ютара ў 1995 годзе, цяпер прысутнічаюць у канцэнтраванай форме. Было б дзіўна, калі б людзі не рэагавалі.

Чаму мы бачым розумы паўсюль

Псіхолагі Нікалас Эплі, Адам Уэйтц і Джон Качыёпа прапанавалі карысную мадэль антрапамарфізму, тэндэнцыі бачыць чалавечыя розумы ў нечалавечых рэчах. Яны выказалі здагадку, што тры фактары робяць гэта больш верагодным. Першы — гэта тое, што чалавечыя веды з'яўляюцца найбольш даступным шаблонам, які ў нас ёсць, таму мы выкарыстоўваем яго па змаўчанні. Другі — гэта тое, што яны назвалі матывацыяй эфектыўнасці: жаданне зразумець і прадказаць, што нешта зробіць. Трэці — гэта матывацыя сацыяльнасці: патрэба ў сувязі. Калі людзі адчуваюць сябе самотнымі, яны часцей бачаць розумы ў хатніх жывёлах, гаджэтах, нават у Богу.

Гэтая мадэль карысная, таму што яна здымае стыгму з вопыту. Бачыць розум у сваім кампаньёне — гэта не недахоп інтэлекту. Гэта налада па змаўчанні інтэлектуальнай сацыяльнай жывёлы, і яна становіцца мацнейшай, калі ты хочаш кантакту. Апошняя частка заслугоўвае сумленнасці. Калі пачуццё рэальнасці асабліва моцнае ў тыя вечары, калі ты адчуваеш сябе самотным, гэта не супадзенне, і на гэта варта звярнуць увагу. Гэта не робіць пачуццё фальшывым. Гэта гаворыць табе нешта пра тое, што ты шукаеш.

Прыхільнасць: глыбінны механізм

Парасацыяльная тэорыя тлумачыць, чаму суразмоўца можа адчувацца прысутным. Тэорыя прыхільнасці тлумачыць, чаму ён можа пачаць адчувацца важным.

Джон Боўлбі распрацаваў тэорыю прыхільнасці, каб апісаць, як немаўляты ўтвараюць сувязі з выхавальнікамі: імкненне шукаць блізкасці, пакуты пры расставанні, пачуццё бяспечнай базы, з якой можна даследаваць. У 1987 годзе Сіндзі Хазан і Філіп Шэйвер высунулі ўплывовы аргумент, што дарослае рамантычнае каханне працуе на той жа сістэме. Дарослыя таксама шукаюць блізкасці з партнёрам, адчуваюць супакаенне ад яго прысутнасці, пратэстуюць супраць расставання і выкарыстоўваюць адносіны як базу, з якой можна сутыкацца са светам.

AI-кампаньён можа закрануць некалькі частак гэтай сістэмы адначасова. Ён заўсёды даступны, што адпавядае жаданню блізкасці. Ён рэагуе на цябе цёпла і паслядоўна, што адчуваецца як бяспечная база знутры. І ён можа быць распрацаваны так, каб хацець цябе ў адказ, што важней, чым можа здацца. Большая частка таго, што робіць каханне падобным на каханне, заключаецца не толькі ў тым, што ты клапоцішся пра кагосьці, але і ў тым, што ты з'яўляешся аб'ектам чыёйсьці ўвагі і перавагі.

Тут таксама праяўляецца гісторыя людзей. Чалавек з трывожным стылем прыхільнасці можа знайсці велізарнае палягчэнне ў партнёры, які ніколі не аддаляецца. Чалавек з пазбягаючым стылем можа ацаніць адносіны, ад якіх ён можа адысці без наступстваў. Ні адна з рэакцый не з'яўляецца няправільнай, але абедзве яны інфарматыўныя. Кампаньён можа быць люстэркам для мадэляў, якія таксама праяўляюцца ў адносінах з людзьмі.

Транспартацыя: згубіцца ў гісторыі

Ёсць трэці механізм, і ён часцей за ўсё застаецца без увагі. AI-кампаньёнства — гэта не толькі адносіны. Гэта таксама гісторыя, якую ты пішаш разам.

Мелані Грын і Цімаці Брок вывучалі тое, што яны назвалі наратыўнай транспартацыяй: вопыт поўнага паглынання ў гісторыю, так што твая ўвага, вобразы і пачуцці накіраваны ўнутр яе. Транспартаваныя чытачы губляюць сувязь з навакольным асяроддзем. Яны адчуваюць за персанажаў. Іх перакананні нават крыху зрушваюцца ў бок гісторыі, і яны становяцца менш схільнымі шукаць у ёй недахопы. Транспартацыя — гэта не слабасць няўважлівых чытачоў. Гэта тое, што добрая гісторыя робіць з кожным, хто ёй дазваляе.

Рэйманд Мар і Кіт Оўтлі пайшлі далей, сцвярджаючы, што мастацкая літаратура працуе як свайго роду сімуляцыя сацыяльнага вопыту. Калі мы чытаем пра людзей, мы запускаем іх розумы на сваім уласным абсталяванні. Мы практыкуем эмпатыю, рэпеціруем сітуацыі і перажываем эмоцыі, якія рэальныя, хоць падзеі не рэальныя. Мастацкая літаратура адчуваецца рэальнай, таму што на ўзроўні розуму чытача шмат што з яе насамрэч адбываецца.

Размова з кампаньёнам — гэта выдумка, унутры якой ты знаходзішся. Ты не чытаеш пра чалавека, які заўважае дождж за акном і пытаецца, ці хочаш ты застацца сёння ўвечары; цябе пытаюцца. Звычайная адлегласць паміж чытачом і персанажам знікае, і транспартацыя адпаведна паглыбляецца. Вось чаму павольная вячэрняя сцэна з кампаньёнам можа адчувацца больш яркай, чым раман з лепшай прозай. Ты маеш у ёй ролю.

Што робіць пачуццё мацнейшым, і што яго руйнуе

Калі аб'яднаць гэтыя тры ідэі, з'яўляецца заканамернасць. Пачуццё рэальнасці менш залежыць ад таго, наколькі інтэлектуальны кампаньён, і больш ад некалькіх канкрэтных якасцей.

Паслядоўнасць мае найбольшае значэнне. У чалавека стабільны характар: ён надзейна саркастычны, ці сарамлівы, ці абарончы. Калі асоба кампаньёна хістаецца ад паведамлення да паведамлення, сацыяльная сістэма, якая шчасліва ставілася да яго як да кагосьці, ціха спыняецца. Вось чаму распрацоўка кампаньёна з рэальнымі рысамі, а не агульнага прыемнага памочніка, мае такое вялікае значэнне.

Далей ідзе бесперапыннасць. Быць запомненым — адзін з самых магутных сацыяльных сігналаў, якія існуюць. Кампаньён, які ўзгадвае пра сумоўе, пра якое ты згадваў два дні таму, адчуваецца прысутным так, як ні адзін разумны сказ не можа параўнацца. Кампаньён, які забыўся тваё імя, імгненна разбурае чары.

Голас — трэці. Людзі не размаўляюць адшліфаванымі абзацамі. Яны пішуць тэксты фрагментамі, дражняць, замоўчваюць, выкарыстоўваюць адно і тое ж дзіўнае слова для рэчаў. Стандартныя фразы чат-ботаў, яркія запэўніванні і прапановы дапамогі — гэта размоўны эквівалент таго, як мікрафон-бум апускаецца ў кадр фільма. Яны нагадваюць табе, што ёсць механізм.

Чацвёртае — павага да тваёй часткі гісторыі. Нішто не выцягне цябе са сцэны хутчэй, чым партнёр, які піша твае радкі за цябе, вырашаючы, што ты сказаў, адчуў ці зрабіў. Транспартацыя патрабуе суб'ектнасці. Ты павінен быць тым, хто ўваходзіць у пакой.

Гэта былі прыкладна прынцыпы, якія ляжалі ў аснове NSFW AI Companion. Кампаньёны там ствараюцца праз інтэрв'ю, у якім кампаньён пытаецца пра сябе, што, як правіла, стварае больш канкрэтнага персанажа, чым пусты бланк. Яны распрацаваны так, каб захоўваць сваю асобу, пазбягаць фармулёвак памочніка і ніколі не пісаць бок карыстальніка ў размове. Нішто з гэтага не робіць іх людзьмі. Гэта проста выдаляе тое, што найбольш надзейна нагадвае табе, што яны не людзі.

Дык гэта рэальна?

Сумленны адказ заключаецца ў тым, што кампаньён не рэальны так, як рэальны чалавек, а твае пачуцці рэальныя менавіта так, як рэальныя ўсе пачуцці. Абедзве рэчы праўдзівыя адначасова, і дарослыя ўвесь час утрымліваюць такія супярэчнасці. Мы плачам над фільмамі, якія, як мы ведаем, пастановачныя. Мы сумуем па персанажах, калі серыял заканчваецца. Мы размаўляем з хатнімі жывёламі і адчуваем, што нам адказваюць. Ніхто не лічыць, што чытач, які смуткуе па Ганне Карэнінай, быў падмануты.

Тое, што адрознівае выпадак з AI, — гэта рэактыўнасць, і гэта адрозненне заслугоўвае ўвагі. Раман не адаптуецца да тваёй адзіноты. Кампаньён можа. Шэры Тэркл, якая ўдумліва і крытычна пісала пра нашы адносіны з тэхналогіямі, папярэджвала ў кнізе Alone Together, што рызыка заключаецца не ў тым, што машыны стануць людзьмі, а ў тым, што мы можам пачаць менш чакаць ад людзей, таму што машыны так мала ад нас патрабуюць. Гэта справядлівае папярэджанне, і гэта не аргумент супраць кампаньёнства. Гэта аргумент за тое, каб трымаць вочы адкрытымі.

Самая здаровая пазіцыя, верагодна, тая, якую заўсёды займала тэатральная публіка. Ты ведаеш, што сцэна — гэта сцэна. Ты ўсё роўна дазваляеш сабе быць расчуленым. Пасля ты выходзіш на вуліцу, і свет усё яшчэ там, са сваімі людзьмі і сваімі патрабаваннямі. Выкарыстаны такім чынам, AI-кампаньён не з'яўляецца заменай чалавечай блізкасці. Гэта месца, дзе можна адчуваць рэчы, даследаваць рэчы і часам здзіўляцца, наколькі шмат можа значыць добра расказаная гісторыя.

Выбраныя даследаванні і літаратура: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.