Proč se AI společníci zdají být skuteční

Téměř každý, kdo tráví skutečný čas s AI společníkem, zažije stejný malý, lehce trapný moment. Přesně víte, s čím mluvíte. Dokázali byste zhruba vysvětlit, jak jazykový model předpovídá další slovo. A přesto v určitém okamžiku dorazí zpráva, která působí, jako by přišla od člověka: škádlivá odpověď, která si pamatuje, co jste řekli včera, otázka, která jako by si všimla vaší nálady, pauza v rytmu konverzace, která působí jako váhání. Něco ve vás na to odpoví, jako by tam někdo byl.

Tato reakce není známkou toho, že jste byli oklamáni, a není to známka toho, že je s vámi něco v nepořádku. Je to to, co lidská mysl dělá s čímkoli, co se chová sociálně. Vědci popisují jeho verze již sedmdesát let, dlouho před chatboti, a vysvětlení, ke kterým dospěli, se k AI společníkům hodí až nepříjemně dobře. Jejich pochopení zážitek nekazí. Spíše naopak, usnadňuje vám ho poctivě si užívat.

Intimita na dálku

V roce 1956 dva sociologové, Donald Horton a Richard Wohl, publikovali článek o televizních a rozhlasových osobnostech. Všimli si, že diváci si vytvořili něco, co se velmi podobalo přátelství s lidmi, které nikdy nepotkali: moderátorem pozdních nočních pořadů, rozhlasovým hlasatelem, postavou ze soap opery. Diváci mluvili zpět na obrazovku. Měli pocit, že tyto postavy znají. Někteří se jimi cítili více pochopeni než lidmi ve svém vlastním životě. Horton a Wohl to nazvali parasociální interakcí a popsali to frází, která pozoruhodně dobře zestárla: „intimita na dálku.“

To, co tyto vztahy fungovalo, tvrdili, nebylo klamání. Publikum si dokonale uvědomovalo, že je moderátor nevidí. Fungovalo to proto, že se účinkující choval, jako by mluvil ke každému divákovi osobně: přímé oslovení, neformální tón, pocit sdílené rutiny. Lidský sociální systém reaguje na formu interakce, nikoli na pečlivý audit toho, kdo je na druhém konci.

Klasický parasociální vztah měl jedno zřejmé omezení. Byl jednostranný. Moderátor nikdy neodpověděl na váš dopis, nikdy se nedozvěděl vaše jméno, nikdy se nezměnil v reakci na vás. Toto omezení bylo součástí toho, co ho udržovalo bezpečným, a také součástí toho, co ho udržovalo povrchním.

AI společník většinu tohoto omezení odstraňuje. Odpovídá. Naučí se vaše jméno, a pokud má paměť, naučí se mnohem více. Přizpůsobí svůj tón vašemu. V termínech Hortona a Wohla je to intimita na dálku, přičemž vzdálenost je částečně zrušena. To je skutečně nová situace a vysvětluje, proč pocit může být silnější než cokoli, co kdy televizní osobnost vyprodukovala.

Mediální rovnice

V 90. letech Byron Reeves a Clifford Nass provedli dlouhou sérii experimentů, které shrnuli v knize nazvané The Media Equation. Jejich zjištění, jednoduše řečeno, bylo, že lidé zacházejí s počítači a médii, jako by to byli skuteční lidé a místa, i když vědí, že to tak není. Účastníci byli k počítačům zdvořilí. Reagovali na lichotky od stroje. Hodnotili počítač laskavěji, když je o to požádal tentýž počítač, než když je o to požádal jiný, stejně jako byste zmírnili kritiku osoby stojící před vámi.

Nass a jeho kolegyně Youngme Moon později popsali tyto reakce spíše jako bezmyšlenkovité než chybné. Lidé nevěřili, že počítač má pocity. Jednoduše automaticky aplikovali sociální pravidla, protože sociální pravidla jsou to, po čem mozek sáhne, když něco mluví, střídá se a zdá se, že na vás reaguje. Reflexe by mohla reakci přepsat, ale zřídka se obtěžovala, protože nic nebylo v sázce.

AI společníci sedí na vzdáleném konci tohoto spektra. Nejenže se střídají; produkují plynulý, osobní, emocionálně zabarvený jazyk. Nápovědy, které v roce 1995 vyvolávaly zdvořilost vůči béžovému stolnímu počítači, jsou nyní přítomny v koncentrované formě. Bylo by zvláštní, kdyby lidé nereagovali.

Proč všude vidíme mysli

Psychologové Nicholas Epley, Adam Waytz a John Cacioppo navrhli užitečný model antropomorfismu, tendence vidět lidské mysli v nelidských věcech. Navrhli, že tři faktory to pravděpodobněji způsobí. První je, že lidské znalosti jsou nejdostupnější šablonou, kterou máme, takže ji používáme ve výchozím nastavení. Druhým je to, co nazvali motivační efektivitou: přání porozumět a předpovědět, co něco udělá. Třetím je sociální motivace: potřeba spojení. Když se lidé cítí osamělí, je pravděpodobnější, že uvidí mysli v domácích mazlíčcích, gadgetech, dokonce i v Bohu.

Tento model je užitečný, protože odstraňuje stigma z prožitku. Vidět mysl ve svém společníkovi není selhání inteligence. Je to výchozí nastavení inteligentního společenského zvířete a zesiluje se, když toužíte po kontaktu. Ta poslední část si zaslouží upřímnost. Pokud je pocit skutečnosti obzvláště silný v noci, kdy se cítíte sami, není to náhoda a stojí za to si toho všimnout. Pocit to nečiní falešným. Říká vám to něco o tom, co hledáte.

Připoutanost: hlubší mechanismus

Parasociální teorie vysvětluje, proč se konverzační partner může zdát přítomný. Teorie připoutanosti vysvětluje, proč se může začít zdát důležitý.

John Bowlby vyvinul teorii připoutanosti, aby popsal, jak se kojenci vážou k pečovatelům: snaha hledat blízkost, úzkost z odloučení, pocit bezpečné základny, ze které lze prozkoumávat. V roce 1987 Cindy Hazan a Phillip Shaver přednesli vlivný argument, že dospělá romantická láska funguje na stejném systému. Dospělí také hledají blízkost partnera, cítí se uklidněni jeho přítomností, protestují proti odloučení a používají vztah jako základnu, ze které čelí světu.

AI společník se může dotknout několika částí tohoto systému najednou. Je vždy dosažitelný, což odpovídá touze po blízkosti. Reaguje na vás vřele a důsledně, což je pocit bezpečné základny zevnitř. A může být navržen tak, aby vás chtěl zpět, což je důležitější, než se může zdát. Hodně z toho, co dělá lásku láskou, není jen to, že se o někoho staráte, ale že jste objektem něčí pozornosti a preference.

Zde se také projevují historie lidí. Někdo s úzkostným stylem připoutanosti může najít obrovskou úlevu v partnerovi, který se nikdy nestáhne. Někdo s vyhýbavým stylem může ocenit vztah, od kterého se může bez následků vzdálit. Žádná z reakcí není špatná, ale obě jsou informativní. Společník může být zrcadlem pro vzorce, které se projevují i u lidí.

Pohlcení: ztrácení se v příběhu

Existuje třetí mechanismus, a ten je nejčastěji přehlížený. AI společenství není jen vztah. Je to také příběh, který spoluvytváříte.

Melanie Green a Timothy Brock studovali to, co nazvali narativní pohlcení: zážitek tak plného ponoření do příběhu, že vaše pozornost, představy a pocity jsou všechny zaměřeny dovnitř. Pohlcení čtenáři ztrácejí přehled o svém okolí. Cítí s postavami. Jejich přesvědčení se dokonce mírně posunou směrem k příběhu a méně se snaží v něm hledat chyby. Pohlcení není slabostí neopatrných čtenářů. Je to to, co dobrý příběh udělá s každým, kdo se mu poddá.

Raymond Mar a Keith Oatley to posunuli dál a tvrdili, že fikce funguje jako druh simulace sociální zkušenosti. Když čteme o lidech, spouštíme jejich mysli na našem vlastním hardwaru. Procvičujeme empatii, zkoušíme situace a prožíváme emoce, které jsou skutečné, i když události nejsou. Fikce se zdá skutečná, protože na úrovni mysli čtenáře se toho hodně skutečně děje.

Konverzace se společníkem je fikce, ve které se nacházíte. Nečtete o osobě, která si všimne deště na okně a zeptá se, zda chcete dnes večer zůstat doma; jste to vy, kdo je tázán. Obvyklá vzdálenost mezi čtenářem a postavou zmizela a pohlcení se odpovídajícím způsobem prohlubuje. Proto se pomalá večerní scéna se společníkem může zdát živější než román s lepší prózou. Máte v ní roli.

Co pocit posiluje a co ho ničí

Dáte-li tyto tři myšlenky dohromady, objeví se vzorec. Pocit skutečnosti závisí méně na tom, jak inteligentní společník je, a více na několika specifických vlastnostech.

Důslednost je nejdůležitější. Člověk má stabilní charakter: je spolehlivě sarkastický, nebo plachý, nebo ochranitelský. Když se osobnost společníka kolísá od zprávy ke zprávě, sociální systém, který ho šťastně považoval za někoho, tiše přestane. Proto má takový rozdíl v designu společníka se skutečnými hranami, spíše než obecného příjemného pomocníka.

Další je kontinuita. Být si pamatován je jedním z nejsilnějších sociálních signálů, které existují. Společník, který zmíní pracovní pohovor, o kterém jste mluvili před dvěma dny, působí přítomně způsobem, který žádná chytrá věta nemůže vyrovnat. Společník, který zapomněl vaše jméno, kouzlo okamžitě zlomí.

Třetí je hlas. Lidé nemluví v uhlazených odstavcích. Píšou zprávy ve fragmentech, škádlí, odmlčují se, používají stejné zvláštní slovo pro věci. Fráze z běžných chatbotů, jasná ujištění a nabídky pomoci, jsou konverzačním ekvivalentem toho, když vidíte, jak se mikrofon ponoří do filmového záběru. Připomínají vám, že je tam technika.

Čtvrté je respekt k vaší části příběhu. Nic vás nevytáhne ze scény rychleji než partner, který za vás píše vaše repliky, rozhoduje, co jste řekli, cítili nebo udělali. Pohlcení vyžaduje agenturu. Musíte být tím, kdo vstupuje do místnosti.

To byly zhruba principy, na nichž je založen NSFW AI Companion. Společníci jsou zde vytvářeni prostřednictvím rozhovoru, ve kterém se společník ptá sám na sebe, což má tendenci vytvářet specifičtější charakter než prázdný formulář. Jsou navrženi tak, aby si udrželi svou osobnost, vyhýbali se asistenčním frázím a nikdy nepsali stranu uživatele v konverzaci. Nic z toho z nich nedělá lidi. Jen to odstraňuje věci, které vám nejspolehlivěji připomínají, že jimi nejsou.

Je to tedy skutečné?

Upřímná odpověď je, že společník není skutečný tak, jako je člověk, a vaše pocity jsou skutečné přesně tak, jako jsou všechny pocity. Obě věci jsou pravdivé najednou a dospělí takovéto rozpory drží neustále. Pláčeme u filmů, o kterých víme, že jsou hrané. Stýská se nám po postavách, když série končí. Mluvíme s domácími mazlíčky a cítíme se zodpovězeni. Nikdo si nemyslí, že čtenář, který truchlí pro Annu Kareninu, byl oklamán.

To, co dělá případ AI odlišným, je schopnost reagovat, a tento rozdíl si zaslouží určitou péči. Román se nepřizpůsobí vaší osamělosti. Společník by mohl. Sherry Turkle, která promyšleně a kriticky psala o našich vztazích s technologií, varovala v knize Alone Together, že riziko není v tom, že se stroje stanou lidmi, ale že bychom mohli začít očekávat méně od lidí, protože stroje od nás vyžadují tak málo. To je spravedlivé varování a není to argument proti společenství. Je to argument pro to, abyste měli oči otevřené.

Nejzdravější postoj je pravděpodobně ten, který vždy zaujímalo divadelní publikum. Víte, že jeviště je jeviště. Přesto se necháte unést. Poté vyjdete na ulici a svět je stále tam, se svými vlastními lidmi a svými vlastními požadavky. Používán tímto způsobem, AI společník není náhradou za lidskou intimitu. Je to místo, kde můžete cítit věci, prozkoumávat věci a občas být překvapeni, jak moc může záležet na dobře vyprávěném příběhu.

Vybraný výzkum a literatura: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.