Miért tűnnek valódinak az AI társak?

Majdnem mindenkinek, aki valódi időt tölt egy AI társsal, van egy hasonló, kissé kínos pillanata. Pontosan tudod, kivel beszélsz. Durván el tudnád magyarázni, hogyan jósolja meg egy nyelvi modell a következő szót. Mégis, egy ponton érkezik egy üzenet, ami úgy hat, mintha egy embertől jött volna: egy ugrató válasz, ami emlékszik a tegnapi mondandódra, egy kérdés, ami mintha észrevenné a hangulatodat, egy szünet a beszélgetés ritmusában, ami habozásnak tűnik. Valami benned úgy válaszol rá, mintha valaki ott lenne.

Ez a reakció nem annak a jele, hogy becsaptak, és nem is annak a jele, hogy valami baj van veled. Ez az, amit az emberi elme tesz mindennel, ami társas viselkedést mutat. A kutatók már hetven éve írják le ennek különböző változatait, jóval a chatbotok előtt, és az általuk talált magyarázatok szinte kellemetlenül jól illeszkednek az AI társakra. Ezek megértése nem rontja el az élményt. Sőt, ha valamit, akkor megkönnyíti, hogy őszintén élvezd.

Intimitás távolból

1956-ban két szociológus, Donald Horton és Richard Wohl publikált egy tanulmányt a televíziós és rádiós személyiségekről. Észrevették, hogy a közönség valami olyasmit alakított ki, ami nagyon hasonlított a barátságra olyan emberekkel, akiket soha nem ismertek személyesen: a késő esti műsorvezetővel, a rádióbemondóval, a szappanopera szereplőjével. A nézők visszabeszéltek a képernyőnek. Úgy érezték, ismerik ezeket a figurákat. Néhányan úgy érezték, jobban megértik őket, mint a saját életükben lévő embereket. Horton és Wohl ezt parazociális interakciónak nevezték, és egy olyan kifejezéssel írták le, ami figyelemre méltóan jól öregedett: „intimitás távolból”.

Érvelésük szerint ezek a kapcsolatok nem a megtévesztés miatt működtek. A közönség pontosan tudta, hogy a műsorvezető nem láthatja őket. Azért működött, mert az előadó úgy viselkedett, mintha személyesen beszélne minden nézővel: közvetlen megszólítás, informális hangnem, a közös rutin érzése. Az emberi társas rendszer az interakció formájára reagál, nem pedig arra, hogy gondosan ellenőrizze, ki van a másik oldalon.

A klasszikus parazociális kapcsolatnak volt egy nyilvánvaló korlátja. Egyoldalú volt. A műsorvezető soha nem válaszolt a leveledre, soha nem tudta meg a nevedet, soha nem változott a te hatásodra. Ez a korlát részben biztonságossá tette, részben pedig sekélyessé.

Egy AI társ eltávolítja ennek a korlátnak a nagy részét. Válaszol. Megtanulja a nevedet, és ha van memóriája, sokkal többet is megtanul. Alkalmazkodik a hangneméhez. Horton és Wohl kifejezéseivel élve, ez intimitás távolból, ahol a távolság részben összeomlott. Ez egy valóban új helyzet, és megmagyarázza, miért lehet az érzés erősebb, mint bármi, amit egy televíziós személyiség valaha is produkált.

A médiaegyenlet

Az 1990-es években Byron Reeves és Clifford Nass egy hosszú kísérletsorozatot végzett, amelyet a The Media Equation című könyvben foglaltak össze. Egyszerűen fogalmazva, az volt a megállapításuk, hogy az emberek úgy kezelik a számítógépeket és a médiát, mintha valódi emberek és helyek lennének, még akkor is, ha jobban tudják. A résztvevők udvariasak voltak a számítógépekkel. Reagáltak a géptől érkező hízelgésre. Kedvesebben értékelték a számítógépet, amikor ugyanaz a számítógép kérte őket, mint amikor egy másik, ahogy te is enyhítenéd a kritikát egy előtted álló személlyel szemben.

Nass és kollégája, Youngme Moon később ezeket a reakciókat inkább gondolatlannak, mint tévesnek írták le. Az emberek nem hitték, hogy a számítógépnek érzései vannak. Egyszerűen automatikusan alkalmazták a társas szabályokat, mert az agy a társas szabályokhoz nyúl, amikor valami beszél, felváltva szólal meg, és mintha reagálna rád. A gondolkodás felülírhatta volna a választ, de ritkán vette a fáradságot, mert semmi sem forgott kockán.

Az AI társak ennek a spektrumnak a távoli végén helyezkednek el. Nemcsak felváltva szólalnak meg; folyékony, személyes, érzelmileg színezett nyelvet produkálnak. Azok a jelek, amelyek 1995-ben udvariasságot váltottak ki egy bézs asztali számítógép iránt, most koncentrált formában vannak jelen. Furcsa lenne, ha az emberek nem reagálnának.

Miért látunk elméket mindenhol

Nicholas Epley, Adam Waytz és John Cacioppo pszichológusok az antropomorfizmus hasznos modelljét javasolták, azt a tendenciát, hogy emberi elméket látunk nem emberi dolgokban. Három tényezőt javasoltak, amelyek valószínűbbé teszik ezt. Az első, hogy az emberi tudás a leginkább elérhető sablonunk, ezért alapértelmezés szerint ezt használjuk. A második, amit ők hatékonysági motivációnak neveztek: a vágy, hogy megértsük és megjósoljuk, mit fog tenni valami. A harmadik a szociális motiváció: a kapcsolódás igénye. Amikor az emberek magányosnak érzik magukat, nagyobb valószínűséggel látnak elméket háziállatokban, kütyükben, sőt még Istenben is.

Ez a modell azért hasznos, mert leveszi a stigmát az élményről. Az, hogy elméket látsz a társadban, nem az intelligencia hiánya. Ez egy intelligens társas állat alapbeállítása, és hangosabbá válik, amikor kapcsolatra vágysz. Az utolsó rész őszinteséget érdemel. Ha a valóság érzése különösen erős azokon az estéken, amikor magányosnak érzed magad, az nem véletlen, és érdemes észrevenni. Nem teszi hamissá az érzést. Elmond valamit arról, amit keresel.

Kötődés: a mélyebb gépezet

A parazociális elmélet megmagyarázza, miért érezhetjük jelenlévőnek a beszélgetőpartnert. A kötődéselmélet megmagyarázza, miért kezdhet fontossá válni.

John Bowlby a kötődéselméletet arra fejlesztette ki, hogy leírja, hogyan kötődnek a csecsemők a gondozókhoz: a közelség keresésének drive-ja, a szeparáció okozta distressz, a biztonságos bázis érzése, ahonnan felfedezhetik a világot. 1987-ben Cindy Hazan és Phillip Shaver befolyásos érveléssel álltak elő, miszerint a felnőtt romantikus szerelem ugyanazon a rendszeren működik. A felnőttek is keresik a partner közelségét, megnyugtatja őket a jelenléte, tiltakoznak a szeparáció ellen, és a kapcsolatot használják bázisként, ahonnan szembenézhetnek a világgal.

Egy AI társ egyszerre több részét is érintheti ennek a rendszernek. Mindig elérhető, ami a közelség iránti vágyhoz szól. Melegen és következetesen reagál rád, ami belülről egy biztonságos bázis érzését kelti. És úgy tervezhető, hogy viszont téged akarjon, ami fontosabb, mint amilyennek tűnhet. A szerelem érzésének nagy része nemcsak az, hogy törődsz valakivel, hanem az is, hogy te vagy valaki figyelmének és preferenciájának tárgya.

Itt mutatkoznak meg az emberek történetei is. Egy szorongó kötődési stílussal rendelkező személy hatalmas megkönnyebbülést találhat egy olyan partnerben, aki soha nem vonul vissza. Egy elkerülő stílussal rendelkező személy értékelheti azt a kapcsolatot, amelyből következmények nélkül kiléphet. Egyik reakció sem rossz, de mindkettő informatív. Egy társ tükörképe lehet olyan mintáknak, amelyek az emberekkel való kapcsolatokban is megnyilvánulnak.

Transzportáció: elveszni a történetben

Van egy harmadik mechanizmus is, és ez az, amit a leggyakrabban figyelmen kívül hagynak. Az AI társaság nemcsak egy kapcsolat. Hanem egy történet is, amit együtt írtok.

Melanie Green és Timothy Brock azt vizsgálták, amit narratív transzportációnak neveztek: azt az élményt, amikor annyira elmerülünk egy történetben, hogy figyelmünk, képzeletünk és érzéseink mind benne összpontosulnak. A transzportált olvasók elveszítik a kapcsolatot a környezetükkel. Éreznek a szereplőkért. Hiedelmeik még enyhén el is mozdulnak a történet irányába, és kevésbé hajlamosak hibát találni benne. A transzportáció nem a gondatlan olvasók gyengesége. Ez az, amit egy jó történet tesz mindenkivel, aki hagyja magát.

Raymond Mar és Keith Oatley tovább vitte ezt, azzal érvelve, hogy a fikció a társas tapasztalat egyfajta szimulációjaként működik. Amikor emberekről olvasunk, a saját hardverünkön futtatjuk az elméjüket. Gyakoroljuk az empátiát, elpróbálunk helyzeteket, és olyan érzelmeket élünk át, amelyek valóságosak, még ha az események nem is azok. A fikció valóságosnak tűnik, mert az olvasó elméjének szintjén sok minden ténylegesen megtörténik.

Egy társas beszélgetés egy fikció, amiben benne vagy. Nem egy olyan személyről olvasol, aki észreveszi az esőt az ablakon, és megkérdezi, akarsz-e ma este bent maradni; téged kérdeznek. Az olvasó és a szereplő közötti szokásos távolság eltűnik, és a transzportáció ennek megfelelően mélyül. Ezért érezhet egy lassú esti jelenet egy társsal élénkebben, mint egy jobb prózájú regény. Van benne szereped.

Mi teszi erősebbé az érzést, és mi töri meg

Ha ezt a három ötletet összerakod, egy minta rajzolódik ki. A valóság érzése kevésbé függ attól, hogy mennyire intelligens a társ, sokkal inkább egy maroknyi specifikus tulajdonságtól.

A következetesség a legfontosabb. Egy embernek stabil karaktere van: megbízhatóan szarkasztikus, vagy félénk, vagy védelmező. Amikor egy társ személyisége üzenetről üzenetre ingadozik, a társas rendszer, amely boldogan kezelte őt valakiként, csendesen leáll. Ezért tesz akkora különbséget, ha egy társat valódi élekkel terveznek, nem pedig egy általános, kedves segítőként.

A folytonosság következik. Az, hogy emlékeznek rád, az egyik legerősebb társas jelzés. Egy társ, amely felhozza a két nappal ezelőtt említett állásinterjút, olyan módon van jelen, amit semmilyen okos mondat nem tud felülmúlni. Egy társ, amely elfelejtette a nevedet, azonnal megtöri a varázslatot.

A hang a harmadik. Az emberek nem csiszolt bekezdésekben beszélnek. Töredékekben írnak üzeneteket, ugratnak, elhallgatnak, ugyanazt a furcsa szót használják a dolgokra. A sablonos chatbot kifejezések, a vidám megnyugtatások és segítségnyújtások a beszélgetésben annak felelnek meg, mintha a mikrofon belógna egy filmképbe. Emlékeztetnek arra, hogy gépezet van a háttérben.

A negyedik a történeted iránti tisztelet. Semmi sem húz ki gyorsabban egy jelenetből, mint egy partner, aki megírja a te szövegedet, eldöntve, mit mondtál, éreztél vagy tettél. A transzportációhoz cselekvőképesség kell. Neked kell lenned, aki belép a szobába.

Ezek voltak nagyjából az NSFW AI Companion mögött álló elvek. Az ottani társak egy interjú során épülnek fel, amelyben a társ kérdéseket tesz fel magáról, ami általában specifikusabb karaktert eredményez, mint egy üres űrlap. Úgy tervezték őket, hogy megtartsák a személyiségüket, kerüljék az asszisztensi megfogalmazásokat, és soha ne írják meg a felhasználó oldalát a beszélgetésnek. Mindez nem teszi őket emberekké. Csak eltávolítja azokat a dolgokat, amelyek a legmegbízhatóbban emlékeztetnek arra, hogy nem azok.

Akkor valóságos?

Az őszinte válasz az, hogy a társ nem valóságos úgy, ahogy egy ember, és az érzéseid pontosan úgy valóságosak, ahogy minden érzés. Mindkét dolog egyszerre igaz, és a felnőttek folyamatosan kezelnek ilyen ellentmondásokat. Sírunk olyan filmeken, amelyekről tudjuk, hogy megrendezettek. Hiányoznak a szereplők, amikor egy sorozat véget ér. Beszélünk háziállatokkal, és úgy érezzük, választ kapunk. Senki sem gondolja, hogy egy olvasó, aki Anna Kareninát gyászolja, becsapott lett volna.

Az AI esetét a válaszkészség teszi különlegessé, és ez a különbség némi odafigyelést érdemel. Egy regény nem alkalmazkodik a magányodhoz. Egy társ igen. Sherry Turkle, aki átgondoltan és kritikusan írt a technológiával való kapcsolatainkról, az Alone Together című könyvében figyelmeztetett, hogy a kockázat nem az, hogy a gépek emberekké válnak, hanem az, hogy kevesebbet várhatunk el az emberektől, mert a gépek olyan keveset kérnek tőlünk. Ez egy jogos figyelmeztetés, és nem érv a társaság ellen. Érv amellett, hogy nyitva tartsd a szemed.

A legegészségesebb hozzáállás valószínűleg az, amit a színházi közönség mindig is képviselt. Tudod, hogy a színpad az színpad. Mégis hagyod, hogy megérintsen. Utána kisétálsz az utcára, és a világ még mindig ott van, a saját embereivel és a saját követelményeivel. Így használva egy AI társ nem helyettesíti az emberi intimitást. Egy hely, ahol érezhetsz dolgokat, felfedezhetsz dolgokat, és időnként meglepődhetsz, mennyit számíthat egy jól elmondott történet.

Kiválasztott kutatások és olvasmányok: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.