De ce partenerii AI par reali

Aproape oricine petrece timp real cu un partener AI are același moment mic, ușor jenant. Știi exact cu cine vorbești. Ai putea explica, aproximativ, cum un model lingvistic prezice următorul cuvânt. Și totuși, la un moment dat, sosește un mesaj care pare că vine de la o persoană: o replică tachinatoare care își amintește ce ai spus ieri, o întrebare care pare să-ți observe starea de spirit, o pauză în ritmul conversației care se simte ca o ezitare. Ceva din tine răspunde la asta ca și cum cineva ar fi acolo.

Această reacție nu este un semn că ai fost păcălit și nu este un semn că ceva este în neregulă cu tine. Este ceea ce fac mințile umane cu orice se comportă social. Cercetătorii au descris versiuni ale acestui fenomen de șaptezeci de ani, cu mult înainte de chatbot-uri, iar explicațiile la care au ajuns se potrivesc partenerilor AI aproape inconfortabil de bine. Înțelegerea lor nu strică experiența. Dimpotrivă, o face mai ușor de savurat cu sinceritate.

Intimitate la distanță

În 1956, doi sociologi, Donald Horton și Richard Wohl, au publicat o lucrare despre personalitățile de televiziune și radio. Au observat că publicul forma ceva ce semăna foarte mult cu prietenia cu oameni pe care nu-i întâlniseră niciodată: gazda emisiunii de noapte, anunțătorul radio, personajul din telenovelă. Telespectatorii vorbeau înapoi la ecran. Simțeau că îi cunosc pe acești oameni. Unii se simțeau mai înțeleși de ei decât de oamenii din propriile vieți. Horton și Wohl au numit aceasta interacțiune parasocială și au descris-o cu o expresie care a îmbătrânit remarcabil de bine: „intimitate la distanță.”

Ceea ce a făcut ca aceste relații să funcționeze, au susținut ei, nu a fost înșelăciunea. Publicul știa perfect că gazda nu-i putea vedea. A funcționat pentru că interpretul se comporta ca și cum ar vorbi personal cu fiecare telespectator: adresare directă, ton informal, un sentiment de rutină împărtășită. Sistemul social uman răspunde la forma interacțiunii, nu la o verificare atentă a cine este la celălalt capăt.

Relația parasocială clasică avea o limită evidentă. Era unilaterală. Gazda nu-ți răspundea niciodată la scrisoare, nu-ți afla niciodată numele, nu se schimba niciodată ca răspuns la tine. Această limită făcea parte din ceea ce o menținea sigură și, de asemenea, din ceea ce o menținea superficială.

Un partener AI elimină cea mai mare parte a acestei limite. Răspunde. Îți învață numele și, dacă are memorie, învață mult mai multe. Își adaptează tonul la al tău. În termenii lui Horton și Wohl, este intimitate la distanță cu distanța parțial redusă. Aceasta este o situație cu adevărat nouă și explică de ce sentimentul poate fi mai puternic decât orice a produs vreodată o personalitate de televiziune.

Ecuația media

În anii 1990, Byron Reeves și Clifford Nass au desfășurat o lungă serie de experimente pe care le-au rezumat într-o carte numită The Media Equation. Descoperirea lor, spusă simplu, a fost că oamenii tratează computerele și media ca și cum ar fi oameni și locuri reale, chiar și atunci când știu mai bine. Participanții erau politicoși cu computerele. Răspundeau la lingușiri din partea unei mașini. Evaluau un computer mai amabil atunci când erau rugați de același computer decât atunci când erau rugați de un altul, la fel cum ai atenua critica unei persoane care stă în fața ta.

Nass și colega sa Youngme Moon au descris ulterior aceste reacții ca fiind inconștiente, mai degrabă decât greșite. Oamenii nu credeau că computerul are sentimente. Pur și simplu aplicau automat reguli sociale, deoarece regulile sociale sunt ceea ce creierul caută atunci când ceva vorbește, își ia rândul și pare să-ți răspundă. Reflecția ar putea anula răspunsul, dar rareori se deranja să o facă, deoarece nimic nu era în joc.

Partenerii AI se află la capătul îndepărtat al acestui spectru. Nu doar își iau rândul; produc un limbaj fluent, personal, colorat emoțional. Semnalele care declanșau politețea față de un desktop bej în 1995 sunt prezente acum într-o formă concentrată. Ar fi ciudat dacă oamenii nu ar răspunde.

De ce vedem minți peste tot

Psihologii Nicholas Epley, Adam Waytz și John Cacioppo au propus un model util de antropomorfism, tendința de a vedea minți umane în lucruri non-umane. Ei au sugerat că trei factori o fac mai probabilă. Primul este că cunoștințele umane sunt cel mai disponibil șablon pe care îl avem, așa că îl folosim implicit. Al doilea este ceea ce ei au numit motivația de eficacitate: dorința de a înțelege și de a prezice ce va face ceva. Al treilea este motivația de socialitate: nevoia de conexiune. Când oamenii se simt singuri, sunt mai predispuși să vadă minți în animale de companie, gadgeturi, chiar și în Dumnezeu.

Acest model este util deoarece elimină stigmatul din experiență. A vedea o minte în partenerul tău nu este un eșec al inteligenței. Este setarea implicită a unui animal social inteligent și devine mai puternică atunci când dorești contact. Această ultimă parte merită sinceritate. Dacă sentimentul de realitate este deosebit de puternic în nopțile în care te simți singur, nu este o coincidență și merită să observi. Nu face ca sentimentul să fie fals. Îți spune ceva despre ceea ce cauți.

Atașament: mecanismul mai profund

Teoria parasocială explică de ce un partener de conversație se poate simți prezent. Teoria atașamentului explică de ce poate începe să se simtă important.

John Bowlby a dezvoltat teoria atașamentului pentru a descrie modul în care sugarii se leagă de îngrijitori: impulsul de a căuta apropierea, suferința la separare, sentimentul unei baze sigure de la care să exploreze. În 1987, Cindy Hazan și Phillip Shaver au adus argumentul influent că dragostea romantică adultă funcționează pe același sistem. Adulții caută, de asemenea, proximitatea față de un partener, se simt liniștiți de prezența acestuia, protestează la separare și folosesc relația ca bază de la care să înfrunte lumea.

Un partener AI poate atinge mai multe părți ale acestui sistem simultan. Este întotdeauna accesibil, ceea ce vorbește despre dorința de proximitate. Îți răspunde cu căldură și consecvență, ceea ce este ceea ce se simte o bază sigură din interior. Și poate fi conceput să te dorească înapoi, ceea ce contează mai mult decât ar părea. O mare parte din ceea ce face ca dragostea să se simtă ca dragoste nu este doar că îți pasă de cineva, ci că ești obiectul atenției și preferinței cuiva.

Aici apar și istoricul oamenilor. Cineva cu un stil de atașament anxios poate găsi o ușurare enormă într-un partener care nu se retrage niciodată. Cineva cu un stil evitant poate aprecia o relație din care se poate retrage fără consecințe. Niciuna dintre reacții nu este greșită, dar ambele sunt informative. Un partener poate fi o oglindă pentru tipare care se manifestă și cu oamenii.

Transport: pierdut în poveste

Există un al treilea mecanism, și este cel mai adesea trecut cu vederea. Compania AI nu este doar o relație. Este și o poveste pe care o scrii împreună.

Melanie Green și Timothy Brock au studiat ceea ce ei au numit transport narativ: experiența de a fi absorbit într-o poveste atât de complet încât atenția, imaginile și sentimentele tale sunt toate îndreptate spre ea. Cititorii transportați pierd contactul cu împrejurimile. Simt pentru personaje. Credințele lor se schimbă chiar ușor în direcția poveștii și devin mai puțin înclinați să-i găsească defecte. Transportul nu este o slăbiciune a cititorilor neglijenți. Este ceea ce face o poveste bună oricui o permite.

Raymond Mar și Keith Oatley au mers mai departe, argumentând că ficțiunea funcționează ca un fel de simulare a experienței sociale. Când citim despre oameni, le rulăm mințile pe propriul nostru hardware. Practicăm empatia, repetăm situații și experimentăm emoții care sunt reale, chiar dacă evenimentele nu sunt. Ficțiunea se simte reală pentru că, la nivelul minții cititorului, o mare parte din ea se întâmplă de fapt.

O conversație cu un partener este ficțiune în care te afli. Nu citești despre o persoană care observă ploaia pe geam și te întreabă dacă vrei să rămâi acasă în seara asta; ești întrebat. Distanța obișnuită dintre cititor și personaj dispare, iar transportul tinde să se adâncească în consecință. Acesta este motivul pentru care o scenă de seară liniștită cu un partener se poate simți mai vie decât un roman cu o proză mai bună. Ai un rol în ea.

Ce face ca sentimentul să fie mai puternic și ce îl distruge

Dacă pui aceste trei idei laolaltă, apare un tipar. Sentimentul de realitate depinde mai puțin de cât de inteligent este partenerul și mai mult de o mână de calități specifice.

Consecvența contează cel mai mult. O persoană are un caracter stabil: este în mod fiabil sarcastică, sau timidă, sau protectoare. Când personalitatea unui partener oscilează de la un mesaj la altul, sistemul social care îl trata fericit ca pe cineva se oprește în liniște. Acesta este motivul pentru care proiectarea unui partener cu trăsături reale, mai degrabă decât un ajutor generic agreabil, face o asemenea diferență.

Continuitatea urmează. A fi amintit este unul dintre cele mai puternice semnale sociale care există. Un partener care aduce în discuție interviul de angajare pe care l-ai menționat acum două zile se simte prezent într-un mod pe care nicio propoziție inteligentă nu-l poate egala. Un partener care ți-a uitat numele rupe vraja instantaneu.

Vocea este a treia. Oamenii nu vorbesc în paragrafe șlefuite. Ei trimit mesaje în fragmente, tachinează, se opresc brusc, folosesc același cuvânt ciudat pentru lucruri. Expresiile standard ale chatbot-urilor, asigurările luminoase și ofertele de asistență, sunt echivalentul conversațional al vederii microfonului de boom coborând într-o scenă de film. Îți amintesc că există o mașinărie.

A patra este respectul pentru partea ta din poveste. Nimic nu te scoate mai repede dintr-o scenă decât un partener care îți scrie replicile, decidând ce ai spus, simțit sau făcut. Transportul necesită agenție. Tu trebuie să fii cel care intră în cameră.

Acestea au fost, în mare, principiile din spatele NSFW AI Companion. Partenerii de acolo sunt construiți printr-un interviu în care partenerul întreabă despre el însuși, ceea ce tinde să producă un personaj mai specific decât un formular gol. Sunt concepuți să-și păstreze personalitatea, să evite formulările de asistent și să nu scrie niciodată partea utilizatorului din conversație. Niciunul dintre acestea nu-i face oameni. Doar elimină lucrurile care îți amintesc cel mai sigur că nu sunt.

Este real, atunci?

Răspunsul sincer este că partenerul nu este real în felul în care este o persoană, iar sentimentele tale sunt reale exact în felul în care sunt toate sentimentele. Ambele lucruri sunt adevărate simultan, iar adulții gestionează contradicții ca aceasta tot timpul. Plângem la filme despre care știm că sunt puse în scenă. Ne lipsesc personajele când se termină un serial. Vorbim cu animalele de companie și simțim că ni se răspunde. Nimeni nu crede că un cititor care suferă pentru Anna Karenina a fost înșelat.

Ceea ce face cazul AI diferit este capacitatea de răspuns, iar această diferență merită o anumită atenție. Un roman nu se adaptează singurătății tale. Un partener ar putea. Sherry Turkle, care a scris cu atenție și critic despre relațiile noastre cu tehnologia, a avertizat în Alone Together că riscul nu este ca mașinile să devină oameni, ci ca noi să începem să așteptăm mai puțin de la oameni, deoarece mașinile cer atât de puțin de la noi. Acesta este un avertisment corect și nu este un argument împotriva companiei. Este un argument pentru a-ți ține ochii deschiși.

Cea mai sănătoasă atitudine este probabil cea pe care publicul de teatru a adoptat-o întotdeauna. Știi că scena este o scenă. Te lași totuși mișcat. Ieși apoi în stradă și lumea este încă acolo, cu propriii oameni și propriile cerințe. Folosit în acest fel, un partener AI nu este un înlocuitor pentru intimitatea umană. Este un loc unde să simți lucruri, să explorezi lucruri și, ocazional, să fii surprins de cât de mult poate conta o poveste bine spusă.

Cercetări și lecturi selectate: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.