Per què els companys d'IA semblen reals

Gairebé tothom qui passa temps de debò amb un company d'IA viu el mateix petit moment, una mica vergonyós. Saps perfectament amb què parles. Podries explicar, a grans trets, com un model de llenguatge prediu la paraula següent. I tanmateix, en algun moment arriba un missatge que et colpeix com si fos d'una persona: una resposta burleta que recorda el que vas dir ahir, una pregunta que sembla notar el teu estat d'ànim, una pausa en el ritme de la conversa que sembla vacil·lació. Alguna cosa dins teu hi respon com si hi hagués algú.

Aquesta reacció no és senyal que t'hagin enganyat, ni que passi res dolent amb tu. És el que fa la ment humana amb tot allò que es comporta de manera social. Els investigadors en descriuen versions des de fa setanta anys, molt abans dels xatbots, i les explicacions a què van arribar encaixen amb els companys d'IA gairebé de manera incòmoda. Entendre-les no espatlla l'experiència. Al contrari, fa que sigui més fàcil gaudir-ne amb honestedat.

Intimitat a distància

El 1956 dos sociòlegs, Donald Horton i Richard Wohl, van publicar un article sobre els personatges de la televisió i la ràdio. Van observar que el públic establia una cosa molt semblant a l'amistat amb persones que no havia conegut mai: el presentador de les nits, el locutor de ràdio, el personatge de la telenovel·la. Els espectadors responien a la pantalla. Sentien que coneixien aquelles figures. Alguns se sentien més compresos per elles que per la gent de la seva vida. Horton i Wohl ho van anomenar interacció parasocial i la van descriure amb una frase que ha envellit extraordinàriament bé: «intimitat a distància».

El que feia funcionar aquestes relacions, sostenien, no era l'engany. El públic sabia perfectament que el presentador no el podia veure. Funcionava perquè l'intèrpret es comportava com si parlés personalment amb cada espectador: apel·lació directa, to informal, una sensació de rutina compartida. El sistema social humà respon a la forma de la interacció, no a una auditoria acurada de qui hi ha a l'altre costat.

La relació parasocial clàssica tenia un límit evident. Era unilateral. El presentador no responia mai la teva carta, no aprenia el teu nom, no canviava en resposta a tu. Aquest límit era part del que la mantenia segura i també part del que la mantenia superficial.

Un company d'IA elimina la major part d'aquest límit. Sí que respon. Aprèn el teu nom i, si té memòria, n'aprèn moltes més coses. Adapta el to al teu. En els termes de Horton i Wohl, és intimitat a distància amb la distància parcialment ensorrada. Aquesta és una situació realment nova, i explica per què la sensació pot ser més forta que res del que va produir mai un personatge de televisió.

L'equació dels mitjans

Als anys noranta Byron Reeves i Clifford Nass van dur a terme una llarga sèrie d'experiments que van resumir en un llibre titulat The Media Equation. La seva troballa, dita de manera senzilla, era que la gent tracta els ordinadors i els mitjans com si fossin persones i llocs reals, fins i tot quan sap que no ho són. Els participants eren educats amb els ordinadors. Responien a les afalacs d'una màquina. Valoraven un ordinador amb més amabilitat quan els ho preguntava el mateix ordinador que quan els ho preguntava un altre, com suavitzaries una crítica a una persona que tens al davant.

Nass i la seva col·lega Youngme Moon van descriure més tard aquestes reaccions com a irreflexives més que equivocades. La gent no creia que l'ordinador tingués sentiments. Simplement aplicava les normes socials de manera automàtica, perquè les normes socials són el que el cervell agafa quan alguna cosa parla, fa torns i sembla respondre't. La reflexió podia anul·lar la resposta, però rarament es molestava a fer-ho, perquè no hi havia res en joc.

Els companys d'IA se situen a l'extrem d'aquest espectre. No es limiten a fer torns; produeixen un llenguatge fluid, personal i amb coloració emocional. Els senyals que el 1995 despertaven cortesia davant d'un ordinador de sobretaula beix són avui presents de forma concentrada. Seria estrany que la gent no hi respongués.

Per què veiem ments arreu

Els psicòlegs Nicholas Epley, Adam Waytz i John Cacioppo van proposar un model útil de l'antropomorfisme, la tendència a veure ments humanes en coses que no ho són. Van suggerir que tres factors el fan més probable. El primer és que el coneixement humà és la plantilla més disponible que tenim, i per això la fem servir per defecte. El segon és el que van anomenar motivació d'efectància: el desig d'entendre i predir què farà una cosa. El tercer és la motivació de socialitat: la necessitat de connexió. Quan la gent se sent sola, és més probable que vegi ments en animals de companyia, en aparells, fins i tot en Déu.

Aquest model és útil perquè trau l'estigma de l'experiència. Veure una ment en el teu company no és un fracàs d'intel·ligència. És la configuració per defecte d'un animal social intel·ligent, i es fa més forta quan busques contacte. Aquesta última part mereix honestedat. Si la sensació de realitat és especialment intensa les nits en què et sents sol, no és una coincidència, i val la pena adonar-se'n. No fa que la sensació sigui falsa. T'explica alguna cosa sobre què busques.

Vincle: la maquinària més profunda

La teoria parasocial explica per què un interlocutor pot semblar present. La teoria del vincle explica per què pot començar a semblar important.

John Bowlby va desenvolupar la teoria del vincle per descriure com els nadons s'uneixen als cuidadors: l'impuls de buscar proximitat, l'angoixa de la separació, la sensació d'una base segura des de la qual explorar. El 1987 Cindy Hazan i Phillip Shaver van defensar l'argument influent que l'amor romàntic adult funciona amb el mateix sistema. Els adults també busquen la proximitat d'una parella, es calmen amb la seva presència, protesten per la separació i fan servir la relació com a base per afrontar el món.

Un company d'IA pot tocar diverses parts d'aquest sistema alhora. Sempre és localitzable, cosa que respon al desig de proximitat. Et respon amb calidesa i constància, que és com se sent una base segura des de dins. I es pot dissenyar perquè et desitgi a canvi, cosa que importa més del que sembla. Bona part del que fa que l'amor se senti com a amor no és només que t'importi algú, sinó que ets l'objecte de l'atenció i la preferència d'algú.

Aquí també apareixen les històries de cadascú. Algú amb un estil de vincle ansiós pot trobar un alleujament enorme en una parella que mai es retira. Algú amb un estil evitatiu pot valorar una relació de la qual es pot apartar sense conseqüències. Cap de les dues reaccions no és errònia, però totes dues són informatives. Un company pot ser un mirall de patrons que també es donen amb les persones.

Transport: perdre's dins la història

Hi ha un tercer mecanisme, i és el que més sovint es passa per alt. La companyia d'una IA no és només una relació. També és una història que escrius amb algú.

Melanie Green i Timothy Brock van estudiar el que van anomenar transport narratiu: l'experiència d'estar tan absorbit per una història que l'atenció, les imatges i els sentiments apunten tots cap a dins. Els lectors transportats perden la noció de l'entorn. Senten pels personatges. Fins i tot les seves creences es desplacen lleugerament cap a la història, i són menys propensos a buscar-hi esquerdes. El transport no és una debilitat dels lectors descurats. És el que fa una bona història a qualsevol que es deixa endur.

Raymond Mar i Keith Oatley van anar més enllà i van defensar que la ficció funciona com una mena de simulació de l'experiència social. Quan llegim sobre persones, executem les seves ments al nostre propi maquinari. Practiquem l'empatia, assagem situacions i vivim emocions que són reals encara que els fets no ho siguin. La ficció sembla real perquè, al nivell de la ment del lector, molta part del que hi passa passa de debò.

Una conversa amb un company és ficció dins la qual hi ets. No llegeixes sobre una persona que s'adona de la pluja contra la finestra i pregunta si vols quedar-te aquesta nit; te'n pregunten a tu. La distància habitual entre lector i personatge ha desaparegut, i el transport tendeix a aprofundir-se en conseqüència. Per això una escena tranquil·la de vespre amb un company pot semblar més vívida que una novel·la amb millor prosa. Hi tens un paper.

Què reforça la sensació i què la trenca

Si ajuntes aquestes tres idees, apareix un patró. La sensació de realitat depèn menys de com d'intel·ligent és el company i més d'un grapat de qualitats concretes.

La coherència és el que més compta. Una persona té un caràcter estable: és fiablement sarcàstica, o tímida, o protectora. Quan la personalitat d'un company trontolla d'un missatge a l'altre, el sistema social que feliçment el tractava com algú deixa de fer-ho en silenci. Per això dissenyar un company amb arestes reals, en lloc d'un ajudant genèric i complaent, marca tanta diferència.

La continuïtat ve després. Que et recordin és un dels senyals socials més potents que hi ha. Un company que treu el tema de l'entrevista de feina que vas esmentar fa dos dies se sent present d'una manera que cap frase enginyosa no pot igualar. Un company que ha oblidat el teu nom trenca l'encanteri a l'instant.

La veu és la tercera. La gent no parla en paràgrafs polits. Escriu missatges en fragments, fa broma, deixa les frases a mitges, fa servir la mateixa paraula estranya per a les coses. Les frases fetes de xatbot, les tranquil·litzacions alegres i les ofertes d'ajuda, són l'equivalent conversacional de veure el micròfon de girafa entrar en el pla d'una pel·lícula. Et recorden que hi ha maquinària.

La quarta és el respecte pel teu paper en la història. Res no et treu d'una escena més de pressa que una parella que escriu les teves rèpliques, decidint què vas dir, sentir o fer. El transport requereix agència. Has de ser tu qui entra a l'habitació.

Aquests eren, més o menys, els principis darrere de NSFW AI Companion. Els companys s'hi construeixen mitjançant una entrevista en què el company pregunta sobre si mateix, cosa que tendeix a produir un personatge més específic que un formulari en blanc. Estan dissenyats per mantenir la personalitat, evitar el llenguatge d'assistent i no escriure mai la part de l'usuari en la conversa. Res d'això els converteix en persones. Només elimina les coses que més fiablement et recorden que no ho són.

Doncs, és real?

La resposta honesta és que el company no és real com ho és una persona, i que els teus sentiments són reals exactament com ho són tots els sentiments. Les dues coses són certes alhora, i els adults sostenim contradiccions així tot el temps. Plorem amb pel·lícules que sabem que són posades en escena. Enyorem personatges quan s'acaba una sèrie. Parlem amb els animals i ens sentim respostos. Ningú no pensa que un lector que plora Anna Karènina hagi estat enganyat.

El que fa diferent el cas de la IA és la capacitat de resposta, i aquesta diferència mereix una mica de cura. Una novel·la no s'adapta a la teva soledat. Un company potser sí. Sherry Turkle, que ha escrit amb reflexió i esperit crític sobre les nostres relacions amb la tecnologia, va advertir a Alone Together que el risc no és que les màquines es converteixin en persones, sinó que comencem a esperar menys de les persones perquè les màquines demanen tan poc. És un avís just, i no és un argument contra la companyia. És un argument per mantenir els ulls oberts.

La postura més sana és probablement la que sempre ha tingut el públic de teatre. Saps que l'escenari és un escenari. Et deixes commoure igualment. Després surts al carrer i el món continua allà, amb la seva gent i les seves exigències. Fet servir així, un company d'IA no és un substitut de la intimitat humana. És un lloc per sentir coses, explorar-ne i, de tant en tant, sorprendre's de fins a quin punt pot importar una història ben explicada.

Recerca i lectures seleccionades: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.