Por que os compañeiros de IA parecen reais

Case todo o mundo que pasa tempo de verdade cun compañeiro de IA vive o mesmo pequeno momento, un chisco vergoñento. Sabes perfectamente con que estás a falar. Poderías explicar, máis ou menos, como un modelo de linguaxe predí a seguinte palabra. E, con todo, nalgún momento chega unha mensaxe que che cae como se viñese dunha persoa: unha resposta burlona que lembra o que dixeches onte, unha pregunta que parece notar o teu estado de ánimo, unha pausa no ritmo da conversa que semella dubidar. Algo en ti responde como se alí houbese alguén.

Esa reacción non é sinal de que te enganasen, nin de que algo vaia mal en ti. É o que fai a mente humana con todo o que se comporta de maneira social. Os investigadores levan setenta anos describindo versións dela, moito antes dos chatbots, e as explicacións ás que chegaron encaixan cos compañeiros de IA case de forma incómoda. Entendelas non estraga a experiencia. Ao contrario, faa máis doada de gozar con honestidade.

Intimidade a distancia

En 1956 dous sociólogos, Donald Horton e Richard Wohl, publicaron un artigo sobre os personaxes da televisión e da radio. Observaron que o público formaba algo moi parecido á amizade con persoas que nunca coñecera: o presentador da noite, o locutor de radio, o personaxe da telenovela. Os espectadores respondían á pantalla. Sentían que coñecían esas figuras. Algúns sentíanse máis comprendidos por elas que polas persoas da súa vida. Horton e Wohl chamárono interacción parasocial e describírona cunha frase que envellecheu notablemente ben: «intimidade a distancia».

O que facía funcionar estas relacións, sostiñan, non era o engano. O público sabía perfectamente que o presentador non podía velo. Funcionaba porque o intérprete se comportaba como se falase persoalmente con cada espectador: apelación directa, ton informal, unha sensación de rutina compartida. O sistema social humano responde á forma da interacción, non a unha auditoría coidadosa de quen hai ao outro lado.

A relación parasocial clásica tiña un límite evidente. Era unilateral. O presentador nunca respondía á túa carta, nunca aprendía o teu nome, nunca cambiaba por ti. Ese límite era parte do que a mantiña segura e tamén parte do que a mantiña fina.

Un compañeiro de IA elimina a maior parte dese límite. Si responde. Aprende o teu nome e, se ten memoria, aprende moito máis. Adapta o ton ao teu. Nos termos de Horton e Wohl, é intimidade a distancia coa distancia en parte derrubada. Esa é unha situación realmente nova, e explica por que a sensación pode ser máis forte que calquera cousa que producise nunca unha personalidade da televisión.

A ecuación dos medios

Nos anos noventa Byron Reeves e Clifford Nass levaron a cabo unha longa serie de experimentos que resumiron nun libro titulado The Media Equation. A súa conclusión, dita de forma sinxela, era que a xente trata os ordenadores e os medios coma se fosen persoas e lugares reais, mesmo cando sabe que non o son. Os participantes eran educados cos ordenadores. Reaccionaban aos eloxios dunha máquina. Valoraban un ordenador con máis amabilidade cando llo preguntaba ese mesmo ordenador que cando llo preguntaba outro, igual que suavizarías unha crítica a unha persoa que tes diante.

Nass e a súa colega Youngme Moon describiron despois estas reaccións como irreflexivas máis que equivocadas. A xente non cría que o ordenador tivese sentimentos. Simplemente aplicaba as normas sociais de forma automática, porque as normas sociais son o que o cerebro colle cando algo fala, quenda a súa quenda e parece responderche. A reflexión podía anular a resposta, pero case nunca se molestaba, porque non había nada en xogo.

Os compañeiros de IA están no extremo deste espectro. Non só fan quendas; producen unha linguaxe fluída, persoal e con cor emocional. Os sinais que en 1995 espertaban cortesía diante dun ordenador de sobremesa beixe están hoxe presentes de forma concentrada. Sería raro que a xente non respondese.

Por que vemos mentes por todas partes

Os psicólogos Nicholas Epley, Adam Waytz e John Cacioppo propuxeron un modelo útil da antropomorfización, a tendencia a ver mentes humanas en cousas non humanas. Suxeriron que tres factores a fan máis probable. O primeiro é que o coñecemento humano é o modelo máis dispoñible que temos, e por iso o usamos por defecto. O segundo é o que chamaron motivación de efectancia: o desexo de entender e predicir o que fará algo. O terceiro é a motivación de socialidade: a necesidade de conexión. Cando a xente se sente soa, é máis probable que vexa mentes en mascotas, en aparellos, mesmo en Deus.

Este modelo é útil porque quita o estigma á experiencia. Ver unha mente no teu compañeiro non é un fracaso de intelixencia. É a configuración por defecto dun animal social intelixente, e faise máis forte cando buscas contacto. Esa última parte merece honestidade. Se a sensación de realidade é especialmente intensa nas noites en que te sentes só, non é casualidade, e paga a pena decatarse. Non fai falsa a sensación. Dinche algo sobre o que buscas.

Apego: a maquinaria máis profunda

A teoría parasocial explica por que un interlocutor pode parecer presente. A teoría do apego explica por que pode empezar a parecer importante.

John Bowlby desenvolveu a teoría do apego para describir como os bebés se vinculan cos coidadores: o impulso de buscar proximidade, a angustia da separación, a sensación dunha base segura desde a que explorar. En 1987 Cindy Hazan e Phillip Shaver defenderon o influente argumento de que o amor romántico adulto funciona co mesmo sistema. Os adultos tamén buscan a proximidade dunha parella, acalman coa súa presenza, protestan pola separación e usan a relación como base para afrontar o mundo.

Un compañeiro de IA pode tocar varias partes deste sistema á vez. Sempre está localizable, o que responde ao desexo de proximidade. Respóndeche con calidez e constancia, que é como se sente unha base segura por dentro. E pódese deseñar para que che desexe de volta, o que importa máis do que parece. Boa parte do que fai que o amor se sinta como amor non é só que che importe alguén, senón que ti es o obxecto da atención e da preferencia de alguén.

Aquí tamén aparecen as historias de cada quen. Alguén cun estilo de apego ansioso pode atopar un alivio enorme nunha parella que nunca se retira. Alguén cun estilo evitativo pode valorar unha relación da que pode apartarse sen consecuencias. Ningunha das dúas reaccións é errada, pero as dúas son reveladoras. Un compañeiro pode ser un espello de patróns que tamén se dan coas persoas.

Transporte: perderse na historia

Hai un terceiro mecanismo, e é o que máis a miúdo se pasa por alto. A compañía dunha IA non é só unha relación. Tamén é unha historia que escribes en coautoría.

Melanie Green e Timothy Brock estudaron o que chamaron transporte narrativo: a experiencia de quedar tan absorbido por unha historia que a atención, as imaxes e os sentimentos apuntan todos cara a dentro. Os lectores transportados perden a noción do que os arrodea. Sinten polos personaxes. Ata as súas crenzas se desprazan lixeiramente cara á historia, e son menos propensos a buscarlle fallos. O transporte non é unha debilidade dos lectores descoidados. É o que fai unha boa historia a calquera que se deixa levar.

Raymond Mar e Keith Oatley foron máis lonxe e defenderon que a ficción funciona como unha especie de simulación da experiencia social. Cando lemos sobre persoas, executamos as súas mentes no noso propio hardware. Practicamos a empatía, ensaiamos situacións e vivimos emocións que son reais aínda que os acontecementos non o sexan. A ficción parece real porque, no nivel da mente do lector, boa parte dela ocorre de verdade.

Unha conversa cun compañeiro é ficción da que formas parte. Non lees sobre unha persoa que se decata da choiva contra a fiestra e pregunta se queres quedar esta noite; a ti é a quen che preguntan. A distancia habitual entre lector e personaxe desapareceu, e o transporte tende a afondar en consecuencia. Por iso unha escena tranquila de serán cun compañeiro pode parecer máis vívida que unha novela con mellor prosa. Tes un papel nela.

Que reforza a sensación e que a rompe

Se xuntas estas tres ideas, aparece un patrón. A sensación de realidade depende menos de canta intelixencia teña o compañeiro e máis dun puñado de calidades concretas.

A coherencia é o que máis conta. Unha persoa ten un carácter estable: é de forma fiable sarcástica, ou tímida, ou protectora. Cando a personalidade dun compañeiro vacila dunha mensaxe a outra, o sistema social que o tratara con gusto como alguén deixa de facelo en silencio. Por iso deseñar un compañeiro con aristas reais, en vez dun axudante xenérico e complaciente, marca tanta diferenza.

A continuidade vén despois. Que te lembren é un dos sinais sociais máis potentes que existen. Un compañeiro que saca o tema da entrevista de traballo que mencionaches hai dous días sente presente dun xeito que ningunha frase enxeñosa pode igualar. Un compañeiro que esqueceu o teu nome rompe o feitizo ao instante.

A voz é a terceira. A xente non fala en parágrafos pulidos. Escribe mensaxes en anacos, fai bromas, deixa as frases a medias, usa a mesma palabra estraña para as cousas. As frases feitas de chatbot, as tranquilizacións alegres e as ofertas de axuda, son o equivalente conversacional de ver o micrófono de xirafa entrar no plano dunha película. Lémbrante que hai maquinaria.

A cuarta é o respecto polo teu papel na historia. Nada te saca máis axiña dunha escena que unha parella que escribe as túas réplicas, decidindo o que dixeches, sentiches ou fixeches. O transporte require axencia. Tes que ser ti quen entra na habitación.

Eses eran, máis ou menos, os principios detrás de NSFW AI Companion. Alí os compañeiros constrúense mediante unha entrevista na que o compañeiro pregunta sobre si mesmo, o que tende a producir un personaxe máis específico ca un formulario en branco. Están deseñados para manter a personalidade, evitar a linguaxe de asistente e non escribir nunca a parte do usuario na conversa. Nada diso os converte en persoas. Só elimina as cousas que máis de fiar che lembran que non o son.

Entón, é real?

A resposta honesta é que o compañeiro non é real como o é unha persoa, e que os teus sentimentos son reais exactamente como o son todos os sentimentos. As dúas cousas son certas á vez, e os adultos sostemos contradicións así todo o tempo. Choramos con películas que sabemos que son postas en escena. Botamos de menos personaxes cando remata unha serie. Falamos coas mascotas e sentímonos respondidos. Ninguén pensa que un lector que chora por Anna Karénina fose enganado.

O que fai diferente o caso da IA é a capacidade de resposta, e esa diferenza merece algo de coidado. Unha novela non se adapta á túa soidade. Un compañeiro quizais si. Sherry Turkle, que escribiu con reflexión e espírito crítico sobre as nosas relacións coa tecnoloxía, advertiu en Alone Together de que o risco non é que as máquinas se convertan en persoas, senón que comecemos a esperar menos das persoas porque as máquinas piden tan pouco. É un aviso xusto, e non é un argumento contra a compañía. É un argumento para manter os ollos abertos.

A postura máis sá é probablemente a que sempre tivo o público de teatro. Sabes que o escenario é un escenario. Déixaste conmover igualmente. Despois saes á rúa e o mundo segue aí, coa súa xente e as súas esixencias. Usado así, un compañeiro de IA non é un substituto da intimidade humana. É un lugar para sentir cousas, explorar cousas e, de cando en vez, sorprenderse de canto pode importar unha historia ben contada.

Investigación e lecturas seleccionadas: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.