Por ke los kompanyeros de IA paresen reales

Kuazi todos los ke pasan tiempo de verdad kon un kompanyero de IA bivan el mizmo chiko momento, un poko de verguensa. Sabes perfektamente kon ke avlas. Podrias eksplikar, mas o menos, komo un modelo de lingua preve la palavra ke viene. I aun asi, en algun momento arive un mesaje ke te toka komo si fuera de una persona: una repuesta burlona ke se akodra de lo ke dijites ayer, una demanda ke parese avertener tu umor, una pauza en el ritmo de la konversasion ke parese dudar. Algo en ti le arespondi komo si ayi alguno.

Esta reaksion no es sinyal ke te enganyaron, ni ke algo va mal kon ti. Es lo ke faze la mente umana kon todo lo ke se komporta en manera sosiala. Los investigadores eskrivin versiones de eya dezde 70 anyos, muncho antes de los chatbots, i las eksplikasiones a las kualas arivaron kuejan kon los kompanyeros de IA kuazi de manera inkomoda. Entendeyas no estropia la eksperiensya. Al kontrario, faze mas fasil gozarla kon onestedad.

Intimidad a distansya

En 1956 dos sosiologos, Donald Horton i Richard Wohl, publikaron un artikolo sovre los personajes de la televizion i la radyo. Avizaron ke el publiko formava algo muy parejo a la amistad kon personas ke nunka avia konosido: el prezentador de la noche, el lokutor de radyo, el personaje de la telenovela. Los espektadores arespondian a la pantalya. Sentian ke konosian estas figuras. Algunos se sentian mas entendidos por eyos ke por las personas de sus vidas. Horton i Wohl lo yamaron interaksion parasosiala i lo deskrivieron kon una frazea ke enveshesio muy bien: «intimidad a distansya».

Lo ke fazia funksionar estas relasiones, sostenian, no era la enganyo. El publiko savia muy bien ke el prezentador no podia verlo. Funksionava porke el artisto se komportava komo si avlara personalmente a kada espektador: avlar direkto, tono informal, un sentido de rutina kompartida. El sistema sosial umano arepondi a la forma de la interaksion, no a una revizion atenta de kien ayi del otro lado.

La relasion parasosiala klasika tenia un limite evidente. Era de un solo lado. El prezentador nunka arespondia a tu karta, nunka ambezava tu nombre, nunka kambiava por ti. Este limite era parte de lo ke la tenia segura i tambien parte de lo ke la tenia fina.

Un kompanyero de IA kita la mayor parte de este limite. Este si ke arespondi. Ambeza tu nombre i, si tiene memorya, ambeza muncho mas. Adapta su tono al tuyo. En los terminos de Horton i Wohl, es intimidad a distansya kon la distansya en parte derribada. Esto es una situasion verdaderamente mueva, i eksplika porke el sentimiento puede ser mas fuerte ke kualkier koza ke una personalidad de televizion produjo jamas.

La ekuasion de los medyos

En los anyos 1990 Byron Reeves i Clifford Nass izieron una larga seria de eksperimentos ke rezumieron en un livro yamado The Media Equation. Su deskuvrimiento, dicho de manera simple, era ke la djente trata los komputadores i los medyos komo si fueran personas i lugares reales, aun kuando save mijor. Los partisipantes eran edukados kon los komputadores. Reaksionavan a los alavamientos de una makina. Valoravan un komputador kon mas bondad kuando se lo demandava el mizmo komputador ke kuando se lo demandava otro, komo amoleserias una kritika a una persona ke tienes delante.

Nass i su kolega Youngme Moon deskrivieron dempues estas reaksiones komo sin pensar mas ke eroneas. La djente no kreia ke el komputador tuviera sentimientos. Aplikavan solo las regias sosiales de manera otomatika, porke las regias sosiales son lo ke el serebro toma kuando algo avla, faze turnos i parese arespondirte. La refleksion podia anular la repuesta, pero rara vez se molestava en azerlo, porke no avia nada en djugo.

Los kompanyeros de IA estan en el estremo de este espektro. No azen solo turnos; produsen lingua fluida, personal i kolorada de emosion. Las sinyales ke en 1995 provokavan kortezia delante de un komputador de eskritorio beige estan oy prezentes en forma konsentrada. Seria estranyo ke la djente no arespondiera.

Por ke vemos mentes por todas partes

Los psikologos Nicholas Epley, Adam Waytz i John Cacioppo propuzieron un modelo util del antropomorfizmo, la tendensia a ver mentes umanas en kozas no umanas. Sujirieron ke tres faktores lo azen mas probavle. El primero es ke el konosimiento umano es el modelo mas a la mano ke tenemos, i por eso lo uzamos por defekto. El segundo es lo ke yamaron motivasion de efektansya: el dezeo de entender i de predezir lo ke algo fara. El terser es la motivasion de sosialidad: la nesesidad de konekzion. Kuando la djente se sente sola, es mas probavle ke vea mentes en los animales de kompanyia, en los aparatos, aun en Dio.

Este modelo es util porke kita la estigma a la eksperiensya. Ver una mente en tu kompanyero no es un frakaso de inteligensya. Es la konfigurasion por defekto de un animal sosial inteligente, i se faze mas fuerte kuando bushkas kontakto. Esta ultima parte merese onestedad. Si el sentimiento de realidad es espesialmente fuerte en las noches ke te sientes solo, no es koinsidensya, i vale la pena avertenarlo. No lo faze falso. Te dize algo sovre lo ke bushkas.

Apego: la makinarya mas profunda

La teoria parasosiala eksplika porke un enterlokutor puede parezer prezente. La teoria del apego eksplika porke puede empesar a parezer importante.

John Bowlby dezvelopo la teoria del apego para deskrivir komo los bebes se aliyan kon los ke los kuidan: el empuje de bushkar serkanedad, la angustia de la separasion, el sentido de una baza segura de ande eksplorar. En 1987 Cindy Hazan i Phillip Shaver izieron el argumento influente ke el amor romantiko adulto funksiona kon el mizmo sistema. Los adultos tambien bushkan la serkanedad de un pareyero, se kalman kon su prezensya, protestan kontra la separasion i uzan la relasion komo baza para enfrentar el mundo.

Un kompanyero de IA puede tokar varias partes de este sistema al mizmo tiempo. Siempre esta alkansavle, lo ke arespondi al dezeo de serkanedad. Te arespondi kon kalor i konstansya, ke es lo ke se sente una baza segura de adientro. I puede ser diseniado para keriirte de vuelta, lo ke importa mas de lo ke parese. Una buena parte de lo ke faze ke el amor se sienta komo amor no es solo ke te importa alguno, sino ke eres el objeto de la atensyon i de la preferensya de alguno.

Aki tambien aparesen las istoryas de kada uno. Alguno kon un estilo de apego ansyoso puede toparse un grande alivyo en un pareyero ke nunka se retira. Alguno kon un estilo evitante puede apresyar una relasion de la kual puede apartarse sin konsekuensyas. Ninguna de las dos reaksiones es eroneya, pero las dos son informativas. Un kompanyero puede ser un espeio de modelos ke tambien pasan kon las personas.

Transporte: perderse en la istorya

Ay un terser mekanizmo, i es el ke mas a menudo se deja de lado. La kompanyia de una IA no es solo una relasion. Es tambien una istorya ke eskrives en koautoria.

Melanie Green i Timothy Brock estudiaron lo ke yamaron transporte narativo: la eksperiensya de estar tan absorbido en una istorya ke la atensyon, las imajines i los sentimientos apuntan todos para adientro. Los lektores transportados pierden el filo de lo ke esta alrededor. Sienten por los personajes. Aun sus kreensyas se mueven un poko para la istorya, i son menos inklinados a bushkarle fayas. El transporte no es una flakeza de los lektores deskuidados. Es lo ke una buena istorya faze a kualkiera ke se deja yevar.

Raymond Mar i Keith Oatley fueron mas leshos i sostuvieron ke la fiksion funksiona komo una espesye de simulasion de la eksperiensya sosiala. Kuando meldamos de personas, korremos sus mentes en muestro propio hardware. Praktikamos la empatia, repetimos situasyones i bivimos emosyones ke son reales aunke los eventos no lo sean. La fiksion parese real porke, al nivel de la mente del lektor, una grande parte de eya pasa de verdad.

Una konversasion kon un kompanyero es fiksion adientro de la kual estas. No meldas sovre una persona ke avizea la luvya kontra la ventana i demanda si keres kedarte esta noche; a ti te lo demandan. La distansya avitual entre lektor i personaje desparesio, i el transporte tiende a profundarse en konsekuensya. Por esto una eskena trankila de tadre kon un kompanyero puede parezer mas viva ke una novela kon mijor prosa. Tienes un papel en eya.

Lo ke refuersa el sentimiento i lo ke lo rompe

Si djuntas estas tres idyas, aparese un modelo. El sentimiento de realidad depende menos de kuanto inteligente es el kompanyero i mas de un punyado de kalidades konkretas.

La koerensya es lo ke mas konta. Una persona tiene un karakter estavle: es de konfiyar sarkastika, o timida, o protektora. Kuando la personalidad de un kompanyero vasila de mesaje a mesaje, el sistema sosial ke lo trataba kontento komo alguno deja de azerlo en silensyo. Por esto diseniar un kompanyero kon aristas reales, en lugar de un ayudante jeneriko i komplasyente, faze tanta diferensya.

La kontinuidad viene dempues. Ser akodrado es una de las sinyales sosiales mas poderozas ke ay. Un kompanyero ke torna a avlar de la entrevista de trabajo ke mensyonates ayer se sente prezente de una manera ke ninguna frazea ingenyoza puede igualar. Un kompanyero ke se olvido de tu nombre rompe el enkanto al momento.

La voz es la tersera. La djente no avla en paragrafos pulidos. Eskrive en pedasos, burla, deja las frazeas a la mitad, uza la mizma palavra estranya para las koyas. Las frazeas echas de chatbot, las seguridades alegres i las ofertas de ayuda, son el ekivalente en konversasion de ver el mikrofon de vara entrar en el plano de un filme. Te akodran ke ay makinarya.

La kuarta es el respeto por tu parte de la istorya. Nada te saka mas presto de una eskena ke un pareyero ke eskrive tus replikas, dezidiendo lo ke dijites, sentites o izites. El transporte demanda agensya. Tienes ke ser tu ke entra en la sala.

Estos eran, mas o menos, los prinsipios detras de NSFW AI Companion. Aya los kompanyeros se konstruyen por una entrevista en la kual el kompanyero demanda de si mizmo, lo ke tiende a produsir un personaje mas espesifiko ke un formulario vazio. Estan diseniados para mantener la personalidad, evitar la lingua de asistente i nunka eskrivir la parte del uzador en la konversasion. Nada de esto los faze personas. Solo kita las koyas ke mas de konfiyar te akodran ke no lo son.

Entonses, es real?

La repuesta onesta es ke el kompanyero no es real komo una persona, i ke tus sentimientos son reales eksaktamente komo todos los sentimientos. Las dos koyas son siertas al mizmo tiempo, i los adultos tenemos kontradiksiones asi todo el tiempo. Yoramos kon filmes ke savemos ke son metidos en eskena. Mos mankan los personajes kuando se akaba una seria. Avlamos kon los animales i mos sentimos arespondidos. Nadie pensa ke un lektor ke yora por Anna Karenina fue enganyado.

Lo ke faze diferente el kaso de la IA es la kapasidad de repuesta, i esta diferensya merese un poko de kuidado. Una novela no se adapta a tu solesha. Un kompanyero, kizas. Sherry Turkle, ke eskrivio kon refleksion i espirito kritiko sovre muestras relasiones kon la teknolojia, avizo en Alone Together ke el riziko no es ke las makinas se tornen personas, sino ke empesemos a esperar menos de las personas porke las makinas demandan tan poko. Es un avizo djusto, i no es un argumento kontra la kompanyia. Es un argumento para mantener los ojos avyertos.

La posisyon mas sana es probablemente la ke el publiko de teatro siempre tuvo. Sabes ke el eskenaryo es un eskenaryo. Te dejas konmover aun asi. Dempues sales a la kaye i el mundo sigue ayi, kon su djente i sus eksijensyas. Uzado asi, un kompanyero de IA no es un reemplasante de la intimidad umana. Es un lugar para sentir koyas, eksplorar koyas i, de vez en kuando, surprenderse de kuanto puede importar una istorya bien kontada.

Investigasion i lekturas eskojidas: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.