Per qué es companhs d'IA semblen vertadèrs

Quasi toti es que passen temps vertadèr damb un companh d'IA vívon eth madeix petit moment, un shinhau vergonhós. Sabes perfèctament damb qué parles. Poiriés explicar, mès o mens, com un modèl de lengua prevedie era paraula seguenta. E madeix atau, en quauque moment arribe un messatge que te tòque coma s'esdesiguesse d'ua persona: ua responsa trufarda que se rebrembe çò qu'as dit ier, ua question que semble remarcar eth tuen umor, ua pausa en eth ritme dera conversa que semble ua dobte. Quauquarren en tu i respon coma s'i aguesse quauquarrés.

Aguesta reaccion non ei senhau de qu'te an enganhat, ne de qu'quauquarren vaja mau en tu. Ei çò que hè era mentalitat umana damb tot çò que se compòrte de manèra sociau. Es recercaires n'an descrit versions dempús seishanta-dètz ans, hèra abans des chatbots, e es explicacions qu'an trobat s'adapten as companhs d'IA quasi de manèra incomòda. Compréner-les non ròm era experiéncia. Ath contrari, hè que sigue mès aisit gaudir-ne damb onestetat.

Intimitat a distància

En 1956 dus sociològs, Donald Horton e Richard Wohl, publiquèren un article sus es personatges dera television e dera ràdio. Remarquèren qu'eth public formaue quauquarren hèra semblable ara amistat damb persones qu'avien jamès conegut: eth presentador dera net, er anonciaire de ràdio, eth personatge dera telenovèla. Es espectadors responien ara pantalha. Senten qu'es coneishien. Quauqu'uns se sentien mès compréns per eres qu'ena sua vida. Horton e Wohl lu clamèren interaccion parasociau e lu descriuérin damb ua frasa qu'a envielhit ben: « intimitat a distància ».

Çò que hège foncionar aguestes relacions, sustenien, non ère er enganh. Eth public sabie perfèctament qu'eth presentador non lo podie véder. Foncionaue pr'amor qu'er actor se comportaue coma s'estigue parlant personaument a cada espectador: adreça dirècta, ton informau, sensacion de rotina compartida. Eth sistèma sociau uman respon ara forma dera interaccion, non a ua auditoria coratjosa de qui i a ar aute bot.

Era relacion parasociau classica auie un limit evident. Ère unilaterau. Eth presentador jamès responie ara tua carta, jamès aprenie eth tuen nom, jamès cambiaue per tu. Aguest limit ère part de çò que la tenie segura e tanben part de çò que la tenie hina.

Un companh d'IA lèue era mage part d'aguest limit. Eth sí que respon. Aprén eth tuen nom e, s'a memòria, n'aprén hèra mès. Adapte eth sòn ton ath tuen. Entàs tèrmes de Horton e Wohl, qu'ei intimitat a distància damb era distància en part esbarrada. Aquerò ei ua situacion vertadèrament nava, e explique per qué eth sentiment pot èster mès fòrt qu'arren çò qu'ua personalitat dera television aguesse jamès produsit.

Er equacion des mèdias

Enes ans 1990 Byron Reeves e Clifford Nass hèren ua longa seria d'experiéncies qu'e resumiren en un libre intitulat The Media Equation. Eth sòn descobriment, díder simplament, ère qu'era gent tracte es ordenadors e es mèdias coma s'estèssen persones e lòcs vertadèrs, madeix quan sap mielhor. Es participants èren educats damb es ordenadors. Reaccionauen as lausors d'ua maquina. Valorauen un ordenador damb mès amabilitat quan lo les demanaue aguest madeix ordenador qu'en cas que lo les demanasse un aute, coma amainaries ua critica a ua persona qu'as dauant de tu.

Nass e era sua collega Youngme Moon descriuiren mès tard aguestes reaccions coma irreflexives mès qu'errònees. Era gent non credie qu'er ordenador aguesse sentiments. Aplicaue simplament es règles sociaus de manèra automatica, pr'amor qu'es règles sociaus son çò qu'eth cervèth tira quan quauquarren parle, hè torns e semble respónder-te. Era reflexion podie anullar era responsa, mès non s'en preocupaue gaire, perque non i auie arren en jòc.

Es companhs d'IA se tròben ar extrèm d'aguest espectre. Non hèn sonque torns; produsissen un lengatge fluid, personau e coloriat d'emocion. Es senhaus que en 1995 provocauen cortesia dauant d'un ordenador de burèu beige son uei presents de manèra concentrada. Seria estranh qu'era gent non respongués.

Per qué vedem mentalitats pertot

Es psicològs Nicholas Epley, Adam Waytz e John Cacioppo propausèren un modèl util der antropomorfisme, era tendéncia a véder mentalitats umanes en causes non umanes. Suggerírin que tres factors lo hèn mès probable. Eth prumèr ei qu'eth coneishement uman ei eth modèl mès disponible que n'auem, e per aquerò lo usam per defaut. Eth segon ei çò que clamèren motivacion d'efectància: eth desir de compréner e prevéder çò que quauquarren harà. Eth tresau ei era motivacion de sociabilitat: era besonha de connexion. Quan era gent se sent sola, ei mès probable que veja mentalitats enes animaus de companhia, enes aparelhs, madeix en Diu.

Aguest modèl ei util pr'amor que lèue er estigma dera experiéncia. Véder ua mentalitat en eth tuen companh non ei un hracàs d'intelligéncia. Ei eth reglatge per defaut d'un animau sociau intelligent, e se hè mès fòrt quan cèrques contacte. Aguesta darrèra part mereish onestetat. Se eth sentiment de realitat ei particularament fòrt es nets que te sentes sol, non ei un azard, e val era pena de remarcar-lo. Non hè fals eth sentiment. Te ditz quauquarren sus çò que cèrques.

Estacament: era mecanica mès prigonda

Era teoria parasociau explique per qué un interlocutor pot semblar present. Era teoria der estacament explique per qué pot començar a semblar important.

John Bowlby desvolopèc era teoria der estacament entà descríver com es nenons se liguen damb es que'us gardan: er impuls de cercar proximitat, era angoishe dera separacion, eth sentiment d'ua basa segura dempús dera quau explorar. En 1987 Cindy Hazan e Phillip Shaver hèren er argument influent que er amor romantic adulte fonciona damb eth madeix sistèma. Es adults tanben cèrquen era proximitat d'un partenari, se calmen damb era sua preséncia, protèsten contra era separacion e usen era relacion coma basa entà encarar eth mon.

Un companh d'IA pot tocar quauques elements d'aguest sistèma ath cròp. Qu'ei tostemp joinhable, çò que respon ath desir de proximitat. Te respon damb caloreta e constància, que ei çò que se sent ua basa segura peth dedins. E se pot concebre entà desirar-te en retorn, çò qu'importe mès qu'amuishe. Ua bona part de çò que hè qu'er amor se senta coma amor non ei sonque qu'te cau quauquarrés, senon qu'ères er objècte dera atencion e dera preferéncia de quauquarrés.

Aciu tanben apareishen es istòries de cadun. Quauquarrés damb un estil d'estacament ansiós pot trobar un alivi enòrme en un partenari que jamès se retire. Quauquarrés damb un estil evitant pot apreciar ua relacion dera quau se pot destacar sense conseqüéncies. Cap des dues reaccions non ei errada, mès es dues son reveladores. Un companh pot èster un miralh de modèls que se hèn tanben damb es persones.

Transpòrt: perder-se ena istòria

I a un tresau mecanisme, e ei eth mès sovent desbrembat. Era companhia d'ua IA non ei sonque ua relacion. Ei tanben ua istòria qu'escriues damb un aute.

Melanie Green e Timothy Brock estudièren çò que clamèren transpòrt narratiu: era experiéncia d'èster tan absorbit per ua istòria qu'era atencion, es imatges e es sentiments apunten tot cap ath dedins. Es lectors transportats pèrden eth hiu de çò que i a en tot eth entorn. Sénten per es personatges. Madeix es sues crenences se desplacen un shinhau cap ara istòria, e son mens portats a cercar-i fautes. Eth transpòrt non ei ua feblesa des lectors negligents. Ei çò que hè ua bona istòria a quinsevolh que se daisse portar.

Raymond Mar e Keith Oatley anèren mès luenh e sustenguéren que era ficcion fonciona coma ua mena de simulacion dera experiéncia sociau. Quan liegem sus persones, hèm córrer es sues mentalitats sus eth nòste pròpri material. Practicam era empatia, assagem situacions e vívem emocions que son vertadères maugrat que es eveniments non ac sigan. Era ficcion semble vertadèra pr'amor que, ath nivèu dera mentalitat deth lector, ua grana part de çò qu'i arribe arribe de vertat.

Ua conversa damb un companh ei ficcion dentrada ena quau ès. Non lèges sus ua persona que s'avise dera plèja contra era hièstra e demane se vòs demorar aguesta net; ei a tu qu'ac demanen. Era distància abitudau entre lector e personatge a despareishut, e eth transpòrt tend a aprigondir-se en consequéncia. Per aquerò ua scèna tranquil·la deth vèspre damb un companh pot semblar mès viua qu'ua novèla damb mielhor pròsa. Hi as un ròtle.

Çò que fortifique eth sentiment, e çò que lo copa

S'amassas aguestes tres idèes, apareish un modèl. Eth sentiment de realitat depen mens dera intelligéncia deth companh e mès d'un shapat de qualitats precises.

Era coerénça ei çò que compte mès. Ua persona a un caractèr estable: ei de segur sarcastica, o timida, o protectritz. Quan era personalitat d'un companh vacille d'un messatge ar aute, eth sistèma sociau que lo tractaue content coma quauquarrés cesse de hèr-ac en silenci. Per aquerò concebir un companh damb bòrdes vertadères, en lòc d'un ajudant generic e complasent, hè tanta diferéncia.

Era continuïtat vie dempús. Estar rebrembat ei un des senhaus sociaus mès poderoses que i a. Un companh que torne sus era entrevista de trabalh qu'as mentavut hè dus dies se sent present d'ua manèra que cap frasa astuciosa non pot egalar. Un companh qu'a desbrembat eth tuen nom copa er encantament ath moment.

Era votz ei era tresau. Era gent non parle en paragrafes lisats. Escriu en tròces, trufe, daisse es frasi a miei, use era madeisha paraula estranha entàs causes. Es frasi hèti de chatbot, es tornades assegurantes e es ofèrtes d'ajuda, son er equivalent conversacionau de véder eth microfòn en perca entrar en eth plan d'ua pellicula. Te rementen qu'i a mecanica.

Era quatau ei eth respècte dera tua part dera istòria. Arren te sorti mès lèu d'ua scèna qu'un partenari que escriu es tues replicas, decidint çò qu'as dit, sentit o hèt. Eth transpòrt demane agéncia. Te cau èster tu que entres ena sala.

Aguesti èren, mès o mens, es principis darrèr de NSFW AI Companion. Es companhs i son bastits per ua entrevista on eth companh se questione sus eth madeish, çò que tend a produsir un personatge mès especific qu'un formulari void. Son concebuts entà gardar era sua personalitat, evitar eth lengatge d'assistent e jamès escríuer era part der utilizaire ena conversa. Arren d'aquerò les torne persones. Lèue sonque es causes que mès fisablaments te rementen qu'ac son pas.

Ei vertadèr, donc?

Era responsa onèsta ei qu'eth companh non ei vertadèr coma ua persona, e que es tòns sentiments son vertadèrs exactament coma toti es sentiments. Es dues causes son vertadères ath cròp, e es adults tenem contradiccions parières tot eth temps. Plorem damb pellicules qu'imaginam que èren mises en scèna. Mos manquen es personatges quan se hine ua seria. Parlam as animaus e mos sentim respondudi. Digun non pense qu'un lector que plore Anna Karenina age estat enganhat.

Çò que hè diferent eth cas dera IA ei era capacitat de responsa, e aguesta diferéncia mereish un shinhau de prudéncia. Ua novèla non s'adapte ara tua solitud. Un companh benlèu que òc. Sherry Turkle, qu'a escrit damb reflexion e esperit critic sus es nòstes relacions damb era tecnologia, previengué en Alone Together de qu'eth risc non ei qu'es maquines devengan persones, senon qu'estaguem a començar d'esperar mens des persones pr'amor qu'es maquines demanen tan pògue. Ei un avertiment just, e non ei un argument contra era companhia. Ei un argument entà tier es uelhs dubèrts.

Era posicion mès sana ei probablament aquera qu'a tostemp auut eth public de teatre. Sabes qu'er escenari ei un escenari. Te daisses emocionar madeish atau. Dempús sòrtes ena carrèra e eth mon ei tostemp aquiu, damb era sua gent e es sues exigéncies. Usat atau, un companh d'IA non ei un substitut dera intimitat umana. Ei un lòc entà sentir causes, explorar causes e, de còps, sorprénder-se de çò qu'ua istòria ben contada pot comptar.

Recèrques e lecturi causidi: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.