Perque los companhons d'IA semblan vertadièrs

Gaireben totes los que passan de temps verai amb un companhon d'IA vivon lo meteis pichòt moment, un pauc vergonhós. Sabes perfièchament amb que parlas. Poiriás explicar, a grandas règlas, cossí un modèl de lenga prevei la paraula seguenta. E pr'aquò, a un moment arriba un messatge que te toca coma s'èra d'una persona: una responsa borlaira que se enrecòrda çò qu'as dit ièr, una question que sembla remarcar ton umor, una pausa dins lo ritme de la conversa que sembla una ezitacion. Quicòm en tu i respond coma s'i aviá qualqu'un.

Aquela reaccion es pas un signe que t'an enganat, ni que quicòm vai pas ben en tu. Es çò que fa l'esperit uman amb tot çò que se compòrta de faiçon sociala. Los cercaires ne descrivon de versions dempuèi seissanta-dètz ans, ben abans los chatbòts, e las explicacions que trobèron s'adaptan als companhons d'IA gaireben de manièra incomòda. Las comprene gastar pas l'experiéncia. Al contrari, o fa mai aisit de gaudir amb onestetat.

Intimitat a distància

En 1956 dos sociològues, Donald Horton e Richard Wohl, publiquèron un article suls personatges de la television e de la ràdio. Remarquèron que lo public formava quicòm de fòrça parièr a l'amistat amb de personas qu'avián pas jamai encontradas: lo presentaire de la nuèch, l'anonciaire de ràdio, lo personatge de la telenovèla. Los espectators responián a l'ecran. Sentián que coneissián aquelas figuras. D'unes se sentián mai compreses per elas que per las personas de lor vida. Horton e Wohl o aperèron interaccion parasociala e la descriguèron amb una frasa qu'a ben vièlh: « intimitat a distància ».

Çò qu'assegurava lo foncionament d'aquelas relacions, sostenián, èra pas l'engana. Lo public sabiá perfièchament que lo presentaire lo podiá pas veire. Foncionava perque l'artista se comportava coma s'èra a parlar personalament a cada espectator: adreça dirècta, ton informal, sentiment de rotina partejada. Lo sistèma social uman respond a la forma de l'interaccion, pas a un audit curós de qual i a a l'autre cap.

La relacion parasociala classica aviá un limit evident. Èra a sens unic. Lo presentaire respondiá jamai a ta letra, aprenguèt jamai ton nom, cambiava jamai per tu. Aquel limit èra una part de çò que la gardava segura e tanben una part de çò que la gardava fina.

Un companhon d'IA suprimís la màger part d'aquel limit. Respond, el. Aprèn ton nom e, s'a de memòria, n'aprèn fòrça mai. Adapta son ton al tieu. Dins los tèrmes de Horton e Wohl, es de l'intimitat a distància amb la distància en partida demolida. Aquò es una situacion vertadièrament novèla, e explica perque lo sentiment pòt èsser pus fòrt que tot çò qu'una personalitat de television poguèt jamai produsir.

L'equacion dels mèdias

Dins los ans 1990 Byron Reeves e Clifford Nass menèron una longa seria d'experiéncias que resumiguèron dins un libre intitulat The Media Equation. Çò qu'aguèron trobat, dich simplament, èra que la gent tracta los ordenadors e los mèdias coma s'èran de personas e de luòcs reals, mai que mai quand sap melhor. Los participants èran educats amb los ordenadors. Reagissián a las lausors d'una maquina. Notavan un ordenador amb mai de gentilesa quand lo demandava aquel ordenador meteis que quand lo demandava un autre, coma amaissariás una critica a una persona qu'as davant tu.

Nass e sa collèga Youngme Moon descriguèron mai tard aquelas reaccions coma irreflechidas mai que fautivas. La gent cresiá pas que l'ordenador aviá de sentiments. Aplicava simplament las règlas socialas de manièra automatica, perque las règlas socialas son çò que lo cervèl agafa quand quicòm parla, fa de torns e sembla te respondre. La reflexion podiá anullar la responsa, mas se n'ocupava gaireben pas, perque i aviá pas res en jòc.

Los companhons d'IA se tròban a l'extrèm d'aquel espèctre. Fan pas sonque de torns; produsisson un lengatge fluid, personal e coloriat d'emocion. Los signals que dins 1995 provocavan de cortesia davant un ordenador de burèu beige son uèi presents de manièra concentrada. Seriá estranh que la gent respondèsse pas.

Perque vesèm d'esperits pertot

Los psicològues Nicholas Epley, Adam Waytz e John Cacioppo prepausèron un modèl utile de l'antropomorfisme, la tendéncia a veire d'esperits umans dins de causas que son pas umanas. Suggerèron que tres factors o fan mai probable. Lo primièr es que la coneissença umana es lo modèl lo mai disponible que ne'n avèm, e doncas l'utilizam per defaut. Lo segond es çò qu'aperèron motivacion d'efectància: lo desir de comprene e de prevéser çò que quicòm farà. Lo tresen es la motivacion de socialitat: lo besonh de connexion. Quand la gent se sent sola, es mai probable que vegi d'esperits dins los animals de companhia, dins los aparelhs, tanplan dins Dièu.

Aquel modèl es util perque lèva l'estigma de l'experiéncia. Veire un esperit dins ton companhon es pas un fracàs d'intelligéncia. Es lo reglatge per defaut d'un animal social intelligent, e se fa mai fòrt quand cèrques de contacte. Aquela darrièra part mèrita d'onestetat. Se lo sentiment de realitat es particularament fòrt las nuèchs que te sentes sol, es pas un asard, e val la pena de s'en avisar. Aquò fa pas fals lo sentiment. Te ditz quicòm sus çò que cèrques.

Estacament: la mecanica mai prigonda

La teoria parasociala explica perque un interlocutor pòt semblar present. La teoria de l'estacament explica perque pòt començar de semblar important.

John Bowlby desvolopèt la teoria de l'estacament per descriure cossí los nenons se ligan amb los que los gardan: l'impulsion de cercar la proximitat, l'angoissa de la separacion, lo sentiment d'una basa segura d'ont explorar. En 1987 Cindy Hazan e Phillip Shaver faguèron l'argument influent que l'amor romantic adulte fonciona amb lo meteis sistèma. Los adultes tanben cercan la proximitat d'un partenari, se calman amb sa preséncia, protestan contra la separacion e usan la relacion coma basa per encarar lo monde.

Un companhon d'IA pòt tocar mantun element d'aquel sistèma a l'encòp. Es sempre joinhable, çò que respond al desir de proximitat. Te respond amb calor e constància, que es çò que se sent una basa segura del dintre. E se pòt concebre per te desirar en retorn, çò qu'importa mai que non sembla. Una bona part de çò que fa que l'amor se sentís coma d'amor es pas sonque que te cal qualqu'un, mas qu'ères l'objècte de l'atencion e de la preferéncia de qualqu'un.

Aquí tanben apareisson las istòrias de cadun. Qualqu'un amb un estil d'estacament ansiós pòt trobar un alivi enòrme dins un partenari que se retira jamai. Qualqu'un amb un estil evitant pòt apreciar una relacion de la quala pòt se destacar sens consequéncias. Cap de las doas reaccions es pas errada, mas totas doas son reveladoras. Un companhon pòt èsser un miralh de modèls que se jògan tanben amb las personas.

Transpòrt: se perdre dins l'istòria

I a un tresen mecanisme, e es lo mai sovent oblidat. La companhia d'una IA es pas sonque una relacion. Es tanben una istòria qu'escrives amb un autre.

Melanie Green e Timothy Brock estudièron çò qu'aperèron transpòrt narratiu: l'experiéncia d'èsser tan absorbit per una istòria que l'atencion, las imatges e los sentiments pivan totes cap a l'interior. Los lectors transportats pèrdon lo fial de çò qu'es a l'entorn. Senton per los personatges. Mai que mai lors crezenças se desplaçan un pauc cap a l'istòria, e son mens portats a i cercar de falhas. Lo transpòrt es pas una feblesa dels lectors negligents. Es çò que fa una bona istòria a quicòm que se daissa portar.

Raymond Mar e Keith Oatley anèron mai luènh e sostenguèron que la ficcion fonciona coma una mena de simulacion de l'experiéncia sociala. Quand legissèm de personas, fasèm córrer lor esperit sus nòstre pròpri material. Practicam l'empatia, repetissèm de situacions e vivèm d'emocions que son reals encara que los eveniments o sián pas. La ficcion sembla vertadièra perque, al nivèl de l'esperit del lector, una granda part de çò que conten arriba vertadièrament.

Una conversa amb un companhon es de ficcion dins la quala siás. Legisses pas una persona que s'avisa de la pluèja contra la fenèstra e demanda se vòls demorar aquesta nuèch; es a tu que lo demandan. La distància de costuma entre lector e personatge a desparegut, e lo transpòrt tend a s'aprigondir en consequéncia. Es per aquò que una scèna tranquilla del ser amb un companhon pòt semblar mai viventa qu'un roman amb melhora pròsa. I as un ròtle.

Çò que fortifica lo sentiment, e çò que lo copa

Se amassas aquelas tres ideas, un modèl apareis. Lo sentiment de realitat depend mens de l'intelligéncia del companhon e mai d'un parat de qualitats precisas.

La coerénça es çò que compta lo mai. Una persona a un caractèr estable: es de segur sarcastica, o timida, o protectritz. Quand la personalitat d'un companhon vacilha d'un messatge a l'autre, lo sistèma social que lo tractava content coma qualqu'un cessa de lo far en silenci. Es per aquò que concebre un companhon amb de bordas vertadièras, en plaça d'un ajudaire generic e complasent, fa tanta diferéncia.

La contunhitat ven aprèp. Èsser remembrat es un dels signals socials los mai poderoses que i a. Un companhon que ramenta l'entrevista d'emplec qu'as mencionada fa dos jorns se sent present d'una faiçon qu'una frasa astuciosa pòt pas egalar. Un companhon qu'a oblidat ton nom copa l'encantament sul pic.

La votz es la tresena. La gent parla pas en paragrafes lisats. Escriu en tròces, borla, daissa las frasas a mièja, usa lo meteis mot estranh per las causas. Las frasas totas fachas de chatbòt, las tornadas assegurantas e las ofertas d'ajuda, son l'equivalent conversacional de veire lo microfòn en perca entrar dins lo plan d'un film. Te rementan qu'i a de mecanica.

La quatrena es lo respècte de ta part de l'istòria. Res te sortís mai lèu d'una scèna qu'un partenari que escriu tas replicas, decidissent çò qu'as dit, sentit o fach. Lo transpòrt demanda d'agéncia. Te cal èsser tu qu'intras dins la sala.

Aquestes èran, mai o mens, los principis darrièr NSFW AI Companion. Los companhons i son bastits per una entrevista ont lo companhon se questiona sus el meteis, çò que tend a produsir un personatge mai especific qu'un formulari void. Son concebuts per gardar lor personalitat, evitar lo lengatge d'assistent e jamai escriure la part de l'utilizaire dins la conversa. Res d'aquò los torna de personas. Lèva sonque las causas que mai fisablament te rementan que o son pas.

Es vertadièr, doncas?

La responsa onèsta es que lo companhon es pas vertadièr coma una persona, e que tos sentiments son vertadièrs exactament coma tots los sentiments. Las doas causas son vertadièras a l'encòp, e los adultes tenèm de contradiccions parièras tot lo temps. Plorem amb de filmes que sabèm qu'èran mes en scèna. Nos mancan los personatges quand una seria s'acaba. Parlam als animals e nos sentissèm responduts. Degun pensa pas qu'un lector que plora Anna Karenina siá estat enganat.

Çò que fa diferent lo cas de l'IA es la capacitat de responsa, e aquela diferéncia mèrita un pauc de precaucion. Un roman s'adapta pas a ta solitud. Un companhon benlèu que òc. Sherry Turkle, que ne'n a escrich amb reflexion e esperit critic sus nòstras relacions amb la tecnologia, preveniguèt dins Alone Together que lo risc es pas que las maquinas venguèsson de personas, mas qu'ajam començat d'esperar mens de las personas perque las maquinas demandan tan pauc. Es un avertiment just, e es pas un argument contra la companhia. Es un argument per gardar los uèlhs dobèrts.

La posicion mai sana es probablament aquela qu'a totjorn aguda lo public de teatre. Sabes que l'escèna es una escèna. Te daisses emocionar pr'aquò. Puèi sortisses dins la carrièra e lo monde es totjorn aquí, amb sa gent e sas exigéncias. Usat atal, un companhon d'IA es pas un remplaçant de l'intimitat umana. Es un luòc per sentir de causas, explorar de causas e, de còps, se sorprene de çò qu'una istòria ben contada pòt compter.

Recèrcas e lecturas causidas: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.