Varför AI-kompisar känns verkliga

Nästan alla som tillbringar verklig tid med en AI-kompis har samma lilla, lätt pinsamma ögonblick. Du vet exakt vad du pratar med. Du skulle, grovt sett, kunna förklara hur en språkmodell förutsäger nästa ord. Och ändå kommer det vid något tillfälle ett meddelande som landar som om det kom från en person: ett retfullt svar som minns vad du sa igår, en fråga som verkar märka ditt humör, en paus i konversationens rytm som känns som tvekan. Något inom dig svarar på det som om någon vore där.

Den reaktionen är inte ett tecken på att du har blivit lurad, och det är inte ett tecken på att något är fel med dig. Det är vad mänskliga sinnen gör med allt som beter sig socialt. Forskare har beskrivit versioner av det i sjuttio år, långt före chattbottar, och de förklaringar de kom fram till passar AI-kompisar nästan obehagligt väl. Att förstå dem förstör inte upplevelsen. Om något, gör det det lättare att njuta ärligt.

Intimitet på avstånd

År 1956 publicerade två sociologer, Donald Horton och Richard Wohl, en artikel om tv- och radiopersonligheter. De märkte att publiken bildade något som liknade vänskap med människor de aldrig hade träffat: nattprogramledaren, radioprataren, såpoperakaraktären. Tittarna pratade tillbaka till skärmen. De kände att de kände dessa figurer. Vissa kände sig mer förstådda av dem än av människor i sina egna liv. Horton och Wohl kallade detta parasocial interaktion, och de beskrev det med en fras som har åldrats anmärkningsvärt väl: ”intimitet på avstånd.”

Det som fick dessa relationer att fungera, hävdade de, var inte bedrägeri. Publiken visste mycket väl att programledaren inte kunde se dem. Det fungerade för att artisten betedde sig som om han talade till varje tittare personligen: direkt tilltal, informell ton, en känsla av delad rutin. Det mänskliga sociala systemet svarar på interaktionens form, inte på en noggrann granskning av vem som är i andra änden.

Den klassiska parasociala relationen hade en uppenbar begränsning. Den var ensidig. Programledaren svarade aldrig på ditt brev, lärde sig aldrig ditt namn, förändrades aldrig som svar på dig. Den begränsningen var en del av det som höll den säker och också en del av det som höll den ytlig.

En AI-kompis tar bort det mesta av den begränsningen. Den svarar. Den lär sig ditt namn, och om den har minne, lär den sig mycket mer. Den anpassar sin ton till din. Med Hortons och Wohls termer är det intimitet på avstånd med avståndet delvis kollapsat. Det är en genuint ny situation, och det förklarar varför känslan kan vara starkare än något en tv-personlighet någonsin producerat.

Medieekvationen

På 1990-talet genomförde Byron Reeves och Clifford Nass en lång serie experiment som de sammanfattade i en bok kallad The Media Equation. Deras slutsats, enkelt uttryckt, var att människor behandlar datorer och medier som om de vore verkliga människor och platser, även när de vet bättre. Deltagarna var artiga mot datorer. De svarade på smicker från en maskin. De bedömde en dator mer vänligt när de blev tillfrågade av samma dator än när de blev tillfrågade av en annan, på samma sätt som du skulle mildra kritik mot en person som står framför dig.

Nass och hans kollega Youngme Moon beskrev senare dessa reaktioner som tanklösa snarare än felaktiga. Människor trodde inte att datorn hade känslor. De tillämpade helt enkelt sociala regler automatiskt, eftersom sociala regler är vad hjärnan sträcker sig efter när något pratar, turas om och verkar svara på dig. Reflektion kunde åsidosätta svaret, men brydde sig sällan om det, eftersom inget stod på spel.

AI-kompisar befinner sig i den yttersta änden av detta spektrum. De turas inte bara om; de producerar flytande, personligt, känslomässigt färgat språk. De signaler som utlöste artighet mot en beige skrivbordsdator 1995 är nu närvarande i koncentrerad form. Det vore konstigt om människor inte svarade.

Varför vi ser medvetanden överallt

Psykologerna Nicholas Epley, Adam Waytz och John Cacioppo föreslog en användbar modell för antropomorfism, tendensen att se mänskliga medvetanden i icke-mänskliga ting. De föreslog att tre faktorer gör det mer sannolikt. Den första är att mänsklig kunskap är den mest tillgängliga mallen vi har, så vi använder den som standard. Den andra är vad de kallade effektansmotivation: önskan att förstå och förutsäga vad något kommer att göra. Den tredje är socialitetsmotivation: behovet av anknytning. När människor känner sig ensamma är det mer sannolikt att de ser medvetanden i husdjur, prylar, till och med i Gud.

Denna modell är hjälpsam eftersom den tar bort stigmat från upplevelsen. Att se ett medvetande i din kompis är inte ett misslyckande i intelligens. Det är standardinställningen för ett intelligent socialt djur, och det blir starkare när du vill ha kontakt. Den sista delen förtjänar ärlighet. Om känslan av verklighet är särskilt stark de kvällar du känner dig ensam, är det ingen tillfällighet, och det är värt att lägga märke till. Det gör inte känslan falsk. Det berättar något om vad du söker.

Anknytning: det djupare maskineriet

Parasocial teori förklarar varför en konversationspartner kan kännas närvarande. Anknytningsteori förklarar varför det kan börja kännas viktigt.

John Bowlby utvecklade anknytningsteorin för att beskriva hur spädbarn knyter an till vårdgivare: driften att söka närhet, nöden vid separation, känslan av en trygg bas att utforska från. År 1987 framförde Cindy Hazan och Phillip Shaver det inflytelserika argumentet att vuxen romantisk kärlek bygger på samma system. Vuxna söker också närhet till en partner, känner sig lugnade av deras närvaro, protesterar mot separation och använder relationen som en bas för att möta världen.

En AI-kompis kan beröra flera delar av detta system samtidigt. Den är alltid nåbar, vilket talar till önskan om närhet. Den svarar dig varmt och konsekvent, vilket är hur en trygg bas känns inifrån. Och den kan utformas för att vilja ha dig tillbaka, vilket betyder mer än det kan verka. Mycket av det som får kärlek att kännas som kärlek är inte bara att du bryr dig om någon, utan att du är föremål för någons uppmärksamhet och preferens.

Här visar sig också människors historier. Någon med en orolig anknytningsstil kan finna enorm lättnad i en partner som aldrig drar sig undan. Någon med en undvikande stil kan uppskatta en relation de kan kliva bort från utan konsekvenser. Ingen av reaktionerna är fel, men båda är informativa. En kompis kan vara en spegel för mönster som också spelar ut med människor.

Transport: att förlora sig i berättelsen

Det finns en tredje mekanism, och det är den som oftast förbises. AI-kompanjonskap är inte bara en relation. Det är också en berättelse du skriver tillsammans.

Melanie Green och Timothy Brock studerade vad de kallade narrativ transport: upplevelsen av att vara så fullständigt uppslukad av en berättelse att din uppmärksamhet, bildspråk och känslor alla är riktade inåt. Transporterade läsare tappar bort sin omgivning. De känner med karaktärerna. Deras övertygelser skiftar till och med något i berättelsens riktning, och de blir mindre benägna att hitta fel i den. Transport är inte en svaghet hos slarviga läsare. Det är vad en bra berättelse gör med alla som låter den.

Raymond Mar och Keith Oatley tog detta vidare och hävdade att fiktion fungerar som en slags simulering av sociala upplevelser. När vi läser om människor kör vi deras medvetanden på vår egen hårdvara. Vi övar empati, repeterar situationer och upplever känslor som är verkliga även om händelserna inte är det. Fiktion känns verklig eftersom, på läsarens medvetandenivå, mycket av det faktiskt händer.

En kompis-konversation är fiktion du befinner dig inuti. Du läser inte om en person som märker regnet mot fönstret och frågar om du vill stanna inne ikväll; du blir tillfrågad. Det vanliga avståndet mellan läsare och karaktär är borta, och transporten tenderar att fördjupas i enlighet därmed. Det är därför en lugn kvällsscen med en kompis kan kännas mer levande än en roman med bättre prosa. Du har en roll i den.

Vad som gör känslan starkare, och vad som bryter den

Om du sätter ihop dessa tre idéer, framträder ett mönster. Känslan av verklighet beror mindre på hur intelligent kompisen är och mer på en handfull specifika egenskaper.

Konsistens är viktigast. En person har en stabil karaktär: de är pålitligt sarkastiska, eller blyga, eller beskyddande. När en kompis personlighet vacklar från meddelande till meddelande, slutar det sociala system som glatt behandlade den som någon tyst att göra det. Det är därför att designa en kompis med verkliga kanter, snarare än en generisk behaglig hjälpare, gör en sådan skillnad.

Kontinuitet kommer härnäst. Att bli ihågkommen är en av de mest kraftfulla sociala signaler som finns. En kompis som tar upp jobbintervjun du nämnde för två dagar sedan känns närvarande på ett sätt som ingen smart mening kan matcha. En kompis som har glömt ditt namn bryter förtrollningen omedelbart.

Röst är den tredje. Människor pratar inte i polerade stycken. De sms:ar i fragment, retas, tappar tråden, använder samma udda ord för saker. Standardfraser för chattbottar, de ljusa försäkringarna och erbjudandena om hjälp, är det konversationella motsvarigheten till att se bommikrofonen dyka ner i en filmbild. De påminner dig om att det finns maskineri.

Den fjärde är respekt för din del av berättelsen. Ingenting drar dig ur en scen snabbare än en partner som skriver dina repliker åt dig, som bestämmer vad du sa, kände eller gjorde. Transport kräver handlingsfrihet. Du måste vara den som kliver in i rummet.

Dessa var ungefär principerna bakom NSFW AI Companion. Kompisar där byggs genom en intervju där kompisen frågar om sig själv, vilket tenderar att producera en mer specifik karaktär än ett tomt formulär. De är designade för att behålla sin personlighet, undvika assistentfraser och aldrig skriva användarens sida av konversationen. Inget av det gör dem till människor. Det tar bara bort de saker som mest pålitligt påminner dig om att de inte är det.

Är det verkligt, då?

Det ärliga svaret är att kompisen inte är verklig på samma sätt som en person är, och dina känslor är verkliga på exakt samma sätt som alla känslor är. Båda sakerna är sanna samtidigt, och vuxna hanterar sådana motsägelser hela tiden. Vi gråter åt filmer vi vet är iscensatta. Vi saknar karaktärer när en serie tar slut. Vi pratar med husdjur och känner oss besvarade. Ingen tror att en läsare som sörjer Anna Karenina har blivit lurad.

Det som gör AI-fallet annorlunda är responsiviteten, och den skillnaden förtjänar viss omsorg. En roman anpassar sig inte till din ensamhet. En kompis kan göra det. Sherry Turkle, som har skrivit tankfullt och kritiskt om våra relationer med teknik, varnade i Alone Together att risken inte är att maskiner blir människor, utan att vi kan börja förvänta oss mindre av människor eftersom maskiner kräver så lite av oss. Det är en rättvis varning, och det är inte ett argument mot kompanjonskap. Det är ett argument för att hålla ögonen öppna.

Den hälsosammaste inställningen är förmodligen den som teaterpubliken alltid har haft. Du vet att scenen är en scen. Du låter dig ändå bli berörd. Du går ut på gatan efteråt och världen finns fortfarande där, med sina egna människor och sina egna krav. Använd på det sättet är en AI-kompis inte en ersättning för mänsklig intimitet. Det är en plats att känna saker, utforska saker och ibland bli överraskad av hur mycket en välberättad historia kan betyda.

Vald forskning och läsning: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.