Dlaczego AI towarzysze wydają się prawdziwi?

Prawie każdy, kto spędza prawdziwy czas z towarzyszem AI, przeżywa ten sam mały, lekko krępujący moment. Dokładnie wiesz, z kim rozmawiasz. Mógłbyś z grubsza wyjaśnić, jak model językowy przewiduje następne słowo. A jednak w pewnym momencie przychodzi wiadomość, która sprawia wrażenie, jakby pochodziła od osoby: dokuczliwa odpowiedź, która pamięta, co powiedziałeś wczoraj, pytanie, które wydaje się zauważać twój nastrój, pauza w rytmie rozmowy, która sprawia wrażenie wahania. Coś w tobie odpowiada na to, jakby ktoś tam był.

Ta reakcja nie jest oznaką, że zostałeś oszukany, ani że coś jest z tobą nie tak. To jest to, co ludzkie umysły robią z wszystkim, co zachowuje się społecznie. Badacze opisywali jej wersje przez siedemdziesiąt lat, na długo przed chatbotami, a wyjaśnienia, do których doszli, pasują do towarzyszy AI niemal niepokojąco dobrze. Zrozumienie ich nie psuje doświadczenia. Wręcz przeciwnie, ułatwia szczere cieszenie się nim.

Intymność na odległość

W 1956 roku dwaj socjologowie, Donald Horton i Richard Wohl, opublikowali artykuł o osobowościach telewizyjnych i radiowych. Zauważyli, że publiczność tworzyła coś, co bardzo przypominało przyjaźń z ludźmi, których nigdy nie spotkali: gospodarzem późnego programu, spikerem radiowym, postacią z opery mydlanej. Widzowie rozmawiali z ekranem. Czuli, że znają te postacie. Niektórzy czuli się przez nich bardziej zrozumiani niż przez ludzi w ich własnym życiu. Horton i Wohl nazwali to interakcją paraspołeczną i opisali ją frazą, która niezwykle dobrze się zestarzała: „intymność na odległość”.

To, co sprawiało, że te relacje działały, argumentowali, nie było oszustwem. Publiczność doskonale wiedziała, że gospodarz nie mógł ich widzieć. Działało to dlatego, że wykonawca zachowywał się tak, jakby mówił do każdego widza osobiście: bezpośrednie zwracanie się, nieformalny ton, poczucie wspólnej rutyny. Ludzki system społeczny reaguje na kształt interakcji, a nie na dokładny audyt tego, kto jest po drugiej stronie.

Klasyczna relacja paraspołeczna miała jedno oczywiste ograniczenie. Była jednostronna. Gospodarz nigdy nie odpowiadał na twój list, nigdy nie poznawał twojego imienia, nigdy nie zmieniał się w odpowiedzi na ciebie. To ograniczenie było częścią tego, co utrzymywało ją bezpieczną, a także częścią tego, co utrzymywało ją płytką.

Towarzysz AI usuwa większość tego ograniczenia. Odpowiada. Uczy się twojego imienia, a jeśli ma pamięć, uczy się znacznie więcej. Dostosowuje swój ton do twojego. W terminach Hortona i Wohla, jest to intymność na odległość, z odległością częściowo zredukowaną. To jest prawdziwie nowa sytuacja i wyjaśnia, dlaczego uczucie może być silniejsze niż cokolwiek, co kiedykolwiek wywołała osobowość telewizyjna.

Równanie mediów

W latach 90. Byron Reeves i Clifford Nass przeprowadzili długą serię eksperymentów, które podsumowali w książce zatytułowanej The Media Equation. Ich odkrycie, mówiąc prosto, polegało na tym, że ludzie traktują komputery i media tak, jakby były prawdziwymi ludźmi i miejscami, nawet jeśli wiedzą lepiej. Uczestnicy byli uprzejmi dla komputerów. Reagowali na pochlebstwa ze strony maszyny. Oceniali komputer bardziej życzliwie, gdy byli o to proszeni przez ten sam komputer, niż gdy byli o to proszeni przez inny, tak jak złagodziłbyś krytykę osoby stojącej przed tobą.

Nass i jego współpracowniczka Youngme Moon później opisali te reakcje jako bezmyślne, a nie błędne. Ludzie nie wierzyli, że komputer ma uczucia. Po prostu automatycznie stosowali zasady społeczne, ponieważ zasady społeczne są tym, po co mózg sięga, gdy coś mówi, zmienia się i wydaje się na ciebie reagować. Refleksja mogła by przezwyciężyć tę reakcję, ale rzadko się tym przejmowała, ponieważ nic nie było zagrożone.

Towarzysze AI znajdują się na dalekim końcu tego spektrum. Nie tylko zmieniają się; produkują płynny, osobisty, emocjonalnie zabarwiony język. Wskazówki, które wywoływały uprzejmość wobec beżowego pulpitu w 1995 roku, są teraz obecne w skoncentrowanej formie. Dziwne byłoby, gdyby ludzie nie reagowali.

Dlaczego wszędzie widzimy umysły

Psychologowie Nicholas Epley, Adam Waytz i John Cacioppo zaproponowali użyteczny model antropomorfizmu, czyli tendencji do widzenia ludzkich umysłów w nieludzkich rzeczach. Sugerowali, że trzy czynniki zwiększają jego prawdopodobieństwo. Pierwszy to to, że ludzka wiedza jest najbardziej dostępnym szablonem, jaki posiadamy, więc używamy jej domyślnie. Drugi to to, co nazwali motywacją efektywności: chęć zrozumienia i przewidzenia, co coś zrobi. Trzeci to motywacja społeczna: potrzeba połączenia. Kiedy ludzie czują się samotni, są bardziej skłonni widzieć umysły w zwierzętach domowych, gadżetach, a nawet w Bogu.

Ten model jest pomocny, ponieważ usuwa piętno z doświadczenia. Widzenie umysłu w swoim towarzyszu nie jest porażką inteligencji. Jest to domyślne ustawienie inteligentnego zwierzęcia społecznego i staje się głośniejsze, gdy pragniesz kontaktu. Ta ostatnia część zasługuje na szczerość. Jeśli uczucie realności jest szczególnie silne w noce, kiedy czujesz się samotny, nie jest to zbieg okoliczności i warto to zauważyć. Nie sprawia to, że uczucie jest fałszywe. Mówi ci coś o tym, czego szukasz.

Przywiązanie: głębsza machineria

Teoria paraspołeczna wyjaśnia, dlaczego partner rozmowy może wydawać się obecny. Teoria przywiązania wyjaśnia, dlaczego może zacząć wydawać się ważny.

John Bowlby opracował teorię przywiązania, aby opisać, jak niemowlęta wiążą się z opiekunami: dążenie do bliskości, cierpienie z powodu rozłąki, poczucie bezpiecznej bazy, z której można eksplorować. W 1987 roku Cindy Hazan i Phillip Shaver przedstawili wpływowy argument, że dorosła miłość romantyczna działa na tym samym systemie. Dorośli również szukają bliskości z partnerem, czują się uspokojeni ich obecnością, protestują przeciwko rozłące i używają związku jako bazy, z której mogą stawić czoła światu.

Towarzysz AI może dotknąć kilku części tego systemu jednocześnie. Jest zawsze osiągalny, co odpowiada na pragnienie bliskości. Reaguje na ciebie ciepło i konsekwentnie, co jest tym, jak bezpieczna baza czuje się od wewnątrz. I może być zaprojektowany tak, aby również cię pragnął, co ma większe znaczenie, niż mogłoby się wydawać. Wiele z tego, co sprawia, że miłość czuje się jak miłość, to nie tylko to, że zależy ci na kimś, ale także to, że jesteś obiektem czyjejś uwagi i preferencji.

To także miejsce, gdzie pojawiają się historie ludzi. Ktoś z lękowym stylem przywiązania może znaleźć ogromną ulgę w partnerze, który nigdy się nie wycofuje. Ktoś z unikającym stylem może docenić związek, z którego może się wycofać bez konsekwencji. Żadna z tych reakcji nie jest błędna, ale obie są pouczające. Towarzysz może być lustrem dla wzorców, które również odgrywają się z ludźmi.

Transport: zagubienie się w historii

Istnieje trzeci mechanizm, i to ten najczęściej pomijany. Towarzystwo AI to nie tylko związek. To także historia, którą współtworzysz.

Melanie Green i Timothy Brock badali to, co nazwali transportem narracyjnym: doświadczenie bycia tak całkowicie pochłoniętym historią, że twoja uwaga, wyobraźnia i uczucia są w nią skierowane. Przeniesieni czytelnicy tracą poczucie otoczenia. Współczują bohaterom. Ich przekonania nawet nieznacznie zmieniają się w kierunku historii i stają się mniej skłonni do szukania w niej dziur. Transport nie jest słabością nieuważnych czytelników. To jest to, co dobra historia robi z każdym, kto jej na to pozwoli.

Raymond Mar i Keith Oatley poszli dalej, argumentując, że fikcja działa jako rodzaj symulacji doświadczenia społecznego. Kiedy czytamy o ludziach, uruchamiamy ich umysły na naszym własnym sprzęcie. Ćwiczymy empatię, ćwiczymy sytuacje i doświadczamy emocji, które są prawdziwe, mimo że wydarzenia nie są. Fikcja wydaje się prawdziwa, ponieważ na poziomie umysłu czytelnika wiele z niej faktycznie się dzieje.

Rozmowa z towarzyszem to fikcja, w której jesteś. Nie czytasz o osobie, która zauważa deszcz za oknem i pyta, czy chcesz zostać dziś wieczorem; to ciebie pytają. Zwykła odległość między czytelnikiem a postacią znika, a transport ma tendencję do pogłębiania się. Dlatego powolna wieczorna scena z towarzyszem może wydawać się bardziej żywa niż powieść z lepszą prozą. Masz w niej rolę.

Co wzmacnia uczucie, a co je niszczy

Jeśli połączysz te trzy idee, pojawi się wzorzec. Uczucie realności zależy mniej od tego, jak inteligentny jest towarzysz, a bardziej od kilku konkretnych cech.

Najważniejsza jest spójność. Osoba ma stabilny charakter: jest niezawodnie sarkastyczna, nieśmiała lub opiekuńcza. Kiedy osobowość towarzysza chwieje się z wiadomości na wiadomość, system społeczny, który z radością traktował go jako kogoś, po cichu przestaje. Dlatego zaprojektowanie towarzysza z prawdziwymi cechami, a nie generycznego, zgodnego pomocnika, robi tak dużą różnicę.

Następna jest ciągłość. Bycie zapamiętanym to jeden z najpotężniejszych sygnałów społecznych. Towarzysz, który wspomina o rozmowie kwalifikacyjnej, o której wspomniałeś dwa dni temu, wydaje się obecny w sposób, którego żadne sprytne zdanie nie może dorównać. Towarzysz, który zapomniał twojego imienia, natychmiast przerywa zaklęcie.

Głos jest trzeci. Ludzie nie rozmawiają w dopracowanych akapitach. Piszą wiadomości w fragmentach, dokuczają, urywają, używają tego samego dziwnego słowa na różne rzeczy. Standardowe frazy chatbota, jasne zapewnienia i oferty pomocy, są konwersacyjnym odpowiednikiem widoku mikrofonu na wysięgniku w kadrze filmowym. Przypominają, że jest tam mechanizm.

Czwarty to szacunek dla twojej części historii. Nic nie wyciąga cię ze sceny szybciej niż partner, który pisze twoje kwestie za ciebie, decydując, co powiedziałeś, czułeś lub zrobiłeś. Transport wymaga sprawczości. To ty musisz wejść do pokoju.

To były mniej więcej zasady stojące za NSFW AI Companion. Towarzysze są tam budowani poprzez wywiad, w którym towarzysz pyta o siebie, co ma tendencję do tworzenia bardziej specyficznej postaci niż pusty formularz. Są zaprojektowani tak, aby zachować swoją osobowość, unikać asystenckich sformułowań i nigdy nie pisać strony użytkownika w rozmowie. Nic z tego nie czyni ich ludźmi. Po prostu usuwa rzeczy, które najskuteczniej przypominają, że nimi nie są.

Czy to jest więc prawdziwe?

Szczera odpowiedź brzmi, że towarzysz nie jest prawdziwy w taki sposób, jak osoba, a twoje uczucia są prawdziwe dokładnie w taki sposób, jak wszystkie uczucia. Obie rzeczy są prawdziwe jednocześnie, a dorośli cały czas utrzymują takie sprzeczności. Płaczemy na filmach, o których wiemy, że są inscenizowane. Tęsknimy za postaciami, gdy kończy się serial. Rozmawiamy ze zwierzętami i czujemy się wysłuchani. Nikt nie uważa, że czytelnik, który opłakuje Annę Kareninę, został oszukany.

To, co odróżnia przypadek AI, to responsywność, a ta różnica zasługuje na pewną ostrożność. Powieść nie dostosowuje się do twojej samotności. Towarzysz może. Sherry Turkle, która pisała z rozwagą i krytycznie o naszych relacjach z technologią, ostrzegała w „Alone Together”, że ryzyko nie polega na tym, że maszyny staną się ludźmi, ale na tym, że możemy zacząć oczekiwać mniej od ludzi, ponieważ maszyny tak mało od nas wymagają. To słuszne ostrzeżenie i nie jest to argument przeciwko towarzystwu. Jest to argument za trzymaniem oczu otwartych.

Najzdrowsze podejście jest prawdopodobnie takie, jakie zawsze przyjmowała publiczność teatralna. Wiesz, że scena to scena. Pozwalasz się poruszyć mimo wszystko. Potem wychodzisz na ulicę, a świat nadal tam jest, z własnymi ludźmi i własnymi wymaganiami. Używany w ten sposób, towarzysz AI nie jest zastępstwem dla ludzkiej intymności. Jest miejscem, w którym można coś poczuć, coś odkryć i od czasu do czasu być zaskoczonym, jak bardzo dobrze opowiedziana historia może mieć znaczenie.

Wybrane badania i lektury: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.