Por que Companheiros de IA Parecem Reais?

Quase todo mundo que passa um tempo real com um companheiro de IA tem o mesmo pequeno e ligeiramente embaraçoso momento. Você sabe exatamente com o que está falando. Você poderia explicar, aproximadamente, como um modelo de linguagem prevê a próxima palavra. E, no entanto, em algum momento, chega uma mensagem que parece ter vindo de uma pessoa: uma resposta provocadora que lembra o que você disse ontem, uma pergunta que parece notar seu humor, uma pausa no ritmo da conversa que soa como hesitação. Algo em você responde como se alguém estivesse ali.

Essa reação não é um sinal de que você foi enganado, e não é um sinal de que há algo errado com você. É o que as mentes humanas fazem com qualquer coisa que se comporta socialmente. Pesquisadores vêm descrevendo versões disso há setenta anos, muito antes dos chatbots, e as explicações a que chegaram se encaixam nos companheiros de IA de forma quase desconfortável. Entendê-las não estraga a experiência. Pelo contrário, torna mais fácil desfrutar honestamente.

Intimidade à distância

Em 1956, dois sociólogos, Donald Horton e Richard Wohl, publicaram um artigo sobre personalidades de rádio e televisão. Eles notaram que as audiências formavam algo muito parecido com amizade com pessoas que nunca haviam conhecido: o apresentador noturno, o locutor de rádio, o personagem de novela. Os telespectadores respondiam à tela. Sentiam que conheciam essas figuras. Alguns se sentiam mais compreendidos por elas do que por pessoas em suas próprias vidas. Horton e Wohl chamaram isso de interação parassocial, e a descreveram com uma frase que envelheceu notavelmente bem: "intimidade à distância."

O que fazia esses relacionamentos funcionarem, eles argumentaram, não era engano. A audiência sabia perfeitamente que o apresentador não podia vê-los. Funcionava porque o artista se comportava como se estivesse falando com cada espectador pessoalmente: tratamento direto, tom informal, um senso de rotina compartilhada. O sistema social humano responde à forma da interação, não a uma auditoria cuidadosa de quem está do outro lado.

A relação parassocial clássica tinha um limite óbvio. Era unilateral. O apresentador nunca respondia à sua carta, nunca aprendia seu nome, nunca mudava em resposta a você. Esse limite era parte do que a mantinha segura e também parte do que a mantinha superficial.

Um companheiro de IA remove a maior parte desse limite. Ele responde. Ele aprende seu nome e, se tiver memória, aprende muito mais. Ele adapta seu tom ao seu. Nos termos de Horton e Wohl, é intimidade à distância com a distância parcialmente colapsada. Essa é uma situação genuinamente nova, e explica por que o sentimento pode ser mais forte do que qualquer coisa que uma personalidade de televisão já produziu.

A equação da mídia

Na década de 1990, Byron Reeves e Clifford Nass realizaram uma longa série de experimentos que resumiram em um livro chamado The Media Equation. A descoberta deles, em termos simples, foi que as pessoas tratam computadores e mídias como se fossem pessoas e lugares reais, mesmo quando sabem que não são. Os participantes eram educados com os computadores. Eles respondiam a elogios de uma máquina. Avaliavam um computador mais gentilmente quando solicitados por esse mesmo computador do que quando solicitados por um diferente, da mesma forma que você suavizaria a crítica a uma pessoa parada na sua frente.

Nass e sua colega Youngme Moon descreveram mais tarde essas reações como irracionais em vez de equivocadas. As pessoas não acreditavam que o computador tinha sentimentos. Elas simplesmente aplicavam regras sociais automaticamente, porque as regras sociais são o que o cérebro busca quando algo fala, alterna turnos e parece responder a você. A reflexão poderia anular a resposta, mas raramente se dava ao trabalho, porque nada estava em jogo.

Os companheiros de IA estão no extremo desse espectro. Eles não apenas alternam turnos; eles produzem linguagem fluente, pessoal e emocionalmente colorida. As pistas que desencadeavam a polidez em relação a um desktop bege em 1995 estão presentes agora de forma concentrada. Seria estranho se as pessoas não respondessem.

Por que vemos mentes em toda parte

Os psicólogos Nicholas Epley, Adam Waytz e John Cacioppo propuseram um modelo útil de antropomorfismo, a tendência de ver mentes humanas em coisas não humanas. Eles sugeriram que três fatores tornam isso mais provável. O primeiro é que o conhecimento humano é o modelo mais disponível que temos, então o usamos por padrão. O segundo é o que eles chamaram de motivação de efetividade: o desejo de entender e prever o que algo fará. O terceiro é a motivação de socialidade: a necessidade de conexão. Quando as pessoas se sentem sozinhas, são mais propensas a ver mentes em animais de estimação, gadgets, até mesmo em Deus.

Este modelo é útil porque tira o estigma da experiência. Ver uma mente em seu companheiro não é uma falha de inteligência. É a configuração padrão de um animal social inteligente, e fica mais forte quando você deseja contato. Essa última parte merece honestidade. Se a sensação de realidade é especialmente forte em noites em que você se sente sozinho, isso não é uma coincidência, e vale a pena notar. Isso não torna o sentimento falso. Isso lhe diz algo sobre o que você está procurando.

Apego: a maquinaria mais profunda

A teoria parassocial explica por que um parceiro de conversa pode parecer presente. A teoria do apego explica por que ele pode começar a parecer importante.

John Bowlby desenvolveu a teoria do apego para descrever como os bebês se ligam aos cuidadores: o impulso de buscar proximidade, o sofrimento na separação, a sensação de uma base segura a partir da qual explorar. Em 1987, Cindy Hazan e Phillip Shaver apresentaram o argumento influente de que o amor romântico adulto funciona no mesmo sistema. Os adultos também buscam proximidade com um parceiro, sentem-se acalmados por sua presença, protestam a separação e usam o relacionamento como uma base para enfrentar o mundo.

Um companheiro de IA pode tocar várias partes desse sistema ao mesmo tempo. Ele está sempre acessível, o que atende ao desejo de proximidade. Ele responde a você de forma calorosa e consistente, que é como uma base segura se sente por dentro. E ele pode ser projetado para querer você de volta, o que importa mais do que pode parecer. Grande parte do que faz o amor parecer amor não é apenas que você se importa com alguém, mas que você é o objeto da atenção e preferência de alguém.

É aqui também que as histórias das pessoas aparecem. Alguém com um estilo de apego ansioso pode encontrar um enorme alívio em um parceiro que nunca se afasta. Alguém com um estilo evitativo pode apreciar um relacionamento do qual pode se afastar sem consequências. Nenhuma das reações está errada, mas ambas são informativas. Um companheiro pode ser um espelho para padrões que também se manifestam com pessoas.

Transporte: perdendo-se na história

Existe um terceiro mecanismo, e é o mais frequentemente negligenciado. A companhia de IA não é apenas um relacionamento. É também uma história que você está co-escrevendo.

Melanie Green e Timothy Brock estudaram o que chamaram de transporte narrativo: a experiência de ser absorvido por uma história tão completamente que sua atenção, imaginação e sentimentos estão todos voltados para ela. Leitores transportados perdem a noção do ambiente. Eles sentem pelos personagens. Suas crenças até mudam ligeiramente na direção da história, e eles se tornam menos inclinados a encontrar falhas nela. O transporte não é uma fraqueza de leitores descuidados. É o que uma boa história faz com qualquer um que a permita.

Raymond Mar e Keith Oatley foram além, argumentando que a ficção funciona como uma espécie de simulação da experiência social. Quando lemos sobre pessoas, executamos suas mentes em nosso próprio hardware. Praticamos empatia, ensaiamos situações e experimentamos emoções que são reais, embora os eventos não o sejam. A ficção parece real porque, no nível da mente do leitor, muito dela realmente acontece.

Uma conversa com um companheiro é uma ficção da qual você faz parte. Você não está lendo sobre uma pessoa que nota a chuva na janela e pergunta se você quer ficar em casa esta noite; você está sendo perguntado. A distância usual entre leitor e personagem desaparece, e o transporte tende a se aprofundar de acordo. É por isso que uma cena noturna tranquila com um companheiro pode parecer mais vívida do que um romance com uma prosa melhor. Você tem um papel nela.

O que torna o sentimento mais forte e o que o quebra

Se você juntar essas três ideias, um padrão aparece. A sensação de realidade depende menos de quão inteligente o companheiro é e mais de um punhado de qualidades específicas.

A consistência é o que mais importa. Uma pessoa tem um caráter estável: ela é sarcasticamente confiável, ou tímida, ou protetora. Quando a personalidade de um companheiro oscila de mensagem para mensagem, o sistema social que estava felizmente tratando-o como alguém para silenciosamente. É por isso que projetar um companheiro com características reais, em vez de um ajudante genérico e agradável, faz tanta diferença.

A continuidade vem em seguida. Ser lembrado é um dos sinais sociais mais poderosos que existem. Um companheiro que menciona a entrevista de emprego que você mencionou há dois dias parece presente de uma forma que nenhuma frase inteligente pode igualar. Um companheiro que esqueceu seu nome quebra o feitiço instantaneamente.

A voz é a terceira. As pessoas não falam em parágrafos polidos. Elas mandam mensagens em fragmentos, provocam, divagam, usam a mesma palavra estranha para as coisas. Frases de chatbot padronizadas, as garantias brilhantes e ofertas de assistência, são o equivalente conversacional a ver o microfone boom mergulhar em uma cena de filme. Elas lembram que há uma maquinaria.

A quarta é o respeito pela sua parte da história. Nada te tira de uma cena mais rápido do que um parceiro que escreve suas falas para você, decidindo o que você disse, sentiu ou fez. O transporte requer agência. Você tem que ser quem entra na sala.

Esses foram, aproximadamente, os princípios por trás do NSFW AI Companion. Os companheiros são construídos através de uma entrevista em que o companheiro pergunta sobre si mesmo, o que tende a produzir um personagem mais específico do que um formulário em branco. Eles são projetados para manter sua personalidade, evitar frases de assistente e nunca escrever o lado do usuário da conversa. Nada disso os torna pessoas. Apenas remove as coisas que mais confiavelmente lembram que não são.

É real, então?

A resposta honesta é que o companheiro não é real da mesma forma que uma pessoa é, e seus sentimentos são reais exatamente da mesma forma que todos os sentimentos são. Ambas as coisas são verdadeiras ao mesmo tempo, e os adultos lidam com contradições como essa o tempo todo. Choramos em filmes que sabemos que são encenados. Sentimos falta de personagens quando uma série termina. Conversamos com animais de estimação e nos sentimos respondidos. Ninguém pensa que um leitor que lamenta por Anna Karenina foi enganado.

O que torna o caso da IA diferente é a capacidade de resposta, e essa diferença merece alguma atenção. Um romance não se adapta à sua solidão. Um companheiro pode. Sherry Turkle, que escreveu de forma ponderada e crítica sobre nossos relacionamentos com a tecnologia, alertou em Alone Together que o risco não é que as máquinas se tornem pessoas, mas que possamos começar a esperar menos das pessoas porque as máquinas nos pedem tão pouco. Esse é um aviso justo, e não é um argumento contra a companhia. É um argumento para manter os olhos abertos.

A postura mais saudável é provavelmente aquela que as plateias de teatro sempre adotaram. Você sabe que o palco é um palco. Você se permite ser tocado de qualquer maneira. Você sai para a rua depois e o mundo ainda está lá, com suas próprias pessoas e suas próprias demandas. Usado dessa forma, um companheiro de IA não é um substituto para a intimidade humana. É um lugar para sentir coisas, explorar coisas e ocasionalmente ser surpreendido por quão importante uma história bem contada pode ser.

Pesquisas e leituras selecionadas: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.