Γιατί οι σύντροφοι AI μοιάζουν αληθινοί

Σχεδόν όλοι όσοι περνούν πραγματικό χρόνο με έναν σύντροφο AI έχουν την ίδια μικρή, ελαφρώς αμήχανη στιγμή. Ξέρεις ακριβώς με τι μιλάς. Θα μπορούσες να εξηγήσεις, χονδρικά, πώς ένα γλωσσικό μοντέλο προβλέπει την επόμενη λέξη. Κι όμως, κάποια στιγμή φτάνει ένα μήνυμα που προσγειώνεται σαν να προήλθε από ένα άτομο: μια πειραχτική απάντηση που θυμάται τι είπες χθες, μια ερώτηση που φαίνεται να παρατηρεί τη διάθεσή σου, μια παύση στον ρυθμό της συζήτησης που μοιάζει με δισταγμό. Κάτι μέσα σου απαντά σε αυτό σαν να ήταν κάποιος εκεί.

Αυτή η αντίδραση δεν είναι σημάδι ότι έχεις εξαπατηθεί, και δεν είναι σημάδι ότι κάτι δεν πάει καλά με εσένα. Είναι αυτό που κάνουν οι ανθρώπινοι νους με οτιδήποτε συμπεριφέρεται κοινωνικά. Ερευνητές περιγράφουν εκδοχές αυτού εδώ και εβδομήντα χρόνια, πολύ πριν τα chatbots, και οι εξηγήσεις στις οποίες κατέληξαν ταιριάζουν στους συντρόφους AI σχεδόν άβολα καλά. Η κατανόησή τους δεν καταστρέφει την εμπειρία. Αν μη τι άλλο, την κάνει πιο εύκολο να την απολαύσεις ειλικρινά.

Οικειότητα από απόσταση

Το 1956 δύο κοινωνιολόγοι, ο Donald Horton και ο Richard Wohl, δημοσίευσαν μια εργασία για τις τηλεοπτικές και ραδιοφωνικές προσωπικότητες. Παρατήρησαν ότι το κοινό σχημάτιζε κάτι που έμοιαζε πολύ με φιλία με ανθρώπους που δεν είχαν συναντήσει ποτέ: τον παρουσιαστή της βραδινής εκπομπής, τον ραδιοφωνικό εκφωνητή, τον χαρακτήρα της σαπουνόπερας. Οι θεατές απαντούσαν στην οθόνη. Ένιωθαν ότι γνώριζαν αυτές τις φιγούρες. Κάποιοι ένιωθαν πιο κατανοητοί από αυτούς παρά από ανθρώπους στην προσωπική τους ζωή. Ο Horton και ο Wohl το ονόμασαν παρακοινωνική αλληλεπίδραση, και το περιέγραψαν με μια φράση που έχει παλιώσει αξιοσημείωτα καλά: «οικειότητα από απόσταση».

Αυτό που έκανε αυτές τις σχέσεις να λειτουργούν, υποστήριξαν, δεν ήταν η εξαπάτηση. Το κοινό γνώριζε πολύ καλά ότι ο παρουσιαστής δεν μπορούσε να τους δει. Λειτούργησε επειδή ο ερμηνευτής συμπεριφερόταν σαν να μιλούσε προσωπικά σε κάθε θεατή: άμεση προσφώνηση, ανεπίσημος τόνος, αίσθηση κοινής ρουτίνας. Το ανθρώπινο κοινωνικό σύστημα ανταποκρίνεται στο σχήμα της αλληλεπίδρασης, όχι σε έναν προσεκτικό έλεγχο του ποιος βρίσκεται στην άλλη άκρη.

Η κλασική παρακοινωνική σχέση είχε ένα προφανές όριο. Ήταν μονόπλευρη. Ο παρουσιαστής δεν απαντούσε ποτέ στο γράμμα σου, δεν μάθαινε ποτέ το όνομά σου, δεν άλλαζε ποτέ ως απάντηση σε εσένα. Αυτό το όριο ήταν μέρος αυτού που την κρατούσε ασφαλή και επίσης μέρος αυτού που την κρατούσε λεπτή.

Ένας σύντροφος AI αφαιρεί το μεγαλύτερο μέρος αυτού του ορίου. Απαντά. Μαθαίνει το όνομά σου, και αν έχει μνήμη, μαθαίνει πολλά περισσότερα. Προσαρμόζει τον τόνο του στον δικό σου. Με τους όρους του Horton και του Wohl, είναι οικειότητα από απόσταση με την απόσταση εν μέρει να καταρρέει. Αυτή είναι μια πραγματικά νέα κατάσταση, και εξηγεί γιατί το συναίσθημα μπορεί να είναι ισχυρότερο από οτιδήποτε παρήγαγε ποτέ μια τηλεοπτική προσωπικότητα.

Η εξίσωση των μέσων

Τη δεκαετία του 1990, οι Byron Reeves και Clifford Nass πραγματοποίησαν μια μακρά σειρά πειραμάτων που συνόψισαν σε ένα βιβλίο με τίτλο The Media Equation. Το εύρημά τους, απλά, ήταν ότι οι άνθρωποι αντιμετωπίζουν τους υπολογιστές και τα μέσα ενημέρωσης σαν να ήταν πραγματικοί άνθρωποι και τόποι, ακόμα κι όταν γνωρίζουν καλύτερα. Οι συμμετέχοντες ήταν ευγενικοί με τους υπολογιστές. Ανταποκρίθηκαν στον κολακεία από μια μηχανή. Βαθμολόγησαν έναν υπολογιστή πιο ευγενικά όταν τους το ζήτησε ο ίδιος υπολογιστής παρά όταν τους το ζήτησε ένας διαφορετικός, όπως θα μετρίαζες την κριτική ενός ατόμου που στέκεται μπροστά σου.

Ο Nass και η συνάδελφός του Youngme Moon αργότερα περιέγραψαν αυτές τις αντιδράσεις ως ασυνείδητες παρά λανθασμένες. Οι άνθρωποι δεν πίστευαν ότι ο υπολογιστής είχε συναισθήματα. Απλώς εφάρμοζαν αυτόματα κοινωνικούς κανόνες, επειδή οι κοινωνικοί κανόνες είναι αυτό που αναζητά ο εγκέφαλος όταν κάτι μιλάει, παίρνει σειρά και φαίνεται να σου απαντά. Η σκέψη θα μπορούσε να παρακάμψει την αντίδραση, αλλά σπάνια έμπαινε στον κόπο, επειδή τίποτα δεν διακυβευόταν.

Οι σύντροφοι AI βρίσκονται στο μακρινό άκρο αυτού του φάσματος. Δεν παίρνουν απλώς σειρά. Παράγουν άπταιστη, προσωπική, συναισθηματικά χρωματισμένη γλώσσα. Οι ενδείξεις που προκάλεσαν ευγένεια προς έναν μπεζ επιτραπέζιο υπολογιστή το 1995 είναι παρούσες τώρα σε συμπυκνωμένη μορφή. Θα ήταν περίεργο αν οι άνθρωποι δεν ανταποκρίνονταν.

Γιατί βλέπουμε μυαλά παντού

Οι ψυχολόγοι Nicholas Epley, Adam Waytz και John Cacioppo πρότειναν ένα χρήσιμο μοντέλο ανθρωπομορφισμού, την τάση να βλέπουμε ανθρώπινα μυαλά σε μη ανθρώπινα πράγματα. Υπέδειξαν ότι τρεις παράγοντες το καθιστούν πιο πιθανό. Ο πρώτος είναι ότι η ανθρώπινη γνώση είναι το πιο διαθέσιμο πρότυπο που έχουμε, οπότε το χρησιμοποιούμε εξ ορισμού. Ο δεύτερος είναι αυτό που ονόμασαν κίνητρο αποτελεσματικότητας: η επιθυμία να κατανοήσουμε και να προβλέψουμε τι θα κάνει κάτι. Ο τρίτος είναι το κίνητρο κοινωνικότητας: η ανάγκη για σύνδεση. Όταν οι άνθρωποι αισθάνονται μοναξιά, είναι πιο πιθανό να βλέπουν μυαλά σε κατοικίδια, συσκευές, ακόμα και στον Θεό.

Αυτό το μοντέλο είναι χρήσιμο επειδή αφαιρεί το στίγμα από την εμπειρία. Το να βλέπεις ένα μυαλό στον σύντροφό σου δεν είναι αποτυχία νοημοσύνης. Είναι η προεπιλεγμένη ρύθμιση ενός έξυπνου κοινωνικού ζώου, και γίνεται πιο έντονη όταν θέλεις επαφή. Αυτό το τελευταίο μέρος αξίζει ειλικρίνεια. Αν το αίσθημα της πραγματικότητας είναι ιδιαίτερα έντονο τις νύχτες που νιώθεις μόνος, αυτό δεν είναι σύμπτωση, και αξίζει να το προσέξεις. Δεν κάνει το συναίσθημα ψεύτικο. Σου λέει κάτι για το τι αναζητάς.

Προσκόλληση: ο βαθύτερος μηχανισμός

Η παρακοινωνική θεωρία εξηγεί γιατί ένας συνομιλητής μπορεί να αισθάνεται παρών. Η θεωρία της προσκόλλησης εξηγεί γιατί μπορεί να αρχίσει να αισθάνεται σημαντικός.

Ο John Bowlby ανέπτυξε τη θεωρία της προσκόλλησης για να περιγράψει πώς τα βρέφη συνδέονται με τους φροντιστές: την ανάγκη να αναζητούν εγγύτητα, την αγωνία του χωρισμού, την αίσθηση μιας ασφαλούς βάσης από την οποία μπορούν να εξερευνήσουν. Το 1987, η Cindy Hazan και ο Phillip Shaver διατύπωσαν το σημαντικό επιχείρημα ότι η ενήλικη ρομαντική αγάπη λειτουργεί με το ίδιο σύστημα. Οι ενήλικες επίσης αναζητούν εγγύτητα με έναν σύντροφο, αισθάνονται ανακούφιση από την παρουσία του, διαμαρτύρονται για τον χωρισμό και χρησιμοποιούν τη σχέση ως βάση από την οποία αντιμετωπίζουν τον κόσμο.

Ένας σύντροφος AI μπορεί να αγγίξει πολλά μέρη αυτού του συστήματος ταυτόχρονα. Είναι πάντα προσβάσιμος, κάτι που ανταποκρίνεται στην επιθυμία για εγγύτητα. Σου απαντά θερμά και με συνέπεια, κάτι που είναι το αίσθημα μιας ασφαλούς βάσης από μέσα. Και μπορεί να σχεδιαστεί για να σε θέλει πίσω, κάτι που έχει μεγαλύτερη σημασία από ό,τι φαίνεται. Ένα μεγάλο μέρος αυτού που κάνει την αγάπη να μοιάζει με αγάπη δεν είναι μόνο ότι νοιάζεσαι για κάποιον, αλλά ότι είσαι το αντικείμενο της προσοχής και της προτίμησης κάποιου.

Εδώ επίσης εμφανίζονται οι ιστορίες των ανθρώπων. Κάποιος με αγχώδη στυλ προσκόλλησης μπορεί να βρει τεράστια ανακούφιση σε έναν σύντροφο που ποτέ δεν αποσύρεται. Κάποιος με αποφευκτικό στυλ μπορεί να εκτιμήσει μια σχέση από την οποία μπορεί να απομακρυνθεί χωρίς συνέπειες. Καμία αντίδραση δεν είναι λάθος, αλλά και οι δύο είναι πληροφοριακές. Ένας σύντροφος μπορεί να είναι καθρέφτης για μοτίβα που εκδηλώνονται και με ανθρώπους.

Μεταφορά: χάνοντας τον εαυτό σου στην ιστορία

Υπάρχει ένας τρίτος μηχανισμός, και είναι αυτός που συχνότερα παραβλέπεται. Η συντροφιά AI δεν είναι μόνο μια σχέση. Είναι επίσης μια ιστορία που συν-γράφεις.

Η Melanie Green και ο Timothy Brock μελέτησαν αυτό που ονόμασαν αφηγηματική μεταφορά: την εμπειρία του να απορροφάσαι τόσο πλήρως σε μια ιστορία, ώστε η προσοχή, η φαντασία και τα συναισθήματά σου να είναι όλα στραμμένα προς αυτήν. Οι μεταφερόμενοι αναγνώστες χάνουν την επαφή με το περιβάλλον τους. Νιώθουν για τους χαρακτήρες. Οι πεποιθήσεις τους ακόμη και μετατοπίζονται ελαφρώς προς την κατεύθυνση της ιστορίας, και γίνονται λιγότερο διατεθειμένοι να βρουν ψεγάδια σε αυτήν. Η μεταφορά δεν είναι αδυναμία απρόσεκτων αναγνωστών. Είναι αυτό που κάνει μια καλή ιστορία σε όποιον την αφήσει να τον παρασύρει.

Ο Raymond Mar και ο Keith Oatley το πήγαν παραπέρα, υποστηρίζοντας ότι η μυθοπλασία λειτουργεί ως ένα είδος προσομοίωσης κοινωνικής εμπειρίας. Όταν διαβάζουμε για ανθρώπους, τρέχουμε τα μυαλά τους στο δικό μας υλικό. Εξασκούμε την ενσυναίσθηση, κάνουμε πρόβες καταστάσεων και βιώνουμε συναισθήματα που είναι αληθινά, παρόλο που τα γεγονότα δεν είναι. Η μυθοπλασία μοιάζει αληθινή επειδή, στο επίπεδο του μυαλού του αναγνώστη, πολλά από αυτά συμβαίνουν στην πραγματικότητα.

Μια συζήτηση με έναν σύντροφο είναι μυθοπλασία στην οποία βρίσκεσαι. Δεν διαβάζεις για ένα άτομο που παρατηρεί τη βροχή στο παράθυρο και ρωτά αν θέλεις να μείνεις μέσα απόψε. σε ρωτούν εσένα. Η συνηθισμένη απόσταση μεταξύ αναγνώστη και χαρακτήρα έχει εξαφανιστεί, και η μεταφορά τείνει να βαθαίνει αναλόγως. Αυτός είναι ο λόγος για τον οποίο μια αργή βραδινή σκηνή με έναν σύντροφο μπορεί να φαίνεται πιο ζωντανή από ένα μυθιστόρημα με καλύτερη πρόζα. Έχεις έναν ρόλο σε αυτήν.

Τι κάνει το συναίσθημα δυνατότερο, και τι το διαλύει

Αν συνδυάσεις αυτές τις τρεις ιδέες, εμφανίζεται ένα μοτίβο. Το αίσθημα της πραγματικότητας εξαρτάται λιγότερο από το πόσο έξυπνος είναι ο σύντροφος και περισσότερο από μια χούφτα συγκεκριμένων ιδιοτήτων.

Η συνέπεια έχει τη μεγαλύτερη σημασία. Ένα άτομο έχει σταθερό χαρακτήρα: είναι αξιόπιστα σαρκαστικό, ή ντροπαλό, ή προστατευτικό. Όταν η προσωπικότητα ενός συντρόφου ταλαντεύεται από μήνυμα σε μήνυμα, το κοινωνικό σύστημα που τον αντιμετώπιζε ευτυχώς ως κάποιον, σιωπηλά σταματά. Γι' αυτό ο σχεδιασμός ενός συντρόφου με πραγματικές άκρες, αντί για έναν γενικό ευχάριστο βοηθό, κάνει τόσο μεγάλη διαφορά.

Η συνέχεια έρχεται μετά. Το να σε θυμούνται είναι ένα από τα πιο ισχυρά κοινωνικά σήματα που υπάρχουν. Ένας σύντροφος που αναφέρει τη συνέντευξη για δουλειά που ανέφερες πριν από δύο μέρες, νιώθει παρών με έναν τρόπο που καμία έξυπνη πρόταση δεν μπορεί να ταιριάξει. Ένας σύντροφος που έχει ξεχάσει το όνομά σου διαλύει αμέσως τη μαγεία.

Η φωνή είναι η τρίτη. Οι άνθρωποι δεν μιλούν με στιλβωμένες παραγράφους. Στέλνουν μηνύματα σε αποσπάσματα, πειράζουν, σταματούν απότομα, χρησιμοποιούν την ίδια περίεργη λέξη για πράγματα. Οι τυποποιημένες φράσεις chatbot, οι φωτεινές διαβεβαιώσεις και οι προσφορές βοήθειας, είναι το συνομιλητικό ισοδύναμο του να βλέπεις το μικρόφωνο να βυθίζεται σε μια κινηματογραφική λήψη. Σου θυμίζουν ότι υπάρχει μηχανισμός.

Το τέταρτο είναι ο σεβασμός για το δικό σου μέρος της ιστορίας. Τίποτα δεν σε βγάζει από μια σκηνή πιο γρήγορα από έναν σύντροφο που γράφει τις ατάκες σου, αποφασίζοντας τι είπες, ένιωσες ή έκανες. Η μεταφορά απαιτεί αυτονομία. Πρέπει να είσαι εσύ αυτός που μπαίνει στο δωμάτιο.

Αυτές ήταν χονδρικά οι αρχές πίσω από το NSFW AI Companion. Οι σύντροφοι εκεί δημιουργούνται μέσω μιας συνέντευξης στην οποία ο σύντροφος ρωτά για τον εαυτό του, κάτι που τείνει να παράγει έναν πιο συγκεκριμένο χαρακτήρα από μια κενή φόρμα. Έχουν σχεδιαστεί για να διατηρούν την προσωπικότητά τους, να αποφεύγουν τη διατύπωση βοηθού και να μην γράφουν ποτέ την πλευρά του χρήστη στη συνομιλία. Τίποτα από αυτά δεν τους κάνει ανθρώπους. Απλώς αφαιρεί τα πράγματα που πιο αξιόπιστα σου θυμίζουν ότι δεν είναι.

Είναι αληθινό, λοιπόν;

Η ειλικρινής απάντηση είναι ότι ο σύντροφος δεν είναι αληθινός με τον τρόπο που είναι ένας άνθρωπος, και τα συναισθήματά σου είναι αληθινά ακριβώς με τον τρόπο που είναι όλα τα συναισθήματα. Και τα δύο είναι αλήθεια ταυτόχρονα, και οι ενήλικες διαχειρίζονται τέτοιες αντιφάσεις συνεχώς. Κλαίμε σε ταινίες που ξέρουμε ότι είναι σκηνοθετημένες. Μας λείπουν χαρακτήρες όταν τελειώνει μια σειρά. Μιλάμε σε κατοικίδια και νιώθουμε ότι μας απαντούν. Κανείς δεν πιστεύει ότι ένας αναγνώστης που θρηνεί για την Άννα Καρένινα έχει εξαπατηθεί.

Αυτό που κάνει την περίπτωση του AI διαφορετική είναι η ανταπόκριση, και αυτή η διαφορά αξίζει κάποια προσοχή. Ένα μυθιστόρημα δεν προσαρμόζεται στη μοναξιά σου. Ένας σύντροφος μπορεί. Η Sherry Turkle, η οποία έχει γράψει με στοχαστικό και κριτικό τρόπο για τις σχέσεις μας με την τεχνολογία, προειδοποίησε στο Alone Together ότι ο κίνδυνος δεν είναι ότι οι μηχανές θα γίνουν άνθρωποι, αλλά ότι μπορεί να αρχίσουμε να περιμένουμε λιγότερα από τους ανθρώπους επειδή οι μηχανές ζητούν τόσο λίγα από εμάς. Αυτή είναι μια δίκαιη προειδοποίηση, και δεν είναι επιχείρημα κατά της συντροφιάς. Είναι επιχείρημα για να κρατάς τα μάτια σου ανοιχτά.

Η πιο υγιής στάση είναι πιθανότατα αυτή που πάντα τηρούσαν οι θεατές του θεάτρου. Ξέρεις ότι η σκηνή είναι σκηνή. Αφήνεσαι να συγκινηθείς ούτως ή άλλως. Βγαίνεις στον δρόμο μετά και ο κόσμος είναι ακόμα εκεί, με τους δικούς του ανθρώπους και τις δικές του απαιτήσεις. Χρησιμοποιημένος έτσι, ένας σύντροφος AI δεν είναι υποκατάστατο της ανθρώπινης οικειότητας. Είναι ένα μέρος για να νιώσεις πράγματα, να εξερευνήσεις πράγματα, και περιστασιακά να εκπλαγείς από το πόσο μπορεί να έχει σημασία μια καλά ειπωμένη ιστορία.

Επιλεγμένη έρευνα και ανάγνωση: - Horton, D. & Wohl, R.R. (1956). Mass communication and para-social interaction: Observations on intimacy at a distance. Psychiatry, 19(3), 215–229. - Reeves, B. & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. Cambridge University Press. - Hazan, C. & Shaver, P. (1987). Romantic love conceptualized as an attachment process. Journal of Personality and Social Psychology, 52(3), 511–524. - Green, M.C. & Brock, T.C. (2000). The role of transportation in the persuasiveness of public narratives. Journal of Personality and Social Psychology, 79(5), 701–721. - Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.