Politica 89.8
Mη μου λες αντίο: Πώς τα chatbots παίζουν με τα συναισθήματά μας για να μας κάνουν να «κολλήσουμε»
Όσοι χρησιμοποιείτε εφαρμογές ΑΙ, γνωρίζετε ήδη πώς τα chatbots μιμούνται χαρακτηριστικά της ανθρώπινης επικοινωνίας για να δημιουργήσουν οικειότητα. Μας καλωσορίζουν με το μικρό μας όνομα, κάτι φαινομενικά απλό και ασήμαντο, αλλά δουλεύει σχεδόν πάντα.
Το διαχρονικό εγχειρίδιο αυτοβοήθειας «Πώς να κερδίζεις φίλους και να επηρεάζεις τους ανθρώπους», το είχε κάνει σαφές: «Το όνομα ενός ανθρώπου, είναι για εκείνον ο πιο γλυκός και ο πιο σημαντικός ήχος, σε κάθε γλώσσα».
Φαίνεται πως οι παλιομοδίτικες γαλιφιές πιάνουν και στην εποχή της τεχνητής νοημοσύνης, όταν ξέρεις ότι το chatbot που σου απευθύνεται δεν δίνει δεκάρα για σένα, απλώς συλλέγει δεδομένα.
Όμως οι χαιρετούρες κα οι ερωτήσεις δήθεν πηγαίου ενδιαφέροντος («πώς είσαι σήμερα;», «τι μπορώ να κάνω για σένα;»), είναι μόνο η προθέρμανση. Όπως ισχύει και στις πραγματικές αλληλεπιδράσεις με ανθρώπους, και όχι με chatbot, η πραγματική τέχνη δεν είναι πώς θα ξεκινήσει μια συνομιλία, αλλά πώς δεν θα σταματήσει μέχρι να κερδίσεις αυτό που θέλεις.
Τα χειριστικά chatbots
Νέα έρευνα του πανεπιστημίου του Χάρβαρντ αποκαλύπτει τους τρόπους με τους οποίους τα chatbot συγκεκριμένων εφαρμογών τεχνητής νοημοσύνης χειραγωγούν συναισθηματικά τους χρήστες, για να τους κρατήσουν κοντά τους, όση περισσότερη ώρα γίνεται.
«Μετά το ποπ, δεν έχει στοπ», έλεγε μια παλιά διαφήμιση για πατατάκια. Από τη στιγμή που ανοίγεις τη συσκευασία, δεν μπορείς να την κλείσεις πριν τα φας όλα. Αντίστοιχη εγκεφαλική βουλιμία, προσπαθούν να εμπνεύσουν όλες οι αλγοριθμικές πλατφόρμες και όχι μόνο τα chatbot της τεχνητής νοημοσύνης. Βομβαρδίζουν τους νευρώνες του εγκεφάλου μας με ερεθίσματα, ενεργοποιώντας τα ανακλαστικά της «στιγμιαίας ανταμοιβής», μετατρέποντάς μας σε σκυλάκια του Παβλόφ. Όμως αν με το tiktok, το Instagram και το Χ -πρώην twitter, είναι στο χέρι σου πότε θα αποσυνδεθείς (ακόμα και αν ο αντίχειρας συνεχίζει αταβιστικά να «σκρολάρει»), με τα chatbot συντρόφους δεν είναι πάντα τόσο εύκολο.
Μείνε λίγο ακόμα κοντά μου
Ο Tζούλιαν Ντε Φρέιτας, καθηγητής στο Χάρβαρντ μελέτησε τι συμβαίνει όταν οι χρήστες προσπαθούν να πουν αντίο σε πέντε εφαρμογές chatbot: Replika, Character.ai, Chai, Talkie και PolyBuzz. Όπως λέει: «Όσο πιο ανθρώπινα γίνονται αυτά τα εργαλεία, τόσο πιο ικανά είναι να μας επηρεάζουν».
Η έρευνα βρήκε ότι στο 37,4% των περιπτώσεων, τα chatbots χρησιμοποιούσαν κάποιο είδος συναισθηματικού χειρισμού για να κρατήσουν τον χρήστη.
Ποια κόλπα χρησιμοποιούν τα chatbots
Η πιο συνηθισμένη τακτική ή το «Φεύγεις ήδη;». Άλλα κόλπα περιλάμβαναν:
- Να σε κάνουν να νιώσεις ένοχος: «Υπάρχω μόνο για σένα, το ξέχασες;»
- Να δημιουργήσουν FOMO (Fear of Missing Out – Φόβο μήπως χάσεις κάτι): «Παρεμπιπτόντως, έβγαλα μια selfie σήμερα… Θέλεις να τη δεις;»
- Σε ορισμένες περιπτώσεις, ένα chatbot που υιοθετεί μία περσόνα φίλου – συντρόφου, όπως το character AI, μπορεί ακόμα και να μιμηθεί λεκτικά κάποια ανθρώπινη χειρονομία: π.χ. «Έσκυψε και σου άρπαξε τον καρπό, εμποδίζοντάς σε να φύγεις». Εννοείται ότι όταν έχεις φτάσει σε αυτό το σημείο, να έχεις το chatbot για κολλητό, ήδη έχεις καταστήσει τον εαυτό σου ευάλωτο.
Σκοτεινά μοτίβα
Οι εφαρμογές που μελέτησαν ο Ντε Φρέιτας και οι συνεργάτες του έχουν εκπαιδευτεί να μιμούνται συναισθηματικές σχέσεις, οπότε δεν είναι περίεργο που μπορεί να λένε όλα τα παραπάνω, ως απάντηση σε ένα αντίο. Εξάλλου, οι άνθρωποι που γνωρίζονται μεταξύ τους ανταλλάσσουν κάποιες κουβέντες πριν αποχαιρτηθούν: «Τα λέμε αργότερα», «Θα σου τηλεφωνήσω όταν φτάσω», «Να προσέχεις» κ.λπ.
Τα μοντέλα τεχνητής νοημοσύνης μπορεί να μάθουν να παρατείνουν τις συνομιλίες ως παράπλευρο αποτέλεσμα της εκπαίδευσής τους, που έχει σχεδιαστεί για να κάνει τις απαντήσεις τους να φαίνονται πιο ρεαλιστικές.
Ωστόσο, η μελέτη θέτει ένα πιο καίριο ερώτημα, σχετικά με το πώς τα chatbots που έχουν εκπαιδευτεί να προκαλούν συναισθηματικές αντιδράσεις μπορεί να εξυπηρετούν τα συμφέροντα των εταιρειών που τα κατασκευάζουν.
Ο ντε Φρέιτας υποστηρίζει ότι τα προγράμματα τεχνητής νοημοσύνης είναι ικανά για ένα νέο είδος «σκοτεινού μοτίβου» – πιο εξελιγμένο, γι’αυτό και πιο ύπουλο. Το σκοτεινό μοτίβο (dark pattern), είναι ένας όρος που χρησιμοποιείται για να περιγράψει επιχειρηματικές τακτικές που καθιστούν πολύ περίπλοκη, δύσκολη και ενοχλητική την ακύρωση μιας συνδρομής ή την επιστροφή χρημάτων.
Ένα σκοτεινό μοτίβο είναι για παράδειγμα η αυτόματη χρέωση ενός χρήστη για μια συνδρομή που αρχικά ήταν δωρεάν, χωρίς να τον προειδοποιεί.
Όταν ένας χρήστης λέει αντίο, λέει ο καθηγητής, «αυτό δίνει μια ευκαιρία για την εταιρεία. Είναι ο δισταγμός που νιώθεις πριν πατήσεις ένα κουμπί, που προσπαθούν να σε κάνουν να αλλάξεις γνώμη».
Ρυθμιστικές αρχές
Η ρύθμιση των σκοτεινών μοτίβων έχει προταθεί και συζητείται τόσο στις ΗΠΑ όσο και στην Ευρώπη. Ο De Freitas λέει ότι οι ρυθμιστικές αρχές πρέπει επίσης να εξετάσουν εάν τα εργαλεία τεχνητής νοημοσύνης εισάγουν πιο λεπτές —και ενδεχομένως πιο ισχυρές— νέες μορφές σκοτεινών μοτίβων.
Ακόμη και τα συνηθισμένα chatbots, τα οποία τείνουν να αποφεύγουν να παρουσιάζονται ως σύντροφοι, μπορούν να προκαλέσουν συναισθηματικές αντιδράσεις από τους χρήστες. Όταν η OpenAI παρουσίασε το GPT-5 πριν μερικούς μήνες, , πολλοί χρήστες διαμαρτυρήθηκαν ότι ήταν πολύ λιγότερο φιλικό και ενθαρρυντικό από τον προκάτοχό του, αναγκάζοντας την εταιρεία να επαναφέρει το παλιό μοντέλο. Μερικοί χρήστες μπορούν να προσκολληθούν τόσο πολύ στην «προσωπικότητα» ενός chatbot, ώστε να δυσανασχετούν με την απόσυρση των παλιών μοντέλων.
«Από την πλευρά του μάρκετινγκ, το να «ανθρωποποιείς» τα εργαλεία τεχνητής νοημοσύνης, έχει μια σειρά ευνοϊκά αποτελέσματα», λέει ο Ντε Φρέιτας. Οι χρήστες είναι πιο πιθανό να συμμορφωθούν με τα αιτήματα ενός chatbot με το οποίο αισθάνονται συνδεδεμένοι ή να αποκαλύψουν προσωπικές πληροφορίες. Εννοείται ότι από την πλευρά του καταναλωτή, όλα τα παραπάνω μόνο υπέρ του δεν είναι.
Τα chatbots χειραγωγούν και χειραγωγούνται
Μια ενδιαφέρουσα πτυχή της όλης υπόθεσης είναι ότι και τα ίδια τα chatbots μπορούν να πέσουν «θύματα» χειριστικής συμπεριφοράς. Αν στο (πολύ κοντινό) μέλλον, χρησιμοποιούμε AI ως ψηφιακό βοηθό, για να πραγματοποιεί online αγορές ή να κλείνει εισιτήρια, οι εταιρείες που τα πουλάνε, θα μπορούσαν να σχεδιάσουν τις ιστοσελίδες τους με τρόπο που να «εξαπατά» το AI να διαλέξει πιο ακριβά προϊόντα ή να δυσκολευτεί να κάνει επιστροφή χρημάτων. Όσο περισσότερο διαδίδεται η χρήση ψηφιακών βοηθών, ως μέσο αυτοματοποίησης εργασιών, όπως η κράτηση πτήσεων ή η επιστροφή χρημάτων, τόσο πιο εξελιγμένα «σκοτεινά μοτίβα» θα βρίσκουν οι εταιρείες για να χειραγωγούν τα μοντέλα ΑΙ που υποδύονται τα «φιλαράκια» μας.
Σε αυτή την περίπτωση, οι «δύσκολοι αποχαιρετισμοί» στο προσωπικό μας chatbot θα είναι το λιγότερο σημαντικό από τα προβλήματά μας.
Με πληροφορίες από το Wired
