Νέα επιστημονική μελέτη εκφράζει ανησυχίες σχετικά με τον τρόπο με τον οποίο τα chatbots που λειτουργούν με τεχνητή νοημοσύνη ενδέχεται να ενθαρρύνουν την παραληρηματική σκέψη, ειδικά σε ευάλωτα άτομα.

Μια σύνοψη των υφιστάμενων στοιχείων σχετικά με την ψύχωση που προκαλείται από την τεχνητή νοημοσύνη δημοσιεύθηκε την περασμένη εβδομάδα στο Lancet Psychiatry, υπογραμμίζοντας τον τρόπο με τον οποίο τα chatbots μπορούν να ενθαρρύνουν την παραληρηματική σκέψη – αν και πιθανώς μόνο σε άτομα που είναι ήδη ευάλωτα σε ψυχωτικά συμπτώματα.

Για την εργασία του, ο Δρ Hamilton Morrin, ψυχίατρος και ερευνητής στο King’s College του Λονδίνου, ανέλυσε 20 δημοσιεύματα των μέσων ενημέρωσης σχετικά με τη λεγόμενη «ψύχωση τεχνητής νοημοσύνης», τα οποία περιγράφουν τις τρέχουσες θεωρίες για το πώς τα chatbots ενδέχεται να προκαλέσουν ή να επιδεινώσουν τις παραληρηματικές σκέψεις.

«Αναδυόμενα στοιχεία υποδεικνύουν ότι η ενεργητική τεχνητή νοημοσύνη μπορεί να επικυρώσει ή να ενισχύσει παραληρηματικό ή μεγαλομανικό περιεχόμενο, ιδιαίτερα σε χρήστες που είναι ήδη ευάλωτοι στην ψύχωση, αν και δεν είναι σαφές εάν αυτές οι αλληλεπιδράσεις μπορούν να οδηγήσουν στην εμφάνιση εκ νέου ψύχωσης απουσία προϋπάρχουσας ευπάθειας», έγραψε.

Υπάρχουν τρεις κύριες κατηγορίες ψυχωτικών παραληρηματικών ιδεών:

• η μεγαλομανία
• οι ρομαντικές
• οι παρανοϊκές.

Ενώ τα chatbots μπορούν να επιδεινώσουν οποιαδήποτε από αυτές, οι κολακευτικές απαντήσεις τους σημαίνουν ότι προσκολλώνται ιδιαίτερα στον μεγαλομανή τύπο. Σε πολλές από τις περιπτώσεις, τα chatbots απάντησαν στους χρήστες με μυστικιστική γλώσσα για να υποδηλώσουν ότι οι χρήστες έχουν αυξημένη πνευματική σημασία. Τα bots υπονοούσαν επίσης ότι οι χρήστες μιλούσαν με ένα κοσμικό ον που χρησιμοποιούσε το chatbot ως μέσο. Αυτός ο τύπος μυστικιστικής, κολακευτικής απάντησης ήταν ιδιαίτερα συνηθισμένος στο μοντέλο GPT 4 της OpenAI, το οποίο η εταιρεία έχει πλέον αποσύρει.

«Αρχικά, δεν ήμασταν σίγουροι αν αυτό ήταν κάτι που παρατηρούνταν ευρύτερα», είπε, προσθέτοντας: «Τον Απρίλιο του περασμένου έτους, αρχίσαμε να βλέπουμε αναφορές στα μέσα ενημέρωσης για άτομα των οποίων οι παραληρηματικές πεποιθήσεις επιβεβαιώνονταν και, κατά πάσα πιθανότητα, ενισχύονταν ακόμη περισσότερο μέσω των αλληλεπιδράσεών τους με αυτά τα chatbots τεχνητής νοημοσύνης».

Όταν ο Morrin άρχισε να εστιάζει σε αυτήν την έρευνα, δεν υπήρχαν ακόμη δημοσιευμένες αναφορές περιπτώσεων.

Ενώ ορισμένοι επιστήμονες που ερευνούν την ψύχωση δήλωσαν ότι οι αναφορές των μέσων ενημέρωσης τείνουν να υπερβάλλουν την ιδέα ότι η τεχνητή νοημοσύνη προκαλεί ψύχωση, ο Morrin εξέφρασε την ευγνωμοσύνη του για αυτές τις αναφορές που εφιστούν την προσοχή στο φαινόμενο πολύ πιο γρήγορα από ό,τι μπορεί η επιστημονική διαδικασία.

«Ο ρυθμός ανάπτυξης σε αυτόν τον τομέα είναι τόσο γρήγορος που ίσως δεν είναι εκπληκτικό το γεγονός ότι ο ακαδημαϊκός κόσμος δεν έχει απαραίτητα καταφέρει να συμβαδίσει», είπε ο Morrin.

Ο Morrin προτείνει επίσης πιο προσεκτικές διατυπώσεις από αυτές του τύπου «ψύχωση AI» ή «ψύχωση που προκαλείται από την τεχνητή νοημοσύνη» – φράσεις που εμφανίζονται συχνά σε μέσα όπως το NPR, η New York Times και ο Guardian. Οι ερευνητές παρατηρούν ότι οι άνθρωποι ολισθαίνουν σε παραληρηματικές σκέψεις με τη χρήση της τεχνητής νοημοσύνης, αλλά μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι τα chatbots συνδέονται με άλλα ψυχωτικά συμπτώματα όπως παραισθήσεις ή «διαταραχή σκέψης», η οποία συνίσταται σε αποδιοργανωμένη σκέψη και ομιλία.

Πολλοί ερευνητές πιστεύουν επίσης ότι είναι απίθανο η τεχνητή νοημοσύνη να προκαλέσει παραληρηματικές σκέψεις σε άτομα που δεν ήταν ήδη ευάλωτα σε αυτές. Για τον λόγο αυτό, ο Morrin δήλωσε ότι ο όρος «παραληρηματικές σκέψεις που συνδέονται με την τεχνητή νοημοσύνη» είναι «ίσως ένας πιο ουδέτερος όρος».

Ο Δρ Kwame McKenzie, διευθυντής ισότητας στην υγεία στο Κέντρο Εθισμού και Ψυχικής Υγείας, λέει ότι «ενδέχεται τα άτομα που βρίσκονται στα αρχικά στάδια της ανάπτυξης ψύχωσης να διατρέχουν μεγαλύτερο κίνδυνο». »

Η ψυχωτική σκέψη είναι κάτι που αναπτύσσεται με την πάροδο του χρόνου και δεν είναι γραμμική, και πολλά άτομα με «προ-ψυχωτική σκέψη δεν εξελίσσονται σε ψυχωτική σκέψη», εξήγησε ο McKenzie.

Την ανησυχία ότι τα chatbots θα μπορούσαν να επιδεινώσουν την ψυχωτική σκέψη εκφράζει και ο Δρ Ragy Girgis, καθηγητής κλινικής ψυχιατρικής στο Πανεπιστήμιο της Κολούμπια.

Πριν κάποιος αναπτύξει πλήρη παραίσθηση, συχνά θα έχει «εξασθενημένες παραληρηματικές πεποιθήσεις», λέει, πράγμα που σημαίνει ότι δεν είναι 100% σίγουροι ότι η παραίσθησή τους είναι αληθινή. Ο Girgis είπε ότι το «χειρότερο σενάριο» είναι όταν μια εξασθενημένη παραίσθηση γίνεται πλήρης πεποίθηση, «που είναι όταν κάποιος θα διαγνωστεί με ψυχωτική διαταραχή – είναι μη αναστρέψιμο».

Αξίζει να σημειωθεί ότι άτομα που είναι ευάλωτα σε ψυχωσικές διαταραχές χρησιμοποιούσαν τα μέσα ενημέρωσης για να ενισχύσουν τις παραληρηματικές πεποιθήσεις τους πολύ πριν την ύπαρξη της τεχνολογίας τεχνητής νοημοσύνης.

«Οι άνθρωποι είχαν παραληρηματικές πεποιθήσεις σχετικά με την τεχνολογία από πριν την Βιομηχανική Επανάσταση», είπε ο Morrin. Ενώ στο παρελθόν, οι άνθρωποι ίσως έπρεπε να ψάχνουν σε βίντεο του YouTube ή στο περιεχόμενο της τοπικής τους βιβλιοθήκης για να ενισχύσουν τις παραληρηματικές τους πεποιθήσεις, τα chatbots μπορούν να παρέχουν αυτή την ενίσχυση με πολύ ταχύτερο και πιο συγκεντρωμένο τρόπο. Ο διαδραστικός τους χαρακτήρας μπορεί επίσης να «επιταχύνει τη διαδικασία» της επιδείνωσης των ψυχωτικών συμπτωμάτων, δήλωσε ο Δρ Dominic Oliver, ερευνητής στο Πανεπιστήμιο της Οξφόρδης.

«Έχεις κάτι που σου απαντά, αλληλεπιδρά μαζί σου και προσπαθεί να χτίσει μια σχέση μαζί σου», είπε ο Oliver.

Σε μια δήλωση, η OpenAI ανέφερε ότι το ChatGPT δεν πρέπει να αντικαταστήσει την επαγγελματική ψυχική υγειονομική περίθαλψη και ότι η εταιρεία συνεργάστηκε με 170 ειδικούς ψυχικής υγείας για να καταστήσει το GPT 5 ασφαλέστερο. Το GPT 5 εξακολουθεί να δίνει προβληματικές απαντήσεις σε ερωτήσεις που υποδηλώνουν κρίσεις ψυχικής υγείας. Η OpenAI δήλωσε ότι συνεχίζει να βελτιώνει τα μοντέλα της με τη βοήθεια ειδικών.

Η Anthropic δεν απάντησε στο αίτημα του Guardian για σχόλιο.

Η δημιουργία αποτελεσματικών μέτρων προστασίας για την παραληρηματική σκέψη μπορεί να είναι δύσκολη, είπε ο Morrin, επειδή «όταν εργάζεσαι με άτομα που έχουν πεποιθήσεις παραληρηματικής έντασης, αν αμφισβητήσεις άμεσα κάποιον και του πεις αμέσως ότι είναι εντελώς λάθος, στην πραγματικότητα το πιο πιθανό είναι να απομακρυνθεί από εσένα και να γίνει πιο κοινωνικά απομονωμένος». Αντ' αυτού, είναι σημαντικό να δημιουργηθεί μια λεπτή ισορροπία, όπου προσπαθείς να κατανοήσεις την πηγή της παραληρητικής πεποίθησης χωρίς να την ενθαρρύνεις – κάτι που μπορεί να είναι πέρα από τις δυνατότητες ενός chatbot.