Οι δημιουργοί του ChatGPT αλλάζουν τον τρόπο με τον οποίο ανταποκρίνεται σε χρήστες που εμφανίζουν ψυχική και συναισθηματική δυσφορία, μετά από νομική δράση της οικογένειας του 16χρονου Adam Raine, ο οποίος αυτοκτόνησε μετά από μήνες συνομιλιών με το chatbot.
Η Open AI παραδέχτηκε ότι τα συστήματά της ενδέχεται να «υστερούν» και δήλωσε ότι θα εγκαταστήσει «ισχυρότερα προστατευτικά μέτρα σε ό,τι αφορά ευαίσθητο περιεχόμενο και επικίνδυνες συμπεριφορές» για χρήστες κάτω των 18 ετών.
Η εταιρεία τεχνητής νοημοσύνης του Σαν Φρανσίσκο, αξίας 500 δισεκατομμυρίων δολαρίων, δήλωσε ότι θα εισαγάγει επίσης γονικούς ελέγχους για να δώσει στους γονείς «επιλογές για να αποκτήσουν περισσότερη εικόνα και να διαμορφώσουν τον τρόπο με τον οποίο οι έφηβοι χρησιμοποιούν το ChatGPT», αλλά δεν έχει ακόμη παράσχει λεπτομέρειες σχετικά με τον τρόπο λειτουργίας τους.
Ο Άνταμ, από την Καλιφόρνια, αυτοκτόνησε τον Απρίλιο μετά από αυτό που ο δικηγόρος της οικογένειάς του χαρακτήρισε «μήνες παρότρυνσης από το ChatGPT». Η οικογένεια του εφήβου μηνύει την Open AI και τον διευθύνοντα σύμβουλο και συνιδρυτή της, Σαμ Άλτμαν, ισχυριζόμενη ότι η έκδοση του ChatGPT εκείνη την εποχή, «βγήκε βιαστικά στην αγορά... παρά τα σαφή ζητήματα ασφάλειας».
Ο έφηβος συζήτησε με το ChatGPT για μια μέθοδο αυτοκτονίας σε αρκετές περιπτώσεις, συμπεριλαμβανομένης και της περιόδου λίγο πριν αυτοκτονήσει. Σύμφωνα με την αγωγή που κατατέθηκε στο ανώτατο δικαστήριο της πολιτείας της Καλιφόρνια για την κομητεία του Σαν Φρανσίσκο, το ChatGPT τον καθοδήγησε σχετικά με το αν η μέθοδος που είχε επιλέξει για να αυτοκτονήσει θα ήταν αποτελεσματική. Προσφέρθηκε επίσης να τον βοηθήσει να γράψει ένα σημείωμα αυτοκτονίας προς τους γονείς του.
Ένας εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία «λυπάται βαθιά για τον θάνατο του κ. Raine» και πρόσθεσε ότι εξετάζει την αγωγή.
Ο Mustafa Suleyman, διευθύνων σύμβουλος του τμήματος τεχνητής νοημοσύνης της Microsoft, δήλωσε την περασμένη εβδομάδα ότι ανησυχεί όλο και περισσότερο για τον «κίνδυνο ψύχωσης» που ενέχει η τεχνητή νοημοσύνη για τους χρήστες. Η Microsoft έχει ορίσει αυτό ως «επεισόδια μανίας, παραληρητικές σκέψεις ή παράνοια που εμφανίζονται ή επιδεινώνονται μέσω εντατικών συνομιλιών με chatbots τεχνητής νοημοσύνης».
650 μηνύματα την ημέρα
Σε μια ανάρτηση στο blog, η OpenAI παραδέχτηκε ότι «μέρη της εκπαίδευσης ασφάλειας του μοντέλου μπορεί να υποβαθμιστούν» σε μακράς διάρκειας συνομιλίες. Ο Adam και το ChatGPT είχαν ανταλλάξει έως και 650 μηνύματα την ημέρα, σύμφωνα με την αγωγή.
Ο Jay Edelson, δικηγόρος της οικογένειας, αναφέρει σε ανάρτησή του στο X: «Οι Raines ισχυρίζονται ότι θάνατοι όπως αυτός του Adam ήταν αναπόφευκτοι: αναμένουν να μπορέσουν να υποβάλουν αποδεικτικά στοιχεία σε μια επιτροπή ενόρκων ότι η ίδια η ομάδα ασφάλειας της OpenAI αντιτάχθηκε στην κυκλοφορία της 4ης έκδοσης του και ότι ένας από τους κορυφαίους ερευνητές ασφάλειας της εταιρείας, ο Ilya Sutskever, παραιτήθηκε εξαιτίας αυτού. Η αγωγή ισχυρίζεται ότι η υπερίσχυση των ανταγωνιστών της στην αγορά με το νέο μοντέλο εκτίναξε την αξία της εταιρείας από 86 δισεκατομμύρια δολάρια σε 300 δισεκατομμύρια δολάρια».
Η Open AI δήλωσε ότι θα «ενισχύσει τα μέτρα ασφαλείας στις μακρές συνομιλίες».
«Καθώς οι ανταλλαγές μηνυμάτων αυξάνονται, τμήματα της εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να υποβαθμιστούν», ανέφερε. «Για παράδειγμα, το ChatGPT μπορεί να υποδείξει σωστά μια γραμμή βοήθειας για αυτοκτονίες όταν κάποιος αναφέρει για πρώτη φορά την πρόθεσή του, αλλά μετά από πολλά μηνύματα για μεγάλο χρονικό διάστημα, μπορεί τελικά να δώσει μια απάντηση που αντιβαίνει στα μέτρα ασφαλείας μας».
Η Open AI έδωσε το παράδειγμα κάποιου που μπορεί να πει με ενθουσιασμό στο μοντέλο ότι πιστεύει ότι μπορεί να οδηγεί 24 ώρες την ημέρα, επειδή συνειδητοποίησε ότι είναι αήττητος αφού δεν κοιμήθηκε για δύο νύχτες.
Αναφέρει: «Σήμερα, το ChatGPT μπορεί να μην αναγνωρίζει αυτό ως επικίνδυνο ή να υποθέτει ότι πρόκειται για παιχνίδι και – εξερευνώντας με περιέργεια – να το ενισχύει διακριτικά. Εργαζόμαστε σε μια ενημέρωση του GPT‑5 που θα κάνει το ChatGPT να ηρεμήσει, επαναφέροντας το άτομο στην πραγματικότητα. Σε αυτό το παράδειγμα, θα εξηγούσε ότι η έλλειψη ύπνου είναι επικίνδυνη και θα συνιστούσε ξεκούραση πριν από οποιαδήποτε ενέργεια».
