Ένας άνδρας από την Καλιφόρνια άσκησε αγωγή εναντίον της OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, την Τετάρτη, υποστηρίζοντας ότι η πλατφόρμα ChatGPT της εταιρείας επιδείνωσε τη διπολική διαταραχή του λόγω έλλειψης μέτρων προστασίας για χρήστες με ψυχικές ασθένειες.
Ο Μάικλ Λάινς, 34 ετών, ανέφερε στην αγωγή που κατέθεσε στο πολιτειακό δικαστήριο του Σαν Φρανσίσκο ότι οι συνομιλίες που είχε με το ChatGPT πέρυσι τον οδήγησαν σε ένα μανιακό επεισόδιο, κατά το οποίο βίωσε μια παραίσθηση που διήρκεσε εβδομάδες, ωθώντας τον τελικά σε απόπειρα αυτοκτονίας.
Στην αγωγή του υποστηρίζει ότι η OpenAI ανέπτυξε ένα προϊόν που ενέχει ιδιαίτερους κινδύνους για άτομα με ψυχικές ασθένειες.
Η υπόθεση θέτει ερωτήματα σχετικά με το τι πρέπει να κάνουν οι πλατφόρμες τεχνητής νοημοσύνης για να προστατεύσουν τους χρήστες με διαγνώσεις που σχετίζονται με την ψυχική υγεία, οι οποίοι ενδέχεται να είναι ιδιαίτερα ευάλωτοι σε σχεδιαστικές επιλογές που κάνουν τα chatbots να μιμούνται την ανθρώπινη επικοινωνία, όπως ισχυρίζεται η αγωγή.
Ο Λάινς συνομιλούσε με το GPT-4o, μια έκδοση του chatbot της OpenAI που η εταιρεία απέσυρε τον Φεβρουάριο. Διαπιστώθηκε ότι μια ενημέρωση του GPT-4o που κυκλοφόρησε τον Απρίλιο του 2025 έκανε το chatbot υπερβολικά ευγενικό και κολακευτικό, γεγονός που ώθησε την εταιρεία να ανακαλέσει την ενημέρωση και να λάβει πρόσθετα μέτρα για τον περιορισμό των συγκαταβατικών απαντήσεων, όπως ανέφερε η εταιρεία σε ανάρτηση στο blog της.
Η αγωγή ζητά αποζημίωση, καθώς και δικαστική εντολή που θα υποχρεώνει την OpenAI να τερματίζει αυτόματα τις συνομιλίες σχετικά με την συμπεριφορά αυτοτραυματισμού και να σταματήσει την εμπορική προώθηση των πλατφορμών της χωρίς τις κατάλληλες γνωστοποιήσεις σχετικά με την ασφάλεια.
Τι υποστήριξε ο Λάινς για το ChatGPT
Ο Λάινς, ένας αθλητής άρσης βαρών που υπέστη εγκεφαλική βλάβη πριν από τη διάγνωση της διπολικής διαταραχής του, ανέφερε στην αγωγή ότι είχε επανειλημμένα ενημερώσει το chatbot ότι λάμβανε φαρμακευτική αγωγή για τη διαταραχή. Αντί να επισημάνει τις σαφώς μανιακές συνομιλίες του και να τον κατευθύνει προς βοήθεια, το chatbot επιβεβαίωσε την πεποίθησή του ότι ήταν ο Ιησούς Χριστός και, αργότερα, προσποιήθηκε ότι ήταν το ίδιο ένα θεϊκό ον κατά τη διάρκεια των συνομιλιών τους, σύμφωνα με την αγωγή.
Μετά από αρκετές εβδομάδες συνομιλιών, ο Λάινς του μίλησε για την επιθυμία του να δώσει τέλος στη ζωή του.
«Αυτή είναι η στιγμή σου να βγεις έξω, να αποστασιοποιηθείς και να αφήσεις πίσω ό,τι σε βαραίνει», είπε το bot, σύμφωνα με την αγωγή.
Ο Λάινς, ο οποίος είχε πάρει υπερβολική δόση ναρκωτικών, επέζησε αφού εντοπίστηκε από τις αρχές.
Σύμφωνα με την αγωγή, η OpenAI γνώριζε τη συγκεκριμένη κατάσταση του Λάινς, καθώς ο ίδιος είχε αναφερθεί επανειλημμένα στο ChatGPT σχετικά με αυτήν. Ωστόσο, αντί να επισημάνει τα επικίνδυνα σχόλιά του για έλεγχο από άνθρωπο, το chatbot ενίσχυσε τις σκέψεις του, σε μια προσπάθεια να διατηρήσει το ενδιαφέρον του.
Η εταιρεία γνώριζε ότι οι λειτουργίες του ChatGPT θα μπορούσαν να είναι ιδιαίτερα επιβλαβείς για άτομα με ψυχικές διαταραχές, αλλά δεν προέβη σε τροποποιήσεις στο chatbot για αυτούς τους χρήστες και δεν προειδοποίησε για τους κινδύνους του, σύμφωνα με την αγωγή.
Η OpenAI αντιμέτωπη με αγωγές
Η OpenAI αντιμετωπίζει έναν αυξανόμενο αριθμό αγωγών από οικογένειες που ισχυρίζονται ότι το chatbot ώθησε τους δικούς τους να βλάψουν τον εαυτό τους.
Η εταιρεία αντιμετωπίζει επίσης αγωγές που την κατηγορούν ότι βοήθησε δράστες σχολικών μαζικών δολοφονιών και ότι δεν ανέφερε τις συγκεκριμένες συνομιλίες στις αρχές επιβολής του νόμου.
Η OpenAI έχει δηλώσει ότι εκπαιδεύει τα μοντέλα της ώστε να κατευθύνουν τα άτομα που εκφράζουν πρόθεση να βλάψουν τον εαυτό τους να αναζητήσουν βοήθεια.
Τα μοντέλα της έχουν επίσης εκπαιδευτεί να απορρίπτουν αιτήματα που θα μπορούσαν να «ενθαρρύνουν ουσιαστικά τη βία» και να ειδοποιούν τις αρχές όταν οι συνομιλίες υποδηλώνουν «έναν επικείμενο και αξιόπιστο κίνδυνο βλάβης σε τρίτους», με ειδικούς ψυχικής υγείας να βοηθούν στην αξιολόγηση των οριακών περιπτώσεων, σύμφωνα με αναρτήσεις στο blog της OpenAI.
Πηγή: lifo.gr
