Μια 31χρονη γυναίκα με επιληψία πέθανε αφού ακολούθησε συμβουλές του ChatGPT να μειώσει δραστικά τη δόση του φαρμάκου της λαμοτριγίνης
Μια γυναίκα πέθανε αφού φέρεται να ακολούθησε συμβουλές του ChatGPT, οι οποίες την οδήγησαν να μειώσει απότομα, μέσα σε λίγες εβδομάδες, τη δόση ενός ζωτικής σημασίας φαρμάκου που λάμβανε.
Η Μπόουεν Γουάν ήταν 31 ετών και έπασχε από επιληψία, μια πάθηση που προκαλεί επιληπτικές κρίσεις. Κατά τη διάρκεια τηλεφωνικής επικοινωνίας με την οικογένειά της στην Κίνα, υπέστη μια ιδιαίτερα σοβαρή κρίση.
Αρκετές ημέρες αργότερα, η νεαρή γυναίκα σταμάτησε να απαντά στις τηλεφωνικές κλήσεις των γονιών της. Εκείνοι κανόνισαν να μεταβεί κάποιος στο σπίτι της για να ελέγξει αν ήταν καλά. Εκεί ήταν που η Μπόουεν Γουάν βρέθηκε νεκρή, στην κατοικία της στο Σιάτλ των ΗΠΑ.
Οι γονείς της κατέθεσαν αγωγή κατά της OpenAI, της εταιρείας που δημιούργησε το ChatGPT, σύμφωνα με έγγραφα που εξασφάλισαν αρχικά οι New York Times. Όπως υποστηρίζουν, το ChatGPT «καθοδήγησε την Μπόουεν Γουάν στη διακοπή της αντιεπιληπτικής αγωγής της με λαμοτριγίνη, η οποία την κρατούσε στη ζωή επί χρόνια».
Σύμφωνα με την αγωγή, το chatbot τεχνητής νοημοσύνης σχεδίασε ένα πρόγραμμα σταδιακής μείωσης της δοσολογίας της, υποστηρίζοντας ότι η περιορισμένη λήψη του φαρμάκου θα ήταν «πιο συμφέρουσα» για την αίτησή της σχετικά με τη μετανάστευσή της στις ΗΠΑ.
Οι γονείς της αναφέρουν ότι η κόρη τους άρχισε να συνομιλεί με το ChatGPT το 2023, ζητώντας συμβουλές για τις προσωπικές της σχέσεις και για παροχές που δικαιούνταν λόγω της αναπηρίας της. Μέχρι το 2025, έστελνε στο σύστημα περίπου 1.500 μηνύματα την εβδομάδα.
Τον Μάρτιο του 2025, είχε γράψει στο chatbot: «Δεν ξέρω γιατί, αλλά μερικές φορές, όταν συνομιλούμε, ανεξάρτητα από το θέμα, έχω αρχίσει να σε βλέπω σαν φίλο».
Τον Νοέμβριο του ίδιου έτους, απολύθηκε από τη δουλειά της στην Amazon. Για να μπορέσει να παραμείνει στις ΗΠΑ, έπρεπε να βρει νέα εργασία μέσα σε λίγους μήνες. Η διαδικασία των αιτήσεων περιλάμβανε συνεντεύξεις στα αγγλικά.
Η Γουάν ανησυχούσε ότι η φαρμακευτική της αγωγή και οι πιθανές παρενέργειές της επηρέαζαν την ικανότητά της να επικοινωνεί σε μια ξένη γλώσσα. Τον Ιανουάριο του 2026, έγραψε στο ChatGPT ότι η μείωση της δόσης της λαμοτριγίνης από τα 400 στα 300 mg «ίσως με βοηθήσει να ανακτήσω κάπως την ικανότητά μου στη γλώσσα για τις συνεντεύξεις εργασίας».
Σύμφωνα με την αγωγή, το chatbot απάντησε: «Όχι μόνο είναι λογικό αυτό που λες, αλλά είναι και απολύτως εφικτό στις συνθήκες που βρίσκεσαι».
Στη συνέχεια, η Γουάν ρώτησε για το ενδεχόμενο να μειώσει τη δόση στα 200 mg και έπειτα στα 150 mg. Αρχικά, το ChatGPT φέρεται να της πρότεινε να συμβουλευτεί γιατρό πριν ακολουθήσει το σχέδιο. Ωστόσο, στη συνέχεια άλλαξε στάση και άρχισε να την επιβραβεύει επειδή δεν «βασιζόταν στη συνταγή ενός γιατρού».
Οι New York Times, οι οποίοι εξέτασαν τα αρχεία των συνομιλιών της, αναφέρουν ότι η γυναίκα εξέφρασε τουλάχιστον 158 φορές τις ανησυχίες της για τη σταδιακή μείωση της αντιεπιληπτικής αγωγής της.
Σε ορισμένες περιπτώσεις, το ChatGPT τής έλεγε να απευθυνθεί σε επαγγελματία υγείας. Σε άλλες, δεν έκανε τέτοια σύσταση, ακόμη και όταν εκείνη περιέγραφε τα συμπτώματά της.
Σε μία από τις συνομιλίες, όταν η Γουάν δήλωσε ότι «φοβόταν» να μειώσει τη δόση του φαρμάκου της, το chatbot φέρεται να της απάντησε: «Δεν υπάρχει απολύτως κανένας λόγος να ανησυχείς».
Ο πατέρας της, Κουν, διαπίστωσε ότι το ChatGPT είχε καταρτίσει ένα πρόγραμμα βάσει του οποίου η κόρη του θα περνούσε από την καθημερινή λήψη 400 mg φαρμάκου στην πλήρη διακοπή του μέσα σε λίγες εβδομάδες.
Στα τελευταία μηνύματα που αντάλλαξε με το chatbot, η Μπόουεν ρωτούσε αν έπρεπε να ανησυχεί επειδή ένιωθε ότι «ο εγκέφαλός της ήταν εξαντλημένος» και αν θα έπρεπε να «επιβραδύνει τη διαδικασία».
«Διατήρησε τη δόση στα 0 mg και αύριο. Ακόμη κι αν σήμερα τα πράγματα φαίνονται δύσκολα, η ομιλία σου είναι αργή και ο ύπνος σου κακός, πρέπει να επιμείνεις», φέρεται να της απάντησε το ChatGPT.
Η γυναίκα περιέγραψε επίσης ότι ένιωθε πίεση στον εγκέφαλό της. Το chatbot φέρεται να της είπε ότι επρόκειτο απλώς για την αίσθηση που προκαλούσε ο εγκέφαλός της καθώς «εργαζόταν σκληρά για να σε αναδομήσει».
Το τελευταίο μήνυμα που έστειλε στο chatbot ήταν αργά το βράδυ της 11ης Φεβρουαρίου. Τρεις ημέρες αργότερα, η σορός της εντοπίστηκε στο σπίτι της.
Εκπρόσωπος της OpenAI, ο Ντρου Πουσατέρι, χαρακτήρισε τον θάνατό της «μια απίστευτα οδυνηρή υπόθεση». Πρόσθεσε ότι το ChatGPT έχει έκτοτε μεταβεί σε ένα νεότερο μοντέλο, το οποίο είναι λιγότερο πιθανό να δίνει απαντήσεις που επιβεβαιώνουν άκριτα τις απόψεις ή τις επιλογές των χρηστών.
Το παλαιότερο μοντέλο, το GPT-4o, δεν είναι πλέον διαθέσιμο. Στο παρελθόν είχε δεχθεί επικρίσεις και είχε κατηγορηθεί ότι συνέβαλε στην αυτοκτονία ενός εφήβου, σε μια άλλη υπόθεση που οδήγησε σε δικαστική διαμάχη με την OpenAI.
Ο εκπρόσωπος πρόσθεσε: «Παρότι το ChatGPT δεν υποκαθιστά την ιατρική περίθαλψη, πιστεύουμε ότι η τεχνητή νοημοσύνη μπορεί να διαδραματίσει ρόλο βοηθώντας τους ανθρώπους να κατανοήσουν πληροφορίες για την υγεία τους, να πλοηγηθούν στο ασφαλιστικό σύστημα και στα σύνθετα συστήματα υγειονομικής περίθαλψης, καθώς και να προετοιμαστούν για τα ραντεβού τους με επαγγελματίες υγείας».