Όταν η AI μπαίνει στο χειρουργείο, αυξάνονται οι αναφορές για λανθασμένες επεμβάσεις

ΠΟΛΙΤΗΣ NEWS

Header Image

Η καταγραφή των περιστατικών έρχεται καθώς η τεχνητή νοημοσύνη αρχίζει να μεταμορφώνει τον κόσμο της υγειονομικής περίθαλψης.

Το 2021, μια μονάδα της Johnson & Johnson ανακοίνωσε «ένα άλμα προς τα εμπρός», καθώς είχε προσθέσει τεχνολογία τεχνητής νοημοσύνης σε μια ιατρική συσκευή που χρησιμοποιείται για τη θεραπεία της χρόνιας ιγμορίτιδας, μιας φλεγμονής των ιγμορείων.

Η Acclarent δήλωσε ότι το λογισμικό για το σύστημα πλοήγησης TruDi θα χρησιμοποιούσε πλέον έναν αλγόριθμο μηχανικής μάθησης για να βοηθά τους ειδικούς του αυτιού, της μύτης και του λαιμού στις χειρουργικές επεμβάσεις.

Η συσκευή βρισκόταν ήδη στην αγορά για περίπου τρία χρόνια. Μέχρι τότε, η Αμερικανική Υπηρεσία Τροφίμων και Φαρμάκων (FDA) είχε λάβει ανεπιβεβαίωτες αναφορές για επτά περιπτώσεις δυσλειτουργίας της συσκευής και μια άλλη αναφορά για τραυματισμό ασθενούς. Από τη στιγμή που προστέθηκε η τεχνητή νοημοσύνη στη συσκευή, η FDA έχει λάβει ανεπιβεβαίωτες αναφορές για τουλάχιστον 100 δυσλειτουργίες και ανεπιθύμητα συμβάντα.

Όταν η AI «τραυματίζει» τους ασθενείς

Σύμφωνα με τις σχετικές αναφορές, τουλάχιστον 10 άτομα τραυματίστηκαν μεταξύ του τέλους του 2021 και του Νοεμβρίου του 2025. Τα περισσότερα περιστατικά αφορούσαν σφάλματα του συστήματος πλοήγησης TruDi, το οποίο έδωσε λανθασμένες πληροφορίες στους χειρουργούς σχετικά με τη θέση των εργαλείων τους, ενώ τα χρησιμοποιούσαν μέσα στο κεφάλι των ασθενών κατά τη διάρκεια των επεμβάσεων.

Σε μία από αυτές τις περιπτώσεις, όπως περιγράφει το Reuters σε αναλυτικό ρεπορτάζ του, εγκεφαλονωτιαίο υγρό διέρρευσε από τη μύτη ενός ασθενούς. Σε μια άλλη, ένας χειρουργός τρύπησε κατά λάθος τη βάση του κρανίου ενός ασθενούς. Σε δύο άλλες περιπτώσεις, οι ασθενείς φέρεται να υπέστησαν εγκεφαλικά επεισόδια μετά από τυχαίο τραυματισμό μιας μεγάλης αρτηρίας.

Οι αναφορές της FDA για τις συσκευές ενδέχεται να είναι ελλιπείς και δεν αποσκοπούν στον προσδιορισμό των αιτίων των ιατρικών ατυχημάτων, επομένως δεν είναι σαφές ποιος ρόλος μπορεί να έχει διαδραματίσει η τεχνητή νοημοσύνη σε αυτά τα περιστατικά. Τα δύο θύματα εγκεφαλικού επεισοδίου υπέβαλαν αγωγή στο Τέξας, ισχυριζόμενοι ότι η τεχνητή νοημοσύνη του συστήματος TruDi συνέβαλε στους τραυματισμούς τους, αναφέρει το ειδησεογραφικό πρακτορείο.

«Το προϊόν ήταν αναμφισβήτητα ασφαλέστερο πριν από την ενσωμάτωση των αλλαγών στο λογισμικό για την ένταξη της τεχνητής νοημοσύνης απ' ό,τι μετά την εφαρμογή των τροποποιήσεων στο λογισμικό», ισχυρίζεται ενάγων.

Το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τους ισχυρισμούς των αγωγών.

Όταν ρωτήθηκε για τις αναφορές της FDA σχετικά με τη συσκευή TruDi, η Johnson & Johnson παρέπεμψε τις ερωτήσεις στην Integra LifeSciences, η οποία το 2024 αγόρασε την Acclarent και το σύστημα πλοήγησης TruDi. Η Integra LifeSciences δήλωσε ότι οι αναφορές «δεν κάνουν τίποτα περισσότερο από το να υποδεικνύουν ότι ένα σύστημα TruDi χρησιμοποιήθηκε σε μια χειρουργική επέμβαση όπου συνέβη ένα ανεπιθύμητο συμβάν». Πρόσθεσε ότι «δεν υπάρχουν αξιόπιστα στοιχεία που να αποδεικνύουν αιτιώδη σύνδεση μεταξύ του συστήματος πλοήγησης TruDi, της τεχνολογίας τεχνητής νοημοσύνης και τυχόν φερόμενων τραυματισμών».

Πώς η AI αλλάζει την υγειονομική περίθαλψη

Η καταγραφή των παραπάνω περιστατικών έρχεται καθώς η τεχνητή νοημοσύνη αρχίζει να μεταμορφώνει τον κόσμο της υγειονομικής περίθαλψης. Οι υποστηρικτές της προβλέπουν ότι η νέα τεχνολογία θα βοηθήσει στην εύρεση θεραπειών για σπάνιες ασθένειες, στην ανακάλυψη νέων φαρμάκων, στη βελτίωση των δεξιοτήτων των χειρουργών και στην ενδυνάμωση των ασθενών.

Ωστόσο, ανασκόπηση του Reuters σε νομικά (σ.σ. εννοείται αρχεία) και αρχεία ασφάλειας, καθώς και συνεντεύξεις με γιατρούς, νοσηλευτές, επιστήμονες και ρυθμιστικές αρχές, τεκμηριώνει ορισμένους από τους κινδύνους της τεχνητής νοημοσύνης στην ιατρική, την ώρα που οι κατασκευαστές συσκευών, οι «κολοσσοί της τεχνολογίας» και προγραμματιστές αγωνίζονται να την εφαρμόσουν.

Τουλάχιστον 1.357 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη έχουν πλέον εγκριθεί από την Αμερικανική Υπηρεσία Τροφίμων και Φαρμάκων, διπλάσιος αριθμός από αυτόν που είχε εγκριθεί μέχρι το 2022. Το σύστημα TruDi δεν είναι το μόνο που τίθεται υπό αμφισβήτηση: η FDA έχει λάβει αναφορές που αφορούν δεκάδες άλλες συσκευές με τεχνητή νοημοσύνη, συμπεριλαμβανομένου ενός καρδιογράφου που φέρεται να παρέβλεψε ανώμαλους καρδιακούς παλμούς και μιας συσκευής υπερήχων που φέρεται να αναγνώρισε -εσφαλμένα- μέρη του σώματος ενός εμβρύου.

Ερευνητές από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσαν πρόσφατα ότι 60 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη και έχουν εγκριθεί από την FDA συνδέονταν με 182 ανακλήσεις προϊόντων, σύμφωνα με μια ερευνητική επιστολή που δημοσιεύθηκε στο JAMA Health Forum τον Αύγουστο.

Η ανασκόπησή τους έδειξε ότι το 43% των ανακλήσεων πραγματοποιήθηκε λιγότερο από ένα χρόνο μετά την έγκριση των συσκευών. Αυτό είναι περίπου το διπλάσιο του ποσοστού ανάκλησης όλων των συσκευών που έχουν εγκριθεί σύμφωνα με έγγραφα της FDA, όπως σημειώνεται στο σχετικό ρεπορτάζ του Reuters.

Γιατί η AI μπορεί να είναι πρόβλημα

Η έκρηξη της τεχνητής νοημοσύνης αποτελεί πρόβλημα για την FDA, όπως δήλωσαν πέντε τρέχοντες και πρώην επιστήμονες της υπηρεσίας στο Reuters: Η υπηρεσία δυσκολεύεται να συμβαδίσει με τον καταιγισμό ιατρικών συσκευών ενισχυμένων με τεχνητή νοημοσύνη που ζητούν έγκριση, μετά την απώλεια βασικών στελεχών. Ένας εκπρόσωπος του Υπουργείου Υγείας και Κοινωνικών Υπηρεσιών των ΗΠΑ, στο οποίο υπάγεται η FDA, δήλωσε ότι η υπηρεσία επιδιώκει να ενισχύσει τις δυνατότητές της σε αυτόν τον τομέα.

Μια άλλη μορφή τεχνητής νοημοσύνης, τα γενετικά chatbots, κάνουν επίσης την είσοδό τους στην ιατρική. Πολλοί γιατροί χρησιμοποιούν πλέον την τεχνητή νοημοσύνη για να εξοικονομήσουν χρόνο, όπως για παράδειγμα στην μεταγραφή των σημειώσεων των ασθενών. Ωστόσο, οι ειδικοί στον χώρο της υγείας αναφέρουν επίσης ότι πολλοί ασθενείς χρησιμοποιούν τα chatbots για να αυτοδιαγνωστούν ή να αμφισβητήσουν τις επαγγελματικές συμβουλές, δημιουργώντας νέες προκλήσεις και κινδύνους.

Η τεχνητή νοημοσύνη μετατράπηκε σε μια επιχειρηματική και κοινωνική αίσθηση μετά την κυκλοφορία του ChatGPT πριν από περίπου τρία χρόνια. Το ChatGPT και άλλα δημοφιλή chatbots, όπως το Gemini της Google και το Claude της Anthropic, χρησιμοποιούν τη λεγόμενη γενετική τεχνητή νοημοσύνη για τη δημιουργία περιεχομένου. Βασίζονται σε μεγάλα γλωσσικά μοντέλα, ή LLM, τα οποία έχουν εκπαιδευτεί σε τεράστιες ποσότητες κειμένου και άλλων δεδομένων για να κατανοούν και να παράγουν ανθρώπινη γλώσσα. Αυτά τα εργαλεία τεχνητής νοημοσύνης εισάγονται πλέον σε ιατρικούς τομείς, όπως οι εφαρμογές υγειονομικής περίθαλψης για καταναλωτές.

Ωστόσο, η FDA σημειώνει ότι οι αναφορές για ανεπιθύμητα συμβάντα και δυσλειτουργίες συσκευών είναι περιορισμένες: Συχνά στερούνται λεπτομερειών, έχουν υποστεί επεξεργασία για την προστασία εμπορικών μυστικών και δεν μπορούν να χρησιμοποιηθούν από μόνες τους για την απόδοση ευθυνών. Η υπηρεσία λαμβάνει επίσης μερικές φορές πολλαπλές αναφορές για ένα μόνο περιστατικό.

Το Reuters διαπίστωσε ότι τουλάχιστον 1.401 από τις αναφορές που υποβλήθηκαν στην FDA μεταξύ του 2021 και του Οκτωβρίου 2025 αφορούν ιατρικές συσκευές που περιλαμβάνονται σε έναν κατάλογο της Υπηρεσίας με 1.357 προϊόντα που χρησιμοποιούν τεχνητή νοημοσύνη. Η υπηρεσία δηλώνει ότι ο κατάλογος δεν είναι εξαντλητικός. Από αυτές τις αναφορές, τουλάχιστον 115 αναφέρουν προβλήματα με λογισμικό, αλγόριθμους ή προγραμματισμό.

Μια αναφορά της FDA τον Ιούνιο του 2025 ισχυριζόταν ότι το λογισμικό τεχνητής νοημοσύνης που χρησιμοποιείται για προγεννητικούς υπέρηχους αναγνώριζε εσφαλμένα τα μέρη του σώματος του εμβρύου. Το λογισμικό, που ονομάζεται Sonio Detect, χρησιμοποιεί τεχνικές μηχανικής μάθησης για να βοηθήσει στην ανάλυση εικόνων του εμβρύου.

«Ο αλγόριθμος τεχνητής νοημοσύνης του λογισμικού Sonio Detect είναι ελαττωματικός και ταυτοποιεί εσφαλμένα τις δομές του εμβρύου και τις συσχετίζει με λάθος μέρη του σώματος», ανέφερε η αναφορά, η οποία δεν διευκρινίζει ότι κάποιος ασθενής υπέστη βλάβη.

Τα ρυθμιστικά κενά στη FDA

 

Η εξάπλωση της AI δημιουργεί σοβαρό πρόβλημα για τη FDA, σύμφωνα με πέντε νυν και πρώην επιστήμονες της υπηρεσίας: ο οργανισμός δυσκολεύεται να ανταποκριθεί στον όγκο νέων συσκευών, μετά και την απώλεια εξειδικευμένου προσωπικού.

Κατά τη διάρκεια της πρώτης θητείας Τραμπ, περικοπές προσωπικού και αναδιαρθρώσεις αποδυνάμωσαν ομάδες ειδικών στην τεχνητή νοημοσύνη. Πρώην στελέχη προειδοποιούν ότι, χωρίς επαρκείς πόρους, είναι πιο πιθανό να διαφύγουν κρίσιμα προβλήματα ασφάλειας.

Σε αντίθεση με τα φάρμακα, οι περισσότερες ιατρικές συσκευές -ακόμη και όσες ενσωματώνουν AI- δεν υποχρεούνται να δοκιμάζονται εκτενώς σε ασθενείς πριν από την έγκριση. Αντ’ αυτού, εγκρίνονται ως «βελτιώσεις» υφιστάμενων προϊόντων.

Όπως επισημαίνει ειδικός στη ρύθμιση ιατρικών συσκευών, η παραδοσιακή προσέγγιση της FDA «δεν επαρκεί πλέον για να διασφαλίσει ότι οι τεχνολογίες με τεχνητή νοημοσύνη είναι ασφαλείς και αποτελεσματικές».

Με πληροφορίες από Reuters

ΤΑ ΑΚΙΝΗΤΑ ΤΗΣ ΕΒΔΟΜΑΔΑΣ

Λογότυπο Altamira

Πολιτική Δημοσίευσης Σχολίων

Οι ιδιοκτήτες της ιστοσελίδας www.politis.com.cy διατηρούν το δικαίωμα να αφαιρούν σχόλια αναγνωστών, δυσφημιστικού και/ή υβριστικού περιεχομένου, ή/και σχόλια που μπορούν να εκληφθεί ότι υποκινούν το μίσος/τον ρατσισμό ή που παραβιάζουν οποιαδήποτε άλλη νομοθεσία. Οι συντάκτες των σχολίων αυτών ευθύνονται προσωπικά για την δημοσίευση τους. Αν κάποιος αναγνώστης/συντάκτης σχολίου, το οποίο αφαιρείται, θεωρεί ότι έχει στοιχεία που αποδεικνύουν το αληθές του περιεχομένου του, μπορεί να τα αποστείλει στην διεύθυνση της ιστοσελίδας για να διερευνηθούν. Προτρέπουμε τους αναγνώστες μας να κάνουν report / flag σχόλια που πιστεύουν ότι παραβιάζουν τους πιο πάνω κανόνες. Σχόλια που περιέχουν URL / links σε οποιαδήποτε σελίδα, δεν δημοσιεύονται αυτόματα.

Διαβάστε περισσότερα