Τα λάθη της τεχνητής νοημοσύνης στην ιατρική: Αποτυχημένες επεμβάσεις και λανθασμένες ενδείξεις

Johnson & Johnson και τεχνητή νοημοσύνη βρέθηκαν στο επίκεντρο διεθνούς έρευνας, καθώς η εισαγωγή αλγορίθμων μηχανικής μάθησης σε ιατρικές συσκευές φαίνεται να συνδέεται με σειρά δυσλειτουργιών. Το 2021, ο αμερικανικός κολοσσός υγειονομικής περίθαλψης ανακοίνωσε ότι η θυγατρική του Acclarent ενσωμάτωσε τεχνητή νοημοσύνη στο Σύστημα Πλοήγησης TruDi, που χρησιμοποιείται στη θεραπεία της χρόνιας ιγμορίτιδας. Η εξέλιξη χαρακτηρίστηκε ως «άλμα προς τα εμπρός» για την ιατρική τεχνολογία.

Ωστόσο, σύμφωνα με αποκλειστικό ρεπορτάζ του Reuters, από τότε που το TruDi απέκτησε λειτουργίες τεχνητής νοημοσύνης, η Υπηρεσία Τροφίμων και Φαρμάκων των ΗΠΑ (FDA) έχει λάβει δεκάδες αναφορές για δυσλειτουργίες και ανεπιθύμητα συμβάντα. Οι καταγγελίες αποδίδουν ευθύνη στην ίδια την τεχνολογία, υποστηρίζοντας ότι το σύστημα παρείχε εσφαλμένες πληροφορίες στους χειρουργούς σχετικά με τη θέση των εργαλείων τους.

Αγωγές και αμφισβητήσεις

Σε ορισμένες περιπτώσεις, σύμφωνα με τα καταγεγραμμένα περιστατικά, ασθενείς υπέστησαν σοβαρούς τραυματισμούς, όπως διαρροή εγκεφαλονωτιαίου υγρού ή εγκεφαλικά επεισόδια. Τα θύματα κατέθεσαν αγωγές στο Τέξας, υποστηρίζοντας ότι η τεχνητή νοημοσύνη του TruDi συνέβαλε στους τραυματισμούς και ότι το σύστημα ήταν ασφαλέστερο πριν από την αναβάθμιση.

Η Johnson & Johnson παρέπεμψε τις ερωτήσεις στην Integra LifeSciences, η οποία εξαγόρασε την Acclarent και το TruDi το 2024. Η Integra απάντησε ότι δεν υπάρχουν αξιόπιστα στοιχεία που να συνδέουν την τεχνητή νοημοσύνη με τα αναφερόμενα περιστατικά, επισημαίνοντας πως οι αναφορές «απλώς υποδεικνύουν ότι ένα σύστημα TruDi χρησιμοποιήθηκε σε μια επέμβαση όπου υπήρξε ανεπιθύμητο συμβάν».

Οι προειδοποιήσεις του FDA

Η συζήτηση για την ασφάλεια των ιατρικών συσκευών με τεχνητή νοημοσύνη δεν περιορίζεται στο TruDi. Ο FDA έχει λάβει αναφορές για δεκάδες άλλες συσκευές, όπως καρδιακούς μόνιτορ και συστήματα υπερήχων, που φέρονται να παρουσίασαν λανθασμένες ενδείξεις. Ερευνητές από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσαν ότι 60 συσκευές με τεχνητή νοημοσύνη συνδέθηκαν με 182 ανακλήσεις προϊόντων, με σχεδόν τις μισές να συμβαίνουν μέσα στον πρώτο χρόνο έγκρισης.

Το βάρος στον FDA

Πέντε νυν και πρώην επιστήμονες του οργανισμού δήλωσαν στο Reuters ότι ο FDA δυσκολεύεται να συμβαδίσει με την πλημμύρα νέων συσκευών που ζητούν έγκριση. Η έλλειψη προσωπικού και η περικοπή πόρων έχουν επιβαρύνει τον έλεγχο των προϊόντων, την ώρα που οι εφαρμογές τεχνητής νοημοσύνης πολλαπλασιάζονται, ακόμη και σε chatbots που χρησιμοποιούνται από γιατρούς και ασθενείς.

Από τις πρώτες εγκρίσεις έως τα νέα προβλήματα

Οι πρώτες ιατρικές συσκευές με τεχνητή νοημοσύνη εγκρίθηκαν από τον FDA το 1995. Από τότε, η τεχνολογία έχει διεισδύσει σε πολλούς τομείς της ιατρικής, από την ακτινολογία έως τη χειρουργική. Ωστόσο, πρόσφατες αγωγές, όπως αυτές των ασθενών Έριν Ραλφ και Ντόνα Φέρνιχο, επαναφέρουν το ζήτημα της ασφάλειας, υποστηρίζοντας ότι το TruDi παρείχε εσφαλμένες κατευθύνσεις στους γιατρούς, προκαλώντας σοβαρές επιπλοκές.

Η στάση των εταιρειών

Η Acclarent έχει αρνηθεί τους ισχυρισμούς, δηλώνοντας ότι απλώς διένειμε το σύστημα χωρίς να το έχει σχεδιάσει ή κατασκευάσει. Η Integra LifeSciences, ιδιοκτήτρια πλέον του TruDi, επανέλαβε ότι δεν υπάρχουν αποδείξεις σύνδεσης της τεχνητής νοημοσύνης με τραυματισμούς. Παράλληλα, σύμφωνα με δικαστικά έγγραφα, ο Δρ Μαρκ Ντιν, που συμμετείχε σε επεμβάσεις με το TruDi, είχε προειδοποιήσει την εταιρεία για πιθανά ζητήματα ασφάλειας πριν από την ενσωμάτωση της νέας τεχνολογίας.

Ανεπαρκείς αναφορές και τεχνικά σφάλματα

Ο FDA επισημαίνει ότι οι αναφορές για δυσλειτουργίες είναι συχνά ελλιπείς και δεν μπορούν να χρησιμοποιηθούν ως αποδείξεις ευθύνης. Ωστόσο, σύμφωνα με το Reuters, περισσότερες από 1.400 αναφορές που υποβλήθηκαν από το 2021 έως το 2025 αφορούν συσκευές με τεχνητή νοημοσύνη, εκ των οποίων τουλάχιστον 115 σχετίζονται με σφάλματα λογισμικού ή προγραμματισμού.

Περικοπές και αντιδράσεις

Την ίδια στιγμή, η κυβέρνηση Τραμπ έχει περικόψει πόρους προς τον FDA, στο πλαίσιο της πολιτικής μείωσης δαπανών υπό το Υπουργείο Αποδοτικότητας της Κυβέρνησης (DOGE), το οποίο συνδέεται με τον Έλον Μασκ. Σύμφωνα με πηγές του οργανισμού, δεκάδες επιστήμονες τεχνητής νοημοσύνης απολύθηκαν ή αποχώρησαν, αποδυναμώνοντας τη δυνατότητα εποπτείας.

Ο εκπρόσωπος του Υπουργείου Υγείας των ΗΠΑ, Άντριου Νίξον, τόνισε ότι ο FDA εξακολουθεί να εφαρμόζει αυστηρά πρότυπα και να δίνει προτεραιότητα στην ασφάλεια των ασθενών. «Η ασφάλεια των ασθενών είναι η ύψιστη προτεραιότητα του FDA», δήλωσε, προσθέτοντας ότι ο οργανισμός συνεχίζει να επενδύει σε ειδικούς της ψηφιακής υγείας και της τεχνητής νοημοσύνης.

Με στοιχεία από το Reuters