Politica 89.8
Πόσο έτοιμη είναι η Τεχνητή Νοημοσύνη για να μπει στο χειρουργείο; Τα δεδομένα δείχνουν προβλήματα
Το 2021, η εταιρία Acclarent ανακοίνωσε ότι ενσωμάτωσε Τεχνητή Νοημοσύνη σε ιατρική συσκευή που χρησιμοποιείται σε επεμβάσεις για χρόνια ιγμορίτιδα. Το σύστημα πλοήγησης TruDi, όπως ανέφερε, θα χρησιμοποιούσε αλγόριθμο μηχανικής μάθησης για να βοηθά τους ωτορινολαρυγγολόγους μέσα στο χειρουργείο.
Η συσκευή κυκλοφορούσε ήδη στην αγορά για περίπου τρία χρόνια, αναφέρει το Reuters. Μέχρι τότε, ο Οργανισμός Τροφίμων και Φαρμάκων των ΗΠΑ (FDA) είχε λάβει ανεπιβεβαίωτες αναφορές για 7 δυσλειτουργίες και μία αναφορά τραυματισμού ασθενούς. Από τη στιγμή που προστέθηκε η τεχνητή νοημοσύνη, ο FDA έχει λάβει – εξίσου ανεπιβεβαίωτες – αναφορές για τουλάχιστον 100 δυσλειτουργίες και ανεπιθύμητα συμβάντα.
«Λάθος στίγμα» μέσα στο κεφάλι
Σύμφωνα με τις αναφορές, τουλάχιστον 10 άτομα τραυματίστηκαν από τα τέλη του 2021 έως τον Νοέμβριο του 2025. Οι περισσότερες καταγγελίες αφορούν σφάλματα όπου το TruDi φέρεται να έδινε λανθασμένη εικόνα για τη θέση των χειρουργικών εργαλείων, την ώρα που αυτά κινούνταν μέσα στο κεφάλι των ασθενών κατά τη διάρκεια επέμβασης.
Στα περιστατικά που καταγράφονται περιλαμβάνονται αναφορές για διαρροή εγκεφαλονωτιαίου υγρού από τη μύτη, διάτρηση της βάσης του κρανίου, αλλά και δύο περιπτώσεις στις οποίες ασθενείς φέρονται να υπέστησαν εγκεφαλικά επεισόδια, έπειτα από τραυματισμό μεγάλης αρτηρίας.
Οι αγωγές στο Τέξας και η θέση της εταιρείας
Τα αρχεία συμβάντων του FDA δεν είναι φτιαγμένα για να αποδίδουν ευθύνη ή να εξηγούν την αιτία ενός ιατρικού ατυχήματος. Οι αναφορές μπορεί να είναι ελλιπείς, να μην περιέχουν κρίσιμες λεπτομέρειες και, σε ορισμένες περιπτώσεις, να αφορούν το ίδιο περιστατικό περισσότερες από μία φορές. Με αυτά τα δεδομένα, δεν είναι ξεκάθαρο τι ρόλο – αν υπήρξε – διαδραμάτισε η τεχνητή νοημοσύνη σε κάθε συμβάν.
Δύο ασθενείς που υπέστησαν εγκεφαλικό, κατέθεσαν αγωγές στο Τέξας, υποστηρίζοντας ότι η τεχνητή νοημοσύνη του TruDi συνέβαλε στους τραυματισμούς τους. Σε μία από τις αγωγές αναφέρεται ότι «το προϊόν ήταν αναμφισβήτητα ασφαλέστερο πριν από την ενσωμάτωση των αλλαγών στο λογισμικό για την ενσωμάτωση της τεχνητής νοημοσύνης». Ωστόσο, το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τους ισχυρισμούς των αγωγών.
Με τη σειρά της, η Johnson & Johnson παρέπεμψε τα ερωτήματα στην Integra LifeSciences, η οποία το 2024 αγόρασε την Acclarent και το σύστημα TruDi. Η Integra απάντησε ότι οι αναφορές «δεν κάνουν τίποτα περισσότερο από το να υποδεικνύουν ότι ένα σύστημα TruDi χρησιμοποιούνταν σε μια χειρουργική επέμβαση όπου συνέβη ένα ανεπιθύμητο συμβάν» και πρόσθεσε ότι «δεν υπάρχουν αξιόπιστα στοιχεία που να δείχνουν οποιαδήποτε αιτιώδη σύνδεση μεταξύ του Συστήματος Πλοήγησης TruDi, της τεχνολογίας Τεχνητής Νοημοσύνης και των τυχόν φερόμενων τραυματισμών».
Χιλιάδες συσκευές με AI και τα προβλήματα
Η υπόθεση έρχεται στο προσκήνιο, σε μια περίοδο όπου η τεχνητή νοημοσύνη εισέρχεται μαζικά στην υγειονομική περίθαλψη. Σήμερα, τουλάχιστον 1.357 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη έχουν εγκριθεί από τον FDA, αριθμός που – σύμφωνα με το Reuters – έχει διπλασιαστεί σε σχέση με ό,τι είχε εγκριθεί μέχρι το 2022.
Παράλληλα, ο FDA έχει λάβει αναφορές για δεκάδες άλλες συσκευές με AI, ανάμεσά τους καρδιογράφου που φέρεται να μην αναγνώρισαν ανώμαλους ρυθμούς, αλλά και συστήματα υπερήχων που φέρεται να αναγνώρισαν εσφαλμένα μέρη του σώματος ενός εμβρύου.
Σε άλλο εύρημα που αναφέρεται, ερευνητές από Johns Hopkins, Georgetown και Yale διαπίστωσαν ότι 60 εγκεκριμένες ιατρικές συσκευές με τεχνητή νοημοσύνη συνδέονταν με 182 ανακλήσεις προϊόντων. Το 43% πραγματοποιήθηκε μέσα σε λιγότερο από ένα χρόνο από την έγκριση, περίπου διπλάσιο ποσοστό σε σχέση με το σύνολο των συσκευών που εγκρίνονται με παρόμοιους κανόνες.
Πίεση στον FDA: «Αν δεν έχεις πόρους, σου ξεφεύγουν πράγματα»
Πέντε νυν και πρώην επιστήμονες του FDA δήλωσαν στο Reuters ότι η υπηρεσία δυσκολεύεται να συμβαδίσει με τον όγκο νέων συσκευών που ζητούν έγκριση, ιδιαίτερα μετά την απώλεια βασικού προσωπικού. «Αν δεν διαθέτεις τους απαραίτητους πόρους, είναι πιο πιθανό να σου ξεφύγουν πράγματα», είπε ένας πρώην αξιολογητής.
Ο εκπρόσωπος του Υπουργείου Υγείας των ΗΠΑAndrew Nixon δήλωσε ότι «η ασφάλεια των ασθενών είναι η ύψιστη προτεραιότητα του FDA» και ότι η υπηρεσία εφαρμόζει τα ίδια αυστηρά πρότυπα στις συσκευές που υποστηρίζονται από μηχανική μάθηση και τεχνητή νοημοσύνη όπως σε κάθε άλλο προϊόν. Πρόσθεσε ότι ο FDA «βλέπει τεράστια προοπτική» στη ψηφιακή υγεία και ότι συνεχίζει να ενισχύει τις δυνατότητές του.
Σε αντίθεση με τα φάρμακα, όπου απαιτούνται κλινικές δοκιμές, πολλές ιατρικές συσκευές περνούν από διαφορετική διαδικασία ελέγχου. Όπως επισημαίνεται, αρκετές εγκρίσεις βασίζονται σε σύγκριση με ήδη εγκεκριμένα προϊόντα. Ο καθηγητής Alexander Everhart, ειδικός στη ρύθμιση ιατρικών βοηθημάτων, πιστεύει πως «η παραδοσιακή προσέγγιση του FDA δεν είναι επαρκής για να διασφαλίσει ότι οι τεχνολογίες τεχνητής νοημοσύνης είναι ασφαλείς και αποτελεσματικές. Βασιζόμαστε στους κατασκευαστές για να κάνουν καλή δουλειά».
Από τα χειρουργικά συστήματα στα… chatbots
Όπως έχει αναφερθεί και παλαιότερα, καταγράφεται την ίδια στιγμή και μια δεύτερη τάση: η χρήση chatbots στην ιατρική, τόσο από γιατρούς (π.χ. για μεταγραφή σημειώσεων) όσο και από ασθενείς που τα αξιοποιούν για αυτοδιάγνωση ή για να αμφισβητήσουν ιατρικές οδηγίες, δημιουργώντας νέα πεδία κινδύνου.
Η εικόνα που προκύπτει είναι διττή. Η τεχνητή νοημοσύνη υπόσχεται ταχύτερες διαδικασίες και πιο «έξυπνα» εργαλεία, αλλά οι αναφορές δυσλειτουργιών, οι αγωγές και οι ανησυχίες για το ρυθμιστικό πλαίσιο δείχνουν ότι η μετάβαση στην «AI ιατρική» γίνεται με ανοιχτά ερωτήματα. Ειδικά όταν το λάθος μετριέται σε χιλιοστά και οι συνέπειες μπορεί να είναι μη αναστρέψιμες.
Πηγή: ygeiamou.gr
