Η Τεχνητή Νοημοσύνη στην υγεία, δεν πείθει

Η Kayla Secrest ήταν μια νεοδιορισμένη γιατρός που ξεκίνησε την ειδικότητά της σε νοσοκομείο του Μίσιγκαν, όταν είχε την πρώτη της απογοητευτική επαφή με την Τεχνητή Νοημοσύνη (AI).

Η διοίκηση είχε εφαρμόσει έναν αλγόριθμο σχεδιασμένο να σαρώνει τους φακέλους των ασθενών κάθε 15 λεπτά και να στέλνει ειδοποίηση εάν εντόπιζε ενδείξεις σήψης. Ήταν το είδος της καινοτομίας που αρέσκεται να προβάλλει η βιομηχανία της AI: η αυτοματοποίηση μιας καθημερινής, αλλά ζωτικής σημασίας εργασίας.

Ωστόσο, οι ελπίδες ότι το εργαλείο θα ελάφρυνε τον φόρτο εργασίας της, διαψεύστηκαν γρήγορα. «Μέσα σε λίγους μήνες συνειδητοποίησα: “Θεέ μου, αυτή η ειδοποίηση χτυπάει για κάθε έναν από τους ασθενείς μου”, και άρχισα να την αγνοώ», θυμάται, παρομοιάζοντας την κατάσταση με τον μύθο με τον βοσκό και τον λύκο. Τελικά, η ίδια και οι συνάδελφοί της έχασαν την εμπιστοσύνη τους στο εργαλείο και σταμάτησαν να τρέχουν στους ασθενείς κάθε φορά που εμφανιζόταν μια ειδοποίηση. Μόνο αργότερα ανακάλυψε ότι το σύστημα είχε εφαρμοστεί σε εκατοντάδες νοσοκομεία χωρίς προηγούμενες εκτεταμένες δοκιμές στις πραγματικές, χαοτικές συνθήκες μιας κλινικής ή ενός τμήματος επειγόντων περιστατικών.

Έχουν γίνει τεράστιες υποσχέσεις για τον αντίκτυπο της Τεχνητής Νοημοσύνης στην υγειονομική περίθαλψη, και πολλοί γιατροί και νοσοκομεία που έχουν επιβαρυνθεί από τον όγκο εργασίας ελπίζουν ότι θα μπορέσει να αντισταθμίσει την αυξανόμενη ζήτηση για τις υπηρεσίες τους.

Όμως, η εμπειρία της Secrest και άλλων γιατρών αναδεικνύει το χάσμα ανάμεσα στους δημιουργούς της AI και τους επαγγελματίες της υγείας: συχνά υπάρχει ελάχιστος ανεξάρτητος έλεγχος για το τι συμβαίνει αφότου ένα εργαλείο AI περάσει από το τεχνητό περιβάλλον του εργαστηρίου στην απρόβλεπτη πραγματικότητα της πρώτης γραμμής.

Οι ειδικοί πιστεύουν ότι, σε ορισμένες περιπτώσεις, αυτή η έλλειψη ελέγχου εγκυμονεί άμεσους κινδύνους για τους ασθενείς. Παράλληλα, καθιστά δυσκολότερο να αποδειχθεί αν τα συγκεκριμένα εργαλεία βελτιώνουν πράγματι τη θεραπεία ή αν δικαιολογούν την επένδυση που έχει γίνει σε αυτά.

Η Jess Morley, συνεργαζόμενη ερευνήτρια στο Yale Digital Ethics Centre και πρώην επικεφαλής του τομέα AI στο Υπουργείο Υγείας του Ηνωμένου Βασιλείου, αναφέρει ότι οι εταιρείες τεχνολογίας τείνουν να εστιάζουν στη «στατιστική επικύρωση» – δηλαδή στην ακρίβεια του εργαλείου και όχι στην κλινική του αποτελεσματικότητα.

«Αυτό όμως που πραγματικά μας ενδιαφέρει στην υγεία είναι το δεύτερο σκέλος: θέλουμε να γνωρίζουμε αν έχει ουσιαστικό αντίκτυπο στην έκβαση της υγείας του ασθενούς», εξηγεί. «Και υπάρχουν σοκαριστικά λίγες αποδείξεις ότι η AI επηρεάζει θετικά τα αποτελέσματα στους ασθενείς».

Οι υποστηρικτές της AI αντιτείνουν ότι η υιοθέτησή της στον τομέα της υγείας γίνεται με ταχύτερους ρυθμούς από ό,τι σε άλλους κλάδους και ότι βελτιώνει την περίθαλψη ελαφρύνοντας το διοικητικό βάρος των γιατρών, όπως με την αυτοματοποίηση της λήψης σημειώσεων. «Εδώ και μια δεκαετία είναι ολοφάνερο ότι έχουμε χάσει τους γιατρούς μας πίσω από τη διαρκή πληκτρολόγηση», δήλωσε τον Ιούνιο η Kimberly Powell, επικεφαλής του τομέα υπηρεσιών παροχής υγείας της Nvidia που εμπορεύεται AI chip.

Η OpenAI ανέφερε ότι το νοσοκομειακό δίκτυο AdventHealth στις ΗΠΑ κατέγραψε μείωση 80% στον χρόνο που καταναλώνεται για συγκεκριμένα διοικητικά καθήκοντα με τη χρήση του “ChatGPT for Healthcare”. Παράλληλα, ανεξάρτητη αξιολόγηση της συνεργασίας της με την Penda Health στην Κένυα έδειξε μείωση κατά 16% στα διαγνωστικά σφάλματα μεταξύ των γιατρών που χρησιμοποίησαν τον βοηθό AI.

Άλλες πιθανές εφαρμογές περιλαμβάνουν την παρακολούθηση ασθενών μέσω φορετών συσκευών (wearables), την ανάλυση μεγάλου όγκου δεδομένων για την πρόβλεψη μελλοντικών ασθενειών και την επιτάχυνση της ανάπτυξης νέων φαρμάκων.

Σε ορισμένους τομείς, όπως η διαγνωστική και η ιατρική απεικόνιση, τα στοιχεία για τη θετική επίδραση της AI είναι ήδη αδιαμφισβήτητα. Ο Eric Topol, διευθυντής του Scripps Research Translational Institute, επικαλείται μελέτη του 2024 που έδειξε ότι οι κολονοσκοπήσεις που πραγματοποιήθηκαν από γαστρεντερολόγους με τη βοήθεια AI εντόπισαν σημαντικά περισσότερους πολύποδες σε σύγκριση με εκείνες που έγιναν χωρίς την τεχνολογία αυτή.

Clinical AI tools

Zoonar/Alamy/Visualhellas.gr

Ωστόσο, αντί να υιοθετούν εργαλεία με αποδεδειγμένη αποτελεσματικότητα, ο Topol επισημαίνει ότι οι διοικητές των νοσοκομείων έχουν μαγευτεί από τον «εντυπωσιασμό» της παραγωγικής τεχνητής νοημοσύνης (generative AI). Αυτή η τεχνολογική εξέλιξη, που έγινε ευρέως γνωστή με το λανσάρισμα του ChatGPT το 2022, επέτρεψε στα συστήματα να συνοψίζουν ογκώδη ιατρική βιβλιογραφία για να βοηθήσουν έναν γιατρό στη λήψη αποφάσεων.

Τα κενά στο ρυθμιστικό πλαίσιο και η έλλειψη δεδομένων απόδοσης καθιστούν δύσκολο να διαπιστωθεί αν τα οφέλη της παραγωγικής AI υπερτερούν των κινδύνων. Η προτεραιότητα τώρα θα πρέπει να είναι «ο προσδιορισμός της αναλογίας οφέλους-βλάβης στην πραγματική ιατρική πράξη», προτείνει ο ίδιος.

Ο Topol διαπιστώνει ελάχιστη διάθεση από τις ηγέτιδες εταιρείες AI να αξιολογήσουν την απόδοση των μοντέλων τους με βάση δεδομένα που συλλέγονται μετά την ανάπτυξή τους, ώστε να επιβεβαιωθεί ότι τα αποτελέσματα μπορούν να αναπαραχθούν στην καθημερινή χρήση. «Οι κολοσσοί της τεχνολογίας είναι καλοί στο να φτιάχνουν μοντέλα και να τα δοκιμάζουν στο εργαστήριο», σημειώνει. «Αλλά σε γενικές γραμμές δεν έχουν επιδείξει τον ενθουσιασμό ή τη χρηματοδοτική στήριξη για τις κλινικές δοκιμές πεδίου που θα θέλαμε να δούμε».

Το έλλειμμα διαφάνειας

Ο Andrew Wong, κλινικός γιατρός και ερευνητής, εξέτασε την απόδοση του ελαττωματικού εργαλείου για τη σήψη όσο βρισκόταν στο Πανεπιστήμιο του Μίσιγκαν και, μαζί με συναδέλφους του, συνεργάστηκε με την εταιρεία ανάπτυξης για τη βελτίωσή του.

Όπως αναφέρει, οι εταιρείες συχνά προβαίνουν σε πολύ συγκεκριμένους ισχυρισμούς για το πώς τα εργαλεία AI βελτιώνουν τη ροή εργασίας και εξοικονομούν πόρους, χωρίς όμως να υποχρεούνται να δημοσιοποιήσουν στοιχεία που θα καθιστούσαν εύκολη την επαλήθευση αυτών των ισχυριζόμενων οφελών.

Αυτά τα στοιχεία θα μπορούσαν να περιλαμβάνουν «το πώς εκπαιδεύτηκε το μοντέλο, τι είδος δεδομένων χρησιμοποιήθηκε, ποια μεθοδολογία ακολουθήθηκε για την ανάπτυξή του και σε ποιο περιβάλλον έγινε η επικύρωση των στατιστικών απόδοσης που ανακοινώνονται».

Χωρίς αυτή τη διαφάνεια, τονίζει ο Wong – σήμερα διευθυντής κλινικής έρευνας AI στο Πανεπιστήμιο της Γιούτα – το βάρος της δοκιμής των εργαλείων πέφτει στα ίδια τα νοσοκομεία. Και καθώς η αποτελεσματικότητα αυτών των συστημάτων εξαρτάται από παράγοντες όπως τα δημογραφικά στοιχεία των ασθενών και οι πρακτικές εργασίας του κάθε ιδρύματος, δεν διαθέτουν όλα τα νοσοκομεία τους απαραίτητους πόρους για τέτοιες αξιολογήσεις.

Η υπερβολική προβολή (hype) για τις επαναστατικές δυνατότητες των εργαλείων AI ξεκίνησε ανησυχητικά νωρίς στη διαδικασία ανάπτυξής τους, σύμφωνα με την Constanza Andaur Navarro, επίκουρη καθηγήτρια στο Τμήμα Επιστήμης Δεδομένων και Βιοστατιστικής του Ιατρικού Κέντρου του Πανεπιστημίου της Ουτρέχτης. Η ίδια και οι συνεργάτες της ανέλυσαν επιστημονικές δημοσιεύσεις που περιέγραφαν νέα μοντέλα AI και διαπίστωσαν μεγάλη ροπή προς αυτό που αποκαλεί «ωραία περιτυλίγματα» (spin). Από τις 21 περιλήψεις μελετών που συνιστούσαν τη χρήση ενός συγκεκριμένου εργαλείου στην καθημερινή κλινική πράξη, οι 20 «στερούνταν οποιασδήποτε εξωτερικής επικύρωσης των μοντέλων που είχαν αναπτυχθεί».

Οι προσεγγίσεις για τη ρύθμιση της AI στην υγεία διαφέρουν παγκοσμίως. Ωστόσο, σύμφωνα με τον Stephen Gilbert, καθηγητή Ρυθμιστικής Επιστήμης Ιατροτεχνολογικών Προϊόντων στο Πανεπιστήμιο της Δρέσδης, υπάρχει ένα κοινό σημείο: η επιτήρηση αφού ένα εργαλείο κυκλοφορήσει στην αγορά βασίζεται συνήθως σε «αποστειρωμένες αναφορές που συντάσσει ο ίδιος ο κατασκευαστής, οι οποίες δεν περιέχουν πρωτογενή δεδομένα», με αποτέλεσμα να μην μπορούν να ελεγχθούν εύκολα από τρίτους.

Έκθεση που δημοσιεύθηκε φέτος από το Πανεπιστήμιο Στάνφορντ έδειξε ότι ο Οργανισμός Τροφίμων και Φαρμάκων των ΗΠΑ (FDA) ενέκρινε 258 ιατρικές συσκευές AI το 2025, οι περισσότερες από τις οποίες δεν απαιτούσαν νέες κλινικές δοκιμές. Μόλις το 2,4% των εγκεκριμένων συσκευών συνοδευόταν από το είδος των δεδομένων κλινικών δοκιμών που θεωρούνται υποχρεωτικές προτού ένα σκεύασμα ή ιατρικό προϊόν φτάσει στους ασθενείς.

Ορισμένοι πιστεύουν ότι αυτές οι μελέτες υπογραμμίζουν την ανάγκη επανεξέτασης των παραδοσιακών μεθόδων διασφάλισης της αδιάβλητης ποιότητας των ιατρικών προϊόντων, ενόψει της εποχής της παραγωγικής AI.

Οι τυχαιοποιημένες ελεγχόμενες δοκιμές έχουν σχεδιαστεί για την αξιολόγηση ενός οργάνου ή μιας συσκευής (όπως ένα πιεσόμετρο) η οποία δεν αλλάζει μόλις τεθεί σε κλινική χρήση.  Όμως οι αλγόριθμοι που τροφοδοτούν τα μεγάλα γλωσσικά μοντέλα (LLMs) εξελίσσονται και αλλάζουν συνεχώς, εξηγεί η Morley από το Πανεπιστήμιο του Γέιλ.

Ορισμένες ρυθμιστικές αρχές καταβάλλουν προσπάθειες να μην μπλοκάρουν τη νέα τεχνολογία, ακόμη και όταν εξετάζουν αυστηρότερα όρια προστασίας.

«Πρέπει να βάλετε αυτά τα εργαλεία AI στα χέρια των γιατρών γρηγορότερα και ευρύτερα από ό,τι κάναμε μέχρι τώρα, επειδή οι δυνατότητες βελτίωσης της υγειονομικής περίθαλψης είναι πραγματικά τεράστιες», δηλώνει ο Lawrence Tallon, διευθύνων σύμβουλος της Ρυθμιστικής Αρχής Φαρμάκων και Προϊόντων Φροντίδας Υγείας του Ηνωμένου Βασιλείου (MHRA).

Η Εθνική Επιτροπή της MHRA για τη Ρύθμιση της AI στην Υγεία πρότεινε μέτρα που περιλαμβάνουν την υπό όρους έγκριση νέων εργαλείων έως ότου αποδείξουν ότι είναι ασφαλή και αποτελεσματικά, καθώς και τη συνεχή παρακολούθηση όσων βρίσκονται ήδη σε χρήση.

3D magnetic scan

Zoonar/Alamy/Visualhellas.gr

Η παρακολούθηση σε πραγματικές συνθήκες που προτείνει η επιτροπή, θα βοηθούσε στη δημιουργία ενός ισχυρού σώματος αποδείξεων ότι η AI επιφέρει ουσιαστική κλινική διαφορά σε πολλά μέτωπα, υποστηρίζει ο Tallon, αν και τα συμπεράσματά της δεν έχουν ακόμη υιοθετηθεί επίσημα.

Ο ίδιος επισημαίνει επίσης τα πρόσφατα εντυπωσιακά αποτελέσματα ενός εμβολίου κατά του καρκίνου που αναπτύχθηκε από τις εταιρείες Merck και Moderna με τη βοήθεια της AI, ως απόδειξη των δυνατοτήτων της τεχνολογίας «να βελτιώσει ριζικά την έκβαση για ασθενείς με καρκίνο και σπάνιες ασθένειες».

Παρόμοιος προβληματισμός υπάρχει και στις ΗΠΑ. Ο Gilbert συνεργάζεται με τον FDA σε ένα πιλοτικό πρόγραμμα που εξετάζει πώς μοντέλα AI σε τομείς όπως τα καρδιαγγειακά νοσήματα, ο διαβήτης και η ψυχική υγεία – χρόνιες παθήσεις που θα επηρεάσουν τελικά σχεδόν κάθε Αμερικανό – θα μπορούσαν να λάβουν ρυθμιστική έγκριση βάσει στοιχείων που αντλούνται κατά την καθημερινή χρήση.

Ωστόσο, ορισμένοι γιατροί προειδοποιούν ότι οι ρυθμιστικές αρχές δεν συμβαδίζουν ακόμη με την ταχύτητα ανάπτυξης της AI, έναν ρυθμό που δεν έχει προηγούμενο στην ιατρική.

Ο John Paul Jeans, αναισθησιολόγος στο Βρετανικό Σύστημα Υγείας (NHS) και επιχειρηματίας, επικαλείται στοιχεία από τον μη κερδοσκοπικό οργανισμό METR (Model Evaluation and Threat Research), ο οποίος αξιολογεί προηγμένα συστήματα AI. Ο οργανισμός μέτρησε σε πόσο χρόνο ένα σύστημα τεχνητής νοημοσύνης θα μπορούσε να ολοκληρώσει μια εργασία λογισμικού χωρίς βοήθεια, με ποσοστό επιτυχίας 50%. Διαπίστωσε ότι από το 2023, η πολυπλοκότητα και η διάρκεια αυτών των εργασιών διπλασιάζεται περίπου κάθε τέσσερις μήνες.

«Το κριτήριο για κάθε κανονισμό που γράφεται τώρα είναι αν θα εξακολουθεί να καλύπτει το κοινό μετά από τρεις διπλασιασμούς των δυνατοτήτων της AI», σημειώνει. «Αν ο κανονισμός συνταχθεί για το εργαλείο που έχουμε σήμερα μπροστά μας, μπορεί κάλλιστα να είναι ξεπερασμένος πριν καν δημοσιευτεί».

Ένας άλλος προβληματισμός είναι αν τα νοσοκομεία διαθέτουν τους πόρους και την τεχνογνωσία για να αξιολογήσουν τα εργαλεία AI. Η Paige Nong, από τη Σχολή Δημόσιας Υγείας του Πανεπιστημίου της Μινεσότα, ηγήθηκε έρευνας το 2024 που διαπίστωσε ότι μόλις λίγο πάνω από τα μισά νοσοκομεία που συμμετείχαν είχαν αξιολογήσει τα εργαλεία για πιθανές μεροληψίες (bias) πριν τα χρησιμοποιήσουν για την κατανομή πόρων ή τη φροντίδα των ασθενών.

«Ένα μικρό αγροτικό νοσοκομείο με ελλείψεις προσωπικού ενδέχεται να μην έχει τη δυνατότητα να διεξάγει μια τέτοια αξιολόγηση», εξηγεί, ενισχύοντας τους φόβους ότι η επέλαση της AI κινδυνεύει να επιδεινώσει τις ανισότητες στην υγεία.

Ο Ziad Obermeyer, γιατρός και ερευνητής στο Πανεπιστήμιο Μπέρκλεϊ, ήρθε αντιμέτωπος με αυτό το πρόβλημα όταν μελέτησε ένα εργαλείο AI «εκτίμησης κινδύνου» που χρησιμοποιούνταν στο νοσοκομείο του για την κατανομή πόρων. Ανακάλυψε ότι το εν λόγω εργαλείο αντιμετώπιζε τις προηγούμενες δαπάνες ως δείκτη μελλοντικής ζήτησης, με αποτέλεσμα άτομα που χρειάζονταν υγειονομική περίθαλψη αλλά στο παρελθόν δεν την είχαν λάβει – όπως εθνοτικές μειονότητες και άτομα που δεν μιλούσαν αγγλικά – να συνεχίζουν να αποκλείονται.

Συνολικά, αποφάσεις που αφορούν τα ποσά που δαπανώνται για τη φροντίδα εκατοντάδων εκατομμυρίων ασθενών επηρεάζονται από τέτοια εργαλεία.

«Η κλίμακα με την οποία υιοθετούνται αυτά τα συστήματα είναι απλώς τεράστια, και δεν νομίζω ότι πολλοί άνθρωποι το γνωρίζουν αυτό».

Δυσεύρετα δεδομένα

Υπάρχουν επίσης τεχνικά εμπόδια στην αποτελεσματική παρακολούθηση της απόδοσης. Η Amy Abernethy, πρώην αναπληρώτρια επίτροπος του FDA, αναφέρει ότι η συλλογή περισσότερων στοιχείων από κλινικά περιβάλλοντα θα απαιτήσει υποδομές που παραδοσιακά είναι δύσκολο να δημιουργηθούν.

Όπως σημειώνει, η ειρωνεία είναι ότι «χρειαζόμαστε αλγόριθμους και AI για να μας βοηθήσουν να καθαρίσουμε τα δεδομένα, ώστε να μπορέσουμε να αξιολογήσουμε τους αλγόριθμους, καθώς και άλλες παρεμβάσεις στην υγειονομική περίθαλψη, με πολύ μεγαλύτερη λεπτομέρεια».

Θα απαιτούνταν επίσης νομοθεσία που θα διασφάλιζε την εύκολη κοινοποίηση των φακέλων μεταξύ των υγειονομικών αρχών, περιορίζοντας παράλληλα τη νομική τους ευθύνη για τη διαχείριση αυτών των δεδομένων.

Τα δεδομένα των ασθενών τείνουν να παραμένουν απομονωμένα εντός των νοσοκομείων για λόγους προστασίας της ιδιωτικότητας. «Οι ρυθμιστικές αρχές δυσκολεύονται να πουν στις εταιρείες “αφού ισχυρίζεστε ότι αυτός ο αλγόριθμος είναι εξαιρετικός, δείξτε μας πώς αποδίδει σε ένα σύνολο δεδομένων που δεν έχει δει ποτέ ξανά”, επειδή αυτά τα δεδομένα είναι πολύ δύσκολο να βρεθούν», προσθέτει ο Obermeyer.

Ο ίδιος συνίδρυσε την εταιρεία Dandelion Health για να παρακάμψει αυτό το πρόβλημα, συνεργαζόμενος με νοσοκομεία στις ΗΠΑ για τη δημιουργία μιας «πολύ αλληλεπιδραστικής και μεγάλης» βάσης δεδομένων που οι προγραμματιστές AI μπορούν να χρησιμοποιούν για να δοκιμάζουν τους αλγόριθμούς τους.

Άλλοι ερευνητές πειραματίζονται σε ακαδημαϊκά περιβάλλοντα για να βρουν αποτελεσματικότερους τρόπους παραγωγής δεδομένων που θα αποδεικνύουν τον αντίκτυπο ενός εργαλείου AI στην υγεία των ασθενών.

Ο Sammy Chouffani El Fassi από το Πανεπιστήμιο Duke δηλώνει ότι η ανάγκη των εταιρειών να τεκμηριώνουν τους ισχυρισμούς τους γίνεται όλο και πιο αποδεκτή. Ο ίδιος συνεργάζεται με ερευνητές από τον ιδιωτικό τομέα και την ακαδημαϊκή κοινότητα για την ανάπτυξη εφαρμογών που θα βοηθούν τους χειρουργούς να λαμβάνουν καλύτερες αποφάσεις.

«Δεν προσπαθούμε να ανακαλύψουμε αν “δουλεύει αυτό το εργαλείο”», λέει ο El Fassi. «Το ερώτημα που θέτουμε είναι: πώς θα επηρεάσει αυτό το εργαλείο την έκβαση της υγείας του ασθενούς;»

Και καταλήγει: «Προσπαθούμε να ξεφύγουμε από το θεωρητικό επίπεδο και να περάσουμε στον πραγματικό κλινικό αντίκτυπο».