Ο ασθενής απέναντι στον αλγόριθμο: ποιος λογοδοτεί;

Μεσάνυχτα. Φανταστείτε έναν άνθρωπο που νιώθει πόνο στο στήθος. Ανοίγει το κινητό και ρωτά ένα chatbot. Η απάντηση έρχεται αμέσως, ευγενική και σίγουρη, και τον καθησυχάζει. Δεν είναι όμως ιατρική επίσκεψη: κανείς δεν τον εξέτασε. Αν η απάντηση είναι λάθος, ποιος αναλαμβάνει την ευθύνη;

Το 1963 ο οικονομολόγος Κένεθ Αροου, μετέπειτα νομπελίστας, εξήγησε γιατί η ιατρική φροντίδα δεν λειτουργεί όπως μια συνηθισμένη αγορά: ο ασθενής δύσκολα μπορεί να κρίνει τι χρειάζεται ή αν η φροντίδα είναι σωστή. Η εμπιστοσύνη στηρίζεται σε θεσμούς και κανόνες: άδεια άσκησης επαγγέλματος, δεοντολογία, νομική ευθύνη.

Το 1974 ο καναδός οικονομολόγος Ρόμπερτ Εβανς ανέδειξε την άλλη όψη: ο γιατρός σου λέει τι χρειάζεσαι και συχνά σου το παρέχει κιόλας. Μπορεί, ακόμη και καλόπιστα, να σε οδηγήσει σε περισσότερες εξετάσεις ή θεραπείες από όσες χρειάζεσαι. Αυτό ονομάστηκε προκλητή ζήτηση. Στο επίκεντρο και των δύο αναλύσεων βρίσκεται η σχέση γιατρού και ασθενούς: μια «δυάδα».

Σήμερα στη σχέση αυτή εισέρχεται η τεχνητή νοημοσύνη (ΤΝ). Οταν ο γιατρός συμβουλεύεται ένα σύστημα ΤΝ, ο ασθενής δεν γνωρίζει πάντα αν ακούει την κρίση του γιατρού ή την πρόταση ενός αλγορίθμου, ούτε τι έχει σχεδιαστεί να μεγιστοποιεί το σύστημα. Την αποτελεσματικότερη θεραπεία; Την ταχύτερη διακίνηση ασθενών; Τα έσοδα; Κι όταν ο ασθενής έχει πρόσβαση σε πιο προηγμένο σύστημα από εκείνο που χρησιμοποιεί ο γιατρός, μπορεί να έχει εντοπίσει πληροφορίες που ο γιατρός δεν έχει ακόμη εξετάσει. Αυτό, ωστόσο, δεν αναιρεί ούτε μεταβιβάζει την ευθύνη του γιατρού: η τελική κλινική κρίση και η λογοδοσία για την απόφαση παραμένουν δικές του.

Στην ανάπτυξη και χρήση αυτών των συστημάτων μπορεί να εμπλέκονται εταιρείες τεχνολογίας, νοσοκομεία, ασφαλιστικοί οργανισμοί, φαρμακευτικές και επιστημονικές εταιρείες. Αυτό το δίκτυο γύρω από τον γιατρό και τον ασθενή δεν είναι, βέβαια, καινούργιο. Με την ΤΝ, όμως, οι επιλογές όσων αναπτύσσουν τα συστήματα μπορούν να επηρεάζουν την ίδια την ιατρική συμβουλή, χωρίς να είναι ορατές στον ασθενή.

Ψευδο-δυάδα

Και όταν ο γιατρός λείπει εντελώς, ο ασθενής μένει μόνος απέναντι σε ένα chatbot. Αυτή τη σχέση την ονομάζω ψευδο-δυάδα: μοιάζει με σχέση δύο προσώπων, αλλά δεν είναι. Η διαλογική μορφή της, ερώτηση και απάντηση, κερδίζει την εμπιστοσύνη μας. Ο γιατρός όμως, με όλες τις ατέλειές του, διαθέτει κρίση, υποχρέωση απέναντί μας, άδεια που μπορεί να χάσει και προσωπική ευθύνη. Το chatbot παίρνει τη θέση του συνομιλητή χωρίς να είναι πρόσωπο. Η ψευδο-δυάδα είναι μια σχέση με έναν μόνο άνθρωπο.

Παλιότερα, με το «Dr Google», ο ίδιος ο χρήστης αναζητούσε απαντήσεις ανάμεσα σε πολλές και συχνά αντικρουόμενες πηγές. Σήμερα το chatbot συνθέτει το ίδιο την απάντησή του, χωρίς όμως οι πηγές του να είναι πάντα ορατές, προσβάσιμες και, κυρίως, αξιόπιστες. Η αναζήτηση πληροφορίας γίνεται προσωπική συνομιλία και η συνομιλία δημιουργεί την ψευδαίσθηση σχέσης.

Δύο κίνδυνοι

Οι κίνδυνοι εδώ είναι πολλοί, αλλά δύο ξεχωρίζουν. Ο πρώτος είναι τα λάθη που διατυπώνονται με βεβαιότητα. Ο γιατρός που δεν γνωρίζει οφείλει να το παραδεχθεί, να το ψάξει ή να συμβουλευτεί συναδέλφους, αν και αυτό δεν συμβαίνει πάντα. Η ευχέρεια ενός chatbot να απαντά άμεσα και με βεβαιότητα δεν εγγυάται την ορθότητα: μπορεί να παρουσιάζει επινοημένες πληροφορίες ως γεγονότα.

Ο δεύτερος αφορά τα αθέατα κίνητρα. Μια εταιρεία που αποκομίζει οικονομικά οφέλη από τη συχνότερη χρήση του chatbot της, από τη συλλογή των δεδομένων ή από παραπομπές σε υπηρεσίες επί πληρωμή ενδέχεται να ωθεί τους χρήστες σε περισσότερη ιατρική φροντίδα, χωρίς αυτή να είναι και καλύτερη. Προκλητή ζήτηση σε μαζική κλίμακα.

Προστασία

Υπάρχουν όμως και περαιτέρω ζητήματα όπως αυτό των προσωπικών δεδομένων. Παρότι η νομοθεσία προστατεύει τα δεδομένα υγείας, η χρήση ενός chatbot δεν συνεπάγεται αυτομάτως σχέση ιατρικού απορρήτου. Οσα του εμπιστευόμαστε μπορεί να αξιοποιηθούν εμπορικά, βάσει των όρων χρήσης που σπάνια διαβάζουμε προσεκτικά. Και βέβαια η ύπαρξη τέτοιων όρων χρήσης δεν αρκεί από μόνη της για να νομιμοποιήσει την επεξεργασία δεδομένων υγείας, τα οποία απαιτούν ιδιαίτερες εγγυήσεις προστασίας.

Πρόβλημα δημιουργεί και η μετάθεση της ευθύνης: η φράση «το σύστημα το προτείνει» θολώνει τις ευθύνες όλων, από τον γιατρό έως τον ασφαλιστή που απορρίπτει μια θεραπεία βάσει αλγορίθμου. Παράλληλα, η πρόσβαση σε κατάλληλα, ελεγμένα εργαλεία και η δυνατότητα αξιολόγησης των απαντήσεών τους δεν είναι ίδιες για όλους.

Οργάνωση

Η ΤΝ, βέβαια, βοηθά ήδη στην ανάγνωση απεικονιστικών εξετάσεων και στην καλύτερη οργάνωση υπηρεσιών, μπορεί να εξηγήσει στον ασθενή μια εξέταση και να επισημάνει στον γιατρό κάτι που του διέφυγε. Για να αξιοποιηθούν όμως τα οφέλη της, χρειάζονται κανόνες και για αυτή τη νέα σχέση.

Η χρήση ενός αλγορίθμου δεν καταργεί τις υποχρεώσεις απέναντι στον ασθενή. Απαιτεί σαφή κατανομή ευθυνών σε όσους τον αναπτύσσουν και τον χρησιμοποιούν. Οι εταιρείες να δηλώνουν δημόσια με ποιες κατηγορίες δεδομένων εκπαιδεύτηκε, τι έχει σχεδιαστεί να μεγιστοποιεί και ποιες εμπορικές συνεργασίες ενδέχεται να επηρεάζουν τις απαντήσεις του. Να φέρουν νομική ευθύνη για τις δικές τους πράξεις και παραλείψεις.

Τα συστήματα με ιατρικό σκοπό χρειάζονται, όπως τα φάρμακα, ανεξάρτητη αξιολόγηση πριν κυκλοφορήσουν και συνεχή παρακολούθηση μετά. Ο ευρωπαϊκός κανονισμός για την ΤΝ είναι βήμα προς τη σωστή κατεύθυνση. Τα chatbot γενικής χρήσης, όμως, δεν υπάγονται αυτομάτως στις αυστηρότερες απαιτήσεις για συστήματα υψηλού κινδύνου επειδή ο χρήστης τα ρωτά για την υγεία του.

Εξι δεκαετίες αργότερα, η ανάλυση του Αροου μας υπενθυμίζει γιατί η εμπιστοσύνη στην ιατρική χρειάζεται θεσμικές εγγυήσεις. Η ΤΝ κάνει αυτή την ανάγκη πιο επιτακτική. Το ζητούμενο είναι να διασφαλίσουμε ότι στον πυρήνα της ιατρικής θα υπάρχει πάντα τουλάχιστον ένας άνθρωπος που λογοδοτεί στον ασθενή.

Ο Ηλίας Μόσιαλος είναι καθηγητής Πολιτικής Υγείας στη London School of Economics