Νέο διεθνές πλαίσιο CARE-AI για την τεχνητή νοημοσύνη στην υγεία

Όταν οργανισμοί όπως ο Παγκόσμιος Οργανισμός Υγείας (ΠΟΥ) και η UNESCO θέτουν γενικές ηθικές αρχές για την τεχνητή νοημοσύνη, οι γιατροί και οι εκπαιδευτικοί συχνά μένουν χωρίς σαφή καθοδήγηση για την καθημερινή πράξη. Σε αυτό το κενό απαντά μια διεθνής ομάδα ερευνητών, κλινικών γιατρών, εκπαιδευτικών, ειδικών ηθικής και ασθενών-εταίρων, που ανέπτυξε και επικύρωσε το πλαίσιο Health CARE-AI. Δημοσιευμένο στο επιστημονικό περιοδικό JMIR Medical Education, το πλαίσιο προσφέρει έναν οδικό χάρτη, στηριγμένο σε συναίνεση ειδικών, για την υπεύθυνη ενσωμάτωση της τεχνητής νοημοσύνης σε όλο το φάσμα της εκπαίδευσης και της άσκησης της ιατρικής.

Το ακρωνύμιο CARE-AI αντιστοιχεί στις λέξεις Contextual, Accountable, Responsible και Equitable Artificial Intelligence — δηλαδή μια τεχνητή νοημοσύνη με επίγνωση του πλαισίου, με λογοδοσία, υπεύθυνη και δίκαιη. Το πλαίσιο προέκυψε μέσα από μια αυστηρή, τροποποιημένη διαδικασία συναίνεσης Delphi τριών φάσεων, στην οποία συμμετείχαν 303 μοναδικοί συμμετέχοντες διεθνώς και έλαβε σχεδόν ομόφωνη έγκριση.

Γιατί η ΤΝ στην υγεία δεν είναι απλώς ένα ακόμη ψηφιακό εργαλείο

Η μελέτη τονίζει ότι η τεχνητή νοημοσύνη δεν αποτελεί απλή προέκταση των υφιστάμενων ψηφιακών εργαλείων ή των μέσων κοινωνικής δικτύωσης. Εισάγει θεμελιώδεις προκλήσεις για την κλινική αυτονομία, τη σχέση εμπιστοσύνης μεταξύ γιατρού και ασθενή και την ισότητα στην υγεία. Οι κλινικοί και οι εκπαιδευτικοί, σημειώνει η ομάδα, συχνά αντιμετωπίζουν χωρίς σαφή κατεύθυνση ζητήματα όπως η προστασία των προσωπικών δεδομένων των ασθενών, οι μεροληψίες των αλγορίθμων, η αξιολόγηση των φοιτητών ή η διαχείριση δεδομένων.

Στόχος της πρωτοβουλίας ήταν να περάσει από τις αφηρημένες αξίες σε συγκεκριμένες δεξιότητες, επαγγελματική λογοδοσία και δομικές δεσμεύσεις για την ισότητα — στοιχεία που μπορούν πλέον να διδαχθούν, να εποπτευθούν και να θεσμοθετηθούν.

Τέσσερις τομείς και δέκα αρχές που μπορούν να εφαρμοστούν

Το πλαίσιο Health CARE-AI οργανώνει 10 βασικές αρχές σε τέσσερις αλληλένδετους τομείς:

• Αξίες: η χρήση της ΤΝ θεωρείται κοινό ατομικό και συλλογικό καθήκον, με διαφάνεια, εντιμότητα και ακεραιότητα στη φροντίδα και τη μάθηση με υποστήριξη ΤΝ.
• Ικανότητα: δέσμευση για συνεχή, προσαρμοσμένη στον ρόλο γνώση της ΤΝ και διατήρηση της κριτικής ανθρώπινης κρίσης, ώστε η τεχνολογία να συμπληρώνει και όχι να αντικαθιστά τις κλινικές και εκπαιδευτικές αποφάσεις.
• Λογοδοσία: η ΤΝ αντιμετωπίζεται ως ένα παρόν «τρίτο μέρος» στις αλληλεπιδράσεις, με αυστηρή τήρηση των νομικών ορίων, της ιδιωτικότητας και της συναίνεσης, και με ηθική διαχείριση δεδομένων.
• Δομική ισότητα: ενεργός εντοπισμός και άμβλυνση της αλγοριθμικής μεροληψίας, ενσωμάτωση της ισότητας στον σχεδιασμό και τη διακυβέρνηση μέσω συνδιαμόρφωσης με τις κοινότητες που επηρεάζονται, καθώς και προώθηση της περιβαλλοντικής και εργασιακής βιωσιμότητας.

Ένας «οδηγός εφαρμογής» για σχολές και νοσοκομεία

Σε αντίθεση με τα στατικά κείμενα πολιτικής, το πλαίσιο συνοδεύεται από έναν οδηγό εφαρμογής και μια εργαλειοθήκη. Η εργαλειοθήκη περιλαμβάνει εφαρμογές βασισμένες σε σενάρια για τη διδασκαλία, την έρευνα και τη διακυβέρνηση, επιτρέποντας σε ιατρικές σχολές, προγράμματα ειδικότητας και διοικήσεις συστημάτων υγείας να αξιολογούν την ετοιμότητά τους, να επικαιροποιούν τα προγράμματα σπουδών και να ελέγχουν τις εφαρμογές ΤΝ.

Για τον αναγνώστη αυτό σημαίνει ότι, καθώς εργαλεία τεχνητής νοημοσύνης εισέρχονται όλο και περισσότερο στα εξεταστήρια και στην ιατρική εκπαίδευση, υπάρχει πλέον ένα επικυρωμένο σημείο αναφοράς για το πώς αυτά θα χρησιμοποιούνται με ασφάλεια. Πρακτικά, ένα τέτοιο πλαίσιο μπορεί να λειτουργήσει ως βάση για τα ιδρύματα που θέλουν να προστατεύσουν την ευημερία των ασθενών και τη σχέση εμπιστοσύνης, χωρίς να μένουν στη γενικότητα των υψηλού επιπέδου αρχών.

Πόσο έτοιμος θεωρείτε ότι είναι ο χώρος της υγείας για την ενσωμάτωση της τεχνητής νοημοσύνης; Μοιραστείτε τη γνώμη σας στα σχόλια.