Politica 89.8
Ακτινολόγοι προειδοποιούν για πιθανές απάτες με deepfake ακτινογραφίες
Ψεύτικες ακτινογραφίες που δημιουργήθηκαν με το ChatGPT ξεγελούν όχι μόνο τους ακτινολόγους αλλά και τα ίδια τα συστήματα τεχνητής νοημοσύνης, αποκαλύπτει νέα μελέτη, με τους ερευνητές να προειδοποιούν για πιθανές απάτες και ζητήματα κυβερνοασφάλειας στα νοσοκομεία.
Συνολικά 17 ακτινολόγοι από 12 νοσοκομεία σε 6 χώρες κλήθηκαν να εξετάσουν 264 ακτινογραφίες, από τις οποίες οι μισές είχαν δημιουργηθεί είτε με το ChatGPT είτε με ένα άλλο εργαλείο ΑΙ, γνωστό ως RoentGen.
Όταν ακόμα δεν γνώριζαν τους σκοπούς της μελέτης, οι ακτινολόγοι αναγνώρισαν μόνο το 41% των deepfake, αναφέρουν οι ερευνητές στην επιθεώρηση Radiology.
Όταν ενημερώθηκαν για την ύπαρξη συνθετικών εικόνων, το ποσοστό αυξήθηκε στο 75%.
Το γεγονός ότι οι deepfake ακτινογραφίες ξεγελούν τους γιατρούς «δημιουργεί ένα κενό ασφάλειας υψηλού ρίσκου για δόλιες δικαστικές διεκδικήσεις, εάν, για παράδειγμα, ένα ψεύτικο κάταγμα δεν μπορεί να διακριθεί από ένα πραγματικό» δήλωσε ο επικεφαλής της ο Μάικλ Τόρντζα του Icahn School of Medicine στη Νέα Υόρκη, επικεφαλής της μελέτης.
«Υπάρχει επίσης ένας σημαντικός κίνδυνος κυβερνοασφάλειας στην περίπτωση που χάκερ αποκτήσουν πρόσβαση στο δίκτυο ενός νοσοκομείου και εισαγάγουν συνθετικές εικόνες για να αλλοιώσουν διαγνώσεις ασθενών ή να προκαλέσουν εκτεταμένο κλινικό χάος» πρόσθεσε.
Τέσσερα μεγάλα γλωσσικά μοντέλα – το GPT-4o και το GPT-5 της OpenAI, το Gemini 2.5 Pro της Google και το Llama 4 Maverick της Meta Platforms- αναγνώρισαν τις ψεύτικες εικόνες στο 57 με 85 τοις εκατό των περιπτώσεων.
Ακόμα και το GPT-4o, το μοντέλο που δημιούργησε πολλά από τα deepfake, απέτυχε να τα εντοπίσει όλα, αν και οι επιδόσεις του ξεπέρασαν τα υπόλοιπα μοντέλα.
Οι ερευνητές τονίζουν την ανάγκη για ψηφιακά μέτρα προστασίας, όπως η χρήση αόρατων υδατογραφημάτων που πιστοποιούν την ιδιοκτησία, προκειμένου για να ξεχωρίζουν οι πραγματικές από τις ψεύτικες εικόνες και να αποτρέπονται παραποιήσεις,
«Πιθανότατα βλέπουμε μόνο την κορυφή του παγόβουνου» σχολίασε ο Τόρτζμαν, αναφερόμενος στην πιθανότητα εμφάνισης ψεύτικων αξονικών και μαγνητικών τομογραφιών.
«Η δημιουργία εκπαιδευτικών συνόλων δεδομένων και εργαλείων ανίχνευσης έχει κρίσιμη σημασία», είπε.
Πηγή: in.gr
