Politica 89.8
Πώς η προληπτική αστυνόμευση με ΑΙ επιδεινώνει την προκατάληψη και τις διακρίσεις
Η αυξανόμενη χρήση της ΑΙ για την πρόβλεψη της εγκληματικότητας σε κακόφημες γειτονιές μπορεί να εντείνει τις διακρίσεις σε βάρος μειονοτήτων, γράφει ο νεαρός βρετανός συγγραφέας Άντριαν Ντρετζ σε βραβευμένο του δοκίμιο.
Το πρόβλημα είναι ότι τα εργαλεία τεχνητής νοημοσύνης εκπαιδεύονται με δεδομένα στα οποία κρύβονται προκαταλήψεις σε βάρος συγκεκριμένων ομάδων ή περιοχών, εξηγεί ο Ντρετζ σε συντομευμένη εκδοχή του δοκιμίου που δημοσιεύεται στο BBC.
Φανταστείτε ότι κάποιος παίρνει μια λίστα εγκλημάτων του παρελθόντος και καλείται να σκιάσει σε έναν χάρτη τις περιοχές όπου είναι πιθανό να συμβούν νέα εγκλήματα στο μέλλον. Η αστυνομία αναλαμβάνει τότε να περιπολεί στις συγκεκριμένες γειτονιές.
Πράγματι, στις περιοχές αυτές θα καταγραφούν περισσότερα εγκλήματα –όχι όμως απαραίτητα επειδή η εγκληματικότητα είναι μεγαλύτερη εκεί, αλλά απλώς επειδή στις περιοχές αυτές υπάρχουν περισσότεροι αστυνομικοί για να καταγράψουν τα περιστατικά.
Όταν αργότερα ο χάρτης ενημερωθεί, οι ίδιες περιοχές θα σκιαστούν ακόμα πιο σκούρες, εξηγεί η δρ Κάρολιν ΜακΚέι, αναπληρώτρια καθηγήτρια και ερευνήτρια ψηφιακής δικαιοσύνης στη Νομική Σχολή του Πανεπιστημίου του Σίδνεϊ.
Το θέμα είναι ότι η λίστα εγκλημάτων δεν είναι πλήρης –είναι μια καταγραφή στις περιοχές όπου η αστυνομία δίνει έμφαση. Το πρόβλημα αυτό είναι παλιό όσο και η αστυνόμευση, όμως η ΑΙ μπορεί να το μεγεθύνει.
Βρόχος ανατροφοδότησης
Η Σάρα Μπρέιν, κοινωνιολόγος στο Πανεπιστήμιο του Τέξας στο Όστιν, πέρασε ένα διάστημα μελετώντας πώς αξιοποιούνται τα δεδομένα στο Αστυνομικό Τμήμα του Λος Άντζελες. Σε μελέτη που δημοσίευσε στην επιθεώρηση American Sociological Review, διαπίστωσε ότι η αστυνομία όλο και περισσότερο χρησιμοποιούσε τα δεδομένα για να προβλέπει το έγκλημα, αντί να περιορίζεται στην αντιμετώπισή του.
Διαπίστωσε επίσης ότι τα δεδομένα που τροφοδοτούνταν στα συστήματα ΑΙ ήταν μεροληπτικά. Τα εγκλήματα σε δημόσιους χώρους ήταν πιθανότερο να γίνουν αντιληπτά και να καταγραφούν, ενώ η αστυνομία εστίαζε δυσανάλογα σε γειτονιές μαύρων. Μόλις αυτά τα δεδομένα εισαχθούν στο σύστημα, γράφει, «οι προβλέψεις φαίνονται αμερόληπτες».
Τα μοντέλα, όπως αναφέρει, δημιουργούν έτσι «έναν βρόχο ανατροφοδότησης, στον οποίο όχι μόνο προβλέπουν συμβάντα όπως το έγκλημα ή η επαφή με την αστυνομία, αλλά συμβάλλουν και στη μελλοντική εκδήλωσή τους».
Με την άποψη αυτή διαφωνεί ωστόσο ο δρ Δημήτριος Κόλλιας, αναπληρωτής καθηγητής πολυτροπικής τεχνητής νοημοσύνης στο Πανεπιστήμιο Queen Mary του Λονδίνου. Όπως αναφέρει, η τεχνολογία έχει εξελιχθεί ώστε να λαμβάνει υπόψη τη μεροληψία των ιστορικών δεδομένων.
«Η αναλογία με έναν παλιό χάρτη είναι χρήσιμη για να εξηγήσουμε πώς μπορεί να κληρονομηθεί η μεροληψία του παρελθόντος, έχει όμως τα όριά της», δήλωσε στο BBC News.
«Τα σύγχρονα συστήματα τεχνητής νοημοσύνης δεν ανακτούν ή αντιγράφουν απλώς τα παραδείγματα με τα οποία εκπαιδεύτηκαν· μπορούν να συνδυάζουν τις πληροφορίες που έχουν μάθει με νέους τρόπους και να παράγουν αποτελέσματα και λύσεις που δεν υπήρχαν ρητά σε αυτά τα παραδείγματα».
Ωστόσο, αυτές οι νέες δυνατότητες ενέχουν έναν ξεχωριστό κίνδυνο, προσθέτει ο Κόλλιας.
«Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο ικανά να παράγουν νέες αποφάσεις και να ενεργούν με μεγαλύτερη αυτονομία, πρέπει να διασφαλίσουμε ότι η συμπεριφορά τους παραμένει ασφαλής, αξιόπιστη και υπό ουσιαστικό ανθρώπινο έλεγχο», αναγνώρισε.
Βρόμικα δεδομένα
Ένα άλλο πρόβλημα είναι ότι τα δεδομένα που συλλέγουν οι αρχές, με τα οποία εκπαιδεύεται αργότερα η τεχνητή νοημοσύνη, δεν είναι εξαρχής αξιόπιστα.
Μελέτη ερευνητών του Πανεπιστημίου της Νέας Υόρκης ότι διαπίστωνε ότι σε εννέα από τις 13 περιοχές των ΗΠΑ που εξετάστηκαν υπήρχαν δεδομένα από περιόδους παράνομης ή μεροληπτικής αστυνόμευσης που ήταν διαθέσιμα για την εκπαίδευση αυτών των συστημάτων.
Το σύστημα δεν μπορεί να αναγνωρίσει ότι αυτά τα δεδομένα είναι προβληματικά, σύμφωνα με τους ερευνητές. Απλώς τα αντιμετωπίζει ως ένα μοτίβο προς επανάληψη. Είναι σαν η πυξίδα του χαρτογράφου να δείχνει μόνο προς τα σημεία όπου έχει ήδη καταγραφεί εγκληματικότητα. Ο χαρτογράφος νομίζει ότι εντόπισε μια νέα εστία εγκληματικότητας, ενώ το μόνο που έκανε ήταν να ακολουθήσει τη μεροληψία των προηγούμενων αστυνομικών.
Η λύση που προτείνει η ΜακΚέι είναι ο έλεγχος του χάρτη από ανεξάρτητους και αμερόληπτους ειδικούς.
Ακόμα κι έτσι όμως η διόρθωση των «βρόμικων δεδομένων» δεν είναι εύκολη υπόθεση. Τα λάθη δεν είναι μερικές «σκόρπιες μολυβιές». Ολόκληρος ο χάρτης έχει σχεδιαστεί πάνω τους. Οι ερευνητές του Πανεπιστημίου της Νέας Υόρκης προειδοποιούν ότι οι τεχνικές διορθώσεις που προσφέρουν οι εταιρείες που πωλούν αυτά τα συστήματα δεν αρκούν αν δεν ελεγχθεί ανεξάρτητα ο τρόπος με τον οποίο δημιουργήθηκαν εξαρχής τα δεδομένα.
Το πρόβλημα μπορεί να οδηγήσει σε πραγματικές βλάβες. Μελέτη που δημοσιεύτηκε το 2019 στο Science εξέταζε ένα σύστημα ΑΙ που βοηθούσε να αποφασιστεί ποιοι ασθενείς θα λάμβαναν πρόσθετη υποστήριξη στην υγειονομική περίθαλψη.
Το σύστημα προέβλεπε ποιοι ασθενείς θα είχαν το υψηλότερο κόστος περίθαλψη, βασιζόταν όμως σε μεροληπτικά δεδομένα, καθώς οι δαπάνες για μαύρους ασθενείς ήταν λιγότερες από ό,τι για εξίσου άρρωστους λευκούς ασθενείς, εν μέρει λόγω της δυσκολότερης πρόσβασης των μαύρων τους στην περίθαλψη.
Αντιμετωπίζοντας το υψηλότερο κόστος ως ένδειξη μεγαλύτερης ανάγκης, το σύστημα ευνοούσε άδικα τους λευκούς ασθενείς.
Ήταν σαν να είχαν ζητήσει από τον χαρτογράφο να σημειώσει τις περιοχές της πόλης με τους πιο άρρωστους κατοίκους, ενώ αυτός σημείωνε τις περιοχές όπου δαπανώνταν τα περισσότερα χρήματα. Όταν οι ερευνητές τροποποίησαν το σύστημα ώστε να προβλέπει πόσο άρρωστοι ήταν οι ασθενείς, αντί για το κόστος της περίθαλψής τους, η μεροληψία σε μεγάλο βαθμό εξαφανίστηκε. Το ποσοστό των μαύρων μεταξύ των ασθενών που θα επιλέγονταν για πρόσθετη βοήθεια θα αυξανόταν από περίπου 18% σε 47%.
Ο Κόλλιας αναγνώρισε ότι η μεροληψία της τεχνητής νοημοσύνης λόγω «βρόμικων δεδομένων» αποτελεί «σημαντικό ζήτημα».
«Αυτό όμως δεν σημαίνει ότι η μεροληψία είναι αναπόφευκτη», ανέφερε. «Μπορούμε να ελέγχουμε τα συστήματα για άδικα αποτελέσματα, να βελτιώνουμε τα δεδομένα και τους στόχους που χρησιμοποιούν και να θεσπίζουμε δικλίδες ασφαλείας για να περιορίζουμε αυτές τις επιπτώσεις».
Μια βελτίωση θα ήταν να προστεθούν δεδομένα που δίνουν μια πληρέστερη εικόνα. Ο χαρτογράφος θα μπορούσε να εξετάζει κάτι περισσότερο από έναν απλό κατάλογο εγκλημάτων Θα μπορούσε να δει ποιες περιοχές έχουν παραμεληθεί -μέρη με χαλασμένα φώτα στους δρόμους, ελάχιστη χρηματοδότηση και ελλιπείς δημόσιες υπηρεσίες. Αυτό θα έδειχνε αν αν το τοπικό περιβάλλον παίζει κάποιον ρόλο. Αντί να στέλνουν περιπολικά στις σκιασμένες περιοχές του χάρτη, οι δήμοι θα μπορούσαν να διαθέτουν χρήματα για την αποκατάσταση του φωτισμού, τη στήριξη της κοινότητας και την ανάπλαση της ίδιας της περιοχής.
Σύμφωνα όμως με τη ΜακΚέι, ακόμη κι αυτό ενδέχεται να μην αρκεί.
«Οι περιοχές που στοχοποιούνται εξακολουθούν να συνδέονται στενά με τους κατοίκους τους», αναφέρει. «Οι κάτοικοι ενδέχεται να συνεχίσουν να υφίστανται υπερβολική αστυνόμευση και περιθωριοποίηση».
Η ΜακΚέι αναφερόταν σε συστήματα που σχεδιάστηκαν να χρησιμοποιούν πληροφορίες για τόπους και όχι για ανθρώπους. Παρ’ όλα αυτά, ειδικοί εξέφρασαν ανησυχίες ότι και αυτά οδηγούσαν σε υπερβολική αστυνόμευση.
Είναι σαν ο χαρτογράφος να υποσχέθηκε ότι θα σταματήσει να γράφει ονόματα ανθρώπων στον χάρτη και θα σημειώνει μόνο τους δρόμους και τα κτίρια. Όμως, αυτοί οι δρόμοι είχαν σκιαστεί εξαιτίας χρόνων παραμέλησης και έντονης αστυνόμευσης, οπότε το σβήσιμο των ονομάτων δεν αλλάζει ουσιαστικά την κατάσταση,
Η τεχνητή νοημοσύνη δεν έχει δικές της πεποιθήσεις ή προσωπικότητα. Όπως ένας χαρτογράφος σε ένα δωμάτιο χωρίς παράθυρα, γνωρίζει μόνο όσα της λένε. Αν εκείνος που περιγράφει την πόλη τρέφει εμπάθεια για μια γειτονιά, η αυτή εμπάθεια αποτυπώνεται στον χάρτη.
Τελικά, το πρόβλημα είναι η ανθρώπινη μεροληψία που τροφοδότησε την τεχνητή νοημοσύνη. Οι άνθρωποι αποφασίζουν ποια χαρακτηριστικά καθιστούν κάποιον ύποπτο στις εικόνες από κάμερες παρακολούθησης ή τι θεωρείται δάνειο υψηλού κινδύνου, κουβαλώντας τις δικές τους πολιτισμικές, εκπαιδευτικές και πολιτικές προκαταλήψεις. Ίσως, λοιπόν, η τεχνητή νοημοσύνη να μπορεί να αποτελέσει μέρος της λύσης αντί να μεγεθύνει το πρόβλημα, λέει ο Κόλλιας.
«Ένα προσεκτικά σχεδιασμένο σύστημα τεχνητής νοημοσύνης, το οποίο έχει αξιολογηθεί ανεξάρτητα, μπορεί να κάνει ορισμένα από αυτά τα μοτίβα πιο μετρήσιμα και ορατά, δίνοντάς μας την ευκαιρία να τα εντοπίσουμε και να τα περιορίσουμε».
Σε κάθε περίπτωση, οι ειδικοί τονίζουν ότι οι άνθρωποι πρέπει να διατηρούν ενεργό ρόλο στη διαδικασία.
Διαφορετικά, όπως ένας χαρτογράφος που περνά με μελάνι τις παλιές γραμμές του μολυβιού, η τεχνητή νοημοσύνη κινδυνεύει να μας αφήσει όλους σε ένα δωμάτιο χωρίς παράθυρα, παγιδευμένους για πάντα στα λάθη του χθες.
in.gr
