Η Axon - οι κατασκευαστές ευρέως χρησιμοποιούμενων καμερών σώματος της αστυνομίας και taser (που συνεχίζει επίσης να προσπαθεί να οπλίσει τα drones) - κυκλοφορεί ένα νέο προϊόν: AI που θα γράφει αστυνομικές αναφορές για αξιωματικούς.
Το Draft One είναι ένα παραγωγικό σύστημα μηχανικής μάθησης μεγάλου γλωσσικού μοντέλλου που φέρεται να λαμβάνει ήχο από κάμερες που φοριούνται στο σώμα και να τον μετατρέπει σε αφηγηματική αστυνομική αναφορά που η αστυνομία μπορεί στη συνέχεια να επεξεργαστεί και να υποβάλει μετά από ένα περιστατικό.
Η Axon θεωρεί αυτό το προϊόν ως την απόλυτη εξοικονόμηση χρόνου για τα αστυνομικά τμήματα που ελπίζουν να βγάλουν τους αξιωματικούς πίσω από τα γραφεία τους.
Αλλά αυτή η τεχνολογία θα μπορούσε να παρουσιάσει νέα ζητήματα για όσους αντιμετωπίζουν την αστυνομία, και ειδικά εκείνες τις περιθωριοποιημένες κοινότητες που υπόκεινται ήδη σε δυσανάλογο μερίδιο αστυνομικών αλληλεπιδράσεων στις Ηνωμένες Πολιτείες.
Ευθύνη και κωδικοποίηση (εκούσιων ή μη) ανακριβειών
Το έχουμε ξαναδεί. Κοκκώδες και τρεμάμενο βίντεο από κάμερα σώματος της αστυνομίας στο οποίο ένας αστυνομικός που συλλαμβάνει φωνάζει: «Σταματήστε να αντιστέκεστε!» Αυτή η φράση μπορεί να οδηγήσει σε μεγαλύτερη χρήση βίας από αξιωματικούς ή να συνοδεύεται από ενισχυμένες ποινικές κατηγορίες.
Μερικές φορές, αυτές οι κραυγές μπορεί να δικαιολογούνται. Αλλά όπως έχουμε δει ξανά και ξανά, η αφήγηση κάποιου που αντιστέκεται στη σύλληψη μπορεί να είναι μια παραποίηση.
Η ενσωμάτωση της τεχνητής νοημοσύνης στις αφηγήσεις των αστυνομικών συναντήσεων μπορεί να κάνει ένα ήδη περίπλοκο σύστημα ακόμη πιο ώριμο για κατάχρηση.
Το κοινό θα πρέπει να είναι σκεπτικό για την ικανότητα ενός γλωσσικού αλγορίθμου να επεξεργάζεται με ακρίβεια και να διακρίνει μεταξύ του ευρέος φάσματος γλωσσών, διαλέκτων, καθομιλουμένης, ιδιωματισμών και αργκό που χρησιμοποιούν οι άνθρωποι.
Όπως μάθαμε παρακολουθώντας την εποπτεία περιεχομένου να αναπτύσσεται στο διαδίκτυο, το λογισμικό μπορεί να έχει μια βατή ικανότητα να συλλαμβάνει λέξεις, αλλά συχνά δυσκολεύεται με το περιεχόμενο και το νόημα.
Σε ένα συχνά τεταμένο περιβάλλον, όπως μια στάση κυκλοφορίας, η τεχνητή νοημοσύνη που μπερδεύει μια μεταφορική δήλωση με έναν κυριολεκτικό ισχυρισμό θα μπορούσε να αλλάξει θεμελιωδώς τον τρόπο ερμηνείας μιας αστυνομικής έκθεσης.
Επιπλέον, όπως συμβαίνει με όλη τη λεγόμενη τεχνητή νοημοσύνη που αναλαμβάνει επακόλουθα καθήκοντα και λήψη αποφάσεων, η τεχνολογία έχει τη δύναμη να αποκρύψει την ανθρώπινη παρέμβαση.
Οι αστυνομικοί που σκόπιμα μιλούν με αναλήθειες ή υπερβολές για να διαμορφώσουν την αφήγηση που είναι διαθέσιμη στα πλάνα από κάμερες σώματος έχουν τώρα ακόμη περισσότερο μια επίφαση εύλογης άρνησης με αστυνομικές αναφορές που δημιουργούνται από AI.
Εάν η αστυνομία επρόκειτο να πιαστεί σε ένα ψέμμα σχετικά με το τι υπάρχει στην έκθεση, ένας αξιωματικός θα μπορούσε να πει ότι δεν είπε ψέμματα: η AI απλώς παρερμήνευσε τι συνέβαινε στο χαοτικό βίντεο.
Δεν είναι επίσης σαφές πώς αυτή η τεχνολογία θα λειτουργήσει σε δράση.
Εάν ο αξιωματικός λέει δυνατά σε ένα βίντεο κάμερας σώματος, «ο ύποπτος έχει όπλο», πώς θα μεταφραστεί αυτό στο αφηγηματικό τελικό προϊόν του λογισμικού;
Θα το ερμήνευε αυτό λέγοντας «Εγώ [ο αξιωματικός] είδα τον ύποπτο να βγάζει όπλο» ή «Ο ύποπτος ήταν οπλισμένος»; Ή θα ανέφερε απλώς αυτό που είπε ο αξιωματικός: «Εγώ [ο αξιωματικός] είπα δυνατά ότι ο ύποπτος έχει όπλο»;
Η ερμηνεία έχει σημασία και οι διαφορές μεταξύ τους θα μπορούσαν να έχουν καταστροφικές συνέπειες για τους κατηγορούμενους στο δικαστήριο.
Επανεξέταση, διαφάνεια και έλεγχοι
Το ζήτημα της επανεξέτασης, του λογιστικού ελέγχου και της διαφάνειας εγείρει μια σειρά ερωτημάτων.
Παρ' όλο που το Draft One επιτρέπει στους αξιωματικούς να επεξεργάζονται αναφορές, πώς θα διασφαλίσει ότι οι αξιωματικοί ελέγχουν επαρκώς την ακρίβεια αντί να σφραγίζουν την έκδοση που δημιουργείται από AI;
Εξάλλου, η αστυνομία είναι γνωστό ότι συλλαμβάνει ανθρώπους με βάση τα αποτελέσματα μιας τεχνολογίας αναγνώρισης προσώπου χωρίς καμμία έρευνα παρακολούθησης - σε αντίθεση με την επιμονή των πωλητών ότι τέτοια αποτελέσματα πρέπει να χρησιμοποιούνται ως ερευνητικό στοιχείο και όχι ως θετική ταυτοποίηση.
Επιπλέον, εάν η αναφορά που δημιουργήθηκε από την τεχνητή νοημοσύνη είναι λανθασμένη, μπορούμε να εμπιστευτούμε ότι η αστυνομία θα αντικρούσει αυτήν την εκδοχή των γεγονότων, εάν είναι προς το συμφέρον της να διατηρήσει ανακρίβειες;
Από την άλλη πλευρά, θα μπορούσε η Τεχνητή Νοημοσύνη να αναφέρει γραφή να ακολουθήσει το δρόμο των καμερών σώματος που είναι βελτιωμένες με AI;
Με άλλα λόγια, εάν η έκθεση παράγει με συνέπεια μια αφήγηση από ήχο που δεν αρέσει στην αστυνομία, θα την επεξεργαστεί, θα την καταργήσει ή θα διακόψει εντελώς τη χρήση του λογισμικού;
Και τι γίνεται με τη δυνατότητα των εξωτερικών αναθεωρητών να έχουν πρόσβαση σε αυτές τις αναφορές;
Δεδομένης της υπερβολικά έντονης μυστικότητας των αστυνομικών τμημάτων, σε συνδυασμό με τη συχνή αποτυχία συμμόρφωσης με τους νόμους περί δημόσιων αρχείων, πώς μπορεί το κοινό ή οποιαδήποτε εξωτερική υπηρεσία να είναι σε θέση να επαληθεύσει ή να ελέγξει ανεξάρτητα αυτές τις αναφορές με τη βοήθεια τεχνητής νοημοσύνης;
Και πώς θα γνωρίζουν οι εξωτερικοί αναθεωρητές ποια τμήματα της αναφοράς δημιουργούνται από AI έναντι ανθρώπου;
Οι αναφορές της αστυνομίας, στρεβλές και προκατειλημμένες όπως συμβαίνει συχνά, κωδικοποιούν τη μνήμη του αστυνομικού τμήματος.
Αποκαλύπτουν όχι απαραίτητα τι συνέβη κατά τη διάρκεια ενός συγκεκριμένου περιστατικού, αλλά τι φανταζόταν η αστυνομία ότι συνέβη, καλή τη πίστει ή όχι.
Η αστυνόμευση, με τη νομική της εξουσία να σκοτώνει, να κρατά ή τελικά να αρνείται την ελευθερία των ανθρώπων, είναι πολύ ισχυρός θεσμός για να αναθέσει τη δημιουργία μνήμης σε τεχνολογίες με τρόπο που καθιστά τους αξιωματικούς απρόσβλητους από την κριτική, τη διαφάνεια ή τη λογοδοσία.
Πηγή: ΕΤΑ
Ο Matthew Guariglia είναι πολιτικός αναλυτής που εργάζεται σε θέματα επιτήρησης και αστυνόμευσης σε τοπικό, πολιτειακό και ομοσπονδιακό επίπεδο.
Έλαβε διδακτορικό στην ιστορία στο Πανεπιστήμιο του Κοννέκτικατ, όπου η έρευνά του επικεντρώθηκε στη διασταύρωση της φυλής, της μετανάστευσης, του ιμπεριαλισμού των ΗΠΑ και της αστυνόμευσης στη Νέα Υόρκη.
Είναι συνεκδότης του The Essential Kerner Commission Report (Liveright, 2021) και το βιβλίο του Police in the Empire City αναμένεται από το Duke University Press και τα bylines του έχουν εμφανιστεί στο NBC News, την Washington Post, το Slate, το Motherboard και το Muckrock με επίκεντρο την ελευθερία της πληροφόρησης.
Ο Matthew είναι συνεργάτης μελετητής στη Νομική Σχολή του Πανεπιστημίου της Καλιφόρνια στο Σαν Φρανσίσκο και υπηρετεί ως συντάκτης του "Disciplining the City", μιας σειράς για την ιστορία της αστικής αστυνόμευσης και φυλάκισης στο blog The Metropole της Urban History Association.
ΜΕΤΑΦΡΑΣΗ: ΜΑΡΙΓΩ ΖΑΡΑΦΟΠΟΥΛΑ
ΣΧΕΤΙΚΑ:
Η Ρωσσία μπλοκάρει την πλατφόρμα βίντεο Rumble
Η ρωσική κυβέρνηση έχει μπλοκάρει επίσημα την πρόσβαση στην πλατφόρμα βίντεο Rumble. Αιτία: Η εταιρεία αρνήθηκε να συμμορφωθεί με τα αιτήματα λογοκρισίας. Το YouTube μπορεί να συνεχίσει να λειτουργεί
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου
Ἐνημερώνουμε τοὺς ἀγαπητοὺς ἀναγνῶστες μας, ὅτι σχόλια, τὰ ὁποῖα ἐμπεριέχουν προσβλητικοὺς χαρακτηρισμούς, διαφημίζουν κόμματα ἢ εἶναι γραμμένα μὲ λατινικοὺς χαρακτῆρες (γκρήκλις), θὰ διαγράφωνται ἄνευ προειδοποιήσεως!