Η τεχνολογία Αναγνώρισης Προσώπου και οι ικανότητές της έχουν αυξηθεί πολύ πέρα από τη φαντασία μας από τότε που πρωτοεμφανίστηκαν νέοι αλγόριθμοι για την ενίσχυση αυτής της τεχνολογίας στην επιβολή του νόμου. Επί του παρόντος, η τεχνολογία αναγνώρισης προσώπου χρησιμοποιείται από τις δυνάμεις επιβολής του νόμου στα χαμηλότερα επίπεδα διαδικασιών συλλογής δεδομένων για τον εντοπισμό εγκληματιών εν μέσω πολυπληθών συγκεντρώσεων. Η τεχνολογία χρησιμοποιεί πλάνα από κάμερες CCTV σε δημόσιους χώρους και δρόμους και στη συνέχεια τρέχει τα συγκεντρωμένα δεδομένα σε αρχεία πρακτορείων για να εντοπίσει ένα πρόσωπο που καταζητείται για ποινικά αδικήματα.
Αυτή η τεχνολογία έχει ενσωματωθεί περαιτέρω στα μικρότερα gadget, συμπεριλαμβανομένων των κινητών τηλεφώνων και των έξυπνων φορητών συσκευών. Ως εκ τούτου, δεν σας προστατεύει μόνο στους δρόμους, αλλά σκοπεύει επίσης να προστατεύσει τις προσωπικές σας πληροφορίες που είναι αποθηκευμένες στις έξυπνες συσκευές σας. Η χρήση «faceprint» για πρακτικές μάρκετινγκ και διαφήμισης έχει γίνει κοινή στη σύγχρονη εποχή της εκστρατείας στα μέσα κοινωνικής δικτύωσης. Και μετά, υπάρχει ιδιωτική επιτήρηση σε εμπορικά κέντρα, καταστήματα λιανικής κ.λπ.
Από αυτή την άποψη, μπορεί κανείς να επισημάνει γρήγορα τα αναμφισβήτητα πλεονεκτήματα της τεχνολογίας αναγνώρισης προσώπου. Αλλά έχει επίσης ελεγχθεί για την απειλή που συνιστά για το απόρρητο των χρηστών, την προστασία των δεδομένων και φυσικά τη διαφάνεια μεταξύ του νόμου και του κοινού. Είναι καλό να γνωρίζετε τόσο τα πλεονεκτήματα όσο και τα μειονεκτήματα μιας τέτοιας επεμβατικής τεχνολογίας. Ωστόσο, υπάρχει ένα ακόμη μειονέκτημα της τεχνολογίας αναγνώρισης προσώπου, το οποίο οι άνθρωποι φαίνεται να αγνοούν, και αυτό είναι το φυλετικό προφίλ και οι φυλετικές διακρίσεις .
Σε αυτό το κομμάτι, εξετάζουμε πώς αυτή η τεχνολογία προωθεί τη φυλετική προκατάληψη και τις διακρίσεις και πόσο σοβαρές είναι οι επιπτώσεις μιας τέτοιας επεμβατικής τεχνολογίας.
Πώς λειτουργεί η Αναγνώριση Προσώπου;
Πηγή εικόνας: National Post
Βήμα 1: Μια φωτογραφία σας λαμβάνεται από μια κάμερα, τον λογαριασμό σας, το email σας κ.λπ. Είναι είτε μια ευθεία φωτογραφία προφίλ είτε μια τυχαία λήψη σε ένα πλήθος.
Βήμα 2: Το λογισμικό αναγνώρισης προσώπου θα εκτελέσει το πρόσωπό σας μέσω μιας βάσης δεδομένων με αποθηκευμένα αποτυπώματα προσώπου. Το αποτύπωμα προσώπου συλλέγεται μέσω γεωμετρικής παρακολούθησης του προσώπου σας.
Βήμα 3: Παράγεται ένα ποσοστό αντιστοίχισης της εικόνας σας με οποιοδήποτε γνωστό αποτύπωμα προσώπου χρησιμοποιώντας έναν αλγόριθμο για τον οποίο γίνεται προσδιορισμός.
Automation Bias: Ένα από τα πολλά ελαττώματα της τεχνολογίας αναγνώρισης προσώπου
Το Automation Bias ή Machine Bias αναφέρεται στο σενάριο όπου ένας αλγόριθμος μηχανής εμφανίζει μια συγκεκριμένη προκατάληψη στη βαθμονόμηση των δεδομένων εισόδου, δίνοντας έτσι δυσμενή έξοδο. Αυτό συμβαίνει όταν υπάρχει σφάλμα στον κώδικα αλγορίθμου, έλλειψη αποθηκευμένων συνόλων δεδομένων για βαθμονόμηση, λανθασμένες τιμές εισόδου ή υπερβολικά δεδομένα εισόδου, τα οποία είναι πέρα από τις δυνάμεις των μηχανών για βαθμονόμηση.
Πώς τα φυλετικά προφίλ συμβαδίζουν με όλα αυτά;
Πηγή εικόνας: The Guardian
Ας ξεκινήσουμε με ένα αρχαίο περιστατικό που τότε κρίθηκε ασήμαντο. Το 2001, η Tampa City χρησιμοποίησε λογισμικό αναγνώρισης προσώπου για επιτήρηση της πολυσύχναστης πόλης καθώς οι τουρίστες πλημμύριζαν τους δρόμους της πόλης λόγω του Super Bowl του 2001. Σύμφωνα με μια αναφορά των New York Times , το λογισμικό εντόπισε 19 άτομα που υποτίθεται ότι είχαν εκκρεμή εντάλματα εναντίον τους. Ωστόσο, δεν έγιναν συλλήψεις καθώς οι υποδομές του γηπέδου κατέστησαν αδύνατη την πρόσβαση στους εντοπισθέντες δράστες ανάμεσα σε ένα συντριπτικό πλήθος.
Ενώ τα σημάδια φυλετικού προφίλ δεν φάνηκαν πουθενά στη συγκεκριμένη περίπτωση, ήταν η πρώτη φορά που χρησιμοποιήθηκαν τεχνικές επιτήρησης κατά της παραβίασης των πολιτικών ελευθεριών και της ιδιωτικής ζωής των ατόμων. Τα επόμενα χρόνια, η αστυνομία της Τάμπα εγκατέλειψε αυτά τα συστήματα παρακολούθησης επικαλούμενη αναξιόπιστα αποτελέσματα.
Πηγή εικόνας: ICO
Προχωρώντας γρήγορα σε ένα κάπως πιο πρόσφατο σενάριο, ο Ali Breland ανέφερε στον Guardian , σχετικά με τη σύλληψη του Willie Lynch, ενός μαύρου άνδρα που κατηγορείται ότι ήταν διαβόητος έμπορος ναρκωτικών στην περιοχή Brentwood, μια γειτονιά κυρίως έγχρωμων ανθρώπων. Το μόνο αποδεικτικό στοιχείο εναντίον του Lynch ήταν οι φωτογραφίες του σε ένα κινητό, οι οποίες χρησιμοποιήθηκαν σε μια βάση δεδομένων της αστυνομίας προτού η αστυνομία τον προσδιορίσει ως τον ένοχο. Ο Λιντς καταδικάστηκε για οκτώ χρόνια, ο οποίος τώρα άσκησε έφεση κατά της καταδίκης. Είτε ήταν ο υποτιθέμενος έμπορος είτε όχι, αναπόφευκτα προκαλεί ανησυχία για το εάν μόνο ένα αποτέλεσμα που βασίζεται σε μηχανή αρκεί για να επιβεβαιώσει την καταδίκη οποιουδήποτε υπό έρευνα;
Το 2019, όπως αναφέρθηκε από τον Tom Perkins για τον Guardian , η αστυνομία του Ντιτρόιτ βρέθηκε να χρησιμοποιεί αναγνώριση προσώπου για να κάνει συλλήψεις που φέρονται ότι τα τελευταία δύο χρόνια. Το Ντιτρόιτ είναι ένα μέρος όπου περισσότερο από το 80% του πληθυσμού είναι μαύροι. Μια δήλωση ενός μαύρου μέλους της Αστυνομικής Επιτροπής του Ντιτρόιτ προκάλεσε ανησυχίες κατά της πρακτικής. Είπε ότι οι μαύροι έχουν ένα κοινό χαρακτηριστικό του προσώπου που θέτει σε κίνδυνο τον αλγόριθμο του συστήματος, χαρακτηρίζοντάς το ως «τεχνορατσισμό».
Πηγή εικόνας: Vox
Σε μια έρευνα του 2019 για το Journal of Information Communication and Ethics Society, από τους Fabio Bacchini και Ludovica Lorusso, διαπιστώθηκε ότι αυτά τα βιομετρικά συστήματα και τα συστήματα αναγνώρισης προσώπου δεν είναι 100% αξιόπιστα για την επιβολή του νόμου. Επιπλέον, οι φυλετικές διακρίσεις είχαν αρνητικό αντίκτυπο σε όλα αυτά τα συστήματα, γεγονός που έχει περαιτέρω αντίστροφες κοινωνικές επιπτώσεις. Η μελέτη στόχευε ιδιαίτερα τις δυτικές κοινωνίες, όπου τέτοια συστήματα χρησιμοποιούνται εκτενώς για επιτήρηση.
Αυτά είναι μόνο τρία από τα πολλά τέτοια παραδείγματα όπου έχουν έρθει στο φως περιπτώσεις φυλετικών ανισοτήτων που προκαλούνται από συστήματα αναγνώρισης προσώπου. Αλλά γιατί αυτά τα συστήματα είναι τόσο ανίκανα παρά την αυξανόμενη ακρίβεια στις αναβαθμίσεις αλγοριθμικής κωδικοποίησης στην τεχνολογία.
Λευκή υπεροχή στις δυτικές πολιτείες: Μια λευκή-κυρίαρχη τεχνολογική βιομηχανία
Το 2014, η πλειονότητα των εταιρειών τεχνολογίας, συμπεριλαμβανομένης της γίγαντας Apple Inc., βρέθηκε να προσλαμβάνει κυρίως λευκούς, άνδρες υπαλλήλους. Στην Apple, το 55% των εργαζομένων ήταν λευκοί, και ομοίως, η ηγεσία της Apple αποτελούσε το 63% των λευκών υπαλλήλων. Οι εταιρείες που μοιράστηκαν παρόμοιες αναφορές ποικιλομορφίας περιελάμβαναν επίσης το Facebook , το Google και το Twitter. Πέντε χρόνια αργότερα, μια αναφορά στο Wired αποκάλυψε ότι υπήρξε ελάχιστη βελτίωση σε αυτούς τους αριθμούς.
Ενώ το Facebook έδειξε αξιοπρεπή βελτίωση σε αριθμούς, το ποσοστό των μαύρων τεχνικών εργαζομένων της Apple παρέμεινε αμετάβλητο σε μόλις 6% του συνολικού εργατικού δυναμικού. Η Amazon ήταν η μόνη οργάνωση που κατέγραψε 42% μαύρους ή λατινοαμερικανούς εργαζόμενους στα γραφεία της στις ΗΠΑ.
Τι σημαίνουν αυτά τα στατιστικά στοιχεία; Στις ΗΠΑ, οι περισσότεροι από τους κωδικοποιητές, οι οποίοι έχουν ανατεθεί σε μεγάλα έργα, όπως ο σχεδιασμός αλγορίθμων για συστήματα επιτήρησης, είναι λευκοί. Αυτοί είναι οι άνθρωποι που λαμβάνουν τις πιο σημαντικές αποφάσεις σχετικά με ένα προϊόν ή μια υπηρεσία που πρόκειται να κυκλοφορήσει/παρουσιαστεί από μια εταιρεία. Και ως εκ τούτου, είναι οι προοπτικές, η προσέγγιση και οι διαδικασίες σκέψης τους που πηγαίνουν στην τελική δημιουργία. Αυτό δεν σημαίνει ότι οι λευκοί είναι ρατσιστές και έχουν σχεδιάσει σκόπιμα τέτοια συστήματα παρακολούθησης . ΟΧΙ!
Πηγή εικόνας: Forbes
Όταν ένας λευκός άντρας σχεδιάζει έναν αλγόριθμο αναγνώρισης προσώπου και έχει μόνο λευκούς συναδέλφους να τον συμβουλεύονται/βοηθούν, δεν λαμβάνει υπόψη τους άτομα με χαρακτηριστικά προσώπου άλλου χρώματος πριν οριστικοποιήσουν τον κώδικα. Δεδομένου ότι οι λευκοί μηχανικοί κυριαρχούν στον κλάδο της τεχνολογίας, τα αρχεία δεδομένων που χρησιμοποιούνται για την προετοιμασία του αρχικού κώδικα δημιουργούνται και βαθμονομούνται επίσης από λευκούς τεχνικούς. Έτσι, ο ίδιος ο κώδικας δημιουργείται με προκατάληψη στον βασικό υπολογιστικό αλγόριθμό του, με αποτέλεσμα αυτές τις φυλετικές ανισότητες στα αποτελέσματα της επιτήρησης.
Ο κώδικας απλώς μαθαίνει τι ενσωματώνουν οι λευκοί σε αυτόν. Δεν υπάρχει προοπτική ή συνεισφορά κάποιου άλλου χρώματος.
Τα ζητήματα βαθμονόμησης
Η αμερικανική επιβολή του νόμου βασίζεται σε μεγάλο βαθμό στην παρακολούθηση και την παρακολούθηση δεδομένων. Υπήρξαν πολλές περιπτώσεις όπου καταγγέλλοντες απώθησαν πληροφορίες σχετικά με μη εξουσιοδοτημένη παρακολούθηση αμάχων. Η αποκάλυψη της παράνομης παρακολούθησης της NSA από τον Έντουαρντ Σνόουντεν είναι ένα τέτοιο παράδειγμα.
Πηγή εικόνας: CBS Local
Αυτά τα προγράμματα επιτήρησης υποστηρίζονται από αποτυπώματα προσώπου και άλλες προσωπικές πληροφορίες εκατομμυρίων πολιτών. Αν λάβουμε υπόψη μόνο τα αποτυπώματα προσώπου, υπάρχουν εκατομμύρια Αμερικανοί που μοιράζονται ανοιχτά φωτογραφίες στις πλατφόρμες μέσων κοινωνικής δικτύωσης. Στη συνέχεια, υπάρχουν κάμερες CCTV σε κάθε δρόμο του έθνους που προσφέρουν ζωντανά πλάνα εκατοντάδων χιλιάδων περαστικών. Επί του παρόντος, υπάρχουν περίπου 117 εκατομμύρια εικόνες σε βάσεις δεδομένων της αστυνομίας, ενώ το FBI διαθέτει περισσότερα από 400 εκατομμύρια σύνολα δεδομένων για βαθμονόμηση σε αλγόριθμους αναγνώρισης προσώπου παρακολούθησης.
Τώρα φανταστείτε αυτά τα σύνολα δεδομένων σε σύγκριση με μια μεμονωμένη εικόνα που μπορεί να έχει ή να μην έχει αποτυπώσει όλα τα χαρακτηριστικά του προσώπου του συγκεκριμένου ατόμου. Σε ένα τέτοιο σενάριο, είναι πιθανό να προκύψουν σφάλματα. Υπάρχουν πάρα πολλά δεδομένα για να τα κατανοήσετε και να τα εκτελέσετε με ένα αποτύπωμα. Κανένας αλγόριθμος δεν μπορεί να εγγυηθεί εκατό τοις εκατό σιγουριά για το αποτέλεσμά του όταν η βαθμονόμηση είναι τόσο περίπλοκη. Αυτό τελικά προστίθεται στο φυλετικό προφίλ που προκαλείται από την τεχνολογία αναγνώρισης προσώπου.
Η απέραντη αξιοπιστία στην αναγνώριση προσώπου
Πηγή εικόνας: NY Post
Η περίπτωση του Willie Lynch είναι μια υπενθύμιση ότι η αναγνώριση προσώπου δεν πρέπει να είναι η μόνη αξιόπιστη τεχνική που παρουσιάζεται ως αποδεικτικό στοιχείο όσον αφορά την επιβολή του νόμου. Αυτός είναι ο λόγος που η αστυνομία της Τάμπα εγκατέλειψε την τεχνολογία.
Είναι αλήθεια ότι η αναγνώριση προσώπου είναι ένα εξαιρετικό θέρετρο και είναι χρήσιμο για την αστυνομία. Οι ένοχοι των βομβιστικών επιθέσεων στον Μαραθώνιο της Βοστώνης αναγνωρίστηκαν χρησιμοποιώντας εκτενή και λεπτομερή ανάλυση των καταγραφών παρακολούθησης. Αλλά αυτό δεν μπορεί να είναι το μοναδικό στοιχείο για να καταδικάσει κανέναν. Πρέπει να υπάρχουν αποδεικτικά στοιχεία που να αποδεικνύουν τα αποτελέσματα των αλγορίθμων αναγνώρισης προσώπου και η έννοια της μεροληψίας αυτοματισμού πρέπει να ληφθεί υπόψη πριν καταλήξουμε σε έναν τελικό προσδιορισμό.
Το πρόβλημα υλικού: Αναγνώριση προσώπου σε κινητά και κάμερες
Πηγή εικόνας: TechCrunch
Τα συστήματα καμερών παρακολούθησης και το σχετικό υλικό και λογισμικό δεν έχουν σχεδιαστεί από μία μόνο εταιρεία. Είναι ένας κλάδος αξίας δισεκατομμυρίων δολαρίων όπου δεκάδες εταιρείες ανταγωνίζονται για να λάβουν συμβόλαια από τις υπηρεσίες επιβολής του νόμου. Πολλά από αυτά τα συστήματα είναι από Κινέζους κατασκευαστές. Το παν είναι να αποκτήσετε τη φθηνότερη τεχνολογία με τις καλύτερες ποιότητες. Έτσι λειτουργεί κυρίως. Και επομένως, υπάρχουν πάντα πιθανότητες για διαφορές στη βαθμονόμηση διαφορετικών συστημάτων, καθώς και διακύμανση στην ποιότητα των αποτελεσμάτων επιτήρησης. Πολλοί αλγόριθμοι παρακολούθησης κάμερας είναι αναποτελεσματικοί στη βαθμονόμηση εικόνων έγχρωμων ανθρώπων μόνο και μόνο λόγω τεχνικής ανεπάρκειας, εξυμνώντας έτσι τις φυλετικές διακρίσεις.
Τα τεχνολογικά προβλήματα που προκαλούν ρατσισμό μέσω της αναγνώρισης προσώπου έχουν επίσης παρατηρηθεί στη λειτουργία Apple Face Lock. Μια υπόθεση από την Κίνα απομάκρυνε ότι το κλείδωμα προσώπου του iPhone X δεν μπορούσε να διαφοροποιήσει δύο διαφορετικούς Κινέζους συναδέλφους, καθιστώντας το χαρακτηριστικό άχρηστο. Παρόμοιες αναφορές απορρίφθηκαν, επικαλούμενες προβλήματα στο χαρακτηριστικό που χωρίζει δύο μαύρους μεταξύ τους. Όπως αναφέρθηκε παραπάνω, η Apple έχει μόλις το 6% των μαύρων σε τεχνικές ομάδες. Είναι ένα σαφές παράδειγμα του πώς μια τεχνολογία αναγνώρισης προσώπου μπορεί να προωθήσει τον ρατσισμό ακόμη και στις φορητές συσκευές μας.
συμπέρασμα
Ναι, η Αναγνώριση Προσώπου είναι ρατσιστική, και αυτό είναι κοινή γνώση πλέον. Ενώ η τεχνολογία αυξάνεται καθημερινά για να διορθώσει τέτοια προβλήματα, τα αποτελέσματα είναι όλα τα ίδια. Η τεχνολογία υποτίθεται ότι ενώνει τον κόσμο για κοινούς στόχους τεχνικής προόδου και ανάπτυξης, αλλά ορισμένες τεχνικές απλώς προκαλούν βλάβη στη φυλετική και κοινοτική αρμονία.
Προς το παρόν, το καλύτερο πράγμα που μπορούν να κάνουν οι αξιωματούχοι επιβολής του νόμου είναι να μην υποστηρίζουν τις υποθέσεις τους με βάση στοιχεία από αλγοριθμικές ��αθμονομήσεις, οι οποίες δεν είναι καν αξιόπιστες. Επιπλέον, είναι καιρός να ληφθούν σοβαρά υπόψη η ποικιλομορφία και η ένταξη στους χώρους εργασίας, ώστε οι άνθρωποι όλων των εθνοτήτων να μπορούν να ενωθούν για να δημιουργήσουν ένα προϊόν απαλλαγμένο από φυλετικές ανισότητες. Υπάρχουν χιλιάδες φυλές στον κόσμο και οι άνθρωποι έχουν μεγαλώσει για να παραμερίσουν τις φυλετικές διαφορές, που στοίχειωναν την παγκόσμια κοινωνία για τόσο καιρό. Εάν αυτό πρέπει να διατηρηθεί, τότε οι μηχανές στις οποίες βασιζόμαστε τόσο πολύ πρέπει να διδαχθούν το ίδιο.
Δείτε πώς μπορείτε να διατηρείτε τους κωδικούς πρόσβασής σας στον Microsoft Edge υπό έλεγχο και να αποτρέψετε το πρόγραμμα περιήγησης από το να αποθηκεύει τυχόν μελλοντικούς κωδικούς πρόσβασης.
Ακολουθήστε αυτόν τον οδηγό για το πώς να αλλάξετε το φόντο σας και να κάνετε την επιφάνεια εργασίας σας να φαίνεται θετικά μοναδική στα Windows 11.
Ανακαλύψτε πώς να ενεργοποιήσετε τις εισερχόμενες συνδέσεις απομακρυσμένης επιφάνειας εργασίας στα Windows 10 και να αποκτήσετε πρόσβαση στον υπολογιστή σας απομακρυσμένα.
Ανακαλύψτε πώς να ρυθμίσετε τη φωτεινότητα της οθόνης στα Windows 10 για καλύτερη οπτική εμπειρία και διάρκεια ζωής μπαταρίας.
Ακολουθεί ένας οδηγός για το πώς να αλλάξετε το θέμα, το χρώμα και πολλά άλλα στα Windows 11 για να δημιουργήσετε μια εκπληκτική εμπειρία επιφάνειας εργασίας.
Αν έχετε πρόβλημα με τον ήχο στον υπολογιστή σας με Windows 10, ακολουθήστε αυτά τα βήματα για να επαναφέρετε τον ήχο άμεσα.
Ανακαλύψτε πώς να συγχρονίσετε τις ρυθμίσεις σας στα Windows 10 με απόλυτη ευκολία. Αυτή η οδηγία θα σας καθοδηγήσει στη διαδικασία συγχρονισμού.
Ανακαλύψτε πώς να δείτε λεπτομερείς πληροφορίες για το υλικό και το λογισμικό του υπολογιστή σας στα Windows 10 με τον οδηγό μας.
Μάθετε πώς να διατηρείτε την κατάσταση σας διαθέσιμη στο Microsoft Teams για καλύτερη επικοινωνία χρησιμοποιώντας απλές ρυθμίσεις.
Ανακαλύψτε πώς να προβάλλετε τους αποθηκευμένους κωδικούς πρόσβασης στο Google Chrome με απλές και ασφαλείς μεθόδους.
