Rasno profiliranje u tehnologiji prepoznavanja lica: može li prepoznavanje lica biti rasističko?

Tehnologija prepoznavanja lica i njezine sposobnosti narasle su daleko iznad naše mašte otkad su novi algoritmi za jačanje ove tehnologije u provođenju zakona postali istaknuti. Trenutno, tehnologiju prepoznavanja lica koriste snage za provođenje zakona na najnižim razinama procesa prikupljanja podataka za identifikaciju počinitelja kaznenih djela usred gužvi na okupljanjima. Tehnika koristi snimke CCTV kamera na javnim mjestima i ulicama, a zatim prikuplja prikupljene podatke u arhivima agencije kako bi otkrila lice koje se traži zbog kaznenih djela.

Ova tehnologija je dodatno ugrađena u najmanje gadgete, uključujući mobilne telefone i pametne nosive uređaje. Dakle, ne samo da vas štiti na ulicama, već također ima namjeru zaštititi vaše osobne podatke pohranjene na vašim pametnim uređajima. Korištenje “faceprinta” za marketinške i reklamne prakse postalo je uobičajeno u moderno doba kampanja na društvenim mrežama. A onda, postoji privatni nadzor u trgovačkim centrima, maloprodajnim objektima itd.

Iz ove se perspektive brzo mogu ukazati na neosporne prednosti tehnologije prepoznavanja lica. No, također je ispitan zbog prijetnje koju predstavlja za privatnost korisnika, zaštitu podataka i, naravno, transparentnost između zakona i javnosti. Dobro je biti svjestan i prednosti i nedostataka takve invazivne tehnologije. Ipak, postoji još jedan nedostatak tehnologije prepoznavanja lica, koji ljudi, čini se, zanemaruju, a to je rasno profiliranje i rasna diskriminacija .

U ovom članku gledamo kako ova tehnologija promiče rasnu pristranost i diskriminaciju te koliko su ozbiljne posljedice takve invazivne tehnologije.

Kako funkcionira prepoznavanje lica?

Izvor slike: National Post

Korak 1: Vaša slika je snimljena s kamere, vašeg računa, e-pošte itd. To je ili izravna profilna slika ili nasumični snimak u gomili.

Korak 2: Softver za prepoznavanje lica provest će vaše lice kroz bazu podataka pohranjenih otisaka lica. Otisak lica se prikuplja geometrijskim praćenjem vašeg lica.

Korak 3: Postotak podudaranja vaše slike s bilo kojim poznatim otiskom lica proizvodi se pomoću algoritma nad kojim se utvrđuje.

Pristranost automatizacije: jedan od mnogih nedostataka tehnologije prepoznavanja lica

Automatska pristranost ili pristranost stroja odnosi se na scenarij u kojem algoritam stroja pokazuje određenu pristranost u kalibraciji ulaznih podataka, dajući tako nepovoljan izlaz. To se događa kada postoji pogreška u kodu algoritma, nedostatak pohranjenih skupova podataka za kalibraciju, netočne ulazne vrijednosti ili pretjerani ulazni podaci, što je izvan snage strojeva za kalibraciju.

Kako rasno profiliranje ide uz sve ovo?

Izvor slike: The Guardian

Počnimo s drevnim incidentom koji se u to vrijeme smatrao beznačajnim. Godine 2001. Tampa City je koristio softver za prepoznavanje lica za nadzor nad prepunim gradom dok su turisti preplavili gradske ulice zbog Super Bowla 2001. godine. Prema izvješću New York Timesa , softver je identificirao 19 osoba koje su navodno imale nepodmirene naloge protiv njih; međutim, nije bilo uhićenja jer je infrastruktura stadiona onemogućila dolazak do identificiranih krivaca među ogromnom gomilom.

Iako se u ovom konkretnom slučaju nigdje nisu vidjeli znakovi rasnog profiliranja, to je bio prvi put da su se tehnike nadzora suprotstavile kršenju građanskih sloboda i privatnosti pojedinaca. U nadolazećim godinama, policija Tampe odustala je od ovih nadzornih sustava pozivajući se na nepouzdane rezultate.

Izvor slike: ICO

Ubrzavši se na nešto noviji scenarij, Ali Breland je za The Guardian izvijestio o uhićenju Willieja Lyncha, crnca optuženog da je ozloglašeni diler droge u području Brentwooda, pretežno četvrti obojenih ljudi. Jedini dokaz protiv Lyncha bile su njegove slike na mobitelu, koje su uvrštene u policijsku bazu podataka prije nego što ga je policija utvrdila kao krivca. Lynch je osuđen na osam godina, koji se sada žalio na osudu. Bez obzira na to je li on bio navodni diler ili ne, neizbježno izaziva zabrinutost je li samo strojni rezultat dovoljan da potvrdi osuđujuću presudu bilo kome pod istragom?

Godine 2019., kako je izvijestio Tom Perkins za The Guardian , otkriveno je da policija u Detroitu koristi prepoznavanje lica kako bi izvršila uhićenja navodno u posljednje dvije godine. Detroit je mjesto gdje je više od 80% stanovništva crnaca. Izjava crnog člana iz policijske komisije Detroita izazvala je zabrinutost zbog te prakse. Rekao je da crnci imaju zajedničku crtu lica koja ugrožava algoritam sustava, nazvavši to "tehno-rasizmom".

Izvor slike: Vox

U istraživanju iz 2019. za Journal of Information Communication and Ethics Society, koje su proveli Fabio Bacchini i Ludovica Lorusso, otkriveno je da ti biometrijski sustavi i sustavi za prepoznavanje lica nisu 100% pouzdani za provođenje zakona. Štoviše, rasna diskriminacija imala je negativan utjecaj na sve takve sustave, što ima daljnje inverzne društvene implikacije. Studija je bila posebno usmjerena na zapadna društva, gdje se takvi sustavi intenzivno koriste za nadzor.

Ovo su samo tri od mnogih takvih primjera u kojima su se pojavili slučajevi rasnih nejednakosti uzrokovanih sustavima za prepoznavanje lica. Ali zašto su ti sustavi tako nesposobni unatoč tako rastućoj točnosti u nadogradnji algoritamskog kodiranja u tehnologiji.

Bijela nadmoć u zapadnim državama: tehnološka industrija s dominantnom bijelom

U 2014. utvrđeno je da većina tehnoloških tvrtki, uključujući diva Apple Inc., zapošljava uglavnom bijelce, muške zaposlenike. U Appleu je 55% zaposlenika bilo bijelaca, a slično, Appleovo vodstvo činilo je 63% bijelaca. Tvrtke koje su dijelile slična izvješća o raznolikosti također su uključivale Facebook , Google i Twitter. Pet godina kasnije, izvješće u Wiredu otkrilo je da je došlo do minimalnog poboljšanja u tim brojevima.

Dok je Facebook pokazao pristojan napredak u brojkama, postotak Appleovih crnih tehničkih radnika ostao je nepromijenjen na samo 6% ukupne radne snage. Amazon je bila jedina organizacija koja je registrirala 42% crnaca ili latinoameričkih radnika u svojim uredima u SAD-u.

Što znače ove statistike? U SAD-u, većina kodera, koji su dodijeljeni velikim projektima kao što je projektiranje algoritama za nadzorne sustave, su bijeli. To su ljudi koji donose najvažnije odluke u vezi s proizvodom ili uslugom koju će tvrtka lansirati/objaviti. I stoga, njihove perspektive, pristup i misaoni procesi idu u konačno stvaranje. To ne znači da su bijelci rasisti i da su namjerno osmislili takve sustave nadzora . NE!

Izvor slike: Forbes

Kada bijelac dizajnira algoritam za prepoznavanje lica i ima samo bijelce koji mu savjetuju/pomažu, ne uzimaju u obzir osobine lica drugih boja prije finaliziranja koda. Budući da bijeli inženjeri dominiraju tehnološkom industrijom, arhive podataka koje se koriste za pripremu početnog koda također stvaraju i kalibriraju bijeli tehničari. Stoga je sam kod kreiran s pristranošću u svom temeljnom kalkulativnom algoritmu, što rezultira ovim rasnim razlikama u rezultatima nadzora.

Kod jednostavno uči što u njemu utjelovljuju bijelci. Ne postoji perspektiva ili doprinos bilo koje osobe druge boje.

Pitanja kalibracije

Američki organi za provođenje zakona uvelike se oslanjaju na nadzor i praćenje podataka. Bilo je mnogo slučajeva u kojima su zviždači izbacivali informacije o neovlaštenom nadzoru civila. Otkriće Edwarda Snowdena o nezakonitom nadzoru NSA-e jedan je od takvih primjera.

Izvor slike: CBS Local

Ovi programi nadzora su podržani otiscima lica i drugim osobnim podacima milijuna građana. Ako uzmemo u obzir samo otiske lica, milijuni Amerikanaca otvoreno dijele slike na platformama društvenih medija. Zatim u svakoj ulici nacije postoje CCTV kamere koje nude live snimke stotina tisuća prolaznika. Trenutačno postoji oko 117 milijuna slika u policijskim bazama podataka, dok FBI ima više od 400 milijuna skupova podataka za kalibraciju u algoritmima za prepoznavanje lica za nadzor.

Zamislite sada ove skupove podataka u usporedbi s jednom slikom koja je mogla, ali ne mora biti uhvatila sve crte lica određene osobe. U takvom scenariju vjerojatno će doći do pogrešaka. Previše je podataka da bismo ih shvatili i pokrenuli na jednom otisku lica. Nijedan algoritam ne može jamčiti stopostotnu sigurnost u rezultat kada je kalibracija tako komplicirana. To se na kraju pridodaje rasnom profiliranju uzrokovanom tehnologijom prepoznavanja lica.

Iznimna pouzdanost prepoznavanja lica

Izvor slike: NY Post

Slučaj Willieja Lyncha podsjetnik je da prepoznavanje lica ne smije biti jedina pouzdana tehnika koja se predstavlja kao dokaz kada je u pitanju provođenje zakona. To je razlog zašto je policija grada Tampe odustala od tehnologije.

Istina je da je prepoznavanje lica izvrsno sredstvo i da je od pomoći policiji. Uz opsežnu i detaljnu analizu nadzornih snimaka prepoznati su krivci bombaških napada u Bostonskom maratonu. Ali ovo ne može biti jedini dokaz za osudu bilo koga. Mora postojati prateći dokaz koji potvrđuje rezultate algoritama za prepoznavanje lica, a koncept automatizacije pristranosti mora se razmotriti prije donošenja konačne odluke.

Problem s hardverom: prepoznavanje lica u mobitelu i kamerama

Izvor slike: TechCrunch

Sustav nadzornih kamera i pripadajući hardver i softver nije dizajniran od strane jedne tvrtke. To je industrija vrijedna milijarde dolara u kojoj se deseci korporacija natječu da bi dobili ugovore od agencija za provođenje zakona. Mnogi od ovih sustava su kineskih proizvođača. Sve je u dobivanju najjeftinije tehnologije s najboljim kvalitetama. Tako to uglavnom funkcionira. Stoga uvijek postoje šanse za razlike u kalibraciji različitih sustava, kao i za varijacije u kvaliteti rezultata nadzora. Mnogi algoritmi za nadzor kamera neučinkoviti su u kalibriranju slika ljudi u boji samo zbog tehničke nesposobnosti, čime se veliča rasna diskriminacija.

Tehnološki problemi koji uzrokuju rasizam putem prepoznavanja lica također su uočeni u značajci Apple Face Lock. Slučaj iz Kine izbacio je da iPhone X za zaključavanje lica nije mogao razlikovati dva različita kineska suradnika, što ovu značajku čini beskorisnom. Slična izvješća su odbačena, navodeći probleme u prilogu u razdvajanju dvoje crnaca jedan od drugog. Kao što je gore navedeno, Apple ima samo 6% crnaca u tehničkim timovima. To je jasan primjer kako tehnologija za prepoznavanje lica može promicati rasizam čak i na našim ručnim uređajima.

Zaključak

Da, prepoznavanje lica je rasističko i to je sada općepoznato. Dok tehnologija svakodnevno raste kako bi otklonila takve probleme, rezultati su isti. Tehnologija bi trebala ujediniti svijet oko zajedničkih ciljeva tehničkog napretka i razvoja, ali neke tehnike samo nanose štetu rasnom i zajedničkom skladu.

Za sada, najbolja stvar koju službenici za provođenje zakona mogu učiniti je ne poduprijeti svoje slučajeve na temelju dokaza iz algoritamskih kalibracija, koje čak nisu ni pouzdane. Štoviše, krajnje je vrijeme da se raznolikost i uključenost na radna mjesta shvate ozbiljno kako bi se ljudi svih nacionalnosti mogli udružiti kako bi stvorili proizvod bez rasnih razlika. U svijetu postoje tisuće rasa, a ljudi su odrasli da ostave po strani rasne razlike, koje su tako dugo opsjedale globalno društvo. Ako se to mora održavati, onda i strojeve na koje se toliko oslanjamo moramo učiti isto.