Rasové profilovanie v technológii rozpoznávania tvárí: Môže byť rozpoznávanie tváre rasistické?

Technológia rozpoznávania tváre a jej schopnosti prerástli ďaleko za našu predstavivosť odvtedy, čo sa do popredia dostali nové algoritmy na posilnenie tejto technológie pri presadzovaní práva. V súčasnosti technológiu rozpoznávania tvárí využívajú sily činné v trestnom konaní na najnižších úrovniach procesov zhromažďovania údajov na identifikáciu páchateľov trestných činov v preplnených zhromaždeniach. Táto technológia využíva zábery z CCTV kamier na verejných miestach a uliciach a potom porovnáva zozbierané údaje s archívmi agentúry, aby odhalila tvár, ktorá je hľadaná pre trestné činy.

Táto technológia bola ďalej zabudovaná do najmenších gadgetov vrátane mobilných telefónov a inteligentných nositeľných zariadení. Nechráni vás teda len na ulici, ale má v úmysle chrániť aj vaše osobné informácie uložené vo vašich inteligentných zariadeniach. Používanie „faceprintu“ pre marketingové a reklamné praktiky sa v modernom veku kampaní na sociálnych sieťach stalo bežným. A potom je tu súkromný dohľad v nákupných centrách, maloobchodných predajniach atď.

Z tohto hľadiska možno rýchlo poukázať na nepopierateľné výhody technológie rozpoznávania tváre. Ale bol tiež dôkladne preskúmaný z hľadiska hrozby, ktorú predstavuje pre súkromie používateľov, ochranu údajov a samozrejme transparentnosť medzi zákonom a verejnosťou. Je dobré si uvedomiť výhody aj nevýhody takejto invazívnej technológie. Napriek tomu je tu ešte jedna nevýhoda technológie rozpoznávania tváre, ktorú ľudia zrejme ignorujú, a to je rasové profilovanie a rasová diskriminácia .

V tomto diele sa pozrieme na to, ako táto technológia podporuje rasovú zaujatosť a diskrimináciu a aké vážne sú dôsledky takejto invazívnej technológie.

Ako funguje rozpoznávanie tváre?

Zdroj obrázka: National Post

Krok 1: Snímka vás získa z fotoaparátu, vášho účtu, e-mailu atď.

Krok 2: Softvér na rozpoznávanie tváre prejde vašu tvár cez databázu uložených odtlačkov tváre. Odtlačok tváre sa zhromažďuje pomocou geometrického sledovania vašej tváre.

Krok 3: Percento zhody vášho obrázka s akýmkoľvek známym odtlačkom tváre sa vytvorí pomocou algoritmu, na základe ktorého sa urobí rozhodnutie.

Zaujatosť automatizácie: Jedna z mnohých nedostatkov technológie rozpoznávania tváre

Automation Bias alebo Machine Bias sa týka scenára, kde algoritmus stroja vykazuje určitú odchýlku pri kalibrácii vstupných údajov, čím poskytuje nepriaznivý výstup. Stáva sa to vtedy, keď sa vyskytne chyba v kóde algoritmu, nedostatok uložených dátových súborov na kalibráciu, nesprávne vstupné hodnoty alebo nadmerné množstvo vstupných dát, ktorých kalibrácia nie je v silách strojov.

Ako s tým všetkým ide rasové profilovanie?

Zdroj obrázka: The Guardian

Začnime starodávnou príhodou, ktorá bola v tom čase považovaná za bezvýznamnú. V roku 2001 Tampa City použila softvér na rozpoznávanie tvárí na sledovanie preplneného mesta, keď turisti zaplavili ulice mesta kvôli Super Bowlu v roku 2001. Podľa správy New York Times softvér identifikoval 19 ľudí, ktorí mali proti nim údajne nevybavené zatykače; nedošlo však k žiadnemu zatknutiu, keďže infraštruktúra štadióna znemožňovala dostať sa k identifikovaným vinníkom medzi ohromným davom.

Zatiaľ čo znaky rasového profilovania sa v tomto konkrétnom prípade nikde nepozorovali, bolo to prvýkrát, čo sa techniky sledovania postavili proti porušovaniu občianskych slobôd a súkromia jednotlivcov. V nadchádzajúcich rokoch sa polícia v Tampe vzdala týchto systémov sledovania s odvolaním sa na nespoľahlivé výsledky.

Zdroj obrázka: ICO

V rýchlom posune k novšiemu scenáru Ali Breland pre The Guardian informoval o zatknutí Willieho Lyncha, černocha obvineného z toho, že bol notoricky známym drogovým dílerom v oblasti Brentwood, prevažne v štvrti s farebnými ľuďmi. Jediným dôkazom proti Lynchovi boli jeho obrázky z mobilu, ktoré boli porovnané s policajnou databázou predtým, ako ho polícia určila ako vinníka. Lynch bol odsúdený na osem rokov, ktorý sa teraz proti rozsudku odvolal. Či už to bol údajný díler alebo nie, nevyhnutne to vyvoláva obavy, či iba strojový výsledok stačí na to, aby sa potvrdilo odsúdenie každého vyšetrovaného?

V roku 2019, ako uviedol Tom Perkins pre The Guardian , sa zistilo, že detroitská polícia používala rozpoznávanie tváre na zatýkanie údajne za posledné dva roky. Detroit je miesto, kde je viac ako 80% populácie čiernej pleti. Vyhlásenie černošského člena z Detroitskej policajnej komisie vyvolalo obavy z tohto postupu. Povedal, že černosi majú spoločnú črtu tváre, ktorá ohrozuje systémový algoritmus a nazval to „techno-rasizmus“.

Zdroj obrázka: Vox

Vo výskume z roku 2019 pre časopis Journal of Information Communication and Ethics Society, ktorý vykonali Fabio Bacchini a Ludovica Lorusso, sa zistilo, že tieto biometrické systémy a systémy rozpoznávania tváre nie sú 100% spoľahlivé pre presadzovanie práva. Navyše, rasová diskriminácia mala negatívny vplyv na všetky takéto systémy, čo má ďalšie nepriame spoločenské dôsledky. Štúdia sa zamerala najmä na západné spoločnosti, kde sa takéto systémy vo veľkej miere využívajú na sledovanie.

Toto sú len tri z mnohých príkladov, v ktorých vyšli najavo rasové rozdiely spôsobené systémami rozpoznávania tvárí. Ale prečo sú tieto systémy také nekompetentné napriek takej rastúcej presnosti v modernizácii algoritmického kódovania v technológii.

Biela nadvláda v západných štátoch: technický priemysel s dominantným postavením bielej rasy

V roku 2014 sa zistilo, že väčšina technologických spoločností, vrátane giganta Apple Inc., najíma väčšinou bielych, mužských zamestnancov. V spoločnosti Apple bolo 55 % zamestnancov bielej pleti a podobne vedenie spoločnosti Apple tvorilo 63 % bielych zamestnancov. Spoločnosti, ktoré zdieľali podobné správy o rozmanitosti, zahŕňali aj Facebook , Google a Twitter. O päť rokov neskôr správa v Wired odhalila, že v týchto číslach došlo k minimálnemu zlepšeniu.

Zatiaľ čo Facebook vykázal slušné zlepšenie v číslach, percento čiernych technických pracovníkov Apple zostalo nezmenené na úrovni iba 6% z celkovej pracovnej sily. Amazon bol jedinou organizáciou, ktorá vo svojich kanceláriách v USA zaregistrovala 42 % čiernych alebo latinskoamerických pracovníkov.

Čo znamenajú tieto štatistiky? V USA je väčšina kódovačov, ktorí sú pridelení k veľkým projektom, ako je navrhovanie algoritmov pre sledovacie systémy, biela. Sú to ľudia, ktorí robia najdôležitejšie rozhodnutia týkajúce sa produktu alebo služby, ktoré má spoločnosť spustiť/odhaliť. A preto sú to ich perspektívy, prístup a myšlienkové procesy, ktoré idú do konečného stvorenia. To neznamená, že bieli ľudia sú rasisti a zámerne navrhli takéto sledovacie systémy . NIE!

Zdroj obrázkov: Forbes

Keď biely chlap navrhne algoritmus na rozpoznávanie tváre a konzultujú/asistujú mu iba bieli kolegovia, nezohľadňujú tvárové črty ľudí inej farby pred dokončením kódu. Keďže v technickom priemysle dominujú bieli inžinieri, archívy údajov používané na prípravu počiatočného kódu sú tiež vytvárané a kalibrované bielymi technikmi. Samotný kód je teda vytvorený so zaujatosťou vo svojom základnom výpočtovom algoritme, čo vedie k týmto rasovým rozdielom vo výsledkoch sledovania.

Kód sa jednoducho učí, čo v ňom belosi stelesňujú. Neexistuje žiadna perspektíva alebo príspevok osoby inej farby pleti.

Problémy s kalibráciou

Americké orgány činné v trestnom konaní sa vo veľkej miere spoliehajú na dohľad a sledovanie údajov. Vyskytlo sa veľa prípadov, keď informátori vytlačili informácie o neoprávnenom sledovaní civilistov. Jedným z takýchto príkladov je odhalenie nezákonného sledovania NSA zo strany Edwarda Snowdena.

Zdroj obrázka: CBS Local

Tieto sledovacie programy sú podporované odtlačkami tváre a ďalšími osobnými informáciami miliónov občanov. Ak vezmeme do úvahy iba odtlačky tváre, existujú milióny Američanov, ktorí otvorene zdieľajú obrázky na platformách sociálnych médií. Potom sú na každej ulici krajiny CCTV kamery, ktoré ponúkajú živé zábery státisícov okoloidúcich. V súčasnosti je v policajných databázach približne 117 miliónov obrázkov, zatiaľ čo FBI má viac ako 400 miliónov súborov údajov na kalibráciu v algoritmoch sledovania tváre.

Teraz si predstavte, že tieto súbory údajov porovnáte s jedným obrázkom, ktorý môže alebo nemusí zachytávať všetky črty tváre konkrétnej osoby. V takom prípade je pravdepodobné, že dôjde k chybám. Existuje príliš veľa údajov na to, aby ich bolo možné pochopiť a spustiť proti jednému odtlačku tváre. Žiadny algoritmus nemôže zaručiť stopercentnú istotu vo svojom výsledku, keď je kalibrácia taká komplikovaná. To nakoniec prispieva k rasovému profilovaniu spôsobenému technológiou rozpoznávania tváre.

Obrovská spoľahlivosť rozpoznávania tváre

Zdroj obrázka: NY Post

Prípad Willieho Lyncha je pripomienkou, že rozpoznávanie tváre by nemalo byť jedinou spoľahlivou technikou prezentovanou ako dôkaz, pokiaľ ide o presadzovanie práva. To je dôvod, prečo sa mestská polícia v Tampe vzdala technológie.

Je pravda, že rozpoznávanie tváre je výborným rezortom a polícii je nápomocné. Vinníci bostonského maratónu boli rozpoznaní pomocou rozsiahlej a podrobnej analýzy záznamov zo sledovania. Ale toto nemôže byť jediný dôkaz, ktorý by niekoho odsúdil. Musia existovať podporné dôkazy na preukázanie výsledkov algoritmov rozpoznávania tváre a pred dosiahnutím konečného rozhodnutia je potrebné zvážiť koncepciu skreslenia automatizácie.

Problém s hardvérom: Rozpoznávanie tváre v mobilných zariadeniach a fotoaparátoch

Zdroj obrázka: TechCrunch

Monitorovacie kamerové systémy a súvisiaci hardvér a softvér nie sú navrhnuté jednou spoločnosťou. Ide o odvetvie v hodnote miliárd dolárov, v ktorom desiatky korporácií súťažia o získanie zákaziek od orgánov činných v trestnom konaní. Mnohé z týchto systémov sú od čínskych výrobcov. Je to všetko o získaní najlacnejšej technológie s najlepšími kvalitami. Tak to väčšinou funguje. Preto vždy existuje šanca na rozdiely v kalibrácii rôznych systémov, ako aj na rozdiely v kvalite výsledkov sledovania. Mnoho kamerových sledovacích algoritmov je neúčinných pri kalibrácii snímok farebných ľudí len z dôvodu technickej nekompetentnosti, čím sa oslavuje rasová diskriminácia.

Technické problémy spôsobujúce rasizmus prostredníctvom rozpoznávania tváre boli zaznamenané aj vo funkcii Apple Face Lock. Prípad z Číny vylúčil, že tvárový zámok iPhone X nedokázal rozlíšiť medzi dvoma rôznymi čínskymi spolupracovníkmi, čím sa táto funkcia stala zbytočnou. Podobné správy boli zamietnuté s odvolaním sa na problémy vo funkcii pri oddeľovaní dvoch černochov od seba. Ako je uvedené vyššie, Apple má v technických tímoch iba 6% černochov. Je to jasný príklad toho, ako môže technológia rozpoznávania tváre podporovať rasizmus aj v našich vreckových zariadeniach.

Záver

Áno, rozpoznávanie tváre je rasistické, a to je teraz všeobecne známe. Aj keď technológie na nápravu takýchto problémov každým dňom rastú, výsledky sú všetky rovnaké. Technológia má spájať svet v rámci spoločných cieľov technického pokroku a rozvoja, ale niektoré techniky len poškodzujú rasovú a spoločenskú harmóniu.

Najlepšia vec, ktorú môžu zástupcovia orgánov činných v trestnom konaní urobiť, je v súčasnosti nepodporovať svoje prípady na základe dôkazov z algoritmických kalibrácií, ktoré ani nie sú spoľahlivé. Navyše je najvyšší čas, aby sa diverzita a inklúzia na pracoviskách brali vážne, aby sa ľudia všetkých etnických skupín mohli spojiť a vytvoriť produkt, ktorý nebude obsahovať rasové rozdiely. Na svete sú tisíce rás a ľudia začali odkladať rasové rozdiely, ktoré tak dlho prenasledovali globálnu spoločnosť. Ak sa to musí zachovať, potom sa to isté musia naučiť stroje, na ktoré sa tak spoliehame.