Rasové profilování v technologii rozpoznávání obličeje: Může být rozpoznávání obličeje rasistické?

Technologie Facial Recognition a její schopnosti přesáhly naši představivost od té doby, co se do popředí zájmu dostaly nové algoritmy k posílení této technologie při vymáhání práva. V současné době používají donucovací síly na nejnižších úrovních procesů shromažďování dat technologii rozpoznávání obličejů k identifikaci pachatelů trestných činů uprostřed přeplněných shromáždění. Tato technologie využívá záběry z CCTV kamer na veřejných místech a v ulicích a poté shromažďuje shromážděná data proti archivům agentur, aby odhalila tvář, která je hledaná pro trestné činy.

Tato technologie byla dále zabudována do nejmenších gadgetů, včetně mobilních telefonů a chytrých nositelných zařízení. Proto vás nejen chrání na ulicích, ale také má v úmyslu chránit vaše osobní údaje uložené na vašich chytrých zařízeních. Používání „faceprintu“ pro marketingové a reklamní praktiky se v moderní době kampaní na sociálních sítích stalo běžným. A pak je tu soukromý dohled v nákupních centrech, maloobchodech atd.

Z tohoto pohledu lze rychle poukázat na nepopiratelné výhody technologie rozpoznávání obličeje. Byl však také zkoumán z hlediska hrozby, kterou představuje pro soukromí uživatelů, ochranu dat a samozřejmě transparentnost mezi zákonem a veřejností. Je dobré si být vědom výhod i nevýhod takové invazivní technologie. Přesto je zde ještě jedna nevýhoda technologie rozpoznávání obličeje, kterou lidé, jak se zdá, ignorují, a tou je rasové profilování a rasová diskriminace .

V tomto díle se podíváme na to, jak tato technologie podporuje rasové předsudky a diskriminaci a jak vážné jsou důsledky takové invazivní technologie.

Jak funguje rozpoznávání obličeje?

Zdroj obrázku: National Post

Krok 1: Vaše fotka je pořízena z fotoaparátu, vašeho účtu, e-mailu atd. Je to buď přímá profilová fotka, nebo náhodný záběr v davu.

Krok 2: Software pro rozpoznávání obličeje projde váš obličej databází uložených otisků obličeje. Otisk obličeje se shromažďuje pomocí geometrického sledování vašeho obličeje.

Krok 3: Procento shody vašeho obrázku s jakýmkoli známým otiskem obličeje je vytvořeno pomocí algoritmu, podle kterého se provádí určení.

Předpojatost automatizace: Jedna z mnoha chyb technologie rozpoznávání obličeje

Automation Bias nebo Machine Bias se týká scénáře, kdy algoritmus stroje vykazuje určitou odchylku v kalibraci vstupních dat, čímž poskytuje nepříznivý výstup. K tomu dochází, když se vyskytne chyba v kódu algoritmu, nedostatek uložených datových sad pro kalibraci, nesprávné vstupní hodnoty nebo nadměrné množství vstupních dat, jejichž kalibrace není v silách strojů.

Jak s tím vším souvisí rasové profilování?

Zdroj obrázku: The Guardian

Začněme starověkou příhodou, která byla v té době považována za bezvýznamnou. V roce 2001 Tampa City použila software pro rozpoznávání obličejů pro sledování přeplněného města, když turisté zaplavili ulice města kvůli Super Bowlu v roce 2001. Podle zprávy New York Times software identifikoval 19 lidí, kteří proti nim údajně měli nevyřízené soudní příkazy; k žádnému zatčení však nedošlo, protože infrastruktura stadionu znemožňovala dostat se k identifikovaným viníkům mezi ohromujícím davem.

Zatímco známky rasového profilování nebyly v tomto konkrétním případě nikde vidět, bylo to poprvé, kdy byly sledovací techniky použity proti porušování občanských svobod a soukromí jednotlivců. V nadcházejících letech se tampaská policie vzdala těchto sledovacích systémů s odkazem na nespolehlivé výsledky.

Zdroj obrázku: ICO

Rychle vpřed k poněkud novějšímu scénáři Ali Breland informoval pro The Guardian o zatčení Willieho Lynche, černocha obviněného z toho, že byl notoricky známým drogovým dealerem v oblasti Brentwood, převážně v sousedství barevných lidí. Jediným důkazem proti Lynchovi byly jeho obrázky na mobilu, které byly porovnány s policejní databází, než ho policie určila jako viníka. Lynch byl odsouzen na osm let, který se nyní proti rozsudku odvolal. Ať už to byl údajný dealer nebo ne, nevyhnutelně to vyvolává obavy, zda pouze výsledek založený na stroji stačí k tomu, aby se potvrdilo přesvědčení kohokoli, kdo je vyšetřován?

V roce 2019, jak uvedl Tom Perkins pro The Guardian , byla detroitská policie nalezena pomocí rozpoznávání obličeje k zatýkání údajně za poslední dva roky. Detroit je místo, kde je více než 80 % populace černé. Prohlášení černošského člena detroitské policejní komise vyvolalo obavy z této praxe. Řekl, že černoši mají společný rys obličeje, který ohrožuje systémový algoritmus, a nazval to „techno-rasismus“.

Zdroj obrázku: Vox

Ve výzkumu z roku 2019 pro časopis Journal of Information Communication and Ethics Society, který provedli Fabio Bacchini a Ludovica Lorusso, bylo zjištěno, že tyto biometrické systémy a systémy rozpoznávání obličeje nejsou 100% spolehlivé pro vymáhání práva. Rasová diskriminace měla navíc negativní dopad na všechny tyto systémy, což má další nepřímé společenské důsledky. Studie se zaměřovala zejména na západní společnosti, kde se takové systémy ve velké míře používají pro sledování.

To jsou jen tři z mnoha takových příkladů, kdy vyšly najevo rasové rozdíly způsobené systémy rozpoznávání tváří. Ale proč jsou tyto systémy tak nekompetentní navzdory tak rostoucí přesnosti v vylepšení algoritmického kódování v technologii.

Bílá nadřazenost v západních státech: bílý technologický průmysl

V roce 2014 bylo zjištěno, že většina technologických společností, včetně obřího Apple Inc., najímá převážně bílé, mužské zaměstnance. V Applu bylo 55 % zaměstnanců bílé pleti a podobně vedení Applu tvořilo 63 % bílých zaměstnanců. Mezi společnosti, které sdílely podobné zprávy o rozmanitosti, patřily také Facebook , Google a Twitter. O pět let později zpráva v Wired odhalila, že v těchto číslech došlo k minimálnímu zlepšení.

Zatímco Facebook vykázal slušné zlepšení v číslech, procento černých technických pracovníků Applu se nezměnilo na pouhých 6 % z celkové pracovní síly. Amazon byl jedinou organizací, která ve svých kancelářích v USA registrovala 42 % černochů nebo latinskoamerických pracovníků.

Co tyto statistiky znamenají? V USA je většina kodérů, kteří jsou přiděleni k velkým projektům, jako je navrhování algoritmů pro sledovací systémy, bílí. Jsou to lidé, kteří dělají nejdůležitější rozhodnutí týkající se produktu nebo služby, které má společnost uvést/odhalit. A proto jsou to jejich perspektivy, přístup a myšlenkové procesy, které jdou do konečného stvoření. To neznamená, že bílí lidé jsou rasisté a záměrně navrhli takové sledovací systémy . NE!

Zdroj obrázku: Forbes

Když běloch navrhne algoritmus pro rozpoznávání obličeje a konzultují/asistují mu pouze bílí kolegové, nezohledňují obličejové rysy lidí jiné barvy před dokončením kódu. Protože v technologickém průmyslu dominují bílí inženýři, datové archivy používané k přípravě počátečního kódu jsou také vytvářeny a kalibrovány bílými techniky. Samotný kód je tedy vytvořen se zaujatostí ve svém základním kalkulativním algoritmu, což má za následek tyto rasové rozdíly ve výsledcích sledování.

Kód se prostě učí, co v něm běloši ztělesňují. Neexistuje žádná perspektiva nebo příspěvek jakékoli osoby jiné barvy.

Problémy s kalibrací

Americké vymáhání práva se do značné míry spoléhá na sledování a sledování dat. Došlo k mnoha případům, kdy informátoři vyhnali informace týkající se neoprávněného sledování civilistů. Jedním z takových příkladů je odhalení nezákonného sledování NSA Edwardem Snowdenem.

Zdroj obrázku: CBS Local

Tyto sledovací programy jsou podporovány otisky obličejů a dalšími osobními informacemi milionů občanů. Pokud vezmeme v úvahu pouze otisky obličejů, existují miliony Američanů, kteří otevřeně sdílejí obrázky na platformách sociálních médií. Pak jsou v každé ulici země CCTV kamery, které nabízejí živé záběry stovek tisíc kolemjdoucích. V současné době je v policejních databázích přibližně 117 milionů snímků, zatímco FBI má více než 400 milionů datových sad ke kalibraci v algoritmech sledování obličeje.

Nyní si představte, že tyto soubory dat porovnáte s jediným obrázkem, který může nebo nemusí zachycovat všechny rysy obličeje konkrétní osoby. V takovém případě pravděpodobně dojde k chybám. Je prostě příliš mnoho dat na to, aby je bylo možné pochopit a spustit proti jednomu faceprintu. Žádný algoritmus nemůže zaručit stoprocentní jistotu ve svém výsledku, když je kalibrace tak komplikovaná. To nakonec přispívá k rasovému profilování způsobenému technologií rozpoznávání obličeje.

Nesmírná spolehlivost rozpoznávání tváře

Zdroj obrázku: NY Post

Případ Willieho Lynche je připomínkou toho, že rozpoznávání obličeje by nemělo být jedinou spolehlivou technikou prezentovanou jako důkaz, pokud jde o vymáhání práva. To je důvod, proč městská policie v Tampě rezignovala na technologii.

Je pravda, že rozpoznávání obličeje je vynikajícím řešením a je pro policii užitečné. Viníci bostonského maratonu byli rozpoznáni pomocí rozsáhlé a podrobné analýzy nahrávek ze sledování. Ale tohle nemůže být jediný důkaz, který někoho usvědčí. Musí existovat podpůrné důkazy prokazující výsledky algoritmů rozpoznávání obličeje a před dosažením konečného rozhodnutí je třeba zvážit koncept zkreslení automatizace.

Hardwarový problém: Rozpoznávání tváře v mobilech a fotoaparátech

Zdroj obrázku: TechCrunch

Dohledové kamerové systémy a související hardware a software nenavrhuje jedna jediná společnost. Je to průmysl v hodnotě miliard dolarů, kde desítky korporací soutěží o získání zakázek od donucovacích orgánů. Mnohé z těchto systémů jsou od čínských výrobců. Je to všechno o získání nejlevnější technologie s nejlepšími kvalitami. Tak to většinou funguje. A proto vždy existuje šance na rozdíly v kalibraci různých systémů, stejně jako na rozdíly v kvalitě výsledků sledování. Mnoho kamerových sledovacích algoritmů je neúčinných při kalibraci snímků barevných lidí jen kvůli technické nekompetentnosti, a tak oslavuje rasovou diskriminaci.

Technické problémy způsobující rasismus prostřednictvím rozpoznávání obličeje byly také zaznamenány ve funkci Apple Face Lock. Případ z Číny vytlačil, že zámek obličeje iPhone X nebyl schopen rozlišit dva různé čínské spolupracovníky, takže tato funkce byla zbytečná. Podobné zprávy byly zamítnuty s odkazem na problémy ve funkci při oddělování dvou černochů od sebe. Jak je uvedeno výše, Apple má v technických týmech pouze 6 % černochů. Je to jasný příklad toho, jak může technologie rozpoznávání obličeje podporovat rasismus i v našich kapesních zařízeních.

Závěr

Ano, rozpoznávání obličeje je rasistické, a to je nyní všeobecně známo. I když technologie každý den roste, aby tyto problémy napravila, výsledky jsou všechny stejné. Technologie má sjednotit svět v rámci společných cílů technického pokroku a rozvoje, ale některé techniky pouze poškozují rasovou a komunitní harmonii.

Prozatím nejlepší, co mohou úředníci činní v trestním řízení udělat, je nepodporovat své případy na základě důkazů z algoritmických kalibrací, které ani nejsou spolehlivé. Navíc je nejvyšší čas, aby se diverzita a inkluze na pracovištích braly vážně, aby se lidé všech etnik mohli spojit a vytvořit produkt, který nebude obsahovat rasové rozdíly. Na světě jsou tisíce ras a lidé začali dávat stranou rasové rozdíly, které tak dlouho pronásledovaly globální společnost. Pokud to musí být zachováno, pak se stroje, na kterých se tolik spoléháme, musí učit totéž.