Faji profilalkotás az arcfelismerési technológiában: lehet-e rasszista az arcfelismerés?

Az arcfelismerő technológia és képességei messze felülmúlják képzeletünket, mióta új algoritmusok kerültek előtérbe, amelyek ezt a technológiát erősítik a bűnüldözésben. Jelenleg az arcfelismerő technológiát a bűnüldöző erők az adatgyűjtési folyamatok legalacsonyabb szintjén használják a bűnelkövetők azonosítására zsúfolt összejövetelek közepette. A technológia CCTV kamerák felvételeit használja nyilvános helyeken és utcákon, majd az összegyűjtött adatokat az ügynökség archívumaiban futtatja, hogy felismerje a bűncselekmények miatt keresett arcot.

Ezt a technológiát a legkisebb modulokba is beágyazták, beleértve a mobiltelefonokat és az intelligens hordható eszközöket. Ezért nemcsak az utcán védi Önt, hanem az okoseszközein tárolt személyes adatait is meg kívánja védeni. A „faceprint” marketing és reklámozási gyakorlatok használata általánossá vált a közösségi média kampányok modern korában. És akkor van privát megfigyelés a bevásárlóközpontokban, kiskereskedelmi üzletekben stb.

Ebből a szempontból gyorsan rámutathatunk az arcfelismerő technológia tagadhatatlan előnyeire. De azt is megvizsgálták, hogy milyen veszélyt jelent a felhasználók magánéletére, az adatvédelemre, és természetesen a törvény és a nyilvánosság közötti átláthatóságra. Jó dolog tisztában lenni egy ilyen invazív technológia előnyeivel és hátrányaival. Az arcfelismerő technológiának azonban van még egy hátránya, amelyet az emberek úgy tűnik, figyelmen kívül hagynak, ez pedig a faji profilalkotás és a faji megkülönböztetés .

Ebben a cikkben megvizsgáljuk, hogy ez a technológia hogyan segíti elő a faji elfogultságot és a diszkriminációt, és milyen súlyos következményekkel jár az ilyen invazív technológia.

Hogyan működik az arcfelismerés?

Kép forrása: National Post

1. lépés: A fényképezőgépről, a fiókodról, az e-mail-címedről stb. készül egy kép rólad. Ez vagy egy egyenes profilkép, vagy egy véletlenszerű felvétel a tömegből.

2. lépés: Az arcfelismerő szoftver a tárolt arclenyomatok adatbázisán keresztül futtatja az arcát. Az arclenyomatot az arc geometriai követésével gyűjtjük össze.

3. lépés: A kép és az ismert arclenyomat százalékos aránya létrejön egy algoritmus segítségével, amely alapján meghatározásra kerül.

Automatizálási torzítás: Az arcfelismerő technológia számos hibája közül az egyik

Az automatizálási torzítás vagy a gépi előfeszítés arra a forgatókönyvre utal, amikor egy gépi algoritmus bizonyos torzítást mutat a bemeneti adatok kalibrálásakor, így kedvezőtlen kimenetet ad. Ez akkor fordul elő, ha hiba van az algoritmus kódjában, nincs tárolt adatkészlet a kalibráláshoz, hibás bemeneti értékek vagy túl sok bemeneti adat van, amelyet a gép nem tud kalibrálni.

Hogyan kapcsolódik mindehhez a faji profilalkotás?

Kép forrása: The Guardian

Kezdjük egy ősi eseménnyel, amelyet akkoriban jelentéktelennek tartottak. 2001-ben Tampa City arcfelismerő szoftvert használt a zsúfolt város megfigyelésére, mivel a 2001-es Super Bowl miatt turisták árasztották el a város utcáit. A New York Times beszámolója szerint a szoftver 19 személyt azonosított, akik feltehetően fennálló jogosítványokkal rendelkeztek ellenük; letartóztatásra azonban nem került sor, mivel a stadion infrastruktúrája miatt lehetetlen volt eljutni az azonosított tettesekhez a hatalmas tömegben.

Bár a faji profilalkotás jelei ebben a konkrét esetben sehol sem látszottak, ez volt az első alkalom, hogy megfigyelési technikákat alkalmaztak az egyének polgári szabadságjogainak és magánéletének megsértése ellen. Az elkövetkező években a tampai rendőrség megbízhatatlan eredményekre hivatkozva lemondott ezekről a megfigyelőrendszerekről.

Kép forrása: ICO

Egy valamivel frissebb forgatókönyvre előrelépve Ali Breland beszámolt a The Guardiannek Willie Lynch, egy fekete férfi letartóztatásáról, akit azzal vádolnak, hogy hírhedt drogkereskedő volt Brentwood körzetében, amely túlnyomórészt színes bőrűek környéke. Az egyetlen bizonyíték Lynch ellen a mobiltelefonon készült képei voltak, amelyeket egy rendőrségi adatbázisba futtattak, mielőtt a rendőrség őt azonosította volna a tettesnek. Lynchot nyolc évre ítélték el, aki most fellebbezett az ítélet ellen. Akár ő volt az állítólagos kereskedő, akár nem, óhatatlanul aggodalomra ad okot, hogy csak egy gépi eredmény elegendő-e ahhoz, hogy fenntartsa a vizsgált személyek elítélését?

2019-ben, amint arról Tom Perkins a The Guardiannek beszámolt , a detroiti rendőrség arcfelismerést használt, hogy letartóztassanak állítólag az elmúlt két évben. Detroit egy olyan hely, ahol a lakosság több mint 80%-a fekete. A Detroiti Rendőrbizottság egy fekete tagjának nyilatkozata aggodalmát fejezte ki a gyakorlattal szemben. Azt mondta, hogy a feketéknek van egy közös arcvonása, amely veszélyezteti a rendszer algoritmusát, és ezt „technorasszizmusnak” nevezte.

Kép forrása: Vox

A Journal of Information Communication and Ethics Society 2019-es kutatása során Fabio Bacchini és Ludovica Lorusso azt találta, hogy ezek a biometrikus és arcfelismerő rendszerek nem 100%-ban megbízhatóak a bűnüldözés számára. Ezenkívül a faji megkülönböztetés negatív hatással volt minden ilyen rendszerre, aminek további fordított társadalmi következményei vannak. A tanulmány különösen a nyugati társadalmakra irányult, ahol az ilyen rendszereket széles körben használják megfigyelésre.

Ez csak három példa a sok közül, ahol az arcfelismerő rendszerek által okozott faji különbségekre fény derült. De miért olyan inkompetens ezek a rendszerek a technológiai algoritmikus kódolási fejlesztések egyre növekvő pontossága ellenére?

Fehér felsőbbrendűség a nyugati államokban: fehér domináns technológiai ipar

2014-ben a technológiai vállalatok többségéről, köztük az óriás Apple Inc.-ről kiderült, hogy főleg fehér, férfi alkalmazottakat alkalmaztak. Az Apple-nél az alkalmazottak 55%-a fehér volt, és ehhez hasonlóan az Apple vezetősége is a fehér alkalmazottak 63%-át tette ki. A hasonló sokféleségről szóló jelentéseket megosztó cégek közé tartozik a Facebook , a Google és a Twitter is. Öt évvel később a Wired egyik jelentése feltárta, hogy ezekben a számokban minimális javulás történt.

Míg a Facebook tisztességes javulást mutatott a számokban, az Apple fekete műszaki dolgozóinak aránya nem változott, mindössze 6%-a a teljes munkaerőnek. Az Amazon volt az egyetlen szervezet, amely a fekete vagy latin-amerikai munkavállalók 42%-át regisztrálta amerikai irodáiban.

Mit jelentenek ezek a statisztikák? Az Egyesült Államokban a kódolók többsége, akiket olyan nagy projektekhez rendelnek, mint például a felügyeleti rendszerek algoritmusainak tervezése, fehérek. Ők azok, akik meghozzák a legjelentősebb döntéseket egy cég által elindítandó/bemutatandó termékkel vagy szolgáltatással kapcsolatban. Ezért az ő nézőpontjuk, megközelítésük és gondolkodási folyamataik az, ami a végső teremtésben történik. Ez nem azt jelenti, hogy a fehér emberek rasszisták, és szándékosan terveztek ilyen megfigyelő rendszereket . NEM!

Kép forrása: Forbes

Amikor egy fehér srác megtervez egy arcfelismerő algoritmust, és csak fehér kollégái tanácskoznak/segítenek neki, a kód véglegesítése előtt nem veszik figyelembe a más színű emberek arcvonásait. Mivel a fehér mérnökök uralják a technológiai ipart, a kezdeti kód elkészítéséhez használt adatarchívumokat is fehér technikusok hozzák létre és kalibrálják. Így magát a kódot egy torzítással hozzák létre az alapvető számítási algoritmusban, ami faji különbségeket eredményez a megfigyelési eredményekben.

A kód egyszerűen megtanulja, mit testesítenek meg benne a fehér emberek. Nincs más színű személy perspektívája vagy hozzájárulása.

A kalibrálási problémák

Az amerikai bűnüldözés nagymértékben támaszkodik a megfigyelésre és az adatkövetésre. Sok olyan eset volt, amikor a visszaélést bejelentő személyek kiszorították a civilek jogosulatlan megfigyelésével kapcsolatos információkat. Ilyen például Edward Snowden feltárása az NSA illegális megfigyeléséről.

Kép forrása: CBS Local

Ezeket a megfigyelési programokat polgárok millióinak arclenyomatai és egyéb személyes adatai támogatják. Ha csak az arclenyomatokat vesszük figyelembe, amerikaiak milliói osztanak meg nyíltan képeket a közösségi média felületein. Aztán az ország minden utcájában vannak CCTV kamerák , amelyek élő felvételeket kínálnak több százezer járókelőről. Jelenleg hozzávetőleg 117 millió kép található a rendőrségi adatbázisokban, míg az FBI-nak több mint 400 millió adatkészlete van a megfigyelő arcfelismerő algoritmusok kalibrálásához.

Most képzelje el, hogy ezeket az adatkészleteket hasonlítsa össze egyetlen képpel, amely az adott személy összes arcvonását megörökítette, vagy nem. Ilyen forgatókönyv esetén valószínűleg hibák lépnek fel. Túl sok adat van ahhoz, hogy megértsük, és egyetlen arclenyomattal szemben lehessen futtatni. Egyetlen algoritmus sem tud száz százalékig garantálni az eredményt, ha a kalibrálás ennyire bonyolult. Ez végül hozzáadódik az arcfelismerő technológia által okozott faji profilalkotáshoz.

Az arcfelismerés rendkívüli megbízhatósága

Kép forrása: NY Post

Willie Lynch esete emlékeztet arra, hogy az arcfelismerés nem lehet az egyetlen megbízható bizonyítékként bemutatott technika, amikor a bűnüldözésről van szó. Ez az oka annak, hogy a Tampa városi rendőrség felhagyott a technikával.

Igaz, hogy az arcfelismerés kiváló üdülőhely, és hasznos a rendőrség számára. A Boston Marathon Bombings tetteseit a megfigyelési felvételek kiterjedt és részletes elemzése alapján ismerték fel. De ez nem lehet az egyetlen bizonyíték arra, hogy bárkit is elítéljenek. Az arcfelismerő algoritmusok eredményeit alátámasztó bizonyítéknak kell alátámasztania, és a végső döntés meghozatala előtt mérlegelni kell az automatizálási torzítás fogalmát.

Hardverhiba: Arcfelismerés mobileszközökön és fényképezőgépeken

Kép forrása: TechCrunch

A térfigyelő kamerarendszereket és a hozzájuk tartozó hardvert és szoftvert nem egy cég tervezi. Ez egy dollármilliárdokat érő iparág, amelyben vállalatok tízei versengenek azért, hogy szerződéseket szerezzenek a bűnüldöző szervektől. A legtöbb ilyen rendszer kínai gyártóktól származik. Az egész arról szól, hogy a legolcsóbb technológiát szerezzük be a legjobb tulajdonságokkal. Ez többnyire így működik. Ezért mindig fennáll annak a valószínűsége, hogy a különböző rendszerek kalibrálása eltérő, valamint a felügyeleti eredmények minősége eltérő. Sok kamerás megfigyelő algoritmus már csak a technikai alkalmatlanság miatt is hatástalan a színes bőrűek képeinek kalibrálásában, dicsőítve ezzel a faji megkülönböztetést.

Az arcfelismerés révén rasszizmust okozó technikai problémákat az Apple Face Lock funkciójában is észrevették. Egy Kínából származó eset kizárta, hogy az iPhone X arczár nem tudott különbséget tenni két különböző kínai munkatárs között, így a funkció használhatatlan. A hasonló jelentéseket elutasították, arra hivatkozva, hogy a funkció két fekete embert egymástól elválaszt. Ahogy fentebb említettük, az Apple-nek mindössze 6%-a feketék a technikai csapatokban. Világos példája annak, hogy egy arcfelismerő technológia miként képes előmozdítani a rasszizmust még kézi eszközeinkben is.

Következtetés

Igen, az arcfelismerés rasszista, és ez ma már köztudott. Bár a technológia naponta fejlődik az ilyen problémák orvoslására, az eredmények ugyanazok. A technológiának egyesítenie kell a világot a műszaki haladás és a fejlesztés közös céljai között, de egyes technikák csak kárt okoznak a faji és közösségi harmóniában.

Egyelőre a legjobb, amit a bűnüldöző tisztviselők tehetnek, hogy nem támasztják alá eseteiket az algoritmikus kalibrálások bizonyítékai alapján, amelyek nem is megbízhatóak. Sőt, itt az ideje, hogy komolyan vegyék a munkahelyi sokszínűséget és befogadást, hogy minden etnikumú ember összefoghasson egy olyan termék létrehozása érdekében, amely mentes a faji különbségektől. Több ezer faj létezik a világon, és az emberek felnőttek ahhoz, hogy félretegyék a faji különbségeket, amelyek oly sokáig kísértették a globális társadalmat. Ha ezt fenn kell tartani, akkor a gépeket, amelyekre annyira támaszkodunk, ugyanerre kell tanítani.