Kynþáttasnið í andlitsgreiningartækni: Getur andlitsþekking verið rasísk?

Andlitsþekkingartækni og hæfileikar hennar hafa vaxið langt umfram ímyndunarafl okkar síðan ný reiknirit til að styrkja þessa tækni í löggæslu hafa orðið áberandi. Eins og er, er andlitsþekkingartækni notuð af löggæslusveitum á lægstu stigum gagnaöflunarferla til að bera kennsl á glæpamenn innan um fjölmennar samkomur. Tæknin notar myndefni úr eftirlitsmyndavélum á opinberum stöðum og götum og keyrir síðan gögnin sem safnað hefur verið gegn skjalasafni stofnunarinnar til að greina andlit sem er eftirlýst fyrir refsivert brot.

Þessi tækni hefur ennfremur verið felld inn í minnstu græjur, þar á meðal farsíma og snjalltæki. Þess vegna er það ekki aðeins að vernda þig á götum úti heldur einnig að vernda persónulegar upplýsingar þínar sem eru geymdar á snjalltækjunum þínum. Notkun „andlitsprents“ fyrir markaðs- og auglýsingaaðferðir hefur orðið algeng á nútímatíma herferðar á samfélagsmiðlum. Og svo er einkaeftirlit í verslunarmiðstöðvum, smásöluverslunum o.s.frv.

Frá þessu sjónarhorni má fljótt benda á óneitanlega kosti andlitsþekkingartækni. En það hefur líka verið rannsakað með tilliti til ógnarinnar sem stafar af persónuvernd notenda, gagnavernd og auðvitað gagnsæi milli laga og almennings. Það er gott að vera meðvitaður um bæði kosti og galla slíkrar ífarandi tækni. Samt er enn einn ókosturinn við andlitsþekkingartæknina, sem fólk virðist hunsa, og það er kynþáttafordómar og kynþáttamismunun .

Í þessu verki skoðum við hvernig þessi tækni stuðlar að kynþáttahlutdrægni og mismunun og hversu alvarlegar afleiðingar slíkrar ífarandi tækni eru.

Hvernig virkar andlitsþekking?

Myndheimild: National Post

Skref 1: Mynd af þér er tekin úr myndavél, reikningnum þínum, tölvupósti o.s.frv. Það er annað hvort bein prófílmynd eða handahófsmynd í hópnum.

Skref 2: Andlitsþekkingarhugbúnaðurinn mun keyra andlit þitt í gegnum gagnagrunn með geymdum andlitsprentum. Andlitsprentinu er safnað saman með rúmfræðilegri mælingu á andliti þínu.

Skref 3: Samsvörunarprósenta myndarinnar þinnar á móti þekktum andlitsprenti er framleitt með því að nota reiknirit sem ákvarðað er um.

Sjálfvirkni hlutdrægni: Einn af mörgum göllum andlitsþekkingartækni

Sjálfvirkni hlutdrægni eða vélarhlutdrægni vísar til atburðarásarinnar þar sem vélalgrím sýnir ákveðna hlutdrægni í kvörðun inntaksgagnanna og gefur þannig óhagstæða úttak. Þetta gerist þegar villa er í reikniritskóðanum, skortur á geymdum gagnasettum fyrir kvörðun, röng inntaksgildi eða óhófleg inntaksgögn, sem er umfram styrkleika véla til að kvarða.

Hvernig kynþáttafordómar fara með þessu öllu?

Myndheimild: The Guardian

Byrjum á fornu atviki sem á sínum tíma þótti ómerkilegt. Árið 2001 notaði Tampa City andlitsþekkingarhugbúnað til að fylgjast með fjölmennri borg þegar ferðamenn flæddu um götur borgarinnar vegna Ofurskálarinnar 2001. Samkvæmt frétt New York Times benti hugbúnaðurinn á 19 manns sem áttu útistandandi heimildir gegn þeim; Hins vegar var enginn handtekinn þar sem innviðir leikvangsins gerðu það að verkum að ómögulegt var að komast að nafngreindum sökudólgum meðal yfirþyrmandi mannfjölda.

Þótt merki um kynþáttafordóma hafi hvergi sést í þessu tiltekna tilviki, var það í fyrsta skipti sem eftirlitsaðferðum var beitt gegn broti á borgaralegum réttindum og friðhelgi einkalífs einstaklinga. Á næstu árum gaf lögreglan í Tampa upp á þessum eftirlitskerfi og vitnaði í óáreiðanlegar niðurstöður.

Myndheimild: ICO

Ali Breland , sem snýr áfram í eitthvað nýrri atburðarás, greindi frá fyrir The Guardian , um handtöku á Willie Lynch, blökkumanni sem sakaður er um að vera alræmdur eiturlyfjasali á Brentwood svæðinu, aðallega hverfi litaðra. Einu sönnunargögnin gegn Lynch voru myndir hans í farsíma, sem voru keyrðar á gagnagrunn lögreglunnar áður en lögreglan ákvað að hann væri sekur. Lynch var sakfelldur í átta ár, sem hefur nú áfrýjað dómnum. Hvort sem hann var meintur söluaðili eða ekki, þá vekur það óhjákvæmilega áhyggjur af því hvort aðeins vélræn niðurstaða sé nóg til að halda uppi sakfellingu yfir þeim sem eru í rannsókn?

Árið 2019, eins og Tom Perkins greindi frá fyrir The Guardian , fannst lögreglan í Detroit nota andlitsþekkingu til að handtaka að sögn undanfarin tvö ár. Detroit er staður þar sem meira en 80% íbúanna eru svartir. Yfirlýsing frá blökkumanni frá lögreglunni í Detroit vakti áhyggjur af aðgerðunum. Hann sagði að blökkumenn hefðu sameiginlegan andlitseinkenni sem stofnaði reiknirit kerfisins í hættu og kallaði þetta „tæknikynþáttafordóma“.

Myndheimild: Vox

Í rannsókn 2019 fyrir Journal of Information Communication and Ethics Society, eftir Fabio Bacchini og Ludovica Lorusso, kom í ljós að þessi líffræðileg tölfræði og andlitsgreiningarkerfi eru ekki 100% áreiðanleg fyrir löggæslu. Þar að auki hafði kynþáttamismunun neikvæð áhrif á öll slík kerfi, sem hefur frekari öfug samfélagsleg áhrif. Rannsóknin beindist einkum að vestrænum samfélögum þar sem slík kerfi eru mikið notuð við eftirlit.

Þetta eru aðeins þrjú af mörgum slíkum dæmum þar sem kynþáttamismunir af völdum andlitsgreiningarkerfa hafa komið fram í dagsljósið. En hvers vegna eru þessi kerfi svona óhæf þrátt fyrir vaxandi nákvæmni í uppfærslu reikniritkóða í tækni.

White Supremacy in the Western States: A White-dominant Tech Industry

Árið 2014 kom í ljós að meirihluti tæknifyrirtækja, þar á meðal risastórinn Apple Inc., réði aðallega hvíta karlkyns starfsmenn. Hjá Apple voru 55% starfsmanna hvítir og á sama hátt samanstóð forysta Apple 63% hvítra starfsmanna. Fyrirtækin sem deildu svipuðum fjölbreytileikaskýrslum voru einnig Facebook , Google og Twitter. Fimm árum síðar kom fram í skýrslu í Wired að það hefði orðið lágmarks bati á þessum tölum.

Þó að Facebook hafi sýnt ágætis framför í tölum, var hlutfall svartra tæknistarfsmanna hjá Apple óbreytt í aðeins 6% af heildarvinnuafli. Amazon var eina stofnunin sem skráði 42% svarta eða Suður-Ameríku starfsmenn á skrifstofum sínum í Bandaríkjunum.

Hvað deyja þessi tölfræði tákna? Í Bandaríkjunum eru flestir kóðararnir, sem eru úthlutað til stórra verkefna eins og að hanna reiknirit fyrir eftirlitskerfi, hvítir. Þetta er fólkið sem tekur mikilvægustu ákvarðanirnar varðandi vöru eða þjónustu sem fyrirtæki á að setja á markað/afhjúpa. Og þess vegna eru það sjónarhorn þeirra, nálgun og hugsunarferli sem fara í lokasköpunina. Þetta þýðir ekki að hvítt fólk sé rasistar og hafi viljandi hannað slík eftirlitskerfi . NEI!

Myndheimild: Forbes

Þegar hvítur gaur hannar andlitsþekkingaralgrím og hefur aðeins hvíta samstarfsmenn til ráðgjafar/aðstoðar, taka þeir ekki tillit til andlitseinkenna fólks af öðrum lit áður en þeir ganga frá kóðanum. Þar sem hvítir verkfræðingar ráða yfir tækniiðnaðinum eru gagnasöfnin sem notuð eru til að undirbúa upphafskóðann einnig búin til og kvarðuð af hvítum tæknimönnum. Þannig er kóðinn sjálfur búinn til með hlutdrægni í kjarna útreikningsreikniritsins, sem leiðir til þessara kynþáttamismuna í eftirlitsniðurstöðum.

Kóðinn lærir einfaldlega hvað hvítt fólk felur í sér. Það er ekkert sjónarhorn eða framlag nokkurs manns af öðrum lit.

Kvörðunarmálin

Bandarísk lögregla reiðir sig mjög á eftirlit og gagnarakningu. Mörg dæmi hafa verið um að uppljóstrarar hafi eytt upplýsingum um óviðkomandi eftirlit með almennum borgurum. Uppljóstrun Edward Snowdens um ólöglegt eftirlit NSA er eitt slíkt dæmi.

Myndheimild: CBS Local

Þessar eftirlitsáætlanir eru studdar af andlitsprentum og öðrum persónulegum upplýsingum milljóna borgara. Ef við lítum aðeins á andlitsprentanir, þá eru milljónir Bandaríkjamanna sem deila opinskátt myndum á samfélagsmiðlum. Þá eru CCTV myndavél á öllum torgum þjóðarinnar sem býður upp á lifandi myndefni af hundruðum þúsunda vegfarendur. Eins og er, eru um það bil 117 milljónir mynda í gagnagrunnum lögreglunnar, á meðan FBI hefur meira en 400 milljónir gagnapakka til að kvarða í reikniritum fyrir andlitsþekkingu eftirlits.

Ímyndaðu þér nú þessi gagnapakka borin saman við eina mynd sem gæti hafa náð öllum andlitseinkennum viðkomandi einstaklings eða ekki. Í slíkri atburðarás er líklegt að villur komi upp. Það er bara of mikið af gögnum til að skilja og keyra þau gegn einu andlitsprenti. Enginn reiknirit getur tryggt hundrað prósent öryggi í niðurstöðu sinni þegar kvörðun er svo flókin. Þetta bætist að lokum við kynþáttafordóma af völdum andlitsþekkingartækni.

Gríðarlegur áreiðanleiki á andlitsgreiningu

Myndheimild: NY Post

Mál Willie Lynch er áminning um að andlitsþekking ætti ekki að vera eina áreiðanlega tæknin sem sett er fram sem sönnunargögn þegar kemur að löggæslu. Þetta er ástæðan fyrir því að lögreglan í Tampa gafst upp á tækninni.

Það er rétt að andlitsgreining er frábært úrræði og gagnast lögreglunni. Sökudólgunum í Boston Marathon Bombings var viðurkennt með því að nota umfangsmikla og ítarlega greiningu á eftirlitsupptökum. En þetta getur ekki verið einstök sönnunargögn til að sakfella neinn. Það verða að vera til stuðnings sönnunargögn til að sanna niðurstöður andlitsþekkingaralgrímanna og hugtakið sjálfvirkni hlutdrægni verður að íhuga áður en endanleg ákvörðun er tekin.

Vélbúnaðarvandræðin: Andlitsgreining í farsímum og myndavélum

Myndheimild: TechCrunch

Eftirlitsmyndavélakerfin og tengdur vélbúnaður og hugbúnaður er ekki hannaður af einu fyrirtæki. Þetta er iðnaður sem er milljarða dollara virði þar sem tugir fyrirtækja keppast við að fá samninga frá löggæslustofnunum. Mörg þessara kerfa eru frá kínverskum framleiðendum. Þetta snýst allt um að fá ódýrustu tæknina með bestu eiginleikana. Þannig virkar þetta að mestu leyti. Og þess vegna eru alltaf líkur á mismun á kvörðun mismunandi kerfa, sem og breytileika í gæðum eftirlitsniðurstaðna. Mörg reiknirit myndavélaeftirlits eru árangurslaus við að kvarða myndir af lituðu fólki bara vegna tæknilegrar vanhæfni og vegsama þannig kynþáttamismunun.

Tæknivandamálin sem valda kynþáttafordómum með andlitsgreiningu hafa einnig verið tekin eftir í Apple Face Lock eiginleikanum. Mál frá Kína vísaði frá því að iPhone X andlitslásinn væri ófær um að greina á milli tveggja mismunandi kínverskra vinnufélaga, sem gerði aðgerðina gagnslausa. Svipuðum fréttum var vísað á bug og vitnað í atriði í þættinum við að aðskilja tvo blökkumenn frá hvor öðrum. Eins og fram kemur hér að ofan hefur Apple aðeins 6% svartra í tækniteymum. Það er skýrt dæmi um hvernig andlitsþekkingartækni getur ýtt undir kynþáttafordóma jafnvel í handtölvum okkar.

Niðurstaða

Já, andlitsþekking er kynþáttafordómar og það er almenn þekking núna. Þó að tæknin sé að vaxa daglega til að leiðrétta slík mál, eru niðurstöðurnar allar þær sömu. Tæknin á að sameina heiminn um sameiginleg markmið um tækniframfarir og þróun, en sumar aðferðir valda bara skaða á kynþátta- og samfélagslegri sátt.

Í augnablikinu er það besta sem löggæslumenn geta gert er að styðja ekki mál sín á grundvelli sönnunargagna frá reikniritum kvörðun, sem eru ekki einu sinni áreiðanlegar. Þar að auki er tímabært að fjölbreytileiki og aðlögun á vinnustöðum sé tekin alvarlega svo að fólk af öllum þjóðerni geti sameinast um að búa til vöru sem er laus við kynþáttamismunun. Það eru þúsundir kynþátta í heiminum og fólk hefur vaxið í að setja kynþáttamuninn til hliðar, sem ásótti heimssamfélagið svo lengi. Ef það þarf að viðhalda því, þá þarf að kenna vélarnar sem við treystum okkur svo mikið á.