Raseprofilering innen ansiktsgjenkjenningsteknologi: Kan ansiktsgjenkjenning være rasistisk?

Ansiktsgjenkjenningsteknologi og dens evner har vokst langt utover vår fantasi helt siden nye algoritmer for å forsterke denne teknologien innen rettshåndhevelse har blitt fremtredende. For tiden brukes teknologi for ansiktsgjenkjenning av rettshåndhevelsesstyrker på de laveste nivåene av datainnsamlingsprosesser for å identifisere kriminelle lovbrytere midt i overfylte forsamlinger. Teknikken bruker opptak fra CCTV-kameraer på offentlige steder og gater og kjører deretter de innsamlede dataene mot byråets arkiver for å oppdage et ansikt som er ettersøkt for kriminelle handlinger.

Denne teknologien har videre blitt innebygd i de minste dingsene, inkludert mobiltelefoner og smarte bærbare enheter. Derfor beskytter det deg ikke bare i gatene, men har også til hensikt å beskytte din personlige informasjon som er lagret på smartenhetene dine. Å bruke "ansiktsavtrykk" for markedsføring og annonseringspraksis har blitt vanlig i den moderne tidsalderen for kampanjer på sosiale medier. Og så er det privat overvåking i kjøpesentre, butikker osv.

Fra dette perspektivet kan man raskt peke på de ubestridelige fordelene med ansiktsgjenkjenningsteknologi. Men den har også blitt undersøkt for trusselen den utgjør for brukernes personvern, databeskyttelse og selvfølgelig åpenhet mellom loven og offentligheten. Det er en god ting å være klar over både fordeler og ulemper med en slik invasiv teknologi. Likevel er det enda en ulempe med ansiktsgjenkjenningsteknologien, som folk ser ut til å ignorere, og det er raseprofilering og rasediskriminering .

I dette stykket ser vi på hvordan denne teknologien fremmer rasemessig skjevhet og diskriminering og hvor alvorlige konsekvensene av slik invasiv teknologi er.

Hvordan fungerer ansiktsgjenkjenning?

Bildekilde: National Post

Trinn 1: Et bilde av deg er tatt fra et kamera, din konto, e-post osv. Det er enten et rett profilbilde eller et tilfeldig knips i en folkemengde.

Trinn 2: Ansiktsgjenkjenningsprogramvaren vil kjøre ansiktet ditt gjennom en database med lagrede ansiktsavtrykk. Ansiktsavtrykket samles via geometrisk sporing av ansiktet ditt.

Trinn 3: En samsvarsprosent av bildet ditt mot et kjent ansiktsavtrykk produseres ved hjelp av en algoritme som bestemmes.

Automation Bias: En av mange feil ved ansiktsgjenkjenningsteknologi

Automation Bias eller Machine Bias refererer til scenariet der en maskinalgoritme viser en viss skjevhet i kalibreringen av inngangsdataene, og dermed gir ugunstig utgang. Dette skjer når det er en feil i algoritmekoden, mangel på lagrede datasett for kalibrering, feil inngangsverdier eller overdreven inndata, som er utenfor maskinens styrke til å kalibrere.

Hvordan raseprofilering går med alt dette?

Bildekilde: The Guardian

La oss starte med en eldgammel hendelse som på den tiden ble ansett som ubetydelig. I 2001 brukte Tampa City ansiktsgjenkjenningsprogramvare for å overvåke den overfylte byen da turister oversvømmet bygatene på grunn av Super Bowl i 2001. Ifølge en New York Times-rapport identifiserte programvaren 19 personer som visstnok hadde utestående garantier mot dem; ingen arrestasjoner ble imidlertid foretatt siden infrastrukturen på stadion gjorde det umulig å komme til de identifiserte skyldige blant en overveldende folkemengde.

Selv om tegnene på raseprofilering ikke ble sett noe sted i denne spesielle saken, var det første gang overvåkingsteknikker ble satt opp mot brudd på borgerlige friheter og privatliv til enkeltpersoner. I de kommende årene ga politiet i Tampa opp disse overvåkingssystemene med henvisning til upålitelige resultater.

Bildekilde: ICO

For å spole videre til et noe nyere scenario, rapporterte Ali Breland for The Guardian , angående arrestasjonen av Willie Lynch, en svart mann anklaget for å være en beryktet narkohandler i Brentwood-området, hovedsakelig et nabolag med fargede. Det eneste beviset mot Lynch var bildene hans på en mobil, som ble kjørt mot en politidatabase før politiet fastslo ham som den skyldige. Lynch ble dømt for åtte år, som nå har anket dommen. Enten han var den påståtte forhandleren eller ikke, vekker det uunngåelig bekymring for om bare et maskinbasert resultat er nok til å opprettholde domfellelsen til noen som er under etterforskning?

I 2019, som rapportert av Tom Perkins for The Guardian , ble Detroit-politiet funnet å bruke ansiktsgjenkjenning for å foreta arrestasjoner angivelig de siste to årene. Detroit er et sted hvor mer enn 80 % av befolkningen er svarte. En uttalelse fra et svart medlem fra Detroit Police Commission reiste bekymring for praksisen. Han sa at svarte mennesker har et felles ansiktstrekk som setter systemets algoritme i fare, og betegner dette som "teknorasisme."

Bildekilde: Vox

I en undersøkelse fra 2019 for Journal of Information Communication and Ethics Society, av Fabio Bacchini og Ludovica Lorusso, ble det funnet at disse biometriske systemene og ansiktsgjenkjenningssystemene ikke er 100 % pålitelige for rettshåndhevelse. Dessuten var rasediskriminering en negativ innvirkning på alle slike systemer, noe som har ytterligere omvendte samfunnsmessige implikasjoner. Studien rettet seg spesielt mot vestlige samfunn, hvor slike systemer brukes mye til overvåking.

Dette er bare tre av mange slike eksempler der tilfeller av raseforskjeller forårsaket av ansiktsgjenkjenningssystemer har kommet frem i lyset. Men hvorfor er disse systemene så inkompetente til tross for en slik økende nøyaktighet i algoritmiske kodingsoppgraderinger innen teknologi.

White Supremacy in the Western States: A White-Dominant Tech Industry

I 2014 ble det funnet at et flertall av teknologiselskapene, inkludert giganten Apple Inc., ansetter hovedsakelig hvite, mannlige ansatte. I Apple var 55 % av de ansatte hvite, og på samme måte omfattet Apples ledelse 63 % av de hvite ansatte. Selskapene som delte lignende mangfoldsrapporter inkluderte Facebook , Google og Twitter også. Fem år senere avslørte en rapport i Wired at det hadde vært minimal forbedring i disse tallene.

Mens Facebook viste en anstendig forbedring i antall, var Apples svarte tekniske arbeiderandel uendret på bare 6% av den totale arbeidsstyrken. Amazon var den eneste organisasjonen som registrerte 42 % svarte eller latinamerikanske arbeidere på sine amerikanske kontorer.

Hva betyr disse statistikkene? I USA er de fleste koderne, som er tildelt store prosjekter som å designe algoritmer for overvåkingssystemer, hvite. Dette er personene som tar de viktigste avgjørelsene angående et produkt eller en tjeneste som skal lanseres/avdukes av et selskap. Og derfor er det deres perspektiver, tilnærming og tankeprosesser som går i den endelige skapelsen. Dette betyr ikke at hvite mennesker er rasister og med vilje har utformet slike overvåkingssystemer . NEI!

Bildekilde: Forbes

Når en hvit fyr designer en ansiktsgjenkjenningsalgoritme og bare har hvite kolleger som konsulterer/bistår ham, vurderer de ikke personer med andre fargers ansiktstrekk før de avslutter koden. Siden hvite ingeniører dominerer teknologiindustrien, blir dataarkivene som brukes til å forberede den første koden, også opprettet og kalibrert av hvite teknikere. Dermed er selve koden opprettet med en skjevhet i dens kjerneberegningsalgoritme, noe som resulterer i disse rasemessige forskjellene i overvåkingsresultater.

Koden lærer ganske enkelt hva hvite mennesker legemliggjør i den. Det er ikke noe perspektiv eller bidrag fra noen person av en annen farge.

Kalibreringsproblemer

Amerikansk rettshåndhevelse er sterkt avhengig av overvåking og datasporing. Det har vært mange tilfeller der varslere fjernet informasjon om uautorisert overvåking av sivile. Edward Snowdens avsløring av NSAs ulovlige overvåking er et slikt eksempel.

Bildekilde: CBS Local

Disse overvåkingsprogrammene støttes av ansiktsavtrykk og annen personlig informasjon fra millioner av innbyggere. Hvis vi bare vurderer ansiktsavtrykk, er det millioner av amerikanere som åpent deler bilder på sosiale medieplattformer. Så er det CCTV-kameraer i alle gater i landet som tilbyr live-opptak av hundretusenvis av forbipasserende. For tiden er det omtrent 117 millioner bilder i politiets databaser, mens FBI har mer enn 400 millioner datasett som skal kalibreres i overvåkings-ansiktsgjenkjenningsalgoritmer.

Forestill deg nå disse datasettene sammenlignet med et enkelt bilde som kanskje har fanget opp alle ansiktstrekkene til den bestemte personen. I et slikt scenario vil det sannsynligvis oppstå feil. Det er bare for mye data til å forstå og kjøre dem mot ett ansiktsavtrykk. Ingen algoritme kan garantere hundre prosent sikkerhet for resultatet når kalibreringen er så komplisert. Dette legger til slutt opp til raseprofileringen forårsaket av ansiktsgjenkjenningsteknologi.

Den enorme påliteligheten på ansiktsgjenkjenning

Bildekilde: NY Post

Saken om Willie Lynch er en påminnelse om at ansiktsgjenkjenning ikke bør være den eneste pålitelige teknikken som presenteres som bevis når det gjelder rettshåndhevelse. Dette er grunnen til at politiet i Tampa ga opp teknologien.

Det er sant at ansiktsgjenkjenning er en utmerket utvei og er nyttig for politiet. Boston Marathon Bombings skyldige ble gjenkjent ved hjelp av omfattende og detaljert analyse av overvåkingsopptak. Men dette kan ikke være det eneste beviset for å dømme noen. Det må være støttende bevis for å bevise resultatene av ansiktsgjenkjenningsalgoritmene, og konseptet med automatiseringsskjevhet må vurderes før man når en endelig avgjørelse.

Maskinvareproblemet: Ansiktsgjenkjenning i mobil og kamera

Bildekilde: TechCrunch

Overvåkingskamerasystemene og tilhørende maskinvare og programvare er ikke designet av ett enkelt selskap. Det er en industri verdt milliarder av dollar der titalls selskaper konkurrerer om å få kontrakter fra rettshåndhevelsesbyråer. Mange av disse systemene er fra kinesiske produsenter. Det handler om å få den billigste teknologien med de beste kvalitetene. Sånn fungerer det stort sett. Og derfor er det alltid sjanser for forskjeller i kalibrering av forskjellige systemer, samt variasjon i kvaliteten på overvåkingsresultatene. Mange kameraovervåkingsalgoritmer er ineffektive når det gjelder å kalibrere bilder av fargede mennesker bare på grunn av teknisk inkompetanse, og glorifiserer dermed rasediskriminering.

De tekniske problemene som forårsaker rasisme via ansiktsgjenkjenning har også blitt lagt merke til i Apple Face Lock-funksjonen. En sak fra Kina fjernet at iPhone X-ansiktslåsen ikke klarte å skille mellom to forskjellige kinesiske kolleger, noe som gjorde funksjonen ubrukelig. Lignende rapporter ble avvist, med henvisning til problemer i funksjonen med å skille to svarte mennesker fra hverandre. Som nevnt ovenfor har Apple bare 6% av svarte personer i tekniske team. Det er et tydelig eksempel på hvordan en ansiktsgjenkjenningsteknologi kan fremme rasisme selv i våre håndholdte enheter.

Konklusjon

Ja, ansiktsgjenkjenning er rasistisk, og det er allment kjent nå. Mens teknologien vokser daglig for å rette opp slike problemer, er resultatene de samme. Teknologi er ment å forene verden over felles mål for tekniske fremskritt og utvikling, men noen teknikker skader bare rasemessig og kommunal harmoni.

Foreløpig er det beste politimyndigheter kan gjøre å ikke støtte sakene deres basert på bevis fra algoritmiske kalibreringer, som ikke engang er pålitelige. Dessuten er det på høy tid at mangfold og inkludering på arbeidsplasser tas på alvor, slik at mennesker av alle etnisiteter kan komme sammen for å lage et produkt som er fritt for raseforskjeller. Det er tusenvis av raser i verden, og folk har vokst til å sette raseforskjellene til side, som hjemsøkte det globale samfunnet så lenge. Hvis det må opprettholdes, må maskinene som vi stoler så mye på, læres det samme.