Rotuprofiili kasvojentunnistustekniikassa: Voiko kasvojentunnistus olla rasistista?

Kasvojentunnistustekniikka ja sen kyvyt ovat kasvaneet paljon mielikuvituksemme yläpuolelle siitä lähtien, kun uudet algoritmit, jotka vahvistavat tätä tekniikkaa lainvalvonnassa, ovat tulleet näkyville. Tällä hetkellä lainvalvontaviranomaiset käyttävät kasvojentunnistustekniikkaa tiedonkeruuprosessien alimmilla tasoilla tunnistaakseen rikolliset ruuhkaisten kokoontumisten keskellä. Tekniikka käyttää CCTV-kameroiden kuvamateriaalia julkisilla paikoilla ja kaduilla ja käyttää sitten kerättyjä tietoja viraston arkistoja vastaan ​​havaitakseen kasvot, joita etsitään rikoksista.

Tämä tekniikka on edelleen upotettu pienimpiin vempaimiin, mukaan lukien matkapuhelimet ja älykkäät puettavat laitteet. Näin ollen se ei vain suojele sinua kaduilla, vaan aikoo myös suojata älylaitteillesi tallennettuja henkilökohtaisia ​​tietojasi. "Faceprint" käyttäminen markkinoinnissa ja mainonnassa on yleistynyt sosiaalisen median kampanjoiden nykyaikana. Ja sitten on yksityinen valvonta ostoskeskuksissa, vähittäiskaupoissa jne.

Tästä näkökulmasta voidaan nopeasti tuoda esiin kasvojentunnistustekniikan kiistattomat edut. Mutta sitä on myös tutkittu sen uhan varalta, jonka se aiheuttaa käyttäjien yksityisyydelle, tietosuojalle ja tietysti lain ja yleisön väliselle avoimuudelle. On hyvä olla tietoinen tällaisen invasiivisen tekniikan eduista ja haitoista. Silti kasvojentunnistustekniikassa on vielä yksi haitta, jonka ihmiset näyttävät jättävän huomiotta, ja se on rotuprofilointi ja rotusyrjintä .

Tässä teoksessa tarkastelemme, kuinka tämä tekniikka edistää rodullista ennakkoluulottomuutta ja syrjintää ja kuinka vakavia tällaisen invasiivisen teknologian seuraukset ovat.

Kuinka kasvojentunnistus toimii?

Kuvan lähde: National Post

Vaihe 1: Sinusta otetaan kuva kamerasta, tilistäsi, sähköpostistasi jne. Se on joko suora profiilikuva tai satunnainen kuva joukosta.

Vaihe 2: Kasvojentunnistusohjelmisto ohjaa kasvosi tallennettujen kasvojälkien tietokannan läpi. Kasvojälki kerätään kasvosi geometrisen seurannan avulla.

Vaihe 3: Kuvasi vastaavuusprosentti mitä tahansa tunnettua kasvojenjälkeä vastaan ​​tuotetaan käyttämällä algoritmia, jonka perusteella määritys tehdään.

Automaatioharha: yksi kasvojentunnistustekniikan monista puutteista

Automation Bias tai Machine Bias viittaa skenaarioon, jossa koneen algoritmi osoittaa tietyn poikkeaman syöttötietojen kalibroinnissa ja antaa siten epäsuotuisan tulosteen. Näin tapahtuu, kun algoritmikoodissa on virhe, kalibrointia varten ei ole tallennettu tietojoukkoja, syötetyt arvot ovat virheellisiä tai syöttödataa on liikaa, minkä vuoksi koneet eivät pysty kalibroimaan.

Miten rotuprofilointi liittyy tähän kaikkeen?

Kuvan lähde: The Guardian

Aloitetaan muinaisesta tapauksesta, jota pidettiin tuolloin merkityksettömänä. Vuonna 2001 Tampa City käytti kasvojentunnistusohjelmistoa ruuhkaisen kaupungin valvontaan, kun turistit tulvivat kaupungin kaduille vuoden 2001 Super Bowlin vuoksi. Kuten per New York Timesin , ohjelmisto tunnistaa 19 ihmistä, jotka ilmeisesti olivat optioista heitä vastaan; pidätyksiä ei kuitenkaan tehty, koska stadionin infrastruktuuri teki mahdottomaksi päästä tunnistettuihin syyllisiin ylivoimaisen väkijoukon joukossa.

Vaikka rodullisen profiloinnin merkkejä ei näkynyt missään tässä nimenomaisessa tapauksessa, se oli ensimmäinen kerta, kun valvontatekniikoita otettiin käyttöön kansalaisvapauksien ja yksilöiden yksityisyyden loukkaamista vastaan. Tulevina vuosina Tampan poliisi luopui näistä valvontajärjestelmistä vedoten epäluotettaviin tuloksiin.

Kuvan lähde: ICO

Ali Breland raportoi hieman uudemmasta skenaariosta The Guardianille koskien Willie Lynchin, mustalaisen miehen pidättämistä, jota syytettiin pahamaineisesta huumekauppiasta Brentwoodin alueella, pääasiassa värikkäiden ihmisten naapurustossa. Ainoa todiste Lynchiä vastaan ​​olivat hänen matkapuhelimella olevat kuvat, joita ajettiin poliisin tietokantaa vastaan ​​ennen kuin poliisi määritti hänet syylliseksi. Lynch tuomittiin kahdeksaksi vuodeksi, ja hän on nyt valittanut tuomiosta. Olipa hän sitten väitetty jälleenmyyjä tai ei, se herättää väistämättä huolta siitä, riittääkö vain konepohjainen tulos tukemaan tutkinnan kohteena olevan tuomion?

Vuonna 2019, kuten Tom Perkins The Guardianille raportoi , Detroitin poliisin havaittiin käyttäneen kasvojentunnistusta pidätyksessä väitetysti viimeisten kahden vuoden aikana. Detroit on paikka, jossa yli 80% väestöstä on mustia. Detroitin poliisikomission mustan jäsenen lausunto herätti huolta käytännöstä. Hän sanoi, että mustilla ihmisillä on yhteinen kasvojen piirre, joka vaarantaa järjestelmän algoritmin ja kutsui tätä "teknorasismiksi".

Kuvan lähde: Vox

Fabio Bacchinin ja Ludovica Lorusson Journal of Information Communication and Ethics Society -lehdessä vuonna 2019 tekemässä tutkimuksessa havaittiin, että nämä biometriset ja kasvojentunnistusjärjestelmät eivät ole 100 % luotettavia lainvalvontaviranomaisille. Lisäksi rotusyrjintä oli kielteinen vaikutus kaikkiin tällaisiin järjestelmiin, millä on lisäksi käänteisiä yhteiskunnallisia vaikutuksia. Tutkimus kohdistui erityisesti länsimaisiin yhteiskuntiin, joissa tällaisia ​​järjestelmiä käytetään laajalti valvontaan.

Nämä ovat vain kolme esimerkkiä monista sellaisista tapauksista, joissa kasvojentunnistusjärjestelmien aiheuttamat rodulliset erot ovat tulleet julkisuuteen. Mutta miksi nämä järjestelmät ovat niin epäpäteviä huolimatta tekniikan algoritmisen koodauksen päivityksen kasvavasta tarkkuudesta.

Valkoinen ylivalta länsimaissa: Valkoinen teknologiateollisuus

Vuonna 2014 suurin osa teknologiayrityksistä, mukaan lukien jättiläinen Apple Inc., palkkasi enimmäkseen valkoisia miespuolisia työntekijöitä. Applessa 55 % työntekijöistä oli valkoisia, ja vastaavasti Applen johtoon kuului 63 % valkoisia. Yrityksiä, jotka jakoivat samanlaisia ​​monimuotoisuusraportteja, olivat myös Facebook , Google ja Twitter. Viisi vuotta myöhemmin Wired-lehden raportti paljasti, että näissä luvuissa oli tapahtunut minimaalista parannusta.

Vaikka Facebook osoitti kunnollista parannusta numeroissa, Applen mustien teknisten työntekijöiden prosenttiosuus pysyi ennallaan, vain 6 prosentissa koko työvoimasta. Amazon oli ainoa organisaatio, joka rekisteröi 42 prosenttia mustista tai latinalaisamerikkalaisista työntekijöistä Yhdysvaltojen toimistoihinsa.

Mitä nämä tilastot merkitsevät? Yhdysvalloissa suurin osa koodaajista, jotka on määrätty suuriin projekteihin, kuten valvontajärjestelmien algoritmien suunnitteluun, ovat valkoisia. Nämä ovat ihmisiä, jotka tekevät merkittävimmät päätökset koskien yrityksen lanseeraamaa/paljastettavaa tuotetta tai palvelua. Ja siksi heidän näkökulmansa, lähestymistapansa ja ajatusprosessinsa menevät lopulliseen luomiseen. Tämä ei tarkoita sitä, että valkoiset ihmiset olisivat rasisteja ja olisivat tarkoituksella suunnitellut sellaisia valvontajärjestelmiä . EI!

Kuvan lähde: Forbes

Kun valkoinen kaveri suunnittelee kasvojentunnistusalgoritmin ja vain valkoiset kollegat neuvovat/avustavat häntä, he eivät ota huomioon erivärisiä kasvojen piirteitä ennen koodin viimeistelyä. Koska valkoiset insinöörit hallitsevat teknologiateollisuutta, valkoiset teknikot luovat ja kalibroivat myös alkuperäisen koodin valmistukseen käytetyt tietoarkistot. Siten itse koodi luodaan harhaanjohtavalla laskenta-algoritmillaan, mikä johtaa näihin rodullisiin eroihin valvontatuloksissa.

Koodi vain oppii, mitä valkoiset ihmiset siinä ilmentävät. Kenenkään muun värisen henkilön näkökulmaa tai panosta ei ole.

Kalibrointiongelmat

Amerikkalaiset lainvalvontaviranomaiset luottavat voimakkaasti valvontaan ja tietojen seurantaan. On ollut monia tapauksia, joissa ilmiantajat ovat karkottaneet tietoja siviilien luvattomasta tarkkailusta. Edward Snowdenin paljastus NSA:n laittomasta valvonnasta on yksi tällainen esimerkki.

Kuvan lähde: CBS Local

Näitä valvontaohjelmia tukevat miljoonien kansalaisten kasvojäljet ​​ja muut henkilötiedot. Jos otamme huomioon vain kasvonjäljet, miljoonat amerikkalaiset jakavat avoimesti kuvia sosiaalisessa mediassa. Sitten maan jokaisella kadulla on CCTV-kameroita , jotka tarjoavat suoraa kuvaa sadoista tuhansista ohikulkijoista. Tällä hetkellä poliisin tietokannassa on noin 117 miljoonaa kuvaa, kun taas FBI:lla on yli 400 miljoonaa datajoukkoa kalibroitavaksi valvontakasvojen tunnistusalgoritmeissa.

Kuvittele nyt näitä tietojoukkoja verrattaessa yhteen kuvaan, joka on ehkä tallentanut tietyn henkilön kaikkia kasvojen piirteitä tai ei. Tällaisessa tilanteessa virheitä tapahtuu todennäköisesti. Dataa on aivan liian paljon ymmärtää ja ajaa sitä yhtä kasvojälkeä vastaan. Mikään algoritmi ei voi taata sataprosenttista varmuutta tuloksestaan, kun kalibrointi on niin monimutkaista. Tämä lopulta lisää kasvojentunnistustekniikan aiheuttamaa rodullista profilointia.

Äärimmäinen luotettavuus kasvojentunnistuksessa

Kuvan lähde: NY Post

Willie Lynchin tapaus on muistutus siitä, että kasvojentunnistuksen ei pitäisi olla ainoa luotettava tekniikka, joka esitetään todisteena lainvalvontaviranomaisille. Tästä syystä Tampan kaupungin poliisi luopui tekniikasta.

On totta, että kasvojentunnistus on erinomainen keino ja siitä on apua poliisille. Boston Marathon Bombings -pommi-iskujen syylliset tunnistettiin tarkkailutallenteiden laajan ja yksityiskohtaisen analyysin avulla. Mutta tämä ei voi olla yksittäinen todiste kenenkään tuomitsemiseksi. On oltava todisteita kasvojentunnistusalgoritmien tulosten osoittamiseksi, ja automaation harhaa on harkittava ennen lopullisen päätöksen tekemistä.

Laitteistoongelma: Kasvojentunnistus mobiililaitteissa ja kameroissa

Kuvan lähde: TechCrunch

Valvontakamerajärjestelmät ja niihin liittyvät laitteistot ja ohjelmistot eivät ole yhden yrityksen suunnittelemia. Se on miljardien dollarien arvoinen ala, jossa kymmenet yritykset kilpailevat saadakseen sopimuksia lainvalvontaviranomaisilta. Monet näistä järjestelmistä ovat kiinalaisilta valmistajilta. Kyse on halvimman tekniikan hankkimisesta parhailla ominaisuuksilla. Näin se enimmäkseen toimii. Ja siksi on aina olemassa eroja eri järjestelmien kalibroinnissa sekä vaihtelua valvontatulosten laadussa. Monet kameravalvontaalgoritmit ovat tehottomia värillisten ihmisten kuvien kalibroinnissa vain teknisen epäpätevyyden vuoksi, mikä ylistää rotusyrjintää.

Tekniset ongelmat, jotka aiheuttavat rasismia kasvojentunnistuksen kautta, on havaittu myös Apple Face Lock -ominaisuudesta. Kiinasta peräisin oleva tapaus syrjäytti sen, että iPhone X -kasvojen lukitus ei pystynyt erottamaan kahta erilaista kiinalaista työtoveria, mikä teki ominaisuudesta hyödyttömän. Samankaltaiset raportit hylättiin vedoten ongelmiin, jotka liittyvät kahden mustan ihmisen erottamiseen toisistaan. Kuten edellä mainittiin, Applella on vain 6 % mustista teknisissä tiimeissä. Se on selkeä esimerkki siitä, kuinka kasvojentunnistustekniikka voi edistää rasismia jopa kämmenlaitteissamme.

Johtopäätös

Kyllä, kasvojentunnistus on rasistista, ja se on nyt yleisesti tiedossa. Vaikka tekniikka kasvaa päivittäin tällaisten ongelmien korjaamiseksi, tulokset ovat kaikki samat. Teknologian oletetaan yhdistävän maailmaa teknisten edistysten ja kehityksen yhteisten tavoitteiden saavuttamiseksi, mutta jotkin tekniikat vain vahingoittavat rodullista ja yhteisöllistä harmoniaa.

Toistaiseksi parasta, mitä lainvalvontaviranomaiset voivat tehdä, on olla tukematta tapauksiaan algoritmisten kalibrointien todisteiden perusteella, jotka eivät ole edes luotettavia. Lisäksi on korkea aika ottaa monimuotoisuus ja osallisuus työpaikoilla vakavasti, jotta kaikki etniset ihmiset voivat kokoontua luomaan tuotteen, joka on vapaa rodullisista eroista. Maailmassa on tuhansia rotuja, ja ihmiset ovat oppineet jättämään syrjään rodulliset erot, jotka ovat kummitelleet globaalia yhteiskuntaa niin kauan. Jos se on säilytettävä, niin koneille, joihin luotamme niin paljon, on opetettava sama.