Profilizimi racor në teknologjinë e njohjes së fytyrës: A mund të jetë raciste njohja e fytyrës?

Teknologjia e njohjes së fytyrës dhe aftësitë e saj janë rritur shumë përtej imagjinatës sonë që kur algoritmet e reja për të përforcuar këtë teknologji në zbatimin e ligjit kanë dalë në sy. Aktualisht, teknologjia e njohjes së fytyrës përdoret nga forcat e zbatimit të ligjit në nivelet më të ulëta të proceseve të mbledhjes së të dhënave për të identifikuar shkelësit kriminalë mes tubimeve të mbushura me njerëz. Teknologjia përdor pamjet nga kamerat CCTV në vende publike dhe rrugë dhe më pas i drejton të dhënat e mbledhura në arkivat e agjencive për të zbuluar një fytyrë që kërkohet për vepra penale.

Kjo teknologji është futur më tej në pajisjet më të vogla, duke përfshirë telefonat celularë dhe pajisjet inteligjente që vishen. Prandaj, jo vetëm që ju mbron në rrugë, por gjithashtu synon të mbrojë informacionin tuaj personal të ruajtur në pajisjet tuaja inteligjente. Përdorimi i “faceprint” për praktikat e marketingut dhe reklamimit është bërë i zakonshëm në epokën moderne të fushatës së mediave sociale. Dhe më pas, ka mbikëqyrje private në qendra tregtare, dyqane me pakicë, etj.

Nga ky këndvështrim, mund të theksohen shpejt avantazhet e pamohueshme të teknologjisë së njohjes së fytyrës. Por është shqyrtuar gjithashtu për kërcënimin që paraqet për privatësinë e përdoruesve, mbrojtjen e të dhënave dhe natyrisht transparencën midis ligjit dhe publikut. Është një gjë e mirë të jesh i vetëdijshëm për avantazhet dhe disavantazhet e një teknologjie të tillë pushtuese. Megjithatë, ekziston një disavantazh më shumë i teknologjisë së njohjes së fytyrës, të cilën njerëzit duket se e injorojnë, dhe ky është profili racor dhe diskriminimi racor .

Në këtë pjesë, ne shikojmë se si kjo teknologji promovon paragjykimin dhe diskriminimin racor dhe sa të rënda janë pasojat e një teknologjie të tillë pushtuese.

Si funksionon njohja e fytyrës?

Burimi i imazhit: National Post

Hapi 1: Një fotografi e juaja merret nga një aparat fotografik, llogaria juaj, emaili, etj. Është ose një foto e drejtpërdrejtë e profilit ose një foto e rastësishme në një turmë.

Hapi 2: Softueri i njohjes së fytyrës do ta drejtojë fytyrën tuaj përmes një baze të dhënash të gjurmëve të ruajtura të fytyrës. Gjurma e fytyrës mblidhet nëpërmjet gjurmimit gjeometrik të fytyrës suaj.

Hapi 3: Një përqindje e përputhjes së fotografisë suaj me çdo gjurmë të njohur të fytyrës prodhohet duke përdorur një algoritëm mbi të cilin bëhet një përcaktim.

Paragjykimi i automatizimit: Një nga shumë të metat e teknologjisë së njohjes së fytyrës

Paragjykimi i Automatizimit ose Paragjykimi i Makinerisë i referohet skenarit ku një algoritëm makinerie shfaq një paragjykim të caktuar në kalibrimin e të dhënave hyrëse, duke dhënë kështu rezultate të pafavorshme. Kjo ndodh kur ka një gabim në kodin e algoritmit, mungesë të grupeve të të dhënave të ruajtura për kalibrim, vlera të pasakta të hyrjes ose të dhëna të tepërta hyrëse, të cilat janë përtej fuqisë së makinerive për t'u kalibruar.

Si shkon profilizimi racor me gjithë këtë?

Burimi i imazhit: The Guardian

Le të fillojmë me një incident të lashtë i cili në atë kohë u konsiderua i parëndësishëm. Në vitin 2001, Tampa City përdori softuerin e njohjes së fytyrës për mbikëqyrjen e qytetit të mbushur me njerëz ndërsa turistët përmbytën rrugët e qytetit për shkak të Super Bowl të vitit 2001. Sipas një raporti të New York Times , softueri identifikoi 19 persona që supozohej se kishin urdhër të pazgjidhura kundër tyre; megjithatë, nuk u arrestuan pasi infrastruktura e stadiumit e bëri të pamundur arritjen e autorëve të identifikuar mes një turme dërrmuese.

Ndërsa shenjat e profilizimit racor nuk u panë askund në këtë rast të veçantë, ishte hera e parë që u vendosën teknika të mbikqyrjes kundër shkeljes së lirive civile dhe privatësisë së individëve. Në vitet e ardhshme, Policia e Tampës hoqi dorë nga këto sisteme mbikëqyrjeje duke përmendur rezultate jo të besueshme.

Burimi i imazhit: ICO

Duke e përcjellë shpejt një skenar disi më të fundit, Ali Breland raportoi për The Guardian , në lidhje me arrestimin e Willie Lynch, një zezak i akuzuar si një tregtar famëkeq droge në zonën e Brentwood, kryesisht një lagje me njerëz me ngjyrë. Dëshmia e vetme kundër Lynch ishin fotografitë e tij në një celular, të cilat u shfaqën kundër bazës së të dhënave të policisë përpara se policia ta përcaktonte atë si fajtor. Lynch u dënua për tetë vjet, i cili tani ka apeluar kundër dënimit. Pavarësisht nëse ai ishte tregtari i supozuar apo jo, kjo në mënyrë të pashmangshme ngre shqetësimin nëse mjafton vetëm një rezultat i bazuar në makineri për të mbështetur bindjen e kujtdo që është nën hetim?

Në vitin 2019, siç raportohet nga Tom Perkins për The Guardian , policia e Detroitit u gjet duke përdorur njohjen e fytyrës për të kryer arrestime gjoja për dy vitet e fundit. Detroit është një vend ku më shumë se 80% e popullsisë janë me ngjyrë. Një deklaratë nga një anëtar me ngjyrë nga Komisioni i Policisë së Detroitit ngriti shqetësime kundër praktikës. Ai tha se njerëzit me ngjyrë kanë një tipar të përbashkët të fytyrës që rrezikon algoritmin e sistemit, duke e cilësuar këtë si "tekno-racizëm".

Burimi i imazhit: Vox

Në një hulumtim të vitit 2019 për Journal of Information Communication and Ethics Society, nga Fabio Bacchini dhe Ludovica Lorusso, u zbulua se këto sisteme biometrike dhe të njohjes së fytyrës nuk janë 100% të besueshme për zbatimin e ligjit. Për më tepër, diskriminimi racor ishte një ndikim negativ në të gjitha sistemet e tilla, gjë që ka implikime të mëtejshme të kundërta shoqërore. Studimi synoi veçanërisht shoqëritë perëndimore, ku sisteme të tilla përdoren gjerësisht për mbikëqyrje.

Këta janë vetëm tre nga shumë shembuj të tillë ku rastet e pabarazive racore të shkaktuara nga sistemet e njohjes së fytyrës kanë dalë në dritë. Por pse këto sisteme janë kaq të paaftë, pavarësisht saktësisë së tillë në rritje në përmirësimet e kodimit algoritmik në teknologji.

Supremacia e Bardhë në Shtetet Perëndimore: Një Industri Teknike Dominuese e Bardhë

Në vitin 2014, shumica e kompanive të teknologjisë, përfshirë gjigantin Apple Inc., u zbulua se punësonin kryesisht punonjës meshkuj të bardhë. Në Apple, 55% e punonjësve ishin të bardhë, dhe në mënyrë të ngjashme, udhëheqja e Apple përbënte 63% të punonjësve të bardhë. Kompanitë që ndanë raporte të ngjashme të diversitetit përfshinin gjithashtu Facebook , Google dhe Twitter. Pesë vjet më vonë, një raport në Wired zbuloi se kishte pasur përmirësim minimal në këto numra.

Ndërsa Facebook tregoi një përmirësim të mirë në numra, përqindja e punonjësve teknikë të zinj të Apple mbeti e pandryshuar në vetëm 6% të forcës totale të punës. Amazon ishte e vetmja organizatë që regjistroi 42% punëtorë zezakë ose latinoamerikanë në zyrat e saj në SHBA.

Çfarë nënkuptojnë këto statistika? Në SHBA, shumica e koduesve, të cilët caktohen në projekte të mëdha, si projektimi i algoritmeve për sistemet e mbikqyrjes, janë të bardhë. Këta janë njerëzit që marrin vendimet më të rëndësishme në lidhje me një produkt ose shërbim që do të lançohet/zbulohet nga një kompani. Dhe kështu, janë perspektivat, qasja dhe proceset e tyre të mendimit që shkojnë në krijimin përfundimtar. Kjo nuk do të thotë se njerëzit e bardhë janë racistë dhe kanë krijuar qëllimisht sisteme të tilla mbikëqyrjeje . JO!

Burimi i imazhit: Forbes

Kur një djalë i bardhë harton një algoritëm të njohjes së fytyrës dhe ka vetëm kolegë të bardhë që e këshillojnë/ndihmojnë, ata nuk marrin parasysh personat e tipareve të fytyrës së ngjyrës tjetër përpara se të finalizojnë kodin. Meqenëse inxhinierët e bardhë dominojnë industrinë e teknologjisë, arkivat e të dhënave të përdorura për përgatitjen e kodit fillestar krijohen dhe kalibrohen gjithashtu nga teknikë të bardhë. Kështu, vetë kodi është krijuar me një paragjykim në algoritmin e tij kryesor llogaritës, duke rezultuar në këto pabarazi racore në rezultatet e mbikëqyrjes.

Kodi thjesht mëson se çfarë mishërojnë njerëzit e bardhë në të. Nuk ka asnjë perspektivë apo kontribut të ndonjë personi me ngjyrë tjetër.

Çështjet e Kalibrimit

Zbatimi i ligjit amerikan mbështetet shumë në vëzhgimin dhe gjurmimin e të dhënave. Ka pasur shumë raste kur sinjalizuesit hoqën informacione në lidhje me mbikëqyrjen e paautorizuar të civilëve. Zbulimi i Edward Snowden për mbikëqyrjen e paligjshme të NSA-së është një shembull i tillë.

Burimi i imazhit: CBS Local

Këto programe mbikëqyrjeje mbështeten nga gjurmët e fytyrës dhe informacione të tjera personale të miliona qytetarëve. Nëse marrim parasysh vetëm gjurmët e fytyrës, ka miliona amerikanë që ndajnë hapur fotografi në platformat e mediave sociale. Pastaj ka kamera CCTV në çdo rrugë të kombit që ofron pamje të drejtpërdrejta të qindra mijëra kalimtarëve. Aktualisht, ka afërsisht 117 milionë imazhe në bazat e të dhënave të policisë, ndërsa FBI ka më shumë se 400 milionë grupe të dhënash për të kalibruar në algoritmet e vëzhgimit të njohjes së fytyrës.

Tani imagjinoni këto grupe të dhënash të krahasuara me një imazh të vetëm që mund ose nuk mund të ketë kapur të gjitha tiparet e fytyrës së një personi të caktuar. Në një skenar të tillë, ka të ngjarë të shfaqen gabime. Ka thjesht shumë të dhëna për t'i kuptuar dhe ekzekutuar në një pamje të vetme. Asnjë algoritëm nuk mund të garantojë siguri qind për qind në rezultatin e tij kur kalibrimi është kaq i ndërlikuar. Kjo përfundimisht i shtohet profilizimit racor të shkaktuar nga teknologjia e njohjes së fytyrës.

Besueshmëria e jashtëzakonshme në njohjen e fytyrës

Burimi i imazhit: NY Post

Rasti i Willie Lynch është një kujtesë se njohja e fytyrës nuk duhet të jetë e vetmja teknikë e besueshme e paraqitur si provë kur bëhet fjalë për zbatimin e ligjit. Kjo është arsyeja pse policia e qytetit Tampa hoqi dorë nga teknologjia.

Është e vërtetë që njohja e fytyrës është një vendpushim i shkëlqyer dhe është i dobishëm për policinë. Autorët e bombave në Maratonën e Bostonit u njohën duke përdorur analiza të gjera dhe të detajuara të regjistrimeve të vëzhgimit. Por kjo nuk mund të jetë prova e vetme për të dënuar dikë. Duhet të ketë prova mbështetëse për të vërtetuar rezultatet e algoritmeve të njohjes së fytyrës dhe koncepti i paragjykimit të automatizimit duhet të merret parasysh përpara se të arrihet një përcaktim përfundimtar.

Problemi i harduerit: Njohja e fytyrës në celular dhe kamera

Burimi i imazhit: TechCrunch

Sistemet e kamerave të mbikqyrjes dhe hardueri dhe softueri përkatës nuk janë projektuar nga një kompani e vetme. Është një industri me vlerë miliarda dollarë, ku dhjetëra korporata konkurrojnë për të marrë kontrata nga agjencitë e zbatimit të ligjit. Shumë nga këto sisteme janë nga prodhuesit kinezë. Gjithçka ka të bëjë me marrjen e teknologjisë më të lirë me cilësitë më të mira. Kështu funksionon kryesisht. Prandaj, ka gjithmonë shanse për dallime në kalibrimin e sistemeve të ndryshme, si dhe ndryshime në cilësinë e rezultateve të mbikëqyrjes. Shumë algoritme të mbikëqyrjes me kamera janë joefektive në kalibrimin e imazheve të njerëzve me ngjyrë vetëm për shkak të paaftësisë teknike, duke lavdëruar kështu diskriminimin racor.

Çështjet teknologjike që shkaktojnë racizëm nëpërmjet njohjes së fytyrës janë vënë re gjithashtu në veçorinë Apple Face Lock. Një rast nga Kina zbuloi se kyçi i fytyrës i iPhone X nuk ishte në gjendje të bënte dallimin midis dy kolegëve të ndryshëm kinezë, duke e bërë funksionin të padobishëm. Raporte të ngjashme u hodhën poshtë, duke përmendur çështje në veçorinë në ndarjen e dy njerëzve me ngjyrë nga njëri-tjetri. Siç u tha më lart, Apple ka vetëm 6% të njerëzve me ngjyrë në ekipet teknike. Është një shembull i qartë se si një teknologji e njohjes së fytyrës mund të promovojë racizmin edhe në pajisjet tona të dorës.

konkluzioni

Po, njohja e fytyrës është raciste, dhe kjo është e njohur tashmë. Ndërsa teknologjia po rritet çdo ditë për të korrigjuar çështje të tilla, rezultatet janë të gjitha të njëjta. Teknologjia supozohet të bashkojë botën mbi qëllimet e përbashkëta të përparimeve dhe zhvillimit teknik, por disa teknika thjesht po shkaktojnë dëm në harmoninë racore dhe komunale.

Për momentin, gjëja më e mirë që mund të bëjnë zyrtarët e zbatimit të ligjit është të mos mbështesin rastet e tyre bazuar në prova nga kalibrat algoritmike, të cilat nuk janë as të besueshme. Për më tepër, është koha e fundit që diversiteti dhe përfshirja në vendet e punës të merren seriozisht, në mënyrë që njerëzit e të gjitha etnive të mund të bashkohen për të krijuar një produkt që nuk ka pabarazi racore. Ka mijëra raca në botë dhe njerëzit janë rritur për të lënë mënjanë dallimet racore, të cilat përhumbnin shoqërinë globale për kaq shumë kohë. Nëse kjo duhet mbajtur, atëherë makinat në të cilat ne mbështetemi kaq shumë duhet të mësohen njësoj.