Расно профилисање у технологији препознавања лица: Може ли препознавање лица бити расистичко?

Технологија препознавања лица и њене способности су нарасле далеко изнад наше маште откако су нови алгоритми за јачање ове технологије у спровођењу закона постали истакнути. Тренутно, технологију препознавања лица користе снаге за спровођење закона на најнижим нивоима процеса прикупљања података за идентификацију починилаца кривичних дела усред гужви на окупљањима. Технологија користи снимке са ЦЦТВ камера на јавним местима и улицама, а затим прикупља прикупљене податке у архивама агенције како би открила лице које се тражи због кривичних дела.

Ова технологија је даље уграђена у најмање уређаје, укључујући мобилне телефоне и паметне носиве уређаје. Дакле, не само да вас штити на улицама, већ такође намерава да заштити ваше личне податке који се чувају на вашим паметним уређајима. Коришћење „отиска лица“ за маркетиншке и рекламне праксе постало је уобичајено у модерном добу кампања на друштвеним медијима. А онда, постоји приватни надзор у тржним центрима, малопродајним објектима итд.

Из ове перспективе, брзо се могу указати на неоспорне предности технологије препознавања лица. Али такође је испитан због претње коју представља по приватност корисника, заштиту података и, наравно, транспарентност између закона и јавности. Добро је бити свестан и предности и мана такве инвазивне технологије. Ипак, постоји још један недостатак технологије препознавања лица, који људи изгледа игноришу, а то је расно профилисање и расна дискриминација .

У овом делу разматрамо како ова технологија промовише расну пристрасност и дискриминацију и колико су озбиљне последице такве инвазивне технологије.

Како функционише препознавање лица?

Извор слике: Натионал Пост

Корак 1: Ваша слика је снимљена са камере, вашег налога, е-поште итд. То је или равна слика профила или насумични снимак у гомили.

Корак 2: Софтвер за препознавање лица ће покренути ваше лице кроз базу података сачуваних отисака лица. Отисак лица се прикупља геометријским праћењем вашег лица.

Корак 3: Проценат подударања ваше слике са било којим познатим отиском лица се производи помоћу алгоритма на основу којег се утврђује.

Пристрасност аутоматизације: једна од многих мана технологије препознавања лица

Пристрасност аутоматизације или пристрасност машине се односи на сценарио где машински алгоритам показује одређену пристрасност у калибрацији улазних података, дајући тако неповољан излаз. Ово се дешава када постоји грешка у коду алгоритма, недостатак сачуваних скупова података за калибрацију, нетачне улазне вредности или превелики улазни подаци, што је изван снаге машина за калибрацију.

Како расно профилисање иде уз све ово?

Извор слике: Тхе Гуардиан

Почнимо са древним инцидентом који се у то време сматрао безначајним. Године 2001. Тампа Цити је користио софтвер за препознавање лица за надзор над препуним градом док су туристи преплавили градске улице због Супер Бовла 2001. године. Према извештају Њујорк тајмса , софтвер је идентификовао 19 људи који су наводно имали неисплаћене налоге против њих; међутим, није било хапшења пошто је инфраструктура стадиона онемогућила да се дође до идентификованих криваца међу огромном масом.

Иако знаци расног профилисања нису уочени нигде у овом конкретном случају, то је био први пут да су технике надзора стављене на терет кршењу грађанских слобода и приватности појединаца. У наредним годинама, полиција Тампе је одустала од ових система надзора наводећи непоуздане резултате.

Извор слике: ИЦО

Премотавајући се на нешто новији сценарио, Али Бреланд је известио за Гардијан , у вези са хапшењем Вилија Линча, црнца оптуженог да је озлоглашени дилер дроге у области Брентвуда, претежно у комшилуку обојених људи. Једини доказ против Линча биле су његове слике на мобилном, које су коришћене у полицијској бази података пре него што га је полиција утврдила као кривца. Линч је осуђен на осам година, који је сада уложио жалбу на пресуду. Без обзира да ли је он био наводни дилер или не, неизбежно изазива забринутост да ли је само резултат заснован на машинама довољан да се потврди осуда било кога ко је под истрагом?

У 2019. години, како је Том Перкинс известио за Тхе Гуардиан , откривено је да полиција Детроита користи препознавање лица за хапшење наводно у последње две године. Детроит је место где је више од 80% становништва црнаца. Изјава црног члана Полицијске комисије Детроита изазвала је забринутост због ове праксе. Рекао је да црнци имају заједничку црту лица која угрожава алгоритам система, назвавши то „техно-расизмом“.

Извор слике: Вок

У истраживању из 2019. за часопис Јоурнал оф Информатион Цоммуницатион анд Етхицс Социети, које су спровели Фабио Бакини и Лудовика Лорусо, откривено је да ови биометријски системи и системи за препознавање лица нису 100% поуздани за спровођење закона. Штавише, расна дискриминација је имала негативан утицај на све такве системе, што има даље инверзне друштвене импликације. Студија је била усмерена посебно на западна друштва, где се такви системи у великој мери користе за надзор.

Ово су само три од многих таквих примера у којима су се појавили случајеви расних диспаритета узрокованих системима за препознавање лица. Али зашто су ови системи тако некомпетентни упркос тако растућој тачности у надоградњи алгоритамског кодирања у технологији.

Надмоћ беле у западним државама: технолошка индустрија са доминантном белом

У 2014. откривено је да већина технолошких компанија, укључујући гиганта Аппле Инц., запошљава углавном беле, мушке раднике. У Апплеу, 55% запослених су били белци, а слично томе, Аппле руководство је чинило 63% запослених белаца. Компаније које су делиле сличне извештаје о разноликости укључивале су и Фејсбук , Гугл и Твитер. Пет година касније, извештај у Виред-у је открио да је дошло до минималног побољшања у овим бројевима.

Док је Фацебоок показао пристојан напредак у броју, проценат Аппле-ових црних техничких радника остао је непромењен на само 6% укупне радне снаге. Амазон је била једина организација која је регистровала 42% црнаца или латиноамеричких радника у својим америчким канцеларијама.

Шта значе ове статистике? У САД, већина кодера, који су додељени великим пројектима као што је дизајнирање алгоритама за системе надзора, су белци. То су људи који доносе најзначајније одлуке у вези са производом или услугом коју ће компанија лансирати/објавити. И стога, њихове перспективе, приступ и мисаони процеси иду у коначно стварање. Ово не значи да су белци расисти и да су намерно дизајнирали такве системе надзора . НЕ!

Извор слике: Форбес

Када белац дизајнира алгоритам за препознавање лица и има само беле колеге који му консултују/помажу, они не узимају у обзир особине лица друге боје пре него што финализују код. Пошто бели инжењери доминирају технолошком индустријом, архиве података које се користе за припрему почетног кода такође креирају и калибришу бели техничари. Дакле, сам код је креиран са пристрасношћу у свом основном калкулативном алгоритму, што резултира овим расним диспаритетима у резултатима надзора.

Код једноставно учи шта белци оличавају у њему. Не постоји перспектива или допринос било које особе друге боје.

Питања калибрације

Амерички органи за спровођење закона се у великој мери ослањају на надзор и праћење података. Било је много случајева у којима су узбуњивачи избацивали информације о неовлашћеном праћењу цивила. Откриће Едварда Сноудена о незаконитом надзору НСА је један од таквих примера.

Извор слике: ЦБС Лоцал

Ови програми надзора су подржани отисцима лица и другим личним подацима милиона грађана. Ако узмемо у обзир само отиске лица, милиони Американаца отворено деле слике на платформама друштвених медија. Затим у свакој улици нације постоје ЦЦТВ камере које нуде уживо снимке стотина хиљада пролазника. Тренутно постоји око 117 милиона слика у полицијским базама података, док ФБИ има више од 400 милиона скупова података за калибрацију у алгоритмима за препознавање лица за надзор.

Сада замислите ове скупове података у поређењу са једном сликом која може, а можда и није, ухватила све црте лица одређене особе. У таквом сценарију вероватно ће доћи до грешака. Превише је података да бисмо их разумели и покренули на једном отиску лица. Ниједан алгоритам не може гарантовати стопостотну сигурност у резултат када је калибрација тако компликована. Ово се на крају додаје расном профилисању узрокованом технологијом препознавања лица.

Огромна поузданост препознавања лица

Извор слике: НИ Пост

Случај Вилија Линча подсећа да препознавање лица не би требало да буде једина поуздана техника која се представља као доказ када је у питању спровођење закона. Ово је разлог зашто је полиција града Тампе одустала од технологије.

Истина је да је препознавање лица одлична опција и да је од помоћи полицији. Виновници бомбашког напада на Бостонском маратону су препознати коришћењем опсежне и детаљне анализе снимака надзора. Али ово не може бити једини доказ за осуду било кога. Морају постојати докази који потврђују резултате алгоритама за препознавање лица, а концепт аутоматизације мора се размотрити пре доношења коначне одлуке.

Проблем са хардвером: препознавање лица на мобилном уређају и камерама

Извор слике: ТецхЦрунцх

Системи надзорних камера и повезани хардвер и софтвер нису дизајнирани од стране једне компаније. То је индустрија вредна милијарде долара у којој се десетине корпорација такмиче да добију уговоре од агенција за спровођење закона. Многи од ових система су кинеских произвођача. Све је у добијању најјефтиније технологије са најбољим квалитетима. Тако то углавном функционише. И стога, увек постоје шансе за разлике у калибрацији различитих система, као и за варијације у квалитету резултата надзора. Многи алгоритми за надзор камера су неефикасни у калибрацији слика људи у боји само због техничке неспособности, чиме се велича расна дискриминација.

Технолошки проблеми који узрокују расизам путем препознавања лица такође су примећени у функцији Аппле Фаце Лоцк. Случај из Кине је избацио да иПхоне Кс за закључавање лица није у стању да разликује два различита кинеска колеге, што ову функцију чини бескорисном. Слични извештаји су одбачени, наводећи проблеме у вези са раздвајањем двоје црнаца један од другог. Као што је горе наведено, Аппле има само 6% црнаца у техничким тимовима. То је јасан пример како технологија за препознавање лица може да промовише расизам чак и на нашим ручним уређајима.

Закључак

Да, препознавање лица је расистичко и то је сада опште познато. Док технологија свакодневно расте како би се отклонили такви проблеми, резултати су исти. Технологија би требало да уједини свет око заједничких циљева техничког напретка и развоја, али неке технике само наносе штету расном и заједничком складу.

За сада, најбоља ствар коју службеници за спровођење закона могу да ураде је да не подрже своје случајеве на основу доказа из алгоритамских калибрација, које чак нису ни поуздане. Штавише, крајње је време да се различитост и инклузија на радним местима схвате озбиљно како би људи свих националности могли да се удруже како би створили производ без расних разлика. У свету постоје хиљаде раса, а људи су одрасли да оставе по страни расне разлике, које су тако дуго прогањале глобално друштво. Ако се то мора одржати, онда и машине на које се толико ослањамо морају се учити истим.