Расово профилиране в технологията за разпознаване на лица: Може ли разпознаването на лица да бъде расистко?

Технологията за разпознаване на лица и нейните способности са израснали далеч отвъд нашето въображение, откакто новите алгоритми за укрепване на тази технология в правоприлагането са дошли на известност. Понастоящем технологията за разпознаване на лица се използва от правоприлагащите органи на най-ниските нива на процесите за събиране на данни за идентифициране на престъпници сред многолюдни събирания. Технологията използва кадри от камери за видеонаблюдение на обществени места и улици и след това използва събраните данни срещу архивите на агенцията, за да открие лице, което се издирва за криминални престъпления.

Тази технология е вградена и в най-малките джаджи, включително мобилни телефони и интелигентни носими устройства. Следователно той не само ви защитава по улиците, но също така има за цел да защити вашата лична информация, съхранявана на вашите смарт устройства. Използването на „faceprint“ за маркетингови и рекламни практики стана обичайно в съвременната епоха на кампаниите в социалните медии. И тогава има частно наблюдение в молове, магазини и т.н.

От тази гледна точка човек може бързо да посочи неоспоримите предимства на технологията за разпознаване на лица. Но също така е проверен за заплахата, която представлява за поверителността на потребителите, защитата на данните и разбира се, прозрачността между закона и обществеността. Добре е да сте наясно както с предимствата, така и с недостатъците на такава инвазивна технология. И все пак, има още един недостатък на технологията за разпознаване на лица, който хората изглежда пренебрегват, а това е расовото профилиране и расовата дискриминация .

В това парче разглеждаме как тази технология насърчава расовите пристрастия и дискриминация и колко сериозни са последиците от такава инвазивна технология.

Как работи разпознаването на лица?

Източник на изображението: National Post

Стъпка 1: Вашата снимка е направена от камера, вашия акаунт, имейл и т.н. Това е или права снимка на профила, или произволно щракване в тълпа.

Стъпка 2: Софтуерът за разпознаване на лица ще пусне лицето ви през база данни със съхранени отпечатъци на лица. Отпечатъкът на лицето се събира чрез геометрично проследяване на лицето ви.

Стъпка 3: Процентът на съвпадение на вашата снимка спрямо всеки известен лицев отпечатък се произвежда с помощта на алгоритъм, върху който се прави определяне.

Отклонение в автоматизацията: Един от многото недостатъци на технологията за разпознаване на лица

Automation Bias или Machine Bias се отнася до сценария, при който машинен алгоритъм показва определено отклонение при калибрирането на входните данни, като по този начин дава неблагоприятен изход. Това се случва, когато има грешка в кода на алгоритъма, липса на съхранени набори от данни за калибриране, неправилни входни стойности или прекомерни входни данни, които са извън силите на машините за калибриране.

Как расовото профилиране върви с всичко това?

Източник на изображението: The Guardian

Нека започнем с един древен инцидент, който по онова време се смяташе за незначителен. През 2001 г. Тампа Сити използва софтуер за разпознаване на лица за наблюдение над претъпкания град, докато туристите наводняваха градските улици заради Супербоула през 2001 г. Според доклад на New York Times софтуерът идентифицира 19 души, за които се предполага, че са имали неизпълнени заповеди срещу тях; обаче не бяха извършени арести, тъй като инфраструктурата на стадиона направи невъзможно достигането до идентифицираните виновници сред огромна тълпа.

Въпреки че признаците на расово профилиране не бяха забелязани никъде в този конкретен случай, това беше първият път, когато техниките за наблюдение бяха поставени срещу нарушаването на гражданските свободи и неприкосновеността на личния живот. През следващите години полицията в Тампа се отказа от тези системи за наблюдение, позовавайки се на ненадеждни резултати.

Източник на изображението: ICO

Преминавайки към малко по-нов сценарий, Али Бреланд съобщи за The Guardian относно ареста на Уили Линч, чернокож, обвинен, че е известен наркодилър в района на Брентууд, предимно квартал на цветнокожите хора. Единственото доказателство срещу Линч бяха снимките му на мобилен телефон, които бяха проверени в полицейска база данни, преди полицията да го определи като виновник. Линч беше осъден за осем години, който сега обжалва присъдата. Независимо дали той е предполагаемият дилър или не, това неизбежно поражда загриженост дали само резултат, базиран на машина, е достатъчен, за да потвърди присъдата на всеки разследван?

През 2019 г., както съобщи Том Пъркинс за The Guardian , полицията в Детройт е била открита, че използва разпознаване на лица, за да извършва арести, за които се твърди, че през последните две години. Детройт е място, където повече от 80% от населението е чернокожи. Изявление на чернокож член от полицейската комисия в Детройт предизвика опасения срещу практиката. Той каза, че черните хора имат обща черта на лицето, която застрашава алгоритъма на системата, наричайки това „технорасизъм“.

Източник на изображението: Vox

В проучване от 2019 г. за Journal of Information Communication and Ethics Society, проведено от Фабио Бачини и Лудовика Лорусо, беше установено, че тези биометрични системи и системи за разпознаване на лица не са 100% надеждни за правоприлагащите органи. Освен това расовата дискриминация е отрицателно въздействие върху всички подобни системи, което има допълнителни обратни обществени последици. Проучването е насочено по-специално към западните общества, където такива системи се използват широко за наблюдение.

Това са само три от многото такива примери, в които се появяват случаи на расови различия, причинени от системите за разпознаване на лица. Но защо тези системи са толкова некомпетентни, въпреки нарастващата точност в надстройките на алгоритмичното кодиране в технологиите.

Превъзходство на бялото в западните щати: доминираща бяла технологична индустрия

През 2014 г. беше установено, че повечето технологични компании, включително гиганта Apple Inc., наемат предимно бели служители от мъжки пол. В Apple 55% от служителите са бели и по подобен начин ръководството на Apple включва 63% от белите служители. Компаниите, които споделяха подобни доклади за разнообразието, включват също Facebook , Google и Twitter. Пет години по-късно доклад в Wired разкрива, че е имало минимално подобрение в тези числа.

Докато Facebook показа прилично подобрение в числата, процентът на черните технически работници на Apple остава непроменен и е едва 6% от общата работна сила. Amazon беше единствената организация, която регистрира 42% чернокожи или латиноамерикански работници в офисите си в САЩ.

Какво означават тези статистически данни? В САЩ повечето кодери, които са назначени за големи проекти като проектиране на алгоритми за системи за наблюдение, са бели. Това са хората, които вземат най-важните решения по отношение на даден продукт или услуга, които да бъдат лансирани/разкрити от една компания. И следователно техните гледни точки, подход и мисловни процеси са тези, които влизат в окончателното създаване. Това не означава, че белите хора са расисти и нарочно са разработили такива системи за наблюдение . НЕ!

Източник на изображението: Forbes

Когато бял човек проектира алгоритъм за разпознаване на лица и има само бели колеги, които го консултират/съдействат, те не вземат предвид чертите на лицето на хората от друг цвят, преди да финализират кода. Тъй като белите инженери доминират в технологичната индустрия, архивите с данни, използвани за подготовка на първоначалния код, също се създават и калибрират от бели техници. По този начин самият код е създаден с пристрастия в основния си изчислителен алгоритъм, което води до тези расови различия в резултатите от наблюдението.

Кодът просто научава какво въплъщават белите хора в него. Няма перспектива или принос на човек от друг цвят.

Проблеми с калибрирането

Американското правоприлагане разчита в голяма степен на наблюдение и проследяване на данни. Имало е много случаи, в които податели на сигнали са прогонвали информация относно неоторизирано наблюдение на цивилни. Един такъв пример е разкритието на Едуард Сноудън за незаконното наблюдение на NSA.

Източник на изображението: CBS Local

Тези програми за наблюдение се поддържат от отпечатъци на лицето и друга лична информация на милиони граждани. Ако вземем предвид само отпечатъците на лицето, има милиони американци, които открито споделят снимки в платформите на социалните медии. След това има камери за видеонаблюдение на всяка улица на нацията, която предлага живи кадри на стотици хиляди минувачи. В момента има приблизително 117 милиона изображения в полицейските бази данни, докато ФБР разполага с повече от 400 милиона набора от данни за калибриране в алгоритмите за разпознаване на лица за наблюдение.

Сега си представете тези набори от данни в сравнение с едно изображение, което може или не може да е уловило всички черти на лицето на конкретния човек. При такъв сценарий има вероятност да възникнат грешки. Има твърде много данни, за да ги разберете и да ги стартирате срещу един отпечатък. Никой алгоритъм не може да гарантира сто процента сигурност в резултата си, когато калибрирането е толкова сложно. Това в крайна сметка добавя към расовото профилиране, причинено от технологията за разпознаване на лица.

Огромната надеждност на разпознаването на лица

Източник на изображението: NY Post

Случаят с Уили Линч е напомняне, че разпознаването на лица не трябва да бъде единствената надеждна техника, представена като доказателство, когато става въпрос за правоприлагането. Това е причината полицията на град Тампа да се откаже от технологията.

Вярно е, че разпознаването на лица е отличен инструмент и е полезно за полицията. Виновниците на бомбардировките в Бостънския маратон бяха разпознати чрез обширен и подробен анализ на записи от наблюдение. Но това не може да бъде единственото доказателство, което да осъди някого. Трябва да има подкрепящи доказателства за доказване на резултатите от алгоритмите за разпознаване на лица и концепцията за отклонение на автоматизацията трябва да бъде разгледана, преди да се достигне до окончателно определяне.

Проблемът с хардуера: Разпознаване на лица в мобилни устройства и камери

Източник на изображението: TechCrunch

Системите за камери за наблюдение и свързаният хардуер и софтуер не са проектирани от една компания. Това е индустрия на стойност милиарди долари, в която десетки корпорации се състезават да получат договори от правоприлагащите органи. Много от тези системи са от китайски производители. Всичко е за получаване на най-евтината технология с най-добрите качества. Така най-вече работи. И следователно винаги има шансове за разлики в калибрирането на различните системи, както и за вариации в качеството на резултатите от наблюдението. Много алгоритми за наблюдение на камери са неефективни при калибриране на изображения на цветни хора само поради техническа некомпетентност, като по този начин прославят расовата дискриминация.

Технологичните проблеми, причиняващи расизъм чрез разпознаване на лица, също са забелязани във функцията Apple Face Lock. Случай от Китай измести, че заключването на лицето на iPhone X не може да направи разлика между двама различни китайски колеги, което прави функцията безполезна. Подобни доклади бяха отхвърлени, позовавайки се на проблеми във функцията при разделянето на двама чернокожи един от друг. Както беше посочено по-горе, Apple има само 6% чернокожи хора в техническите екипи. Това е ясен пример за това как технологията за разпознаване на лица може да насърчи расизма дори в нашите преносими устройства.

Заключение

Да, разпознаването на лица е расистко и това вече е общоизвестно. Въпреки че технологията се разраства всеки ден, за да коригира подобни проблеми, резултатите са едни и същи. Предполага се, че технологиите обединяват света около общите цели за технически напредък и развитие, но някои техники просто причиняват вреда на расовата и общностната хармония.

Засега най-доброто, което служителите на правоприлагащите органи могат да направят, е да не подкрепят своите дела въз основа на доказателства от алгоритмични калибриране, които дори не са надеждни. Освен това е крайно време разнообразието и включването на работните места да се вземат сериозно, така че хората от всички етноси да могат да се съберат, за да създадат продукт, който не съдържа расови различия. В света има хиляди раси и хората са пораснали, за да оставят настрана расовите различия, които преследват глобалното общество толкова дълго. Ако това трябва да се поддържа, тогава машините, на които разчитаме толкова много, трябва да бъдат научени на същото.