Algoritmilise õigluse otsimine politseitöös tehisintellektis

Hiljutised Black Lives Matteri protestid on käivitanud riikliku ümbermõtlemise selle üle, kuidas politsei peaks Ameerikas toimima. Tavasid uuendatakse, teatud taktikad nagu lämbumine on keelatud , ja mõnes linnas on protsess isegi käimas oma politseiosakonnad kaotades .

Kuid nende protestide jõud ja sõnum on toonud kaasa üllatavaid avaldusi suurtelt tehnoloogiaettevõtetelt, kes on sõlminud tehisintellekti ja näotuvastusprogrammidega lepingu politseiosakondadele ja valitsusasutustele.

Möödunud nädalal teatas IBM, et nad ei arenda enam näotuvastustehnoloogiat ja nende tegevjuht Arvind Krishna mõistis hukka näotuvastustarkvara kasutamise rassilise profiili koostamisel ja massilisel jälgimisel. Amazon ja Microsoft teatasid, et lõpetavad vähemalt mõneks ajaks oma näotuvastustoodete politseile müümise.

Kuid nendesse profiilisüsteemidesse sisseehitatud eelarvamused on püsinud aastakümneid. AI-teadlased Ruha Benjamin, Princetoni ülikooli afroameerika uuringute dotsent ja Deborah Raji, New Yorgi ülikooli AI Now Instituudi tehnikateadlane, on tänapäeva tehisintellekti puudustega liigagi tuttavad. Raji ütleb, et näotuvastus on 'väga osa Ameerika elust erineval viisil. 'Ma arvan, et paljud inimesed ei ole teadlikud selle kasutuselevõtu ulatusest.'

Eraettevõtted, koolid, mitmed föderaalosakonnad ja politseijaoskonnad üle kogu riigi muudavad näotuvastuse põhivahendiks. Kui ettevõttel või valitsusel on teie nägu, on see sisuliselt nagu teie sõrmejäljed, ütleb Raji. Kuid 'me ei laadi oma sõrmejälgede pilte Internetti üles,' ütleb ta. 'Oleme nende andmete suhtes väga ettevaatlikud ja peaksime olema sama ettevaatlikud ka näoandmete suhtes.'

Paljud teadlased ei toeta tehnoloogia üldlevinud kasutamist, eriti olukorras, kus vähese järelevalvega autoriteet võiks seda kasutada, et muuta mustade ja pruunide inimeste elusid dramaatiliselt.

Need vigased näotuvastussüsteemid on olnud kasutusel juba aastaid. Laps Petty , programmi Data Justice direktor Detroidi kogukonna tehnoloogiaprojekt ja liige Detroidi digitaalse õiguse koalitsioon , surub tagasi ühiskonna segaduse järelevalve, turvalisuse ja turvalisuse vahel. 'Need tehnoloogiad ei muuda meid turvaliseks,' ütleb ta, 'eriti valdavalt mustanahalises linnas, kus tehnoloogia on osutunud ebaõiglaselt süütute inimeste sihikule vale tuvastamise ja ennustava politseitöö kaudu.'

2016. aastal käivitas Detroidi politseiosakond vastuolulise programmi nimega Project Green Light, kus kohalikud ettevõtted võiksid maksta linnale kõrglahutusega kaamerate paigaldamise eest seotud rohelise tulega, mis pidevalt vilkus.

Petty kirjeldab Detroidi kuritegevuse keskust, mis võtab vastu kaamera otseülekandeid, kui 'linna nahkhiirekoopa'. 'Astud sisse ja seal on suured ekraanid, mis näevad linna erinevaid aspekte.'

Videopiltide kaadrid on ristviidatud 50 miljonit Michigani osariigi juhilubade fotot, pilti ja pilte sotsiaalmeediast . 'Näotuvastust kasutatakse kõigi nende piltide sirvimiseks ja sobitamiseks,' ütles Petty programmi tavade aruande kaasautor . Süsteem, mille eesmärk oli kuritegevust vähendada, on olnud mõnele inimesele vastupidine mõju , nagu Petty.

'Seal on inimlikud eelarvamused, inimlikud eksimused. On palju inimesi, kes näevad välja sarnased, ”ütleb ta. 'Tehnoloogia on tumedamate nahatoonide, eriti naiste ja ka laste puhul väga ebatäpne.'

Näotuvastus on mustade ja pruunide nägude tuvastamisel kurikuulsalt halb. Riikliku standardi- ja tehnoloogiainstituudi föderaalne uuring leidis, et näotuvastus tuvastas mustanahalisi ja Aasia nägusid kuni 100 korda rohkem kui valgeid nägusid . 2019. aastal tegid UCLA administraatorid ettepaneku installida Amazoni välja töötatud näotuvastussüsteem, et teha kindlaks, kas ülikoolilinnakusse tulija on tegelik üliõpilane, õppejõud või töötaja.

Pärast õpilaste pahameelt digiõiguste mittetulundusühing Võitle tuleviku nimel söötis fotod üliõpilassportlastest ja UCLA õppejõududest Amazoni tehisintellekti näotuvastussüsteemile Rekognition ning ristviitas need pildistatud andmebaasi. 400 fotost , 'see tuli tagasi 58 valepositiivse vastega, mis olid suures osas värvitud,' ütleb Benjamin. 'Nii et võite ette kujutada, et mustanahaline tudeng kõnnib üle ülikoolilinnaku sissetungijaks märgituna ja kutsutakse politsei.' Ja 2018. aastal Ameerika kodanikuvabaduste liit kasutas Rekognitioni Kongressi liikmete piltide põhjal ja võrdles neid mugshotide andmebaasiga —28 vastet olid valed.

Valed vasted värviliste inimeste vahel on valgeid meesnägusid eelistavate andmekogumite liigkasutamise tulemus. Rajil oli selle probleemiga lähedalt kogemusi, kui ta töötas rakendusliku masinõppe meeskonnas. 'Märkasin, et paljud andmekogumid, millega pidin töötama, ei sisaldanud kedagi, kes nägi välja nagu mina,' ütleb ta. 'Seal ei olnud palju tumedama nahaga inimesi, polnud palju isegi naisi.' Pärast seda, kui tema meeskond kontrollis nende süsteemi ja näotuvastustööriistu, mida Amazon aktiivselt ICE-le ja politseiosakondadele müüs, avastasid nad, et süsteemide täpsus oli tumedamate naiste nägude puhul 20–30% halvem kui heledamate meeste nägude puhul. tulemus, mis peegeldas MIT Media Labi tulemusi Soovarjundite projekt , mida juhib Joy Buolamwini. Kui Raji oma endisele juhile probleemiga silmitsi seisis, ei jaganud ta naise muret.

'Ta oli nagu, nii see on. Andmeid on üldse nii raske koguda.' Tal soovitati probleemi ignoreerida, 'sest see oli lihtsalt liiga raske'. Valdkonnas juurdunud süsteemne suhtumine on viimastel aastatel muutunud ja esinduslikumate andmekogumite loomise poolehoid on kasvanud.

Silmatorkavad ebatäpsused ja eelarvamused ning politsei ja mustanahaliste kogukondade vahelised ajalooliselt pingelised suhted jätavad Pettyle pausi. Ta ütleb, et politseijaoskonnad võtavad kuritegevuse ennetamisel vale lähenemisviisi: 'Need elanikud tahavad, et neid nähakse, mitte ei jälgitaks. Kui elanikke investeerida viisil, mis näeb neid täielikult inimestena, saame kuritegevust vähendada.

Ta osutab potentsiaalsetele investeeringutele, mis on tõestatult kuritegevust vähendavad, näiteks naabruskonnas rohkem valgustuse paigaldamine , pakkudes rohkem vaba aja veetmise ruumi , piisav riigikoolide infrastruktuur ja vaimse tervise tugi . 'Ma lihtsalt arvan, et [Projekt Green Light] on suur hasart, et võtta elanike elusid, eriti ajal, mil isegi ettevõtted, kes seda tehnoloogiat uuendavad, taganevad.'

Suured tehnoloogiaettevõtted, kes on hiljuti nendele tehnoloogiatele moratooriumi kehtestanud, on viinud kasvava vestluseni selle laiema kasutamise üle. Mõned ütlevad, et ei piisa lihtsalt mitmekesisema andmekogumi kaasamisest, vaid ühiskond peaks kaaluma näotuvastuse kasutamise täielikku keelustamist.

'Me juba teame, et selle tehnoloogiaga on palju probleeme, ' ütleb Raji. „Miks me seda ikka veel kasutame? Peaksime selle nüansirikkama vestluse ajal selle kasutamise vähemalt peatama. Benjamin lisas: 'Me ei sea kahtluse alla ainult nende süsteemide teaduslikku väärtust, vaid ka nende eetilisi ja poliitilisi eeliseid.'

'Me mõtleme sügavalt juurdunud süsteemsele mõjule, mis levib naabruskonnast naabruskonda,' ütleb Petty. 'Südamete ja meelte muutmine selle järgi, kuidas inimesed üksteist näevad, võtab natuke aega. Seda ei tehtud meile üleöö. See ei lahene üleöö. Kuid ma olen kindel, et see võib juhtuda minu elu jooksul.