Protestid valgustavad näotuvastuse tehnilisi probleeme

Pikendatud versioon

Erilises laiendatud intervjuus kuulake Ruha Benjamini ja Deborah Rajit, kes arutlevad praktiliste sammude üle tehisintellekti tehnoloogiate arendamiseks viisil, mis toob kaasa suurema õigluse ja võrdse õigluse – olgu selleks siis tehnoloogiaettevõtted, mis on valmis tempot maha võtma, või valitsuse standardid, mis võtavad rassilise õigluse. arvesse.

Selle kuu alguses kolm suurt tehnoloogiaettevõtet distantseerusid avalikult politsei kasutatavatest näotuvastusvahenditest: IBM teatas, et peatab kõik sellised uuringud, samas kui Amazon ja Microsoft teatasid, et lükkavad pausi kõigis plaanides anda näotuvastustehnoloogia siseriiklikule õiguskaitsele.

IBMi tegevjuht Arvind Krishna selgitas, et kolimise põhjuseks oli näotuvastuse kasutamine rassiline profiilide koostamine ja massiline jälgimine . On leitud, et selliste ettevõtete nagu Amazon loodud näotuvastusalgoritmid teevad seda värvilisi inimesi valesti tuvastama , eriti värvilised naised, kõrgemate määradega -see tähendab, et kui politsei kasutab näotuvastust, et tuvastada kahtlusaluseid, kes pole valged, vahistab ta tõenäolisemalt vale inimese.

Sellegipoolest on ettevõtted seda tehnoloogiat valitsusele tutvustanud. Just sel nädalal avastas Ameerika kodanikuvabaduste liit (ACLU) dokumendid, mis näitavad, et Microsoft on olnud üritab müüa näotuvastus föderaalvalitsuse uimastikaitseametile alates 2017. aastast, mis seab kahtluse alla, kuidas täpselt määratleda 'politsei'. Lisaks näotuvastusele on Amazoni tehnoloogia juba olemas aitab toita valitsusasutuste (nt ICE) andmebaase kes on vastutavad hiljutiste immigratsioonivastase võitluse eest.

Tegevjuhid nõuavad selle tehnoloogia reguleerimiseks riiklikke seadusi või programmeerimislahendusi, et eemaldada nende koodist rassiline eelarvamus ja muu ebavõrdsus. Kuid on ka teisi, kes soovivad selle täielikult keelata – ja näevad täielikult ümber, kuidas AI-d kogukondades arendatakse ja kasutatakse.

MolecularConceptori produtsent Christie Taylor vestleb Kleit Benjamin , sotsioloog ja tehisintellekti uurija Debora Raji tehisintellekti ja rassilise ebaõigluse vahelisest seosest ning nende nägemustest aeglasematest, kogukonnakesksematest tehnoloogia- ja andmeteaduse protsessidest.

Lisalugemist

• Võtke a sukelduge sellesse teemasse sügavamalt ja tutvuge Detroidi vastuolulise jälgimisprogrammiga .
• Lisateavet Algorithmic Justice League .
• Lisateavet Detroidi kogukonna tehnoloogiaprojekt .
• Lisateavet Andmed mustanahaliste elude jaoks .
• Lisateavet Peatage LAPD spioonikoalitsioon .
• Lisateavet Kujunda justiitsvõrgustik .
• Vaata John Oliveri segment näotuvastuse kohta.