Probleem arvutivalvega

Järgnev on väljavõte Bruce Schneieri teosest Andmed ja Koljat .

Massilise jälgimise üks levinumaid kaitsemehhanisme on see, et seda teevad algoritmid, mitte inimesed, nii et see ei kahjusta meie privaatsust. See on lihtsalt vale.

Inimese ja arvutiseire eristamine on poliitiliselt oluline. Alates sellest, kui [Edward] Snowden on ajakirjanikele hulga ülisalajaste dokumentidega varustanud, oleme õppinud tundma kõikvõimalikke NSA sõnamänge. Sõnal 'koguma' on kaitseministeeriumi sõnul väga eriline määratlus. See ei tähenda kogumist; see tähendab, et inimene vaatab andmeid või analüüsib neid. 2013. aastal võrdles riikliku luuredirektor James Clapper NSA kogutud andmeid raamatukoguga. Kõik need raamatud on riiulitel, kuid tegelikult loetakse väga väheseid. 'Nii et meie ülesanne turvalisuse säilitamise ning kodanikuvabaduste ja privaatsuse säilitamise huvides on olla võimalikult täpne, kui läheme sellesse raamatukogusse ja otsime raamatuid, mida peame avama ja tegelikult lugema.'

Mõelge sellele oma sõbrale, kelle majas on tuhandeid raamatuid. Selle naeruväärse määratluse kohaselt on ainsad raamatud, mida ta võib väita, et on kogunud, need, mida ta on lugenud.

See on põhjus, miks Clapper väidab, et ta ei valetanud senati istungil, kui ta vastas 'ei' küsimusele 'Kas NSA kogub üldse mingit tüüpi andmeid miljonite või sadade miljonite ameeriklaste kohta?' Sõjaväe vaatenurgast ei ole see jälgimine enne, kui inimene andmeid vaatab, isegi kui kaitsetöötajate või töövõtjate poolt välja töötatud ja rakendatud algoritmid on neid mitu korda analüüsinud.

See pole esimene kord, kui me seda argumenti kuuleme. See oli Gmaili algusaegadel Google'i kontekstitundliku reklaamimise kaitsmisel kesksel kohal. Google'i arvutid uurivad iga üksikut meili ja lisavad jalusesse sisuga seotud kuulutuse. Kuid ükski inimene ei loe neid Gmaili sõnumeid, ainult arvuti. Nagu üks Google'i juht mulle Gmaili algusaegadel privaatselt ütles: 'Muretsemine selle pärast, et arvuti teie e-kirju loeb, on nagu muretsemine selle pärast, et teie koer näeb teid alasti.'

Kuid see pole nii ja koera näide näitab, miks. Kui koer teid jälgib, pole te kolmel põhjusel liiga mures. Koer ei saa nähtut aru ega töödelda samamoodi nagu teine ​​inimene. Koer ei mäleta ega lähtu tulevaste otsuste tegemisel sellest, mida ta näeb, samamoodi nagu teine ​​inimene. Ja koer ei saa kellelegi – ei inimesele ega teisele koerale – rääkida, mida ta näeb.

Kui teid jälgib arvuti, ei kehti ükski selle koera analoogia. Arvuti töötleb seda, mida ta näeb, ja teeb selle põhjal toiminguid. Teile võidakse öelda, et arvuti ei salvesta andmeid, kuid te ei saa olla kindel, et see on tõsi. Teile võidakse öelda, et arvuti ei hoiata inimest, kui ta tajub midagi huvitavat, kuid te ei saa teada, kas see on tõsi. Te ei saa kuidagi kinnitada, et ükski inimene ei taju arvuti tehtud otsust ja teid ei hinnata ega diskrimineerita selle põhjal, mida arvuti näeb.

Veelgi enam, kui arvuti salvestab teie andmeid, on alati kokkupuute oht. Privaatsuspoliitikad võivad homme muutuda, lubades vanu andmeid ilma teie selgesõnalise nõusolekuta uuesti kasutada. Mõni häkker või kurjategija võib teie andmeid sisse murda ja varastada. Organisatsioon, kellel on teie andmed, võib neid kasutada uuel ja avalikul viisil või müüa need teisele organisatsioonile. FBI võib anda andmete omanikule riikliku julgeoleku kirja. Teisest küljest pole maailmas ühtegi kohut, kes saaks teie koeralt alasti kirjelduse.

Andmed ja Koljat: varjatud lahingud teie andmete kogumiseks ja oma maailma juhtimiseks

Peamine erinevus arvuti ja koera vahel seisneb selles, et arvuti suhtleb teiste inimestega ja koer ei suhtle – vähemalt mitte piisavalt hästi, et olla oluline. Arvutialgoritme kirjutavad inimesed ja nende väljundit kasutavad inimesed. Ja kui mõtleme arvutialgoritmidele, mis meid jälgivad või meie isikuandmeid analüüsivad, peame mõtlema nende algoritmide taga olevatele inimestele. Olenemata sellest, kas keegi meie andmeid vaatab või mitte, muudavad selle jälgimiseks just need faktid, mis (1) nad võiksid ja (2) juhivad algoritme, mis seda teevad.

Teate, et see on tõsi. Kui te usuksite Clapperi öeldut, ei oleks te oma magamistoas kaamera olemasolu vastu – seni, kuni kehtivad reeglid, mis reguleerivad, millal politsei võib salvestust vaadata. Kui teie bürokraatlikud monitorid järgivad samu reegleid, ei oleks te selle vastu, et teid sunnitakse kandma valitsuse väljastatud kuulamisseadet 24/7. Kui vaidlustate, on põhjuseks see, et mõistate, et privaatsuskahjustus tuleneb automaatsest kogumisest ja algoritmilisest analüüsist, olenemata sellest, kas inimene on protsessiga otseselt seotud või mitte.

Väljavõte alates Andmed ja Koljat: varjatud lahingud teie andmete kogumiseks ja oma maailma juhtimiseks autor Bruce Schneier. Autoriõigus © 2015 Bruce Schneier. Väljaandja W. W. Norton & Company, Inc loal. Kõik õigused kaitstud.