KAS SEE ON TÕESTI TEIE ÕDE?

Järgnev on väljavõte Michael Pearli teosest Päev, mil see lõpuks juhtub .

Päev, mida igaüks saab jäljendada Keegi teine Täiuslikult

Tõenäoliselt sellel sajandil? Vältimatu.

Usaldusväärsushinnang? 5/5.

Hirmutav? Äärmiselt.

Kas tasub harjumusi muuta? Kas te pole viimase kahekümne aasta küberjulgeolekuuudistele tähelepanu pööranud? Muidugi on!

Kõne tuleb tundmatult numbrilt. Vastate ja liini teises otsas olev inimene nutab, kuid teie õe hääle äratundmiseks kulub vaid sekundi murdosa.

'Ta lukustas mu välja! Meil oli tüli ja ta viskas mu välja. Mul pole kuhugi minna!'

Olete mitu kuud mõelnud, kas keegi teie pereliikmetest saab kunagi sellise kõne. Lõppude lõpuks pole sulle kunagi meeldinud see mees, kellega ta käib ja kes kasvatab elatise nimel skorpione.

'Ohoo, aeglusta. Kõik saab korda,' ütlete te. 'Kas sa oled ohutu?'

Tekib pikk paus ja siis: „Mul pole Houstonis ühtegi sõpra! Kus ma magama jään?'

'Kas saate hotelli?'

Järjekordne rahutust tekitav paus. 'Mis rahaga?' küsib ta pisut kibedusega.

'Kas teil raha pole?'

„Kas sa saad mulle tuhat dollarit üle kanda? Lihtsalt selleks, et saaksin järgmise paari päevaga hakkama?

Osta raamat

Päev, mil see lõpuks juhtub

Osta

Traat? Kas ta ei saa lihtsalt Venmot kasutada? Ja igatahes, viimati kuulsite, et tal läks tööl päris hästi ja ta oli just ostnud auto. Jällegi on Houston riigi teises otsas ja te pole nii regulaarselt sisse registreerinud, kui oleks pidanud.

Ütled talle, et helistad oma emale ja siis helistad talle kohe tagasi.

'Ära katkesta!' anub ta. See on häiriv – isegi veider –, kui kaugele ta näib nii lühikese ajaga kukkunud. Paned toru ära.

Enne kui teie kõne emale saab ühenduse luua, helistab ta uuesti FaceTime'i kaudu. Vastate, valmistudes halvimaks.

Näete oma õe pisaratriibulist nägu, kui ta mööda tühja kesklinna kõnniteed alla kiirustab. 'Tema sõbrad teavad, kus ma olen,' ütleb ta. 'Nad teavad, mis juhtus, ja ma olen mures, et nad otsivad mind. Mul on seda raha vaja. Mul läheb hästi, kui saan motellitoa. Mul on lihtsalt vaja tuhat ja ma maksan sulle kohe tagasi.'

'Minge politseisse!' sa ütled.

„Ma ei saa aru, miks te tuhande dollari pärast nii suure tehingu teete! Oled alati selline olnud,” ütleb ta kõrgtehnoloogilise Western Unioni välisuksest sisse astudes. 'Vaata, ma olen kohal. Saadan sulle info. Palun saatke mulle lihtsalt tuhat ja siis ma lähen otse motelli ja helistan teile niipea, kui olen ohutu. Okei?'

Sa ei ole rikas, kuid võid endale lubada tuhandest dollarist lahkuminekut, kui see tähendab oma õe kaitsmist. 'Olgu,' ütlete sa. 'Mul on kahju, et see teiega juhtub.'

'Aitäh,' ütleb ta ja soe kergendustunne valdab sind, kui su õe naeratus naaseb tema näole. 'Ma ei tea, mida ma homme teen, aga ma mõtlen selle välja,' ütleb ta. 'Ma armastan sind. Ma helistan sulle kohe tagasi.'

'Ma armastan sind ka.'

Tekst saabub mõne sekundi pärast. 'See koht konverteerib Bitcoini ainult sularahaks????' ta kirjutab. 'Aga sa tead, kuidas see töötab, eks?' Õnneks teete. Teil on Bitcoini rahakotis paar tuhat dollarit säästu.

'Imelik,' kirjutad vastu. 'Aga pole probleemi.'

Kannate tuhat dollarit üle ja ootate tema kõnet.

Pärast 15 vaikset minutit olete FaceTime oma ema. Kui sa talle juhtunust räägid, on ta raevukas. „Kuidas ta sai ta lihtsalt Scottsdale'i lukku jätta? Nad ei tunne seal kedagi!'

'Ta on Houstonis,' ütlete te.

'Ei. Nad on Arizonas puhkusel kuni reedeni,' ütleb teie ema. 'Ta saatis mulle just foto. Nad läksid matkama.'

'Noh, ta FaceTimedis minuga, nii et ma olen üsna kindel, et ta on Houstonis,' ütlete te.

Kuulete taustal oma isa häält. 'Ma just kirjutasin talle. Ta ütleb, et on Scottsdale'is, ”ütleb ta enne tekstide ettelugemist. ''Ma olen endiselt puhkusel. Mis raha?' 'LOL. Kas temaga on kõik korras?”

Su nägu läheb punaseks. 'Ma nägin teda ja ta oli kindlasti Houstonis!' sa karjud. Sa tead, mida sa nägid. See ei ole nii, et te ei tunne oma õe nägu ära.

Paned kõne maha ja saatsid õele sõnumi või vähemalt numbri, mida su õde kasutas.

'Hei, kas nüüd on kõik korras? Kas sa oled motellis?'

Ära vasta.

'BTW, miks ema ja isa arvavad, et olete Scottsdale'is?'

Ära vasta.

'Mis toimub? Kas sa said raha?'

Lõpuks saate vastuse. See on pilt sellest valgest kitsekarva maskist, mida olete Internetis näinud. See on Guy Fawkesi mask, see ärritav 'anonüümse' sümbol.

Siis tuleb tekst. 'Sain aru! LOL, thx õde!

Teil on sissetulev kõne. See on sinu õde, kes helistab oma vanalt numbrilt. Tema tegelik number, selgub. Teatises „SISSEtulev kõne” kuvab teie telefon tema naeratava näo pildi. Tema tõeline nägu.

Tunned, et lõunasöök tuleb sulle tagasi. Mitte praegu, mõtlete ja lükkate selle tagasi .

Selles kahetsusväärses stsenaariumis viidatud tehnoloogia pole lihtsalt mingi usutav tuleviku õudusunenägu; see on juba olemas. Tegelikult pole see mitte ainult tõeline, vaid ka avatud lähtekoodiga. Üks tasuta versioon, mille olen leidnud, kannab nime FaceIt Live. See võimaldab igaühel saata reaalajas videovoogu oma näost, kandes digitaalselt kellegi teise nägu nagu mask. Praegu pole tulemused just veenvad, kuid see ei jää nii kauaks.

Tõsi, see tehnoloogia võib näiteks säästa teie aega, kui olete hõivatud näitleja. Netflixi animasarja 2016. aasta osas BoJacki ratsanik , lasi samanimelise peategelase sarnasus salaja digiteerida ja seda digitaalset versiooni kasutati terve filmi tegemiseks – kriitikute heakskiitmiseks –, kuigi BoJack ei teinud tegelikku tööd. Kuid lisaks fantastiliste laiskusetegude hõlbustamisele võib see tehnoloogia võimaldada teil teha surnutest veenvaid videoid, mis võivad kõlada hirmutavalt, kuid mõistliku kasutamise korral võivad need leinanõustamisel olla väärtuslikud abimehed. See võib olla ka hämmastav – kui taas kord eetiliselt problemaatiline – tööriist unustatud või allasurutud mälestuste taastamiseks.

See eetiline kleepuvus on alles algus, ütles Peter Eckersley, kes oli digitaalõigustele keskendunud mittetulundusühingu Electronic Frontier Foundation (EFF) peaarvutiteadlane sel ajal, kui temaga intervjueerisin, ja kes on nüüd arvutiuuringute direktor. tööstuskonsortsium AI partnerlus. Eckersley ülesanne EFFis oli otsida seadmeid ja tarkvara, mis võivad kasutajate teadmata rikkuda nende kodanikuõigusi, ning tema ja ta meeskond töötasid välja tarkvaralahendused nende võimalike rikkumiste jaoks.

Seega valmistuge ärkama maailmas, kus peaaegu igaüks saab luua tõeliselt kummalise võltsversiooni kellestki teisest, kes võib näida kõike tegevat. Kuni avalikkuse mustem kujutlusvõime selle tehnoloogia kätte ei saa, on raske täpselt teada, millised rakendused on.

Mõte luua veenvad arvutipõhised petturid on olnud popkultuuri eetris vähemalt alates 1946. aasta Isaac Asimovi novellist “Tõendusmaterjal”, mis räägib riigiameti kandidaadist, keda kahtlustatakse roboti imiteerimises. Idee sai murettekitavalt ja realistlikult võimalikuks, kui 2016. aastal lõid Max Plancki informaatikainstituudi, Erlangen-Nürnbergi ülikooli ja Stanfordi ülikooli tarkvaradisainerid videodemonstratsiooni 'Face2Face: reaalajas näo jäädvustamine ja taasesitus'. RGB-videod. Tarkvara abil saab kasutaja reaalajas jäädvustada videomaterjali kellegi tegelikust näost – näiteks Venemaa president Vladimir Putin – ning seejärel, suunates kaamera enda näole ja muutes näoilmeid, ka reaalajas, pane sihtmärk liikuma nii, nagu nad soovisid, kuigi mitte nii, et see oleks täielikult veenev.

Demo meenutas eelmisel aastal kasutusele võetud Snapchati selfie filtreid. Kuigi need olid võrdluseks üsna triviaalsed, tuvastasid nad näod ja võisid neid muuta, muutes näiteks kasutaja suud nii, et see oksendas vikerkaare. Ainuüksi see tehnoloogia oli üllatavalt keerukas, kuid Face2Face oli veelgi arenenum. See võimaldas peaaegu igaühel lihtsalt ja koheselt panna keegi midagi ütlema. Selle tehnoloogia abil saavad kõik, kellel on piisavalt näidispilte näost, mida nad tahavad muuta „maskiks” ja näost, mis maski kannavad, anda need fotod üle algoritmile, mis seejärel kogu näo vahetamise töö ära teeb. . Hollywoodi eriefektide oskusi pole vaja.

'Nii et valmistuge ärkama maailmas, kus peaaegu igaüks saab luua tõeliselt kummalise võltsversiooni kellestki teisest, kes võib näida kõike tegevat.'

Selle demo õppetund on see, et piisava riistvaraga saate juba praegu teha igaühele mulje, nagu nad ütleksid midagi, kui nad ütlevad seda üsna jäigalt, kena telestuudio valgustusega ja seni, kuni vaataja seda ei tee. jälgige inimlikkuse märke, nagu keha liikumine.

Nii et ma ütlen, et demo töötas hämmastavalt hästi poliitikute ja mitte kellegi teise peal.

Järgmise mitme kuu jooksul viimistleti sarnaseid tehnoloogiaid, kontseptsioonile rakendati avatud lähtekoodiga tööriistu ja mitmed ideed lähenesid, et võimaldada inimestel nagu sina ja mina (erinevalt kõrgtehnoloogiliste laborite teadlastest) luua veelgi veenvamaid näovahetusi. Protsess muutus kasutajasõbralikumaks ja mis tahes näo digitaalsest kaardistamisest sihtnäole sai igaüks, kellel on piisavalt loovust ja aega.

Arvan, et see, mis järgnes, oli vältimatu: 2017. aasta lõpus asetas Redditi kasutaja nimega 'deepfakes' tavaliste kuulsuste näod pornoesinejate nägudele, tekitades rea võltsitud, kuid rahutukstegevalt realistlikke (ja mis kõige tähtsam, mittenõustavaid) kuulsusi. seksilindid. Kulus veidi üle aasta, enne kui tehnoloogia leidis rakenduse, mis oli kui mitte ilmselgelt ebaseaduslik, kuid kindlasti kuritahtlik ja räpane. Reddit keelustas sügavate võltsingute kogukonna vähem kui kaks kuud pärast seda, kui ajakirjanikud olid selle avastanud.

Kuid termin 'deepfake' elab Interneti-lühendina videote jaoks, kus näod asendatakse teiste nägudega, ja selle tulemusena on näo asendamise tehnoloogia muutunud meie lootava hirmutava 'tõejärgse' tuleviku mikrokosmoseks. meie enda jaoks. 2018. aastal esines filmitegija ja koomik Jordan Peele BuzzFeedi komöödias PSA, mis käsitles võltsuudiseid, milles endine president Obama näis olevat öelnud selliseid asju nagu 'Püsige ärkvel, litsid', enne kui see paljastati sügava võltsina, mida näiliselt vaataja peal põlistas. Peele.

Ma ütlen 'näiliselt', sest Jordan Peele ei kõla tegelikult nagu Barack Obama, kui ta oma Obama muljet jätab, nii et kedagi ei petetud (ei solvu, Jordan). See hääleprobleem on suurim takistus võltsvideote loomisel inimestest, kes näivad tegevat asju, mida nad tegelikult ei teinud: nad ei saa rääkida. Praeguseks.

Ühel päeval 2018. aastal lugesin paar tundi oma sülearvuti mikrofoni sadu lauseid ja sisestasin need tasuta võrgutarkvarasse nimega Lyrebird. Mõned laused tundusid olevat sadistliku kõneõpetaja väljamõeldis, näiteks 'Teadus on liikide zooloogilise klassifikatsiooni üle vaielnud aastakümneid', ja mõned olid üsna kurjakuulutavad kontekstis, milles mul paluti neid lugeda. , nagu 'Lisaks krüptimisele saab seda kasutada ka autentimiseks.' Kui umbes kakssada näidet minu ainulaadsest vokaalstiilist digiteeriti, suutis tarkvara luua teksti kõneks muutmise mootori, mis genereeris lauseid ja fraase, mis kõlasid absoluutselt minu moodi – tämber, kääne ja kõik.

Noh, nad kõlasid täpselt nagu mina kui mu sõnu räägitaks läbi lauaventilaatori ja mobiiltelefoni , kuid selle kuulmine oli ikka päris hirmutav.

Oletame, et keegi häkkis sisse minu Lyrebirdi kontole ja kasutas seda, et jätta mu tüdruksõbrale kõneposti, milles öeldi, et olen pantvangis ja vajan 500 000 dollari ülekandmist Šveitsi pangakontole. Kui tõhus see oleks? Noh, mu Lyrebirdi avatar on kohutav näitleja, sest see ei saa panna mind erutunult ega hirmunult kõlama, nii et loodud hääl kõlab nagu mina – tõeline mina –, lugedes rahulikult sõnu 'Mind on terroristide pantvangis, palun aidake .” Ja ükski petis poleks saanud mu sõbrannat sellise salvestusega petta, sest kohe alguses pommitab hääl tuttavaid tervitusi. 'Tere' on liiga formaalne ja Lyrebirdi 'hei' on kaugel. Ja kui kutsute oma kaaslast mõne erilise hüüdnimega, nagu mina, ja petturid pole sellest teadlikud, on kavandatud pettus ebaviisakas. Isegi kui trikitajad teadsid hüüdnime, mida ma oma tüdruksõbra kohta kasutan, saab Lyrebird kohaletoimetamise veidralt valesti.

Eckersley, endine EFF-i arvutiteadlane, ütles mulle, et praegu ei puuduta need piirangud mitte ainult Lyrebirdi, vaid ka selle tehnoloogia keerukamaid versioone, mis praegu eksisteerivad ainult arvutilaborites. 'Hääled, mida inimesed avalike kõnede ajal kasutavad, on veidi erinevad kui need, mida nad kasutavad isiklikus vestluses,' selgitas ta. 'Kuid see on õhuke kaitse ja see kaitse, mis tõenäoliselt laguneb algoritmiliste tehnikate tõttu. Seal on nupp, mis lülitab sisse ja välja avaliku esinemise intonatsiooni. Kui see muutub tugevamaks, arvatavasti tabate lihtsalt emotikone, mis vastab meeleolule, mida peate arvutihääle käändes kuulma.

Näete, kuhu see läheb: võltstelefonikõned, siis võltskõnepostisõnumid ja seejärel võltsvideokõned mitte ilmselgetelt rämpspostitajatelt, vaid näiliselt teie lähedastelt. Võib-olla küsivad petised teie krediitkaardiandmeid, kuid tõenäolisemalt on kavalus nutikam. Praeguse seisuga te ei usuks võõralt numbrilt saadud teksti, eks? On kindel panus, et järgmise paari aasta jooksul ei suuda te uskuda sama kummalist telefonikõnet või isegi Skype'i kõnet, proovimata mõnda väikest nippi, nagu näiteks küsimuse esitamine, millele teaks vastust ainult päris inimene. .

Kujutades ette tulevikku, kui see võltstehnoloogia satub petturite kätte, oletame, et teie ema suhtleb teiega Skype’is, kui olete ülikoolis ära, ja ütleb, et nägi, et teie pangakonto hakkab tühjaks saama ja soovib teile raha üle kanda, kuid peab talle meelde tuletama, mis on teie kontonumber ja marsruutimisnumber. Ärge ostke seda – välja arvatud juhul, kui kasutate oma ema nägu läbi mingi autentimistarkvara, mis kas kinnitab teie ema identiteedi või paljastab petturi, nagu mõne episoodi lõpus. Scooby-Doo .

Eckersley sõnul peame töötama telefoninumbrite ja e-posti autentimisprotokollide tugevdamise nimel, kuna ainus asi, mis annab teada, kellega räägite, on helistaja ID, mida petturid saavad hõlpsasti häkkida. Kuid ta ei ole täiesti kindel, et need kaitsemeetmed võetakse õigeaegselt kasutusele, et vältida paljusid pettusi, kuna telefonifirmad on arvutiturbeprotokollidega tõsiselt tegelenud.

'Näete, kuhu see läheb: võltstelefonikõned, siis võltskõnepostid ja seejärel võltsvideokõned, mitte ilmselgetelt rämpspostitajatelt, vaid näiliselt teie lähedastelt.'

Kelmuste sihtmärgiks on olnud eakad aastakümneid, kuid kuna nooremad beebibuumi põlvkonnad ja Xer-põlvkond jõuavad järgmistel aastakümnetel pensioniikka, peavad pettused muutuma keerukamaks, et petta tehnikateadlikke vanureid, kes ei ole nii innukad usun, et IRS helistab ja vajab kohe kassatšekki. Kuid petturid on juba leidnud viise, kuidas sihtida järgmise põlvkonna vanureid. Näiteks on nad hakanud kasutama Interneti-tutvumissaite, et sihikule võtta vanureid sägapüügipettustega, teeseldes, et nad on vallalised pensionärid, kes otsivad armastust, ja veenvad seejärel oma tšekke kirjutama. Seda tüüpi petuskeemid muutuvad lihtsamaks ja levinumaks, kui igaüks saab helistada Skype'i vanemale tundub tõestamaks, et helistaja on unistaja — aga usutav - potentsiaalne kaaslane.

Kui petturite heli ja video leiavad kodu sellistel saitidel nagu YouTube, on tagajärjed veelgi murettekitavamad. Oht seisneb siis selles, et Eckersley sõnade kohaselt „hakkab murenema ja rebenema see episteemiline ehk mõtteid loov kude, mis on lääne ühiskonda mingil määral koos hoidnud vähemalt viimase viiekümne aasta jooksul, kui mitte kauemgi. .” See võib tunduda liiga hüsteeriliselt, sest isegi täiuslikud võltsvideod võivad põhjaliku aruandlusega valeks osutuda. Näiteks kui videos on näha, kuidas ametikandidaat ütleb midagi, mis kahjustab kandidaadi mainet, otsivad ajakirjanikud tõde. Kas see inimene oli sel ajal tõesti selles kohas? Kas on veel kaadreid, mis seda kinnitavad?

Kuid ma arvan, et me kõik teame praeguseks, et ajakirjanduslik rangus läheb aknast välja, kui uudised Internetis levivad. Nagu kirjutatud võltsuudiste puhul, ei ole täiesti metsiku vasakpoolse väljamõeldise väljamõtlemine ideaalne viis kuulujuttude levitamiseks. Selle asemel on loogiline, et tõetuuma sisaldavad videod levivad tõenäoliselt, võib-olla videod, mis kujutavad avaliku elu tegelasi ütlemas usutavaid asju, mis sobivad nende avaliku isikuga.

Kujutage ette suurt armeed anonüümseid võltsvideote loojaid, kellele makstakse sadade usutava välimusega videote genereerimise eest, kus poliitiline kandidaat räägib kohutavaid asju. Jah, selle kandidaadi vaenlased võivad valesid levitada ja avalikkus võib neid uskuda, kuid sellele võib järgneda potentsiaalselt rahutust tekitavam tulemus. Eeldades, et avalikkus on teadlik, et on olemas suur hulk võltsvideoid, kahtlevad nad kõiges, mida nad näevad ja kuulevad, olgu see meelitav või mittemeelitav – või veelgi hullem, kas see on tõsi või vale. Ja see on lihtsalt üks poliitiline tulemus, mis võib juhtuda või mitte. Pole kahtlust, et tehnoloogia realiseerub ja levib. Kui see juhtus, ütles Eckersley mulle: 'Leiame end üliveidrast ja segasest maailmast.'

Kuid siin on mõned head uudised: seda tehnoloogiat kasutatakse ka mittekurja jaoks.

Näiteks videovestluse ja vlogimise näo- ja häälfiltrid võimaldavad inimestel muuta oma nägu, nii et nad ei näeks välja ja kõlaksid mitte niivõrd nagu kuulsused või süütud inimesed, kelle identiteeti nad üritavad varastada, vaid pigem lihtsalt. keegi teine . Inimesed, kes soovivad varjata tõsiseid kolju-näo-anomaaliaid või kes muidu ei tunne end videos mugavalt, võivad soovi korral kasutada midagi sellist, et avalikult suhelda ja avalikus elus osaleda.

Need tehnoloogilised edusammud võimaldaksid luua ka dokumentaalfilmides sujuvaid videomaterjale anonüümsetest tunnistajatest ja teabelekitajatest. Selle asemel, et olla hägune, pikslitud või varjus, võivad need isikud lihtsalt välja näha ja kõlada nagu teine inimene – eeldusel, et dokumentalist teeb selgeks, et kasutatakse maskeeringut.

Kuid selle arutelu lõpetuseks pöördugem tagasi laiskade näitlejate ja surnute digitaalse ülestõusmise juurde. Suurim põhjus, miks olla põnevil selle uskumatult jube tehnoloogilise eesliini üle, on see, et see – minu sõnad märgiks – avab päeva, mil saate mõne klahvivajutusega (või selleks ajaks võib-olla vaid mõne käeliigutusega) luua oma kohandatud filme ja telesaateid. või vilgub).

Oletame, et teie sügavaim ja süngeim fantaasia on slasher-film, mille tapjaks on Frank Sinatra, kuid kuna Frank on surnud, teate, et te ei näe teda kunagi verise kettsaega käsitsemas. Ja nüüd saate! Kui teate, ei piisa sellistest asjadest nagu metsas matkamine, päikeseloojangu vaatamine või koera paitamine.

Kas see on tõesti teie õde?