Britanskim špijunima će biti preko potrebna veštačka inteligencija

  • Gordon Korera
  • Dopisnik iz oblasti bezbednosti
An aerial shot of GCHQ in Cheltenham, with its distinctive donut shape

Autor fotografije, Getty Images

Potpis ispod fotografije,

The report was commissioned by GCHQ and had access to much of the intelligence community

Britanski špijuni će morati da koriste veštačku inteligenciju da bi se izborili sa širokim dijapazonom pretnji, tvrdi izveštaj iz obaveštajnog sveta.

Vrlo je verovatno da će neprijatelji koristiti tehnologiju za napade u sajber-svetu i na politički sistem, a veštačka inteligencija će biti neophodna da ih otkrije i spreči.

Ali veštačka inteligencija ne može da predvidi ko bi mogao da učestvuje u teškom kriminalu kao što je terorizam - i neće moći da zameni ljudski sud, dodaje se.

Izveštaj je zasnovan na do sada neviđenom pristupu britanskoj obaveštajnoj zajednici.

Institut kraljevskih ujedinjenih službi (RUSI) takođe tvrdi da bi upotreba veštačke inteligencije mogla da dovede do nove potrebe za zaštitom privatnosti i ljudskih prava, što će zahtevati nove propise.

Neprijatelji Velike Britanije „nesumnjivo će želeti da koriste veštačku inteligenciju kako bi napali Veliku Britaniju", kaže RUSI u izveštaju - a to bi moglo da važi ne samo za države, već i za kriminalce.

Klin se klinom izbija

Buduće pretnje mogle bi da uključuju upotrebu veštačke inteligencije za pravljenje dip fejkova - kada kompjuter može da nauči da generiše uverljive lažne video snimke stvarnih osoba - kako bi se manipulisalo javnim mnjenjem i izborima.

Mogla bi da se koristi i za mutiranje malvera za sajber-napade, što bi otežalo normalnim sistemima da ih otkriju - ili čak za preusmeravanje dronova i njihovo upotrebljavanje za napade.

U ovim slučajevima, veštačka inteligencija će morati da se koristi u svrhu kontrašpijunaže protiv same veštačke inteligencije, kaže se u izveštaju.

„Uvođenje veštačke inteligencije nije važno samo kao pomoć obaveštajnim agencijama da izađu na kraj sa tehnološkim izazovima pretrpanosti informacijama.

Vrlo je verovatno da će zlonamerni akteri koristiti veštačku inteligenciju za napad na Veliku Britaniju na brojne načine i obaveštajna zajednica će morati da razvije nove odbrambene mere zasnovane na veštačkoj inteligenciji", tvrdi Aleksander Babuta, jedan od autora.

Nezavisni izveštaj koji je naručila britanska bezbednosna služba GCHQ imao je pristup većem delu obaveštajne zajednice u zemlji.

Sve tri britanske obaveštajne agencije su za budućnost dale prioritet upotrebi tehnologije i podataka - a novi šef MI5, Ken Makalum, koji preuzima dužnost ove nedelje, izjavio je da će jedan od njegovih prioriteta biti veća upotreba tehnologije, uključujući mašinsko učenje.

Autor fotografije, Getty Images

Potpis ispod fotografije,

The 2002 Tom Cruise film predicts a world in which crime can be predicted

Često citirana fikcionalna referenca je film Manjinski izveštaj u kom se tehnologija koristi da se predvide oni na putu da počine zločin pre nego što to učine.

Ali u izveštaju se tvrdi da je u stvarnosti malo verovatno da će ovo biti održivo u situacijama nacionalne bezbednosti iz stvarnog života.

Činovi kao što je terorizam suviše su retki da bi pružili dovoljno velike istorijske setove podataka u kojima bi se tražili obrasci. Oni se dešavaju mnogo ređe od drugih kriminalnih činova, kao što je, na primer, provala.

Čak i u okviru tog seta podataka, pozadine i ideologije počinilaca toliko su različite da je teško izgraditi model profila teroriste. Ima previše promenljivih da bi se napravilo direktno predviđanje, kad su novi događaji potencijalno radikalno drugačiji od prethodnih, tvrdi se u izveštaju.

Bilo kakvo profilisanje može biti i diskriminatorsko i da dovede do brige za kršenje ljudskih prava.

U praksi, u oblastima kao što je kontra-terorizam, u izveštaju se tvrdi da će „proširena" - umesto veštačke - inteligencija postati norma - kada tehnologija pomaže analizatorima od krvi i mesa da proseju i izdvoje bitno iz sve veće količine podataka, omogućivši ljudima da donose vlastite sudove.

Postaće od ključne važnosti omogućiti ljudskim akterima da ostanu odgovorni za odluke a da veštačka inteligencija ne služi kao „crna kutija" u kojoj ljudi ne razumeju na osnovu čega se donose odluke, kaže se u izveštaju.

Autor fotografije, Getty Images

Malo po malo

Autori takođe s podozrenjem gledaju na halabuku podignutu oko veštačke inteligencije i na tvrdnje da će ona uskoro postati transformativna.

Umesto toga, oni smatraju da ćemo doživeti postepeno proširenje postojećih procesa umesto nagli dolazak novih futurističkih mogućnosti.

Oni veruju da je Velika Britanija u snažnoj poziciji da preuzme vođstvo na globalnom planu, sa koncentracijom sposobnosti u GCHQ - i još i šire u privatnom sektoru i u telima kao što je Institut Alana Tjuringa i Centru za etiku i inovaciju podataka.

To poseduje potencijal da omogući Velikoj Britaniji da se pozicionira na vodećem mestu po upotrebi veštačke inteligencije, ali u okviru jasnih etičkih okvira, kažu oni.

Primena veštačke inteligencije u obaveštajnim krugovima možda će zahtevati nove propise kako bi se osiguralo da postoje bezbednosne kočnice i da je bilo kakvo zadiranje u privatnost neophodno i proporcionalno, stoji u izveštaju.

Jedno od trnovitih pravnih i etičkih pitanja za špijunske agencije, naročito posle otkrića Edvarda Snoudena, jeste koliko je opravdano sakupljati velike količine podataka od običnih ljudi da bi se oni prosejavali i analizirali u potrazi za osobama koje bi mogle da učestvuju u terorizmu ili nekoj drugoj kriminalnoj aktivnosti.

A tu je i srodno pitanje koliko daleko privatnost sme da se naruši kad se mašinski sakupljaju i analiziraju podaci za razliku od toga kad to radi čovek.

Zagovornici privatnosti plaše se da će veštačka inteligencija zahtevati sakupljanje i analiziranje mnogo većih količina podataka od običnih ljudi, kako bi razumeli i tražili obrasce, a koji stvaraju novi stepen intruzije.

Autori izveštaja veruju da će biti potrebno uvođenje novih pravila.

Ali sveukupno gledano, oni kažu da će biti važno da se ne postane opsednut potencijalnim negativnim stranama upotrebe tehnologije.

„Postoji rizik od gušenja inovacija ukoliko dođe do prevelike opsednutosti hipotetički najgorim ishodima i spekulacijama o nekakvoj distopijskoj budućoj mreži nadzora zasnovanoj na veštačkoj inteligenciji", tvrdi Babuta.

„Legitimne etičke dileme biće skrajnute ukoliko se ne usredsredimo na verovatnu i realističnu upotrebu veštačke inteligencije na kratke i srednje staze."

Međutim, autori smatraju da će veštačka inteligencija biti samo od „ograničene vrednosti" u „prediktivnoj obaveštajnoj aktivnosti" u oblastima kao što je kontra-terorizam.

Pratite nas na Fejsbuku i Tviteru. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk