Anti-lice u doba kibernetike

Adam Harvey je 2010. bio student i pisao diplomski rad pri NYU ITP (New York University Interactive Telecommunications Program) želeći naći nekakvo rješenje za problem sve većeg i bržeg rasta tehnologije prepoznavanja lica (facial recognition technology).

Tako je nastala CV Dazzle camouflage, način šminkanja stvoren potrebom za povratkom privatnosti u svijetu povećanog vizualnog nadzora koji omogućuje računalni vid.

 

CV Dazzle Look 1, izvor: www.ahprojects.com       

 

Computer Vision (CV) ili računalni vid interdisciplinarno je područje koje se bavi načinom programiranja računala kako bi bila kompetentna visokokvalitetno razumjeti digitalne slike ili videozapise.
Glavni zadatak je automatizirati i pospješiti raspoznavanje onoga što ljudski sustav u manjoj mjeri može. Prednosti su što je potpuno anoniman, jeftiniji, umrežen, spojen, i, pogotovo, dostupan 24/7.

Nadljudski, svojim mogućnostima prepoznavanja i razumijevanja lica i emocija, CV zarobljuje neverbalnu komunikaciju lica i pohranjuje ju u bazi podataka koja bi mogla poslužiti raznim npr. vladinim agencijama kada to najmanje budete očekivali.

Važno je istaknuti da mnoge od tih slika potječu s društvenih mreža kao što su Facebook, Instagram, Twitter i zašto ne, Tinder i Grinder. Famozno tagiranje vas neizbježno tjera u imaginarnu kutiju slika gdje će vaše lice, zauvijek, biti povezano s vašim imenom.

Tehnologija prepoznavanja lica funkcionira na sljedeći način: imamo lice koje želimo identificirati i imamo lice koje se nalazi u bazi podataka.

Algoritmi prepoznavanja lica prepoznaju glavne značajke lica kao što su to relativan položaj, veličina i oblik očiju, nosa i čeljusti. Te se značajke zatim koriste za traženje slika u bazi podataka.

Kako bi softver funkcionirao, mora znati razlikovati lice od ostatka slike, pozadine. Svako lice ima brojne, prepoznatljive značajke koje čine cjelinu lica. Sustav za detekciju lica prepoznaje značajke kao čvorove.

Faceprint, izvor: www9to5mac.com

 

Svako ljudsko lice ima oko 80 čvorišnih točaka, a ono što se mjeri softverom su udaljenost između očiju, dubina očnih orbita, oblik jagodica, širina nosa te veličina (duljina) čeljusti.
Sve te čvorišne točke nakon mjerenja stvaraju numerički kod zvan otisak lica (faceprint) koji će predstavljati određeno lice u bazi podataka.

Pomoću 3D softvera, sustav prolazi kroz niz koraka kako bi provjerio identitet pojedinca:

1) prepoznavanje slike može se postići na dva načina: digitalnim skeniranjem postojeće fotografije (2D) ili skeniranjem videa u kojem se nalaze frameovi (3D),

2) nakon što otkrije lice, sustav određuje veličinu i položaj glave; subjekt može biti raspoznat do 90 stupnjeva; dakle, ako je slika iz profila, stigne ju raspoznati, dok u dvodimenzionalnoj slici glava mora biti okrenuta najmanje 35 stupnjeva prema kameri,

3) sustav zatim mjeri krivulje lica i stvara predložak,

4) sustav prevodi predložak u jedinstveni kod; kodiranje daje svakom predlošku skup brojeva koji predstavljaju značajke na licu predmeta,

5) ako je slika 3D i baza podataka sadrži 3D slike, podudaranje će se odvijati bez ikakvih problema; ako je slika u bazi podataka 2D, onda se nastoji postupiti na sljedeći način: uzme se 3D slika na kojoj se obično identificiraju tri točke (područje s vanjske strane očiju, područje s unutarnje strane očiju i vrh nosa); nakon što nastupa to mjerenje, na sliku će se primijeniti algoritam kako bi sliku iz 3D pretvorio u 2D sliku, nakon konverzije softver će usporediti sliku s 2D slikama u bazi podataka kako bi pronašao potencijalno podudaranje;

6) pri potvrdi identiteta, slika će se podudarati samo s jednom slikom u bazi podataka (1:1).

CV se temelji na prihvaćenom vjerojatnom pragu raspoznavanja pojedinca, a on se može nadmudriti mijenjanjem ključnih značajki fizionomije lica kako bi se ostalo ispod praga te detekcije.
Algoritmi u licu traže određene uzorke kao što su svijetla ili tamna područja na obrazima i način kako su tonovi raspoređeni na nosnom mostu.

Budući da je prepoznavanje lica prvi korak u bilo kojem automatskom sustavu prepoznavanja osoba, blokiranje faze otkrivanja lica blokira svaku daljnju analizu lica, uključujući prepoznavanje i emocionalnu analizu. Stoga, CV Dazzle blokira prepoznavanje lica fizičkom opstrukcijom lica (više ovdje).

Da bi se to uspjelo izvesti, Harver u svom CV Dazzleu odlučuje koristiti odvažnu avangardnu šminku i frizuru. Takvim se make-upom, koji je jako geometrijski, prekida vizualni kontinuitet lica i time je raspoznavanje od strane računalnih algoritama onemogućeno; kreiraju se modeli anti-lica.

 

Potrebno je stvoriti asimetričan look kako bi se smanjila mogućnost detekcije od strane algoritama.

Takav se look može postići šminkom, frizurom te modnim dodacima i može se izvesti na bilo kojem licu.

Prema Harverovom mišljenju, idealno bi bilo koristiti tamne tonove boja na svjetloj koži i svijetle na tamnoj.
Također, važno je sakriti nos zato što je područje gdje se nos, oči i čelo sreću ključno za identifikaciju osoba.

Nadalje, bilo bi dobro sakriti jedno oko: simetričnost očiju je također kritična za raspoznavanje.

 

CV Dazzle Look 4, izvor: www.ahprojects.com      

 

Ako nosimo masku na ulici nećemo ostati neprimijećeni, i tu kosa postaje dobar alat kojim možemo modificirati crte lica. Isto tako, bilo bi dobro sakriti eliptičan oblik lica, a to se, osim kosom, može i odjevnim predmetom kao što je majica s ovratnikom. Naravno, sve to bi trebalo izgledati tako da bude funkcionalno i društveno prihvatljivo.

 

Od početka Harverovog projekta, zabrinutost oko brzine razvoja tehnologije prepoznavanja lica postaje sve očiglednija.
Rus Grigory Bakunov, stručnjak u jednoj od vodećih ruskih tehnoloških tvrtki, je također izmislio način prikrivanja identiteta od CV-a i baš poput Harvera, to čini pomoću šminke.

 

Šminka koja se sastoji samo od nekoliko linija i točaka, Grigoryja Bakuneva, izvor: www.rbth.com

 

Sve to baš i nije neka novost.

Dazzle kamuflaža, poznata i kao Razzle Dazzle ili, u slobodnom prijevodu, “zasljepljujuća slika”, naziv je koji se koristio kako bi se oslovila kamuflaža brodova koja se opsežno koristila u Prvom svjetskom ratu, a u manjoj mjeri i u Drugom svjetskom ratu.

 

 

Ilustracija iz 1922. koja prikazuje metodu i boje korištene pri Dazzle kamuflaži, izvor: Pinterest

 

Takav tip kamuflaže sastojao se od složenih obrazaca geometrijskih oblika u kontrastnim bojama, koji se međusobno prekidaju i preklapaju kako bi zbunili protivnika, tj. otežali mu procjenu cilja, njegove udaljenosti, položaja, brzine kretanja i, u ovom slučaju, putanje. Ukratko, ono što se time htjelo postići je otežati vidljivost objekta.

Začetnik takvog načina kamufliranja je Norman Wilkinson. Naime, britanski je umjetnik odlučio, za vrijeme rata, budući da je bilo nemoguće sakriti brod u oceanu (zbog dimenzija, ali i zbog pare koja bi izlazila iz dimnjaka), da bi bilo dobro brod oslikati tako da ne bude sasvim jasno kakvog je oblika ni na kojoj se udaljenosti nalazi.

Koristeći se figurama koje blago podsjećaju na kubizam, koji je nastao otprilike istih godina, te koristeći postojeće fenomene u prirodi, npr. zebrine šare, dazzle camouflage je, optičkom iluzijom, uspio u svojoj namjeri.

Kamuflaža USS West Mahomet-a, 1918., izvor: 99percentinvisible.org

 

Koliko god željeli zaštititi vlastitu privatnost, jer je lice privatna stvar koliko i bankovni račun ili OIB, i činjenicu da je baš naše lice povezano s našim imenom, postoji velika mogućnost da u tome nećemo uspjeti.
Također, ako se tako šminkamo, sve smo samo nismo neprimjetni.

Nedavno smo mogli čitati kako je umjetna inteligencija (AI – Artificial Intelligence) uspjela dokučiti, s točnošću od 91%, koja je seksualna orijentacija osoba i to isključivo preko slika nađenih na jednoj društvenoj mreži za spojeve.

Strojev je gaydar, izgleda, bolji od našeg; istraživanje provedeno na Sveučilištu Stanford (Kalifornija, SAD) otkriva kako je algoritam u 81% slučajeva pogodio seksualnu orijentaciju muške populacije te 74% ženske populacije (više ovdje).

Ljudski “suci” su pogodili u omjeru od 61% za muškarce i 54% za žene. Kada bi softver pregledao po pet slika po osobi, rezultati bi bili još uspješniji – 91% u slučaju muškaraca i 83% u slučaju žena.
To znači da lica sadrže mnogo više informacija o seksualnoj orijentaciji nego što ih ljudski mozak percipira i interpretira. Nisu uzeti u obzir ljudi drugih rasa osim bjelačke, a ni biseksualci ni transseksualci.

Umjetna inteligencija testirana u istraživanju, koja je objavljeno u časopisu Journal of Personality and Social Psychology i u The Economist, bazirana je na uzorku od više od 35.000 slika lica koje muškarci i žene javno objavljuju na društvenim mrežama.

Istraživači Michal Kosinski i Yilun Wang identificirali su obilježja lica pomoću sofisticiranog matematičkog sustava koji uči analizirati vizuale na temelju velikog skupa podataka.

Istraživanje je pokazalo da gej muškarci i žene imaju značajke i izraze lica koje su atipične tom rodu, što znači da homoseksualci izgledaju ženstvenije nego heteroseksualni muškarci, a žene muževnije. Podaci su također identificirali određena obilježja, kao npr. uže čeljusti i izduženije noseve kod muškaraca, te veće čeljusti i uža čela kod homoseksualnih žena (ovdje).

Članak sugerira kako rezultati dobiveni istraživanjem pružaju potvrdu teoriji da je seksualna orijentacija određena prije rođenja i da ona stoji u biološkim faktorima: dakle, ljudi se, prema istraživanju, rode gej. Umjetna inteligencija se pokazala nešto manje uspješnom kod žena, zato što je seksualnost žena fluidnija, otvorenija.

Cesare Lombroso, talijanski kriminalist, je već krajem 19. stoljeća izložio svoju teoriju o tome kako se, npr., kriminalci razlikuju od ostalih osoba na osnovi fizionomskih obilježja.

Tijekom godina antropometrijskih istraživanja Lombroso je postao uvjeren da je skolonost kriminalu nasljedna te da će, netko tko se rodio kao kriminalac, imati određena fizička obilježja prema kojima će biti prepoznatljiv.
Ne trebamo ni spomenuti da je jasno da nisu svi kriminalci oni koji imaju kose kapke ili crvene oči zbog ispucalih kapilara, a ni oni koji pate od epilepsije te imaju tetovaže.

Kriminalci i njihova obilježja, L’Homme Criminel, Cesare Lombroso, 1876, izvor: wikimedia

 

Važno je istaknuti da su takve teorije kontroverzne te da nisu prihvaćene od strane moderne znanosti upravo zbog varljivosti i nedostatka argumentacije i dokaza (ovdje).

U tom istom istraživanju, autori su također primijetili da se umjetna inteligencija može koristiti za istraživanje veza između crta lica i niza drugih pojava, poput političkih stavova, predispozicije za kriminalno ponašanje, kvocijenta inteligencije, psiholoških stanja ili osobnosti. Poprilično zastrašujuće.

 

Naslovnica tjednika The Economist, 9.-16. rujna 2017., Nowhere to hide, What machines can tell from your face, izvor: www.economist.com

 

Što se kvocijenta inteligencije tiče, školski savjetnici će u budućnosti moći koristiti rezultate skeniranja lica pri odabiru budućih učenika. Ako umjetna inteligencija “misli” otkriti jesu li određena djeca genetski inteligentnija, to znači da će u najbolje škole ići samo oni najinteligentniji i stoga je jako važno ono što je Kosinski izjavio: “Trebali bismo razmišljati što učiniti kako bismo bili sigurni da ne završimo u svijetu u kojem bolji geni znače bolji život.”

Istraživanja Kosinskog su kontroverzna i probudila su burne reakcije (s pravom!) pogotovo kod LGBT zajednica koje tvrde da bi vlada ili bilo tko drugi mogli koristiti takve softvere u ne baš etičke svrhe (biti gej nije zločin, međutim, postoje zemlje gdje biti dio LGBT zajednice vodi do zatvora, raznoraznih fizičkih kažnjavanja ili, u najekstremnijim slučajevima, čak i smrti (više ovdje)).

Međutim, tim Kosinskog tvrdi da vlade i korporacije već duže vrijeme posjeduju slične alate i da je, zbog toga, od vitalnog značaja znati zaštiti se.

Znamo da u današnjem svijetu tehnologija napreduje takvom brzinom da ju jedva stignemo pratiti; ali upravo zato, ona stigne pratiti nas.

Janus program (ovdje), inicijativa koju vodi ravnatelj National Intelligence-a, počeo je 2014. prikupljati fotografije lica ljudi s društvenih mreža. Strojevi otada koriste moćne algoritme kako bi uparili te fotografije s postojećim biometrijskim profilima.

Janus program nije jedini: tehnologija prepoznavanja lica brzo postaje glavna podloga komercijalnih i vladinih sustava nadzora. Iako može pružiti prednosti u automatizaciji i sigurnosti, to je ujedno i prijetnja privatnosti.

Sofisticirani algoritmi već mogu izdvojiti podatke o vašem spolu, dobi i čak raspoloženju gledajući isključivo jednu sliku, a zatim povezati fizičke atribute s komercijalnim ili državnim bazama podataka. Ova moćna nadzorna tehnologija je jeftina, sveprisutna i neregulirana zakonom.

Jedino što preostaje je postaviti si složena etička pitanja o zaštiti privatnosti i mogućoj zlouporabi podataka te pokušati smanjiti protok informacija koje dajemo u javnost preko društvenih mreža.

Izgleda da su Orwellova upozorenja budućim generacijama glede oligarhičnog i totalitarnog društva, Ministarstva Istine te Velikog Brata iz 1949. iz distopije prešli u realnost.

 

Screenshot filma “1984” redatelja Michaela Radforda, izvor: www.stuffpoint.com

 

 

O (video)nadzoru u suvremenim gradovima pisali smo ovdje i ovdje.