CODED BIAS - PREJUDECĂȚI PROGRAMATE

Ideea principală a documentarului Coded Bias este construită în jurul muncii asidue pe care o
depune protagonista pentru apărarea drepturilor omului prin instituirea unei legislații federale
care să țină în frâu avântul marilor dezvoltatori de IA din lume. Într-o lume automatizată din
ce în ce mai mult bazată pe date/informații, punem problema protejării drepturilor și
libertăților persoanei în fața inteligenței artificiale. Documentarul ține pasul cu Joy
Buolamwini, inginer al M.I.T. - Media Lab, cu oamenii de știință specializați în data
gathering, matematicieni și Big Brother Watch din întreaga lume, care luptă pentru a da în
vileag discriminarea algoritmilor care prevalează în activitățile zilnice.
Joy Buolamwini, a descoperit că unii algoritmi nu puteau detecta fețele cu pielea întunecată
sau clasifica femeile cu acuratețe. Acest lucru a condus la conștientizarea că algoritmii de
învățare automată care au ca scop evitarea prejudecăților sunt doar la fel de imparțiali ca
oamenii și datele istorice care le programează, pentru că în fond sunt creați de persoane, deci
sunt produs uman, părtinitor, supus prejudecăților și eliberat în lume fără a putea fi controlat,
cu rol de clasificare a fiecăruia dintre noi pe baza unor calcule matematice exacte. Astfel
algoritmul ne aduce un job, ne concediază, ne facilitează obținerea unei locuințe, ne găsește
jumătatea, ne deschide și închide (atât la propriu, cât și la figurat) uși.
Tehnologiile de recunoaștere facială, în virtutea modului în care lucrează la nivel tehnic, au
deficiențe enorme legate de modul în care acestea schematizează chipurile umane. Aceste
erori creează și consolidează categoriile discriminate pe baza genului și rasei, cu efecte toxice
din punct de vedere social. În lumina acestor deficiențe/handicapuri ale algoritmilor, riscurile
acestor tehnologii depășesc cu mult beneficiile, într-un mod care amintește de metodele
naziste sau sovietice de clasificare a persoanelor. Recunoașterea facială, pur și simplu prin
faptul că este proiectată și construită, devine toxică din punct de vedere social, indiferent de
intențiile producătorilor săi. Se militează pentru interzicerea acesteia.
Când vine vorba despre drepturile asupra cărora aceste sisteme de date creează ingerințe
grave, ne putem referi chiar și la dreptul la viață. Chiar dacă dreptul la viață privată nu face
parte din categoria drepturilor absolute, el poate fi limitat numai dacă ingerința este: legitimă
și justificată; în concordanță cu legea; necesară într-o societate democratică. Din punctul meu
de vedere condițiile de legitimitate și justificare, dacă nu chiar și necesitatea prezenței acestor
sisteme de date într-o societate democratică, sunt puse în discuție.
În cazul unei e-guvernări, principiul transparenței ar trebui să primeze, astfel cetățeanul este
îndreptățit să cunoască  cine, când și de ce cineva a accesat datele lui. Este necesară
respectarea sub sancțiune a legislației privind limitarea scopului, necesitatea și
proporționalitatea utilizării și accesării acestor informații, perioada de păstrare a datelor
stocate, respectarea drepturilor cetățenilor, notificarea încălcărilor de securitate.
Așa cum este privită acum, tehnologia recunoașterii faciale este inexacta, intruzivă și încalcă
dreptul persoanelor la confidențialitate. Este incredibil cum, fără un acord prealabil și cu o
informare săracă (un afiș lipit pe o mașină de supraveghere) recunoașterea facială permite
poliției din Marea Britanie sa verifice chipurile captate în timp real cu ajutorul CCTV -urilor
și să depisteze dacă acestea se afla pe lista persoanelor suspecte care trebuie monitorizate,
prinse, percheziționate. Este clar încălcat dreptul la viață privată, dreptul la opoziție (dacă
pers. refuză pot fi sancționate contravențional), dreptul la restricționarea prelucrării, dreptul
de a fi uitat.
Soluții: reglementarea strictă și unitară la nivel european/internațional, monitorizarea acerbă a
marilor dezvoltatori de recunoaștere biometrică și împiedicarea considerării acestor
mecanisme niște trenduri, ci privirea lor ca pe potențiale pericole.
Cătinean Asineta
În primul rând precizez faptul că legislația în vigoare, respectiv Regulamentul GDPR nu se
aplică pentru procesările video în care persoanele nu pot fi identificate sau imaginile nu pot
duce la identificarea persoanelor. Având în vedere aspectele precizate în speța de față
identificăm faptul că se folosește sintagma „camere de mare rezoluție”, fapt care ne indică
posibilitatea obținerii unor imagini video în care persoanele să fie recognoscibile sau chiar
identificate. În această situație găsesc oportună analizarea subiectului prin prisma
reglementărilor cu privire la protecția datelor cu caracter personal.
Se precizează faptul că aceste camere aparținând Primăriei vor fi poziționate în intersecții și
în zonele limitrofe, cu precădere în cele de la marginea pădurilor și a terenurilor virane, cu un
scop rezonabil – acela de a identifica persoanele care manifestă comportament antisocial.
Însă până la a se ajunge ca aceste procesări de date și imagini să fie utilizate de către
autorități în vederea aplicării legii și sancționării acestor oameni, multe ale persoane vor trece
prin raza vizuală a acestor camere ( mai ales prin a acelora care vor fi amplasate în
proximitatea școlilor, grădinițelor, spațiilor de recreere – unde persoanele nu se așteaptă să fie
filmate, parcărilor, monumentelor istorice și în alte locuri aglomerate) violând libertățile
cetățenilor propriului oraș. Când vine vorba despre drepturile asupra cărora aceste sisteme de
supraveghere creează ingerințe grave, ne putem referi chiar și la dreptul la viață. Chiar dacă
dreptul la viață privată nu face parte din categoria drepturilor absolute, el poate fi limitat
numai dacă ingerința este: legitimă și justificată; în concordanță cu legea; necesară. Din
punctul meu de vedere condițiile de legitimitate și justificare, dacă nu chiar și necesitatea
prezenței acestor camere de supraveghere într-o societate democratică, sunt puse în discuție,
întrucât numărul extraordinar de mare ( planul de a instala circa 1000 de camere noi de
supraveghere) este mult disproporționat în comparație cu activitatea infracțională specifică
mun. Tg. Mureș, dimensiunii teritoriale a acestuia și chiar și a numărului de locuitori. Se
apreciază încălcarea principiului reducerii la minim a datelor întrucât unele informații de o
acuratețe rezonabilă se pot stabili și printr-un număr mai scăzut de camere de supraveghere.
De asemenea, rezoluția mare a imaginilor nu este mereu necesară atingerii scopului inițial.
Chiar dacă sunt utilizate în mod corespunzător și legal, numărul mare de camere poate genera
îngrijorarea că spațiul privat (parcare, zonă verde și de agrement situată lângă pădure) al
individului este invadat în mod nerezonabil.
În vederea protecției monumentelor istorice ale orașului, a zonelor împădurite, a terenurilor
virane, a locurilor de joacă ale mun. Tg. Mureș se pot amplasa camere de supraveghere la o
altitudine mare care să nu permită ingerința nejustificată în viața privată a locuitorilor, în
speță, identificarea tuturor persoanelor surprinse de camerele de supraveghere să nu fie
permisă în totalitate, ci să fie obținută prin coroborarea imaginilor de pe mai multe sisteme de
securitate.
Instalarea unui număr atât de mare de camere de supraveghere trebuie să aibă ca și motiv
protejarea proprietății sau colectarea de dovezi în scopuri de justiție, fiind necesară existența
unei informări către persoanele vizate ( principiul transparenței). Motivul „pentru a putea
asigura o protecție mai mare a acestora” nu este suficient încât să ocolească prevederile legale
ale Regulamentului. – se încalcă principiul limitării legate de scopul prelucrării acestor date
cu caracter personal.
Operatorul ar putea lua unele măsuri fizice și tehnice pentru a împiedica stocarea imaginilor
care nu sunt necesare în vederea atingerii scopului și pentru protejarea zonelor care nu sunt
relevante, de exemplu blocarea sau pixelarea acestora. Dacă operatorul dorește protejarea
monumentelor împotriva vandalismului sau a distrugerii, supravegherea video trebuie limitată
doar pentru vecinătatea imediată, monumentul și eventual calea de acces la acesta, fără a fi
necesară filmare întregii străzi sau a întregului cartier în care este amplasat.
Pentru instalarea camerelor de supraveghere în parcări folosit pentru autoturisme, măsură
luată în urma unor furturi, persoanele vizate trebuie atenționate prin înscrisuri cu privire la
monitorizarea video. De asemenea supravegherea poate fi activă doar pe timpul nopții, astfel
persoanele vizate să fie afectate într-un interval de timp limitat.
În cazul în care Primăria nu va obține consimțământul persoanelor vizate în vederea
supravegherii acțiunilor zilnice ale acestora prin instalarea unui număr de 1000 de sisteme de
supraveghere video, operatorul va fi obligat la cerere, la ștergerea datelor prelucrate până în
acel moment. Astfel persoanele vizate au dreptul de a fi uitate, atât din motive ce țin de
consimțământul acestora cât și în ce privește interesul legitim de stocare și prelucrare.