Inteligența artificiala viitor subiect de drept

1
Page
Teza: Inteligența artificială ar putea deveni subiect de drept penal

Student:Popa Andreea-Maria

Grupa: 212

Profesor îndrumător :Lector Universitar Marius Floare

Materia:Scriere juridică

2
Page
Cuprins

Capitole :

1. Definiții ale Inteligenței Artificiale

2. Inteligența artificială este o provocare pentru” bătranul”(-Laura Maria Stănilă )drept penal?

3. Statutul legal al Inteligenței artificiale.Ce este din punct de vedere al naturii juridice o entitate
AI?

4.Istorie-metoda istorică

5. Inteligența artificială deja utilizată pe plan mondial pentru facilitarea sistemului juridic

6. Plusuri si minusuri ale accordării personalității juridice inteligenței artificiale

7. .Jurisprudență relevantă

8. Concluzii

9.Bibliografie

3
Page
1.Definiții ale Inteligenței Artificiale

Începând de la premisa că dreptul românesc este încă prea rigid pentru aceast nou subiect ,voi
incerca să ofer anumite definiții acestui nou concept și încep cu un scurt istoric.

Istoria AI este pe cât de scurtă pe atât de învolburată .Cu toate acestea se impune a sublinia faptul
că dezvoltarea silogismului de către aristotel si utilizarea raționamentului deductiv a fost un
moment cheie in căutarea omenirii de a întelege propria sa inteligență .Istoria AI are mai puțin de
un secol.In anul 1950 un cercetător, Claude Shannon ,a propus crearea unei mașini care ar putea fi
invățată să joace șah.Mașina ar fi putut fi antrenată spunea acesta” fie folosind forța brută fie
evaluând un set mic de mișcări strategice ale unui adversar”.Lucrarea lui Shannon a descris două
abordîri ale șahului computerizat.

Enciclopedia britanica definește AI drept” capacitatea unui calculator digital sau a unui robot
controlat de calculator de a îndeplini sarcini asociate deobicei cu ființele inteligente.”

The American Association for the Advancement of AI definește” inteligența artificială drept
întelegerea știintifică a mecanismelor care stau la baza gândirii si raționamentului inteligent și
întruchiparea lor in mașini .”

IA este capacitatea unei mașini de a imita funcții umane, cum ar fi raționamentul, învățarea,
planificarea și creativitatea.Așadar aceasta este construită cu scopul de a înlocui in viitorul apropiat
anumite activități pe care le practică omul zi de zi.Inteligența artificiala permite sistemelor tehnice
să perceapă mediul în care funcționează, să prelucreze această percepție și să rezolve probleme,
acționând pentru a atinge un anumit obiectiv. Calculatorul primește datele (deja pregătite sau
colectate prin intermediul propriilor senzori, cum ar fi o cameră video), le prelucrează și
reacționează.Sistemele IA sunt capabile să își adapteze, într-o anumită măsură, comportamentul,
analizând efectele acțiunilor anterioare și funcționând autonom.Ceea ce ne interesează în acest
sens este faptul că exista o probabilitate ca acestea să poată dezvolta propria conștiință
independentă de sistemul operatorului.Această funcție devine problematică in ceea ce privește
dreptul penal . Inteligența artificială este considerată un element central al transformării digitale a
societății și a devenit o prioritate pentru UE. Se preconizează că viitoarele aplicații vor aduce
schimbări enorme, însă IA este deja prezentă în viața noastră de zi cu zi.Este aproape evident că
4
Page

in viitorul apropiat sistemele AI cu autonomie funcțională vor juca un rol important in

multe1domenii ale vieții sociale.Ca urmare legiutorul roman va trebui să fie precaut și să anticipeze
anumite modificări în textele legislative.”Trăim deja în viitor fie că ne dorim sau nu”.Cel mai
recent exemplu prin care se poate demonstra că înteligența artificială poate deveni un subiect de
drept este chiar cazul aparatelor din spitale care sunt sistematizate să opereze în locul medicilor
.Un alt exemplu relevant ar fi faptul că mai ales cazul pandemiei care a influențat extrem de mult
dezvoltarea acestor sisteme ,constrângându-i chiar și pe cei mai puțini pasionați de aceasta să se
adapteze situație și să recurgă la acest tip de sisteme.Dacă inteligența artificială a luat un avânt atât
de mare în ultimii doi ani ,fiind accesibilă tuturor in România ,de ce să excludem ipoteza că aceasta
ar putea deveni subiect de drept în următorii zece ani.

2.Inteligența artificială este o provocare pentru” bătranul”(-Laura Maria Stănilă )drept penal?

Inteligența artificială joacă deja un rol important în răspunderea penală ,însă pe viitor acest lucru
va evolua.Doctrina vorbește deja despre un nou tip de infracționalitate “AI CRIME”.Totuși este
adevărat că acest tip de crimă pune în evidență acest tip de mecanism ca mijloc sau metodă de
comitere a infracțiunii dar odată creată această categorie ,nu putem exclude faptul că aceasta ar
putea deveni independentă de creatorul său.Am să iau un exemplu concret ,X sistematizează un
calculator care ar putea singur sparge bazele de date ale sistemului de apărare al țării,desigur putem
vorbi de o infracțiune comisă în mediul virtual ,unde infractorul evident ar fi X pentru că există o
cauzalitate si un scop ,însă dacă acest program ar reuși să se autoregleze singur să spargă și alte
baze de date independent de dorința creatorului său ,oare mai putem vorbi de X ca infractor.
Willick spune așa”sistemul juridic este mai evolutiv decât revoluționar”.

3.Statutul legal al Inteligenței artificiale.Ce este din punct de vedere al naturii juridice o entitate
AI?

Inteligența artificială este la momentul actual un obiect(res),un serviciu chiar o ficțiune juridică,dar
putem vorbi mai departe dacă aceasta ar putea deveni persona.
5
Page

1
Ce este inteligența artificială și cum este utilizată? | Actualitate | Parlamentul European
(europa.eu)
Termenul persona -persoana este sinonim cu cel de individ văzut ca ființă umană rațională și pe
cale de consecință capabilă de autodeterminare ,adică implicit discutăm despre conștiința umană.

În abstracto am putea spune că Inteligența artificială este un res pentru că întrunește toate
caracteristicile acestuia bunuri de orice tip ,adică orice lucru util care poate satisface nevoia
oamenilor ,dar aș dori să încep prin ipoteza în care AI ar putea dezvolta conștiință ,atunci cu
siguranță in concreto vom vorbi de acesta ca subiect de drept.

Personalitatea artificială este un concept formulat în funcție de capacitățiile tehnice integrate în

sistemele de AI și capacitatea acestora de a interacționa independent cu alți subiecti de drept.Am
discutat mai sus de funcțiile unui sistem AI ,respectiv să perceapă mediul în care funcționează, să
prelucreze această percepție și să rezolve probleme, acționând pentru a atinge un anumit
obiectiv.Acesta pot determina posibilitatea ca sistemele AI să acționeze singure și de a lua decizii
independente de creatorul său ,cum am arătat în speța fictiva de mai sus.

În dreptul penal vorbim de vinovăție ca factor determinant al infracțiunii.În ipoteza în care o

persoan fără discernământ poate comite o faptă ilicita fiind trasă la răspundere ,atunci putem vorbi
si de sistemele AI ca fiind personalitați fără discernământ care vor răspunde pentru faptele sale
ilicite.

4.Istorie-metoda istorică

Chiar dacă toată această teorie pare una abstractă și greu de realizat,folosind metoda istorică mă
voi întoarce puțin în timp si voi discuta despre sclavii în perioada romanilor.Ce erau sclavii?

Aceștia erau considerați niște lucruri ,exact așa cum considerăm sistemele AI,spre sfârșitul
Republicii Romane ,statul roman recunoaște sclavilor capacitatea juridică limitată Astfel abstract
vorbind un res putea încheia singur anumite contracte în numele stăpânilor.Oare nu putem admite
2că teoria conform căreia AI este doar un bun va cădea în desuetitudine in zece sau douazeci de
ani?Printr-o simplă analogie eu consider că da.3
6
Page

2
Sclavii în Roma Antică - Hotnights
3
Big data - Wikipedia
O altă idee ar fi că sistemele AI ar putea în viitor să faciliteze eficiența sistemului juridic.AI ar
avea un potențial de a aduce un beneficiu sistemului juridic pentru că acesta poate judeca imparția
4si eficient.Cu toate aceste există dubii în ceea ce privește utilizarea acestora ca mijloc de
judecare.În următorul capitol mă voi axa pe minusurile și plusurile pe care le-ar putea avea
sistemele tip inteligență artificială în domeniul juridic.AI ar putea fi sistematizat să conducă la o
transparență în sistemul penal deoarece în ceea ce privește riscul un astfel de sistem al putea să-l
anticipeze.Totodata un astfel de aparat ar putea fi eficient în ceea ce privește grefierii,un astfel de
sistem ar putea exclude eroarea umană și ar fi un proces mult mai rapid,pentru că deja trăim intr-
o eră în care timpul este limitat.AI poate deja face conexiuni în ceea ce privește tiparele unor
oameni sau unor infracțiuni.

Spre exemplu în ceea ce privește societatea americană o mare parte a discriminării rasiale persistă
din cauza prejudecăților factorilor de decizie ,conturând așa-numita discriminare institutionala
.Utilizarea Big Data și a instrumentelor AI care lucrează acestea cu acestea duce la o perpetuare
neintenționată,preiau aceste tendințe chiar dacă nu au fost programați intenționat să facă acest
lucru ,datorită modului în care sunt colectate datele .Discriminarea este ar fi un artifact al
procesului de extragere a datelor în sine,mai degrabă decât un rezultat al programărilor și scriilor
necorespunzătoare a codurilor .În mai în 2014 Casa Albă a lansat un raport intitulat Big Data
;seizing opportunities ,preserving values ,care a scot în evidență potențialul discrminator al Big
Data și sugerează că pot exista exista efectele discriminării neintenționate ale exploatării datelor
,dar nu detaliază modul în care acestea ar putea avea loc.Aceste discriminări se pot extinde și în
sistemul de justiție penală prin crearea unor categorii defavorizate de justițiabile în cadrul
procesului penal.

5.Inteligența artificială deja utilizată pe plan mondial pentru facilitarea sistemului juridic

Predol este rezultatul unui proiect de cercetare la care au participat Departamentul de Poliție din
Los Angeles(UCLA).Creat în 2012 PredPol utilizează o abordare bazată pe date ăentru a organiza
și realiza operațiunile de patrulare directă.Predpol nu utilizează niciodată date cu caracter
personal,informații etnice sau demografice.Predicțiile sunt afișate sub formă de casetă rosie pe o
7
Page
interfață roz.Casetele reprezintă zonele cu criminalitatea cea mai mare și se schimbă în fiecare zi
în funcție de tura de zi sau noapte a ofițeriilor.

Am putea vorbi chiar și de supravegherea video a cetățenilor sau a indentificării fețelor .

6.Plusuri si minusuri ale accordării personalității juridice inteligenței artificiale

Un plus ar fi ca ar permite o reuniune a riscurilor si o centralizare a riscurilor legate de

centralizarea riscurilor AI în plan social ,economic,industrial,politic etc.S-ar creea în acest mod ca
agenții industriali să fie trași la răspundere pentru consecințele și pagubele produse fără nevoia de
a identifica o persoană responsabilă evitând un proces costisitor în care ar fi greu să se identifice
persoana vinovată de paguba adusă.”Dacă în viiitor AI va evolua în așa măsură în care nu va
putea fi deosebit de o persoană care ar fi argumentele logice prin care negăm acelui sistem
aceleași drepturi și aceleași obligații ca și unui om?”

Un beneficiu cu carcter instrumental ține de atingerea eficienței și poate fi înțeles mai bine dacă se
încearcă o analogie cu sistemul sclavilor arătat într-un capitol anterior .

Minusurile ar fi ca Parlamentul European sugerează crearea unui fond colectiv de asigurpri pentru
a acoperi daunele cauzate de sistemele AI.Acordarea personalității juridice a unui sistem AI ar
deschide cutia pandorei.Deoarece ai nu are capacitatea de a suferi și nici nu manifestă empatie nu
putem înțelege cum va putea percepe suferința altor persoane prin prisma acțiunilor sale
vătămătoare.5

8
Page

5
Parlamentul European cere limitarea folosirii inteligenţei artificiale | AGERPRES • Actualizează lumea.
7.Jurisprudență relevantă

La 14 decembrie 2018 Curtea de Apel Amsterdam l-a condamnat pe inculpat la pedeapsa maximă
de închisoare 10 ani si 243 de zile de închisoare pentru deținere ,producere,distribuire de materiale
cu conținut pornografic cuprinzând scene de abuz asupra copiiilor ,accesare neautorizată a unui
computer șî deținerea de programe software în acest scop ,șantaj și înșelăciune menținând soluția
de condamnare anterioară pronunțată inițial de Curtea de primă înstanță din amsterdam .Pentru a
pronunța această hotărâre curtea a observat că în anul 2013 în urmarea primirii de către poliția
olandeză a două rapoarte de la platforma facebook a fost demarată o anchetă penală.Potrivit
Facebool o persoană necunoscută cu cel puțin 86 de conturi Facebook interconectate colecta
,producea și distribuia imagini cuprinzând scene de exploatare a copiiilor.Această persoană
necunoscută a șantajat zeci de fete minore folosindu-se de imaginile amintite și un număr însemnat
de persoane adulte de sex masculin .În ceea ce privește una dintre acuzații ,cea dce agrețiune
sexuală inculpatul a sustinut că deoarece contactul cu victima s- a realizat prin intermediul camerei
web nu a avut loc niciun contact fizic ,iar victima nu ar fi fost constrânsă în vreun fel să consimtă
la realizarea actelor cu conotație sexuală.Pentru existența infracțiunii ,ăn conformitate cu legislația
olandeză constrângerea victimei trebuie să se fi produs de o asemenea manieră încât victima să nu
aibă altă opțiune decât să coopereze.Cum victima nu a opus nicio rezistență această contrângerea
nu a existat în opinia inculpatului ,astfel nu s-a comis nicio tentativă de agresiune sexuală.Curtea
a motivat că interpretarea art 246 din codul penal olandez se referă la faptul că o constrângere a
unei persoane să comită o faptă prin amenințare cu o faptă vătămătoare la adresa acesteaia poate
exista doar dacă suspectul prin amenințarea cu această faptă a determinat în mod deliberat victima
să efectueze asemenea acte în potriva voinței .Faptul că înculpatul a constrâns în mod deliberat
victima ,amenințând ca va distribui imagini compromisătoare ,a arătat clar că victima s-a simțit
constrânsă să consimtă la realizarea actelor sexuale .

Așadar din această speță putem să realizăm ca este o analogie in defavoarea inculpatului mai
mult decât atât platforma facebook nu trebuia să permită asemenea lucruri și cred că putem vb
atât de răspunderea infractorului cât și de răspunderea platformei Facebook ,entitate AI.
9
Page
6Un alt caz interesant a fost cel al inculpatului Mathiw Brown Kin în 2019. În acest caz, o
persoană a fost condamnată pentru prima dată pentru transmiterea în direct pe internet a unor
abuzuri sexuale asupra copiilor care a avut loc în Filipine, acesta realizând transmisia de la
reședința sa din Scoția în construirea acuzării. Organele judiciare s-au bazat aproape în totalitate
pe probele constând in imaginile și filmările pe care inculpatul le-a înregistrat.Identitatea
victimelor a rămas necunoscută până astăzi. Mai mult au fost întâmpinate probleme în timpul
anchetei care au implicat transmiterea informațiilor de la compania Hommes la Agenția
Națională de criminalitate in Marea Britanie și întârzierea transmiterii informațiilor respective la
poliția din Scoția. În toată această perioadă, inculpatul a continuat să comită infracțiunea în acest
caz, inculpatul plătea mai bine de un euro pentru fiecare abuz comis în Filipine și transmis de el
LIVE .Printre infracțiunile pentru care a fost condamnat sunt incluse conspirația pentru viol,
conspirație pentru comiterea altor infracțiuni sexuale împotriva unor victime minore .El a pledat
vinovat, astfel că nu a mai avut loc niciun proces în fața instanței, nemaifiind analizate
acuzațiile,legalitatea probelor administrate și în cauză, nici încadrarea juridică a faptelor comise,
judecătorul care a dispus condamnarea, a declarat în mod explicit că l-a condamnat pe inculpat
ca și cum acestea ar fi comis crima în persoană.Din punctul meu de vedere, inculpatul a comis o
crimă pe internet, iar nu doar el este vinovatul, ci și platforma pe care a utilizat-o implicit
inteligența artificială ca mijloc prin care acesta a comis infractiunea .

8.Concluzii

Deși subiectul dezbătut în această lucrare pare unul de natura science fiction ,este de actualitate
pentru că o astfel de ipoteză ,respectiv cea a devenirii Intligenței Artificiale viitor subiect de drept
,poate deveni o realitate un următorii zece ,douăzeci de ani .Deja există discuții pe plan mondial
despre acest subiect,fapt arătat în capitolele anterioare ,iar legiutorul român va trebui să prevadă
anumite norme pentru a trata această problemă și de ce nu chiar să implementeze o legislație
specială .
10
Page

6
marea britanie | Jurisprudenta CEDO
olanda | Jurisprudenta CEDO
Bibliografie
1. Inteligența artificiala-viitor subiect de drept penal-Laura Maria Stănilă

2.artificial intelligence | Definition, Examples, Types, Applications, Companies, & Facts | Britannica
3.Claude E. Shannon | Information Theory Society (itsoc.org)
4.Ce este inteligența artificială și cum este utilizată? | Actualitate | Parlamentul European (europa.eu)

5.Sclavii în Roma Antică - Hotnights

6.Big data - Wikipedia
7.marea britanie | Jurisprudenta CEDO
8.olanda | Jurisprudenta CEDO
9.Parlamentul European cere limitarea folosirii inteligenţei artificiale | AGERPRES • Actualizează lumea.

11
Page