Documente Academic
Documente Profesional
Documente Cultură
Abstract.
In a very fast developing world, it is important to pay special attention to the risks that come
along with the development. One of the great challenges of today’s world is the involvement of artificial
intelligence in all major sectors of our economy. The topic that the article will address is centered on
artificial intelligence from the civil liability point of view with the purpose of assessing whether the
current legal regime regarding civil liability is sufficient to meet the challenges that may rise along with
the presence of artificial intelligence in our lives. The complexity and the autonomy of AI systems raised
both legal and ethical issues and created the need of special regulatory framework in this regard. In order
to prevent the possible future negative outcomes, this project’s goal is to identify legal issues and propose
as a solution special regulations on artificial intelligence.
Key words : artificial intelligence, civil law, civil liability, special regulations.
Rezumat.
Într-o lume în curs de dezvoltare foarte rapidă, este important să se acorde o atenție deosebită
riscurilor care vin odată cu dezvoltarea. Una dintre marile provocări ale lumii de astăzi este implicarea
inteligenței artificiale în toate sectoarele majore ale economiei noastre. Subiectul pe care îl va aborda
articolul este centrat pe inteligența artificială din punct de vedere al răspunderii civile, cu scopul de a
evalua dacă regimul juridic actual privind răspunderea civilă este suficient pentru a face față provocărilor
care pot apărea odată cu prezența inteligenței artificiale în viețile noastre. Complexitatea și autonomia
sistemelor AI au ridicat probleme atât juridice, cât și etice și au creat necesitatea unui cadru de
reglementare special în acest sens. Pentru a preveni eventualele rezultate negative viitoare, scopul acestui
proiect este de a identifica problemele juridice și de a propune ca soluție reglementări speciale privind
inteligența artificială.
Cuvinte cheie : inteligență artificială, drept civil, răspundere civilă, reglementare specială.
Introducere
Una dintre cele mai mari provocări, foarte puternic dezbătute în ultima perioadă este
introducerea sistemelor de inteligență artificială (IA) în sectoarele importante ale societății cum
ar fi economia, sănătatea, educația, mediul de afaceri sau forța de muncă, tehnologiile bazate pe
IA fiind considerate capabile de a ne îmbunătăți viața în aproape toate domeniile, de la sfera
personală (de exemplu sectorul transporturilor, educația personalizată, asistență pentru
persoanele vulnerabile), la mediul de lucru (reducerea sarcinilor obositoare și repetitive) și la
provocările globale.
Însa pe lângă oportunitățile pe care inteligența artificială le poate crea pentru economia și
societatea noastră, aceasta poate să comporte și un risc de prejudiciere a intereselor, atât
materiale, cât și imateriale, protejate prin lege. Riscul producerii unor astfel de prejudicii va
deveni tot mai mare pe măsură ce domeniul aplicațiilor se va extinde.
Astfel, în contextul în care inteligența artificială presupune o abordare multidisciplinară
și având în vedere problematica profundă, proiectul de față își propune să analizeze răspunderea
civilă aplicabilă IA și necesitatea existenței unor cadre normative speciale în acest sens.
Pentru aceasta, se va face referire la articole privind răspunderea delictuală civilă din
cadrul Noului Cod Civil, la legi speciale precum legea24/2004 privind răspunderea
producătorilor pentru pagubele generate de produsele cu defecte, la rezoluții ale Parlamentului
European înaintate Comisiei cu privire la răspunderea în cazul sistemelor artificiale și la alte
articole relevante.
Inteligența artificială dinspre trecut spre viitor
IA este un concept dificil de definit, datorită ritmului său accelerat de dezvoltare precum
și datorită numeroaselor sale forme de existență. Astfel, există mai multe definiții date de diferiți
autori, urmând să se expună cele mai relevante dintre ele:
Potrivit English Oxford Dictionary, IA reprezintă „teoria și dezvoltarea sistemelor
informatice capabile să îndeplinească sarcini care necesită în mod normal inteligența umană,
cum ar fi percepția vizuală, recunoașterea vorbirii, luarea deciziilor și traducerea în mai multe
limbi”2.
Enciclopedia Britannica definește IA drept „capacitatea unui calculator digital sau a unui
robot controlat de calculator de a îndeplini sarcini asociate de obicei cu fințele inteligente” 3,
ființele inteligente fiind acele entități care see pot adapta la circumstanțe în schimbare.
1
One Hundred Year Study on Artificial Intelligence disponibil la adresa web https://ai100.stanford.edu/
2
A se vedea definiția IA potrivit English Oxford Dictionary la adresa web
https://www.lexico.com/definition/artificial_intelligence
3
A se vedea definiția IA potrivit Britannica la adresa web https://www.britannica.com/technology/artificial-intelligence
În manualul „Artificial Intelligence: A Modern Approach”, autorii Stuart Russel și Peter
Norvig definesc IA ca „studiul agenților care primesc percepții din mediul înconjurător și
efectuează acțiuni”4.
O definiție mai cuprinzătoare a IA a fost dată de către Grupul de experți la nivel înalt în
cadrul unui raport înaintat Comisiei Europene, conform căreia sitemele ce folosesc inteligența
artificială „sunt sisteme software proiectate de oameni, care, dacă li se dă un obiectiv complex,
acționează în dimensiunea fizică sau digitală, percepând mediul prin intermediul preluării
datelor, prin interpretarea datelor structurate sau nestructurate colectate, prin raționarea cu privire
la cunoștințe sau prin prelucrarea informațiilor obținute din aceste date și prin deciderea
celei/celor mai bune acțiuni care trebuie întreprinse pentru a realiza obiectivul dat. Sistemele IA
pot fie să utilizeze reguli simbolice, sau să învețe un model numeric și, de asemenea, își pot
adapta comportamentul analizând modul în care mediul este afectat de acțiunile lor anterioare.”5
7
A se vedea Figura 1 – Topografia unei rețele neuronale tradiționale Machine Learning sub titlul „Tabele și Figuri”
8
A se vedea Figura 2 – Topografia unei rețele neuronale Deep Learning sub titlul „Tabele și Figuri”
9
Dallas Card, The „black box” metaphor in machine learning, Towards Data Science, 5 iulie 2017 disponibil la adresa web
https://dallascard.medium.com/the-black-box-metaphor-in-machine-learning-4e57a3a1d2b0
Problema recunoașterii personalității juridice în cazul roboților ce folosesc IA
Obiectivul oricărui cadru juridic este de a asigura că toate produsele și serviciile, inclusiv
cele care folosesc tehnologii digitale, funcționează în condiții de siguranță și că prejudiciile
produse sunt reparate într-un mod eficient. Existența unui nivel de siguranță ridicat pentru
produsele și sistemele care includ tehnologii digitale noi și crearea unui mecanism robust de
reparare a prejudiciilor produse (cu alte cuvinte, cadrul în materie de răspundere) contribuie la o
mai bună protecție a consumatorului, lucru care va conferi încredere în aceste tehnologii,
condiție esențială pentru adoptarea lor atât la nivel industrial cât și la nivel de utilizator.
În prezent, răspunderea civilă delictuală este bine reglementată în Noul Cod Civil, unde
sunt prevăzute norme atât pentru răspunderea subiectivă (pentru fapta proprie), cât și pentru
10
Parlamentul European, Raport din 27 ianuarie 2017, accesibil la adresa web
https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html?redirect
11
A se vedea conținutul scrisorii deschise la adresa web http://www.robotics-openletter.eu/
12
R Abbott/A Sarch, ‘Punishing Artificial Intelligence: Legal Fiction or Science Fiction’, UC Davis Law Review,
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3327485
răspunderea obiectivă (pentru fapta altuia, pentru lucruri), în același timp existând și forme de
răspundere civilă reglementate de legi speciale cum este Legea nr. 240/2004 privind răspunderea
producătorilor pentru pagubele generate de produsele cu defecte 13, potrivit căreia producătorul
este considerat conform art.2 alin.1 lit. a):
„1. fabricantul produsului finit al unei materii prime sau părţi componente ale produsului;
2. orice persoană care se prezintă ca producător, prin faptul că îşi înscrie pe produs numele,
marca sau alt semn distinctiv;
4. orice altă persoană, care importă un produs din Uniunea Europeană în vederea vânzării,
închirierii, cumpărării sau altei forme de înstrăinare în cadrul activităţii proprii de
comercializare în cadrul societăţii, este considerată producător al acestuia şi răspunde în
aceeaşi măsură ca şi producătorul;
Având în vedere că AI este un „produs viu”, în sensul că se adaptează și învață din datele
nou obținute, există oricând posibilitatea ca produsul să evolueze, să nu mai corespundă „formei
inițiale”, deși algoritmul nu este schimbat, și producătorul să fie exonerat de răspundere conform
celor de mai sus. Astfel, se va ridica problema referitoare la cine va răspunde pentru prejudiciul
cauzat.
13
Publicată în M.Of. Partea I, nr. 552 din 22 iunie 2004 ca o transpunere a Directivei nr. 85/374/CEE din 25 iulie 1985
privind răspunderea producătorului, publicată în Jurnalul Oficial al Comunităţilor Europene (JOCE) nr. L210 din 7 august
1985, modificată şi completată prin Directiva nr. 1.999/34/CE a Parlamentului European şi a Consiliului, publicată în
Jurnalul Oficial al Comunităţilor Europene (JOCE), nr. L141 din 4 iunie 1999
Pentru a înțelege noțiunea de pază juridică, ne vom raporta la definiția dată de art.1377
Cod Civil, conform căreia paza juridică o are cel care „exercită în mod independent controlul și
supravegherea animalului sau a lucrului și se servește de acesta în interes propriu.”14
Analizând mai departe condițiile pentru existența și angajarea răspunderii prevăzute de
art. 1376 alin. (1) Cod Civil, vom vedea că trebuie îndeplinite cumulativ trei condiții: două
generale - un prejudiciu și raportul de cauzalitate dintre lucru și prejudiciu și una specială, ce
constă în faptul că lucrul care a cauzat prejudiciul este necesar să se afle în paza juridică a unei
persoane.15
Având în vedere autonomia, opacitatea și complexitatea sistemelor IA, așa cum au fost
explicate mai sus, se poate considera că paznicul juridic se află în imposibilitatea de a exercita în
mod independent controlul și supravegherea lucrului de care se servește, astfel nemaifiind
îndeplinite condițiile pentru atragerea răspunderii civile în temeiul art. 1376 Cod Civil.
Astfel se naște nevoia unor noi reglementări în materie de inteligență artificială pentru a
putea delimita situațiile care pot sau nu atrage răspunderea pentru sistemele ce folosesc IA în
cadrul art. 1376 din Codul Civil, ținând cont de caracterul autonom, complexitatea, opacitatea și
vulnerabilitatea sistemelor IA date de capacitatea de modificare prin actualizări și învățare.
(1) „Operatorul unui sistem de IA cu grad ridicat de risc este răspunzător obiectiv pentru
orice daune sau prejudicii care au fost cauzate de o activitate fizică sau virtuală, de un
dispozitiv sau un proces condus de acest sistem de IA.
(2) Operator înseamnă persoana fizică sau juridică care exercită un grad de control asupra
unui risc legat de operarea și funcționarea sistemului de IA și care beneficiază de
operarea acestuia;
(3) Operatorii unor sisteme de IA cu grad ridicat de risc nu se pot exonera de răspundere
susținând că au acționat cu diligența necesară sau că dauna sau prejudiciul a fost cauzat
de o activitate autonomă, de un dispozitiv sau de un proces determinat de sistemul lor de
IA. Operatorii nu sunt considerați răspunzători dacă dauna sau prejudiciul a fost cauzat
de un caz de forță majoră.”
În completarea propunerilor legislative, se doresc a fi în considerate și următoarele aspecte:
1. Întrucât autonomia sistemelor IA ridică problema naturii lor în contextul actualelor
categorii juridice, a se avea în vedere crearea unei noi categorii, cu propriile sale
caracteristici și implicații.
2. Întrucât, cu cât sunt mai autonome, cu atât mai puțin pot fi considerate simple
instrumente la dispoziția paznicului lor juridic, a se avea în vedere crearea unor condiții
14
A se vedea cum este definită noțiunea de pază în conformitate cu Noul Cod Civil https://www.codulcivil.ro/art-1377-
notiunea-de-paza/
15
A se vedea Liviu Pop - Tratat elementar de drept civil. Obligațiile, Universul Juridic, București 2012, pag. 508
16
A se vedea Rezoluția Parlamentului European din 20 octombrie 2020 conținând recomandări adresate Comisiei privind
regimul de răspundere civilă pentru inteligența artificială la adresa web
https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_RO.html
speciale de angajare a răspunderii în funcție de tipul de IA implicat și totodată stabilirea
unor criterii de clasificare a sistemelor IA în funcție de complexitatea acestora.
3. Întrucât în situația în care un sistem IA poate lua decizii autonome, însă nu poate fi ținut
răspunzător per se pentru acte care provoacă daune unor terți, a se avea în vedere crearea
unui mecanism de asigurare obligatoriu pentru folosirea sistemelor IA (similară celei deja
în uz aplicabilă autovehiculelor).
Concluzii
Tabele și Figuri :
Figura 1. Topografia unei rețele neuronale Machine Learning
Sursa: https://miro.medium.com/max/2640/1*fB4Jkdlc-a5dDFeAVQVqbQ.png
Figura 2. Topografia unei rețele neuronale Deep Learning
Sursa : https://www.researchgate.net/profile/Meriem-Bahi/publication/330120030/figure/fig1/
AS:735637925797888@1552401157053/Deep-Neural-Network-architecture.ppm