Probleme de etica referitoare la AI

(Inteligenta Artificiala)
Sursa: https://intelligence.sri.ro/etica-
masinilor/

Problematica eticii este abordată tot mai frecvent în discursul contemporan, cu trimitere
la domenii precum medicina, psihologia, cercetarea, dreptul sau activitatea de
intelligence. Raportându-ne la tendinţele lumii în care trăim apare, legitim, întrebarea:
Care sunt principiile etice după care trebuie să se ghideze evoluţia tehnologică?

Tehnologia ocupă un „spaţiu“ tot mai mare în viaţa noastră. Este vorba despre un spaţiu
fizic, demonstrat prin faptul că nu ne putem dezlipi de telefoanele mobile de tip
smartphone care au devenit un asistent personal. În societate putem considera
exemplificativă sintagma „nu exişti dacă nu ai cont de Facebook“, sau măcar de
Instagram, Twitter, Tumblr ori altă platformă de socializare.

Din perspectivă psihologică este relevant sentimentul de panică ce apare dacă telefonul
este pierdut sau uitat acasă.

Deep learning, machine learning și inteligenţa artificială

În acest context, evoluţia tehnologică, care aduce cu sine noi provocări precum deep
learning, machine learning şi artificial intelligence, devine subiectul principal al
dezbaterilor referitoare la etică. Cu toate acestea, studiile care încearcă să ofere un
răspuns complet la întrebarea enunţată se dovedesc a fi incapabile în a satisface
curiozitatea celor interesaţi, generând mai degrabă noi întrebări. Pot fi conturate două
perspective care să explice fenomenul şi anume, fie actorii implicaţi nu au reuşit încă să
identifice sau să formuleze principii etice care să fie urmate în procesul de creare a
inteligenţei artificiale (Artificial Intelligence), fie atenţia acestora nu se îndreaptă încă în
acea direcţie.

Inteligenţa artificială între alb și negru

Deşi ignorată, de multe ori, etica este un aspect esenţial în orice domeniu de activitate,
cu atât mai mult în cele în care distincţia dintre alb şi negru este dificil de realizat, iar
repercusiunile se pot transforma în adevărate crize, dezastre sau situaţii incerte.
Tehnologia poate fi un astfel de domeniu prin prisma interconectivităţii cu toate celelalte
domenii şi a dependenţei pe care o creează.
Mai mult, se preconizează că evoluţia tehnologică, prin investiţiile enorme în
dezvoltarea Artificial Intelligence (AI), va schimba complet întreaga lume. Este important
să cunoaştem unde se va plasa această schimbare pe o scală de la alb la negru.
Companii mari precum Google, IBM şi Amazon fac progrese semnificative în
dezvoltarea AI, aducând pe scenă internaţională o cursă a tehnologizării între actori
non-statali, similară cu cea a înarmării dusă de SUA şi Rusia în era Războiului Rece.

Cu toate acestea, nimeni şi nimic nu poate garanta, în acest moment, siguranţa acestor
maşini autonome şi nici faptul că vor fi utilizate strict într-un scop nobil şi nu în interesul
celor care vor să afecteze buna desfăşurare a unor activităţi şi securitatea umană.
Entuziaşti ai tehnologiei manifestă o nerăbdare acută pentru momentul în care
ansamblele tehnologizate vor atinge potenţialul anticipat, însă cei a căror activitate
constă în menţinerea securităţii cetăţenilor şi a sistemelor ce îi deservesc pe aceştia
sunt preocupaţi mai degrabă de principiile legale care vor sta la baza funcţionării şi
utilizării inteligenţei artificiale şi, subsecvent, de etică.

Astfel, deşi inteligenţa artificială este încă la început de drum, autorităţile încep să
manifeste interes pentru domeniu. Departamentul de Transporturi al Statelor Unite a
lansat, în septembrie 2016, o broşură a regulilor privind vehiculele autonome, care pune
pe primul loc siguranţa tuturor participaţilor la trafic. Este evidenţiată, astfel, importanţa
pe care trebuie să o acordăm proiectării şi dezvoltării sistemelor bazate pe inteligenţă
artificială.

Etica în algoritmi

Inteligenţa artificială se bazează pe un algoritm care îi permite să îndeplinească o

sarcină anume, ulterior oferindu-i-se acces la o cantitate enormă de date relevante
pentru sarcinile sale. „Maşina“ foloseşte datele pentru a învăţa continuu şi a atinge
perfecţiunea. Putem aminti cazul sistemului Deep Blue care l-a învins la şah pe
campionul mondial Kasparov, sau cazul AlphaGo, realizată de Google, care a reuşit să
îl învingă la jocul de go – mult mai complex decât şahul – pe campionul mondial Ke Jie.

Cu toate acestea, într-un context în care avem un număr mai mare de variante din care
să alegem pentru a face o mutare sau pentru a acţiona, o persoană poate detalia tot
raţionamentul care a stat la baza deciziei, inclusiv atunci când acţionează intuitiv. În
ceea ce priveşte maşinile, lucruri nu stau deloc aşa, transparenţa deciziilor fiind una
dintre cele mai dezbătute probleme atunci când vine vorba de acurateţea şi siguranţa
alegerilor făcute de acestea.

În ambele cazuri menţionate, maşinile şi-au îndeplinit cu succes sarcinile, dar ce se

întâmplă atunci când o maşină responsabilă de viaţa pasagerilor săi face o greşeală? În
contextul lipsei de transparenţă, cum ne putem asigura că, în situaţia respectivă,
maşina a ales, într-adevăr, cea mai bună soluţie? Până la urmă, tot maşina a fost cea
care a determinat situaţia ca urmare a unui şir de decizii greşite. Într-o astfel de situaţie,
cine poate fi tras la răspundere pentru pierderile suferite: cei care au luat parte la
proiectarea AI sau cei care au permis funcţionarea acesteia în lipsa reglementărilor sau
prin slaba eficienţă a acestora?

Responsabilitatea este deopotrivă a tuturor celor implicaţi, motiv pentru care trebuie
instituit un cadrul legal clar privind funcţionarea inteligenţei artificiale. De asemenea,
este nevoie de multă atenţie, din partea celor implicaţi în dezvoltarea AI, atunci când se
pune problema siguranţei beneficiarilor lumii ultra-tehnologizate.

Securitatea cibernetică în contextul inteligenţei artificiale

Prin urmare, Inteligenţa artificială ar trebui să fie mai apropiată de natura umană, astfel
încât să câştige încrederea utilizatorilor/beneficiarilor şi să permită efectuarea unui audit
în cazul apariţiei unor erori. Deosebit de importantă este securitatea AI în faţa
încercărilor de corupere. Sistemul poate fi adus în stare de nefuncţionare sau poate fi
utilizat de persoane neautorizate în scopuri ce pot reprezenta adevărate ameninţări de
securitate. Pentru a preveni coruperea sistemului, pot fi luate în calcul două abordări,
din perspectiva accesului la modificarea algoritmilor de funcţionare. Astfel, se poate
permite accesul unui număr redus de persoane, dar astfel se multiplică riscurile ca
sistemul să fie utilizat într-un alt scop decât cel pentru care a fost iniţial proiectat.

O altă variantă presupune ca, în vederea reducerii vulnerabilităţilor şi riscurilor

menţionate, accesul să fie garantat unei singure persoane. Într-o astfel de situaţie ar
apărea dezbateri pe tema autorităţii excesive concentrate în mâinile unei singure
persoane. Nu trebuie să ignorăm că cele mai multe proiecte de realizare a inteligenţei
artificiale sunt dezvoltate pe baza unui proces de învăţare automat, cunoscut sub
numele de machine learning. Aceasta înseamnă că sistemului i se oferă acces la o
bază de date imensă pentru a putea „studia“. De cele mai multe ori, baza de date este
internetul. În acest context, riscurile de compromitere a sistemului cresc exponenţial, iar
încercările de construire a unui sistem complet securizat s-au dovedit, până în prezent,
fără succes. Libertatea tehnologică a permis apariţia unor tentative constante de evitare
a sistemelor de securitate.

Crearea unui mediu bine reglementat şi uşor de verificat rămâne singura soluţie pentru
funcţionarea adecvată a sistemelor bazate pe inteligenţă artificială, în acest fel fiind
reduse erorile care pot diminua avantajele evoluţiei tehnologice.

Abstract

Technology is filling more and more space in our world becoming a necessity.
Technological skills are an essential requirement for every field of activity. The world
has turned into a scene for the technological evolution race. This has advantages as
well as disadvantages that we must be aware of, in order to provide a safe world for the
present and future generations. We have to keep up with the evolution of smart devices
and with the race for the Artificial Intelligence development.
We have to benefit from the technological evolution keeping in mind the ethics. The
importance of machine ethics derives from the growth of autonomous machines that
can perform certain tasks faster than humans, serving us and, in certain cases,
becoming responsible for our lives. Thus we must pay attention to the way machines
are programmed to make decisions. The purpose is that, in the future, machines will not
turn against us.