Inteligena artificial

ntre tehnologie i etic

Silviu IONI1

silviu.ionita@upit.ro
ABSTRACT: The present study addressed the issue of artificial
intelligence (AI) in connection with both technological and social
dimensions. AI is intrinsicaly an interdisciplinary field covering
engineering, natural sciences, mathematics and computer sci
ence, psychology, social science, science of communication, etc.
Scientific research evolves rapidly and certain progress that fore
shadows the emergence of technical systems trends to change
peoples life style and even provide new models for human soci
ety. The impact of advanced research in traditional subbranches
of AI, such as robotics and software engineering research is cur
rently multiplied by deepest insights regarding artificial mind
and building the artificial brain. These things sound challenging
but also raise new problems and even some fears. AI is no longer
just a game of imagination or a software paradigm simulators;
it is found already incorporated in physical things created with
noble purpose to make our lives better. The super tech clear trend
will lead human society in a position to cooperate with increas
ingly intelligent systems, as intelligent as humans, perhaps
superintelligent. Assuming that God will allow us to do that, still
remains to answer a lot of questions on one major topic: How
human society will live together with others artificial?
KEYWORDS: Artificial Intelligence, robotics, artificial brain,
autonomous systems, ethics.
Metafore i paradigme n inteligena artificial (IA)
n 1956 John McCarthy2 a introdus termenul de inteigen artificial
oferind i o definiie concis a acesteia: tiina i ingineria producerii de

Prof.univ.dr.inginer la Departamentul de Electronic, Calculatoare i Inginerie Elec

tric, Universitatea din Piteti; membru titular CRIFST (Filiala CRIFST Arge).
2
19272011, profesor i cercettor la Stanford University, unul dintre fondatorii
inteligenei artificiale
1

STUDII I COMUNICRI / DIS, vol. VIII, 2015

106

Silviu IONI

maini inteligente. Definiia lui McCarthy se ncadra perfect n spiritul

epocii de pionierat a calculatoarelor numerice i a apariiei limbajului de
programare LISP (LISt Processing) recunoscut ca primul limbaj de pro
gramare specific inteligenei artificiale. Astfel, primele concepte despre
inteligena artificial au fost dominate de viziunea calculabilitii i a lim
bajelor de programelor software. Pn la sfritul anilor 60 se poate spune
c inteligena artificial a parcurs o perioad a cristalizrii conceptuale
epoca definiiilor, a teoremelor i a conjecturilor. nc n 1931, Kurt Godel3
afirma prin aa numitele teoreme ale incompletitudinii c nici un sistem
formal procedural bazat pe un set consistent de axiome nu poate demon
stra toate adevrurile i, mai mult, un astfel de sistem formal nui poate
demonstra propria consisten. Prin urmare, teoremele lui Godel prefi
gurau faptul c nici un program de calculator nar putea demonstra toate
afirmaiile adevrate. Ulterior, n 1950 Alan Turing4 a propus o convenie
referitoare la inteligena artificial consacrat sub forma testului cei
poart numele: dac o maina se comporta la fel de inteligent ca o fiin
uman, atunci e la fel de inteligent ca o fiin uman. Astfel, se acredi
teaz ideea c inteligena unei maini ar putea fi evaluat, bazndune doar
pe comportamentul ei. Majoritatea opiniilor, argumentelor i conjecturilor
enunate n epoca respectiv au supraevaluat perspectiva computaional
ca viziune dominant asupra inteligenei artificiale. Chiar dac acestea
reprezint doar o component limitat a ceea ce astzi nseamn un sistem
inteligent, merit s le menionm ca puncte de referin pentru evoluia
domeniului.
Concluzia Conferinei din Dartmouth5 (1956): fiecare component a
procesului de nvare sau oricare alt aspect al inteligenei, poate fi descris
atat de precis, nct putem nva o main cum s l simuleze. ntrunirea
de la Darthmouth College a consacrat practic inteligena artificial ca
domeniu de studiu i cercetare.

19061978, logician, matematician i filozof american de origine austriac

19121954, matematician, logician i criptanalist britanic, pionier, personalitate
proeminent n tiina calculatoarelor
5
Dartmouth Summer Research Project on Artificial Intelligence, evenimentul care a
consacrat naterea inteligenei artificiale ca domeniu
3

Inteligena artificial ntre tehnologie i etic

107

Conjectura simbolurilor fizice susinut de Allen Newell6 i Herbert

Simon7: un sistem fizic simbolic ofer mijloacele suficiente i necesare
pentru a se aciona n mod inteligent. Aceasta teorie susine ca esena
inteligenei const n manipularea simbolurilor.
Conjectura inteligenei artificiale puternic: calculatorul programat
adecvat i dotat cu intrri i ieiri potrivite, ar avea o minte proprie, n
aceeai manier n care oamenii au i ei una.
Argumentul creierului artificial potrivit cruia creierul poate fi simu
lat este susinut de Hans Moravec8, Ray Kurzweil9 i alii. ncurajai de
evoluia fabuloas a electronicii i ingineriei software, acetia susin ca e
posibila copierea unui creier corect n software i hardware i, mai mult, o
asemenea simulare ar fi identic cu originalul. Acest argument combin
ideea c o main indeajuns de puternic poate simula orice proces, cu
ideea materialist, conform creia mintea e rezultatul proceselor fizice din
creier.
Pentru a nelege mai bine modul n care inteligena artificial ridic
probleme de natur etic este important s facem o scurt trecere n revist
a parcursului su conceptual i tehnologic.
Reperele istorice n dezvoltarea inteligenei artificiale pot fi gsite
nc din antichitate, acestea avnd o baz mitologic. Talos din Creta este
considerat primul robot antic, acesta fiind o main complet operaional
construit de Hefaistos zeul metalurgiei i al modelrii prin sculptur,
unul dintrei cei 12 zei ai Olimpului [4]. Mitul lui Pygmalion al nzestrrii
unei creaii materiale sub form uman Galatea cu suflet i minte este un
alt exemplu n acest sens.
n epoca modern, tema fiinelor artificiale apare mai degrab n lite
ratura de anticipaie, considerat la nceputul secolului XX o literatur

19271992, personalitate remarcabil n domeniul inteligenei artificiale i al psihologiei

cognitive umane
7
19162001, personalitate multilateral, laureat al premiului Nobel, considerat printele
fondator al mai multor domenii printre care: inteligena artificial, sisteme complexe,
procesarea informaiei i luarea deciziilor
8
1948 robotician, cercettor n domeniul vederii artificiale, scriitor n domeniul
impactului tehnologic
9
1948 inventator n domeniul scanrii i recunoaterii optice a caracterelor, scriitor
futurist
6

108

Silviu IONI

periferic. Fraii Karel10 i Josef Capeck11 sunt primii care au introdus

termenul de robot ca structur antropomorfic n literatur. n opera sa
de ficiune Isac Asimov12 ridic robotul la rangul de personaj capabil s
interacioneze cu oamenii. Roboii lui Asimov sunt implicai n situaii
critice adesea cu miz crucial pentru existena umanitii in care, dezno
dmntul se deruleaz n virtutea unor legi ce guverneaz comportamentul
roboilor i mainilor inteligente. n planul opus ficiunii n domeniul
tehnologic, evoluia domeniului inteligenei artificiale se poate sintetiza
cronologic astfel:
Prima jumtate a sec XX este epoca fundamentelor inteligenei artifi
ciale n care sau pus bazele utilizrii logicii formale n raionamente i a
metodelor formale de manipulare a simbolurilor. Rezultatele mai multor
matematicieni i logicieni cum sunt Kurt Godel, Ian Lucasiewicz13, Emil
Leon Post14, Andrei Kolmogorov15, Alonzo Church16, Alan Turing, au creat
germenii apariiei inteligenei artificiale ca domeniu de cercetare.
Anii 50 i 60 reprezint epoca de nceput a inteligenei artificiale,
considerat perioda clasic de dezvoltare a domeniului. Este epoca n care
calculatoarele electronice i limbajele de programare evolueaz rapid,
ceea ce permite testarea i validarea modelelor teoretice. Noile tiine
care apar i se impun n acea perioad cibernetica (Norbert Wiener17)
i teoria informaiei (Claude Shanon18) contribuie deasemenea la dezvol
tarea inteligenei artificiale. Calculul neuronal bazat pe modelul propus
18901938, scriitor i dramaturg ceh, autor de proz fantastic i de ficiune romanul
War with the Newts i piesa R.U.R. (Rossums Universal Robots).
11
19021982, pictor, scriitor i poet ceh, inventatorul de facto al termenului robot preluat
de Karel Capek n scrierile sale de anticipaie.
12
19201992, autor genial i extrem de prolific al genului sciencefiction.
13
18781954, profesor de logic i filozofie polonez, creator n domeniul logiciilor
multivalente.
14
18971954, matematician i logician american de origine rusa cu contributii n teoria
calculului.
15
19031987, matematician rus cu contribuii n complexitatea calculului, teoria
informaiei, logica intuiiei.
16
19031995, matematician i logician american cu contribuii n logica matematic i
teoria calculatoarelor.
17
18941964, matematician i logician american recunoscut ca iniiator al domeniului
ciberneticii.
18
19162001, matematician i inginer electronist recunoscut drept printele teoriei
informaiei.
10

Inteligena artificial ntre tehnologie i etic

109

de Walter Pitts19 i Warren McCulloch20 la sfritul anilor 40 este con

ceptualizat sub forma modelelor conexioniste i este implementat n
programe de calculator. Impulsionat de aceste cercetri, n 1951 Marvin
Minsky21 proiecteaz i realizeaz SNARC (Stochastic Neural Analog
Reinforcement Calculator), o reea neuronal mplementat hardware
cu tuburi electronice, considerat prima main autoinstruibil. ncepe
perioada de avnt a reelelor neuronale marcat de crearea perceptronului
de ctre Frank Rossenblat22, ca model simulativ n 1957 i mai trziu, n
1960, ca sistem hardware cunoscut sub numele de Mark I Perceptron pri
mul computer care putea s deprind prin nvare noi abiliti folosind
tehnica ncercareeroare. Tot n aceast perioad apar realizri remarca
bile ntro direcie care avea s consacre mai trziu rolul definitoriu al
sistemelor expert n dezvoltarea inteligenei artificiale. Astfel, n 1956
Allen Newell, Herbert Simon i John Clifford Shaw23 prezint The Logic
Theorist primul program de demonstrare a teoremelor, iar n 1959 ei
creaz General Problem Solver un program care ncerca s rezolve orice
problem descris prin clauze sub form de reguli, folosind logica formal.
n aceast perioad se remarc programul de jucat ah creat de Arthur Lee
Samuel24 n 1960 acesta fiind primul program care aplica strategii de
evaluare bazate pe calcul simbolic i tehnici de procesare adaptive, care
i permiteau si amelioreze performanele dup fiecare partid jucat.
O perioad distinct n dezvoltarea inteligenei artificiale se deschide
n anul 1965, odat cu nceperea construirii la Stanford University a pri
mului sistem expert numit DENDRAL. n aceast perioad se lucreaz
intens pentru dezvoltarea de noi limbaje de programare orientate pe obiect
potrivite pentru rezolvarea nonnumeric a problemelor de logic. n
anul 1965 Lotfi Zadeh25 public lucrarea Fuzzy Sets, care avea s deschid
19231969, logician american cu contribuii n calculul neuronal.
18981969, neurofiziolog i cibernetician american cu contribuii n modelarea reelelor
neuronale.
21
1927, personalitate n domeniul tiinelor cognitive, cofondator al domeniului
inteligenei artificiale.
22
19271971, psiholog american cu contribuii notabile n inteligena artificial, creatorul
perceptronului.
23
19221991, pionier n programarea calculatoarelor, contributor la dezvoltarea primelor
programe aplicative pentru inteligen artificial (alturi de A. Newell i H. Simon).
24
19011990, pionier n domeniul jocurilor pe calculator, creatorul primului program cu
inteligen artificial pentru jocul de ah.
25
1921, matematician, inginer electronist, cercettor n inteligena artificial, profesor
19

20

110

Silviu IONI

drumul ctre modelarea raionamentului aproximativ cu ajutorul logicii

multivalente continue logica de tip fuzzy. n acest domeniu se remarc i
contribuiile unor personaliti romne precum Grigore Moisil26, care nc
din 1941 a publicat seria de lucrri Contributions sur letude des logique
nonchryspienes, ulterior dezvoltnd algebrele cunoscute astzi sub
numele de ukasiewiczMoisil. Prin cercetari aplicative n domeniul sis
temelor fuzzy se disting personaliti precum Constantin Virgil Negoi27
i HoriaNicolai Teodorescu28. Un moment de referin este marcat n 1972
odat cu apariia limbajului PROLOG special dezvoltat pentru programa
rea logic, utiliznd elemente de lingvistic computaional. Un moment
de cotitur n istoria inteligenei artificiale este considerat apariia n 1969
a lucrrii Perceptrons scris de Marvin Minsky i Seymour Pappert29. n
aceast lucrare, autorii dei recunosc rolul percepronului ca model esenial
de reea neuronal artificial demonstreaz unele limite ale acestuia indu
cnd o perspectiv pesimist a modelelor conexioniste n general pentru
viitorul inteligenei artificiale. Impactul acestei lucrri n comunitatea
tiinific a avut un efect mai degrab negativ, declannd o controvers
la acea vreme, n urma creia conceptul de modelare a cunotinelor
nestructurate ntrun cadru numeric, specific reelelor neuronale a fost
oarecum ignorat n favoarea modelelor bazate pe prelucrarea simbolic a
cunotinelor structurate. Pn la mijlocul anilor 80, cnd acest punct de
vedere a fost reconsiderat prin cercetrile ntreprinse de John Hopfield30,
David Rumelhart31 i alii, inteligena artificial a cunoscut aa numita
iarn a IA o perioad marcat de reducerea fondurilor de cercetare i n
general scderea interesului comunitii tiinifice pentru acest domeniu.
Epoca respectiv se remarc totui prin crearea unui numr apreciabil de
sisteme expert care au devenit aplicaii de referin pentru modelele de
prelucrare simbolic a cunotinelor. Astfel, dac n anii 70 se susinea
cu trie c inteligena artificial are limite serioase pentru a fi integrat n
emerit la University of California, Berkeley.
10961973, matematician romn, considerat printele informaticii romneti.
1936 , profesor emerit la City University of New York.
1951 , profesor universitar, membru corespondent al Academiei Romne.
1928 , matematician, informatician i pedagog american de origine sudafrican, unul
din pionierii inteligenei artificiale.
30
1933 , personalitate tiinific recunoscut pentru inventarea reelelor neuronale
asociative.
31
19422011, psiholog american cu contribuii n analiza formal a gndirii umane.

27

28

29

26

Inteligena artificial ntre tehnologie i etic

111

aplicaii productive, nceputul anilor 80 marcheaz succesul comercial al

sistemelor expert.
Se poate spune c anul 1981 a anunat zorii unei perioade foarte
promitoare pentru evoluia inteligenei artificiale perioada contem
poran. Este anul cnd Ministerul Japonez al Comerului Internaional
i al Industriei demareaz un program de cercetare ambiios, cunoscut
sub numele de Calculatorul de generaia a 5a. Acesta avea drept obiec
tiv crearea unei structuri hardware i software capabil s converseze n
limbaj natural cu omul, s interpreteze imagini i s raioneze ca o fiin
uman. Dup euforia nceputului, rezultatele acestui program devenit de
curs lung au fost evaluate la fiecare decad. Dup 30 de ani, n 2011 inta
major a programului era nc neatins. Similar, n 1983 SUA declanaz
prin DARPA32 programul de cercetare Strategic Computing Initiative,
care avea ca obiective finanarea cercetrilor emergente n domeniul cal
culatoarelor i al inteligenei artificiale menite s dezvolte inteligena
mainilor. Acest program a avut un impact notabil n dezvoltarea microe
lectronicii i a supercalculatoarelor, dar n ansamblu obiectivele majore au
rmas nendeplinite pn n prezent. ncepnd cu 1990 inteligena artifici
al este puternic susinut de dezvoltarea sectorului TIC i se afl constant
la baza tehnologiilor avansate din diferite industrii oferind beneficii, per
formane spectaculoase i nu n ultimul rnd profit financiar. n ciuda unor
sincope temporare datorate mai degrab pieelor de capital, dezvoltarea
domeniului inteligenei artificiale a devenit emergent cu diverse direcii
de cercetare, cea ce reflect practic complexitatea i caracterul su mul
tidisciplinar: sisteme bazate pe cunotine, sisteme cognitive, maini de
nvat, inteligena computaional, ageni inteligeni, iar la acestea putem
aduga bioinformatica, webul semantic i altele.
Contextul social i tehnologic cerinele, realitile i tendinele actuale
pot fi descrise n termeni generici astfel:
Societatea informaional este n plin evoluie ctre societatea
bazat pe cunoatere.
Cercetarea tiinific aplicativ a generat o mas critic de proiecte
majore.
Defense Advanced Research Projects Agency, organism responsabil cu dezvoltarea de
tehnologii emergente pentru domeniul militar.

32

112

Silviu IONI

Competitivitatea economic genereaz o piaa concurenial n

domenii sensibile: resursele umane, resursele materiale i energetice.
Dezvoltarea durabil i sustenabil a societii impune noi stan
darde de convieuire i supravieuire.
Aceste trsturi determin n prezent evoluia accelerat in domeniul
ingineriei sistemelor cu inteligen artificial, pe de o parte i emergena
IA cu neurotiinele i psihologia, pe de alt parte. n prezent se deruleaza
ample cercetari interdisciplinare n cadrul unor proiecte ambiioase cum
sunt creierul artificial, autovehiculul autonom, robotica humanoid, de la care
se ateapt un impact major asupra calitii vieii individuale i o mai bun
funcionare a societii umane n general. Asistm astzi la reconsiderarea
inteligenei artificiale din perspectiva filozofic i revigorarea conexiunilor
ei cu psihologia, teoria limbajelor naturale i lingvistica computaional.
n acest domeniu este locul s menionm meritul cercettorilor romni
Solomon Marcus33 i Dan Ioan Tufi34 pentru contribuii n legtur cu
formalizarea i dezvoltarea instrumentelor computaionale de prelu
crare a limbajelor naturale. Filozofia minii este un curent de reflecie
care sa remarcat n toate timpurile, ncepnd cu gnditorii antici pre
cum Aristotel35, Chrysippus36, i continund cu David Hume37 considerat
iniiatorul tiinelor cognitive [2], Descartes38 fondatorul raionalismului,
pn la reprezentanii contemporani John Searle39 i Hubert Dreyfus40. n
lucrarea sa de referin What Computers cant do. The limits of Artifficial
Intelligence, Dreyfus afirm Expertiza uman depinde mai mult de instinc
tul incontient, dect de manipularea contient a simbolurilor i de faptul c
putem simi o situaie, dect de a avea o inelegere explicit simbolic, iar
John Searle ntrun interviu se pronun pe ct de simplu, pe att de clar:
Doar cu obiecte caracterizate sintactic, cum ar fi cifrele zero i unu i cu un set
de reguli formale pentru manipularea lor (programul) nu este suficient pentru


35

36

37

1925 , matematician romn, membru titular al Academiei Romne.

Cercettor tiinific, profesor universitar, membru titular al Academiei Romne.
384322 BC, filozof grec cu idei notabile n logic, teoria silogismului, teoria sufletului.
279 c. 206 BC, filozof stoic grec cu reflecii excelente n logic, teoria cunoterii i etic.
17111776, filozof scoian remarcabil pentru lucrarea sa de referin A Treatise of Human
Nature (1739).
38
15961650, filozof i matematician francez.
39
1932, filozof american cu contribuii n filozofia minii, filozofia limbajului, critic al
conjecturii inteligenei artificiale puternice.
40
1929, filozof american, cu preocupri n implicaiile filozofiei n inteligena artificial,
critic al IA computaionale.
33

34

Inteligena artificial ntre tehnologie i etic

113

gndirea n sine, deoarece gndirea implic mai mult dect manipularea de sim
boluri, ea implic coninut semantic.
Aceste linii de gndire mpreun cu teoriile cognitive generate de
progresul constant al cercetrilor n psihologie i neurobiologie traseaz
cadrul actual de dezvoltare a inteligenei artificiale, focalizat pe modelarea
minii umane i construcia creierului artificial. Spectrul actual al cerce
trilor legate de inteligena artificial a depit cu ndrzneal chiar i
limitele pe care leau enunat vizionarii corifei n epoca clasic a domeniu
lui, construcia creierului uman fiind de departe cel mai ambiios program
de cercetare. Un numr recent al magazinului IEEE Pulse publicaie a
IEEE Engineering in Medicine and Biology Society, aprut sub generi
cul The Brain Connection. Unloking Secrets to Learning, Disease, and
More [1] este consacrat prezentrii stadiului celor mai importante pro
iecte din domeniul ingineriei creierului: Human Brain Project cunoscut
ca Blue Brain Project, proiectul SpiNNaker i proiectul BrainScaleS.
Dei scopul general al acestor proiecte este acelai, abordrile sunt dife
rite: Blue Brain va fi un creier virtual incorporat ntrun supercomputer,
n timp ce SpiNNaker se bazeaz pe o structur neuronal, implemen
tat pe un sistem multiprocesor cu circuite masiv paralele, inspirat din
modul de lucru al creierului uman. BrainScaleS se bazeaz pe o structur
neuromorfic hibrid de calcul ierarhizat, similar creierului, care sa
dovedit a fi de 10.000 de ori mai rapid dect structura biologic original.
Revoluia neurotehnologic este deasemenea o direcie forte n nelegerea
mecanismelor profunde ale creierului uman, progresnd n sensul crerii
dispozitivelor de interfa dintre creier i calculator, respectiv cu alte sis
teme externe, cum sunt protezele, diferii senzori, etc.
Revenind la tehnologie, n societatea noastr construcia de maini
i sisteme inteligente avanseaz temeinic, valorificnd din plin para
digme ale inteligenei computaionale ncorporate n produse devenite
deja comerciale cum sunt: vederea artificial/analiza imaginilor, prelucra
rea limbajului natural, sistemele distribuite de comand i monitorizare
bazate pe ageni. Alte paradigme provocatoare n inteligena artificial
cum sunt inteligena social i affective computing i creaz drum pen
tru un transfer tehnologic la scar global alturi de tehnologii emergente
cum sunt smart grid, internet of things i pervasive computing. Strns legat
de una dintre problemele noastre cotidiene transportul se prefigureaz
un alt exemplu provocator: Intelligent driving & Autonomous vehicle. Graie

114

Silviu IONI

evoluiei sistemelor bazate pe microsisteme n industria autovehicule

lor [3], inteligena ncorporat la bordul autovehiculelor i capacitatea
acestora de a comunica cu o infrastructur rutier la fel de inteligent va
atinge o mas critic ce va permite apariia comercial a autovehiculelor
autonome.
Etica privind inteligena artificial este o parte a eticii tehnologiei spe
cific roboilor i altor fiine/entiti cu inteligen artificial. Etica este
definit n general ca domeniu de studiu teoretic al principiilor i concepiilor
de baz din orice domeniu al gndirii i activitii practice; un ansamblu de
norme n raport cu care un grup uman i regleaz comportamentul pentru a
deosebi ce este legitim i acceptabil n realizarea scopurilor; moral. Aspectele
ce in de etic sau moral n general constituie adesea un subiect de contro
vers, atunci cnd sunt puse la ndoial scopurile cercetrii tiinifice, care
de cele mai multe ori, n esen, sunt considerate nobile. Marvin Minsky
afirma cu o not de ironie: An ethicist is someone who sees something
wrong with whatever you have in mind. Totui, avnd n vedere c teh
nologia accesibil ar permite creerea i utilizarea inteligenei artificiale n
mod iresponsabil, exist motive de ngrijorare n ceea ce privete compor
tamentul moral al oamenilor n timp ce proiecteaz, construiesc, utilizeaz
i interacioneaz cu fiine sau entiti inteligente artificiale acest dome
niu de interes fiind numit roboetic. n aceeai not de interes, exist i
temeri cu privire la comportamentul entitilor artificiale construite n
raport cu creatorii lor umani domeniu numit etica mainilor. Primele
elemente de etic au vizat tocmai acest ultim aspect i au fost magistral
enunate de Issac Asimov. Consacrate sub denumirea de legile roboticii
ele reprezint n fond un set detrei reguli, care se enun asfel: Legea 1
Un robot nu are voie s pricinuiasc vreun ru unei fiine umane, sau, prin
neintervenie, s permit ca unei fiine omeneti s i se fac un ru; Legea 2
Un robot trebuie s se supun ordinelor date de ctre o fiin uman, att
timp ct ele nu intr n contradicie cu Legea 1; Legea 3 Un robot trebuie si
protejeze propria existen, att timp ct acest lucru nu intr n contradicie cu
Legea 1 sau Legea 2. Ulterior, Asimov a enunat aa numita Lege suprem
sau Legea 0 Un robot nu are voie s pricinuiasc vreun ru umanitii sau s
permit prin neintervenie ca umanitatea s fie pus n pericol.
Provocrile de ordin etic se manifest proporional cu inevitabila
evoluie tehnologic prin apariia unor sisteme tehnice ce tind s schimbe
fundamental modul de via al oamenilor i s ofere chiar noi modele de

Inteligena artificial ntre tehnologie i etic

115

funcionare a societii umane. Inteligena artificial nu mai este doar un

joc de imaginaie sau o paradigm software simulativ; ea se regsete
deja ncorporat n lucruri fizice create cu scopul nobil de a ne face viaa
mai bun. Tendina clar de supertehnologizare va duce societatea uman
n situaia de a coopera cu sisteme tot mai inteligente, la fel de inteligente
ca i omul, poate chiar superinteligente. Este normal, de pild, s evalum
gradul de ncredere ntrun vehicul autonom care ne transport, sau n
mod particular ntrun avion fr pilot uman care efectueaz o aterizare
pe timp de noapte. n aceeai msur, trebuie s ne punem problema
responsabilitii sistemelor inteligente, a rspunderii pentru consecinele
aciunilor lor.
Pornind de la ideea general unanim acceptat conform creia cre
ierul uman este mult mai mult dect o main de calcul, din perspectiva
mecanismelor cognitive creierul artificial ar putea fi realizat ntrun inter
val de timp rezonabil. Potrivit prediciei lui Ray Kurzweil folosind legea
lui Moore41, IA ar putea s triumfe conform urmtorelor predicii: pn
n anul 2029 calculatoarele personale vor avea aceeai putere de procesare
ca i creierul uman, i pn n 2045, IA va putea s se autoproiecteze i s se
autombunteasc.
n prezent, pe lng deficitul recunoscut de putere de calcul i pre
lucrare, exist i o insuficien a modelelor de raionament care trebuie
implemnentate pe hardwareul existent. Astfel, dintre cele trei tipuri
fundamentale de raionament: logicformal, analogic i intuitiv, pen
tru ultimul nu exist nc un model robust care s poat fi implementat
hardware sau software. Ori, tocmai raionamentul intuitiv (Commonsense
Reasoning) este cel care contribuie la diferena major dintre inteligena
uman i cea artificial. Privind holistic, neechivalena dintre cele dou
tipuri de inteligen este ilustrat n Fig.1.
Efortul de cercetare pe drumul de reproducere prin mijloace artificiale
a consistenei intelectului uman i chiar mai adnc, deschide posibilitatea
realizrii unei structuri de creier artificial care s deruleze procese avansate
de prelucrare a informaiei specifice minii umane: gndirea, imaginaia
Legea lui Moore descrie o tendin pe termen lung n istoria mainilor de calcul:
numrul de tranzistori care pot fi plasai pe un circuit integrat se dubleaz aproximativ
la fiecare doi ani. Aceast tendin a continuat de mai bine de o jumtate de secol. Surse
din 2005 se ateptau ca aceast tendin s continue cel puin pn n 2015 sau 2020.
(Sursa: https://ro.wikipedia.org).

41

116

Silviu IONI

& creativitatea. Demersul de cercetare pentru implementarea de procese

noncognitive va conduce n viitor la crearea unor maini cu statut moral
nzestrate cu contiin (sau cel puin, cu un tip particular de contiin)
i chiar la umanizarea mainilor acestea devenind capabile s manifeste
sentimente, s aib suflet. Provocrile majore in de apariia mainilor
contiente de sine, capabile s se reproduc cu performane superioare
n mod recursiv, ceea ce va conduce la apariia de entiti i sisteme
superinteligente.

Contiin
Inteligena
artificial

Inteligena
uman

Suflet

Fig.nr.1 Diferena esenial ntre inteligena artificial i cea a fiinei umane

Se justific dou seturi de ntrebri care reflect ambele sensuri ale

raportului ommain sau creator i creaia sa:
A1. n ce msur sunt acceptabile experimentele pe oameni pentru
cercetarea IA?
A2. Este legitim s reproducem creierul uman?
A3. Este legitim s se uneasc omul cu maina (transumanismul de
tip cyborg)?
A4. Avem dreptul s creem lucruri asupra crora este posibil s nu
mai deinem controlul?
B1. Ct de sigure (de ncredere) pot fi mainile inteligente?
B2. Vor fi mainile inteligente att de sigure nct s coopereze cu
oamenii?
B3. Care va fi nivelul de control ntre maini inteligente i oameni?
B4. Care va fi natura raporturilor de subordonare ommain inteligent?
B5. Ce drepturi vor avea mainile inteligente?
B6. Cum vor rspunde mainile inteligente pentru deciziile i aciunile
lor?
Nu vom ncerca s rspundem aici i acum la aceste ntrebri. O
vreme, acestea ar putea rmne simple expresii retorice. Vom remarca

Inteligena artificial ntre tehnologie i etic

117

totui c aspectul tehnologic al inteligenei artificiale tinde n general

s fie reglementat, ghidat de standarde specifice ca oricare alt domeniu
tehnic. n mod similar vor trebui elaborate i ghiduri etice, directive sau
protocoale specifice pentru cercetarea, realizarea i exploatarea sistemelor
cu inteligen artificial. Cu siguran ntrebrile de mai sus i multe altele
vor primi rspunsurile potrivite la momentul potrivit. Dincolo de aceste
aspecte formale totui, pentru dilema tehnologie versus etic rmne o
tem de reflecie capital: Ne va lsa oare Dumnezeu s facem toate aceste
lucruri?
Referine bibliografice:
[1] Banks, Jim, The Neurotechnological Revolution, in IEEE Pulse, March/April
2015, Vol.6, No 2, pp.1015.
[2] Fodor, Jerry, Hume Variations, Oxford University Press, 2003.
[3] Iancu, tefan, O istorie recent: aplicaii ale tehnologiei de microsistem n
industria auto, Studii si Comunicri/DIS, Vol.VII, 2014.
[4] *** Gods And Their Advanced Technologies: Talos A Greek Robot Created By
The God Of The Forge http://www.messagetoeagle. com/talosrobot.php#.
VYwWrvntmko.