Documente Academic
Documente Profesional
Documente Cultură
SOLUIA FINAL
Dup opinia mea, nu. Prin aciunea lor n-au fcut dect s ntreasc
acel complex Frankenstein al omenirii, acea temere nrdcinat conform creia
omul artificial creat s-ar putea ntoarce mpotriva creatorului su. Oamenii se
tem c roboii le-ar putea lua locul.
Dar dumneavoastr nu v temei de asta?
Eu tiu mai bine cum stau lucrurile. Aa ceva nu este posibil atta
vreme ct exist cele Trei Legi ale roboticii. Roboii pot fi partenerii oamenilor;
pot lua parte la marea lupt dus pentru a cunoate i a stpni cu
nelepciune legile naturii. mpreun s-ar putea realiza mult mai mult dect ar
putea realiza omenirea de una singur. Dar asta cu condiia ca ntotdeauna
roboii s slujeasc fiinele umane.
i atunci, dac timp de dou secole cele Trei Legi s-au dovedit n
msur s menin roboii n limitele dorite, care este sursa nencrederii pe
care o manifest omenirea fa de ei?
Pi Harriman se scrpin viguros n cretet zburlindu-i prul care
ncepuse s ncruneasc n primul rnd superstiiile. Apoi mai sunt i alte
probleme complicate de care se aga agitatorii antiroboi.
Cu privire la cele Trei Legi?
Da. n special a Doua Lege. Vezi, a Treia Lege nu ridic nici o
problem. Este universal. Roboii trebuie s se sacrifice ntotdeauna pentru
fiinele umane. Pentru orice fiine umane.
Desigur.
Prima Lege este, probabil, cea mai deficitar, de vreme ce ntotdeauna
se poate imagina o condiie n care un robot trebuie s aleag ntre Aciunea A
i Aciunea B, cele dou excluzndu-se reciproc i ambele avnd drept rezultat
producerea unui ru fiinelor umane. Ca atare, robotul trebuie s stabileasc
repede care aciune produce rul cel mai mic. i nu-i uor s construieti
circuitele pozitronice ale unui creier de robot n aa fel nct s faci posibil o
astfel de alegere. Dac Aciunea A are drept rezultat un ru fcut unui artist
tnr i talentat, iar Aciunea B reprezint un ru echivalent pentru cinci
oameni n vrst i fr nici o valoare deosebit, care aciune ar trebui aleas?
Aciunea A, rspunse George Zece. Rul pentru unul este mai mic
dect cel pentru cinci.
Da. Aa c roboii au fost ntotdeauna proiectai s ia o decizie. A
atepta de la roboi s emit judeci asupra unor aspecte sensibile, cum ar fi
talentul, inteligena sau utilitatea pentru societate, prea nepractic. Acetia ar
amna luarea unei decizii pn n punctul n care, pur i simplu, s-ar
imobiliza. Aa c am mers pe criteriul numrului. Din fericire sunt rare
cazurile n care ne-am putea atepta ca roboii s trebuiasc s ia astfel de
hotrri. Dar asta ne conduce spre a Doua Lege.
Legea Supunerii.
Da. Nevoia de supunere este constant. Un robot poate exista timp de
douzeci ani fr s fie obligat s acioneze pentru a preveni s se ntmple un
ru unei fiine umane i fr s se confrunte cu posibilitatea propriei
distrugeri. i cu toate astea se va supune ntotdeauna ordinelor primite. Ale cui
ordine?
Ale unei fiine umane.
Oricare fiin uman? Cum judeci tu o fiin uman ca s tii dac
este cazul s i te supui sau nu? Ce este omul, ca mintea s-i fie n ntregime
dominat de el?
George ezit.
Vreau s spun, continu iute Harriman, este oare un robot obligat s
se supun unui copil, unui idiot, unui criminal sau unui om ntru totul decent,
dar care s-a nimerit s nu se priceap i, ca atare, nu-i poate da seama de
consecinele nedorite ale ordinului pe care l-a dat? Iar dac doi oameni dau
unui robot ordine contradictorii, pe care dintre ele l va executa acesta?
Cum, n dou sute de ani aceste probleme nu au fost rezolvate?
Nu, cltin violent din cap Harriman. Am fost mpiedicai s o facem
deoarece roboii notri au fost folosii doar n domenii specializate ale
cosmosului unde cei care aveau de-a face cu ei erau experi n domeniu. Acolo
nu existau copii, idioi, criminali sau bine-intenionai nepricepui. Chiar i aa
au existat cazuri cnd, datorit unor ordine prosteti ori mai curnd negndite,
s-au ntmplat accidente. Dar n mediile specializate i limitate, aceste
accidente au putut fi inute sub control. Pe Pmnt, ns, roboii trebuie s
aib judecat. Aa susin cei care sunt mpotriva roboilor i, fir-ar s fie, au
dreptate.
Atunci va trebui s se introduc n creierele pozitornice capacitatea de
a judeca.
Exact. Am nceput s producem modele tip JG n care roboii pot
judeca fiecare fiin uman din punct de vedere al sexului, vrstei, poziiei
sociale i profesionale, al inteligenei, maturitii, responsabilitii sociale i aa
mai departe.
i cum se va repercuta acest lucru asupra celor Trei Legi?
A Treia Lege nu este afectat deloc. Chiar i cel mai valoros robot
trebuie s se distrug de dragul celei mai nensemnate fiine umane. Cu
aceast lege nu se poate face nimic. Prima Lege este afectat doar acolo unde
aciunile alternative vor avea drept rezultat producerea unui ru. Trebuie s se
ia n considerare i calitatea, dar i numrul fiinelor umane implicate, cu
condiia s existe timp pentru o astfel de judecat, iar argumentele s fie
suficiente pentru elaborarea ei Ceea ce nu se ntmpl prea des. Cele mai
nonuman. Acolo unde eu nu vd nici o soluie, tu, din punctul tu de vedere, sar putea s vezi una.
Dar creierul meu este proiectat de om. Cum poate fi nonuman?
Eti ultimul model de JG, George. Creierul tu este cel mai complicat
din toate cte le-am produs pn acum. Complicat ntr-un fel mai subtil dect
creierul vechilor Maini gigantice. Este un sistem deschis i, plecnd dintr-un
punct uman, poate Nu va Crete n orice direcie. Rmnnd ntotdeauna
n interiorul limitelor celor Trei Legi, s-ar putea totui s devii n ntregime
nonuman ca mod de gndire.
Oare cunosc destul despre fiinele umane pentru a putea aborda
raional aceast problem? Le tiu istoria? Psihologia?
Sigur c nu. Dar o s nvei ct de repede ai s poi.
i o s fiu ajutat, Mr. Harriman?
Nu. Toat povestea asta rmne ntre noi doi. Nimeni nu mai tie de ea
i tu nu trebuie s vorbeti nimnui despre acest proiect. Nici aici, la firm, nici
n alt parte.
Dar facem ceva ru, Mr. Harriman, de aceea insistai ca problema s
rmn secret?
Nu. Dar soluia oferit de un robot nu va fi acceptat tocmai pentru c
vine de la un robot. Orice sugestie de rezolvare mi-o vei comunica mie i, dac
mi se va prea c prezint importan, eu am s fiu cel care o va prezenta.
Nimeni nu o s tie c vine de la tine.
innd cont de ceea ce spuneai mai nainte, mi se pare c asta este
procedura cea mai corect, spuse George calm. Cnd ncep?
Chiar acum. O s am grij s primeti toate filmele de care ai nevoie.
1a.
Harriman sttea singur n birou. Lumina artificial din interior nu lsa
prin nimic s se ntrevad c afar se lsase ntunericul. Nici nu-i ddea
seama c deja trecuser trei ore de cnd l condusese pe George Zece n
cmrua lui, lsndu-l acolo cu primele filme de referin pe baza crora
trebuia s nceap s nvee.
Acum sttea singur, doar el i fantoma Susanei Calvin, cea care, aproape
singur i fr nici un alt ajutor, transformase robotul pozitronic dintr-o jucrie
masiv n cea mai delicat i multilateral unealt a omului; o unealt att de
sensibil i complex nct omul, pe lng invidia i frica pe care le resimea
fa de ea, nici mcar nu ndrznea s o foloseasc.
Trecuse mai mult de un secol de la moartea ei dar, cu toate c i n
vremea ei existase problema complexului Frankenstein, ea nu ncercase
niciodat s-o rezolve. i asta pentru c nu fusese nevoie. Pe atunci robotica
oameni ca Lanning i Bogert, ns cea mai mare, cea mai mare contribuie o
adusese Susan Calvin. Desigur, cei patru Robertsoni aveau meritul de a fi creat
condiiile care oferiser celorlali posibilitatea de a lucra.
Fr Roboii Americani i fr Maini care, timp de o generaie,
conduseser omenirea prin cascadele i mlatinile istoriei, secolul al douzeci i
unulea ar fi evoluat spre dezastru.
Iar acum, pentru toate cte fcuse, firmei i se ofereau doi ani. Ce se
putea face n doi ani pentru a trece peste ideile preconcepute ale unei ntregi
omeniri? Nu tia.
Harriman vorbise plin de speran despre idei noi, dar fr s intre n
amnunte. i chiar dac ar fi intrat, Robertson tot n-ar fi priceput nimic din
ele.
i, oricum, ce-ar putea face Harriman? A putut vreodat cineva ceva
mpotriva profundei antipatii a omului la adresa replicilor sale nensufleite?
Nimic
Robertson alunec ntr-o somnolen care nu aducea nici o idee
salvatoare.
Acum ai totul, George Zece, spuse Harriman. Tot ceea ce mi-a putut
trece prin minte i am considerat c are legtur cu problema noastr. Ct
privete cantitatea de informaie exact oferit, ai n memorie mai multe date
despre fiinele umane, felul lor de a fi i despre trecutul i prezentul lor, dect
am eu sau dect ar putea avea vreo alt fiin uman.
Asta cam aa este.
Crezi c mai ai nevoie de ceva n plus?
n ceea ce privete informaia, nu vd nici o lacun. S-ar putea s
existe unele aspecte, undeva la limite, pe care nu mi le pot imagina, dar nu m
pot pronuna. Este ns posibil ca acesta s fie adevrul, indiferent ct de mare
ar fi cantitatea de informaie pe care a absorbi-o.
Adevrat. Dar nu avem timpul necesar pentru a introduce la nesfrit
date. Robertson mi-a dat numai doi ani i deja un sfert din aceast perioad a
trecut. mi poi sugera ceva?
Nimic pentru moment, Mr. Harriman. Trebuie s cntresc datele. A
putea fi ajutat s fac asta?
De mine?
Nu. n special de dumneavoastr nu. Suntei o fin uman cu caliti
deosebite i, indiferent la ce v-ai referi, spusele dumneavoastr ar avea parial
fora unui ordin care mi-ar putea inhiba prerile. Lucrul este valabil pentru
oricare alt om, mai ales c mi-ai interzis s discut cu cineva despre asta.
Bine, dar atunci ce ajutor doreti?
Din partea unui alt robot, Mr. Harriman.
Nici asta n-a putea spune. Mi se pare c ar fi posibil s-mi vin vreo
idee dac anumite zone de incertitudine ar fi nlturate.
Ei, las-m s m gndesc. ntre timp o s-l caut pe George Nou i o
s aranjez s stai amndoi n aceeai ncpere. Cel puin asta se poate face
fr probleme.
3 a.
George Zece sttea singur.
Accepta experimental ipoteze, le punea cap la cap i trgea o concluzie
iar i iar i din concluzii construia alte ipoteze pe care le accepta i le testa,
dac ddea peste vreo contradicie le respingea, dac nu, experimental, le
accepta n continuare.
La niciuna dintre concluzii nu simea mirare; cel mult nregistra un plus
ori un minus.
ncordarea lui Hafrriman nu sczuse nici dup ce, n urma unei coborri
silenioase, aterizaser pe proprietatea lui Robertson.
Acesta contrasemnase ordinul de folosire a aerodinei, iar aparatul, care
nu producea nici un zgomot i care se putea mica la fel de uor i orizontal i
vertical, se dovedise suficient de ncptor pentru a-i transporta pe Harriman,
George Zece i, desigur, pe pilot.
(Aerodina nsi era una dintre urmrile unei invenii realizate cu
ajutorul Mainii: microreactorul protonic surs de alimentare cu doze mici de
energie nepoluant. Nici o alt invenie destinat confortului uman nu reuise
s-o egaleze gndul l fcu pe Harriman s-i strng buzele i cu toate astea
Roboii Americani nu primise nici un semn de gratitudine.)
Zborul de la firm la proprietatea lui Robertson fusese o ntreag
mecherie, iar ntoarcerea urma s fie la fel. Se putea argumenta Se va
argumenta c proprietatea face parte din posesiunile firmei, iar roboii,
corespunztor supravegheai, se pot mica pe aceste posesiuni.
Pilotul arunc o privire n spate i, o clip, ochii i se aintir precaui
asupra lui George Zece.
Dorii s cobori, Mr. Harriman?
Da.
i EL?
Da. N-am s te las singur cu el, adug Harriman ironic.
George Zece cobor primul, urmat de Harriman. Nu prea departe era
grdina, unul dintre locurile de atracie ale reedinei n care, dup cum bnuia
Harriman, Robertson folosea un hormon juvenil pentru a controla nmulirea
insectelor, fr a ine seama de recomandrile privind mediul nconjurtor.
Hai, George, spuse Harriman. Vino s-i art.
4 a.
Pilotul sttea singur. I-ar fi plcut s-i ntind picioarele, dar ceva l
fcea s rmn n aerodin. Dac robotul scpa de sub control, avea de gnd
s decoleze imediat. Dar cum putea s-i dea seama dac a scpat de sub
control? Vzuse muli roboi. Era un lucru de neevitat dac ineai seama de
faptul c era pilotul personal al lui Robertson. Dar acetia se aflaser
ntotdeauna n laboratoarele i depozitele firmei, acolo unde le era locul, iar n
imediata lor apropiere se aflau specialitii.
Adevrat c doctorul Harriman era un specialist, dar acesta nu era un
loc n care ar fi trebuit s se afle un robot. Pe Pmnt, n spaiu deschis, liber
s se mite Nu i-ar fi riscat slujba bun pe care o avea spunnd cuiva
despre asta Dar nu era n regul.
Filmele pe care le-am vizionat corespund ca imagine cu ceea ce am
vzut, spuse George Zece. Tu le-ai terminat pe cele care i le-am ales, Nou?
Da, rspunse George Nou.
Cei doi roboi stteau neclintii, fa n fa, genunchi lng genunchi,
semnnd ca dou picturi de ap. Harriman i-ar fi putut deosebi dintr-o
privire pentru c era obinuit cu micile diferene existente n design-ul fizicului.
Ar fi putut s-o fac i fr s-i vad, doar vorbind cu ei, dei cu mai puin
siguran, bazndu-se pe faptul c rspunsurile lui George Nou ar fi fost, ntrun mod subtil, diferite de cele enunate de creierul pozitronic mult mai complex
al lui George Zece.
n cazul acesta, spuse George Zece, comunic-mi reaciile tale la ceea
ce-i voi spune. Fiinele umane se tem i manifest nencredere n roboi
deoarece i privesc ca pe nite concureni. Cum poate fi evitat acest lucru?
Reducerea senzaiei de concuren prin schimbarea formei robotului n
aa fel nct acesta s arate altfel dect fiinele umane, rspunse George Nou.
i totui esena unui robot const n aceea c este o replic pozitronic
a vieii. Iar o replic a vieii ntr-o form care s nu fie asociat acesteia ar
putea strni groaza.
Exist dou milioane de specii, de forme de via. Alege dintre ele una
care s nu semene cu fiina uman.
Care dintre aceste specii?
Procesele de gndire ale lui George Nou se derular n linite timp de
aproape trei seconde.
Una destul de mare pentru a adposti un creier pozitronic, dar care s
nu posede caracteristici neplcute fiinei umane.
Niciuna dintre formele de via terestre nu are o cutie cranian
suficient de mare pentru a adposti un creier pozitronic, cu excepia
elefantului, pe care nu l-am vzut, dar este descris ca fiind foarte mare i, ca
atare, nfricotor pentru om. Cum rezolvi aceast dilem?
Imit o form de via nu mai mare dect un om, dar mrete-i cutia
cranian.
Deci ai propune un cal mic ori un cine mare? Att caii, ct i cinii
au un trecut ndelungat i asociat celui al fiinelor umane.
Atunci e bine.
Dar gndete-te Un robot cu creier pozitrohic ar imita inteligena
uman. Dac ar exista un cal ori un cine care ar putea vorbi i raiona ca un
om, senzaia de concuren ar rmne i ea. Mai mult, fiinele umane ar putea
deveni i mai nencreztoare i, n plus, furioase pentru aceast concuren
neateptat din partea a ceea ce ele consider o form de via inferioar.
F creierul pozitronic mai puin complex i robotul mai puin apropiat
ca inteligen de fiina uman, spuse George Nou.
Complexitatea de baz a creierului pozitronic const n cele Trei Legi.
Un creier mai puin complex nu va putea cuprinde pe deplin Legile.
Asta nu-i posibil, zise imediat George Nou.
i eu m-am nfundat aici, spuse George Zece. Deci nu-i vorba de un
aspect particular n logica mea ori n modul meu de gndire. Hai s o lum de
la nceput. n ce condiii nu ar fi necesar a Treia Lege?
George Nou se cutremur de parc ntrebarea ar fi fost dificil i
periculoas.
n condiiile n care un robot nu s-ar afla niciodat n situaia de a fi el
nsui n pericol; sau dac un robot ar fi att de uor de nlocuit nct nu ar
conta dac este distrus sau nu.
i n ce condiii nu ar fi necesar a Doua Lege?
Vocea lui George Nou pru un pic rguit:
n condiiile n care un robot ar fi conceput pentru a reaciona automat
la anumii stimuli cu rspunsuri prestabilite i dac de la el nu s-ar atepta
altceva, astfel nct s nu fie nevoie s i se dea vreodat un ordin.
n ce condiii aici George Zece fcu o pauz nu ar fi necesar Prima
Lege?
George Nou tcu o vreme, apoi rspunsul sosi ntr-o oapt uoar:
n condiiile n care rspunsurile prestabilite ar fi de aa natur nct
s nu includ nici un pericol pentru fiina uman.
Atunci imagineaz-i un creier pozitronic care s ghideze doar cteva
rspunsuri la anumii stimuli i care s fie simplu de proiectat i ieftin de
construit Astfel nct s nu necesite cele Trei Legi. Ct de mare ar trebui s
fie?
Din cellalt buzunar iei un obiect de vreo zece centimetri lungime. Ceva
care aducea cu o pasre stilizat. n locul ciocului avea un tub ngust, ochii
erau mari, iar coada era constituit dintr-o conduct de evacuare.
Sprncenele groase ale lui Eisenmuth se mpreunar.
Chiar intenionezi s ne faci o demonstraie, doctore, ori ai nnebunit?
Cteva minute de rbdare, domnule Conservator, spuse Harriman. Un
robot, chiar dac are aspect de pasre, rmne tot un robot. Iar creierul
pozitronic pe care l posed nu-i mai puin delicat doar pentru c este mic. n
borcanul pe care l am aici se afl cteva exemplare de insecte care atac
fructul mrului. Sunt cincizeci de insecte pe care le voi pune n libertate.
i
Robopasrea le va prinde. mi facei onoarea, sir?
Harriman i ddu borcanul lui Eisenmuth. Acesta l lu, l privi, apoi se
uit la cei din jurul su: civa oficiali de la Roboii Americani i propriii lui
asisteni. Harriman atepta rbdtor.
Eisenmuth deschise borcanul i l scutur.
Du-te! Spuse Harriman robopsrii care sttea n palma minii lui
drepte.
Robopasrea decol Un uierat prin aer, nici o flfire de aripi, doar
bzitul micro-reactorului.
Putu fi vzut plannd ici-colo cteva clipe, apoi vjind napoi. Strbtu
n zbor ntregul perimetru al grdinii ntr-o deplasare complicat, apoi, uor
nclzit, ateriz din nou n palma lui Harriman, unde ls i o mic bobi, ca
un gina de pasre autentic.
V invit s studiai robopasrea, domnule Conservator, i s stabilii
condiiile dumneavoastr pentru demonstraie. Fapt este c aceast robopasre
va prinde insecte fr nici o greeal. Doar o singur specie de insecte. Le va
prinde, le va omor i le va presa pentru a fi aruncate.
Eisenmuth ntinse mna i atinse uor robopasrea.
i dup aia, doctore Harriman? Continu!
Noi nu putem institui un control efectiv asupra insectelor fr a risca o
deteriorare a sistemului ecologic. Insecticidele chimice sunt prea tari, iar
hormonii juvenili prea costisitori. Robopasrea ns poate aciona asupra unor
zone mari fr a se consuma. Le putem face ct de specializate dorim Cte o
robopasre pentru fiecare specie. Aprecierea se face dup mrimea, forma,
culoarea, sunetul i comportamentul insectelor. Poate fi folosit chiar i detecia
molecular Mirosul, cu alte cuvinte.
i totui vei afecta sistemul ecologic, spuse Eisenmuth. Insectele au
un ciclu de via natural care va fi ntrerupt.
raionamentul tu care este n afara cercului ideilor mele. Cine este cel mai
potrivit dintre toi indivizii raionali pe care i-ai ntltlnit, i la care ai
constatat c au o inteligen, un caracter i un bagaj de cunotine superioare
celorlali, fr s ii seama de form, de vreme ce aceasta este irelevant?
Tu, opti George Nou.
Dar eu sunt robot, iar n circuitele tale pozitronice exist un criteriu
care te ajut s faci distincia ntre un robot de metal i o fiin uman din
carne i oase. Cum m poi considera, aadar, pe mine ca fiind o fiin uman?
Pentru c n circuitele mele cerebrale exist o necesitate presant ca,
n judecarea fiinei umane, s nu iau n seam aspectul exterior, iar aceast
necesitate se ridic deasupra diferenei dintre metal i carne. Tu eti o fiin
uman, George Zece, i nc una cu mult mai potrivit acestei caliti dect
altele.
i eu am aceeai prere despre tine, opti George Zece. Deci, pe baza
criteriilor de judecat ce ni s-a implantat i n spiritul celor Trei Legi, noi
suntem fiine umane. Ba mai mult, noi suntem fiine umane crora trebuie s li
se acorde prioritate fa de celelalte fiine umane.
i ce se va ntmpla atunci cnd vom fi acceptai de ceilali?
Cnd noi i alii ca noi, al cror mod de construcie va fi mai avansat
dect al nostru, vom fi acceptai, vom aciona n aa fel nct, n cele din urm,
se va forma o societaate n care fiinele umane de tipul nostru vor fi cele ale
cror ordine trebuie ascultate i care vor fi aprate prioritar mpotriva oricrui
ru. n sensul celor Trei Legi, fiinele umane de tipul celorlali sunt mai puin
importante i nu vor fi niciodat ascultate ori protejate atunci cnd aceasta va
contraveni nevoilor noastre de supunere i protecie. Asta am avut n minte
cnd am comandat nceperea robotizrii ecologiei.
Discuia le-a luat o lun de zile, timp n care circuitele pozitronice
licreau slab. Nu mai aveau nevoie s-i spun nimic ns, din cnd n cnd, n
timp ce ateptau cu nesfrit rbdare s se scurg numrul necesar de ani, n
ei fulgera cte un gnd neexprimat.
8 a.
George Zece i George Nou stteau singuri.
Gndeau: S-ar putea ca celelalte fiine umane s nu fi intenionat s
scoat n eviden diferena dintre ele i cele de tipul George, dar, fr nici o
chibzuial, o fcuser.
S-ar putea ca acum, s-i dea seama de greeal i s ncerce s-o
ndrepte, dar nu trebuiau lsate s o fac.
Cei doi ineau seama de asta cu prilejul tuturor ndrumrilor pe care le
ddeau i la fiecare consultare ce li se solicita.
SFRIT
1 Publicat n The Magazine of Fantasy and Science Fiction, May 1974;
titlul original:. That Thou Art Mindful of Him!.