Superinteligenta

Povestea neterminată a rândunicilor

Prefaţă

Mulţumiri

1. Perfecţionări trecute și abilităţi prezente

2. Căile spre superinteligenţă

3. Forme de superinteligenţă

4. Cinetica exploziei de inteligenţă

5. Avantajul strategic decisiv

6. Superputeri cognitive

7. Voinţa superinteligentă

8. Rezultatul final va fi damnarea?

9. Problema controlului

10. Oracole, duhuri, suverani, unelte

11. Scenarii multipolare

12. Dobândirea valorilor

13. Alegerea criteriilor de alegere

14. Imaginea strategică

15. Momente ale crizei

Bibliografie

Superintelligence

Paths, Dangers, Strategies

Nick Bostrom

Copyright © 2014 Nick Bostrom

Ediție publicată pentru prima dată în limba engleză în 2014

Ediție publicată prin înțelegere cu Oxford University Press

Drepturile pentru prezenta traducere aparțin Editurii Litera

Editura Litera

O.P. 53; C.P. 212, sector 4, București, România

tel: 021 319 6390; 031 425 1619; 0752 548 372;

e-mail: comenzi@litera.ro

Ne puteți vizita pe

www.litera.ro

Superinteligența

Direcții, pericole, strategii

Nick Bostrom

Copyright © 2016 Grup Media Litera

pentru versiunea în limba română

Toate drepturile rezervate

Traducere din limba engleză: Doru Căstăian

Editor: Vidrașcu și fiii Redactor: Isabella Prodan

Corector: Georgiana Enache

Copertă: Flori Zahiu

Tehnoredactare și prepress: Ana Vârtosu

Descrierea CIP a Bibliotecii Naționale a României

Bostrom, Nick

Superinteligența. Direcții, pericole, strategii / Nick Bostrom; trad.: Doru Valentin Căstăian – Bucureşti: Litera, 2016

ISBN 978-606-33-0281-7

ISBN EPUB 978-606-33-4424-4

I. Bostrom, Nick

II. Căstăian, Doru Valentin (trad.)

612.82

Povestea neterminată a rândunicilor

În plin sezon de cuibărire, după zile întregi de muncă neobosită, rândunicile s-au așternut, în amurg, la un taifas, trăgân­du-și sufletul:

– Suntem atât de mici şi de neajutorate! Imaginați-vă cât de uşoară ar fi viața noastră, dacă ne-ar ajuta o bufniță să ne facem cuibul!

– Da, spuse o alta. Iar apoi bufnița ar putea avea grijă de bătrâni şi de pui!

– Ne-ar putea da sfaturi şi ar putea să stea cu un ochi pe pisică! spuse o a treia.

Atunci Pastus, cea mai vârstnică dintre păsări, zise:

– Să trimitem iscoade în cele patru zări, poate găsește pe undeva un pui de bufniță abandonat sau măcar nişte ouă. Un pui de cioară ar fi la fel de bun sau poate unul de nevăstuică. Acesta ar fi cel mai grozav lucru care ni s-ar putea întâmpla, exceptând, desigur, inaugurarea Pavilionului Grânelor Inter­minabile, din curtea din spate.

Stolul începu să se agite, iar rândunicile ciripeau în toate direcțiile. Doar Scronkfinckle, o rândunică având un singur ochi, ceva mai liniştită de felul ei, nu părea foarte impresionată de aceste spuse înțelepte. Ea zise:

– Cum să facem una ca asta? N-ar trebui, înainte să aducem o astfel de vietate printre noi, să ne interesăm cum se domes­ticește, cum se îmblânzește?

Pastus îi răspunse:

– Să îmblânzim o bufniță pare ceva extraordinar de greu! Ne va fi greu până și să găsim un ou! Să începem de aici. După ce vom izbuti să creştem bufnița, ne vom ocupa și de ­problema aceasta.

– Dar planul e greșit! spuse Scronkfinckle, însă nu-l mai auzi nimeni, întrucât stolul îşi luase deja zborul, hotărât să pună în aplicare ideea lui Pastus.

Doar două, trei rândunele rămăseseră pe urmă. Împreună, începură să se gândească cum puteau fi bufnițele îmblânzite sau domesticite. Dar şi-au dat seama repede că Pastus avusese dreptate: sarcina se dovedea prea dificilă, mai ales că nu aveau o bufniță pe care să exerseze. Cu toate acestea, au continuat să caute o soluție, temându-se să nu se întoarcă stolul, cumva, cu un ou și să le prindă nepregătite.

Nu ştim cum se va termina povestea, dar autorul îi dedică această carte lui Schronkfinckle şi discipolilor lui.

Prefaţă

Craniul tău găzduiește în interiorul lui ceva care te ajută să citeşti. Acest lucru, creierul uman, are anumite abilități pe care creierele animalelor nu le au. Abilitățile respective ne-au dat, în definitiv, poziția dominantă în natură. Restul animalelor au muşchi mai puternici şi colți mai ascuțiți, noi avem creiere mai inteligente. Modestul nostru avantaj în privința inteligenței generale ne-a făcut să dezvoltăm limbajul, tehnologia şi organizarea socială complexă. Avantajele speciei noastre s-au adunat de-a lungul timpului, întrucât fiecare generație a construit pe ceea ce i-au lăsat predecesorii ei.

Dacă, într-o zi, vom realiza creiere artificiale care să le depăşească intelectual pe cele umane, superinteligența aceasta ar putea deveni extrem de puternică. În plus, aşa cum soarta gorilelor depinde, acum, mai mult de oameni, decât de gorile, soarta speciei noastre va ajunge să depindă, în același fel, mai degrabă de acțiunile superinteligenței artificiale. Avem totuşi un avantaj. Noi suntem cei care construim maşinile. În principiu, am putea realiza o superinteligență care să protejeze valorile umane. Am avea motive întemeiate să facem asta. În practică, problema controlului – adică modul în care am controla ce va face superin­teligența – pare destul de dificilă. De asemenea, cel mai probabil, șansa noastră, din acest punct de vedere, va fi unică. Dezvoltarea unei superinteligențe ostile va face imposibilă înlocuirea sau modificarea preferințelor acesteia. Soarta ne-ar fi pecetluită.

Prin această carte, caut să înțeleg provocarea pe care ar putea-o constitui superinteligența şi modul în care am putea reacționa față de ea. Aceasta este, probabil, cea mai importantă şi mai amplă provocare cu care s-a confruntat vreodată umanitatea. Şi, indiferent că vom avea succes sau nu, va fi, probabil, ultima acțiune de acest nivel pe care o vom avea de înfruntat.

Cartea de față nu susține că suntem în pragul unei revoluții a inteligenței artificiale, nici nu spune când ar putea avea aceasta loc. Probabil că acest lucru se va petrece la un moment dat, în acest secol, dar nu ştim sigur. Primele două capitole au în vedere câteva căi către superinteligență şi ridică o serie de probleme cu privire la plasarea lor în timp. Cea mai mare parte a cărții va fi, însă, despre ceea ce se va întâmpla ulterior. Studiem, de asemenea, cinetica unei dezvoltări explozive a inteligenței, formele şi abilitățile acesteia, precum şi alegerile strategice pe care le are la dispoziție un agent superinteligent care a dobândit un avantaj decisiv. Ne vom îndrepta, după aceea, atenția asupra problemei controlului şi vom analiza ce e de făcut pentru a modela condițiile inițiale în vederea supraviețuirii și a obținerii unor rezultate benefice. Spre finalul cărții, vom încerca să realizăm o imagine de ansamblu, ca rezultat al investigațiilor noastre. Vom da anumite soluții pentru ceea ce trebuie făcut acum, cu scopul de a evita pericolele de mai târziu.

Nu a fost o carte uşor de scris. Sper ca drumul pe care îl înfă­țișează aceasta îi va ajuta pe ceilalți cercetători să descopere noi frontiere mai ușor și mai agreabil, pe care să le depășească încrezători și cu forțe proaspete, în vederea unor eforturi care să ne amplifice nivelul înțelegerii. (Iar, dacă drumul înfățișat este puțin anevoios şi cu hârtoape, sper ca aceia care vor citi cartea să nu subestimeze ex ante ostilitatea terenului.)

Nu a fost o carte uşor de scris. Am încercat să fac în așa fel încât să fie simplu de citit, neștiind dacă am reuşit în totalitate nici măcar acest lucru. Atunci când am elaborat-o, m-am gândit la mine, pe când eram mai tânăr, şi am încercat să scriu o carte așa cum mi-ar fi plăcut mie atunci să citesc. Poate că publicul ei nu va fi, așadar, numeros. Dar cred că informațiile prezentate ar trebui să fie accesibile cât mai multor oameni, dacă îi interesează cu adevărat și nu întâmpină fiecare idee nouă cu unul dintre clişeele disponibile în cultura lor. Cititorii neinstruiți temeinic în domeniu nu trebuie să fie descurajați de micile referiri matematice sau de vocabularul specializat, pentru că vor reuși întotdeauna să deducă informațiile din context. (Invers, cititorii care vor explicații mai tehnice, vor putea să afle mai multe din notele de subsol.)¹

Multe dintre punctele de vedere din această carte sunt, probabil, greşite.² Se poate, de asemenea, să existe considerații de importanță critică pe care să nu fi reuşit să le am în vedere şi care să invalideze unele dintre concluziile mele. Am izbutit, într-o oarecare măsură, să punctez diversele grade ale incertitudinii față de anumite puncte de vedere exprimate în carte, folosind termeni precum „posibil, „ar putea, „poate, „ar putea foarte bine să..., „foarte probabil, „aproape sigur. Fiecare dintre aceşti cuantificatori a fost plasat cu intenție şi cu multă atenție. Totuşi, acești indicatori ai modestiei epistemice, distribuiți textual, nu sunt de ajuns: trebuie suplimentați prin admiterea de principiu a incertitudinii şi a caracterului failibil. Nu este o falsă modestie: deși cred că există şanse bune ca volumul meu să fie substanțial eronat şi să inducă opinii greşite, cred, totodată, că alternativele din literatura de specialitate sunt cu mult mai proaste – aici intrând și viziunea actuală, a ipotezei nule, conform căreia, în acest moment, putem ignora, fără riscuri şi în mod rezonabil, posibilitatea apariției superinte­ligenței.

Mulţumiri

Membrana care a înconjurat procesul scrierii cărții a fost destul de permeabilă. Multe dintre conceptele şi ideile elaborate în timp ce lucram la această carte au migrat şi au devenit parte a unor conversații mai ample, iar multe idei provenind din exterior au fost încorporate în text. Am încercat, în general, să fiu atent la citarea surselor, dar influențele au fost prea numeroase pentru a le putea aminti pe toate.

Pentru consistentele discuții care m-au ajutat să-mi clarific gândirea, le sunt recunoscător multor oameni, precum: Ross Andersen, Stuart Armstrong, Owen Cotton-Baratt, Nick Backstead, David Chalmers, Paul Cristiano, Milan Cirkovic, Daniel Dennett, David Deutsch, Daniel Dewey, Eric Drexler, Peter Eckersley, Ammon Eden, Owain Evans, Benja Fallenstein, Alex Flint, Carl Frey, Ian Goldin, Katja Grace, J. Storrs Hall, Robin Hanson, Demis Hassabis, James Hughes, Marcus Hutter, Garry Kasparov, Marcin Kulczycki, Shane Legg, Moshe Looks, William MacAskill, Eric Mandelbaum, James Martin, Lilian Martin, Roko Mijic, Vincent Mueller, Elon Musk, Sean O Eigeartaigh, Toby Ord, Dennis Pamlin, Derek Parfit, David Pearce, Huw Price, Martin Rees, Bill Roscoe, Stuart Russell, Anna Salomon, Lou Salkind, Anders Sandberg, Julian Săvulescu, Jürgen Schmiddhuber, Nicolas Shackel, Muray Shanahan, Noel Sharkey, Carl Shulman, Peter Singer, Dan Stoicescu, Jaan Tallinn, Alexander Tamas, Max Tegmark, Roman Yamposkyi şi Eliezer Yudkowsky.

Pentru comentariile lor foarte detaliate, le mulțumesc următorilor: Milan Cirkovic, Daniel Dewey, Owain Ewans, Nick Hay, Keith Mansfield, Luke Muehlhauser, Toby Ord, Jess Riedel, Anders Sandberg, Murray Shanahan şi Carl Shulman. Pentru sfaturile privind munca de cercetare, vreau să le mulțumesc lui Stuart Armstrong, Daniel Dewey, Eric Drexer, Alexandre Erler, Rebecca Roache şi Anders Sandberg.

Pentru ajutorul acordat la pregătirea manuscrisului, le mulțumesc lui Caleb Bell, Malo Bourgon, Robin Brandt, Lance Bush, Cathy Douglass, Alexandre Erler, Kristian Rönn, Susan Rogers, Andrew Snyder-Beattie, Cecilia Tili şi lui Alex Vermeer. Vreau să-i mulțumesc în special editorului meu, Keith Mansfield, pentru încurajările susținute de pe parcursul proiectului.

Le cer scuze tuturor celor pe care am omis să-i mențio­nez aici.

Nu în ultimul rând, le mulțumesc celor care au finanțat acest proiect, familiei şi prietenilor: fără ajutorul vostru, această carte n-ar fi existat.

1. Perfecţionări trecute și abilităţi prezente

Să începem prin a privi în urmă. Istoria, înțeleasă la cea mai largă scară, pare să indice existența unor moduri diferite de dezvoltare, fiecare dintre ele fiind mai rapid decât cel de dinaintea lui. Această tendință ne face să credem că este posibil un nou mod de dezvoltare (unul chiar mai rapid). Și, totuși, nu punem mare preț pe această observație – cartea de față nu este despre „dezvoltare tehnologică ori despre „creştere expo­nențială și nici nu cuprinde idei definite generic prin eticheta „excentricitate". În cele ce urmează, vom trece în revistă istoria inteligenței artificiale. Vom evalua, apoi, potențialul prezent al acestui domeniu. Și, în fine, vom vedea câteva opinii ale experților şi ne vom recunoaşte ignoranța în ceea ce priveşte dezvoltarea viitoare a fenomenului.

Tipuri de progres și istoria la scară mare

Cu doar câteva milioane de ani în urmă, strămoşii noştri încă stăteau atârnați de crengile copacilor din pădurile Africii. Din perspectivă evoluționistă şi la scară geologică, detașarea lui Homo sapiens de ultimul strămoş pe care l-am avut în comun cu celelalte maimuțe mari s-a petrecut rapid. Am deprins mersul pe două picioare, ne-am ales cu degete opozabile şi am suferit mici modificări ale volumului şi structurii creierului – crucială schimbare! –, care au dus la un mare salt în materie de abilități cognitive. În consecință, oamenii pot gândi abstract, dezvoltă raționamente complexe şi înmagazinează şi transmit informații culturale de la o generație la alta mai bine decât orice altă specie de pe planetă.

Aceste abilități le-au permis oamenilor să realizeze tehnologii tot mai performante, ceea ce i-a determinat pe strămoşii noştri să lase în urmă pădurea tropicală şi savana. În special după descoperirea agriculturii, populația totală a lumii a crescut şi, odată cu ea, şi densitatea. Creşterea demografică a facilitat apariția unui număr mai mare de idei; densitatea sporită a făcut posibilă răspândirea mai rapidă a acestora, unii indivizi dezvoltând abilități specializate. Aceste perfecționări au sporit rata progresului în materie de productivitate economică şi de capacitate tehnologică. Ceea ce s-a întâmplat ulterior, în special după Revoluția Industrială încoace, a generat o a doua schimbare globală, comparabilă în ceea ce privește progresul.

Modificările ratei progresului au avut urmări importante. Cu câteva sute de mii de ani în urmă, în timpul preistoriei umane (sau hominide), progresul a fost atât de lent, încât capacitatea umană de producție a avut nevoie de aproximativ un milion de ani pentru a crește îndeajuns cât să poată asigura simpla subzistență a unui milion de indivizi în plus. În jurul anului 5000 î.Hr., după revoluția agricolă, rata progresului a crescut până în punctul în care acelaşi spor demografic a putut fi susținut în doar două secole. În zilele noastre, de după Revoluția Industrială, economia mondială crește, în medie, până la același grad, la fiecare 90 de minute.³

Actuala rată a progresului va produce, și ea, rezultate spectaculoase, dacă se menține îndeajuns de mult. Dacă economia mondială va continua să crească în acelaşi ritm în care a făcut-o în ultimii cincizeci de ani, omenirea va fi de 4,8 de ori mai bogată până în 2050 şi de 34 de ori până în 2100.⁴

„Conversația noastră centrată pe tehnologie şi pe modificări continue ale vieții umane mă face să mă gândesc că va apărea un punct singular în istoria speciei noastre dincolo de care istoria umană, aşa cum o ştim, nu va putea continua." (Ulam 1958)

Cu toate acestea, perspectiva menținerii unei căi cu o creştere exponențială sigură păleşte în fața a ceea ce ar aduce o nouă creștere spectaculoasă a ratei progresului, similară cu aceea din vremea revoluției agrare şi a celei industriale. Economistul Robin Hanson estimează, bazându-se pe date economice şi demografice, că dublarea economiei din Pleistocen, a societății de vânători-culegători, s-ar realiza în aproximativ 224 000 de ani; pentru perioada agrară de 909 ani, iar pentru perioada industrială de 6,3 ani.⁵ (În modelul lui Hanson, epoca actuală presupune o combinație între modelele de creștere din perioada agrară și cea industrială – economia mondială, per ansamblu, nu progresează încă în baza ratei de dublare de 6,3 ani.) Dacă s-ar produce o trecere la un model diferit de progres, de magnitudine similară cu cele două anterioare, s-ar ajunge la un regim al progresului în care economia mondială s-ar dubla, ca mărime, în numai două săptămâni.

O astfel de creştere pare neverosimilă, după standardele actuale. Observatorii din celelalte epoci posibil să fi acceptat la fel de greu ideea ca economia din timpurile respective să se dubleze de mai multe ori pe parcursul unei vieți de om. Și totuși, această stare extraordinară este, pentru noi, astăzi, ordinară.

Ideea unei singularități tehnologice ce stă să se producă este, astăzi, popularizată la scară largă, începând cu eseul fundamental al lui Vernon Vinge şi continuând cu lucrările lui Ray Kurzweil şi ale altora.⁶ Cu toate acestea, termenul „singularitate a fost folosit într-o manieră confuză, cu mai multe sensuri, şi a ajuns să dezvolte o aură laică (și aproape milenaristă) de conotații tehno-utopice.⁷ Din moment ce majoritatea semnificațiilor şi conotațiilor respective sunt irelevante pentru demersul nostru, este preferabil să ne dispensăm de termenul „singularitate, în favoarea unuia mai riguros.

Figura 1. Istoria pe termen lung a PIB-ului mondial. Ilustrată linear, istoria economiei arată ca o dreaptă orizontală îmbrățișând axa x, până în punctul în care pornește, brusc, în sus. (a) Chiar și concentrându-ne numai pe ultimii 10 000 de ani, tiparul își menține, în esență, unghiul de 90�. (b) Abia în ultimii aproximativ 100 de ani, curba se ridică sesizabil deasupra nivelului zero. (Liniile diferite ale tiparului corespund unor seturi de date diferite, care ne oferă estimări ușor diferite.⁸)

În privința „singularității", sensul care ne interesează aici prevede posibilitatea unei explozii a inteligenței, mai exact, perspectiva unei superinteligențe de tip artificial. Unii oameni cred în diagrame ale progresului precum vedem în figura 1, care arată iminența unei noi schimbări drastice în modelul progresului, comparabile cu revoluția agrară şi cu cea industrială. Acestora le este greu să conceapă un scenariu în care ritmul de dublare a economiei mondiale să fie redus la câteva săptămâni, fără a implica realizarea unor creiere mai rapide şi mai eficiente decât cele biologice, cunoscute nouă. Totuși faptul de a lua în serios eventualitatea unei revoluții a inteligenței artificiale nu trebuie să țină de studierea curbelor de creştere sau de extrapolarea datelor economice din trecut. După cum vom vedea, avem motive mai temeinice pentru a face asta.

Marile speranțe

Maşinile similare oamenilor în privința inteligenței generale – adică maşini care să aibă bună judecată, abilitatea înnăscută de a învăța și rațiune şi care să poată desluși provocări legate de procesarea informațiilor din domenii diverse, naturale şi artificiale – au fost un deziderat încă din anii 1940, odată cu inventarea computerelor. În acel moment, apariția unor astfel de maşini era preconizată undeva în următoarele două decenii.⁹ De atunci încoace, rata temporală privind producerea lor a scăzut, anual, cu câte un an; astfel că, astăzi, futurologii care iau în serios apariția inteligenței artificiale de ordin general cred că ne despart doar câteva decenii de acest eveniment.¹⁰

Două decenii reprezintă o perioadă convenabilă pentru predicatorii schimbării radicale: suficient de scurtă pentru ca acest fenomen să devină relevant şi atractiv şi, totuşi, suficient de lungă cât să fie rezonabil a presupune că, până atunci, ar putea avea loc transformări radicale pe care azi de-abia ni le imaginăm. Să privim lucrurile la o scală temporală mai mică: majoritatea tehnologiilor care vor influența lumea în cinci sau zece ani sunt deja folosite, în stoc limitat, iar cele care își vor lăsa amprenta asupra lumii în mai puțin de cinsprezece ani probabil că există, și ele, deja, ca prototipuri de laborator. Două decenii constituie, de asemenea, durata tipică a carierei unui specialist în astfel de predicții, presupunând punerea în joc a reputației prin realizarea unei predicții curajoase.

Faptul că, în trecut, unii au făcut estimări nerealiste cu privire la apariția inteligenței artificiale nu înseamnă că această formă de inteligență este imposibilă, că nu va apărea nicicând.¹¹ Principalul motiv pentru care progresul a fost mai lent decât spera lumea ține de faptul că elaborarea unei maşinării inteligente s-a dovedit mai dificilă decât au preconizat primii care au avut în vedere acest proiect. Așadar, nu se știe cât de mari sunt aceste dificultăți şi nici cât ne va lua pentru a le depăşi. Uneori, o problemă care pare extrem de complicată poate avea o soluție foarte simplă (deşi situația inversă este, probabil, mai comună).

În capitolul următor, vom inspecta căile posibile care pot duce la o inteligență artificială comparabilă cu cea umană. Înainte, permiteți-mi totuși să subliniez că, oricât ne-am poticni între momentul actual și până în cel în care vom avea o mașinărie cu o inteligență de nivel uman, nici măcar acest ultim punct nu va fi unul final. Următoarea stație, prima după realizarea mașinăriei, va fi aceea a inteligenței artificiale de nivel suprauman. Trenul s-ar putea să nu oprească, poate nici măcar să încetinească, în stația umanității. Posibil o s-o traverseze ca vântul.

Matematicianul I.J. Good, statistician-şef în echipa lui Alan Turing, în timpul celui de-al Doilea Război Mondial, a formulat, pentru prima dată, aspectele esențiale ale acestui scenariu. Într-un pasaj des citat, ce datează din 1965, el susține:

Prin maşină ultrainteligentă înțelegem o maşină care poate depăşi, de departe, activitatea intelectuală a oricărei ființe umane, oricât de inteligentă ar fi aceasta din urmă. Din moment ce construirea unei astfel de maşini depinde tocmai de activitatea intelectuală, o maşină ultrainteligentă ar putea realiza, de una singură, maşini chiar mai eficiente; asta ar duce, fără îndoială, la o „explozie de inteligență" care ar lăsa cu mult în urmă inteligența umană. Astfel, inventarea unei maşini ultrainteligente va fi ultimul lucru pe care trebuie să-l facă omul, cu condiția ca aceasta să fie suficient de docilă, încât să ne arate cum s-o ținem sub control.¹²

Pare evident că o asemenea dezvoltare a inteligenței va fi asociată cu riscuri existențiale majore şi că urmările vor trebui prevăzute cu maximă atenție, chiar şi știind că probabilitatea ca ele să se concretizeze ar fi redusă (nefiind însă cazul). Și, totuși, pionierii inteligenței artificiale, deși postulează iminența realizării uneia de nivel uman, s-au gândit mai puțin la posibilitatea apariției unei inteligențe supraumane. Ca şi cum latura mentală cu care aceștia fac speculații s-ar fi epuizat într-un asemenea grad odată cu conceperea posibilității existenței unei maşinării care să atingă inteligența umană, încât, pur și simplu, nu mai pot concepe şi corolarul – posibilitatea ca maşinile să devină superinteligente.

Pe de altă parte, precursorii inteligenței artificiale nu au luat în calcul posibilitatea ca întreprinderea lor să implice riscuri.¹³ Nici măcar nu au verbalizat – dar să se gândească serios la această chestiune! – pericolul implicat de mințile artificiale sau posibilele consecințe etice pe care le-ar putea avea existența unor stăpâni cibernetici: o lacună uimitoare, mai ales pe fundalul unei epoci ce nu s-a remarcat prin gândire critică la adresa domeniului tehnic.¹⁴ Nu putem decât să sperăm că, până în momentul în care această întreprindere va deveni cu adevărat fezabilă, vom avea atât capacitatea tehnică pentru a susține ampla dezvoltare informatică, cât și competența necesară pentru a-i asigura efectele durabile.

Dar, înainte să vedem ce va urma, să aruncăm o privire scurtă peste istoria inteligenței artificiale.

Perioade de speranță și perioade de disperare

În vara anului 1956, la Colegiul Dartmouth, zece oameni de ştiință interesați, cu toții, de rețelele neuronale, de teoria roboticii şi de studiul inteligenței, au hotărât să participe la un seminar de şase săptămâni. Proiectul de vară de la Dartmouth, cum este cunoscut, este văzut cu precădere ca evenimentul în urma căruia a apărut domeniul de cercetare a inteligenței artificiale. Mulți participanți aveau să fie considerați, mai târziu, drept părinți ai domeniului. Spiritul optimist care îi caracteriza pe aceștia transpare din propunerea făcută Fundației Rockefeller, care finanța proiectul:

Propunem desfăşurarea unui studiu realizat de zece oa­meni, care să dureze două luni […] Studiul pleacă de la presu­poziția că orice aspect al învățării şi orice caracteristică a inteligenței poate fi, în principiu, descrisă atât de precis, încât să fie simulată de o maşină. Vom încerca să găsim modalități prin care să determinăm maşinile ce utilizează limbajul și realizează abstracțiuni şi concepte să rezolve probleme care astăzi le sunt rezervate oamenilor, precum și să se optimizeze. Credem că este posibil un progres semnificativ pe unul sau mai multe dintre aceste paliere, prin eforturile de o vară ale unei echipe de oameni de ştiință.

Preț de şase decenii după acest început abrupt, domeniul inteligenței artificiale a trecut prin perioade de entuziasm şi speranță, care au alternat cu perioade de regres şi dezamăgire.

Prima perioadă de entuziasm, debutând cu seminarul de la Dartmouth, a fost descrisă de John McCarthy (principalul organizator al evenimentului) drept o fază îndrăzneață. În zilele de început, cercetătorii au construit sisteme care să respingă reacțiile de genul „o mașină n-ar putea să facă niciodată X". Pozițiile sceptice erau comune la acel moment. Pentru a le contrazice, cercetătorii au creat sisteme care puteau face X în interiorul unor microlumi (domenii limitate, bine definite, care permiteau realizarea unor performanțe simetrice), oferind, astfel, o ilustrare a conceptului şi arătând că X poate fi, în principiu, realizat de către o maşină. Unul dintre aceste sisteme timpurii, Teoreticianul logic, a reușit să demonstreze cele mai multe dintre teoremele prezentate în capitolul al doilea al lucrării Principia mathematica, a lui Russell şi Whitehead, şi chiar a construit o demonstrație care era mult mai elegantă decât cea originală, infirmând, astfel, ideea că maşinile ar putea gândi „doar numeric" şi arătând că puteau, de asemenea, realiza deducții şi construi demonstrații logice.¹⁵ Programul care a urmat, Aparatul pentru rezolvarea problemelor generale, putea, în principiu, să soluționeze o gamă largă de probleme bine definite.¹⁶ Au fost, de asemenea, elaborate programe ce rezolvau probleme de calcul specifice primului an de facultate, probleme de analogie vizuală, precum găsim în testele de inteligență, sau probleme de algebră simple.¹⁷ Robotul Shakey (Bâțâitul, în traducere, denumit astfel din pricina tendinței sale de a vibra în timp ce opera) a arătat că gândirea rațională poate fi corelată cu percepția şi a reuşit să planifice şi să controleze activitatea de ordin fizic.¹⁸ Programul ELIZA a demonstrat că un computer putea face treaba unui terapeut rogersian.¹⁹ La mijlocul anilor 1970, programul SHRDLU a arătat că un braț robotic, în interiorul unei lumi simulate din componente geometrice, putea să răspundă la comenzi şi la întrebări scrise pe o tastatură de un utilizator.²⁰ În deceniile următoare, au fost create programe care au demonstrat că, într-adevăr, computerele puteau compune muzică în stilul diferiților compozitori clasici, puteau pune diagnostice mai bine decât anumiți medici rezidenți, puteau conduce maşini şi breveta invenții.²¹ A existat chiar şi un sistem care făcea glume originale. (Nu avea un umor foarte pronunțat – „Ce obții atunci când încrucișezi o concepție cu un input mental? O inepție" –, dar copiii care l-au folosit au declarat că glumele li s-au părut destul de amuzante.²²

Metodele care s-au dovedit eficiente pentru programele timpurii n-au putut fi extinse la o gamă mai largă de probleme sau la unele mai dificile. Și asta din cauza „exploziei combinatorice" de posibilități care trebuie analizate prin metode ce se bazează pe cercetări exhaustive. Aceste metode funcționează perfect pentru variantele mai simple ale unei probleme, dar eşuează atunci când lucrurile devin puțin mai complicate. De exemplu, pentru a demonstra o teoremă care presupune cinci rânduri de demonstrație, cu o regulă de inferență şi cinci axiome, cineva ar putea, pur și simplu, să enumere cele 3 125 de combinații și să vadă dacă vreuna dintre ele reprezintă concluzia dorită. A demonstra o teoremă cu cincizeci de rânduri nu durează de zece ori mai mult decât a demonstra una cu cinci rânduri: de fapt, folosind metoda cercetării exhaustive, trebuie doar să combini 55º~8,9X10³⁴ de secvențe posibile – ceea ce este imposibil din punct de vedere computațional, chiar şi pentru cele mai rapide computere.

Pentru a depăşi dificultățile pe care le implică explozia combinatorică, era nevoie de algoritmi care să exploateze structura din domeniul-țintă şi să țină cont de informațiile obținute anterior prin cercetare euristică, planificare şi capacitate de reprezentare abstractă flexibilă – capacități ce au fost vag schițate în primele sisteme de inteligență artificială. Performanța sistemelor timpurii avea, de asemenea, de suferit din pricina metodelor ineficiente de gestionare a incertitudinii, a metodelor fragile şi nefundamentate de reprezentare simbolică, a datelor insuficiente şi a limitărilor severe legate de spațiul de memorare și de viteza procesoarelor. Pe la mijlocul anilor 1970, aceste probleme au fost conştientizate într-o măsură mai mare. Înțelegerea faptului că multe proiecte de IA nu puteau onora promisiunile inițiale a dus la instalarea primei „ierni a IA": o perioadă de regres, în care finanțările au scăzut şi scepticismul a crescut. IA nu mai era la modă.

O nouă primăvară s-a ivit la începutul anilor 1980, când Japonia a lansat Proiectul celei de-a cincea generații de sisteme computerizate, o întreprindere public-privată care intenționa să devanseze cele mai ambițioase proiecte ale momentului, prin dezvoltarea unei arhitecturi paralele masive, care avea să servească drept platformă pentru IA. Acest lucru a produs o fascinație maximă pentru „miracolul renaşterii economice a Japoniei postbelice", o perioadă în care guvernele apusene şi liderii politici au căutat cu înfrigurare formula secretă a succesului economic nipon, în încercarea de-a o transpune în propria țară. Când Japonia s-a hotărât să investească în IA, mai multe țări i-au urmat exemplul.

Anii care au urmat au cunoscut o proliferare substanțială a sistemelor-expert. Concepute ca instrumente auxiliare pentru sistemele de decizie, ele constituiau, de fapt, programe cu reguli ce facilitau inferențe simple, plecând de la date factuale extrase din domenii umane de cunoaştere şi rescrise, cu migală, în linii de cod. Au fost construite sute de asemenea sisteme. Totuşi, acelea mai mici aveau beneficii reduse, iar cele mai mari erau greu de produs, de validat şi de adus la zi, fiind, în general, greu de folosit. Nu era practică achiziționarea unui computer pentru rularea unui singur program. Spre capătul anilor 1980, acest sezon de creştere era, și el, deja pe terminate.

Proiectul celei de-a cincea generații de sisteme computerizate n-a reușit să-şi atingă obiectivele, și nici proiectele omoloage din Europa sau America. Sosise o a doua iarnă. În acest moment, un critic a acuzat, pe bună dreptate, „istoria de până acum a cercetării din domeniul inteligenței artificiale, care a constat doar în reușite foarte mici în arii foarte specifice, urmate îndeaproape de eșecul de a realiza scopuri mai ample, care să fi pornit de la aceste mici succese inițiale".²³ Investitorii privați începuseră să ocolească orice proiect care avea legătură cu inteligența artificială. Până şi academicienii şi finanțatorii ajunseseră să se ferească de ideea de IA.²⁴

Și, totuși, eforturile tehnice au continuat şi, la începutul anilor 1990, asistăm la un nou dezgheț. Optimisul e reaprins prin apariția unor noi tehnici ce par să reprezinte o alternativă la vechea paradigmă logicistă (denumită, adesea, Inteligența artificială de modă veche, sau IAMV), care se bazase pe manipularea la nivel înalt a simbolurilor şi atinsese apogeul prin programele-expert ale anilor 1980. Noile tehnici devenite populare, care includeau rețele neuronale şi algoritmi genetici, promiteau să depăşească impasurile tehnologiilor aparținând IAMV, în special „fragilitatea ce caracteriza programele IA (care produceau, de regulă, nonsensuri, ori de câte ori programul realiza o cât de mică asumpție greşită). Noile tehnici prezentau o performanță mult mai organică. De exemplu, rețelele neuronale aveau proprietatea „degradării elegante: o mică eroare în rețea ducea, de obicei, la o degradare infinitezimală a performanței, şi nu la colaps. Chiar mai important, rețelele neuronale învățau din experiență, găsind căi naturale de generalizare în baza exemplelor şi a tiparelor statistice prevăzute de datele de intrare.²⁵ Asta a făcut ca rețelele neuronale să devină eficiente în recunoaşterea tiparelor şi realizarea de clasificări. De exemplu, antrenând o rețea neuronală prin semnale lansate de sonare, aceasta ajunge să distingă între tiparele sonore ale submarinelor, ale minelor şi ale vieții marine mai bine decât specialiștii umani – şi asta fără să fie nevoie de un om care să trebuiască a defini, înainte, categoriile sau modul de evaluare a diferitelor trăsături.

Deşi modelele simple de rețele neuronale erau configurate încă din anii 1950, acest domeniu de cercetare a luat amploare după apariția algoritmilor retropropagatori, care au făcut posibilă antrenarea unor rețele neuronale multistratificate. Aceste rețele multistratificate, care au unul (sau mai multe) straturi „ascunse" între stratul receptor şi cel emitent, pot deprinde un număr mult mai mare de funcții decât predecesoarele lor. Combinate cu computerele tot mai puternice care apăreau pe piață, aceste inovații algoritmice le-au permis inginerilor să construiască rețele neuronale suficient de bune pentru a viza diverse aplicații.

Caracteristicile acestor rețele similare cu ale creierului erau superioare manierei logice, dar fragile, cu care operau sistemele bazate pe reguli, ca IAMV – îndeajuns cât să insipre un nou „-ism": conexionismul, sugerând importanța masivei procesări paralele subsimbolice. De atunci, au fost publicate mai mult de 150 000 de lucrări academice privind procesarea neuronală, iar tehnicile de acest tip și-au menținut importanța în ceea ce privește învățarea artificială.

Metodele bazate pe tipare evoluționiste, precum algoritmii genetici şi programarea genetică, au constituit un alt factor care a dus la cel de-al doilea dezgheț în ceea ce privește inteligența artificială. Au avut, probabil, un impact mai mic decât rețelele neuronale, dar au fost intens popularizate. În modelele evolutive, o populație de soluții candidate (care pot fi structuri de date sau programe) este menținută stabilă şi noi soluții candidate sunt propuse la întâmplare prin transformarea sau varierea soluțiilor înaintate inițial. Din când în când, populația de soluții este evaluată după un criteriu (o funcție adaptativă) care face numai cei mai buni candidați să supraviețuiască şi să treacă în populația următoare. După mii de generații în care se produc variații, soluțiile vor deveni, în medie, mai bune. Atunci când funcționează, acest model poate produce soluții pentru o gamă mare de probleme – soluții care pot fi izbitor de originale sau de contraintuitive, semănând mai degrabă cu modelele naturale, decât cu ceva proiectat de un inginer uman. Mai mult decât atât, modelul pare să funcționeze fără prea mult ajutor din partea omului, cu excepția specificării inițiale a funcției adaptative, care este, adesea, foarte simplă. Cu toate acestea, în practică, este nevoie de multă inteligență şi ingeniozitate pentru ca modelele evoluționiste să funcționeze, în special în ceea ce privește construirea unui model reprezentațional bun. Fără o modalitate bună prin care să fie codate soluțiile candidate (un limbaj genetic care să se potrivească structurilor latente din domeniul-țintă), cercetarea evoluționistă rătăcește la nesfârșit într-un spațiu vast sau se blochează la o soluție optimă locală. Chiar dacă este găsit un format reprezentațional bun, evoluția este solicitantă din punct de vedere computațional şi este afectată, adeseori, de explozia combinatorică.

Rețelele neuronale şi algoritmii genetici sunt exemple de metode care au dus la creşterea entuziasmului în anii 1990, pentru că păreau să constituie alternative la modelele depăşite ale IAMV. Dar intenția mea nu este să ridic în slăvi aceste două metode, făcându-le să pară superioare altora din domeniul tehnicii de calcul. De fapt, un progres teoretic major, în ultimele două decenii, a fost înțelegerea clară a faptului că tehnicile disparate în mod superficial sunt, de fapt, cazuri speciale ale aceluiaşi cadru matematic. De exemplu, multe tipuri de rețele neuronale artificiale constituie clasificatori ce performează un anumit tip de calcul statistic (estimare maximală a probabili­tății).²⁶ Asta face rețelele neuronale să fie comparate cu o clasă mai largă de algoritmi pentru deprinderea clasificatorilor din exemple – „arbori de decizie, „modele de regresie logistică, „maşini cu vector suport, „Bayes naiv, „regresia la cei mai apropiați vecini ai lui k", ca să numim doar câteva.²⁷ În acelaşi mod, algoritmii genetici pot fi priviți ca metode stocastice de avansare, ce reprezintă tot o subclasă de algoritmi cu rol în optimizare. Toți aceşti algoritmi vizând construcția clasificatorilor sau identificarea unui spațiu pentru soluții au propriile slăbiciuni şi puncte tari, care pot fi studiate matematic. Algoritmii diferă în privința timpilor de procesare şi a spațiului necesar pentru stocare, a erorilor pe care le presupun, a uşurinței cu care pot fi integrate datele externe şi a gradului de transpa­rență avut în raport cu un analist uman.

Dincolo de această junglă din domeniul tehnicii de calcul şi a rezolvării creative de probleme, se află un set cu specificații clare de compromisuri matematice. Idealul vizează un agent bayesian perfect, unul care utilizează în cel mai bun mod cu putință, din perspectivă probabilistică, soluțiile existente. Acest ideal nu poate fi obținut în mod efectiv, pentru că este prea solicitant din punct de vedere computațional ca să fie implementat într-un computer fizic (vezi caseta 1). Astfel, IA poate fi privită ca o încercare de a găsi în permanență scurtături: căi de aproximare agreabilă a idealului bayesian, prin sacrificarea unui anumit grad de optim şi generalitate, menținându-le, în acelaşi timp, într-o măsură suficientă, pentru a înregistra rezultate semnificative în domeniul de interes.

Caseta 1. Un agent bayesian „ideal"

Un agent bayesian „ideal începe cu o „distribuție probabilă prealabilă, o funcție care conferă probabilități fiecărei lumi posibile (adică fiecărui mod maximal specific în care ar putea exista lumea).²⁸ Această funcție prevede o eroare inductivă, astfel că lumilor mai simple le este conferită o probabilitate mai mare. (O cale, pentru a defini formal simplitatea unei lumi posibile, este dată de „complexitatea Kolmogorov", o măsură bazată pe lungimea celui mai scurt program care generează o descriere a lumii.²⁹) Distribuția prealabilă prevede și cunoștințele de fond pe care programatorul doreşte să le pună la dispoziția agentului.

Pe măsură ce agentul primeşte informații noi de la senzorii lui, reconfigurează distribuția probabilităților, condiționalizând distribuția noilor informații conform teoremei lui Bayes.³⁰ Condițio­nalizarea este operația matematică ce stabileşte la zero noua probabilitate a lumilor inconsecvente cu lumea dată și renormalizează distribuția probabilistică a lumilor rămase. Rezultă „o distribuție probabilistică ulterioară" (pe care agentul o poate folosi pe post de condiție inițială în pasul următor). Pe măsură ce agentul face observații, masa probabilistică se comprimă într-un un set tot mai mic de lumi posibile care corespund dovezilor; iar dintre acestea, acelea mai simple sunt, întotdeauna, mai probabile.

Probabilitatea unei propoziții precum E este dată de suma probabilităților lumilor posibile în care aceasta este adevărată.

Metaforic, ne putem gândi la probabilități ca la o mână de nisip pe o foaie de hârtie. Hârtia este împărțită în arii diferite ca mă­rime, fiecărei arii corespunzându-i o lume posibilă, iar ariile mai mari având asociate cele mai simple lumi posibile. Imaginați-vă, de asemenea, un strat uniform de nisip, întins pe toată suprafața foii; aceasta este distribuția prealabilă a probabilității. Ori de câte ori este făcută o observație ce exclude anumite lumi posibile, îndepărtăm nisipul din zonele corespondente ale hârtiei și-l distribuim în mod egal în zonele ce rămân în joc. Astfel, cantitatea totală de nisip, de pe foaie, nu se schimbă niciodată, ci se concentrează în tot mai puține zone, pe măsură ce se cumulează dovezile relevante. Aceasta este imaginea învățării în cea mai pură formă. (Pentru a calcula probabilitatea unei ipoteze, pur şi simplu, calculăm cantitatea de nisip din toate zonele ce corespund lumilor posibile în care ipoteza este valabilă.)

Până acum, am definit o regulă de învățare. Pentru a avea un agent, trebuie să definim şi o regulă de decizie. În acest sens, îi asociem agentului o „funcție utilitară" care acordă un număr fiecărei lumi posibile. Numărul reprezintă caracterul dezirabil al acelei lumi, în funcție de preferințele agentului. Astfel, la fiecare pas, agentul alege lumea cea mai dezirabilă cu putință.³¹ (Pentru a găsi acțiunea cu cea mai mare utilitate estimată, agentul va înșirui toate acțiunile. Apoi, va calcula distribuția de probabilitate condițională specifică acțiunii – distribuția probabilistică rezultând din condiționalizarea distribuției probabilistice curente, în baza observației că acțiunea tocmai a avut loc. Finalmente, va calcula valoarea estimată a acțiunii ca suma valorii fiecărei lumi posibile înmulțită cu probabilitatea condițională a acelei lumi, în baza acțiunii date³².)

Regula de învățare și regula de decizie definesc, la un loc, „noțiunea optimalității" pentru un agent. (De fapt, această noțiune a fost folosită la scară largă în domeniul inteligenței artificiale, al epistemologiei, al filosofiei ştiinței, economiei sau statisticii.³³) În realitate, este imposibil să construim un asemenea agent, pentru că nu ne stă în putere, din punct de vedere computațional, să realizăm calculele necesare. Orice încercare de a face acest lucru va duce, invariabil, la o explozie computațională de tipul celei pe care am amintit-o cu referire la IAMV. Pentru a înțelege de ce se întâmplă aşa, să luăm în considerare o mică subdiviziune de lumi posibile: lumi constând într-un singur monitor de computer care pluteşte într-un vid nesfârșit. Monitorul are 1 000x1 000 de pixeli, fiecare dintre ei fiind activ sau nu. Simpla subdiviziune a acestei lumi este enormă: 2¹ºººx¹ººº de stări posibile ale monitorului este o valoare ce depăşeşte orice valoare computațională realizabilă în universul observabil. Astfel, nu putem nici măcar număra toate lumile posibile ale acestei mici subdiviziuni de lumi observabile, dar să realizăm operații compu­taționale asupra fiecăreia dintre ele!

Ideea optimalității e interesantă din punct de vedere teoretic, chiar dacă e irealizabilă fizic. Ea ne conferă standarde după care să judecăm aproximațiile euristice şi, uneori, să raționăm cu privire la ce ar fi făcut un agent optim într-un anumit caz. Vom descoperi noțiuni alternative ale optimalității pentru agenți artificiali în Capitolul 12.

O reflectare a acestei imagini o dă munca realizată în ultimele două decenii în materie de modele grafice probabilistice, cum sunt rețelele bayesiene. Acestea asigură o cale concisă de a reprezenta relațiile de independență condiționale şi probabilistice, valabile într-un anumit domeniu. (Exploatarea acestor relații de independență este esențială pentru a învinge explozia combinatorică, ce reprezintă o problemă atât pentru inferarea probabilistică, cât şi pentru deducția logică.) De asemenea, aceste relații ne permit să sondăm profunzimea conceptului de cauzalitate.³⁴

Un avantaj al corelării problemelor din diverse domenii cu problema generală a inferenței bayesiene este acela că algoritmii care fac inferența bayesiană mai eficientă vor duce la progrese imediate în arii cât se poate de diferite. Progresele realizate în ceea ce privește tehnicile de aproximare Monte Carlo, de exemplu, sunt utilizate direct în imagistica computerizată, în robotică sau în genetica computațională. Un alt avantaj este acela că specialiștii din alte domenii pot să-şi prezinte mai uşor descoperirile. Modelele grafice şi statistica bayesiană au devenit un punct comun de cercetare în arii diverse, ca învățarea digitală, fizica statistică, bioinformatica, optimizarea combinatorică şi teoria comunicării. O mare parte dintre progresele înregistrate în materie de învățare digitală au fost posibile prin integrarea unor rezultate obținute inițial în alte domenii de cercetare. (Aplicațiile de învățare mecanică au beneficiat, de asemenea, enorm de pe urma computerelor mai rapide şi a accesului mai amplu la baze mari de date.)

Cel mai mare nivel de dezvoltare

Inteligența artificială depăşeşte deja inteligența umană în multe domenii. Tabelul 1 prezintă starea jocurilor pe computer, demonstrând că IA învinge deja jucătorii umani într-o gamă foarte largă de jocuri.³⁵³⁶³⁷

³⁸³⁹⁴⁰

Aceste realizări nu mai par foarte impresionante astăzi. Dar asta doar pentru că standardele noastre cu privire la ce este impresionant țin, şi ele, pasul cu progresele realizate. Jucătorii experți de şah, de exemplu, au fost cândva considerați ca un etalon intelectual. Iată ce spuneau specialiștii la sfârșitul anilor 1950: „Dacă o persoană ar crea o maşină de jucat şah, atunci am putea spune despre ea că a pătruns miezul intelectului uman"⁴¹. Astăzi, lucrurile nu mai stau așa. Ba chiar rezonăm cu John McCarthy, care se plângea: „Atât vreme cât merge, nu-i mai zice nimeni IA"⁴².

Într-un sens important, însă, jucătorii virtuali de şah au marcat un triumf mai mic decât era de așteptat. Existase la un moment dat presupunerea, poate nu fără temei, că, pentru ca un computer să joace şah la nivelul unui maestru, ar trebui să fie dotat cu o inteligență generală de grad mare.⁴³ Poate că lumea își închipuia, de exemplu, că, pentru a juca şah profesionist, trebuia să ai capacitatea de a-ți însuți concepte abstracte, să gândești în termeni isteți problema strategiei, să compui planuri flexibile, să faci multe deducții logice şi ingenioase şi poate chiar să anticipezi gândirea adversarului. Nu e cazul. A fost cât se poate de posibilă realizarea unui soft pentru jocul de şah, cu un algoritm foarte țintit.⁴⁴ Odată implementat pe procesoarele rapide produse către sfârşitul secolului XX, au rezultat jocuri extrem de performante. Dar un asemenea produs al IA este slab. Poate juca şah, dar atât și nimic altceva.⁴⁵

În alte domenii, soluțiile s-au dovedit mai complicate decât era de aşteptat, iar progresul, mai lent decât fusese estimat. Omul de ştiință Donald Knuth se declara șocat că „IA a reuşit să facă, în principiu, tot ceea ce poate face gândirea umană, dar nu și ceea ce oamenii reuşesc fără gândire, acest lucru fiind întru câtva mai greu"⁴⁶. A analiza scene vizuale, a recunoaşte obiecte, a controla comportamentul unui robot atunci când interacționează cu mediul natural s-au dovedit provocări interesante. Totuşi, s-au înregistrat progrese şi se înregistrează și acum, încurajate de schimbările avansate în materie de hardware.

Dreapta judecată şi înțelegerea limbilor naturale s-au dovedit, de asemenea, dificil de realizat. Există opinia că a atinge un nivel uman de performanță în cazul acestor operațiuni este o problemă care ține de „completitudinea IA", ceea ce înseamnă că dificultatea de a rezolva astfel de probleme este echivalentă cu dificultatea de a realiza maşini care să aibă un nivel uman de inteligență generală.⁴⁷ Asta înseamnă că, în cazul în care cineva ar reuşi să creeze o IA care să înțeleagă limbile naturale la fel ca un adult, ar fi ca şi cum ar reuşi să creeze o IA care să reuşească tot ceea ce poate reuși inteligența umană sau ar fi foarte aproape de o astfel de performanță.⁴⁸

Capacitatea de a juca şah la nivel performant poate fi deprinsă prin intermediul unui algoritm surprinzător de simplu. Este tentant să speculăm că alte abilității – precum capacitatea generală de raționare sau anumite capacități-cheie implicate în programare – ar putea fi deprinse în acelaşi mod, prin intermediul unor algoritmi simpli. Faptul că performanța de moment este obținută printr-un mecanism complicat nu înseamnă că unul mai simplu nu ar putea face acelaşi lucru la fel de bine sau chiar mai bine. Poate că nu a găsit încă nimeni alternativa mai simplă. Sistemul cosmologic ptolemeic (cu Pământul în centru, orbitat de Soare, de Lună şi de planete) a reprezentat cel mai bun model astronomic vreme de milenii, iar