Singularidad tecnolgica

La singularidad tecnolgica es el advenimiento hipo- A pesar de que el progreso tecnolgico se ha acelerado,

ttico de inteligencia articial general (tambin conocida se ha visto limitado por la inteligencia bsica del cere-
como "IA fuerte", del ingls strong AI). La singularidad bro humano, que no ha tenido, segn Paul R. Ehrlich, un
tecnolgica implica que un equipo de cmputo, red infor- cambio signicativo durante los ltimos milenios. [10] Sin
mtica, o un robot podran ser capaces de auto-mejorarse embargo, con el creciente poder de las computadoras y
recursivamente (rediseo de s mismo), o en el diseo y otras tecnologas, eventualmente podra ser posible cons-
construccin de computadoras o robots mejores que l truir una mquina ms inteligente que la humanidad. [11]
mismo. Se dice que las repeticiones de este ciclo proba- Si una inteligencia sobrehumana fuese inventada ya sea
blemente daran lugar a un efecto fuera de control -una a travs de la amplicacin de la inteligencia humana o
explosin de inteligencia [1][2] - donde las mquinas in- a travs de la inteligencia articial podra ser capaz de
teligentes podran disear generaciones de mquinas su- aportar una mayor resolucin de problemas y habilidades
cesivamente cada vez ms potentes, la creacin de inteli- inventivas que los humanos actuales son capaces de hacer.
gencia muy superior al control y la capacidad intelectual Podra entonces disear una mquina mejor, capaz de re-
humana.[3] escribir su propio software para ser an ms inteligente.
El primer uso del trmino singularidad en este contex- Esta mquina sera capaz entonces de seguir para dise-
to se hizo en 1958 por el matemtico y fsico hngaro ar una mquina de mayor capacidad. Estas iteraciones
John von Neumann. En 1958, en relacin con un resumen de auto-mejora recursiva podran acelerar, permitiendo
de una conversacin con von Neumann, Stanislaw Ulam potencialmente un enorme cambio cualitativo antes que
describi el cada vez mas rpido progreso tecnolgico y los lmites superiores impuestos por las leyes de la fsica
los cambios en el modo de la vida humana, lo que da la o de clculo terico fueran jados.[12][13][14]
apariencia de que se acerca alguna singularidad esencial
en la historia de la raza humana ms all de sus propios 1.2 Aparicin de la superinteligencia
asuntos tales como los conocemos, no puede seguir.[4] El
trmino fue popularizado por el matemtico, informti- Muchos de los escritores ms reconocidos sobre la sin-
co y autor de ciencia ccin Vernor Vinge, quien sostiene gularidad, como Vernor Vinge y Ray Kurzweil, denen
que la inteligencia articial, la mejora biolgica humana, el concepto en trminos de la creacin tecnolgica de su-
o interfaces cerebro-ordenador podran ser las posibles perinteligencia. Ellos argumentan que es difcil o impo-
causas de la singularidad.[5] Ray Kurzweil cit el uso de sible para los seres humanos de hoy en da predecir c-
von Neumann del trmino en un prlogo de von Neumann mo ser la vida de los seres humanos en un mundo post-
del clsico The Computer and the Brain. singularidad. [6][7][15] El trmino singularidad tecnolgi-
Kurzweil predice que la singularidad ocurrir alrededor ca fue acuado originalmente por Vinge , quien hizo una
del 2045,[6] mientras que Vinge la predice en algn tiem- analoga entre la ruptura de nuestra capacidad de predecir
po antes del 2030.[7] En la Cumbre de la Singularidad del lo que sucedera despus del desarrollo de la superinteli-
2012, Stuart Armstrong hizo un estudio sobre las predic- gencia y la ruptura de la capacidad predictiva de la fsica
ciones de la inteligencia articial general (AGI) de los moderna en la singularidad del espacio-tiempo, ms all
expertos y se encontr una amplia gama de fechas pre- del horizonte de sucesos de un agujero negro.[15]
dichas, con un valor medio de 2040. Discutiendo el nivel
de incertidumbre en las estimaciones de AGI, dijo Arms-
trong en 2012, No es completamente formalizada, pero 1.3 Singularidad de la No-IA
mi estimacin actual del 80 % es algo as como a partir
de cinco a 100 aos.[8] Algunos autores utilizan la singularidad de una manera
ms amplia para referirse a los cambios radicales en nues-
tra sociedad, provocados por las nuevas tecnologas como
la nanotecnologa molecular; [16][17][18] aunque Vinge y
1 Manifestaciones otros destacados escritores declaran especcamente que
sin la superinteligencia, estos cambios no calicaran co-
1.1 Explosin de inteligencia mo una verdadera singularidad. [7] Muchos autores tam-
bin vinculan la singularidad de las observaciones del cre-
La IA fuerte podra provocar una explosin de inteli- cimiento exponencial de diversas tecnologas (con la Ley
gencia, un trmino acuado en 1965 por I. J. Good. [9] de Moore, que es el ejemplo ms prominente). Con el uso

1
2 2 PLAUSIBILIDAD

de tales observaciones como base para la prediccin de la tacin previas al circuito integrado. El futurista Ray Kurz-
singularidad, es probable que suceda en algn momento weil postula una ley de rendimientos acelerados, en el que
del siglo 21.[17][19] la velocidad del cambio tecnolgico (y, en general, de to-
dos los procesos evolutivos [25] ) aumenta de manera ex-
ponencial, la generalizacin de la Ley de Moore al igual
2 Plausibilidad que en la propuesta de Moravec, y tambin incluyendo
la tecnologa de materiales (especialmente aplicada a la
nanotecnologa), la tecnologa mdica y otras.[26] Entre
Gary Marcus arma que prcticamente todo el mundo 1986 y 2007, la capacidad especca de la aplicacin de
en el campo de la IA cree que las mquinas algn da su- las mquinas para computar la informacin per cpita, se
perarn a los humanos y en cierto nivel, la nica diferen- ha duplicado cada 14 meses; la capacidad per cpita de
cia real entre los entusiastas y los escpticos es un marco ordenadores de uso general en el mundo se ha duplicado
de tiempo.[20] [20] Sin embargo, muchos tecnlogos y cada 18 meses; la capacidad mundial de telecomunica-
acadmicos prominentes disputan la plausibilidad de una ciones per cpita se duplic cada 34 meses; y la capaci-
singularidad tecnolgica, incluyendo a Paul Allen, Je dad de almacenamiento del mundo per cpita se duplic
Hawkins, John Holland, Jaron Lanier, y Gordon Moore, cada 40 meses.[27] Al igual que otros autores, Kurzweil
cuya Ley de Moore se cita a menudo en apoyo del con- se reserva el trmino singularidad a un rpido aumen-
cepto. [21][22][23] to de la inteligencia (a diferencia de otras tecnologas),
la escritura, por ejemplo, que La Singularidad nos per-
mitir trascender las limitaciones de nuestros cuerpos y
2.1 Causa probable: el crecimiento expo- cerebros biolgicos ... No habr distincin, despus de
nencial la Singularidad, entre el ser humano y la mquina. [28]
Se cree que el diseo del cerebro humano, aunque no
es sencillo, es no obstante un billn de veces ms sim-
ples de lo que parece, debido a la masiva redundancia.
[29]
Segn Kurzweil, la razn por la que el cerebro tiene
una calidad desordenada e impredecible es porque l, co-
mo la mayora de los sistemas biolgicos, es un fractal
probabilstico. [30] Tambin dene su fecha prevista de la
singularidad (2045) en trminos de cuando se espera que
las inteligencias basadas en la informtica excedan sig-
nicativamente la suma total de la capacidad intelectual
humana, la escritura de los avances en la computacin
antes de esa fecha no va a representar a la Singularidad
porque no lo hacen para corresponder a una profunda
expansin de nuestra inteligencia.[31]

2.1.1 Cambio Acelerado

Ray Kurzweil escribe que, debido a los cambios de paradigma,

una tendencia de crecimiento exponencial extiende la ley de Moo-
re de circuitos integrados para los primeros transistores, los tubos
de vaco, rels y equipos electromecnicos. l predice que el cre-
cimiento exponencial va a continuar, y que en pocas dcadas la
potencia de clculo de todos los ordenadores superar al de (sin
contraste) los cerebros humanos, con la inteligencia articial so-
brehumana que aparece en la misma poca.

El crecimiento exponencial de la tecnologa informti-

ca sugerido por la Ley de Moore es comnmente citado
como una razn para esperar una singularidad en un fu-
turo relativamente prximo, y una serie de autores han
propuesto generalizaciones de la Ley de Moore. El infor-
mtico y futurista Hans Moravec propuso en un libro de Segn Kurzweil, su grca logartmica de 15 listas de cambios
1998 [24] que la curva de crecimiento exponencial podra de paradigma para los eventos histricos clave muestra una ten-
extenderse de nuevo a travs de tecnologas de compu- dencia exponencial.
2.2 Crticas
Algunos defensores de la singularidad argumentan su
inevitabilidad mediante la extrapolacin de las tendencias
del pasado, en especial las relativas en el acortamiento de
la brecha entre las mejoras y la tecnologa. Uno de los
primeros usos del trmino singularidad en el contexto
de los avances tecnolgicos, Stanislaw Ulam (1958) ha-
bla de una conversacin con John von Neumann sobre el
cambio de aceleracin:
Una conversacin se centr en los avances
cada vez ms acelerados de la tecnologa y los
cambios en el modo de la vida humana, lo que
da la apariencia de que se acerca una singu-
laridad esencial en la historia ms all de los
asuntos humanos, y tal como los conocemos,
no podrn continuar.[4]
Hawkins (1983) escribe que mindsteps, cambios dra-
mticos e irreversibles a paradigmas o visiones del mun-
do, se estn acelerando en la frecuencia cuanticada en
su ecuacin de la misma. Cita los inventos de la escritu-
ra, las matemticas y la informtica como ejemplos sobre
tales cambios.
El anlisis de Kurzweil sobre la historia concluye que el
progreso tecnolgico sigue un patrn de crecimiento ex-
ponencial, a raz de lo que l llama la ley de rendimientos
acelerados (del ingls Law of Accelerating Returns). Cada
vez que la tecnologa se acerca a una barrera, Kurzweil es-
cribe que, las nuevas tecnologas la superern. l predice
que los cambios de paradigmas se volvern cada vez ms
comunes, lo que lleva al cambio tecnolgico tan rpido
y profundo que representa una ruptura en el tejido de la
historia humana. [32] Kurzweil cree que la singularidad
se producir antes del nal del siglo XXI, con estableci-
miento de la fecha a 2045.[33] Sus predicciones dieren de
Vinge, el cual predice un ascenso gradual a la singulari-
dad, en lugar de una auto-mejora rpida de la inteligencia
sobrehumana de Vinge.
Presumiblemente, una singularidad tecnolgica llevara a
un rpido desarrollo de una civilizacin Kardashev Tipo I,
la cual ha logrado el dominio de los recursos de su planeta
de origen.[34]
Peligros frecuentemente citados incluyen a los asociados
comnmente con la nanotecnologa molecular y la inge-
niera gentica. Estas amenazas son los principales pro-
blemas para los dos defensores y crticos de la singula-
ridad, que fueron objeto de artculo de la revista Wired
de Bill Joy Por qu el futuro no nos necesita (Why the
future doesnt need us)[35]
La Acceleration Studies Foundation (al espaol, Funda-
cin de Estudios de Aceleracin), una fundacin educati-
va sin nes de lucro fundada por John Smart, dedicada a
la divulgacin, la educacin, la investigacin y a la defen- ra controlan nuestras clulas vivas. En el futuro, el ser
sa en relacin con la aceleracin del cambio.[36] En ella
se produce la conferencia sobre la aceleracin del cambio
(Accelerating Change) en la Universidad de Stanford, y Jared Diamond, en Colapso: Por qu unas sociedades per-
mantiene el sitio educativo Aceleration Watch.
3
Los avances recientes, como la produccin en masa del
grafeno utilizando mezcladores modicados de cocina
(2014) y los superconductores de alta temperatura ba-
sados en metamateriales, podran permitir supercompu-
tadoras que, utilizaran tanta energa como un tpico Core
I7 (45W), y podran alcanzar la misma potencia de clcu-
lo como el sistema de IBM Blue Gene/L.[37][38]
2.2 Crticas
Algunos crticos arman que ningn equipo o mquina
podran alcanzar la inteligencia humana, mientras que
otros sostienen que la denicin de la inteligencia es irre-
levante si el resultado nal es el mismo. [39]
Steven Pinker declar en 2008,
(...) No hay la ms mnima razn para creer
en una singularidad que viene. El hecho de que
se puede visualizar un futuro en su imaginacin
no es evidencia de que es probable o incluso po-
sible. Mira las ciudades abovedadas, desplaza-
mientos jet-pack, ciudades bajo el agua, edi-
cios de millas de alto, y los automviles de pro-
pulsin nuclear todas eran fantasas futuristas
cuando yo era un nio que nunca llegaron. La
pura potencia de procesamiento no es un pol-
vo mgico que resuelve mgicamente todos tus
problemas.(...)[21]
Martin Ford en Las Luces en el tnel: Automatizacin,
Tecnologa Acelerar y la economa del futuro (del in-
gls, The Lights in the Tunnel: Automation, Accelerating
Technology and the Economy of the Future)[40] postula
una paradoja de la tecnologa en la que antes de la sin-
gularidad podran ocurrir trabajos rutinarios en los que la
economa sera automatizada, ya que esto requerira una
nivel de tecnologa inferior a la de la singularidad. Esto
provocara desempleo masivo y la cada de la demanda
del consumidor, que a su vez destruiran el incentivo para
invertir en las tecnologas necesarias para lograr la singu-
laridad. El desplazamiento de empleo es cada vez menos
limitado a trabajos tradicionalmente considerados como
de rutina.[41]
Joan Slonczewski y Adam Gopnik argumentan que la
Singularidad es un proceso gradual; que como seres hu-
manos gradualmente externalizamos nuestra capacidad a
las mquinas, [42] que redenimos esas habilidades como
inhumanas, sin darse cuenta de lo poco que queda. Es-
te concepto se denomina Singularidad Mitocondrial. [43]
La idea se reere a las mitocondrias, los orgnulos que
se desarrollan a partir de bacterias autnomas, pero aho-
humano dentro del exoesqueleto de la mquina podra
existir slo para encenderla.
duran y otras desaparecen (del ingls, Collapse: How So-
4 2 PLAUSIBILIDAD

cieties Choose to Fail or Succeed), sostiene que las cultu- de su curva trazada... redundante. Arm que el creci-
ras auto-limitantes, cuando superen la capacidad de car- miento exponencial no es predictor de s mismo, e ilustra
ga sostenible de su entorno, y el consumo de los recur- esto con ejemplos tales como la teora cuntica. La cun-
sos estratgicos (con frecuencia la madera, suelos o agua) tica fue concebida en 1900, y la teora cuntica que esta-
crearn una retroalimentacin positiva deletrea repetiti- ba en existencia se acept aproximadamente 25 aos ms
va que conducira nalmente al colapso social y el retro- tarde. Sin embargo, se tard ms de 40 aos por Richard
ceso tecnolgico. Feynman y otros para producir nmeros signicativos en
Theodore Modis [44][45] y Jonathan Huebner [46] sostie- la teora. Bethe entendi la fusin nuclear en 1935, pero
75 aos despus estn siendo utilizados los reactores de
nen que el ritmo de la innovacin tecnolgica no slo ha
dejado de aumentar, pero en realidad est ahora en decli- fusin con parmetros experimentales. Del mismo modo,
el entrelazamiento cuntico se entenda en 1935, pero no
ve (John Smart, sin embargo, critica el anlisis de Hueb-
ner [47] ). La evidencia de este descenso es que la subida en el punto de ser utilizados en la prctica hasta el siglo
21.
de las frecuencias de reloj de las computadoras est re-
trasndose, aunque la prediccin de Moore, que la den- Paul Allen argumenta lo contrario sobre los retornos ace-
sidad del circuito sigue mantenindose con un aumento lerados, el freno de la complejidad;[23] la ciencia ms
exponencial. Esto es debido a la excesiva acumulacin de avanzada hacia la comprensin hace que la inteligencia
calor desde el chip, que no puede disipar lo suciente- se haga ms difcil, y sera para hacer progresos adicio-
mente rpido para evitar que el chip se derrita cuando nales. Un estudio sobre la cantidad de patentes muestra
se opera a altas velocidades. Los avances en la velocidad que la creatividad humana no muestra retornos acelera-
pueden ser posibles en el futuro, en virtud de ms dise- dos, pero de hecho, como sugiere Joseph Tainter en su
os de CPU energticamente ecientes y procesadores de artculo El Colapso de las Sociedades Complejas (del
multi-celdas.[48] Mientras que Kurzweil utiliza los recur- ingls, The Collapse of Complex Societies),[52] una ley
sos y trabajos de Modis, alrededor de la aceleracin del de rendimientos decrecientes. El nmero de patentes por
cambio, Modis se distanci de la tesis de Kurzweil de una cada mil alcanz su punto mximo en el perodo de 1850
singularidad tecnolgica, alegando que carece de rigor a 1900, y ha ido disminuyendo desde entonces.[46] El cre-
cientco.[45] cimiento de la complejidad con el tiempo llega a ser au-
Otros proponen que otras singularidades se pueden tolimitada, y conduce a un generalizado colapso general
encontrar a travs del anlisis de las tendencias de la de sistemas.
poblacin mundial, el producto interno bruto mundial, Jaron Lanier refuta la idea de que la singularidad es inevi-
entre otros ndices. Andrey Korotayev y otros argumen- table. l dice: Yo no creo que la tecnologa se est crean-
tan que las curvas hiperblicas de crecimiento histrico do a s misma. No es un proceso en el anonimato.. l va
se le pueden atribuir a los ciclos de retroalimentacin que a armar: ". La razn para creer en la accin humana so-
dejaron de afectar a las tendencias mundiales en la d- bre el determinismo tecnolgico es que a continuacin,
cada de 1970, y que el crecimiento hiperblico no debe puede tener una economa donde la gente gane su propio
esperarse en el futuro.[49][50] camino e invente sus propias vidas. Si se estructura una
En El Progreso de la Informtica (en ingls, The Progress sociedad sin enfatizar a la accin humana individual, que
of Computing), William Nordhaus argument que, antes es lo mismo operacionalmente como negar a las personas
de 1940, los equipos siguieron el crecimiento lento de la inuyentes, la dignidad y la autodeterminacin ... Parea
economa industrial tradicional, rechazando as las extra- abrazar [la idea de la Singularidad]
[53]
sera una celebracin
polaciones de la ley de Moore a las computadoras del de mal gusto y mala poltica.
siglo 19. Schmidhuber (2006) sugiere diferencias en la Adems de las crticas generales del concepto de singu-
memoria de los acontecimientos recientes y lejanos para laridad, varios crticos han planteado cuestiones con la
crear una ilusin de la aceleracin del cambio, y que tales carta emblemtica de Kurzweil. Una lnea de crtica es
fenmenos pueden ser responsables de las predicciones que un grco log-log de esta naturaleza se inclina intrn-
apocalpticas del pasado. secamente hacia un resultado en lnea recta. Otros iden-
Andrew Kennedy, en su artculo de 2006 para la Socie- tican un sesgo de seleccin en los puntos que Kurzweil
elige utilizar. Por ejemplo, el bilogo PZ Myers seala
dad Interplanetaria Britnica discute el cambio y el cre-
cimiento en las velocidades de los viajes espaciales, [51] que muchos de los primeros eventos evolutivos fueron
detenidos arbitrariamente.[54] Kurzweil ha refutado esto,
declar que aunque el crecimiento global a largo plazo es
inevitable, es pequeo, que incorpora subidas y bajadas, trazando eventos evolutivos de 15 fuentes neutrales, y de-
y seal que " Las nuevas tecnologas siguen las leyes del mostrando que encajan en una lnea recta en un grco
uso de la energa y la informacin de difusin conocidas log-log. The Economist se burl de la idea con un grco
y estn obligados a conectarse con los que existen. No- extrapolando el nmero de hojas en una mquina de afei-
tables descubrimientos tericos, si terminan siendo uti- tar, la cual ha aumentado en los ltimos aos entre uno
lizados totalmente, lograran desempear su papel en el hasta cinco, y que aumentar cada vez ms rpido hasta
mantenimiento de la tasa de crecimiento: y que no hacen el innito.[55]

3 Ramicaciones
3.1 Incertidumbre y riesgos
El trmino singularidad tecnolgica reeja la idea de puestas para la IA. Las leyes estn destinadas a prevenir
que tal cambio puede ocurrir de repente, y que es difcil
predecir cmo el nuevo mundo resultante operara. [56][57]
No est claro si una explosin de inteligencia de este ti-
po sera beneciosa o perjudicial, o incluso una amenaza
existencial.[58][59] Como el tema no ha sido tratado por
los investigadores de inteligencia articial general, a pe-
sar de que el tema de la inteligencia articial amigable
sea investigada por el Instituto Futuro de la Humanidad
(Future of Humanity Institute) y el Instituto para la Sin-
gularidad Inteligencia articial (Singularity Institute for
Articial Intelligence), que ahora es el Instituto de Inves-
tigacin en Inteligencia de la Mquina (Machine Intelli-
gence Research Institute).[56]
3.2 Implicaciones para la sociedad huma-
na
En febrero de 2009, bajo los auspicios de la Asociacin
para el Avance de la Inteligencia Articial (AAAI), Eric
Horvitz presidi una reunin de informticos, investiga-
dores de inteligencia articial y robtica en Asilomar en
Pacic Grove, California. El objetivo fue discutir el posi-
ble impacto de la hipottica posibilidad de que los robots
podran llegar a ser autosucientes y capaces de tomar
sus propias decisiones. Discutieron la medida en que las
computadoras y los robots podran ser capaces de adqui-
rir autonoma, y en qu medida podran utilizar tales ha-
bilidades para plantear amenazas o riesgos.
Algunas mquinas han adquirido diversas formas de
semi-autonoma, incluyendo la capacidad de localizar sus
propias fuentes de energa y elegir objetivos para atacar
con armas. Adems, algunos virus informticos pueden
evadir la eliminacin y han logrado la inteligencia de la
cucaracha. Los asistentes a la conferencia sealaron que
la autoconciencia como se muestra en la ciencia-ccin
es probablemente poco probable, pero que existen otros
riesgos y peligros potenciales.[60]
Algunos expertos y acadmicos han cuestionado el uso de
robots para el combate militar, sobre todo cuando a estos
robots se les da algn grado de funciones autnomas.[61]
Un informe de la marina de Estados Unidos indica que,
como los robots militares se vuelven ms complejos, de-
bera de haber una mayor atencin a implicaciones sobre
su capacidad de tomar decisiones autnomas.[62][63]
En 1847, R. Thornton, el editor de El Expositor del cris-
La AAAI ha encargado un estudio para examinar esta tianismo primitivo (del ingls, The Expounder of Primi-
cuestin, [64] que apunta a programas como el dispositivo tive Christianity),[68][69] escribi sobre la reciente inven-
de adquisicin de idiomas (Language Acquisition Devi- cin de una calculadora mecnica de cuatro funciones:
ce), que se reivindica para emular la interaccin humana.
Algunos apoyan el diseo de la inteligencia articial ama-
ble, lo que signica que los avances que ya se estn produ-
5
ciendo con la IA tambin deben incluir un esfuerzo para
que la IA sea intrnsecamente amable y humana.[65]
De Isaac Asimov, las Tres Leyes de la Robtica es uno
de los primeros ejemplos de medidas de seguridad pro-
que los robots de inteligencia articial daen a los seres
humanos. En las historias de Asimov, los problemas per-
cibidos con las leyes tienden a surgir como resultado de
un malentendido por parte de algn operador humano;
los propios robots estn simplemente actuando para su
mejor interpretacin de sus normas. En el 2004 la pel-
cula Yo, Robot, vagamente basada en historias de ro-
bots de Asimov, una computadora de IA intenta tomar
el control completo sobre la humanidad con el prop-
sito de proteger a la humanidad de s misma, debido a
una extrapolacin de las Tres Leyes. En 2004, el Insti-
tuto de Investigacin en Inteligencia de la Mquina lanz
una campaa en Internet llamada 3 Leyes inseguras pa-
ra crear conciencia sobre los problemas de seguridad de
la IA y la insuciencia de las leyes de Asimov en particu-
lar. [66]
4 Historia del trmino
Nicolas de Condorcet, un francs matemtico, lsofo y
revolucionario del siglo 18, se le atribuye comnmente
por ser una de las primeras personas que armara la exis-
tencia de una singularidad. En su Boceto para un cuadro
histrico del progreso de la mente humana de 1794 (del
ingls, Sketch for a Historical Picture of the Progress of
the Human Mind), Condorcet arma,
La naturaleza no ha establecido un plazo
para la perfeccin de las facultades humanas;
que la perfectibilidad del hombre es verdadera-
mente indenida; y que el progreso de esta per-
fectibilidad, de ahora en adelante es indepen-
diente de cualquier poder que pudiera desear
detenerla, no tiene otro lmite que la duracin
del mundo en los que la naturaleza nos ha echa-
do. Este progreso variar sin duda en la veloci-
dad, pero nunca ser invertido el tiempo en el
que la tierra ocupa su lugar actual en el siste-
ma del universo, y siempre y cuando las leyes
generales de este sistema produzcan ni un cata-
clismo general ni cambios tales como la volun-
tad de privar a la humanidad de sus facultades
actuales y sus recursos actuales.""[67]
... Este tipo de mquinas, por los que el es-
tudioso puede, girando una manivela, moler a
6 4 HISTORIA DEL TRMINO

cabo la solucin de un problema sin el cansan- tendramos que esperar que las mquinas to-
cio de aplicacin mental, lo hara por su in- men el control, en la forma en que se menciona
troduccin en las escuelas, hacer daos incal- en Erewhon de Samuel Butler's.
culables. Pero, quin sabe que tales mquinas
cuando sean tradas a una mayor perfeccin, no A mediados de los aos cincuenta, Stanislaw Ulam tuvo
pueden pensar en un plan para remediar todos una conversacin con John von Neumann en el que von
sus defectos y luego moler las ideas ms all Neumann habl de nunca acelerar el avance de la tec-
del alcance de la mente mortal? nologa y los cambios en el modo de la vida humana, lo
que da la apariencia de que se acerca alguna singulari-
En 1863, Samuel Butler escribi Darwin entre las m- dad esencial en la historia de la raza humana ms all de
quinas (del ingls, Darwin Among the Machines), que los asuntos humanos, tal como los conocemos, no podra
se incorpor ms tarde en su famosa novela Erewhon. continuar.[4]
Seal la rpida evolucin de la tecnologa y la compar
En 1965, I.J. Good escribi primero sobre una explosin
con la evolucin de la vida. El escribi:
de inteligencia, la cual sugiere que si las mquinas pu-
dieran superar ligeramente el intelecto humano, podran
Hay que reexionar sobre el extraordinario mejorar sus propios diseos en formas imprevisibles para
avance que las mquinas han hecho durante los sus diseadores, y por lo tanto aumentar recursivamente
ltimos cien aos, teniendo en cuenta la lenti- a s mismos hacindolas mucho ms inteligentes. La pri-
tud con la que los reinos animales y vegetales mera de esas mejoras puede ser pequea, pero a medida
estn avanzando. Las mquinas ms altamen- que la mquina se vuelve ms inteligente, podra dar lu-
te organizada son criaturas no tanto de ayer, gar a una cascada de auto-mejora y un aumento repentino
a partir de los ltimos cinco minutos, por as de la superinteligencia (o una singularidad).
decirlo, en comparacin con el tiempo pasado.
Supongamos por el bien del argumento de que En 1983, el matemtico y escritor Vernor Vinge populari-
los seres conscientes han existido desde hace z enormemente la nocin de una explosin de inteligen-
algunos veinte millones de aos: ver lo las m- cia de Good en una serie de escritos, abordando primero
quinas han hecho en los ltimos mil aos. No el tema de forma impresa en la edicin de enero 1983 de
puede ser que el mundo dure veinte millones la revista Omni. En este artculo de opinin, Vinge pare-
aos ms? Si es as, en qu no se convertirn ce haber sido el primero en utilizar el trmino singulari-
en el n? ... No podemos calcular sobre cual- dad de tal manera que estaba atado especcamente a la
quier avance correspondiente a los poderes in- creacin de mquinas inteligentes, [74][75] por escrito:
telectuales o fsicos del hombre, que ser una
compensacin en contra de la medida de ma- Pronto crearemos inteligencias superiores
yor desarrollo que parece estar reservada para a la nuestra. Cuando esto suceda, la historia hu-
las mquinas. mana habr alcanzado una especie de singula-
ridad, una transicin intelectual tan impenetra-
En 1909, el historiador Henry Adams escribi un ensa- ble como el espacio-tiempo anudado en el cen-
yo, La Regla de la Fase Aplicada a la Historia (del in- tro de un agujero negro, y el mundo va a pasar
gls, The Rule of Phase Applied to History),[70] en el que mucho ms all de nuestra comprensin. Esta
desarroll una teora fsica de la historia mediante la singularidad, creo, que ya persiguen una serie
aplicacin de la ley de los cuadrados inversos a pero- de escritores de ciencia ccin. Esto hace que
dos histricos, proponiendo una Ley de la Aceleracin la extrapolacin realista a un futuro interestelar
del Pensamiento ". Adams interpreta la historia como un imposible. Para escribir una historia ambienta-
proceso de avanzar hacia un equilibrio, y especul que da ms de un siglo, por lo tanto, se necesita una
este proceso sera llevar el pensamiento hasta el lmite guerra nuclear en el medio ... para que el mun-
de sus posibilidades en el ao 1921. Es muy posible!", do siga siendo inteligible.
Y agreg que las consecuencias pueden ser tan sorpren-
dente como el cambio de agua a vapor, del gusano de la En 1984, Samuel R. Delany utiliza fuga cultural co-
mariposa, de la radio a los electrones.[71] El futurlogo mo un recurso argumental en su novela de ciencia c-
John Smart ha llamado a Adams Primer Terico de la cin Stars in My Pocket Like Grains of Sand; el trmino
Tierra sobre la Singularidad. [72] fugitivo de complejidad tecnolgica y cultural, en efec-
En 1951, Alan Turing habl de mquinas superando a los to, destruye toda la vida en cualquier mundo en el que se
seres humanos intelectualmente:[73] trasluce, un proceso poco comprendido por los persona-
jes de la novela, y en contra de los que buscan una defensa
una vez que ha comenzado el mtodo de estable. En 1985, Ray Solomono introdujo la nocin de
pensamiento de la mquina, que no tomara punto innito [76] en la escala del tiempo de la inteligen-
mucho tiempo para superar a nuestros dbi- cia articial, analizando la magnitud del shock del futu-
les poderes. ... En algn momento, por lo tanto ro, que podemos esperar de nuestra IA expandida en
 7

la comunidad cientca, y sobre los efectos sociales. Las 4. La ciencia biolgica puede encontrar maneras de
estimaciones fueron hechas para cuando ocurriran estos mejorar el intelecto humano natural.
hitos, seguidos por algunas sugerencias para la utilizacin
ms ecaz del crecimiento tecnolgico extremadamente Vinge contina prediciendo que las inteligencias sobre-
rpido que se espera. humanas podrn mejorar sus propias mentes ms rpi-
Vinge tambin populariz el concepto en las novelas de do que sus creadores humanos. Cuando las unidades
ciencia ccin como en Marooned in Realtime (1986) de mayor inteligencia humana progresen Vinge escri-
y en A Fire Upon the Deep (1992). El primero se en- be, que el progreso ser mucho ms rpido. l predi-
cuentra en un mundo de rpida aceleracin de cambio ce que este ciclo de retroalimentacin de la inteligencia
que lleva a la aparicin de ms y ms tecnologas sos- auto-mejorada har grandes cantidades de avances tec-
ticadas separadas por intervalos de tiempo cada vez ms nolgicos dentro de un corto perodo de tiempo, y arma
cortos, hasta que se alcanza un punto ms all de la com- que la creacin de la inteligencia sobrehumana representa
prensin humana. Este ltimo comienza con una descrip- una ruptura en la capacidad de los humanos para mode-
cin imaginativa de la evolucin de una superinteligencia lar su futuro. Su argumento era que los autores no pueden
pasando por una aceleracin exponencialmente en etapas escribir personajes realistas que superan el intelecto hu-
de desarrollo que terminan en un poder trascendente, ca- mano, como los pensamientos de un intelecto tales seran
si omnipotente e insondable por simples humanos. Vinge ms all de la capacidad de los humanos para expresar.
tambin implica que el desarrollo no puede detenerse en Vinge nombra este evento la Singularidad.
este nivel. El libro de divulgacin cientca de Damien Broderick
En su libro de 1988 Mind Children, el cientco de la The Spike (1997) fue el primero para investigar la sin-
computacin y futurista Hans Moravec generaliza la Ley gularidad tecnolgica en detalle.
de Moore para hacer predicciones sobre el futuro de la En el 2000, Bill Joy, un tecnlogo prominente y un co-
vida articial. Moravec esboza una lnea de tiempo y un fundador de Sun Microsystems, expres su preocupacin
escenario en este sentido [77][78] en el que los robots van por los peligros potenciales de la singularidad. [82]
a evolucionar en una nueva serie de especies articiales,
En 2005, Ray Kurzweil public The singularity in near,
al alrededor del 2030 al 2040 [79] En Robot: Mere Ma-
la cual trajo la idea de la singularidad de los medios de
chine to Transcendent Mind, publicado en 1998, Mora-
comunicacin populares, tanto a travs de la accesibili-
vec considera adems las implicaciones de la evolucin
dad del libro y a travs de una campaa de publicidad
de la inteligencia del robot, la generalizacin de la ley de
que inclua una aparicin en The Daily Show con Jon
Moore a las tecnologas precediendo el circuito integra-
Stewart.[83] El libro agita intensa controversia, en parte
do, y especulando sobre una venida fuego en mente de
debido a que las predicciones utpicas de Kurzweil con-
superinteligencia de rpida expansin, similar a las ideas
trastan fuertemente con otras visiones, ms oscuras de las
de Vinge.
posibilidades de la singularidad. Kurzweil, sus teoras, y
Un artculo de 1993 por Vinge, The Coming Techno- las controversias que lo rodean fueron objeto del docu-
logical Singularity: How to Survive in the Post-Human mental de Barry Ptolemy Transcendent Man.
Era, [7] se extendi ampliamente en Internet y ayud a
En 2007, Eliezer Yudkowsky sugiri que muchas de las
popularizar la idea. [80] Este artculo contiene la declara-
variadas deniciones que se han asignado a la singula-
cin citada a menudo, Dentro de treinta aos, vamos a
ridad son incompatibles entre s en lugar de apoyarse
disponer de los medios tecnolgicos para crear inteligen-
mutuamente. [17] Por ejemplo, Kurzweil extrapola actua-
cia sobrehumana. Poco despus, la era humana se termi-
les trayectorias tecnolgicas ms all de la llegada de la
nar. Vinge rena su estimacin de las escalas tempora-
auto-mejora de la IA o inteligencia sobrehumana, que
les necesarias, y agreg: Me sorprendera si este evento
Yudkowsky argumenta que representa una tensin con lo
se produce antes de 2005 o despus de 2030.
que I.J. Good propone; discontina en la inteligencia y la
Vinge predijo cuatro maneras en que la singularidad po- tesis de Vinge de imprevisibilidad.
dra ocurrir:[81]
En 2008, Robin Hanson (teniendo como singularidad
para referirse a un fuerte aumento en el exponente del
1. El desarrollo de equipos que son despiertos y po- crecimiento econmico) enumer las revoluciones agr-
seen inteligencia sobrehumana. cola e industrial como singularidades pasadas. La extra-
polacin de estos sucesos pasados; Hanson propone que
2. Las grandes redes de ordenadores (y sus usuarios la prxima singularidad econmica debera aumentar el
asociados) pueden despertar como una entidad so- crecimiento econmico de entre 60 y 250 veces. Una in-
brehumana inteligente. novacin que permiti la sustitucin virtual del todo el
trabajo humano y que podra desencadenar este evento.
[84]
3. Interfaces humano/computadoras pueden llegar a
ser tan ntimas que los usuarios razonablemente pue- En 2009, Kurzweil y el fundador de X-Prize, Peter Dia-
den considerarse sobrehumanamente inteligentes. mandis anunciaron la creacin de la Universidad de la
8 5 EN LA CULTURA POPULAR

Singularidad, cuya misin declarada es educar, inspirar Vinge describe sobrevivir a la singularidad en su novela
y empoderar a los lderes para aplicar tecnologas expo- de 1986 Marooned in Realtime. Vinge ms tarde am-
nenciales para hacer frente a los grandes retos de la hu- pli la nocin de la singularidad a una escala galctica en
manidad. [85] Financiada por Google, Autodesk, ePlanet A Fire Upon the Deep (1992), una novela poblada por
Ventures, y un grupo de lderes de la industria de tecno- seres trascendentes, cada producto de una raza diferente
loga de la Universidad de la Singularidad, se basa en el y poseedora de agendas distintas y poder abrumador.
Ames Research Center de la NASA en Mountain View, En la novela de William Gibson de 1984 Neuromancer,
California. La organizacin sin nes de lucro ejecuta un inteligencias articiales capaces de mejorar sus propios
programa anual de posgrado de diez semanas durante el
programas estn estrictamente reguladas por la especial
verano del hemisferio norte que cubre diez tecnologas polica de Turing para asegurarse de que no superan
diferentes y pistas aliadas, y una serie de programas eje-
un cierto nivel de inteligencia, y la trama se centra en los
cutivos en todo el ao. esfuerzos de uno de la IA para eludir su control.
En 2010, Aubrey de Grey aplica el trmino "Methusela- Una IA malvola logra omnipotencia en el cuento de
rity" [86] hasta el punto en el que la tecnologa mdica me- Harlan Ellison I Have No Mouth, and I Must Scream
jora tan rpido que la vida humana til esperada aumenta (1967).
por ms de un ao por ao. En " Apocalyptic AI Visions
of Heaven in Robotics, Articial Intelligence, and Vir- El cmic web Questionable Content tiene lugar en mun-
tual Reality [87] (2010), Robert Geraci ofrece una cuenta do post-singularidad con un amable AI. [89]
del desarrollo de ciber - teologa, inspirada en los estu- Pelculas populares en la que las computadoras se vuelven
dios de la Singularidad. El 1996 la novela Holy Fire por inteligentes y tratan de dominar a la raza humana inclu-
Bruce Sterling explora algunos de esos temas y postula yen Colossus: The Forbin Project; la serie Terminator; La
que un Methuselarity se convertir en una gerontocracia. serie The Matrix; Transformers; la adaptacin cinemato-
En 2011, Kurzweil seala tendencias existentes y conclu- grca muy suelta de Isaac Asimov, Yo, Robot; y, nal-
y que pareca cada vez ms probable que se produzca la mente, Stanley Kubrick y Arthur C. Clarke de 2001: A
singularidad alrededor de 2045. Le dijo a la revista Ti- Space Odyssey. La serie de televisin Dr. Who, Battlestar
me: Nosotros reveriremos el xito de la ingeniera del Galactica, y Star Trek: The Next Generation (que tam-
cerebro humano a mediados de la dcada de 2020. A - bin se adentra en la realidad virtual, la ciberntica, for-
nales de esa dcada, ordenadores sern capaces de tener mas alternativas de vida, y el posible camino evolutivo
una inteligencia a nivel humano. [88] de la humanidad) tambin explora estos temas. De todos
ellos, slo cuenta con un verdadero coloso superinteligen-
te. The Machine por el escritor-director Caradog James
sigue a dos cientcos, ya que crean la primera inteligen-
5 En la cultura popular cia articial consciente de s misma en el mundo durante
la guerra fra. Toda la trama de Trascendence de Wally
Pster se centra en un escenario de despliegue singular.
La novela de 1979 de James P. Hogan The Two Faces of
La pelcula del 2013 de ciencia ccin Her sigue una
Tomorrow es una descripcin explcita de lo que ahora
relacin romntica de un hombre con una IA muy inteli-
se llama la Singularidad. Un sistema de inteligencia arti-
gente, que con el tiempo aprende a mejorarse a s misma
cial resuelve un problema de excavacin en la luna de una
y crea una explosin de inteligencia. La adaptacin de
manera brillante y novedosa, pero casi mata a un equipo
Philip K. Dick Do Androids Dream of Electric Sheep?
de trabajo en el proceso. Al darse cuenta de que los siste-
en la pelcula Blade Runner, Ex Machina, y Tron explo-
mas se estn volviendo demasiado sosticados y comple-
ran el concepto de la gnesis de las mquinas pensantes y
jos de predecir o dirigir, un equipo cientco se propo-
su relacin con el impacto en la humanidad.
ne ensear a una red informtica sosticada cmo pensar
ms humanamente. La historia documenta el surgimiento Acelerar el avance se presenta en algunas obras de ciencia
de conciencia en el sistema informtico, la prdida de los ccin, y es un tema central en Accelerando de Charles
seres humanos de control y los intentos fallidos de cerrar Stross. Otros autores notables que abordan temas rela-
el experimento en el que el equipo deende desesperada- cionados con la singularidad incluyen Robert Heinlein,
mente a s mismo, y la inteligencia del ordenador alcance Karl Schroeder, Greg Egan, Ken MacLeod, Rudy Ruc-
la madurez. ker, David Brin, Iain M. Banks, Neal Stephenson, de
Tony Ballantyne, Bruce Sterling, Dan Simmons, Damien
Al discutir sobre el creciente reconocimiento de la singu-
Broderick, Fredric Brown, Jacek Dukaj, Stanislaw Lem,
laridad, Vernor Vinge escribi en 1993 que fueron los
Nagaru Tanigawa, Douglas Adams, Michael Crichton, e
escritores de ciencia ccin quienes sintieron el primer
Ian McDonald
impacto concreto. Adems de su propia historia corta
Bookworm, Run!, Cuyo protagonista es un chimpan- El documental Transcendent Man, basado en The Singu-
c con la inteligencia aumentada por un experimento del larity Is Near, cubre la bsqueda de Kurzweil para revelar
gobierno, cita a la novela Blood Music de Greg Bear lo que l cree que es el destino de la humanidad. Otro do-
(1983) como un ejemplo de la singularidad en la ccin. cumental, Plug & Pray, se centra en la promesa, los pro-

blemas y la tica de la inteligencia articial y la robtica, [14] Good, I. J. 1965 Speculations Concerning the First Ul-
con Joseph Weizenbaum y Kurzweil como los temas prin-
cipales de la pelcula. [90] Un documental de 2012 titula-
do simplemente The Singularity cubre tanto perspectivas
[90]
futuristas como contra-futuristas.
En la msica, lbum The Singularity (Fase I: Neohuma-
nity) por la banda sueca Scar Symmetry es la primera
parte del lbum conceptual de tres partes sobre la base
de los acontecimientos de la singularidad. [16]
6 Vase tambin
Revolucin tecnolgica
7 Notas
[1] Chalmers, David. Singularity, Intelligence Explosion. 8
de abril de 2010. Singularity Institute for Articial Inte-
lligence.
[2] Editors Blog Why an Intelligence Explosion is Probable,
by Richard Loosemore and Ben Goertzel. March 7, 2011;
hplusmagazine.
[3] Carvalko, Joseph (2012). The Techno-human Shell-A
Jump in the Evolutionary Gap. Sunbury Press. ISBN 978-
1620061657.
[4] Ulam, Stanislaw (May 1958). Tribute to John von Neu-
mann. 64, #3, part 2. Bulletin of the American Mathema-
tical Society. p. 5.
[5] Vinge, Vernor. Vernor Vinge on the Singularity. San
Diego State University. Consultado el 11 de abril de 2013.
[6] Ray Kurzweil, The Singularity is Near, pp. 135136. Pen-
guin Group, 2005.
[7] Vinge, Vernor. The Coming Technological Singularity:
How to Survive in the Post-Human Era, originally in
Vision-21: Interdisciplinary Science and Engineering in the
Era of Cyberspace, G. A. Landis, ed., NASA Publication
CP-10129, pp. 1122, 1993
[8] Armstrong, Stuart. How We're Predicting AI, from the
2012 Singularity Conference
[9] Good, I. J. Speculations Concerning the First Ultrainte-
lligent Machine, Advances in Computers, vol. 6, 1965.
[10] Ehrlich, Paul. The Dominant Animal: Human Evolution
and the Environment
[11] Superbrains born of silicon will change everything. bu-
sinessweek.com.
[12] Good, I. J., Speculations Concerning the First Ultrain-
telligent Machine, Franz L. Alt and Morris Rubino,
ed., Advances in Computers (Academic Press) 6: 3188,
1965.
[13] The Human Importance of the Intelligence Explosion
9
traintelligent Machine. pp. 3188 in Advances in Com-
puters, 6, F. L. Alt and M Rubino, eds. New York: Aca-
demic Press.
[15] What is the Singularity? | Singularity Institute for Arti-
cial Intelligence. Singinst.org. Archivado desde el origi-
nal el 29 de noviembre de 2015. Consultado el 9 de sep-
tiembre de 2011.
h+ Magazine | Covering technological, scientic, and
cultural trends that are changing human beings in fun-
damental ways. Hplusmagazine.com. Consultado el 9 de
septiembre de 2011.
[17] Yudkowsky, Eliezer. The Singularity: Three Major
Schools
[18] Sandberg, Anders. An overview of models of technologi-
cal singularity
[19] Max More and Ray Kurzweil on the Singularity. Kurz-
weilAI. Consultado el 9 de septiembre de 2011.
[20] Marcus, Gary (24 Oct 2013). Why We Should Think
About the Threat of Articial Intelligence. New Yorker.
Consultado el 15 de julio de 2014.
[21] Tech Luminaries Address Singularity IEEE Spec-
trum. Spectrum.ieee.org. Consultado el 9 de septiembre
de 2011.
[22] Whos Who In The Singularity IEEE Spectrum. Spec-
trum.ieee.org. Consultado el 9 de septiembre de 2011.
[23] Paul Allen: The Singularity Isn't Near, consultado el 12 de
abril de 2015
[24] Moravec, Hans (1999). Robot: Mere Machine to Transcen-
dent Mind. Oxford U. Press. p. 61.
[25] Ray Kurzweil, The Age of Spiritual Machines, Viking,
1999, p. 30 and p. 32
[26] Ray Kurzweil, The Singularity is Near, Penguin Group,
2005
[27] The Worlds Technological Capacity to Store, Communi-
cate, and Compute Information, Martin Hilbert and Pris-
cila Lpez (2011), Science (journal), 332(6025), 60-65;
free access to the article through here: martinhilbert.net/
WorldInfoCapacity.html
[28] Ray Kurzweil, The Singularity is Near, p. 9. Penguin
Group, 2005
[29] Kurzweil, Ray (10 de octubre de 2008). The sin-
gularity: The last word -[forum]. IEEE 45: 10.
doi:10.1109/MSPEC.2008.4635038. Consultado el 2 de
octubre de 2013.
[30] Ray Kurzweil, The Singularity is Near, pp. 135136. Pen-
guin Group, 2005. So we will be producing about 1026
to 1029 cps of nonbiological computation per year in the
early 2030s. This is roughly equal to our estimate for the
capacity of all living biological human intelligence ... This
state of computation in the early 2030s will not represent
10
the Singularity, however, because it does not yet corres-
pond to a profound expansion of our intelligence. By the
mid-2040s, however, that one thousand dollars worth of
computation will be equal to 1026 cps, so the intelligen-
ce created per year (at a total cost of about $1012 ) will
be about one billion times more powerful than all human
intelligence today. That will indeed represent a profound
change, and it is for that reason that I set the date for
the Singularityrepresenting a profound and disruptive
transformation in human capabilityas 2045.
[31] Kurzweil, Ray (10 de octubre de 2008). The sin-
gularity: The last word [forum]. IEEE 45: 10.
doi:10.1109/MSPEC.2008.4635038. Consultado el 2 de
octubre de 2013.
[32] (Kurzweil, 2001)
[33] (Kurzweil, 2005)
[34] Zubrin, Robert. 1999, Entering Space: Creating a Space-
faring Civilization
[35] (Joy, 2000)
[36] (Acceleration Studies Foundation, 2007)
[37] How to make graphene in a kitchen blender. natu-
re.com.
[38] Metamaterials oer route to room-temperature super-
conductivity. physicsworld.com.
[39] Dreyfus y Dreyfus, 2000, p. xiv: 'The truth is that human
intelligence can never be replaced with machine intelli-
gence simply because we are not ourselves thinking ma-
chines in the sense in which that term is commonly un-
derstood.' Hawking (1998): 'Some people say that com-
puters can never show true intelligence whatever that may
be. But it seems to me that if very complicated chemical
molecules can operate in humans to make them intelligent
then equally complicated electronic circuits can also make
computers act in an intelligent way. And if they are intelli-
gent they can presumably design computers that have even
greater complexity and intelligence.'
[40] Ford, Martin, The Lights in the Tunnel: Automation, Acce-
lerating Technology and the Economy of the Future, Accu-
lant Publishing, 2009, ISBN 978-1-4486-5981-4
[41] Marko, John (4 de marzo de 2011). Armies of Expen-
sive Lawyers, Replaced by Cheaper Software. The New
York Times.
[42] Adam Gopnik, New Yorker, 2011, http:
//www.newyorker.com/magazine/2011/04/04/
get-smart-adam-gopnik
[43] Joan Slonczewski, Mitochondrial Singularity, 2013, http:
//ultraphyte.com/2013/03/25/mitochondrial-singularity/
[44] Theodore Modis, Forecasting the Growth of Complexity
and Change, Technological Forecasting & Social Change,
69, No 4, 2002
[45] Modis, Theodore. The Singularity Myth
7 NOTAS
[46] Huebner, Jonathan (2005) A Possible Declining Trend
for Worldwide Innovation, Technological Forecasting &
Social Change, October 2005, pp. 9806
[47] Smart, John (September 2005), On Huebner Innovation,
Acceleration Studies Foundation, retrieved on 2007-08-
07
[48] Krazit, Tom. Intel pledges 80 cores in ve years, CNET
News, 26 September 2006.
[49] See, e.g., Korotayev A., Malkov A., Khaltourina D.
Introduction to Social Macrodynamics: Compact Macro-
models of the World System Growth. Moscow: URSS Pu-
blishers, 2006; Korotayev A. V. A Compact Macromodel
of World System Evolution // Journal of World-Systems
Research 11/1 (2005): 7993.
[50] For a detailed mathematical analysis of this issue see A
Compact Mathematical Model of the World System Eco-
nomic and Demographic Growth, 1 CE 1973 CE.
[51] Interstellar Travel: The Wait Calculation and the Incentive
Trap of Progress, JBIS Vol 59, N.7 July 2006
[52] Tainter, Joseph (1988) "The Collapse of Complex Socie-
ties" (Cambridge University Press)
[53] Jaron Lanier, Who Owns the Future?, New York: Simon
& Schuster, 2013. P. 328.
[54] Anonymous (18 de marzo de 2006), More blades good,
The Economist (London) 378 (8469): 85
[55] Myers, PZ, Singularly Silly Singularity, consultado el 13 de
abril de 2009
[56] Yudkowsky, Eliezer (2008), Articial Intelligen-
ce as a Positive and Negative Factor in Global
Risk, en Bostrom, Nick; Cirkovic, Milan, Global
Catastrophic Risks (Oxford University Press): 303,
Bibcode:2008gcr..book..303Y, ISBN 978-0-19-857050-
9
[57] The Uncertain Future. theuncertainfuture.com; a future
technology and world-modeling project.
[58] GLOBAL CATASTROPHIC RISKS SURVEY (2008)
Technical Report 2008/1 Published by Future of Huma-
nity Institute, Oxford University. Anders Sandberg and
Nick Bostrom
[59] Existential Risks: Analyzing Human Extinction Scena-
rios and Related Hazards. nickbostrom.com.
[60] Scientists Worry Machines May Outsmart Man By JOHN
MARKOFF, NY Times, July 26, 2009.
[61] Mick, Jason. New Navy-funded Report Warns of War Ro-
bots Going Terminator, Blog, dailytech.com, February
17, 2009.
[62] Flatley, Joseph L. Navy report warns of robot uprising,
suggests a strong moral compass, engadget.com, 18 Fe-
bruary 2009.
[63] Call for debate on killer robots, By Jason Palmer, Science
and technology reporter, BBC News, 8/3/09.

[64] AAAI Presidential Panel on Long-Term AI Futures 2008
2009 Study, Association for the Advancement of Articial
Intelligence, Accessed 7/26/09.
[65] Article at Asimovlaws.com, July 2004, accessed
7/27/2009.
[66] (Singularity Institute for Articial Intelligence, 2004)
[67] Mission. Singularity Summit Australia - Future of Scien-
ce and Technology.
[68] Thornton, Richard (1847), The Expounder of Primitive
Christianity 4, Ann Arbor, Michigan, p. 281
[69] Adams, H. (1909) The rule of phase applied to history.
In H. Adams & B. Adams (1920), The Degradation of the
Democratic Dogma. New York: Macmillan, 267311.
[70] Adams (1909), p.309
[71] A Brief History of Intellectual Discussion of Accelera-
ting Change. Accelerationwatch.com. Consultado el 17
de agosto de 2013.
[72] A M Turing, Intelligent Machinery, A Heretical Theory,
1951, reprinted Philosophia Mathematica (1996) 4(3):
256260 doi 10.1093/philmat/4.3.256
[73] Dooling, Richard. Rapture for the Geeks: When AI Outs-
marts IQ (2008), p. 88
[74] Vinge did not actually use the phrase technological sin-
gularity in the Omni op-ed, but he did use this phrase in
the short story collection Threats and Other Promises from
1988, writing in the introduction to his story The Whir-
ligig of Time (p. 72): Barring a worldwide catastrophe,
I believe that technology will achieve our wildest dreams,
and soon. When we raise our own intelligence and that of
our creations, we are no longer in a world of human-sized
characters. At that point we have fallen into a technological
black hole, a technological singularity.
[75] Solomono, R.J. The Time Scale of Articial Intelligen-
ce: Reections on Social Eects, Human Systems Mana-
gement, Vol 5, pp. 149153, 1985.
[76] Moravec, Hans (1998), When will computer hardware
match the human brain?, Journal of Evolution and Tech-
nology 1, consultado el 23 de junio de 2006.
[77] Moravec, Hans (June 1993). The Age of Robots. Con-
sultado el 23 de junio de 2006.
[78] Moravec, Hans (April 2004). Robot Predictions Evolu-
tion. Consultado el 23 de junio de 2006.
[79] Dooling, Richard. Rapture for the Geeks: When AI Outs-
marts IQ (2008), p. 89
[80] 83
[81] Joy, Bill (April 2000), Why the future doesnt need
us, Wired Magazine (Viking Adult) (8.04), ISBN 0-670-
03249-2, consultado el 7 de agosto de 2007
[82] Episode dated 23 August 2006 en Internet Movie Database
(en ingls)
11
[83] Robin Hanson, Economics Of The Singularity, IEEE
Spectrum Special Report: The Singularity, consultado el 11
de septiembre de 2008 & Long-Term Growth As A Se-
quence of Exponential Modes
[84] Singularity University at its ocial website
[85] de Grey, Aubrey. The singularity and the Methuselarity:
similarities and dierences
[86] Geraci, Robert M (2010). Apocalyptic AI Visions of
Heaven in Robotics, Articial Intelligence, and Virtual
Reality. Oxford University Press. ISBN 978-0195393026.
[87] 2045: The Year Man Becomes Immortal, By Lev Gross-
man Thursday, Feb. 10, 2011 time.com.
[88] Jacques, Jeph. They've Had AI Since 1996. Questiona-
ble Content. Consultado el 9 de junio de 2015.
[89] Plug & Pray Documentary lm (2010) about the promise,
problems and ethics of articial intelligence and robotics
[90] The Singularity: A Documentary by Doug Wolens.
Ieet.org. Consultado el 22 de octubre de 2013.
8 Referencias
Acceleration Studies Foundation (2007), ASF: About
the Foundation, consultado el 13 de noviembre de
2007
Anonymous (18 March 2006), More blades good,
The Economist (London) 378 (8469): 85
Bell, James John (2002), Technotopia and the Death
of Nature: Clones, Supercomputers, and Robots,
Earth Island Journal (rst published in the Novem-
ber/December 2001 issue of the Earth First! Jour-
nal), consultado el 7 de agosto de 2007
Bell, James John (1 de mayo de 2003), Exploring
The Singularity", The Futurist (World Future So-
ciety (mindfully.org)), consultado el 7 de agosto de
2007
Berglas, Anthony (2008), Articial Intelligence will
Kill our Grandchildren, consultado el 13 de junio de
2008
Broderick, Damien (2001), The Spike: How Our Li-
ves Are Being Transformed by Rapidly Advancing
Technologies, New York: Forge, ISBN 0-312-87781-
1
Bostrom, Nick (2002), Existential Risks, Journal
of Evolution and Technology 9, consultado el 7 de
agosto de 2007
Bostrom, Nick (2003), Ethical Issues in Advanced
Articial Intelligence, Cognitive, Emotive and Et-
hical Aspects of Decision Making in Humans and in
Articial Intelligence 2: 12-17, consultado el 7 de
agosto de 2007
12 8 REFERENCIAS

Dreyfus, Hubert L.; Dreyfus, Stuart E. (1 de marzo
de 2000), Mind over Machine: The Power of Human
Intuition and Expertise in the Era of the Computer (1
edicin), New York: Free Press, ISBN 0-7432-0551-0
Ford, Martin (2009), The Lights in the Tunnel: Au-
tomation, Accelerating Technology and the Economy
of the Future, CreateSpace, ISBN 978-1-4486-5981-4.
Good, I. J. (1965), Speculations Concerning
the First Ultraintelligent Machine, en Franz L.
Alt and Morris Rubino, Advances in Compu-
ters, Advances in Computers (Academic Press)
6: 31-88, doi:10.1016/S0065-2458(08)60418-0, ISBN .
9780120121069, consultado el 7 de agosto de 2007
Moravec, Hans (January 1992), Pigs in Cyberspa-
ce, On the Cosmology and Ecology of Cyberspace,
consultado el 21 de noviembre de 2007
Mahmud, Ashik (June 2015), Post/Human Beings
& Techno-salvation: Exploring Articial Intelligen-
ce in Selected Science Fictions, Socrates Journal,
doi:10.7910/DVN/VAELLN, consultado el 26 de ju-
nio de 2015
Schmidhuber, Jrgen (29 de junio de 2006). New
Millennium AI and the Convergence of History.

Hanson, Robin (1998), Some Skepticism, Robin Singularity Institute for Articial Intelligence
Hanson, consultado el 19 de junio de 2009 (2002), Why Articial Intelligence?

Hanson, Robin (June 2008), Economics of the Sin-
gularity, IEEE Spectrum
Hawking, Stephen (1998), Science in the Next Mi-
llennium: Remarks by Stephen Hawking, consultado
el 13 de noviembre de 2007
Hawkins, Gerald S. (August 1983), Mindsteps to the
Cosmos, HarperCollins, ISBN 0-06-015156-0
Heylighen, Francis (2007), Accelerating Socio-
Technological Evolution: from ephemeralization
and stigmergy to the global brain, en Modelski,
G.; Devezas, T.; Thompson, W., Globalization as
an Evolutionary Process: Modeling Global Change,
London: Routledge, ISBN 978-0-415-77361-4
Singularity Institute for Articial Intelligence
(2004), 3 Laws Unsafe, consultado el 7 de agosto
de 2007
Singularity Institute for Articial Intelligence
(2007), What is the Singularity?, consultado el 4 de
enero de 2008
Smart, John (September 2005), On Huebner Inno-
vation, Acceleration Studies Foundation, consultado
el 7 de agosto de 2007
Ulam, Stanislaw (May 1958), Tribute to John von
Neumann, Bulletin of the American Mathematical
Society 64 (nr 3, part 2): 1-49, doi:10.1090/S0002-
9904-1958-10189-5

Hibbard, Bill (5 de noviembre de 2014). Ethical Vinge, Vernor (3031 March 1993), The Coming
Articial Intelligence. Technological Singularity, Vision-21: Interdiscipli-
nary Science & Engineering in the Era of CyberS-
. pace, proceedings of a Symposium held at NASA Le-
wis Research Center (NASA Conference Publication
CP-10129), consultado el 7 de agosto de 2007. See
Johansen, Anders; Sornette, Didier (25 de
also this HTML version, retrieved on 2009-03-29.
enero de 2001), Finite-time singularity in
the dynamics of the world population, econo- Warwick, Kevin (2004), March of The Machines,
mic and nancial indices (PDF), Physica A University of Illinois Press, ISBN 978-0-252-07223-
294 (34): 465-502, arXiv:cond-mat/0002075, 9
Bibcode:2001PhyA..294..465J, doi:10.1016/S0378-
4371(01)00105-4, consultado el 30 de octubre de
2007
Joy, Bill (April 2000), Why the future doesn't need
us, Wired Magazine (Viking Adult) (8.04), ISBN 0-
670-03249-2, consultado el 7 de agosto de 2007

Kurzweil, Raymond (2001), The Law of Acce-

lerating Returns, Nature Physics (Lifeboat Foun-
dation) 4 (7): 507, Bibcode:2008NatPh...4..507B,
doi:10.1038/nphys1010, consultado el 7 de agosto de
2007
Kurzweil, Raymond (2005), The Singularity Is Near,
New York: Viking, ISBN 0-670-03384-7
 13

9 Origen del texto y las imgenes, colaboradores y licencias

9.1 Texto
Singularidad tecnolgica Fuente: https://es.wikipedia.org/wiki/Singularidad_tecnol%C3%B3gica?oldid=93831291 Colaboradores: Jor-
geGG, Cdlfd, Ascnder, Tano4595, Chewie, Benjavalero, Renabot, Emijrp, Orgullobot~eswiki, RobotQuistnix, FlaBot, Varano, Erzen-
gel~eswiki, YurikBot, Gaijin, Tomatejc, Paintman, Marcelo-Silva, Cad, CEM-bot, Versvs, Thijs!bot, LA2, Cometo, Sapiensjpa, Hollmin,
JAnDbot, Osald, TXiKiBoT, Bot-Schafter, Idioma-bot, Jmvkrecords, Aibot, VolkovBot, Technopat, Alejandro313, AlleborgoBot, Muro
Bot, Gerakibot, SieBot, Loveless, Canislupusarctos, Thelmadatter, Infrasonik, Walter closser, Ener6, MastiBot, Luckas-bot, Roinpa, Bsea,
Joarsolo, Josec87, Jordeep, Xqbot, Jkbw, FrescoBot, Metronomo, MAfotBOT, Belchman, Angelito7, GrouchoBot, EmausBot, AVIADOR,
ZroBot, Allforrous, Grillitus, Araujojoan96, CocuBot, MetroBot, Gusama Romero, Elvisor, Addbot, PanDaGirl, Lagoset, Logan Morales,
Cap charly, BenjaBot, Waters.Justin, Puentes del Sur, Dariel Torres, Fernando2812l, Ks-M9, Bonorat y Annimos: 64

9.2 Imgenes
Archivo:Check_mark.png Fuente: https://upload.wikimedia.org/wikipedia/commons/f/f0/Check_mark.png Licencia: CC BY-SA 3.0
Colaboradores: Wikipedia Artista original: Wikipedia
Archivo:Commons-emblem-copyedit.svg Fuente: https://upload.wikimedia.org/wikipedia/commons/e/e8/
Commons-emblem-copyedit.svg Licencia: CC BY-SA 3.0 Colaboradores:
File:Gnome-emblem-important.svg Artista original: GNOME icon artists, Fitoschido
Archivo:PPTMooresLawai.jpg Fuente: https://upload.wikimedia.org/wikipedia/commons/c/c5/PPTMooresLawai.jpg Licencia: CC BY
1.0 Colaboradores: en:Image:PPTMooresLawai.jpg Artista original: Courtesy of Ray Kurzweil and Kurzweil Technologies, Inc.
Archivo:ParadigmShiftsFrr15Events.svg Fuente: https://upload.wikimedia.org/wikipedia/commons/4/45/
ParadigmShiftsFrr15Events.svg Licencia: CC BY 1.0 Colaboradores: Created by Ray Kurzweil, Kurzweil Technologies, Inc.;
recreated by en:User:Tkgd2007 in SVG format. Artista original: Tkgd2007

9.3 Licencia del contenido

Creative Commons Attribution-Share Alike 3.0