Ex Machina y Test de Turing + Hombres y Maquinas

ANTROPOLOGIA, ETICA, FUTURO
PROF. DR. JORGE EDUARDO NORO
EX MACHINA Y TEST DE TURING

SER HOMBRE- SER MQUINA: DELGADA LINEA TECNOLOGICA
norojor@cablenet.com.ar
Direccin: ALEX GARLAND. Guin: ALEX GARLAND.

Reino Unido, Estados Unidos. 2015. 108 min.
Reparto: Domhnall Gleeson, Oscar Isaac, Alicia Vikander, Corey Johnson, Deborah Rosan.
01. MAQUINA DE TURING

En 1931, el matemtico checo KURT GODEL descubri que haba teoremas matemticos que eran
verdaderos an cuando no se pudiesen demostrar. Ante esto, ALAN TURING (1912 - 1952),
tambin matemtico y convencido de que las matemticas son una ciencia exacta regida por
reglas lgicas, se propuso trabajar en aquellos teoremas que s podan ser demostrados. Para
hacerlo, ide UNA MQUINA IMAGINARIA capaz de realizar de manera totalmente mecnica los
procesos que normalmente llevara a cabo un matemtico. Haba una mquina para cada proceso;
as, haba una mquina que sumaba, otra que multiplicaba, etc. Estas mquinas acabaran por
recibir el nombre de "MQUINAS DE TURING". Bsicamente, lo que quera era hacer una lista de
los problemas que una mquina sera capaz de resolver siguiendo reglas lgicas (algortmicas). Si
esta lista abarcaba todos los problemas matemticos, entonces su tesis quedara demostrada, y
con ella la teora de la computabilidad.
La MQUINA DE TURING es un dispositivo que manipula smbolos sobre una tira de cinta de
acuerdo a una tabla de reglas. A pesar de su simplicidad, una MQUINA DE TURING puede ser
adaptada para simular la lgica de cualquier ALGORITMO DE COMPUTADOR DE COMPUTADOR y
es particularmente til en la explicacin de las funciones de una CPU dentro de un computador. La
MQUINA DE TURING no est diseada como una tecnologa de computacin prctica, sino como
un dispositivo hipottico que representa una mquina de computacin. Las MQUINAS DE
TURING ayudan a los cientficos a entender los lmites del clculo mecnico.
TURING dio una definicin sucinta del experimento en su ensayo MQUINAS INTELIGENTES (1948)
y refirindose a su publicacin de 1936, TURING escribi que aquella mquina - aqu llamada una
MQUINA DE COMPUTACIN LGICA - consista en: ...una ilimitada capacidad de memoria
obtenida en la forma de una cinta infinita marcada con cuadrados, en cada uno de los cuales
podra imprimirse un smbolo. En cualquier momento hay un smbolo en la mquina; llamado el
smbolo ledo. La mquina puede alterar el smbolo ledo y su comportamiento est en parte
determinado por ese smbolo, pero los smbolos en otros lugares de la cinta no afectan el
comportamiento de la mquina. Sin embargo, la cinta se puede mover hacia adelante y hacia atrs

a travs de la mquina, siendo esto una de las operaciones elementales de la mquina. Por lo
tanto cualquier smbolo en la cinta puede tener finalmente una oportunidad.
Por la funcionalidad que implicaba esta MAQUINA, TURING fue convocado por las autoridades del
gobierno Ingls para descifrar los mensajes secretos alemanes y anticipar el destino de los
bombardeos sobre territorio INGLES. TURING arma un dispositivo que logra su propsito, pero por
razones de seguridad, su colaboracin nunca fue reconocida, ni dada a conocer. Esa historia ha
sido presentada en la pelcula (2014) EL CODIGO ENIGMA, cuando finalmente se dieron a conocer
sus aportes y todo lo que a pesar de su aporte a Inglaterra debi padecer por su condicin de
homosexual.1
02. TEST DE TURING

El TEST DE TURING (O PRUEBA DE TURING) es una prueba de la habilidad de una mquina de
exhibir un comportamiento inteligente similar a (o incapaz de distinguir de) el de un humano.
ALAN TURING propuso que un humano evaluara conversaciones en lenguaje natural entre un
humano y una mquina diseada para generar repuestas similares a las de un humano. El
evaluador sabra que uno de los miembros de la conversacin es una mquina y todos los
participantes seran separados de otros. La conversacin estara limitada a un medio nicamente
textual como teclado o monitor por lo que sera irrelevante la capacidad de la mquina de
transformar texto en habla. En el caso de que el evaluador no pudiera distinguir entre el humano y
la mquina acertadamente, la mquina habra pasado la prueba. Esta prueba no evala el
conocimiento de la mquina en cuanto a su capacidad de responder preguntas correctamente,
solo se toma en cuenta la capacidad de esta de generar respuestas SIMILARES a las que dara un
humano.
CODIGO ENIGMA. THE IMITATION GAME. Gran Bretaa-EE.UU. 2014. 113 minutos. Direccin: Morten
Tyldum. Guion: Graham Moore, basada en el libro Alan Turing: The Enigma, de Andrew Hodges. Elenco:
Benedict Cumberbatch, Keira Knightley, Matthew Goode, Rory Kinnear, Matthew Beard, Charles Dance,
Mark Strong . El BRITNICO ALAN TURING Matemtico superdotado, considerado uno de los padres
fundadores de la ciencia de la computacin y precursor de la informtica moderna, fue tambin, como
creador de la mquina que permiti descifrar el cdigo de transmisiones usado por los nazis, quien ms
contribuy a derrotar a Hitler y reducir la duracin de la guerra, con el consiguiente ahorro de miles de vidas
humanas. Un hroe al que la historia recuerda menos de lo que merecera seguramente porque fue vctima
de la pequeez y la mezquindad de una sociedad que no solamente no lo comprenda, sino que termin
destruyndolo al perseguirlo por ser homosexual, pretendiendo qumicamente que se curara de esa
enfermedad. En realidad la pelcula y su vida se juegan en dos reas de secretos y traiciones: tratar de
descubrir el secreto de los alemanes (los mensajes que producan con su mquina ENIGMA) y defender
contra todos el xito de su mquina (CRISTOPHER) y tratar de ocultar su homosexualidad para no ser
perseguido por la sociedad y castigado por las leyes. No podr sobrevivir a tanta presin y morir muy joven,
sin que nadie le reconociera el papel que desempea en el xito de los aliados en la guerra. Parece increble
hoy: procesado por indecencia en los aos 50, debi optar en 1952 entre la prisin o la castracin qumica, a
la que se someti. Dos aos despus se quitara la vida, y slo en 2013, tras las demoradas disculpas
presentadas por el gobierno britnico en 2009, la reina le concedi el indulto pstumo (y se dieron a
conocer los secretos nunca revelados)

No se trata de evaluar o de comparar la capacidad de los humanos y de las mquinas, sino la

posibilidad de que un observador no pueda distinguir con claridad al humano y a la mquina,
porque se manifiestan los dos de la misma manera.
TURING propuso esta prueba en 1950 mientras trabajaba en la UNIVERSIDAD DE MANCHESTER, en
un ensayo que se iniciaba con estas palabras: Propongo que se considere la siguiente pregunta,
Pueden pensar las mquinas? Como es difcil definir la palabra pensar, TURING decide
reemplazar la pregunta con otra en palabras no ambiguas: Existe o existirn computadoras
digitales imaginables que tengan un buen desempeo en el juego de imitacin? TURING crea que
esta pregunta poda ser respondida.
TURING no afirmo explcitamente que LA PRUEBA DE TURING poda ser usada como una medida
de la inteligencia, o de cualquier otra cualidad humana. l quera proporcionar una alternativa
clara y comprensible a la palabra pensar, que posteriormente se pudiera usar para responder
ante las crticas sobre la posibilidad de mquinas pensantes y sugerir formas para que la
investigacin siga avanzando.
Sin embargo, se ha propuesto el uso de la PRUEBA DE TURING como
una medida de la capacidad para pensar o de la inteligencia de
una mquina. Esta propuesta ha recibido las crticas de filsofos y
cientficos de la computacin. Esta asume que un interrogador
puede determinar si una mquina es pensante al comparar su
comportamiento con el de un humano. Cada elemento de esta
asuncin ha sido cuestionado: la confiabilidad del juicio del
interrogador, el valor de comparar nicamente el comportamiento y
el valor de comparar a la mquina con el humano, es por estas
asunciones y otras consideraciones que algunos investigadores de IA
cuestionan la relevancia de la PRUEBA DE TURING en el campo. De
alguna manera la PRUEBA juega con la posibilidad (real) de que
algunos comportamiento humanos NO son inteligentes, sino que se
mueven con otros parmetros, y es all donde la MAQUINA que tal
vez tiene limitaciones pero no padece condicionamientos puede establecer marcadas
diferencias.
TURING predijo que las mquinas pasaran la prueba y estimaba que para el ao 2000, las
mquinas podran engaar a un 30% de los jueces humanos en una prueba de 5 minutos y que la
gente no considerara la frase mquina pensante como contradictoria. TURING tambin predijo
que el aprendizaje de las mquinas seria una parte esencial al construir mquinas poderosas.
Para demostrar este acercamiento posible TURING propuso una prueba inspirada en el JUEGO DE
IMITACIN, en este juego entraban un hombre y una mujer a cuartos separados y el resto de los
jugadores intentara distinguir entre cada uno por medio de preguntas y leyendo las respuestas
(escritas a mquina) en voz alta. El objetivo del juego es que los participantes que se encuentran
en los cuartos deben convencer al resto que son el otro. TURING describe su versin del juego de
la siguiente manera. Nos hacemos la pregunta, Qu pasara si una mquina toma el papel de A
en este juego? Se equivocara tan frecuentemente el interrogador en esta nueva versin del
juego que cuando era jugado por un hombre y una mujer? Estas preguntas sustituyen la pregunta
original Pueden pensar las mquinas?.

Ms adelante en su texto se propone una versin similar en la que un juez conversa con una
computadora y un hombre. A pesar de que ninguna de las versiones propuestas es la misma que
conocemos hoy en da, TURING propuso una tercera opcin, la cual discuti en una transmisin de
radio de la BBC de LONDRES, donde un jurado le hace preguntas a una computadora y el objetivo
de la computadora es engaar a la mayora del jurado hacindolo creer que es un humano.2
03. HABITACION CHINA

JOHN SEARLY cuestion que la prueba de TURING fuera una medicin adecuada de la inteligencia,
y propuso el formato de la habitacin china formulndola de esta manera: Supongamos que en
una habitacin hay un hombre con un diccionario de idioma chino y que se comunica a travs de
dos ranuras en la pared, en una de ellas otra persona que est fuera introduce un frase escrita en
idioma chino. La que est dentro al recibir la hoja busca en el diccionario los caracteres chinos y su
misin ser responder a esa frase con otra nueva frase tambin en chino e introducirla por la
segunda ranura. Desde el punto de vista de las personas que se encuentran en el exterior de la
habitacin, y que no saben lo que hay dentro, puede tratarse de una mquina que entiende chino,
que ha pasado la PRUEBA DE TURING. Segn SEARLY la habitacin china se comportara como una
computadora, hay unas entradas, se aplican unas reglas o combinaciones y se genera una salida.
Lo que quiere dejar claro es que una cosa es que se pueda simular la inteligencia y otra es que se
tenga o se sea inteligente. A diferencia de los psiclogos cognitivos que estn con TURING y
afirman que si una mquina realiza una operacin de este tipo s son verdaderamente inteligentes,
SEARLY hace una distincin entre inteligencia artificial dbil, donde se mantiene la distincin entre
simulacin y ejecucin y una inteligencia artificial fuerte donde la simulacin de inteligencia es
inteligencia, y que segn l no va a tener xito.
En la novela GALATEA 2:2 de RICHARD POWERS se vuelve al mito de Pigmalin en una versin
computacional: el protagonista, bajo el desafo de una apuesta, se propone educar a una
2
En el 2014, EUGENE GOOSTMAN ha logrado convencer a un tercio del jurado que le examinaba de que es
un joven adolescente ucraniano de 13 aos de edad. Responde con naturalidad y seguridad y hace alarde de
un excelente sentido del humor. Sin embargo, y pese a las apariencias Pero GOOSTMAN no es humano, sino
un programa informtico. Uno que ha conseguido engaar al 33 por ciento de los jueces que le sometieron a
prueba durante un test organizado por la Royal Society de Londres. De hecho, y segn los organizadores de
la prueba, se trata de la primera "inteligencia artificial" que logra pasar el famoso TEST DE TURING.
EUGENE GOOSTMAN fue programado en 2001 por un grupo de investigadores rusos y desde entonces ha
ido perfeccionando sus habilidades hasta conseguir engaar a ms del 30 por ciento de los humanos que le
interrogaban durante una conversacin escrita de cinco minutos de duracin. Si una mquina lograba alguna
vez superar el reto, significara que era capaz de pensar.

computadora en el gusto literario, para que pueda emitir un comentario crtico articulado ante
cada libro que se le presente. La historia remite al mismo tiempo al TEST DE TURING y a las CAJAS
CHINAS. Detrs de una puerta cerrada estar la computadora, detrs de una segunda puerta un
alumno brillante de carne y hueso. A la hora sealada las hojas de los dos exmenes se deslizarn
hacia afuera. Si un examinador externo no logra discriminar por las respuestas a quin pertenece
cada examen, el cientfico de POWERS habr ganado la apuesta. El TEST DE TURING est ms
presente en nuestras vidas de lo que suponemos: el paso al frente en la escuela para dar leccin,
el detector de mentiras, el interrogatorio que pone al descubierto al replicante en la pelcula
BLADE RUNNER, o las pruebas psiquitricas que deciden si un asesino es o no inimputable son,
bien mirados, todas variantes del test, porque en cada uno de ellos NO sabemos si se dice la
verdad, y en algunos casos quin la dice. El libro LOS ANORMALES, de MICHEL FOUCAULT, deja ver
que un TEST DE TURING PSIQUITRICO decide en cada poca la normalidad y muchas veces la
libertad o prisin de un ser humano. Y en la vida misma vivimos queriendo saber si hay verdadera
correspondencia entre lo que creemos y lo que es: Cmo saber si hay verdadera correspondencia
entre los sentimientos? Cmo saber si el amor de la otra persona es tan intenso como el de uno?
[En realidad] somos habitaciones cerradas que intercambiamos hojas bajo la puerta en idiomas
extranjeros, precarios, tentativos, con la esperanza -como otro ruego- de que no todo se pierda en
la traduccin. (MARTINEZ Guillermo. La Nacin. 2003)3
Un contemporneo de TURING, el filsofo ALFRED AYER (LENGUAJE, VERDAD Y LOGICA, 1936)
hace referencia al mismo problema: No debe pensarse que esta reduccin de las experiencias de
los otros a la de uno mismo implique, en modo alguno, una negacin de la realidad de los otros.
Cada uno de nosotros debe definir las experiencias de los otros en trminos de lo que l puede
observar, al menos en principio; pero esto no significa que cada uno de nosotros tenga que
considerar a todos los dems como otros tantos robots. Por el contrario, la distincin entre un
hombre consciente y una MQUINA INCONSCIENTE se resuelve en una distincin entre diferentes
tipos de conducta perceptible. La nica base que yo puedo tener para afirmar que un objeto que
PARECE UN SER CONSCIENTE NO ES, realmente, un ser consciente, sino slo un maniqu o una
mquina, consiste en que no alcanza a satisfacer UNA DE LAS PRUEBAS EMPRICAS mediante las
cuales se determina la presencia o la ausencia de conciencia. Si s que un objeto se comporta, en
todos los casos, como debe comportarse, por definicin, un ser consciente, entonces s que es,
realmente, consciente. Y sta es una proposicin analtica. Porque, cuando afirmo que un objeto
es consciente, slo estoy afirmando que, en respuesta a cualquier prueba imaginable,
PRESENTARA LAS MANIFESTACIONES EMPRICAS DE LA CONCIENCIA. No estoy formulando un
postulado metafsico relativo a la presencia de acontecimientos que ni siquiera en principio podra
observar. (AYER Alfred, LENGUAJE VERDAD Y LOGICA. 1936. CAP. VII. EL SUJETO Y EL MUNDO
COMUN. EL CONOCIMIENTO DE LOS OTROS. 161 162. Ediciones Orbis-Hyspamrica.) En otras
palabras, algo no est consciente si reprueba una prueba de la conciencia, porque no se toma
Tras aos de vivir en el extranjero, el protagonista de la novela GALATEA 2.2. - una suerte de alter ego
ficticio del autor- entra a trabajar en un centro de estudios cientficos donde conocer al PROFESOR LENTZ,
un neurlogo empeado en el diseo de modelos de cerebro humano, sirvindose de redes neuronales
programadas por ordenador. LENTZ embarca a POWERS en un proyecto tan descabellado como irresistible:
programar una red neuronal con un canon de obras maestras de la literatura, hasta que la mquina sea
capaz de superar un examen de literatura inglesa. En una suerte de brillante reinvencin del mito de
Pigmalin, y a medida que se suceden las lecciones, el ingenio se desarrolla y empieza a inquirir por su
nombre, sexo, raza, por una razn para existir.

como eje la INTELIGENCIA (jugar al ajedrez o resolver problemas matemticos, sino la

CONCIENCIA.
En el caso de la PELICULA EX MACHINA y de las creaciones humanas parecieran pasar esta prueba,
porque una y otra vez muestran los niveles de conciencia con que pueden relacionarse con los
humanos, respondiendo con sus tcticas a sus estrategias y muchas veces proponiendo las
propias. La pelcula EX MACHINA es otra vuelta de tuerca, un paso ms para llegar a mostrar que
los hombres y las mquinas pueden estar divididos por una muy delgada lnea de vida y de
tecnologa, de carne y titanio. Explcitamente NATHAN lo afirma despus del primer encuentro de
CALEB con EVA = no se trata de inteligencia, porque eso es demasiado simple ya, sino de
conciencia, la mquina tiene que tener conciencia de lo que le corresponde y le conviene hacer en
cada momento.
04. HOMBRE BICENTENARIO (ASIMOV. 1976)4

ASIMOV es en mucho sentido alguien que anticipa en sus producciones de CIENCIA FICCION lo que
puede y debe venir. Le pone libreto literario, pero con base cientfica, al futuro. Refugiarse en la
literatura es una manera de jugar con la verdad, porque lo verosmil otorga mayor libertad para
crear. He aqu algunos argumentos finales de ANDREU, el ROBOT BICENTENARIO que est
dispuesto a todo no slo para volverse hombre, sino para ser reconocido como humano.
En primer lugar, hemos establecido que ningn nmero de artefactos le quita la humanidad al
cuerpo humano. En segundo lugar, hemos involucrado a la opinin pblica de tal modo que estar
a favor de una interpretacin amplia de lo que significa humanidad, pues no hay ser humano
existente que no desee una prtesis si eso puede mantenerlo con vida. () Estamos lejos de
pretender una campaa para robotizar a los seres humanos o para humanizar a los robots;
[Pero] los seres humanos poseen un cerebro celular orgnico y los robots tienen un cerebro
positrnico de platino e iridio... No Andrew, no pongas esa cara. Carecemos de conocimientos
para imitar el funcionamiento de un cerebro celular en estructuras artificiales parecidas al cerebro
orgnico.()
Todo se reduce al tema del cerebro, pues. Pero. es que todo ha de limitarse a una posicin entre
clulas y positrones? No hay modo de imponer una definicin funcional? Debemos decir que un
cerebro est hecho de esto o lo otro? No podemos decir que el cerebro es algo capaz de alcanzar
cierto nivel de pensamiento? ()
Tu cerebro fue fabricado por el hombre, el cerebro humano no. Tu cerebro fue construido, el
humano se desarroll. Para cualquier ser humano que se proponga mantener la barrera entre l y
el robot, esas diferencias constituyen una muralla de acero de un kilmetro de grosor y un
kilmetro de altura. ()
Mira, si el problema es el cerebro, acaso la mayor diferencia no resiste en la inmortalidad? A
quin le importa la apariencia, la constitucin ni la evolucin del cerebro? Lo que importa es que
4
Los primeros escritos de ASIMOV sobre los ROBOT son de 1950: as sucede con la primera versin de YO,
ROBOT, pero esta histrica es de 1976.

las clulas cerebrales mueren, que deben morir. Aunque se mantengan o se reemplacen los dems
rganos, las clulas cerebrales, que no se pueden reemplazar sin alterar y matar la personalidad,
deben morir con el tiempo. Mis sendas positrnicas, han durado casi dos siglos sin cambios y
pueden durar varios siglos ms. No es sa la barrera fundamental? Los seres humanos pueden
tolerar que un robot sea inmortal, pues no importa cunto dure una mquina; pero no pueden
tolerar a un ser humano inmortal, pues su propia mortalidad slo es tolerable siempre y cuando
sea universal. Por eso no quieren considerarme humano. () -He eliminado ese problema. Hace
dcadas, mi cerebro positrnico fue conectado a nercios orgnicos. Ahora una ltima operacin ha
reorganizado esas conexiones de tal modo que lentamente mis sendas pierdan potencial.
05. LA PELICULA
La pelcula ha interpretado cabalmente el TEST DE TURING porque hasta juega con el espectador
creyendo ingenuo que cree que todo se resuelve en lo superficial y no lo profundo. No se trata de
contratar a un excelente programador y experto en nuestras tecnologas y lenguajes para que
corrobore el nivel de inteligencia de la MAQUINA (AVA), aunque sea recibido as al ingresar al
nuevo paraso artificial en donde EL DIOS hace sus experimentos y creaciones. La verdadera
trampa o el verdadero desafo es otro que se explica en los dilogos pero que sobre todo se
entiende a lo largo de la pelcula: ver en ese paraso quin es la mquina si ADAN O EVA, si los que
son mquinas, las mquinas androides o lo son los
humanos que en realidad ocultan su ser mquina bajo su
piel (por eso la bsqueda obsesiva en el espejo y ese
contarse el brazo para corroborar que sigue siendo
humano, como si la herida y la sangre fueran pruebas
irrefutables y no pudieran ser creadas artificialmente
para lograr mayor calidad en el producto). Hay algo que
llamamos VIDA que ontolgicamente los une y muchas
otras cuestiones que los separa, pero la similitud es tal
que hasta los mismos seres humanos comienzan a
sospechar de los que lo rodean (no ya de quienes estn encerrados en habitaciones chinas) y hasta
de uno mismo. La muerte de los humanos, por ejemplos, en las mquinas es: desprogramar,
desconectar, vaciar, apagar, y es una funcin que puede ser ejecutada desde el exterior o realizada
por el mismo androide. El mundo compartido es problemtico, porque puede suceder que - como
si en una nueva METAMORFOSIS - uno amanezca convertido, no en un horrible insecto, sino
mutado en una MAQUINA perfecta, en una nueva versin del KAFKA ms puro.
El gran dilema del futuro como lo seala ASIMOV es que no sabemos si las MAQUINAS
progresivamente se van a ir convirtiendo en seres antropomrficos, porque se van a ir ajustando
las tecnologas para que as suceda, o bien los seres humanos se van a convertir en seres
artificiales para lograr, con diversos CYBORG, resolver los problemas de desgaste y de
obsolescencia del cuerpo humano: mquinas que se vuelven hombres o bien hombres que se
vuelven mquinas. Se discute el proceso de constitucin ontolgica de los nuevos seres. Todo lo
que est en ese paraso subterrneo de la pelcula ha sido diseado para que funcione como
HUMANO sin ser humano. Hay un cambio ONTOLOGICO que desencadena problemas
GNOSEOLOGICOS: nadie sabe en realidad si es o no humano, porque se han recreado todas las
funciones. Y sobre el final aparecern los problemas TELEOLOGICOS y ETICOS.

CALEB sabe desde el principio que acta con un ROBOT y por tanto puede evaluar la mquina
pero no someterse al TEST DE TURING, a menos que se discuta quien es ROBOT y quien es
HUMANO en cada caso, quien tiene sentimientos o inteligencia o reacciones o salidas ms
humanas o ms automatizadas. CALEB se lo dice a NATHAN, que reconoce que no se trata con
propiedad del TEST DE TURING porque sera sencillo engaarlo as: quiere ver si puede
convencerlo o engaarlo VIENDO al ROBOT, viendo a la mquina, que el interlocutor concluya
frente a la mquina, convencido de que no puede ser sino humana, ms que humana.
Hay dos lecturas de la pelcula: por un lado lo que vive y hace CALEB y por otro lo que la pelcula
est mostrando, que no lo muestra en la historia y en el relato, sino se lo muestra al espectador, a
la cmara, porque debe convencerlo de la superioridad de la mquina. NATHAN llega a decir: "Un
da nos mirarn como si fusemos simios condenados a la extincin". No sabe ni imagina que ese
da est muy cerca. Y lo dice porque a veces parece que NATHAN es el alter ego del director y del
guionista, mientras que CALEB representa al pblico, ingenuo y curioso, hambriento de
emociones, atento a cada plano, intentando anticiparse a lo que va a ocurrir. GARLAND maneja
con habilidad al espectador. Revela solamente la informacin que necesita en cada momento y le
manipula/engaa con talento, firmando una efectiva y muy elegante puesta en escena a partir de
un guin ingenioso e inesperado. DIRECTOR Y GUIONISTA penetra realmente en lo que significa
ser un humano, lo que significa pensar y ser consciente. Nunca sabemos lo que piensa la persona
que tenemos delante, ni si siente lo mismo que nosotros. "ALEX TURING entendi muy pronto que
las mquinas con las que trabajaba podran convertirse en mquinas pensantes en vez de simples
calculadoras. Se dio cuenta de que sera difcil adivinar si algo realmente pensaba o finga pensar"
(GARLAND).
EL LUGAR es un nuevo paraso pero tecnolgico, el mtico origen de un nuevo mundo, de una
nueva especie humana. CALEB (= el impetuoso y audaz) es ADAN que ha llegado para encontrarse
con un nuevo ser, para darle entidad ontolgica al nuevo ser: EVA (= AVA). Como en todo paraso
original, hay DIOS que da vueltas por el mundo, observando su creacin y hablando con sus
criaturas.. DIOS siempre lo ve todo, desde un PANOPTICO ABSOLUTO que es su omnisciencia, aqu
las cmara aseguran que no hay lugar en el paraso que no pueda ser visto y controlado por DIOS.
EVA es una criatura nacida del hombre. Tal vez, como en todos los mitos de la creacin, ha habido
numerosas creaciones, ensayos que han llegado a la versin definitiva (hay evolucin en el
proceso de creacin). El cientfico poderoso es el creador, NATHAN (= significa DIOS ha dado, Dios
ha producido) es DIOS, un dios arrogante, orgulloso, omnipotente, violento, borracho, corrupto y
aburrido, que une dos condiciones: saber y poder, pero DIOS al fin. Un curioso paraso terrenal en
el exterior (oculto e imposible de abordar) y un paraso (o infierno) tecnolgico subterrneo, un
bnker claustrofbico, sin ventanas y hermticamente cerrado, del que solamente DIOS tiene las
claves de acceso y la apertura de todas las puertas: el ingreso y egreso de todo PARASO est
celosamente custodiado
No se trata de probar si la maquina funciona mejor que el ser humano, si la mquina puede ganar.
Se trata de saber si la mquina puede engaar a un ser humano y demostrarnos que no la
reconocemos como mquina. Y se trata de engaar al mismo DIOS, si eso es posible. Por eso la
pelcula se vuelve TEST DE TURING al final, realmente all, porque en ese viaje final se produce la
victoria. Y hasta los dioses pueden morir en manos de las mquinas. Una primera impresin y
lectura de la pelcula muestra un aparente enfrentamiento entre la inteligencia humana y
emocional (corrupta, malintencionada, lbil) y la artificial (en apariencia perfecta, virginal), en este

caso entre un informtico, un hombre de ciencia, y el androide femenino de bellos rasgos,

jugando una cita a ciegas y luchando sin saber a qu lugar pueden y deben llegar.
Aunque CALEB es un brillante programador de 26 aos y es el presunto ganador de un concurso
(que en realidad nunca existi), en el encuentro con AVA se van complicando las identidades,
porque no queda claro si CALEB no es una mquina con apariencia humana habitante del mundo
real y AVA es una mujer del mundo real a la que han ocultado bajo la forma de un androide con
cyborg diversos. Nada es real en este mundo del futuro. Como en MATRIX depende de la pastilla
que uno tome y la decisin de querer vivir engao o atreverse a asomarse al mundo de lo
verdadero. Sin embargo, en el desarrollo de la pelcula AVA es una MAQUINA PERFECTA y la
historia ir mostrando el juego, las tcticas y las estrategias de cada uno de los personajes para
controlar la situacin. No se trata de un duelo de inteligencia, sino de uno duelo de personalidad,
de saber qu se puede y se debe hacer en cada caso, juego de decisiones, de lucha, de verdades y
mentiras. El secreto est en saber cmo se definir el duelo, cmo ser el enfrentamiento entre
la MAQUINA HUMANA y la ARTIFICIAL, quin puede ser descartable, quien debe ser eliminado o
abandonado. Y en suma, tratar de conocer si - entre nosotros - no circulan ya NUEVOS SERES
HUMANOS ARTIFICIALES a quienes nunca les hemos intentado romper la piel para saber si lo son.
Apenas llegado CALEB sabe que ha sido contratado para ello, y se la permitido entrar al templo de
la tecnologa en donde se ha producido el nivel mximo de inteligencia artificial, con todos los
reaseguros legales. Y all sabe cul es la dimensin de la tarea: Si logras que la mquina sea mejor
que un humano no ser el mayor logro de los hombres, sino de los DIOSES, le dice CALEB
deslumbrado NATHAN (que posteriormente reconocer que se siente un DIOS). NATHAM no es
slo el dueo de la compaa en la que trabaja CALEB, cuyo nombre es BLUE BOOK (CUADERNO
AZUL, como la obra de WITTGENSTEIN), un buscador que domina el 94 % del uso de internet, sino
que es un genio precoz que a los 13 aos haba logrado disear las bases de su compaa.
06. LA PELICULA, PASO A PASO

AVA. SESION UNO: EL ENCUENTRO. PRIMER DIA
Es el encuentro inicial, siempre divididos por un cristal. Se experimentan mutuamente. Son
iguales, se reconocen como iguales, aunque son distintos. Uno es un ser humano, la otra es una
mquina creada por el hombre. Y comienza la primera conversacin. Tiene un ao de vida, sabe
hablar desde siempre porque es la manera de articular el pensamiento (hay una primer discusin
en torno al sentido del lenguaje en los humanos). Y CALEB reconoce que el uso que hace del
lenguaje es estocstico, no determinado ni determinable, sino absolutamente libre y creativo,
aceptando las jugadas previsibles y las aleatorias. Es algo que se debe lograr en la inteligencia
artificial, porque si no siempre funciona como sistemas previstos y anticipados (mapean el
formato posible y producen la respuesta). Resultado del encuentro: el asombro. Reconoce que no

solo es capaz de hablar y de hacer, sino que sabe que las hace (jugar al ajedrez y saber que est
jugando). Pero se insina una primera sospecha: simulacin contra realidad.
AVA. SESION DOS: CONOCIMIENTO. SEGUNDO DIA

AVA muestra los dibujos que hace (cuando queda sola en su habitacin) pero no sabe lo que hace
y le pregunta a CALEB, que le propone que representaciones del mundo real. AVA le propone ser
su amigo como una forma de construir una relacin simtrica de conocimiento: ser conocida y
conocerlo. Y arma un razonamiento similar al utilizado por CALEB, a quien somete a un puntilloso
interrogatorio que le permite contar toda su vida. La habilidad en el lenguaje y en las preguntas
pone de manifiesto la capacidad de AVA que no slo mantiene el desarrollo de un tema, sino que
es capaz de saltar de un tema a otro, de manera imprevista, algo que sorprende a CALEB.
El corte de energa le permite conocer otro registro de su pensamiento o de sus juegos del
lenguaje: lo que piensa de su creador y la necesidad de desconfiar de la amistad de NATHAN,
situacin que cambia apenas retorna la luz y los controles. Hasta propone una agenda (libros
ledos) para futuros encuentros. Slo quien es consciente de su pensamiento puede tomar una
respuesta de un dilogo y sorprender con un formato similar a su interlocutor: un juego de espejos
o de simetras (T puede elegir qu dibuja Tu puede elegir qu contarme de tu vida).
Observacin nocturna del sueo de AVA, de KIOTO (la mujer que los sirve). Visita al laboratorio
de produccin de los androides. Muy similar al formato del HOMBRE BICENTENARIO. All se revela
cmo se ha construido el rostro y la voz, usando la informacin de todos los celulares que
funcionan en el mundo. El cerebro es lquido y permite archivar y conservar recuerdo y procesar
pensamientos (hardware) utilizando como software los buscadores, que no son mas que mapas
de cmo piensan los humanos (no slo qu piensan): impulsos, respuestas, patrn y caos.
AVA. SESION TRES: TERCER DIA. MUJER Y ATRACCION

AVA nunca ha salido de la habitacin, no conoce el mundo exterior y supone que sera bueno
conocer un lugar con muchas personas. Sin embargo exhibe un dibujo figurativo del mundo
exterior. AVA se viste, se viste de mujer y como mujer, su cuerpo de androide se oculta bajo el
vestido y la peluca. Se transforma. Al presentarse ante CALEB piensa en una cita, en lo que
podran hacer los dos juntos. Y all la mujer-mquina comienza a dominar la situacin, a seducir, a
conquistar: dice que sabe que lo atrae porque puede estudiar sus microexpresiones, que la
observa por las noches, que piensa en ella. Hasta puede adivinar su pensamiento. La mquina
piensa lo que puede pensar el ser humano y lo expresa. Y CALEB lo reconoce, al tiempo que
observa curioso como AVA se despoja de su ropa.
Y en la evaluacin de la tercera jornada aparece el tema de la INTELIGENCIA ARTIFICIAL y la
posibilidad de estar asociada a la sexualidad, y, luego, la discusin en torno a la programacin
de las atracciones y de la sexualidad, y la libertad posterior de eleccin, en seres humanos y en
mquinas. Decidimos ser heterosexuales o hemos sido programados? La inteligencia (que puede
ser programada para que acte dentro de determinados parmetros) y las otras formas de
expresin humana: el arte, la palabra, el sexo, el amor, pueden ser programas. Y NATHAN le
confiesa que AVA no finge que le atrae CALEB (porque el amor no se puede convertir en algoritmo
programable). Uno de los momentos ms logrado es la discusin en torno a un pintura de JASON
POLLOCK (1912 1956, representante del arte abstracto de EEUU) donde NATHAN imparte una
10

leccin magistral sobre la pintura automtica y la relacin de la misma en el proceso de creacin

de la I.A., porque no es la inteligencia la que gua la creacin, sino la creacin la que acta
libremente mas all de la inteligencia. Se humaniza una mquina, si tiene capacidad de
enamorarse de un ser humano?
AVA: SESION CUATRO: LA CONFESION

CALEB le presenta a AVA la diferencia que l ha estudiado entre la INTELIGENCIA ARTIFICIAL y la
MENTE HUMANA, presentando el argumento antifisicalista de JACKSON (recreacin en fsica de la
ALEGORIA DE LA CAVERNA de PLATON, en filosofa?). Es decir el ser humano le confiesa a la
mquina qu es lo que los diferencia. Para poder entenderlo, la mquina debe dejar de serlo para
ser como un ser humano que puede saber de s mismo.
EL CUARTO BLANCO Y NEGRO DE MARY = Mary es una cientfica que tiene toda la
informacin fsica acerca de los COLORES, pero nunca ha experimentado los colores. La
pregunta es: una vez que experimente los colores, aprender algo nuevo? Si la respuesta
es s, entonces significa que la informacin fsica no es todo lo que hay para saber acerca del
mundo, y por lo tanto el fisicalismo es falso. MARY es una cientfica brillante que est, por
alguna razn, forzada a investigar el mundo desde un cuarto blanco y negro a travs del
monitor de una televisin en blanco y negro. Se especializa en la neurofisiologa de la visin
y adquiere, supongamos, toda la informacin fsica que hay para obtener acerca de lo que
sucede cuando vemos tomates maduros, o el cielo, y usa trminos como "rojo", "azul", etc.
Ella descubre, por ejemplo, justo qu combinacin de ondas del cielo estimulan la retina, y
exactamente cmo esto produce a travs del sistema nervioso la contraccin de las cuerdas
vocales y la expulsin de aire de los pulmones que resulta en la pronunciacin de la oracin
"el cielo es azul". [...] Qu suceder cuando Mary sea liberada de su cuarto blanco y negro
o se le d una televisin con monitor en color? Aprender algo o no? Parece obvio que
aprender algo acerca del mundo y nuestra experiencia visual de l. Pero entonces es
innegable que su conocimiento previo era incompleto. Pero tena toda la informacin fsica.
Ergo hay algo ms a tener que eso, y el "fisicalismo" es falso.(FRANK JACKSON. 1982 - 1984)
CALEB le confiesa a AVA cul es el verdadero sentido de su presencia all: evaluar su nivel de
humanizacin, si tienes conciencia o slo ests simulando. Un corte de energa (producido por
AVA) le permite a ella confiar que quiere saber cmo se comportan LOS DOS cuando no pueden
ser observados. CALEB supone o sospecha que la observacin se mantiene.
En el exterior, en un paisaje muy bello, discuten CALEB Y NATHAN sobre las mentiras que hay
entre ellos. No es por azar que est all, lo ha elegido por sus condiciones y porque le recuerda su
propio pasado (todo se puede programar?). CALEB observa cmo NATHAN ingresa a la habitacin
de AVA y rompe sus dibujos. Y all descubre las condiciones que tiene KIOTO, la mujer que
acompaa y sirve a NATHAN: y que no tiene forma de comunicarse (no escucha, no entiende, no
habla), pero est preparada para satisfacer a quien se lo pida.
AVA: SESION QUINTA: DESTINO Y FUTURO

En el juego de las preguntas AVA hace el avance mayor para imponerse sobre el ser humano,
logrando que su atraccin se convierta en compasin: Eres buena persona? Qu pasar
11

conmigo despus de esta prueba? Me van a desconectar? Acaso examinan a las personas y
luego las desconectan o apagan a las personas cuando no sirven?. La mquina hace preguntas de
carcter tico y pregunta por sus derechos y los lmites del creador para destruirla. Y le propone a
CALEB permanecer juntos, huir juntos, planificar una vida, juntos.
CALEB quiere saber por qu NATHAN ha fabricado a AVA y qu piensa hacer con ella. Y NATHAN
confiesa. Es parte slo de un proceso evolutivo de la INTELIGENCIA ARTIFICIAL que requiere
muchos ensayos: AVA es una ms, y ya est planificado el siguiente modelo. No tiene existencia
individual, sino que es parte de un continuum. Los modelos anteriores son descargados y
formateados y no queda nada de ellos. Slo conserva los cuerpos. Y finalmente le recomienda a
CALEB que no sienta pena por AVA, sino por los seres humanos, porque las MAQUINAS destruirn
a los seres humanos en un futuro no muy lejano. CALEB logra entrar a los archivo de NATHAN Y
descubre una coleccin con todos los modelos anteriores desprogramados y a la misma KYOTO
como una mquina ms. Desesperado necesita probar si EL MISMO es humano, cortndose la
piel.
AVA: SESION SEXTA: LA VERDAD

CALEB Y AVA planifica escaparse juntos, interviniendo en el sistema de programacin del edificio, y
emborrachando a NATHAN. Es el ltimo da antes de partir con el helicptero que lo debe sacar
del lugar. NATHAN ha estado observando todo y supone que AVA pudo fingir la atraccin mutua
slo para utilizarlo como un medio para poder escapar. Y le confiesa a CALEB que sabe todo lo que
est pasando, que puede ser parte de lo programado, porque l ha jugado con los dos todo el
tiempo: el CREADOR tiene ciertos derechos y secretos que solamente l maneja. Conoce el plan
que han tramado. La prueba no es AVA, sino CALEB, porque la mquina est programada para
utilizar la nica salida para escaparse: una persona y su voluntad: ha sido un xito.
Y el xito puede ser mayor si la mquina logra que el plan, el proyecto, la criatura funcione a pesar
del CREADOR, en contra del CREADOR (como si fuera un pecado original exitoso, que habiendo
comido del rbol los transformara a los hombres en los ms sabios y perfectos), y destruyendo al
CREADOR. Juego infinito y en espejos de TACTICA Y ESTRATEGIA. Slo cabe esperar que los hechos
sucedan y que el TEST sea ampliamente superado. No le pidamos comportamientos ticos a las
mquinas, no le pidamos piedad ni misericordia, si los humanos sus creadores no los tienen:
las mquinas reproducen a la perfeccin a sus dioses creadores. Las mquinas no son slo seres
humanos: se pueden convertir en dioses, en dioses implacables. Tal vez por eso, ASIMOV con
una intuicin admirable y hace mucho tiempo pens y redact las tres leyes de la ROBOTICA:
1. Un robot no puede causar dao a un ser humano ni, por omisin, permitir que un ser
humano sufra daos.
12

2. Un robot debe obedecer las rdenes dadas por los seres humanos, salvo cuando tales
rdenes entren en conflicto con la Primera Ley.
3. Un robot ha de proteger su existencia, siempre que dicha proteccin no entre en
conflicto con la Primera o la Segunda Ley. (1942. 1985)5
PROPUESTAS PARA TRABAJAR Y DEBATIR

(01) Trabajar los fundamentos matemticos y cientficos que utiliza la pelcula y los que
menciona en sus dilogos.
(02) Trabajar guiones, pelcula y libros que han abordado el tema de la INTELIGENCIA ARTIFICIAL.
(03) Trabajar la figura de WITTGENSTEIN, su CUADERNO AZUL y sus juegos del lenguaje. Abordar
la filosofa del lenguaje y las diversas interpretaciones.
(04) Trabajar desde el punto de vista ANTROPOLOGICO y ONTOLOGICO las diferencias entre el
ser humano y la mquina. La sexualidad y el amor. El papel de la inteligencia. La
previsibilidad y la absoluta libertad en lo que somos y hacemos.
(05) Trabajar el tema de los FINES (teleologa), de la ETICA y de los VALORES que tienen los seres
humanos, los cientficos, las mquinas, los dioses. Cules son sus lmites?
(06) Preparar un debate sobre el tema desde el punto de vista FILOSOFICO, LEGAL, RELIGIOSO Y
CIENTIFICO.
(07) Crear una NUEVA HISTORIA sobre el tema: INTELIGENCIA ARTIFICIAL, HOMBRE Y
MAQUINAS, MUNDO DEL FUTURO. O hacer alguna produccin grfica o artstica al respecto.
BONUS TRACK
BLADE RUNNER (1982) EL CAZADOR IMPLACABLE
Ttulo en espaol: EL CAZADOR IMPLACABLE. Ttulo original: BLADE RUNNER Ao: 1982 Duracin:
117 min. Origen: Estados Unidos Director: Ridley Scott Guin: Hampton Fancher, David Peoples y
Roland Kibbee Banda sonora: Vangelis Director de fotografa: Sacha Vierny Reparto: Harrison
Ford, Rutger Hauer, Sean Young, Edward James Olmos, Daryl Hannah.
5
http://www.clarin.com/tema/inteligencia_artificial.html
13

En un futuro cercano al nuestro (2017 - 2021) la sociedad no ha construido un mundo perfecto,

sino una distopa decadente, oscura, miserable. En la tierra todava sobreviven los que no tienen
forma de irse a vivir a algn lugar del espacio. Las escenas pertenecen a una oscura y lluviosa
ciudad de Los ngeles futurista (edificios, organizacin de la sociedad, transporte, comunicacin),
con una ambientacin ciberpunk y oriental.
La poderosa TYRELL CORPORATION ha creado gracias a los avances de la ingeniera gentica una
generacin de robot de la lnea NEXUS: los NEXUS 6 son seres virtualmente idnticos al hombre
pero superiores en fuerza y agilidad al que se dio el nombre de REPLICANTE. Estos robots
androides, rplicas absolutas de los humanos, trabajaban como esclavos en las colonias exteriores
de la Tierra. Despus de una sangrienta rebelin de un equipo de NEXUS-6 los Replicantes fueron
desterrados de la Tierra, pero algunos logran regresar y Brigadas especiales de polica los BLADE
RUNNERS son los encargados de destruirlos, provocndoles la muerte (= retirarlos).
Un poderoso sistema de identificacin permite descubrir las diferencias entre los ANDROIDES y los
humanos: anlisis del IRIS de sus ojos y una serie de preguntas que deben contestar: el sistema de
emociones y sensibilidad no est desarrollado.
DECKARD (HARRINSON FORD) es el BLADE RUNNERS ms experimentado y es el encargado de
encontrar, identificar y destruir a los SEIS REPLICANTES que han escapado. Cumple de manera
impecable tu tarea peleando de forma variada con cada uno de ellos (hombres y mujeres), aunque
RAQUEL es una mujer que vive en contacto con el DIRECTOR DE LA COMPAA, tiene un desarrollo
humano superior y parece conquistar el corazn y la voluntad de DECKARD. Los dems, van
cayendo uno tras otro, a pesar de la fuerza sobrehumana que tienen, pero amenazados tambin
por el poco tiempo de vida que disponen: cuatro aos (como salvaguarda contra su desarrollo
emocional inestable) RAQUEL es un modelo experimental a quien se le ha incorporado la
posibilidad de recordar y desarrollar diversos sentimientos.
Tiene muchos rasgos que anticipan el desarrollo de la inteligencia artificial y a pesar del paso del
tiempo muestra signos de absoluta credibilidad. El guin escrito por HAROLD FANCHER Y DAVID
PEOPLES est inspirado libremente en la novela: SUEAN LOS ANDROIDES CON OVEJAS
ELCTRICAS? (1968)
Pueden rescatarse algunos aspectos sumamente interesantes para relacionar esta pelcula con
creaciones posteriores:
Los REPLICANTES (porque replican por creacin de la ingeniera gentica la naturaleza

humana) son llamados tambin los PORTAPIELES, pero no tienen mecanismos en su
interior, sino carne y huesos como los humanos.
Cada uno tiene su especialidad: fortaleza, liderazgo, soldados y obreros, trabajadora
sexual, modelos bsicos de placer.
La empresa TYREL (cuyo dueo es el DIOS CREADOR) terceriza sus tareas: as
conocemos al oriental que es quien disea y construye los ojos de los Replicantes y
SEBASTIAN un creador de diversas formas de vida artificial es el genio de la
ingeniera gentica que respalda al propietario de la empresa.
Se observan diversos cruces entre HUMANOS Y REPLICANTES sobre sus derechos y la
distribucin de la tarea: vivir, ser esclavos, temer, pensamiento (pienso luego existo).
14

Los androides son conscientes de serlo (menos RAQUEL) y puede reflexionar sobre lo
que tienen y no tienen.
Hay una discusin tambin sobre la semejanza entre el morir y el ser retirado, la
posibilidad de permanecer ms tiempo y la universal condicin de todo ser: la
destruccin y la muerte.
La discusin mayor es la que se produce entre ROY (el lder de los replicantes) y
TYRELL: no hay forma de cambiar y de rectificar lo creado. No hay manera de asegurar
ms vida para los androides, DIOS no puede tocar su creacin (aunque sabe cules han
sido los intentos para hacerlo). ROY parece un HIJO PRODIGO descarriado y rebelde
que regresa finalmente al PADRE. Pero si DIOS no puede modificar su criatura, DIOS no
es DIOS, no es todopoderoso, sino humano, demasiado humano, y entonces puede
producirse la violencia muerte de DIOS, no es manos de los hombres (lleno de
principios morales y religiosos), sino por obra de los ANDROIDES.
La mujer siempre arma un juego de SEDUCCION y lograr conquistar a su salvador,
como nica forma de lograr la meta deseada: donde mejor se ve es en RAQUEL que
conquista al BLADE RUNNER insobornable.
Hay ciertas similitudes entre esta pelcula de 1982 y la pelcula EXMACHINA de TREINTA AOS
despus: androides perfectos de los que ya no discutimos su presentacin, sino su interior: su
capacidad de pensar, de sentir, de decidir, de convencer, de interactuar con el entorno, de
relacionarse con los seres humanos y tambin con DIOS, con su creador. Tambin es cierto que
han pasado aos y el desarrollo del tema da para nuevos relatos. Y, adems, la pelcula de 1982
no pretende resolver el TEST o la PRUEBA DE TURING, sino la posibilidad de androides y creaciones
humanas descontroladas, a las que hay que disciplinar, vigilar o desconectar (retirar)en EX
MACHINA estamos definiendo la posibilidad de pensar no slo como los humanos, sino ms que
ellos, como los dioses.
La msica de VANGELIS es el marco majestuoso para disfrutar ms aun de la pelcula. Un crudo da
de fro del mes de diciembre londinense del ao 1981, en la pomposa sala de proyeccin de los
estudios Pinewood, Vangelis vi un copin ms o menos recurrente de BLADE RUNNER.
VANGELIS se impresion de la imgenes que vio. Al mismo tiempo se asust de la responsabilidad.
Qued cautivo de la violencia, de la desesperacin por sobrevivir de los replicantes. VANGELIS
qued atrapado emocionalmente por las imgenes. Justo desde el primitivo inicio de ese Los
Angeles de lluvia cida hasta el final del vuelo de la paloma, cuando muere el jefe replicante Roy
Batty.

norojor@cablenet.com.ar
15

Ex Machina y Test de Turing + Hombres y Maquinas

Încărcat de

Informații document

Titlu original

Drepturi de autor

Formate disponibile

Partajați acest document

Partajați sau inserați document

Opțiuni de partajare

Vi se pare util acest document?

Este necorespunzător acest conținut?

Drepturi de autor:

Formate disponibile

Ex Machina y Test de Turing + Hombres y Maquinas

Încărcat de

Drepturi de autor:

Formate disponibile

ANTROPOLOGIA, ETICA, FUTURO

PROF. DR. JORGE EDUARDO NORO