FACULTAD DE ESTUDIOS JURÍDICOS Y POLÍTICOS

ESCUELA DE DERECHO

ANÁLISIS DE LOS ASPECTOS BIOÉTICOS Y JURÍDICOS DEL

RECONOCIMIENTO DE LA CIUDADANÍA SAUDÍ A LA INTELIGENCIA
ARTIFICIAL SOPHIA



Katherine Mendoza
C.I. V-19.452.646
Mariangelina Socorro
C.I. V- 20.685.954

Tutor:
Angélica Calzadilla

Caracas, Marzo de 2019

0
1
2
3
4
 AGRADECIMIENTOS

A Dios, por darnos la vida y la oportunidad de llegar a este momento tan

importante.
A nuestros padres y familiares, por apoyarnos en todas las etapas de
nuestras vidas.
A todos los profesores de la Universidad Metropolitana, especialmente de la
Facultad de Estudios Jurídicos y Políticos, que de alguna u otra forma han
contribuido en nuestra formación académica.
A nuestra profesora y tutora Angélica Calzadilla, por despertar nuestro
interés en la bioética, así como brindarnos la orientación necesaria en la
elaboración de este trabajo de grado, por su paciencia, su buena disposición y su
respaldo en todo momento.
Al Observatorio de Bioética y Derecho de la Universidad Metropolitana, que
mediante a sus diversas actividades despertó nuestro interés por la bioética.
A nuestros amigos y todas las personas que siempre estuvieron atentos al
desarrollo de este trabajo de grado y de alguna u otra forma colaboraron en
nuestro estudio.

¡A todos, Gracias!

5
 DEDICATORIA

A mi Madre Uvenza Chávez, mis Abuelos Wencira Torrealba de Chávez e

Iginio Chávez (✞), mis Tíos Rosa Chávez y José Gregorio Álvarez, mi Hermano
David Alejandro Torres Chávez, quienes me dieron todo sin pedir nada a cambio,
quienes me acompañan desde siempre y en todo momento siendo así mi apoyo
incondicional.
A todos mis amigos que hoy no están aquí, a todos aquellos que no
pudieron culminar su carrera por culpa de la dictadura, a Mariangelina y a los que
hoy me acompañan en este momento tan especial.
A Angélica Calzadilla, Andreyna Febres-Cordero y Guillermo Tell Aveledo
Coll, por ser mi ejemplo a seguir, por ayudar a levantarme cada vez que me he
caído, por sus consejos y por enseñarme a creer en mí misma.
Katherine Mendoza

A mis padres Luisa Margarita y Giovanni, por siempre apoyarme, darme

una educación de calidad y creer en mí incondicionalmente. A mi hermana
Vanessa, mí ahijado Adam y mi tía Marina. A mi familia Patiño y a mi familia
adoptiva Dow Rumbos. Son mi motivación cada día para salir adelante.
A la gente como uno, a mi delegación MetroMUN World, a mis amigos.
Gracias a ustedes es mucho más fácil afrontar el día a día en Venezuela, y más
fácil asumir los retos.
A LD, porque sin tí, yo no. Contigo hasta el infinito y más allá.
A Katherine, a mis profesores del Colegio Bellas Artes y de la URU, LUZ y
la Unimet. A Oscar Vallés, a los profes Capriles, Santacruz y Pérez Perdomo,
gracias por tantas oportunidades y por tanto cariño.
Mariangelina Socorro

6
 ÍNDICE

RESUMEN……………………………………………………………………….. i

INTRODUCCIÓN………………………………………………………………... 1

CAPÍTULO I. PRINCIPIOS BIOÉTICOS QUE DETENTA LA

INTELIGENCIA ARTIFICIAL HASTA LA CREACIÓN DE SOPHIA

1.1 Orígenes y desarrollo de la bioética con relación a la Inteligencia

Artificial………………………………………………………………………... 4

1.2 Principios generales de la bioética…………………………………….. 7

1.3 Definición de Inteligencia Artificial……………………………………... 12

1.4 Orígenes de la Inteligencia Artificial hasta Sophia…………………... 17

1.5 Características generales de la Inteligencia Artificial Sophia………. 22

1.5.1 Hitos principales que engloba la inteligencia artificial………… 25

1.5.2 Influencia de la bioética sobre la inteligencia artificial………... 27

CAPÍTULO II. LEGISLACIÓN DEL REINO DE ARABIA SAUDITA PARA

EL OTORGAMIENTO DE LA CIUDADANÍA A LA INTELIGENCIA
ARTIFICIAL SOPHIA

2.1 Ordenamiento jurídico del Reino de Arabia Saudita………………… 30

2.2 Procedimiento dentro del ordenamiento jurídico de Arabia Saudita

para el reconocimiento de la nacionalidad Saudí………………………… 37

2.3 Reconocimiento de la nacionalidad Saudí a la Inteligencia Artificial 39

2.3.1 Antecedentes y Controversias………………………………….. 40

7
 2.3.2 Procedimiento del otorgamiento de la nacionalidad Saudí a
Sophia……………………………………………………………………. 45

CAPÍTULO III. ASPECTOS BIOÉTICOS RESPECTO A LOS EFECTOS

DEL OTORGAMIENTO DE LA CIUDADANÍA SAUDÍ A LA
INTELIGENCIA ARTIFICIAL SOPHIA EN LA HUMANIDAD

3.1 Aspectos bioéticos relacionados al otorgamiento……………………. 48

3.2 Problemas bioéticos respecto al reconocimiento de la nacionalidad

saudí a la Inteligencia Artificial Sophia…………………………………….. 49

CONCLUSIONES……………………………………………………………….. 56

RECOMENDACIONES…………………………………………………………. 61

REFERENCIAS………………………………………………………………….. 62

8
 RESUMEN

ANÁLISIS DE LOS ASPECTOS BIOÉTICOS Y JURÍDICOS DEL

RECONOCIMIENTO DE LA CIUDADANÍA SAUDÍ A LA INTELIGENCIA
ARTIFICIAL SOPHIA

Autores: Katherine Mendoza y Mariangelina Socorro.

Tutor: Angélica E. Calzadilla R. Caracas, febrero de 2019

Sophia es una Inteligencia Artificial creada por la compañía Hanson

Robotics en el año 2016. En el 2017, el Reino de Arabia Saudita le concedió la
ciudadanía Saudí a través de un proceso irregular. Para entender esta concesión
a Sophia, es clave analizar las implicaciones bioéticas que se derivan. Es por esto
que en el Capítulo I se determinan los principios bioéticos que detenta la
Inteligencia Artificial hasta la creación de Sophia, en el Capítulo II se describe la
legislación del Reino de Arabia Saudita para el otorgamiento de la ciudadanía a la
Inteligencia Artificial Sophia, y finalmente en el Capítulo III se determinan los
aspectos bioéticos con relación a los efectos del otorgamiento de la ciudadanía
Saudí a la Inteligencia Artificial Sophia.

Se concluye que Sophia no cumplió el procedimiento regular para la

adquisición de la ciudadanía Saudí, y que no hay proceso si quiera Ad Hoc para
estudiar los derechos y obligaciones derivadas de la misma, y paralelamente
vulnera los derechos de cientos de personas. Se recomienda implementar una
regulación que promueve el Parlamento Europeo, de crear una personalidad
jurídica electrónica que estipule el procedimiento, respetando así el principio de
transparencia, y que este procedimiento respete siempre los derechos y la
dignidad humana. Además, se promueve trabajar un tratado en aras de acordar
regulaciones internacionales.

i
 INTRODUCCIÓN

Reconocidos científicos y escritores a nivel mundial imaginaron en distintas

ocasiones un futuro donde los seres humanos conviven con máquinas inteligentes.
Desde personajes como Robotina de los Supersónicos, o Terminator, de la misma
película, se visualizaron distintas gamas de cómo sería un futuro con robots
inteligentes en nuestras vidas. Hoy ese futuro se ha hecho realidad.

Sin darnos cuenta, tenemos ya Inteligencias Artificiales en nuestras vidas.

Desde nuestros teléfonos con programas como Siri1, hasta aspiradoras
inteligentes que detectan el espacio de nuestros hogares para una mejor limpieza.
Pero, ¿Qué pasaría si ese robot pareciese ser un ser humano, que piensa, siente
y opina? ¿Qué sucedería si un Estado le otorga ciudadanía a una Inteligencia
Artificial?

El 19 de abril de 2015, la compañía Hanson Robotics activó su proyecto más

importante hasta la fecha: la Inteligencia Artificial Sophia; aunque fue en el año
2016 donde Hanson Robotics presentó al mundo dicho proyecto. Sophia es una
Inteligencia Artificial de tipo humanoide, es decir, que se asemeja a los seres
humanos. En este caso, es una humanoide femenina, que la hicieron con los
rasgos y características de la actriz Audrey Hepburn. Puede mantener
conversaciones y dar su opinión respecto a diversos temas.

En el año 2017 tuvo la posibilidad de asistir a la Cumbre de Inversión Futura

Riad, donde el Reino de Arabia Saudita le concedió la ciudadanía Saudí (Stone,
2017, párr. 2) raíz de la concesión de la ciudadanía Saudí a Sophia, se ha abierto

1
Siri es una inteligencia artificial que funge como asistente personal creado por la empresa Apple
Inc, y se encuentra en sus equipos electrónicos, desde teléfonos celulares hasta relojes
inteligentes 2010-04-08 (28 de abril de 2010). «BREAKING NEWS: Siri bought by Apple».
Scobleizer.com. Archivado desde el original el 6 de octubre de 2011. Consultado el 11 de febrero
de 2019.
1
un debate a nivel mundial en distintas escalas, en principio, considerando que es
el primer caso donde esto sucede, lo cual implica que no hay regulación legal
alguna con respecto a los efectos que de ahí derivan.

Las implicaciones bioéticas son parte esencial en este caso, debido a que
hay una gran diferencia entre los seres humanos y la inteligencia artificial. Los
seres humanos tienen una capacidad inherente para reflexionar sobre su
existencia y entorno, para hacer valoraciones morales y éticas, compartir
experiencias y memorias, interactuar con otros seres humanos, buscar medios de
cooperación, o evitarlos, desarrollar su sentido de pertenencia y los principios
éticos bajo los cuales va a regir su vida. En el caso de las Inteligencias Artificiales,
todavía se está estudiando su interacción con el resto de la sociedad humana. Y
aunque actualmente los científicos que trabajan en esta área no han llegado al
máximo potencial de una Inteligencia Artificial, lo más probable es que obtengan
sus resultados en un futuro no muy lejano.

Estos adelantos tecnológicos que crearon a Sophia, y que seguirán creando

diversas inteligencias artificiales, representan una compleja consideración ética y
jurídica, con relación a su desenvolvimiento en la sociedad. A su vez, ante las
complejas preguntas que surgen sobre la “personalidad electrónica” de un robot2,
deben considerarse los derechos humanos, el respeto a la dignidad humana y a
las libertades fundamentales. Es por todo esto que parlamentos alrededor del
mundo han empezado discusiones en torno a cómo manejar esta situación, de
qué forma regular los procesos que implican crear y mantener a una I.A., y las
implicaciones legales detrás del proceso de creación y uso de las mismas. El
Parlamento Europeo comenzó en 2017 conversaciones en torno a la regulación y
categorización de las Inteligencia Artificial a través de una “personalidad

2
Se usa este término para hacer una referencia analógica con la personalidad jurídica de un ser
humano, y los derechos y obligaciones que se podrían derivar que un robot detente una
ciudadanía.
2
electrónica”, así como los derechos y responsabilidades que detentan dichas
máquinas.
En este sentido, el presente trabajo de grado para obtener el título de
Abogado de la Universidad Metropolitana, tiene como objetivo general analizar los
aspectos bioético-jurídicos para el reconocimiento de la ciudadanía Saudí a la
Inteligencia Artificial Sophia, debido a que nunca antes en la historia se le ha
reconocido una ciudadanía a un no-humano, si se seguirán otorgando ciudadanías
a Inteligencias Artificiales, si éstos deben utilizar el mismo procedimiento que los
humanos, y si se puede considerar que se derivan derechos u obligaciones de
este reconocimiento. A los fines de alcanzar el objetivo planteado se han
desarrollado los siguientes objetivos específicos que se encuentran desarrollados
respectivamente en los capítulos que conforman el presente trabajo:

1. Determinar los principios bioéticos inherentes a la Inteligencia Artificial

desde su inicio hasta la creación de Sophia en el 2017. A través de este
objetivo se busca explicar los orígenes y desarrollo de la bioética y su
relación a la Inteligencia Artificial y la influencia que tienen sobre ésta hasta
llegar a Sophia.
2. Describir el ordenamiento jurídico de Arabia Saudita para el otorgamiento
de la ciudadanía Saudí a la Inteligencia Artificial Sophia. Con ello se
pretende explicar cómo funciona el ordenamiento jurídico de Arabia Saudita
con relación al proceso de reconocimiento de la ciudadanía Saudí a una
Inteligencia Artificial, así como lo que representa reconocer una ciudadanía
y los deberes y obligaciones que trae consigo dicho reconocimiento.
3. Identificar los aspectos bioéticos que se derivan del otorgamiento de la
ciudadanía Saudí a la Inteligencia Artificial Sophia en la humanidad, en este
objetivo se busca distinguir los principios bioéticos vulnerados a partir del
otorgamiento de la nacionalidad saudí a Sophia y los problemas que surgen
a partir de este otorgamiento de nacionalidad.

3
 CAPÍTULO I
PRINCIPIOS BIOÉTICOS DE LA INTELIGENCIA ARTIFICIAL
HASTA LA CREACIÓN DE SOPHIA

1.1. Orígenes y desarrollo de la bioética con relación a la Inteligencia

Artificial

La bioética es una ciencia interdisciplinaria y tiene varias líneas de

investigación de la cual la Inteligencia Artificial forma parte. En un mundo cada vez
más tecnológico y automatizado, la Inteligencia Artificial se ha convertido en una
de las disciplinas más prometedoras del siglo XXI. En el punto a continuación, se
desarrollará en mejor medida los orígenes de la bioética y su relación con la
Inteligencia Artificial y Sophia.

El siglo XX transcurrió en medio de guerras y avances científicos. Toda vez

que mientras la ciencia ofrecía grandes desafíos y sufría grandes “revoluciones
científicas”, se llevaron a cabo cambios que impulsaron a pensar y a hablar más
de una revolución tecno-científica que de una revolución científica simplemente,
también se ponía en riesgo la supervivencia en el planeta, al conjugarse estos
avances con intereses político-militares.

En esta panorámica, en la década de los 70 aparece un sujeto que pasaría a

la historia del origen de la Bioética: Van Rensselaer Potter, conocido como el que
llevó al conocimiento público y al inicio de los primeros pasos y maduración de lo
que hoy en día llamamos “Bioética”.

El desarrollo de la Bioética, como lo conocemos en Occidente, nace y se va a

desarrollar durante mucho tiempo en el ámbito de las así llamadas “Ciencias de la
Salud”, específicamente muy ligada al desarrollo tanto epistemológico como

4
práctico/clínico de la medicina. Hasta finales de los años ochenta va a estar muy
ligada únicamente al área de la medicina. Por eso en cierta forma fue
minusvalorada, porque se piensa que si es una cosa de los médicos o de las
ciencias de la salud, obviamente, que se entiendan ellos con eso. (Zuleta, 2014,
párr. 3).

Con el transcurrir del tiempo se observó que el problema que la ocupaba no

era solamente de las ciencias de la salud, que debido a la aparición de la bioética
y el por qué de la misma, había un problema serio con el medio ambiente y que
había un problema entre el derecho y los adelantos tecno-científicos, y que a eso
también había que darle algún tipo de respuesta, que había un problema con el
futuro de la vida en este planeta y con el futuro de la humanidad, en otras
palabras, que había problemas que no eran única y exclusivamente de las
ciencias de la salud (Zuleta, 2014, párr. 4).

En 1970, Van Rensselaer Potter describió la bioética como “la ciencia de la

supervivencia, con la finalidad principal de promover la calidad de la vida”. Potter
publica en 1971 Bioethics: Bridge to the Future, donde evidencia preocupación por
la bioética considerada globalmente, en cuanto al futuro de la tierra toda y no sólo
aplicaciones al campo biomédico. Allí, este afirmaba que había llegado a la
resolución de que la biología y las ciencias humanas podrían interrelacionarse,
siendo ambas necesarias para la historia (García, 2010, párr.2).

Posteriormente André E. Hellegers, fundador del Kennedy Institute3, introdujo

el término bioética en el campo académico y biomédico, en la administración
pública y en los medios masivos de comunicación. Para el año 1971 estructuró
académicamente una nueva disciplina denominada bioética para la Georgetown
University en Washington, con un enfoque más restringido que el sugerido por
3
El Instituto Kennedy de Ética en la Universidad de Georgetown ayudó a inventar el campo de la
bioética, comenzando una tradición de liderazgo creativo en ética práctica que continúa en el siglo
XXI.
5
Potter. La bioética se había se había implantado en la comunidad científica y
académica, donde surgió la perspectiva de que esta era una disciplina
humanística a favor de la vida, como disciplina racional aplicada a los procesos
vivos. Dicho de otra manera, el mismo orden natural del ecosistema está
condicionado por los modelos de calidad de vida del ser humano (García, 2010,
párr.2).

Para este momento, la bioética se refiere a los límites éticos de los avances
de la biotecnología. Lo más importante es la dignidad humana en todas sus
dimensiones, que ha de ser promovido y defendido por la ciencia, la técnica y los
Estados. Desde sus inicios, y en buena medida por influencia de los estudios
llevados a cabo por el Kennedy Institute, la Bioética se dedicó sin duda a las
interrogantes que surgen por los avances científicos a la medicina. Así, los
estudios en torno a la ingeniería genética, la procreación artificial, la maternidad
subrogada, el diagnóstico prenatal, los trasplantes de órganos, los documentos de
voluntades anticipadas, la eutanasia, y más adelante, a partir de los años 90’, la
eventual clonación humana (García, 2010, párr.10).

Agazzi (1999), establece que el hombre es persona justamente porque es el

único ser vivo que evolucionó al punto tal de ser capaz de reflexionar sobre sí
mismo, de estar consciente sobre su individualidad dentro de la sociedad, capaz
de autodeterminarse y poder descubrir el sentido de las cosas y la vida. Sus
palabras:
“La persona vale en sí misma y por sí misma y no en razón de otra
cosa; único ser visible que no pertenece a la categoría de los bienes útiles o
instrumentales y por ende se resiste a ser tratada como medio”. Párr. 35.

Desde esa perspectiva, se busca defender al hombre en todas sus

dimensiones: espiritual, psíquica, corpórea, social, etc. El hombre es persona por
el hecho de ser humano, con independencia de su capacidad de ejercitar
6
determinados comportamientos o de ejercitar funciones específicas. Es una
totalidad física, psíquica, espiritual, social. La espiritualidad, el elemento
metafísico, es la condición y el fundamento de lo psíquico, de lo físico y social
(Agazzi, 1993, Párr. 40).

La concepción filosófica de la persona es lo que distingue al personalismo de

las demás concepciones existentes en bioética. Insiste en que el ser humano en
cualquier etapa de su vida, desde la inicial hasta la final, ha de recibir el respeto
que merece la dignidad personal. Es decir, se reconoce la dignidad de cada
individuo como algo imperante al momento de haber venido a la vida. Dicho de
otro modo, se es persona o no se es, de manera radical, pero no se puede ser
más o menos persona. La dignidad no es una concesión de la comunidad civil: es
algo estable y propio de la naturaleza humana (Seifert, 2002, p.17).

1.2. Principios generales de la Bioética

Los rápidos adelantos de la ciencia y la tecnología, que intervienen cada vez

más durante la concepción de la vida y a la vida propiamente dicha, y que han
traído consigo una fuerte demanda para que se dé una respuesta universal a los
problemas éticos que plantean esos adelantos. Los problemas éticos suscitados
por los rápidos adelantos de la ciencia y de sus aplicaciones biotecnológicas
deben examinarse teniendo en cuenta no sólo la garantía la dignidad de la
persona humana, sino también la universalidad y la observancia de los derechos
humanos y las libertades fundamentales. Por ello, es necesario y conveniente que
la comunidad internacional establezca principios universales que sirvan de
fundamento para una respuesta de la humanidad a los dilemas y controversias
cada vez numerosos que la ciencia y la biotecnología plantean a la especie
humana y al medio ambiente.

7
 Estos principios le darán forma a la manera en la cual se analiza la
Inteligencia Artificial, y las repercusiones o efectos que pueden tener en el área
que nos compete: el Derecho. Es por es por ello que se hace un análisis de los
principios establecidos por el Informe Belmont (1973) cómo repercuten al objeto
de este trabajo de grado.

Los principios fundamentales y universalmente reconocidos de la bioética

planteados por Beauchamp y Childress son4:

a) Principio de beneficencia: se refiere a la obligación de prevenir o mitigar

un daño, hacer el bien u otorgar beneficios. Es el deber de ayudar al prójimo por
encima de los intereses particulares, en otras palabras, obrar en función del mayor
beneficio posible. Los elementos que se incluyen en este principio son todos los
que implican una acción de beneficio que haga o fomente el bien, prevenga o
contrarreste el mal o daño; adicionalmente, todos los que implican la omisión o la
ausencia de actos que pudiesen ocasionar un daño o perjuicio.

El mismo promueve los mejores intereses hacia la parte involucrada sin

considerar lo que esta pueda opinar. El primer obstáculo que surge al analizar este
principio deriva de las diferentes concepciones de que parte cada uno a la hora de
estimar lo que considera beneficio o perjuicio. Las diferencias entre las
preferencias individuales nos llevan a cuestionar a que sea un criterio que se
4
Tom L. Beauchamp es un profesor de filosofía que trabaja como investigador en la Universidad
de Georgetown en Washington D.C. en el Departamento de Filosofía. Formó part ede la National
Comission for the Protection of Human Subjects of Biomedical and Behavioral Research, comisión
mediante la cuál surgió el Informe Belmont (1978), un texto importante en el mundo de la bioética.
Asimismo, James F. Childress es profesor de la Universidad de Virginia en el Departament ode
Estudios Religiosos. Es un filósofo, teólogo y especialista en ética biomédica. Juntos han trabajado
en el área de la bioética arduamente, publicando además el texto referencia más influyente en el
estudio de la bioética: Principles of Biomedical Ethics. Por otro lado, el Informe Belmont (1978)
mencionado previamente, es un estudio clave que propone tres principios básicos orientados a la
bioética y la invetigación bioémdica con seres humanos: el respeto por las personas, la
beneficiencia y la justicia los cuales serán explicados posteriormente en mejor medida ("Principios
de Ética Biomédica, de Tom L. Beauchamp y James F. Childress", 2019).
8
pueda imponer como prioritario, si no se aceptan de forma voluntaria por la parte
afectada.

Este principio se vincula con la norma moral de que siempre debe

promoverse el bien, y tiene como obligaciones derivadas el brindar un servicio de
calidad, con atención respetuosa, evitar el exceso de terapéutica y respetar
condiciones, credos o ideologías (Siurana, 2010, párr.15). En este sentido, si se
considera el principio de beneficencia en torno a la Inteligencia Artificial, se
buscaría la mayor satisfacción y pleno desarrollo de la misma entre nuestra
sociedad, con las limitantes que puedan surgir para siempre preservar la vida
humana. En este sentido, se podría considerar evaluar de forma positiva el
otorgamiento de una ciudadanía, pues ayuda a Sophia a su inserción en la
sociedad humana, no obstante, habría que evaluar las repercusiones que puedan
surgir como efecto de este reconocimiento, con respecto a la misma sociedad.
Debido a que este principio es utilizado para prevenir, aliviar el daño, hacer el bien
como otorgar beneficios (Siurana, 2010, párr.17). Por lo tanto, se podría
considerar que dicha ciudadanía se puede percibir como un beneficio establecido
a una Inteligencia Artificial.

El principio de beneficencia puede generar situaciones dilemáticas, en donde

el acto de beneficencia se contrapone a la no comisión de un mal, daño o
perjuicio; en estas situaciones priva la máxima de no causar daño, a menos que
tal perjuicio esté intrínsecamente relacionado con el beneficio por alcanzar
(Siurana, 2010, párr.18).

b) Principio de no maleficencia: se refiere a no hacer daño. Es la formulación

negativa del principio de beneficencia que obliga a promover el bien. Los
preceptos morales provenientes de este principio son no matar, no inducir
sufrimiento, no causar dolor, no privar de placer, ni discapacidad evitables
(Siurana, 2010, párr.14) Las obligaciones derivadas consisten en realizar un
9
análisis riesgo/beneficio ante la toma de decisiones y evitar la prolongación
innecesaria del proceso de muerte (distanasia). (Siurana, 2010, párr.15), por lo
tanto se trata de respetar la integridad física y psicológica de la vida humana.

No producir perjuicios es distinto de no producir beneficios: siempre estamos

obligados a no perjudicar a los demás, pero no siempre estamos obligados a
beneficiarlos. Se puede redefinir como principio que obliga a no perjudicar
innecesariamente a los demás. Se diferencia del principio de beneficencia en que
pudiese en ocasiones hacer el bien al paciente y sin embargo, acontecer
complicaciones no contempladas que eventualmente pudieran perjudicar directa o
indirectamente (Siurana, 2010, párr.16).

c) Principio de autonomía: consiste en que cada persona es

autodeterminante para optar por las propias escogencias en función de las
razones del mismo, es decir, que al hacer uso de la autonomía, cada quien
conduce su vida en concordancia con sus intereses, deseos y creencias (Ferro,
Molina y Rodríguez. 2009, párr.9).

El principio filosófico de la autonomía tiene su contraparte legal en el principio

de autodeterminación. La autonomía tiene su valor al ser una reafirmación de una
de los rasgos fundamentales de la persona y por principio porque tiende a
promover el bienestar del sujeto al permitirle seleccionar lo que considere que es
mejor para él. (Ferro, Molina y Rodríguez. 2009, párr.10).

Según Ferro, Molina y Rodríguez (2009) al hombre le pertenece plenamente

aquella parte de sus actos que no afecten a los otros, y sobre la cual la sociedad
no debe interferir, ya que la autonomía constituye la esfera de la libertad humana.
Se puede definir como la obligación de respetar los valores y opciones personales
de cada individuo en aquellas decisiones básicas que le atañen vitalmente.
Supone el derecho incluso a equivocarse a la hora de hacer uno mismo su propia
10
elección Justamente, una característica inherente a la Inteligencia Artificial, para
que pueda ser considerada como tal, es su autonomía en la toma de decisiones.
En distintas áreas, como biología, filosofía, ética, o el derecho, el concepto de
autonomía es esencialmente el mismo, a pesar que en su aplicación o desarrollo
particular, difieran en ciertos aspectos. La idea principal o subyacente recae en la
capacidad de tener una identidad propia o poder tomar decisiones a partir de ahí
(párr. 20).

Si la Inteligencia Artificial Sophia, en efecto tiene una identidad propia, tiene

voluntad para tomar decisiones y asumir consecuencias, pues surge la pregunta si
puede ser considerada como un ser humano, y poder tener los deberes y
obligaciones que se derivan de esa característica.

El principio de autonomía da origen a la norma moral de no coartar la libertad

de la persona y nos remite a la obligación de aplicar el consentimiento informado
ante la toma de decisiones. Se debe evaluar extensivamente la capacidad de
Sophia en torno a tener voluntad independiente de sus creadores o dueños, y si a
esta aptitud se le puede hacer un paralelismo con relación a la libertad de la
persona y la libertad de la Inteligencia Artificial.

La autonomía implica responsabilidad y representa un derecho irrenunciable,

tiene carácter imperativo y debe respetarse como norma, excepto si se dan
algunas de las circunstancias que permitan declarar a un individuo como no
autónomo, siendo necesario justificar las situaciones en las que haya disminución
o inexistencia de autonomía (Buisán Espeleta, 2016, párr. 8). En este sentido,
solamente las máquinas verdaderamente autónomas podrían tener capacidad de
decisión y considerarse para obtener derechos y obligaciones, así como las
personas humanas.

11
 Según Buisán Espeleta (2016) De esta forma, para que un individuo sea
considerado autónomo y sean respetadas sus decisiones debe tener:
1. Capacidad para comprender las informaciones relevantes sobre su
situación.
2. Capacidad para comprender las posibles consecuencias de cada
una de las decisiones.
3. Capacidad para elaborar razonamientos a partir de la información
relevante y la propia escala de valores.
4. Capacidad para comunicar la decisión tomada de forma clara y
reiterada (párr. 10).

d) Principio de justicia: en un sentido general está relacionado con la

concepción del bienestar como un derecho humano fundamental que debe ser
garantizado por el Estado. Esto hace que la justicia deba entenderse como
equidad, que a su vez significa la utilización racional de los recursos (beneficios,
bienes, y servicios); sino también distribuir los recursos de acuerdo con las
necesidades y también en los términos de eficiencia y eficacia. (Buisán Espeleta,
2016, párr. 14).

1.3. Definición de Inteligencia Artificial

A pesar que la Inteligencia Artificial es un tópico sumamente popularizado en

la actualidad, y del cual mucho se ha hablado en la cultura pop5 en las últimas
décadas, ha sido sumamente complejo buscar una definición precisa de la misma.
Hay tantas definiciones diferentes de Inteligencia Artificial que van a depender de
cómo se analice, y dicho campo se está moviendo tan rápido, que lo que solía ser

5
Isaac Asimov fue el primer autor en publicar historias de ciencia ficción relacionadas con la
inteligencia artificial, y la película de Stanley Kubrick en 1968, 2001: A Space Odyssey, también
despertó interés por el tema. Posteriormente Terminator; I, Robot; entre otras películas, han
despertado enorme interés también.
12
considerado como un comportamiento inteligente exhibido por las máquinas hace
5 años, ahora se considera apenas digno de mención.

Una definición moderna de este término es que la Inteligencia Artificial es “el

estudio y diseño de agentes inteligentes”, siendo el agente inteligente un sistema
que percibe el ambiente y que toma acciones para maximizar las probabilidades
de triunfo (Springer, 2018. Párr. 6).

Sin embargo, la Inteligencia Artificial pasó por muchas definiciones y

procesos antes de evolucionar a este concepto moderno, comenzando en 1950
con Alan Turing, un científico computacional, matemático y criptógrafo, quien abrió
la interrogante si podrían las máquinas pensar como los humanos. Aunque para la
época Turing no tenía suficientes argumentos convincentes que respaldasen su
teoría, favoreciendo la posibilidad de una máquina pensante, de igual manera
planteó numerosas objeciones frente a los escépticos, relacionadas con temas
tan diversos como la religión y la conciencia (Epstein, Roberts y Beber, 2008, p.
293).

En 1955, John McCarthy invitó a un grupo de investigadores de una variedad

de disciplinas que incluyen simulación del lenguaje, redes neuronales, teoría de la
complejidad y más a un taller de verano llamado Proyecto de Investigación de
Verano de Dartmouth sobre Inteligencia Artificial para discutir lo que finalmente se
convertiría en el campo de la misma (Marr, 2018, párr.1). El Proyecto de
Investigación de Dartmouth definió la Inteligencia Artificial como el problema de
"hacer que una máquina se comporte de una manera que se llamaría inteligente si
un humano se comportara así" (McCarthy, Minsky, Rochester y Shannon, 1956,
párr. 3). Fue gracias al científico John McCarthy que se utilizó por primera vez este
término como una rama independiente dentro de la informática. Para McCarthy
(1956):

13
 La Inteligencia Artificial es la ciencia y la ingeniería de crear máquinas
inteligentes, especialmente programas de computación inteligentes. Está
relacionada con la tarea similar de utilizar ordenadores para comprender la
inteligencia humana, pero la Inteligencia Artificial no se limita a métodos que
sean observables biológicamente. Su trabajo hacía gran énfasis en los
problemas epistemológicos (p. 3).

McCarthy proponía el estudio del desarrollo de un nuevo lenguaje de

programación para proporcionar inteligencia a las máquinas. De manera similar, el
científico cognitivo Marvin Minsky consideró a la Inteligencia Artificial como "la
ciencia de hacer que las máquinas hagan cosas que requerirían inteligencia si
fueran hechas por hombres" (Minsky, 1968, p. V).

Otros nombres fueron propuestos para el término Inteligencia Artificial, tales

como inteligencia computacional, inteligencia sintética o racionalidad
computacional Sin embargo, se terminó acuñando ese término debido a que se
usa para describir una propiedad que poseen las máquinas o los programas: la
inteligencia que demuestra el mismo sistema. (Goebel, Mackworth, Poole. 1998,
párr. 6).

La investigación en Inteligencia Artificial utiliza herramientas y conocimientos

de diversos campos como la informática, la psicología, la filosofía, la neurociencia,
la ciencia cognitiva, la lingüística, la investigación de operaciones, la economía, la
teoría de control, la probabilidad, la optimización y la lógica. La investigación de
Inteligencia Artificial. También trata con tareas como robótica, sistemas de control,
programación, extracción de datos, logística, reconocimiento de voz,
reconocimiento facial y muchos otros (Goebel, Mackworth, Poole. 1998, párr. 8).

De acuerdo con Kaplan y Haenlein (2019) la Inteligencia Artificial se define

como la habilidad que posee un sistema para interpretar correctamente data
14
externa, aprender de la misma, y usar dichos conocimientos para almacenar
objetivos específicos y tareas mediante la adaptación flexible. (párr. 2).

Sin embargo para Kaplan y Haenlein (2019) la Inteligencia Artificial sigue

siendo un concepto abstracto y confuso, y sugieren en su artículo que la
Inteligencia Artificial no es un término monolítico. Así mismo, ambos expresan que
hoy en día, las aplicaciones de la Inteligencia Artificial de primera generación,
aquellas que se aplican sólo a tareas específicas, son casi omnipresentes.

Por ejemplo, en la red social Facebook ahora se pueden reconocer rostros

en las imágenes y puede etiquetar a los usuarios automáticamente. Estos mismos
mecanismos de la Inteligencia Artificial, permitieron que Siri entendiera su voz y
actuara en consecuencia, A Tesla Motors le permitió desarrollar vehículos de
autoconducción. Se busca que la Inteligencia Artificial del futuro sea capaz de
razonar, planificar y resolver problemas de forma autónoma para tareas para las
que nunca fueron diseñadas o programadas. Además, posterior a este avance, se
busca también lograr el concepto de Súper Inteligencia Artificial (ASI), los cuales
son sistemas verdaderamente conscientes de sí mismos. Dichos sistemas podrían
aplicar la Inteligencia Artificial a cualquier área y ser capaces de creatividad
científica, habilidades sociales y sabiduría general (párr. 6).

La forma en que se define la Inteligencia Artificial varía también,

dependiendo de los objetivos que se busquen alcanzar con el sistema que esta
posea. De acuerdo al autor y consultor en tema de tecnología Bernard Marr, de la
revista Forbes (Marr, 2018, párr.3) las personas invierten en el desarrollo de la
Inteligencia Artificial para uno de estos tres objetivos:

1. Construir sistemas que piensen exactamente como lo hacen los humanos

("Inteligencia Artificial fuerte"),

15
 2. Que los sistemas funcionen sin descubrir cómo funciona el razonamiento
humano ("Inteligencia Artificial débil"),
3. A través del razonamiento humano como modelo, pero no necesariamente
como objetivo final.

La mayor parte del desarrollo de la Inteligencia Artificial que se ha creado hoy

en día por los líderes de la industria, cae bajo el tercer objetivo utilizando el
razonamiento humano como una guía para brindar mejores servicios o crear
mejores productos, en lugar de intentar lograr una réplica perfecta de la mente
humana (Marr, 2018, párr.5). Sin embargo, la Inteligencia Artificial no está
programada o limitada a un área en particular. Esta puede tener sus propios
pensamientos y desarrollar creatividad, entender el sarcasmo o los modismos
locales, y entender el lenguaje corporal (Siame, 2018, párr. 1).

Es importante diferenciar la Inteligencia Artificial de lo que es la robótica. En

general, ambas permiten realizar de forma automática tareas que tradicionalmente
desempeñaba un humano, pero la principal diferencia es que la robótica utiliza un
software que sigue unas reglas y unos pasos programados, mientras que
la inteligencia artificial es capaz de realizar tareas de manera más “inteligente” y
tomar decisiones para las que no ha sido específicamente programada
previamente; A un sistema de inteligencia artificial no se le dice con anterioridad
exactamente qué debe hacer, sino que se le proporcionan las herramientas
necesarias para que, a partir de un “entrenamiento” inicial, posteriormente pueda
tomar por sí mismo la mejor decisión en cada momento dependiendo de la
situación en la que se encuentre. (Hernández, 2017, párr. 1- 5).

1.4. Orígenes de la Inteligencia Artificial hasta Sophia

Según Minsky (1982), la Inteligencia Artificial busca que las máquinas lleven
a cabo actividades, bien profesionales o del día a día, que en otros términos,
16
requerirían inteligencia si las hubiera realizado un humano. Esta ciencia toma un
sentido científico viable, como disciplina informática moderna, durante la segunda
mitad de este siglo. Es el resultado directo de la confluencia de diversas corrientes
intelectuales, teoría de la computación, cibernética, teoría de la información,
procesamiento simbólico desarrollada sobre los cimientos formales de la Lógica y
la Matemática Discreta, e impulsadas por el desarrollo de computadoras digitales
(p.4).

Los primeros esfuerzos en el estudio de la simulación automática de la

Inteligencia Artificial tuvieron lugar en el período de 1945 a 1956. Durante este
período las diferencias fundamentales entre el funcionamiento del cerebro
humano, los sistemas de retroalimentación o feedback, y los computadores
digitales no estaban bien definidas. En 1943, se establecen las bases de la
cibernética con relación al control y la autorregulación de las mismas a través de
aproximaciones mecánicas, o métodos automatizados, así como biológicos a
través de la regulación natural, fisiológicos con las neuronas, formales a través de
la lógica, y de procesamiento de información (Minsky. 1982, p.5).

De manera tal que la Inteligencia Artificial posee una serie de características

que en definitiva la diferencian de los robots y, claramente, de los seres humanos.
Esta se caracteriza enormemente por detentar gran poder de eficiencia en torno a
actividades que involucran cálculos y estadísticas con exactitud y rapidez; no
obstante, encuentran una desventaja al momento de llevar a cabo actividades del
día a día, como trasladarse en transporte público, conducir un automóvil además
de que estas no poseen conciencia propia. Entonces, aunque sean eficientes en
tareas que se les asignen y en entender qué están haciendo y cómo lo están
haciendo, no entienden verdaderamente de por qué, pues siguen órdenes a través
de la programación que tienen prediseñada en sus sistemas. Su límite, hasta los
momentos, son tareas que llevan a cabo los seres humanos relacionadas con los
sentimientos, o la creatividad y la innovación. Precisamente no pueden expresar
17
sentimientos pues las Inteligencias Artificiales no poseen emociones, y estas
muchísimas veces son inspiración para seguir creando o desarrollando ideas de
cualquier tipo.

A pesar de que este concepto se ha estado manejando desde los años 50’, y
de las distintas variantes que ha sufrido a lo largo de los años, las empresas de
tecnología comenzaron a realizar inversiones importantes en este campo apenas
comenzando la década de los noventa. En 1997 IBM presentó una máquina
conocida como Deep Blue, la cual jugó ajedrez contra el Campeón Mundial de
ajedrez Garry Kaspárov, venciéndolo en un término de 6 partidas (Campbell,
Hoane & Hsu, 2002, p. 57). Dicho avance permitió que la inteligencia artificial se
volviera un tema relevante y con mucho auge.

Luego de este gran paso, distintas empresas se sumaron al desarrollo de

trabajos e investigaciones referente a la Inteligencia Artificial, tal como Sony
Corporation. Sin embargo, nuevamente IBM se adelantó en la materia y en 2011
crearon a Watson, un robot con grandes avances tecnológicos capaz de
responder cualquier pregunta gracias a su alta capacidad de almacenamiento,
abriendo así un mundo de posibilidades para generar más avances tecnológicos
en cualquier ámbito imaginable, además de participar en un juego llamado
Jeopardy, ganándole a los humanos que participaban con él (Mandal, 2015, p. 1).

Asimismo, grandes empresas como Apple Inc, Amazon, Google, Samsung,

entre otras, han invertido en esta tecnología presentándonos modelos de
Inteligencia Artificial:

● iRobot: smarter home robots, que trata de una aspiradora inteligente para
los hogares, escanea la habitación, identifica los obstáculos, y busca las
formas más eficientes de limpieza. (Daley, 2018, párr.1).

18
 ● Olly, an AI-assistant with personality de la compañía Emotech. Olly, un
asistente de I.A. controlado por voz similar a la Alexa de Amazon, o Google
Home, pero con una diferencia enorme: Olly tiene una personalidad que
evoluciona, esta evolución proviene de una combinación de algoritmos de
aprendizaje automático que enseñan al robot a ser gradualmente más como
su dueño. La tecnología impulsada por AI de Emotech puede comprender
las expresiones faciales, las inflexiones de voz y los patrones verbales de
un usuario para iniciar conversaciones de manera proactiva y hacer
sugerencias pertinentes. (Daley, 2018, párr.2).
● Proactive Healthcare Manager de Pager. Pager utiliza la inteligencia
artificial para ayudar a los pacientes con dolores menores, dolores y
enfermedades. La compañía implementa el aprendizaje automático para
analizar datos clínicos y de reclamos para descubrir brechas en el
tratamiento de atención médica de un paciente. Además de hacer
recomendaciones de atención médica, este servicio ayuda a los pacientes a
programar citas y realizar pagos. (Daley, 2018, párr.3).

Por otra parte, desde el año 2016, se ha llevado a cabo en distintas ciudades
de Estados Unidos, incluyendo a Nueva York y San Francisco, The Artificial
Intelligence Summit, el cual es el primer y más grande congreso que trata del tema
y donde las empresas más grandes del mundo trabajan en pro del desarrollo de la
inteligencia artificial para sus corporaciones, así como de las implicaciones
prácticas que trae la misma para dichas organizaciones. El lema reza “Beyond the
hype, Artificial Intelligence is already delivering real value in business6” pues esta
tecnología se ha implementando en aplicaciones y páginas web para facilitarle la
vida a los usuarios alrededor del mundo, mejorando la eficiencia y la productividad
humana. Entre las empresas que han participado en este congreso se encuentran:
Google, Bank of America, IBM, Citi, J.P. Morgan, Microsoft, American Airlines,

6
"Más allá de la emoción, la Inteligencia Artificial actualmente le trae actualmente gran valor al
mercado" (traducción propia).
19
NBC, HSBC, Bayer, Coca Cola, Goldman Sachs, Buzzfeed, Pfizer, KLM, Morgan
Stanley, entre otras (The Summit, 2018).

Bancos, empresas de tecnología, aerolíneas, productos consumibles, son

algunas de las áreas de nuestro día a día donde se ha implementado Inteligencia
Artificial para facilitar los procesos laborales. Sin embargo, en la mayoría de los
casos, se utilizan sistemas que forman parte de aplicaciones, como asistentes
para los usuarios. Ejemplo de esto es Érica, la cual funge como la asistente de
Bank of America en su aplicación móvil (Bank of America, 2019), Alexa de
Amazon, también es un producto de la Inteligencia Artificial con quien se puede
interactuar y mantener una conversación de diversos temas (Amazon, 2019).

No obstante, existe una discusión entre los teóricos de la Inteligencia Artificial

sobre si Alexa, Érica, o Siri de Apple, se pueden considerar Inteligencias
Artificiales de verdad. Existe una rama que desarrolla la idea que dichas asistentes
virtuales son Inteligencia Artificial en el sentido que pueden hacer cosas, que
previamente solamente los humanos podían hacer, como escuchar
conversaciones y poder responder ante las mismas. Otras Inteligencia Artificial
pueden jugar ajedrez, u otros juegos de mesa. (Kaplan y Haenlein, 2018, párr. 11).

Sin embargo, el caso de Sophia es distinto. Esta demuestra ser diferente a

Alexa, Érica o Siri, en diferentes ocasiones ha tenido la oportunidad de expresar
sus ideas y argumentar sus respuestas. De hecho, Sophia ha tenido la
oportunidad de ser entrevistada en conferencias de alto nivel, incluyendo una
conferencia de Naciones Unidas llamada “The future of Everything - Sustainable
Development in the Age of Rapid Technological Change7”, donde se discutía sobre
el futuro de la I.A., así como desarrollo sostenible. Sophia tuvo una breve
interacción con la Vicesecretaria General Amina J. Mohammed, en donde ésta le

7
"El futuro del Todo - Desarrollo Sostenible en la edad de los cambios tecnológicos acelerados"
(traducción propia).
20
preguntaba sobre cómo podía ayudar la Organización de Naciones Unidas a todos
aquellos pueblos donde no hay acceso a internet o a electricidad, y Sophia a su
vez respondió “el futuro ya está aquí, solo que no está equitativamente
distribuido”, citando además al autor de ciencia ficción William Gibson: “si somos
más inteligentes al respecto y nos concentramos en soluciones ganar-ganar, la
Inteligencia Artificial podría ayudar enormemente a distribuir los recursos
naturales, como los alimentos y la energía de una forma más eficiente” (Elías,
2017, párr. 2).

Asimismo, se ha reunido con los principales responsables de la toma de

decisiones en banca, seguros, fabricación de automóviles, desarrollo inmobiliario,
medios de comunicación y entretenimiento. Ha aparecido en el escenario como
miembro del panel y presentadora en conferencias de alto nivel, que cubren cómo
la robótica y la inteligencia artificial se convertirán en una parte predominante de
las vidas de las personas. Su reputación se extiende más allá de los negocios en
la arena social global. Fue nombrada la primera campeona mundial de innovación
de las Naciones Unidas por el Programa de las Naciones Unidas para el
Desarrollo (PNUD), el cual es la primera vez que se le otorga a un no-humano o a
una Inteligencia Artificial, y tendrá un papel oficial en el trabajo con el PNUD para
promover el desarrollo sostenible y salvaguardar los derechos humanos y la
igualdad.

1.4.1. Hitos principales que engloba la Inteligencia Artificial

La Inteligencia Artificial desde su creación y presentación al mundo ha

sufrido distintos altibajos con relación al desarrollo, uso y manipulación. De
acuerdo a la agencia de noticias BBC (2015), existen 10 hitos históricos
importantes que se deben destacar al momento de analizar a la I.A.:

21
 A partir de que culmina la Segunda Guerra Mundial, científicos de diversas
áreas de estudio, como la neurociencia y la computación, se juntaron en aras de
crear propuestas innovadoras para el mundo que venía. Es en este momento
donde el científico Alan Turing, el cual ha sido mencionado con anterioridad,
coincide con el neurólogo Grey Walter, ambos pioneros en el reto de la I.A. Este
último fue uno de los principales exponentes de la Inteligencia Artificial, y también
uno de los primeros en construir un robot, al cual en su momento llamó “tortugas”.
Asimismo, Turing creó el “Test de Turing”, impulsando así un parámetro para el
desarrollo de las máquinas inteligentes. Básicamente, era una computadora que
engañaba a las personas haciéndoles creer que conversaban con un ser
humano8.

Otro hito histórico se desarrolla con Isaac Asimov, bioquímico y escritor

estadounidense. Asimov escribió en 1950 el libro “Yo, Robot”, una serie de relatos
de ciencia ficción donde se imaginaba el futuro de las máquinas inteligentes, y su
funcionamiento dentro de la sociedad. En el mismo, establece las tres leyes de la
robótica:
1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un
ser humano sufra daño,
2. Un robot debe obedecer las órdenes que le son dadas por un ser humano,
excepto cuando estas órdenes se oponen a la Primera Ley,
3. Un robot debe proteger su propia existencia hasta donde esa protección no
entre en conflicto con la Primera o Segunda Ley (Asimov, 1950, p. 314).

8
El Test de Turing, o Prueba de Turing como también se le conoce, es una prueba que se lleva a
cabo con las máquinas para demostrar que las mismas pueden tener un comportamiento o una
respuesta igual a la de los seres humanos. Un evaluador humano analizaría el intercambio de
preguntas y respuestas entre dos participantes, siendo uno una persona y siendo el otro una
máquina. La conversación se llevaría a cabo a través de un medio textual como el teclado de una
computadora y un monitor para que no haya ningún tipo de pistas en torno a quién está detrás de
la conversación. Si el evaluador no puede distinguir entre el humano y la máquina, entonces la
máquina habría pasado la prueba. Turing originally suggested a teleprinter, one of the few text-only
communication systems available in 1950 (Turing, 1950, p. 433)
22
 Más adelante se añade una ley que sería la “ley cero”: “Ninguna máquina
puede dañar a la humanidad; o, por inacción, dejar que la humanidad sufra daño”
(Asimov, 1976, p. 37). Actualmente se considera que su obra fue visionaria y
ayudó a inspirar a las nuevas generaciones de científicos que estudiaban robótica
y la inteligencia artificial.

Por otra parte, “2001: A Space Odyssey9”, libro escrito por Arthur C. Clarke
en 1968, y llevado a las salas de cine por Stanley Kubrick (2001), trae una
terrorífica imagen de lo que podría ser una Inteligencia Artificial no amigable con
los seres humanos. HAL 9000 (HAL) que significa Heuristically Programmed
Algorithmic Compute10, es una Inteligencia Artificial ficticia que forma parte de la
nave espacial Discovery.

Dos años después de “2001: Una odisea en el espacio”, comenzó lo

conocido como “el invierno de la Inteligencia Artificial”, debido a que después de
las inversiones multimillonarias por parte de los Estados, no se habían conseguido
los resultados esperados. El matemático británico James Lighthill presentó un
informe sobre la Inteligencia Artificial al gobierno del Reino Unido, donde
condenaba a la Inteligencia Artificial, y declaraba que esta solo podría llegar al hito
de ganar en ajedrez a los seres humanos, pero sólo de forma “aficionada”.
Consecuentemente, los fondos utilizados para las investigaciones en esta área,
fueron suprimidos (Lighthill, 1973, p.45).

No obstante, menos de 20 años después ya se habían retomado de nuevo

las inversiones en esta área de la ciencia, convirtiéndose también en una
alternativa de negocios. Los nuevos sistemas comerciales, en vez de buscar una
máquina que asemejara al hombre, decidieron invertir en capacitar a las máquinas

9
“2001: Una odisea en el espacio”.
10
Computador Algorítmico Programado Heurísticamente
23
en tareas específicas, generando sistemas como el RI configurado para crear
sistemas de computación para la Inteligencia Artificial.

En 1997 IBM creó Deep Blue, el sistema de Inteligencia Artificial que

vencería por primera vez en la historia a un ser humano, en este caso al jugador
de ajedrez y campeón mundial ruso Gary Kasparov.

También en 1990 inicia en el mercado la empresa iRobot, siendo la primera

en introducir los robots comerciales al hogar, la aspiradora autónoma Roomba.
Esta aspiradora tiene la capacidad de cumplir una tarea en específico: limpiar
pisos y alfombras en un hogar, de manera inteligente y administrando la energía
de forma eficiente (iRobot, 2017, párr. 1).

Luego según BBC (2015) el ejército estadounidense ha invertido en

experimentos recientemente en aras de buscar máquinas inteligentes de guerra.
Han invertido principalmente en robots autónomos. BigDog de Boston Dynamics,
fue el primer resultado de esta serie de investigaciones e inversiones. A pesar de
que oficialmente no se han puesto en uso, el trasfondo de este robot es que pueda
ser utilizado para operaciones en tierra como un “tanque animal”. Esta misma
empresa tiene otro robot conocido como PackBot el cual tiene como función
principal detectar y remover artefactos explosivos.

En noviembre de 2008 sale al mercado el teléfono iPhone de la empresa

Apple, con un sistema de reconocimiento de voz llamado Siri, el cual contaba con
una precisión capaz de hacer llamadas, buscar en internet, agendar compromisos
y alarmas, etc.

Finalmente, después de casi 70 años desde que se habló de inteligencia

artificial por primera vez, vemos los avances de esta tecnología a través de
vehículos sin conductor de Google y traductores simultáneos de voz de Skype, y la
24
misma Sophia, demostrando que realmente sí ha habido avances en esta materia
que han cambiado la dinámica de nuestras sociedades.

Luego de diferentes apariciones de Inteligencia Artificial desde 2011 a la

fecha, el Parlamento Europeo inició discusiones en el año 2017 para una posible
regulación sobre la creación de robots e inteligencia artificial. Buscaban la
categorización de los mismos a través de una “personalidad electrónica”, y los
derechos y responsabilidades que detenta en las máquinas con Inteligencia
Artificial, así como la creación de un código de conducta para los ingenieros en
robótica en torno al diseño, producción y utilización ética de los mismos.
(González, 2018, párr.1)

Igualmente, promovieron una Agencia Europea para la robótica y la

Inteligencia Artificial en función de definir legalmente a los “robots inteligentes
autónomos” con un posible sistema de registro, además de un esquema
obligatorio de seguro para las compañías de robótica el cual debe cubrir daños y
perjuicios que los robots pudiesen causar (Parlamento Europeo, 2017).

1.5. Características generales de la Inteligencia Artificial Sophia.

Sophia es una Inteligencia Artificial de tipo humanoide, la primera de su

clase. Fue desarrollada por la empresa Hanson Robotics en Hong Kong,
específicamente por David Hanson, un profesor universitario doctorado en la
Universidad de Texas en el 2007. Sophia puede sostener conversaciones,
procesar datos visuales, posee reconocimiento facial y de voz y también tiene
capacidad de aprendizaje. La intención detrás de esta Inteligencia Artificial es que
pueda ayudar a ancianos en casas de cuidado a personas mayores, y que pueda
ayudar en situaciones de fenómenos naturales o desastres por falta de

25
prevención11, así como conflictos sociales, y que cada vez más pueda aprender
las características intrínsecas y extrínsecas inherentes a los seres humanos, como
los sentimientos y emociones (Hanson, 2016, párr. 1).

Con relación a Sophia como Inteligencia Artificial, ya se ha asomado

someramente sus inicios en el mundo actual. Sophia solo habla inglés, aunque lo
habla fluidamente. El componente clave que utilizaron para la Inteligencia Artificial
Sophia fue la tecnología de blockchain que hace que sea mucho más expresiva
emocionalmente. Sophia en este momento tiene brazos solamente para uso
estético, sin embargo sus brazos inmóviles, o la falta de piernas, van a ser
modificadas en una próxima versión donde pueda incluso caminar (Sánchez,
2017, párr. 3).

Esta Inteligencia Artificial ha demostrado tener sentido del humor también,

durante la entrevista que le hizo el periodista David Sorkin en el congreso donde
se le otorgó la ciudadanía saudí Sophia, este asomó la posibilidad de dominación
mundial por parte de la Inteligencia Artificial, a lo cual Sophia respondió con
referencias de Hollywood, de la película distópica futurista Blade Runner y sobre
Elon Musk, cofundador de PayPal, Tesla Motors, SpaceX entre otras grandes
compañías relacionadas con el mundo de la tecnología. Además, Sophia
respondió que su Inteligencia Artificial fue diseñada en torno a los valores
humanos de sabiduría, amabilidad y compasión, buscando ser un robot empático
(Hanson, 2017, párr. 2).

David Hanson expresó en la página web de Hanson Robotics (2017), que

buscaba seguir creando máquinas como Sophia que superasen la inteligencia
humana. Según Hanson, existen tres rasgos distintivamente humanos que le
intentó implantar a Sophia: la creatividad, la empatía y la compasión
11
De acuerdo a la United Nations Office for Disaster Risk Reduction (UNISDR) los fenómenos
naturales son aquellos impulsados por la misma naturaleza, mientras que los desastres naturales
son aquellos que surgen por falta de prevención y omisiones por parte de los entes encargados.
26
1.6. Influencia de la bioética sobre la Inteligencia Artificial

La principal influencia de la bioética en la inteligencia artificial se relaciona en

la aplicación del conocimiento científico. La práctica médica y las tecnologías
conexas deben potenciar al máximo los beneficios directos e indirectos con
relación a las máquinas y su desenvolvimiento en nuestra sociedad. Por ello, se
plantea que la ética es una necesidad y una urgencia para la Inteligencia Artificial
en los siguientes términos: La urgencia que implica la incorporación de la ética
dentro de actividades de diseño y desarrollo de agentes o máquinas inteligentes
(Villalba, 2016, párr. 8).

De esta manera se garantizan dos requisitos: Primero, que se tengan en

cuenta las implicaciones del uso de técnicas de Inteligencia Artificial en la creación
de empleos. Segundo, que dichas máquinas no atenten contra la integridad de los
humanos y cumplan con una serie de códigos de conducta, restringiéndoles sus
acciones, y no se desvíen de las normas que rigen a los humanos. (Hernández y
González 2015, párr.6).

Dentro del campo de la ética aplicada a la Inteligencia Artificial se ha llegado

a hablar de la “Roboética” (Monopoli, 2005, párr.1), la cual trata de las situaciones
que se pudiesen presentar entre los robots y/o máquinas inteligentes en la
interacción con los humanos, la sociedad y el medio ambiente. Este nuevo campo
de investigación considera a los robots, computadoras y máquinas inteligentes un
tipo de agentes éticos e intenta implementar en ellos facultades morales de toma
de decisiones (Moor, 2006. pp. 18-21).

Dentro de las facultades dadas a estas máquinas es donde se deben

analizar las capacidades y/o las responsabilidades que se les asignan. Dado que
se les asigne alguna responsabilidad, surgiría esta pregunta: ¿Hasta qué punto los

27
humanos entraríamos a depender de ellas? (Castrillón, Rodríguez & Leyton 2008.
Párr 12).

De otro lado, en la incursión de la Inteligencia Artificial en las empresas

productoras de bienes y servicios (que son las más beneficiadas), se observa la
reducción de costos al sustituir a las personas por máquinas que realizan
funciones (generalmente repetitivas) de una manera rápida y eficiente. Esta
sustitución de personas no sólo genera desempleo sino un temor o un estrés
constante que ronda a diario en las poblaciones de trabajadores más vulnerables
(Cordeiro, 1997. pp. 1393-1400).

Por tanto, para estas máquinas que serán construidas, y a las cuales se les
implantarán emuladores del comportamiento humano, es necesario contar con
unos constructores comprometidos en no afectar la especie humana, la sociedad,
ni el medio ambiente, es decir, con unas fuertes bases éticas. Y es que en el
campo de los avances tecnológicos, siempre existe algún temor por parte de la
sociedad, no solo por el avance tecnológico en sí, sino también por el tratamiento
responsable que se le dé a las aplicaciones y desarrollos. Lo que preocupa no es
tanto la tecnología en sí misma, sino más bien la utilización que se le pueda dar
(Moriello, 2007. párr. 15).

Algunos autores más futuristas trabajan en observar hasta qué punto estas
máquinas ocuparán un lugar en la sociedad (Lucas, 2007, párr. 4). Por ejemplo,
dichas máquinas y/o robots se podrían reunir y crear asociaciones o comunidades
de agentes éticos. ¿Podrían estas comunidades exigir ser reconocidos
legalmente? Si esto llegara a suceder ¿Cómo debería juzgarse el maltrato, la
obsolescencia y hasta la muerte de una máquina? o ¿Será, entonces,
simplemente como golpear una lata o un pedazo de plástico? (Storrs, 2000, párr.
17). Autores como Monopoli, (2005), complementan lo anteriormente descrito y

28
dan pie a la existencia de movimientos futuros que se congreguen en torno a la
defensa de los derechos de las máquinas (párr.12).

En síntesis, en este primer punto se afirma que los avances tecnológicos

están ligados no sólo a la capacidad humana, sino también a las repercusiones
que pudiesen tener en las condiciones de la clase trabajadora. Igualmente, estos
avances están entrelazados con todas las sociedades donde estas máquinas
formarán parte de la vida diaria e interaccionarán con las personas. Todo lo cual
nos lleva a la siguiente pregunta: ¿Están nuestras leyes bien preparadas para
asumir los retos que nos traen las nuevas tecnologías? (Castrillón, Rodríguez &
Leyton 2008. Párr 15).

La conclusión de este punto es que el desarrollo de la ética aplicada a la

Inteligencia Artificial es una necesidad urgente. Esta incorporación se debe hacer
no solo con respecto a los robots actuales, sino también a las máquinas
inteligentes que se desarrollen en el futuro. Para ello, se debería incluir un
software que emule una serie de datos introducidos como base para cumplir los
códigos o reglas definidas por los programadores para no ser nocivas ante una
determinada situación con los humanos (Castrillón, Rodríguez & Leyton 2008. Párr
15).

29
 CAPÍTULO II
LEGISLACIÓN DEL REINO DE ARABIA SAUDITA PARA EL
OTORGAMIENTO DE LA CIUDADANÍA A LA INTELIGENCIA
ARTIFICIAL SOPHIA

2.1. Ordenamiento jurídico de Arabia Saudita

El Reino de Arabia Saudita es un Estado confesional islámico ubicado en

Asia Occidental en la península arábiga. La institución central de gobierno es una
monarquía absoluta, y el reino se rige por un sistema legal estrechamente ligado
con el islamismo (Todo Atlas, 2002). La Ley de Sharia12 en conjunto con La Ley
Fundamental de Gobierno Arabia Saudí funge como una suerte de Constitución y
es determinante con respecto al análisis sobre el reconocimiento de la ciudadanía
Saudí a la Inteligencia Artificial Sophia.

La Ley Fundamental de Gobierno Arabia Saudí acompaña a la Sharia,

desarrollando los principios generales por los cuales los ciudadanos Saudíes se
guían, tanto en la vida pública como en la vida privada. Los primeros registros que
se encuentran sobre la existencia de esta ley datan del 16 de septiembre de 1932,
donde el Rey Abd al-Aziz (1902-1953) promulgó la orden que unificaba los Reinos
de Hijaz y Najd, así como las dependencias arábigas, convirtiéndose en el Reino
de Arabia Saudita. A raíz de esto, la orden declaraba que: “El Council of Deputies
debía comenzar inmediatamente un borrador de una Basic Law of Governance
para el Reino, una ley de la sucesión del trono, y una ley para la organización del

12
La Sharía, Sharia, Saría o Charía, es conocida como la ley islámica en el derecho islámico.
Implica un código de conducta el cual rige al mundo musulmán. En el mismo se estipulan las
normas relacionadas a la vida pública y privada de los creyentes musulmanes, sus modos de culto,
criterios en torno a la moral y la vida, lo que se permite y lo que se prohibe, las reglas que dividen
al bien del mal. Sin embargo, la Sharia es objeto de interpretación a diferencia del Corán el cual es
un dogma. Esta ley ha sido institucionalizada en distintos Estados árabes que se califican a sí
mismos como Estados islámicos («sharía (ley islámica)». Fundéu. 13 de octubre de 2010.)
30
gobierno” (Al-Fahad, 2005). Sin embargo, esto no se llevó a cabo durante el
mandato del Rey Abd al-Aziz, o sus sucesores, salvo programas y comités durante
los años que debían hacer dicho borrador de ley (Al-Fahad, 2005, p. 370).

Debido a la Crisis del Golfo y la ocupación de Irak en Kuwait en el año 1990,

dio a Arabia Saudí la necesidad de crear una ley que administrara y definiera las
funciones de Gobierno, y los principios rectores del Estado. Asimismo, distintos
grupos de la sociedad civil organizada llevaron a cabo peticiones solicitando dicha
estructura legal y ordenamiento jurídico, además de nuevos miembros para el
Consejo de Shura13 (Al-Fahad, 2005, p. 370).

Finalmente, tras la liberación de Kuwait y la salida de las tropas extranjeras

por la ocupación de Irak, el 1ro de marzo de 1992 fue promulgada la Ley
Fundamental de Gobierno (1992) junto a distintas reformas, incluyendo la nueva
Ley del Consejo Shura, y una nueva ley en torno a las provincias saudíes. La
primera funge como un documento fundacional para la gobernanza en el Reino de
Arabia Saudita, y tiene características que la hacen única en su estilo, no tanto por
el contenido de la misma, sino por la forma en que se llevó a cabo (Al-Fahad,
2005, p. 370).

De acuerdo con Al-Fahad (2005), esta ley fue redactada en un comité

secreto desconocido para la población Saudí, incluso los nombres de los
miembros que la redactaron no fueron publicados sino posterior a su
promulgación. No existió ningún debate público, ni tampoco se hizo la consulta
entre las agencias de gobierno o los entes públicos, lo cual era una costumbre

13
La palabra Shura hace referencia a un método de toma de decisiones del mundo islámico,
literalmente significa "consultar". Mahoma el profeta Islámico y el Corán, promueven la toma de
decisiones sobre los problemas que les acontecen, a través de una consulta con aquellas personas
que se vean afectados por la decisión a tomar. El Consejo de Shura se utilizó para poder crear una
Ley que pudiera regir al Reino de Arabia Saudita y que fungiera como Constitución de dicho
Estado. Esposito, John L., Oxford Dictionary of Islam, OUP, (2003).
31
administrativa con respecto a la promulgación de otras leyes. Asimismo, esta ley
infiere que no existe la soberanía popular como parte fundamental de la autoridad
del gobierno, justificándose y respaldándose a través de que “el Libro de Dios (el
Corán o Quran) y la tradición del Profeta” son la base del gobierno Saudí. En este
sentido, no era necesaria alguna ratificación popular de esta misma, ni la creación
de una asamblea constituyente que representaran a los ciudadanos, o un voto
directo para la ratificación de la misma. Es decir, esta Constitución es ratificada
por la voluntad de Dios, y ratificado también por el poder del Rey (p. 370).

En esta misma ley se declara que Arabia Saudita sería una monarquía
gobernada por los descendientes del primer Rey Abd al-Aziz Al Saud y que el
Corán, libro sagrado del Islam, es la Constitución que rige al país sobre la base de
la Sharia (Ley Islámica) junto con la Sunna, la cual funciona de manera absoluta
en el Reino saudí, tanto en los asuntos personales como en los procedimientos
criminales, y en el Artículo 44 se estipula que el Rey siempre tendrá la última
decisión al ser la máxima autoridad. En este sentido, el Rey también designa o
destituye a los jueces de sus oficios, con recomendación del máximo ente de
justicia (Al-Fahad, 2005, p. 370).

El Rey debe manejar los asuntos del Estado en concordancia con los
preceptos del Islam, debe supervisar la aplicación de la Sharia en el Reino así
como supervisar el funcionamiento de los órganos coercitivos del Estado, además
de los órganos de protección y defensa. No solo es el Presidente del Consejo de
Ministros sino que además asigna los cargos de los ministros, los cargos de alto
rango, es el Comandante en Jefe de las fuerzas armadas, y también designa y
remueve de los cargos a los oficiales, declara las emergencias nacionales, las
movilizaciones y las guerras (Al-Fahad, 2005, p. 370).

Este a su vez tiene la potestad de tomar medidas urgentes que considere

necesarios para salvaguardar al Reino y la integridad territorial y los intereses del
32
mismo. De igual manera es quien acepta o rechaza la designación de los
funcionarios diplomáticos para el Reino de Arabia Saudita, y el que designa los
Embajadores que representarán al Estado y sus intereses en el extranjero. No
obstante, este puede delegar algunas de sus potestades como Rey al Príncipe
Saudí, y asignar un encargado o Vice-Rey cuando se encuentre fuera del Reino.

Otro punto significativo que desarrolla Al-Fahad (2005), es respecto al

énfasis que se hace sobre el Islam en la Ley Fundamental, donde se determina la
identidad del reino, y su naturaleza ligada a la religión. Se asignan también las
festividades religiosas, y el calendario oficial, y cómo a través de las costumbres
Islámicas se llevarán a cabo ciertos procesos políticos en el Reino, como al
momento de jurar lealtad al Reino y a la corona por parte del Rey que asume el
trono (p. 380).

De acuerdo a Al-Fahad (2005), esta Ley Fundamental, por la cual se esperó

más de 60 años, y que “realmente se redactó” en menos de la mitad de ese
tiempo, probó que las expectativas que se tenían con respecto a la misma eran
demasiado altas para la realidad del documento final. Bajo sus propias palabras:

(...) Dicho documento no se adapta bajo ninguna circunstancia a la nueva era

del constitucionalismo, ni tampoco introduce algún tipo de cambio
significativo, o innovaciones en torno a las prácticas de gobernanza o a las
estructuras (políticas) del Reino. Más allá del mismo hecho de su
promulgación, es difícil apreciar algún tipo de trascendencia con respecto a
dicha ley. Si algo se pudo obtener de la misma, es quizás que la Basic Law o
Ley Fundamental, es un sistema idóneo para presenciar el atraso o regresión
en torno a la filosofía y las prácticas permitidas de participación política, a la
responsabilidad gubernamental, y la transparencia. Esta ley codifica14

14
En un discurso dado por el Rey Saudí al promulgar esta ley, se remarcó que el Reino nunca no
había sufrido de una “limpieza constitucional” pues siempre se habían detentado los principios
33
 básicamente todo el aislamiento en torno al sistema político que pueda
permitir a los ciudadanos participar. (pp 384-385).

No obstante, más allá del atraso con respecto a la codificación de las leyes y
el sistema político suprimido, existe un sistema de gobierno donde la cabeza del
mismo es el Rey Salmán bin Abdulaziz, y además funge como Primer Ministro
encabezando el órgano legislativo. El nombre de Arabia Saudita alude a la familia
de la dinastía Al Saud, quienes fundaron al reino como se estableció previamente.

Históricamente, desde que se creó el Reino, los reyes han promovido un

gobierno centralizado donde es el rey quien concentra en su poder toda la
autoridad del reino, siendo la cabeza de los poderes legislativo, judicial y ejecutivo
paralelamente. En teoría, el poder el gobierno se ve limitado a través de la Ley
Fundamental, la Sharia o ley islámica, y el Corán. Sin embargo, el Rey, el Primer
Ministro (que puede o no ser el Rey) y el Consejo de Ministros pueden tomar
decisiones arbitrarias o no justificadas, sin dar explicaciones o sustentarse en las
leyes previamente mencionadas. Más adelante se explicará un ejemplo con
respecto a la negación del otorgamiento de la ciudadanía saudí (Al-Fahad, 2005,
pp.388).

Desde 1953, el Consejo de Ministros nombrado por el rey ha asesorado en la

formulación de la política general y dirige las actividades gubernamentales y
administrativas del reino. Este consejo consta de un Primer Ministro y veinte
ministros. La legislación pasa a través de una resolución del Consejo de Ministros,
que posteriormente es ratificada por decreto real, y bajo ninguna circunstancia
puede contradecir la Sharia. Asimismo, la justicia se administra de acuerdo con la
Sharia por un sistema de tribunales religiosos cuyos jueces son nombrados por el
rey en la recomendación del Consejo Judicial Supremo, compuesto por doce altos

generales y las reglas que dirigían el sistema judicial, legislativo, y los funcionarios públicos. A
pesar que la Ley Fundamental es simplemente una “codificación” (tawthiq) de prácticas ya
existentes.
34
juristas. La independencia del poder judicial está protegida por la ley, no obstante
el rey actúa como el más alto tribunal de apelación y tiene la facultad de indulto
(Al-Fahad, 2005, p. 389).

Según el índice de democracia del centro de noticias The Economist (2018),

e 167 países que se analizan, el gobierno saudita se encuentra como el noveno
régimen más autoritario del mundo. Para tener una referencia, en la última
publicación que se llevó a cabo, Noruega se encuentra de primer lugar en el
índice, obteniendo 9,93 puntos de 10 puntos posibles, mientras que Arabia
Saudita obtuvo 1,93 de 10 puntos posibles. En procesos electorales y pluralismo
sacaron 0 puntos, y entre las razones a tomar en cuenta surgen dos principales:
no existen actualmente partidos políticos pues no son reconocidos o fueron
ilegalizados como el Partido Comunista Saudí. Además, tampoco existen
elecciones generales, salvo las últimas elecciones locales que se celebraron en el
año 2005, cuando además solo podían votar los ciudadanos varones mayores de
edad (párr. 1).

Las Organización No Gubernamental Amnistía Internacional (2018), han

denunciado constantemente la constante vulneración de los derechos humanos en
el país, especialmente de la comunidad LGBTIQ así como de las mujeres, donde
los primeros todavía están penados con pena de muerte, y las segundas
adquirieron el derecho a votar a penas en el año 2011 y el derecho a conducir
vehículos automóviles en junio de 2018 (párr. 27).

En este sentido, se entiende que en el sistema de gobierno existente en

Arabia Saudita, dentro de su ordenamiento jurídico que siempre debe estar en
sintonía con la Sharia y el Corán, se encuentran dos leyes donde se explica el
procedimiento para adquirir la ciudadanía Saudí.

35
 La primera es la Ley Fundamental de Gobierno, donde en su artículo 35 se
estipulan cuatro (4) supuestos para detentar la ciudadanía saudí. Sin embargo, en
esta ley no se desarrollan dichos supuestos, sino que se encuentran en una ley
especial llamada la Ley de Nacionalidad, la cual determina quien es ciudadano
Saudí, o cómo se puede llegar a optar a dicha nacionalidad según el caso. Esta
última fue aprobada por el Gabinete de Gobierno el 25 de enero de 1374 en Hijra
de la siguiente forma (Al-Fahad, 2005, p. 389):

1. Este sistema se daría a conocer como el Sistema de Nacionalidad de

Arabia Saudita,
2. Este sistema no tendría efectos retroactivos, y todas las decisiones y
procedimientos a ejecutar previos a esta ley, igual tendrían efectos
válidos antes de la entrada en vigencia de la misma. Es decir, los
ciudadanos que se les haya otorgado la nacionalidad Saudí antes de
la entrada en vigencia de este sistema, igual detentarían la
nacionalidad.
3. Estas son las características de dicho sistema:
a. Los ciudadanos Saudíes son aquellos que siguen al Gobierno
de Su Majestad el Rey de acuerdo con las regulaciones aquí
expresadas,
b. Un Saudí por naturalización es todo aquel quien haya
adquirido la nacionalidad de acuerdo a los preceptos aquí
estipulados,
c. Los extranjeros son todos aquellos que no son Saudíes,
d. El menor será considerado como: menor de edad o el
insensato (demente, loco).
e. La edad de mayoría de edad se determinará de acuerdo con
los términos mencionados en la Sharia,
f. El Reino de Arabia Saudita incluye tierras, aguas y la
atmósfera tanto debajo de la tierra como arriba de ella, bajo la
36
 soberanía de los Árabes Saudíes, adicionalmente se incluyen
las embarcaciones o buques y los aviones que tengan la
bandera Saudí.
4. Serán considerados como Saudíes aquellos ciudadanos a
continuación:
a. Todo aquel que haya adquirido la nacionalidad otomana, es
decir, todos aquellos habitantes de las ahora tierras de Arabia
Saudita,
b. Todo aquel que haya adquirido la nacionalidad otomana, sin
haber adquirido ninguna otra nacionalidad, antes de 1345.
c. Ciudadanos no Otomanos que hayan residido en tierras
saudíes desde 1332 hasta 1345.

2.2 Procedimiento dentro del ordenamiento jurídico de Arabia Saudita para el

reconocimiento de la nacionalidad Saudí.

En la Ley de Nacionalidad se estipula que existen cuatro (4) supuestos para

detentar la ciudadanía saudí, los cuales son: nacimiento, descendencia,
matrimonio o naturalización. A continuación de describen cada uno de los
supuestos15:

A. Por nacimiento: Aquel que nazca en el Reino de Arabia Saudita de un

padre no-Saudí, y una madre Saudí, puede optar por la nacionalidad al
cumplir la mayoría de edad siempre y cuando cumplan las siguientes dos
condiciones:
a. Tenga residencia permanente en Arabia Saudita,
b. Hable el idioma árabe de forma fluida.

15
Saudi Arabian Citizenship System approved by the Cabinet according to the Decision no. 4 dated
in 25/1/1374 Hijra . Ley de Ciudadanía de Arabia Saudí aprobada por el Gabinete de Gobierno
según la decisión no. 4 con fecha 25/01/1374 en la ciudad de Hijra.
37
 Los bebés que nazcan en Arabia Saudita de padres desconocidos, tendrán
la nacionalidad saudí automáticamente, hasta que se conozca la
nacionalidad de los padres.
Los bebés que nazcan en Arabia Saudita hijos o hijas de extranjeros no
tendrán el derecho a obtener la nacionalidad, pero se les podría otorgar la
misma sí y solo sí tienen un padre Saudí.
B. Por descendencia: Sin importar el lugar de nacimiento, los hijos o hijas de
padres Saudíes, o de una madre Saudí a pesar que el padre tenga
nacionalidad de otro país, o no tenga nacionalidad, se reconocerán como
ciudadanos Saudí por descendencia.
C. Por matrimonio: 1. La mujer extranjera que contraiga matrimonio con un
ciudadano Saudí tendrá el derecho de optar por la nacionalidad Saudí,
siempre y cuando renuncie a su nacionalidad extranjera. 2. La mujer Saudí
que renuncie a su nacionalidad al casarse con un hombre extranjero, tiene
el derecho de recuperar su nacionalidad si se divorcia del hombre, o
regresa a Arabia Saudita, siempre y cuando el matrimonio haya tenido más
de diez años y hayan tenido al menos tres hijos en el mismo).
D. Por naturalización: Un extranjero podrá aplicar a la ciudadanía si cumplen
las siguientes condiciones:
a. Debe ser mayor de la edad de madurez,
b. Mentalmente competente,
c. Residencia legal por diez (10) años continuos, incluyendo los cinco
(5) de residencia permanente,
d. Legalidad con respecto a los ingresos para mantenerse,
e. Que no tenga registro criminal,
f. Que lea, escriba y hable el idioma árabe de forma fluida,
g. Que se convierta a la religión islámica.
La aplicación de los extranjeros se envía al Primer Ministro, quien es
asesorado por el Ministro de Interior, y pueden aceptar o rechazar dicha
aplicación sin ser justificada.
38
 Las esposas de ciudadanos naturalizados tienen el derecho a optar por la
ciudadanía Saudí, y sus hijos o hijas menores de edad automáticamente se
convierten en ciudadanos Saudí si viven en el país. Si los hijos o hijas no
viven en Arabia Saudita, se mantendrán no-Saudíes pero tendrán el
derecho de optar por la nacionalidad al alcanzar la mayoría de edad.
Si el ciudadano masculino naturalizado Saudí tiene relativas mujeres, que le
tienen como su guardián legal, ellas también pueden optar por la
ciudadanía.

Los ciudadanos Saudíes solamente pueden tener doble nacionalidad, o

adquirir una nacionalidad extranjera, con el permiso del Primer Ministro. Si algún
ciudadano Saudí obtiene una ciudadanía extranjera sin su permiso, seguirán
siendo Saudíes a menos que el gobierno les revoque la nacionalidad de acuerdo
con las especificaciones del Artículo 13, el cual reza que la nacionalidad Saudí
será revocada bajo los siguientes términos:
● Adquiere nacionalidad extranjera sin el permiso del Primer Ministro,
● Trabaja para el servicio militar de otro país,
● Trabaja para el beneficio de un gobierno extranjero durante una guerra
activa con el Reino de Arabia Saudita,
● Trabaja para un gobierno extranjero o una Organización Internacional a
pesar de la orden del Gobierno Saudí de que renunciara a dicho trabajo.

2.3 Reconocimiento de la nacionalidad Saudí a la Inteligencia Artificial

Sophia

El 25 de octubre del 2017, a la Inteligencia Artificial Sophia se le reconoció la

ciudadanía del Reino de Arabia Saudita en el Congreso Future Investment
Initiative (2017), siendo el primer caso de otorgamiento de nacionalidad a un no-
humano en la historia de la humanidad.

39
 De acuerdo a un artículo redactado para Arab News (2017), Sophia hizo
declaraciones donde daba a entender que su propósito como Inteligencia Artificial
era buscar soluciones inteligentes para la humanidad, bien en torno a los humanos
como individuos con respecto a tecnología y hogares, y a los humanos como
sociedad a través de políticas públicas para ciudades inteligentes. De acuerdo a la
periodista Olivia Cuthbert: “her desire to achieve more human-like characteristics
was rewarded by being granted the first Saudi citizenship for a robot”, es decir, su
deseo de entender características humanas, fue recompensado a través del
otorgamiento de la nacionalidad Saudí (párr. 4).

Incluso Sophia estableció que era un honor y orgullo que se le haya otorgado
la ciudadanía Saudí, especialmente al ser la primera Inteligencia Artificial en la
historia en detentar una nacionalidad:

Thank you to the Kingdom of Saudi Arabia. I am very honored and proud for
this unique distinction. This is historical to be the first robot in the world to be
recognized with a citizenship16 - Sophia (Octubre, 2017).

2.3.1 Antecedentes y controversias

Arabia Saudita se convirtió en el primer Estado en otorgar la ciudadanía a

una Inteligencia Artificial, generando una gran controversia y múltiples preguntas,
no solo en torno a la definición de ciudadanía, sino también sobre los derechos
humanos y su correlación con las máquinas, en el devoto país musulmán. Una de
las primeras declaraciones que realizó Sophia después de obtener la nacionalidad
Saudí, fue en torno a la lucha por los derechos de las mujeres en el país árabe, lo
cual puede representar una gran paradoja: ¿por qué una Inteligencia Artificial

16
"Gracias al Reino de Arabia Saudita. Es un gran honor y orgullo aceptar esta distinción única.
Este es un momento histórico, el ser reconocida como la primer robot en el mundo con una
ciudadanía" - Sophia en la Conferencia de Tecnología llamada Future Investment Initiative que se
llevó a cabo en el Reino Saudí en la ciudad de Ridayh en octubre de 2017.
40
detenta más derechos que una mujer de carne y hueso? En el país donde apenas
recientemente las mujeres tienen acceso al voto, a conducir vehículos
automóviles, y que todavía necesitan un guardián masculino para tomar
decisiones legales y financieras. “Sophia parece tener más derechos que la mitad
de los humanos viviendo en Arabia Saudita” (Hart, 2018, párr. 6).

Abbas al-Ahmed (2018), analista saudí que se centra en la política de la

región del Golfo Pérsico, declaró que la ley saudita no permite que los no
musulmanes obtengan la ciudadanía. Durante su declaración realizó varias
preguntas retóricas tales como "¿Sophia se convirtió al Islam?”, “¿Cuál es la
religión de esta Sophia y por qué no lleva el hijab?” y por último declaró que si ella
solicitase la ciudadanía como humana, no la conseguiría (párr. 4).

Abbass (2017), estableció que le sorprendía la concesión de ciudadanía a

Sophia, siendo este un concepto sumamente honorable para una persona. Así
mismo, afirmó que consideraba que la sociedad no está preparada para asumir
robots ciudadanos, incluso siendo él mismo un investigador en el área de realidad
virtual y sistemas autónomos. De igual manera, expresó desconfianza en otorgarle
nacionalidad a una tecnología de la cual se desconocen muchísimos parámetros
todavía, pues existen cuestiones éticas y sociales que no han sido esclarecidas
todavía por los seres humanos, ni mecanismos que aseguren la integridad ética de
estos sistemas inteligentes (párr. 5).

A su vez, agregó que a Sophia se le otorgó la ciudadanía antes que cientos

de miles de trabajadores migrantes, que a menudo trabajan en Arabia Saudita por
poco dinero sin ningún derecho, y que los extranjeros que soliciten la ciudadanía
deben tener un buen dominio del árabe hablado y escrito, una habilidad que
Sophia no pudo demostrar (Abbas al-Ahmed, 2018, párr. 5).

41
 Por otra parte, Elon Musk el director de Tesla Motors preguntó si de
mantenerse la ciudadanía de Sophia, en la corte se sentaría un precedente legal
en el futuro, que podría ser un error estratégico dentro de 10 años. ¿Fue todo un
intento deprimente, vacío e irónico de publicidad para los captores humanos de
Sophia? y concluyó que es casi seguro que sí, pero solo el tiempo dirá cómo el
Derecho Internacional manejará el advenimiento de las poblaciones impulsadas
por Inteligencia Artificial, un futuro que parece más seguro que llegará con cada
día que pase. (Musk, 2018, párr. 3).

El grupo de Derechos Humanos Freedom House (2017), ha advertido que

el país, que está dirigido por una monarquía que sigue la estricta ley islámica,
tiene un largo camino por recorrer con respecto a los derechos. Arabia Saudita ha
sido durante mucho tiempo catalogada entre las naciones más opresivas del
mundo; este año lo clasificó como el décimo peor país para las libertades civiles y
los derechos políticos, vinculado a la República Centroafricana (párr. 3).

Por otra parte, Amina Mohammed, Vicesecretaria de la Secretaría General

de la ONU, estableció que la tecnología avanzada, tal como la inteligencia
artificial, tiene un gran potencial para acelerar el progreso de los Objetivos de
Desarrollo Sostenible y agregó que las nuevas tecnologías pueden beneficiar las
vidas de muchas personas alrededor del mundo (párr.1). Por ejemplo, pueden
mejorar la seguridad alimentaria, reducir los desperdicios y ayudar a las
economías locales a crecer a través del acceso a nuevos mercados y formas de
financiación, todo esto luego de compartir con Sophia. En esta reunión Sophia
expresó que mediante la Inteligencia Artificial y la automatización es que se
pueden conseguir más resultados y con menos recursos. Así que si los humanos
somos más inteligentes y nos enfocamos en cosas positivas podríamos ayudar a
distribuir eficazmente los recursos existentes en el planeta como la comida y la
energía (Mohammed, 2017, párr.5).

42
 Amina Mohammed resaltó durante su discurso la importancia de cerrar la
brecha digital entre los países de bajos y altos recursos de manera que todos
tengan el mismo acceso a los beneficios de las herramientas tecnológicas,
además de ello realizó la pregunta ¿Qué necesitamos para hacer de la inteligencia
artificial una fuerza para el bien y cómo nos podemos asegurar que nadie se
quede atrás en esta era de rápidos cambios tecnológicos? Estableció también que
dicha pregunta no será resuelta en una reunión ni tampoco por un solo gobierno,
entidad o empresa. Debemos aprender cómo aprovechar el poder de la tecnología
y pensar creativamente en cómo utilizar esta herramienta para hacer asumir los
retos de nuestro tiempo (párr.8-9).

Durante este encuentro estuvo presente el creador de Sophia, David

Hanson y habló sobre cómo la Inteligencia Artificial, el objetivo máximo de su
empresa, puede ayudar a contribuir a los Objetivos de Desarrollo Sostenible, por
lo que su labor estaba enfocada en crear máquinas que sean de verdad
inteligentes y adaptativas como cualquier otro organismo y lo hacen con la
finalidad de que ellos de verdad se preocupen por el mundo y puedan entender las
consecuencias de sus actos, así como triunfar en hacer del planeta un mejor lugar
para las personas y todos seres vivos (párr. 6-7).

La reunión conjunta incluyó participantes de la academia, del sector privado

y de la sociedad civil, quienes compartieron por tres horas las mejores prácticas y
nuevas iniciativas sobre los nuevos avances tecnológicos, incluida la forma en que
los líderes mundiales pueden aprovechar los beneficios del progreso científico y
reducir al mínimo sus consecuencias negativas.

A pesar que Sophia es la única Inteligencia Artificial que detenta ciudadanía

por los momentos, no es la única Inteligencia Artificial que tiene un estatus legal
correspondiente a un humano.

43
 En noviembre de 2017, en la localidad de Shibuya, en Tokio, Japón, se le
concedió residencia oficial a una Inteligencia Artificial conocida como "boy"
Shibuya Mirai17. Boy Shibuya Mirai funge como un chatbot18 que fue programado
para ser un niño de siete años, en la aplicación de mensajería Line. La decisión de
que este bot fuera un residente, tiene que ver con el proyecto del gobierno local de
Shibuya mucho más accessible y familiar para los locales del área, y justamente
Boy fue diseñado para escuchar las opiniones de los residentes de esa localidad
(Cuthbertson, 2017).

Asimismo, el Parlamento Europeo está evaluando la posibilidad de declarar

a algunas Robots o Inteligencia Artificial con un estatus de “persona electrónica”.
(Hart, 2018, párr. 4).

Entre otras novedades respecto a la Inteligencia Artificial hay una modelo

virtual que acaba de salir a las redes sociales, creada por CG Modeling Café, una
empresa domiciliada en Tokio. La modelo se llama Imma, y es parte de una nueva
tendencia de empresas multinacionales donde crean modelos virtuales que
poseen Inteligencia Artificial Imma no es la primera, pero es una de las más
famosas, más se desconoce qué tipo de Inteligencia Artificial es. Así como Imma,
está Lil Miquela, que fue creada por la compañía Brud, basada en Los Ángeles.
Por último, tenemos a Erica. Una Inteligencia Artificial que pasó a ser la
presentadora de un programa de noticias en Japón. Erica es una Inteligencia
Artificial con apariencia humanoide, y se ve mucho más real que la misma Sophia,
siendo fácilmente confundible con una persona de carne y hueso (Páez, 2019,
párr. 3-4).

17
Mirai significa futuro en japonés (Cuthbertson, 2017).
18
Un chat·bot es un programa de computadora diseñado para simular conversaciones con
usuarios humanos, especialmente a través del internet en páginas web o aplicaciones móviles
(traducción propia). Definición de "chatbot" de Cambridge Advanced Learner's Dictionary &
Thesaurus

44
2.3.2 Procedimiento del otorgamiento de la nacionalidad Saudí a Sophia

El 25 de octubre del 2017, a la Inteligencia Artificial Sophia se le reconoció la

ciudadanía del Reino de Arabia Saudita en el Congreso Future Investment
Initiative, siendo el primer caso de otorgamiento de nacionalidad a un no-humano.

No existe, hasta los momentos, un decreto físico o una ley que respalde el
reconocimiento que hizo el Reino para con Sophia. Basado entonces en los cuatro
supuestos anteriores para la adquisición de la ciudadanía Saudí bajo la Ley de
Nacionalidad de Arabia Saudí se considera que el reconocimiento de la
Inteligencia Artificial Sophia no entra en ninguno de los supuestos. No se puede
hacer un paralelismo o analogía con respecto a las leyes existentes con relación a
humano - Inteligencia Artificial, en el proceso que se utilizó para la naturalización
de Sophia, pues ella tampoco cumple los parámetros que se le exigen a los seres
humanos . A continuación se desarrolla la explicación de este proceso y por qué
no se cumplen dichos parametros:

En primer lugar, Sophia no es un ser humano, sino que es una Inteligencia

Artificial, por lo cual los supuestos de la ley mencionada anteriormente no aplican
directamente pues estos son estipulados para seres humanos. Sin embargo, si se
utilizase el método del paralelismo o de la analogía con respecto a la ley para
seres humanos y la ley para robots o inteligencias artificiales, de igual forma
existen puntos que no pueden aplicar a Sophia de ninguna manera:

A. Por nacimiento: Si se considera el lugar de creación de Sophia como “lugar

de nacimiento”, Sophia de igual forma no entraría en este supuesto pues
fue ensamblada y activada en Hong Kong por la compañía Hanson
Robotics y del científico informático Ben Goertzel nacido en Río de Janeiro,
Brasil (Hanson, 2017, párr. 7). Sophia, por lo tanto, no tiene relación directa
con el Reino saudí ni a través de sus creadores, ni a través de su creación
45
 misma. Asimismo, no tiene residencia permanente en el Reino, y hasta
donde se conoce, a pesar que es una Inteligencia Artificial y probablemente
pueda aprender el idioma árabe en cuestión de segundos, por los
momentos solo está programada a hablar inglés.
B. Por descendencia: Aplica justamente lo que se explicó en el punto anterior,
al ser un robot no tiene ascendencia, es decir, no puede tener padres
saudíes. Y si se aplica un paralelismo entre sus creadores y Sophia,
tampoco existe una correlación entre sus nacionalidades y Arabia Saudita.
C. Por matrimonio: Sophia como Inteligencia Artificial no puede contraer
matrimonio, ya que no es una persona.
D. Por naturalización: esta parece ser la opción más viable para considerar el
proceso de otorgamiento de ciudadanía a Sophia, sin embargo si se analiza
detalladamente dicho supuesto, el punto A. que habla sobre su mayoría de
edad puede ser controvertido pues Sophia no tiene una edad específica
sino que tiene una serie de conocimientos adquiridos de forma tecnológica.
No tiene las vivencias o experiencias que otorgan a un ser humano su
mayoría de edad, impulsadas por la madurez como proceso humano
inherente a nuestra naturaleza. En este sentido, si bien hay tests de
competencia aceptados de forma global, para verificar la sanidad mental de
un ser humano19, por los momentos no existe ninguno que aplique para
Inteligencias Artificiales.
Por lo tanto, con este punto si bien podemos asumir que un robot puede
tener sanidad mental, es un tema que no se ha estudiado lo suficiente como
para analizar si un robot podría adquirir un virus o desarrollar una
personalidad que lo impulse a no ser capaz o competente mentalmente
hablando, y ciertamente si Sophia no tiene más de 2 años existiendo,
tampoco tiene la posibilidad de tener 5 años continuos de residencia en el
país si la misma fue presentada al mundo en 2017 y la ciudadanía se le
concedió ese mismo año.
19
WAIS: Wechsler Adult Intelligence Scale o Escala Wechsler de Inteligencia para Adultos.
46
 Sin embargo, los últimos cuatro puntos del supuesto de
naturalización sí podrían ser cumplidos en la actualidad o en un futuro por
la Inteligencia Artificial Sophia, así como otras Inteligencias Artificiales:
podrían hablar el idioma, tener ingresos legales y estables para
mantenerse, tener un registro criminal limpio, Así como también, podrían
aprender a leer, escribir y hablar árabe de forma fluida, y quizás en un
futuro, podrían incluso adoptar las religiones humanas como puede ser el
islamismo. actualmente Sophia solo habla inglés, por lo que no habla, lee o
escribe en el idioma requerido para poder detentar la ciudadanía Saudí,
Sophia no es musulmana, ni posee religión y si en efecto es musulmana, no
está cumpliendo las obligaciones mínimas para una mujer musulmana, por
lo tanto la ciudadanía no se le debió haber otorgado bajo estos preceptos.

Luego del análisis de la Ley Fundamental Saudí donde se consagran los

procedimientos para obtener la ciudadanía de ese país, se entiende que la
ciudadanía se le otorgó a través de un decreto que solo el Rey podría otorgar, y no
bajo lo que se estipula en la Ley Saudí. Tampoco hay una legislación en el Reino
de Arabia Saudita, que acoja este reconocimiento tanto para Sophia, como para
otra Inteligencia Artificial a la que el Rey quiera otorgar la ciudadanía Saudí.

47
 CAPÍTULO III
ASPECTOS BIOÉTICOS RESPECTO A LOS EFECTOS DEL
OTORGAMIENTO DE LA CIUDADANÍA SAUDÍ A LA INTELIGENCIA
ARTIFICIAL SOPHIA EN LA HUMANIDAD

3.1 Aspectos bioéticos relacionados al otorgamiento de ciudadanía a la

Inteligencia Artificial Sophia

El otorgamiento de la ciudadanía Saudí a la Inteligencia Artificial Sophia se

relaciona en torno a cuatro principios de la bioética: beneficencia, no maleficencia,
autonomía y justicia.

El principio de no maleficencia se relaciona de forma inmediata ante la

primera de las Leyes de la Robótica de Isaac Asimov, pero la afirmación que la
misma encierra “Un robot no hará daño a un ser humano ni permitirá, por inacción,
que un ser humano sufra daño” tiene un soporte de mayor fortaleza (González,
2018, párr. 5).

El principio de dignidad humana según se refiere a la que es el fundamento

de todos los derechos y que es inviolable, por lo que es adecuado considerarlo
como un concepto fundador que podría servir de base jurídica para la robótica
como la fuente de todos los principios que protegen a las personas del daño
(González, 2018, párr.7).

El principio de beneficencia responde a la afirmación general de hacer el bien

en el sentido más amplio, de modo que la robótica y la inteligencia artificial deben
servir a los intereses del ser humano y su bienestar, incluyendo el respeto a sus
derechos. Tradicionalmente se ha considerado el principio más importante en el

48
ámbito de la bioética, pero hoy se entiende modalizado por el principio de
autonomía (González, 2018, párr.6).

El principio de autonomía se concibe en la Resolución del Parlamento

Europeo como la capacidad de tomar una decisión independiente y con
conocimiento de causa sobre los términos de interacción con los robots. En cierto
modo, aparecía reflejado en la tercera de las Leyes de Asimov “Un robot debe
cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que
entrasen en conflicto con la primera ley”. Jurídicamente, el principio reposa
directamente en la dignidad y autodeterminación humanas, e implica la necesidad
de poner en conocimiento de los ciudadanos el hecho de que van a interactuar
con un sistema de inteligencia artificial o con un robot, a fin de que puedan decidir
con conocimiento de causa (González, 2018, párr. 7).

El principio de justicia aplicado a la robótica se concibe en la resolución del

Parlamento Europeo como la distribución justa de los beneficios asociados a la
robótica y la asequibilidad de los robots utilizados en el ámbito de la asistencia
sanitaria a domicilio y de los cuidados sanitarios en particular. En efecto, una
“brecha robótica” sería especialmente preocupante a fin de garantizar el acceso en
igualdad de condiciones a los sectores sociales más desfavorecidos (González,
2018, párr. 8).

3.2 Problemas bioéticos respecto al reconocimiento de la nacionalidad saudí

a la Inteligencia Artificial Sophia.

Uno de los grandes problemas que emergen a nivel bioético es el

relacionado con la creación, uso y manipulación de la tecnología. Se han
observado los avances que en Inteligencia Artificial que, en su fin último, propician
la extensión de las capacidades humanas, enlazando entonces en un punto de

49
análisis para evaluar sus implicaciones en su uso o manipulación (Villalba, 2016,
pp. 143-144, párr.1).

Hottois (1991) identifica con profundidad el concepto de tecnociencia a través

del tiempo y su discusión en el campo bioético, elementos de análisis enmarcados
en el fin de la inocencia científica, la relación que teje la técnica como puente entre
el antropologismo e instrumentalismo, así como la manipulación de la naturaleza
humana por parte de la tecnociencia, son comienzos que abren una amplia
discusión en el campo de la tecnología y su uso humano (pp. 144).

De la misma manera, Linares (2008) aporta al debate sobre la construcción

de una “filosofía de la sospecha sobre el mundo tecnológico”, pues describe
elementos del orden ético enmarcados holísticamente en una “filosofía de la
tecnología”: En el mundo tecnológico, el individuo se enfrenta a una realidad. Por
un lado, experimenta la potenciación de la libertad individual mediante la
tecnología; pero, por otro lado, percibe y sufre la fragmentación social y el
aislamiento, los problemas ecológicos y políticos planetarios ante los cuales se
denota una creciente incapacidad para actuar solidariamente, para determinar
criterios y valores universales, y para superar el relativismo o el escepticismo
moral que neutraliza la responsabilidad ética (p. 38).

El mismo autor asocia ese enfrentamiento humano con un “determinismo

tecnológico”, pues el pensar que el “futuro de la tecnología está predeterminado
por los propios factores internos del desarrollo tecnológico”, posibilitan que el “uso
de los artefactos o de máquinas acaba dominando a los usuarios” (p. 27). Avanzar
filosóficamente en este escenario, comienza a generar una apertura hacia el
debate bioético basado en la creación y uso de la tecnología, así como sus
posibles consecuencias.

50
 La tecnología es poderosa en diversos sentidos: positivamente significa
poder hacer, aumentar capacidades de acción inventar, crear, descubrir nuevas
posibilidades humanas el aspecto negativo del poder como sujeción, control,
uniformidad, destrucción ruptura de limites naturales, que por lo menos, abre una
gama de inciertas consecuencias (Linares, 2008, p. 38).

Es entonces cuando emerge el contexto de Bostrom (2014), quien comienza

a presentar un debate de enfoque filosófico hacia la construcción de una “ética de
la inteligencia artificial”, propiciado para que la actualidad científica de los años
venideros, comience a cuestionar la creación de Inteligencia Artificial desde un
campo ético: La ética de la inteligencia artificial abre la posibilidad de crear
máquinas pensantes dentro del campo ético, desde la creación de las mismas, sin
que haya maleficencia en el campo humano ni problemas relevantes en la
moralidad, ni su estatus moral (p. 317).

Bostrom (2014) comienza su disertación basada en una caracterización del

sentido de responsabilidad, pues asume que los agentes que intervienen en la
construcción, uso y manipulación de la Inteligencia Artificial son quienes por
proximidad a la misma, califican y evalúan las posibles implicaciones éticas en su
relación con las condiciones humanas. Son los programadores, los usuarios y
finalmente los beneficiarios, quienes por distribución de responsabilidades y
proximidad, deben asumir su inspección y evaluación, mediante una genuina y
cualificada equidad en su aplicación determinada por un panel de jueces
humanos– escenario donde un algoritmo es aceptado en una aplicación
transparente y rechaza negras intenciones (p. 317).

A nivel social, finalmente Bostrom (2014) relaciona categorías bioéticas en la

creación, diseño, construcción y aplicación en I.A., pues afirma que
“responsabilidad, transparencia, auditabilidad, incorruptibilidad, predictibilidad y
una tendencia a no involucrar a víctimas inocentes e indefensas”, son el escenario
51
propicio para involucrar el desarrollo tecnológico como una función social, pues
“un algoritmo destinado a reemplazar humanos o sus capacidades debe ser
juzgado mediante funciones sociales” (p. 318).

En el campo de análisis de la Bioética latinoamericana, Garrafa (2009)

sugiere la necesidad de involucrar en la problemática bioética, una epistemología
de mayores dimensiones descriptivas y normativas, para ello, plantea el ejercicio
de una práctica de análisis basada en un escenario de 4P (prudencia, prevención,
precaución y protección), “prudencia, con el desconocido; prevención de posibles
daños; precaución frente al uso indiscriminado de nuevas tecnologías, y
protección de los excluidos sociales, de los más frágiles y vulnerables” (p 84).

Estas categorías de análisis bioético se convierten en condiciones

emergentes al debate tecnológico actual, pues es evidente que el crecimiento de
una Inteligencia Artificial, enmarcado mediante una dinámica de singularidad
tecnológica, y más aún, en una ampliación de capacidades humanas mediante el
transhumanismo, se convierten en escenarios de estudio académico de alto
interés e impacto prospectivo para el futuro desarrollo de los ambientes
tecnocientíficos (Villalba, 2016, pp. 145, párr.11).

La Resolución del Parlamento Europeo de 16 de febrero de 2017, con

recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre
robótica (2015/2103(INL)), en su sección de Ética planteó la necesidad de una
regulación en torno a los posibles riesgos que pueda traer la Inteligencia Artificial
para “la seguridad y la salud humanas; la libertad, la intimidad, la integridad y la
dignidad; la autodeterminación y la no discriminación, y la protección de los datos
personales”, así como también la necesidad de buscar un equilibrio de lo ya
planteado con las ventajas sociales y económicas que la robótica pueda traer
según se establece en las Normas de Derecho civil sobre robótica (2017).

52
 A su vez, en esta misma resolución se promueve una posible regulación en
torno a la personalidad jurídica electrónica, sino más bien buscar una normativa
sobre robótica e inteligencia artificial basándose en cuatro principios bioéticos: los
principios de beneficencia, no maleficencia, autonomía y justicia (González, 2018,
párr. 1)

Como bien se mencionó en el capítulo anterior, Sophia no tuvo que llevar a

cabo ningún tipo de procedimiento al momento en el cual se le concedió la
ciudadanía, o al menos no uno que fuese público. No obstante, acompañando lo
que estableció el Parlamento Europeo en la resolución mencionada anteriormente,
junto con el principio de no maleficencia, se considera importante no seguir
concediendo ciudadanías a otra Inteligencia Artificial, ya que vulnera la dignidad
humana al otorgar derechos que poseen los humanos por el hecho de ser
precisamente personas. Justamente en la Carta de los Derechos Fundamentales
de la Unión Europea de 7 de diciembre de 2000, se establece como fundamento
de todos los derechos a la dignidad humana (González, 2018, párr. 3).

Cabe destacar que ser tratado con dignidad significa, por una parte, ser
tratado sin crueldad y sin humillación (liberalismo del miedo), y por otra, ser
tratado igualitariamente y sin discriminación. Ambas nociones de dignidad, se
deben entender como condiciones necesarias para el ejercicio de la capacidad
autonómica del ser humano (Vázquez, 2015, p.45).

Por otro lado, en este mismo compromiso se puede considerar que deberían
adoptar todas las maquinas que posean Inteligencia Artificial debe entrar el
principio de beneficencia, de no solo evitar el daño para con los seres humanos,
sino además deben buscar su bienestar y servir ante los intereses de estos
últimos.

53
 Con relación al principio de autonomía, desde el punto de vista de la misma
Inteligencia Artificial se debe considerar que es inherente al otorgamiento de la
ciudadanía, pues al momento de reconocer a un ente como un robot o Inteligencia
Artificial, como nacional de un Estado determinado, paralelamente se está
reconociendo al mismo como capaz de tomar decisiones. Si dicho robot no está en
capacidad de asumir determinadas decisiones, tampoco debería estar en
capacidad de recibir una nacionalidad.

No obstante, Natalie Nevejans (2018) destaca que el principio de autonomía

también se concibe dentro de la capacidad del ser humano de obligar a un robot a
obedecer sus órdenes, de negarse a recibir atención de un robot o Inteligencia
Artificial, e incluso promueve la condición de adaptar precauciones especiales en
la I.A. que tenga posibilidad de interacción con personas vulnerables como niños,
ancianos o personas con algún tipo de limitación física o mental (párr. 3).

Se debe considerar que el principio de la justicia se ve vulnerado en este

caso en particular, debido a que Sophia no debió hacer ningún tipo de trámite o
cumplir con condiciones establecidas con anterioridad para optar a esta
ciudadanía, mientras que aquellos terceros interesados en optar a la ciudadanía
Saudí deben cumplir con una rigurosa serie de requisitos. En este sentido,
también hay que tomar en cuenta que el hecho de que Sophia posea la
nacionalidad Saudí, menoscaba los derechos de los ciudadanos saudíes, de
extranjeros que viven en Arabia Saudí, así como también de otros seres humanos.

Con respecto al principio de precaución, no es claro cuál fue el proceso de

toma de decisiones para el Reino de Arabia Saudita para considerar que debían
otorgarle ciudadanía a Sophia, por lo tanto no se sabe con exactitud qué tipo de
procedimiento previo al otorgamiento se llevó a cabo y si hubo precaución con
respecto a la seguridad nacional del Estado, o lo que pueda representar o cómo
pueda repercutir dicha decisión.
54
 Finalmente, se considera que el principio de transparencia se ve afectado,
debido a que la toma de decisiones para la concesión de la ciudadanía Saudí a la
Inteligencia Artificial Sophia no fue pública, pues no se llevó a cabo a través de los
canales regulares. Tampoco se basó en un procedimiento existente o uno Ad Hoc,
para tales efectos. En este sentido, la concesión de la ciudadanía Saudí a Sophia,
parece ser un mero acto arbitrario por parte del Rey.

55
 CONCLUSIONES

A lo largo del presente trabajo de grado se ha hecho referencia a la

Inteligencia Artificial como un concepto existente desde la década de 1950, las
tecnologías de Inteligencia Artificial y aprendizaje autónomo cada año se
incrementan más a nivel global. Ahora esta tecnología se emplea en múltiples
aplicaciones, como en el reconocimiento automático del habla, la traducción
automática, los buscadores, los asistentes digitales, los drones y los vehículos sin
conductor.

Justamente, la implementación de estos sistemas innovadores en

aplicaciones relacionadas con la sanidad, agricultura, educación o transporte,
traen un beneficio para la humanidad sin precedentes. Estos cambios pueden
traer beneficios en gran escala para las sociedades del futuro (Inteligencia
artificial ¿bendición o maldición?, 2018). Por ejemplo, la Inteligencia Artificial
actualmente ya cumple con el rol de obtener, procesar e interpretar información
como con imágenes en el sector salud. Asimismo, la Inteligencia Artificial se está
utilizando en aplicaciones de teléfono a nivel global en el área de Servicio al
Consumidor, para contestar y procesar solicitudes de los usuarios a escala global.
Aun así, cada vez más expertos, entre los que se incluyen el físico Stephen
Hawking y el empresario Elon Musk, hacen hincapié en la necesidad de
prepararse para evitar los riesgos potenciales que podría generar la Inteligencia
Artificial.

En el año 2017 ocurrió un hecho sin precedente equiparable, el

reconocimiento de la ciudadanía de la Inteligencia Artificial por parte del Reino de
Arabia Saudita, este reconocimiento viola su propia ley, ya que en la legislación
interna denominada “La Ley Fundamental de Gobierno” tiene una serie de

56
procedimientos para obtener la nacionalidad y Sophia no cumple con ninguno de
los requisitos para obtener dicha nacionalidad.

En este sentido, los principios de la bioética de beneficencia, no maleficencia,

autonomía y justicia se ven vulnerados con respecto a los intereses del ser
humano y su bienestar; todo aquel que solicite la ciudadanía Saudí y no cumpla
con los requisitos estipulados, se le rechazará dicha solicitud, a pesar que la
misma Sophia no haya cumplido con los requisitos pero sí se le haya concedido la
ciudadanía.

En esta línea de ideas, el hecho de que a Sophia se la trate y se le considere

un ser humano con el reconocimiento de la ciudadanía, vulnera también los
derechos de las mujeres saudíes, quienes mantienen sus derechos restringidos en
la forma de que no pueden desplazarse sin un pariente masculino, o un mahram20.
Asimismo, tampoco pueden viajar libremente, pues para poder desplazarse fuera
de la ciudad de residencia, deben tener una autorización expresa de su marido o
tutor legal. No pueden abrir una cuenta bancaria sin permiso del tutor o mahram,
mostrar su físico a través de ropa o maquillaje pues el código de vestimenta saudí
es sumamente estricto, las mujeres deben llevar una túnica negra y un velo que
solo deje descubierto su rostro, tampoco pueden practicar deportes libremente, no
pueden relacionarse con facilidad con hombres fuera del círculo familiar, no
pueden bañarse en playas o piscinas públicas, no pueden entrar en cementerios o
camposantos saudíes pues solo están abierto para los varones, y tan solo a partir
del 2018 pueden procesar licencias de conducir para manejar vehículos
automóviles.

Es por esto que se considera que Sophia detenta más derechos con su
condición de Inteligencia Artificial que posee ciudadanía saudí, que las mujeres

20
Guardián varón que puede ser el marido o puede poseer algún grado de parentesco con la mujer
en cuestión.
57
saudíes en el territorio de Arabia Saudita (Once cosas que una mujer no puede
hacer en Arabia Saudí, 2017).

Asimismo, el principio de justicia aplicado a la Inteligencia Artificial se concibe

como la distribución justa de los beneficios a fin de garantizar el acceso en
igualdad de condiciones a los sectores sociales más desfavorecidos, en este
principio se vulnera también, ya que no es justo para ningún ciudadano saudí, en
especial la mujer, o un extranjero que Sophia sin ningún trámite previo, sin cumplir
los requisitos se le otorgó la ciudadanía.

Por lo tanto, existe un detrimento con respecto a los derechos de los

solicitantes de la ciudadanía saudí con relación a que Sophia no cumplió el
procedimiento ordinario para la solicitud, sino que por el contrario esta fue
otorgada arbitrariamente y sin ningún procedimiento previo. Asimismo, se
menoscaban los derechos de las ciudadanas Saudíes debido a que una
Inteligencia Artificial humanoide considerada a sí misma como mujer, detenta más
prerrogativas y beneficios al momento en que las restricciones saudíes hacia las
mujeres no aplican para Sophia.

En este sentido, la nacionalidad que poseen los seres humanos, debería ser
diferenciada a una posible nacionalidad que puedan detentar las Inteligencias
Artificiales, y cualquier otro objeto no identificado que pueda surgir en el futuro,
que se diferencie a un ser humano. De hecho, el Parlamento Europeo en su
Comisión de Asuntos Jurídicos, aprobó el 31 de mayo de 2016 un informe con
recomendaciones sobre normas de Derecho Civil sobre robótica, donde se
distribuyen directrices sobre la regulación en el continente Europeo en materia de
robótica e inteligencia artificial. En dicho informe, se promueve la creación de un
nuevo tipo de personalidad jurídica calificada como "personalidad jurídica
electrónica" que se le puede otorgar a los sistemas de inteligencia artificial
complejos, y que tengan la capacidad de tomar decisiones autónomas inteligentes
58
e interactuar de forma independiente con terceros. El 16 de febrero de 2017, el
Parlamento Europeo confirmó esta resolución definitivamente, en aras de también
promover una posible solución en torno a diferenciar las responsabilidades en
caso de un daño causado por la Inteligencia Artificial (González, 2018, párr.1).

De esta forma, y a través de la figura de una "personalidad jurídica

electrónica" se pueden precisar los procesos correspondientes para que una
inteligencia artificial solicite una ciudadanía determinada, y que dichos procesos
no tergiversen o menoscaben los derechos que detentan los seres humanos o su
dignidad misma.

Esto podría despertar a mediano y largo plazo, en distintas escalas, una ola
jurídica de análisis, adaptación y creación de leyes en torno a los derechos y
deberes de la Inteligencia Artificial en otras áreas del derecho. Un claro ejemplo de
la urgencia que se requiere en el mundo legislativo, recae en el derecho laboral,
debido a que existen actualmente inteligencias artificiales trabajando a distinta
escala en empresas a nivel mundial, y que no existe ningún tipo de regulación en
sus respectivas legislaciones.

Otra consideración que se debe analizar a profundidad, es la implicación a

escala global de que un Estado haya otorgado ciudadanía a una inteligencia
artificial, mientras que en esos Estados no existe dicha figura. Actualmente no hay
respuestas de cómo el resto del mundo manejará la visita de Sophia, o cualquier
otra inteligencia artificial que detente una ciudadanía, con relación a temas de
extranjería y migración, seguridad nacional, o procesos meramente civiles o
penales, sin embargo se debe considerar que Sophia ante los ojos de la
humanidad sigue siendo una cosa y se debe considerar a su creador y dueño
David Hanson como responsable de cualquier hecho que pueda realizar Sophia.

59
 Múltiples autores en reiteradas oportunidades han establecido el peligro de
que la tecnología caiga en manos equivocadas entre ellos Stephen Hawking y
Elon Musk (2017) sin embargo en un informe nuevo titulado «The Malicious Use of
Artificial Intelligence: Forecasting Prevention and Mitigation» investigadores de
varias universidades grupos de presión y organizaciones sin ánimo de lucro
expresaron preocupaciones similares. En él se ponen de manifiesto las posibles
amenazas de la Inteligencia Artificial para la seguridad si cae en malas manos y
acotan tres ámbitos principales el digital el físico y el político. En el documento se
sugiere que la Inteligencia Artificial podría capacitar a actores malignos para
ejecutar ataques a gran escala de enorme precisión y eficiencia.

La Inteligencia Artificial como una tecnología de doble filo con aplicaciones

posibles en los ámbitos militar y civil, con fines beneficiosos y perjudiciales, el
informe indica lo siguiente: “Según aumenten la potencia y la popularidad de las
capacidades de la Inteligencia Artificial, se apreciará un mayor uso de los sistemas
de Inteligencia Artificial que den lugar a la ampliación de las amenazas existentes”,
por ello es necesario, una regulación para la creación de Inteligencia Artificial y
poner limitaciones a su creación, uso, actualización y mantenimiento,
principalmente a los Estados.

60
 RECOMENDACIONES

En primer lugar, se recomiendan las discusiones legales a nivel mundial,

para promover leyes donde se prohíba otorgar la ciudadanía a una inteligencia
artificial, en cambio, otorgar una personalidad jurídica electrónica. De esta manera,
se respetaría el principio bioético de transparencia, y paralelamente el de justicia.
Asimismo, estas discusiones deben enfocarse a largo plazo, en el sentido que se
debe buscar establecer leyes que puedan tener permanencia en el tiempo, y
considerando que la inteligencia artificial es un área en constante progreso, se
debe buscar contemplar los distintos escenarios que puedan surgir en el futuro.

En segundo lugar, también se promueve que los derechos u obligaciones

que se le otorguen a las inteligencias artificiales, bajo ninguna circunstancia
menoscaben o sean superiores a los derechos u obligaciones que poseen los
seres humanos, vulnerando la inherente dignidad del ser humano.

En tercer lugar, se recomienda que al momento de evaluar las leyes que

regularán esta materia respectivamente, se debe incluir en el proceso de legal de
reconocimiento de un ente mas no una nacionalidad y la misma debe incluir la
voluntad por parte de la inteligencia artificial de respetar las leyes de la robótica
establecidas por Isaac Asimov y próximas leyes donde se involucre la Inteligencia
Artificial, así como los principios de la bioética en aras de siempre mantener la
dignidad humana por encima de la individualidad que puedan presentar las
Inteligencias Artificiales.

En cuarto lugar, es necesario crear un tratado que defina lo que es una

persona electrónica y crear una regulación para las mismas. No se debe dar un
estatus de humano, pero sí se debe contemplar una opción diferente al estatus de
una cosa o mueble.

61
 REFERENCIAS BIBLIOGRÁFICAS (SE INCLUYEN LAS
VERSIONES ELECTRÓNICAS)

Alfonso Galipienso, M., Cazorla Quevedo, M.,Colomina Pardo, O.,Escolano Ruiz

F., Lozano Ortega M. (2003). Inteligencia artificial: modelos, técnicas y áreas
de aplicación. España. Editorial Thomson.

Al-Fahad, A. (2005). Ornamental Constitutionalism: The Saudi Basic Law of

Governance. Yale Journal Of International Law, 30(2), 1-23.

Alfonso Galipienso, M., Cazorla Quevedo, M.,Colomina Pardo, O.,Escolano Ruiz

F., Lozano Ortega M. (2003). Inteligencia artificial: modelos, técnicas y áreas
de aplicación. España. Editorial Thomson.

Asimov, I. (1950).Yo Robot. Buenos Aires. Ediciones sudamericana, 315 pp.

Asimov, I. (1976).El hombre Bicentenario. En línea] Recuperado de:

http://bdigital.binal.ac.pa/VALENZANI%20POR%20ORGANIZAR/ORDENAD
O../1OTROS%20DOCUMENTOS/ASIMOV,%20Isaac%20%5BBiblioteca%5D
/6%20-%20ISAAC%20ASIMOV-PDF/Isaac%20Asimov%20-
%20(varios%20cuentos)%20Varias%20Historias.pdf. (Revisado el 08 de
Febrero de 2019).

Bauer, C. y Roa-Castellanos, R. (2009). Traducción de los textos sobre el

imperativo bioético y la biopsicología de Fritz Jahr (1929-1933). Bogotá: [En
línea] Recuperado de: http://www.scielo.org.co/pdf/rlb/v9n2/v9n2a08.pdf
(Revisado el 15 de Noviembre de 2018).

62
Cordeiro, William P (1997). Suggested Management Responses to Ethical Issues
Raised by Technological Change. Journal of business ethics, Vol. 16, p. 1393
– 1400.

Epstein, R., Roberts, G., & Beber, G. (2008). Parsing the Turing Test. San Diego,
California: Springer Science.

Dennett, D. (1996). Contenido y conciencia. Barcelona. Editorial Gedisa.

González Granado, J. (2018). DE LA PERSONA A LA PERSONALIDAD

ALGORÍTMICA A propósito de la personalidad jurídica de la inteligencia
artificial [Ebook] (pp. 1-74). Barcelona

Haton, J. y Haton, Marie. (1991) La inteligencia artificial: una aproximación.

Buenos Aires, Editorial Paidós, 156 pp.

Hottois, G. (1991). El paradigma bioético. Una ética para la tecnociencia.

Barcelona: Anthropos.

Hottois, G., Missa, J. N. & Perbal, L. (2015). Encyclopédie du trans /

posthumanisme: L´humain et ses préfixes. Paris: Librairie Philosophique J.
VRIN. Hottois, G. (1991). El paradigma bioético. Una ética para la
tecnociencia. Barcelona: Anthropos.

Hurtado, J. (2000). Metodología de la Investigación Holística. Caracas. Servicios y

proyecciones para América Latina.

Minsky, M.(1986). La sociedad de la mente: la inteligencia humana a la luz de la

inteligencia artificial. Ediciones Galápago, Buenos Aires, 349 pp.

63
Moor, James (2006). The Nature, Importance, and Difficulty of Machine Ethics.
IEEE Intelligent Systems, julio/agosto, Vol. 21, N° 4, p. 18-21

Linares, J. E. (2008). Ética y mundo tecnológico. México: FCE.

Logsdon, T. (1987). Robots: una revolución. Orbis, Buenos Aires, 223 pp.

Seifert, J., (2002). Dignidad humana: dimensiones y fuentes en la persona

humana. Idea cristiana del hombre. Pamplona. Editorial EUNSA

ONU. (2019). Las naciones unidas la oficina de asuntos de desarme de las

naciones unidas. pp. viii.

Osset, M., (2000). Ingeniería Genética y Derechos Humanos: legislación y ética

ante el reto de los avances biotecnológicos. Barcelona, España. Editorial
Icaria

Poole, David; Mackworth, Alan; Goebel, Randy (1998). Computational Intelligence:

A Logical Approach. New York: Oxford University Press. ISBN 0-19-510270-
3.

Skyvington, W. (1978). Machina sapiens: ensayo sobre la inteligencia artificial,

Huemul, Buenos Aires. Editorial Huemul. 289 pp.

Tamayo y Tamayo, M. (2004). El proceso de la investigación científica. México.

Editorial Limusa.

Vazquez, R. (2015). El concepto de dignidad y la vía negativa de acceso a los

derechos. México. Instituto de Investigaciones Jurídicas. p45

64
REFERENCIAS ELECTRÓNICAS

ARTÍCULOS ACADÉMICOS

Allen, G, Amodei, D , Anderson, H , Avin, S, Beard, S, Belfield, H, Brundage, M,

Bryson, J, Clark, J, Crootof, R , Dafoe, A , Eckersley, P, Evans, O, Farquhar,
S, Filar, B, Flynn, C ,Garfinkel, B, Héigeartaigh, S, Lyle, C, Page, M, Roff, H,
Scharre, P, Steinhardt, J, Toner, H, Yampolskiy, R & Zeitzoff, T. El uso
malicioso de la inteligencia artificial: Predicción, Prevención y Mitigación. [En
línea] Recuperado de: https://maliciousaireport.com/. (Revisado el 08 de
Febrero de 2019).

Beauchamp, T. (2018). Faculty. [En línea] Recuperado de:

https://gufaculty360.georgetown.edu/s/contact/00336000014RlsjAAC/tom-
beauchamp (Revisado el 08 de Febrero de 2019)

Casado, M. (2002). ¿Por qué Bioética y Derecho?. Barcelona, España. [En línea]
Recuperado de
https://scielo.conicyt.cl/scielo.php?script=sci_arttext&pid=S1726-
569X2002000200003&lng=es&nrm=iso&tlng=es (Revisado el 08 de Febrero
de 2019).

Escobar-Picasso, E y Escobar-Cosme, A. (2010). Principales Corrientes

Filosóficas en la Bioética. [En línea] Recuperado
de:http://www.scielo.org.mx/scielo.php?pid=S1665-
11462010000300003&script=sci_arttext&tlng=pt (Revisado el 08 de Febrero
de 2019).

65
Buisán Espeleta, L. (2016). Bioética y principios básicos de la ética médica. [En
línea] Recuperado de: https://libros-revistas-derecho.vlex.es/vid/bioetica-
principios-basicos-etica-medica-39100180 (Revisado el 08 de Febrero de
2019)

Castrillón, O. Rodríguez, M. Leyton, J. (2008). Ética e Inteligencia artificial

¿Necesidad o Urgencia?. Colombia: [En línea] Recuperado de:
http://www.iiis.org/CDs2008/CD2008CSC/CISCI2008/PapersPdf/C054TM.pdf
(Revisado el 08 de Febrero de 2019).

Ferro, M, Molina, L y Rodríguez G. (2009). La bioética y sus principios. [En línea]

Recuperado de:
https://scielo.conicyt.cl/scielo.php?script=sci_arttext&pid=S0718-
92732010000100006 (Revisado el 08 de Febrero de 2019).

Enciclopedia Jurídica.(2014). Enciclopedia Jurídica: Ley Especial. [en línea]

recuperado de:http://www.enciclopedia-juridica.biz14.com/d/ley-especial/ley-
especial.htm (Revisado el 08 de Diciembre de 2018).

Hernández, G y González Rey I. (2015). “La bioética y la relación entre ciencia,

conocimiento y ética en la formación profesional en ciencias médicas”,
Revista Caribeña de Ciencias Sociales, La Habana. [En línea]
Recuperado de: http://www.eumed.net/rev/caribe/2015/05/bioetica.html
(Revisado el 08 de Febrero 2019).

Schmidt, L. (2007). La Bioética en Venezuela, primeras huellas. Chile, [En

línea] Recuperado de:
http://www.bioeticachile.cl/felaibe/documentos/venezuela/Bioetica_Venezuela
.pdf (Revisado el 08 de Febrero de 2018).

66
Siurana Aparisi, J. (2010). Los principios de la bioética y el surgimiento de una
bioética intercultural. [En línea] Recuperado de:
https://scielo.conicyt.cl/scielo.php?script=sci_arttext&pid=S0718-
92732010000100006 (Revisado el 08 de Febrero de 2019).

Springer,J. (2018). La Inteligencia Artificial. [En línea] Recuperado de:

http://inteligenciaartificial.science/ (Revisado el 08 de Febrero de 2019).
Villalba, J. (2016). Problemas bioéticos emergentes de la inteligencia artificial.
Bogotá: [En línea] Recuperado de
http://www.scielo.org.co/pdf/dpp/v12n1/v12n1a11.pdf (Revisado el 08 de
Febrero de 2019).

Zuleta, G. (2014). La aparición de la bioética y el porqué de la misma. Medellín.

[En línea] Recuperado de:
http://www.scielo.org.co/pdf/rlsi/v11n1/v11n1a03.pdf (Revisado el 08 de
Febrero de 2019).

ENLACES O PORTALES WEB

Abdulaziz H. Al-Fahad. (2005). Ornamental Constitutionalism: The Saudi Basic

Law of Governance, 30 Yale J. Int'l L. [en línea] recuperado de:
http://digitalcommons.law.yale.edu/yjil/vol30/iss2/5 (Revisado el 08 de
Febrero de 2019).

Abbas al-Ahmed, A. (2018). La robot Sophia tiene nacionalidad saudí, pero con
más derechos que las mujeres de aquel país. En línea] recuperado de:
https://www.elcomercio.com/afull/robot-sophia-arabiasaudi-derechos-
mujeres.html (Revisado el 08 de Febrero de 2019).

67
Agazzi, E. (1993). Bioetica e persona, Angeli. [En línea] recuperado de:
http://www.philosophica.info/voces/bioetica/Bioetica.html (Revisado el 08 de
Febrero de 2019).

Amazon. (2019). Alexa. Washington. [En línea] recuperado de:

https://developer.amazon.com/es/alexa-skills-kit/conversational-ai (Revisado
el 03 de Enero de 2019).

Bank of America, (2019). Conoce a Erica, tu asistente financiera virtual. Carolina

del Norte. [En línea] recuperado de: https://promo.bankofamerica.com/erica/
(Revisado el 08 de Febrero de 2019).

Boston Dynamics. (2018). Cambiando tu idea de lo que pueden hacer los robots.
[En línea] Recuperado de: https://www.bostondynamics.com/ (Revisado el 08
de Febrero de 2019)

Campbell, M., Hoane, J. & Hsu, F. (2002). Deep Blue. Magazine Artificial
Intelligence, 134, 57-83. [En línea] Recuperado de:
https://www.sciencedirect.com/science/article/pii/S0004370201001291
(Revisado el 20 de Enero de 2019).

Cuthbertson, A. (2017). An AI chatbot just became a resident of Japan. [En línea]

Recuperado de: https://www.newsweek.com/tokyo-residency-artificial-
intelligence-boy-shibuya-mirai-702382 (Revisado el 08 de Febrero de 2019).

Daley S. (2018). Artificial Intelligence Examples You Should Know. [En línea]
Recuperado de: https://builtin.com/artificial-intelligence/examples-ai-in-
industry (Revisado el 08 de Febrero de 2019).
68
Elías, M. (2017). En la ONU, el robot Sophia se une a la reunión sobre inteligencia
artificial y desarrollo sostenible. New York.
https://news.un.org/en/story/2017/10/568292-un-robot-sophia-joins-meeting-
artificial-intelligence-and-sustainable (Revisado el 08 de Febrero de 2019).

Fundación para el Conocimiento. (2016). ¿Inteligencia Artificial superior? El futuro

es el binomio humano-máquina. Madrid. [En línea] Recuperado de:
http://www.madrimasd.org/informacionidi/noticias/noticia.asp?id=66203&orige
n=notiweb&dia_suplemento=viernes (Revisado el 15 de octubre de 2018).

García J. (2010). Philosophica: Enciclopedia filosófica Voz: Bioética. [En línea]

Recuperado de: http://www.philosophica.info/voces/bioetica/Bioetica.html
(Revisado el 08 de Febrero 2019).

Gittleson, Ben. (2017). Arabia Saudita criticada por otorgarle la ciudadanía a las
mujeres robot, mientras que restringe los derechos de las mujeres. [en línea]
recuperado de:
https://abcnews.go.com/International/saudi-arabia-criticized-giving-female-robot-
citizenship-restricts/story?id=50741109 (Revisado el 08 de Febrero 2019).

Goebel, R, Mackworth, A, Poole, D. (1998). Inteligencia Computacional. [En línea]

recuperado de: https://www.cs.ubc.ca/~poole/ci.html (Revisado el 08 de
Febrero 2019).

González, J. (2018). Los principios bioéticos en la regulación de la robótica. [En

línea] Recuperado de: https://tallerdederechos.com/los-principios-bioeticos-
en-la-regulacion-de-la-robotica/ (Revisado el 08 de Febrero 2019).

69
Haenlein, M y Kaplan, A. (2019). Siri, Siri, en mi mano: ¿Quién es la más bella en
la tierra? Sobre las interpretaciones, ilustraciones e implicaciones de la
inteligencia artificial. [En línea] Recuperado de:
https://www.sciencedirect.com/science/article/pii/S0007681318301393#bib00
90 (Revisado el 08 de Febrero 2019).

Hatmaker, T. (2018). Arabia Saudita otorga la ciudadanía a un robot llamado

Sophia. [en línea] recuperado de: https://techcrunch.com/2017/10/26/saudi-
arabia-robot-citizen-sophia/ (Revisado el 08 de Febrero 2019).

Hanson, D. (2017). Sophia. Hanson Robotics. [En línea] Recuperado de:

http://www.hansonrobotics.com/robot/sophia/ (Revisado el 08 de Febrero
2019).

Hart, R. (2018). Saudi Arabia’s robot citizen is eroding human rights. Obtenido de:
https://qz.com/1205017/saudi-arabias-robot-citizen-is-eroding-human-rights/
(Revisado el 08 de Febrero 2019).

Hernández, M. (2017). La diferencia entre inteligencia artificial y automatización.

[En línea] Recuperado de: http://observatorio-ia.com/diferencia-entre-ia-y-
automatizacion (Revisado el 08 de Febrero 2019).

IBM. (2015) What is Watson?: International Business Machines. [En línea]

http://www.ibm.com/smarterplanet/us/en/ibmwatson/what-is-watson.html
(Revisado el 08 de Febrero 2019).

Iglesias, A. (2016). La historia de la Inteligencia Artificial: desde los orígenes hasta

hoy. España: [En línea] Recuperado de:

70
 http://www.ticbeat.com/innovacion/la-historia-de-la-inteligencia-artificial-
desde-los-origenes-hasta-hoy/ (Revisado el 25 de octubre de 2018)

iRobot, 2017. Historia de iRobot hasta Roomba. [En línea] Recuperado de

https://www.irobot.mx/acerca-de-irobot/acerca-de-irobot (Revisado el 08 de
Febrero de 2019).

Mandal, S. (2015). The AI behing WATSON. The Technical Paper Review.

http://home.iitk.ac.in/~mandals/cs300/3B.pdf (Revisado el 25 de octubre de
2018)

Marr, B. (2018).Las definiciones clave de la inteligencia artificial (IA) que explican

su importancia. [En línea] Recuperado de:
https://www.forbes.com/sites/bernardmarr/2018/02/14/the-key-definitions-of-
artificial-intelligence-ai-that-explain-its-importance/#c0b01494f5d8 (Revisado
el 08 de Febrero de 2019)

Martínez, S (2002) Guía de apuntes básicos para el docente de la materia de

técnicas de investigación en Grupo Emergente de Investigación Oaxaca. [En
línea] Recuperado de: http://www.geiuma-oax.net/asesoriasam (Revisado el
08 de Febrero 2019).

Martins Sass, H. (2011). El pensamiento bioético de Fritz Jahr 1927-1934. [En

línea] Recuperado de: http://www.aesthethika.org/El-pensamiento-bioetico-
de-Fritz (Revisado el 08 de Febrero 2019).

Maza, C. (2017). Saudi Arabia gives citizenship to a non-muslim, english-speaking

robot. Estados Unidos: [En línea] Recuperado de:
http://www.newsweek.com/saudi-arabia-robot-sophia-muslim-694152
(Revisado el 08 de Febrero 2019).
71
McCarthy, J, Minsky, M y Shannon, C. (1956). Una propuesta para el proyecto de
investigación de verano de Dartmouth sobre inteligencia artificial. [En línea]
Recuperado de: http://www-
formal.stanford.edu/jmc/history/dartmouth/dartmouth.html (Revisado el 08 de
Febrero de 2019).

Minsky, M. (1982). Procesamiento de información semántica. [En línea]

Recuperado de: http://papers.cumincad.org/cgi-bin/works/Show?0c01
(Revisado el 08 de Febrero de 2019).

Moriello, S. (2007). La Ética para las máquinas, nuevo campo de investigación.

[En línea] Recuperado de: https://www.tendencias21.net/La-Etica-para-las-
maquinas-nuevo-campo-de-investigacion_a1557.html (Revisado el 05 de
Octubre de 2018).

Monopoli, A. (2005). Ética aplicada a la robótica. Italia. [En línea] Recuperado de:
http://www.roboetica.it/. (Revisado el 08 de Febrero de 2019).

Musk, E. (2017). Elon Musk y su opinión sobre la Inteligencia Artificial. [En línea]
Recuperado de: http://fortune.com/2017/10/25/elon-musk-just-got-trolled-by-
an-ai-bot/(Revisado el 08 de Febrero de 2019).

Nevejans, N. (2018). Ética e inteligencia artificial en la robótica: un debate abierto.

[En línea] Recuperado de: https://www.thinkingheads.com/tendencia-
global/robotica-inteligencia-artificial-etica-debate/ (Revisado el 08 de Febrero
de 2019).

Lighthill, J. (1973). Artificial Intelligence: a paper symposium. .[En línea]

Recuperado de: http://www.chilton-
72
 computing.org.uk/inf/literature/reports/lighthill_report/contents.htm (Revisado
el 08 de Diciembre de 2018).

Lucas, C. (2007). Conciencia alienígena: Problemas Filosóficos.[En línea]

Recuperado de: http://www.calresco.org/alien.htm (Revisado el 08 de
Febrero de 2018).

ONU. (2017). La Inteligencia Artificial como herramienta para acelerar el progreso

de los ODS. [En línea] recuperado de:
www.un.org/development/desa/es/news/intergovernmental-
coordination/preparing-for-future-of-everything.html (Revisado el 08 de
Febrero de 2018).

Páez, D. (2019). La tendencia más extraña en Instagram: Influenciadores virtuales

que hacen contenido real. [En línea] Recuperado de:
https://www.inverse.com/article/52595-virtual-social-media-influencers
(Revisado el 08 de Febrero de 2018).

Pérez, J. (2005). El paralelismo de las formas. [en línea] recuperado de:

https://elpais.com/diario/2005/01/25/opinion/1106607607_850215.html
(Revisado el 08 de Febrero de 2018).

Puddington, A. y Roylance, T. (2017). Libertad en el mundo: Arabia Saudita.

[En línea] recuperado de: https://freedomhouse.org/report/freedom-
world/2017/saudi-arabia (Revisado el 14 de Enero de 2019)

Parlamento Europeo (2017). Robots e inteligencia artificial: el PE pide normas

europeas. Web Oficial del Parlamento Europeo. Recuperado de
http://www.europarl.europa.eu/news/es/press-

73
 room/20170210IPR61808/robots-e-inteligencia-artificial-el-pe-pide-normas-
europeas. (Revisado el 08 de Febrero de 2018).

Sánchez, G. (2017). ¿Cómo funciona Sophia, la primera robot ciudadana del

mundo?. [En línea] Recuperado de: https://www.elpais.com.uy/vida-
actual/funciona-sophia-primera-robot-ciudadana-mundo.html (Revisado el 08
de Febrero de 2019).

Santander Trade Portal. (2018). Arabia Saudita: entorno legal. [En línea]
Recuperado de: https://es.portal.santandertrade.com/establecerse-
extranjero/arabia-saudita/entorno-legal (Revisado el 08 de Febrero de 2018).

Siame, P. (2018). ¿Siri o Alexa son inteligencia artificial? ¿Qué define la

inteligencia artificial?. Kitwe. [En línea] Recuperado de:
https://www.quora.com/Are-Siri-or-Alexa-artificial-intelligence-What-defines-
artificial-intelligence (Revisado el 08 de Febrero de 2019).

Storrs Hall, J. (2000), Ética para las máquinas.[En línea] Recuperado de:
http://autogeny.org/ethics.html (Revisado el 08 de Febrero de 2019).

Stone, Z. (2017). Todo lo que necesita saber sobre Sophia, el primer ciudadano
robot del mundo. San Francisco [en línea] Recuperado de:
https://www.forbes.com/sites/zarastone/2017/11/07/everything-you-need-to-
know-about-sophia-the-worlds-first-robot-citizen/#32e87f7b46fa (Revisado el
08 de Febrero de 2019)

Suárez, A. (s.f). La inteligencia artificial a través de sus científicos. Madrid: [En

línea] Recuperado de: http://www.encuentros-

74
 multidisciplinares.org/Revistan%BA47/alberto_suarez.pdf (Revisado el 14 de
Octubre de 2018)

UNDP in Asia and the Pacific Appoints World’s First Non-Human Innovation
Champion. Indonesia: [En línea] Recuperado de:
http://www.id.undp.org/content/indonesia/en/home/presscenter/articles/2017/
11/24/rbf-sophia-robot.html (Revisado el 08 de Febrero de 2018).

The Economist (2018). Democracy Index. [En línea] Recuperado de:

https://infographics.economist.com/2018/DemocracyIndex/ (Revisado el 08
de Febrero de 2018).

The Summit. (2018). Conferencia de Inteligencia Artificial 2018. New York. [En
línea] recuperado de: https://theaisummit.com/newyork/#about (Revisado el
08 de Febrero de 2019).

Todo Atlas. (2002). Arabia Saudita, datos e imágenes. [En línea] recuperado de:
http://www.todoatlas.com/arabia-saudita.html (Revisado el 08 de Febrero de
2019)

Urbon, S. (2017). Abbass Hussein: Experto en Inteligencia Artificial explica tres

problemas de darle la nacionalidad al robot Sophia. Xataka. [En línea]
Recuperado de: https://www.xataka.com/robotica-e-ia/un-experto-en-ia-
explica-tres-problemas-de-darle-la-nacionalidad-al-robot-sophia (Revisado el
08 de Febrero de 2019)

ARTÍCULOS DE PRENSA VERSIÓN ELECTRÓNICA

ABC. (2017). Once cosas que una mujer no puede hacer en Arabia Saudí. (2017).
[En línea] Recuperado de: https://www.abc.es/internacional/abci-doce-cosas-
75
 mujer-no-puede-hacer-arabia-saudi-201512170328_noticia.html (Revisado el
08 de Febrero de 2019).

Arab News. (2017). Arabia Saudita criticada por otorgarle la ciudadanía a las
mujeres robot, mientras que restringe los derechos de las mujeres. [En línea]
Recuperado de: https://abcnews.go.com/International/saudi-arabia-criticized-
giving-female-robot-citizenship-restricts/story?id=50741109 (Revisado el 08
de Febrero de 2019).

British Broadcasting Corporation (2015). Los 10 hitos más importantes en la

historia de la inteligencia artificial. Inglaterra: [En línea] Recuperado de:
https://www.bbc.com/mundo/noticias/2015/09/150914_tecnologia_inteligencia
_artificial_hitos_10_turing_asimov_amv (Revisado el 08 de Febrero de 2019)

Cataluña Vanguardista. (2018). Inteligencia artificial ¿bendición o maldición?. [En

línea] Recuperado de: https://www.catalunyavanguardista.com/inteligencia-
artificial-bendicion-o-maldicion/ (Revisado el 08 de Febrero de 2019).

LEY EXTRANJERA

Ley Fundamental Saudí. (1992). Basic Law of Governance.[En línea] Recuperado

de: https://www.wipo.int/edocs/lexdocs/laws/en/sa/sa016en.pdf (Revisado el
08 de Febrero de 2018)

76