INDICE

1. INTRODUCCIÓN ................................................................................................................ 2
2. EN QUE SE BASA LA INTELIGENCIA ARTIFICIAL .................................................. 2
3. RIESGOS QUE PUEDEN HACER PELIGROSA A LA I.A ......................................... 3
3.1. Armas autónomas .................................................................................................... 3
3.2. Manipular a la sociedad .......................................................................................... 3
3.3. Invasión de la privacidad para oprimir socialmente ....................................... 4
3.4. Divergencia entre nuestros objetivos y los de la máquina de IA ................ 4
3.5. Discriminación .......................................................................................................... 5
3.6. Sustituyen el hombre .............................................................................................. 5
4. ¿POR QUÉ ES PELIGROSA LA INTELIGENCIA ARTIFICIAL? .............................. 6
5. LA INTELIGENCIA ARTIFICIAL PUEDE VOLVERSE CONTRA LA HUMANIDAD
6. LOS MAYORES PELIGROS DEL USO INDEBIDO DE LA INTELIGENCIA
ARTIFICIAL................................................................................................................................. 8
6.1. En ordenadores o servidores................................................................................ 8
6.1.1. Phising:................................................................................................................. 8
6.1.2. Hackeos masivos:
6.2. Manipulación de la opinión pública..................................................................... 9
6.3. Ataques de robots .................................................................................................... 9
7. CONCLUSIONES............................................................................................................. 10
8. BIBLIOGRAFIA ................................................................................................................ 10

1
PELIGROS DE LA INTELIGENCIA ARTIFICIAL
1. INTRODUCCIÓN

La Inteligencia Artificial cada vez abarca más ámbitos de nuestras vidas,

pero un mal uso de ella puede conllevar peligros para la sociedad y los
ciudadanos. Por eso debes conocer estos 5 riesgos de la IA que debemos
evitar a toda costa.

La Inteligencia Artificial puede conllevar ciertos riesgos que pueden hacer

que esta sea peligrosa, y así lo han afirmado numerosas personas
influyentes como Stephen Hawking, y Elon Musk, CEO de las compañías
de Tesla y de SpaceX.

A estas personas influyentes se le suma Bill Gates, cofundador de

Microsoft, que afirma que hay que tener cuidado con la IA pero que todo
irá bien si se utiliza correctamente, haciendo que lo bueno de la IA supere
a lo malo.

2. EN QUE SE BASA LA INTELIGENCIA ARTIFICIAL

La Inteligencia Artificial se basa en la construcción de máquinas que son
capaces de pensar y actuar de manera inteligente, con herramientas
como los algoritmos de Google. Pero como todas las nuevas tecnologías,
estas pueden ser utilizadas para hacer cosas buenas o por el contrario
para delinquir y causar problemas a las personas.

Así, Elon Musk quiso recalcar estos peligros que se darán en la IA en los
próximos años: “El ritmo del progreso en inteligencia artificial (no me
refiero a la inteligencia artificial estrecha) es increíblemente rápido. A
menos que tenga una exposición directa a grupos como Deepmind, no
tiene idea de lo rápido que está creciendo a un ritmo cercano al
exponencial. El riesgo de que ocurra algo realmente peligroso es en un
plazo de cinco años. 10 años como máximo “.

2
3. RIESGOS QUE PUEDEN HACER PELIGROSA A LA I.A

3.1. Armas autónomas

Las armas programadas para matar suponen un grave riesgo en el
futuro de la IA. Es posible que los armamentos nucleares se vean
sustituidos por armas autónomas. No solo son peligrosas por que
puedan convertirse en autónomas completamente y actuar sin
supervisión, sino por las personas que puedan tenerlas en sus
manos.

3.2. Manipular a la sociedad

Las redes sociales pueden ser una gran fuente para obtener
información sobre cualquier persona, y además de utilizarse para
el marketing y brindar anuncios específicos para cada persona,
pueden utilizarse de muchas otras maneras. Con el escándalo de
Cambridge Analytica en relación con las elecciones presidenciales
de EEUU y el brexit en Reino Unido, se pudo ver el enorme poder
que puede dar tener datos para manipular a las personas, con lo
cual la IA al ser capaz de identificar algoritmos y datos personales,
puede ser extremadamente peligrosa.

3
3.3. Invasión de la privacidad para oprimir socialmente
Es posible ‘seguir’ las pistas de un usuario en la Red, y utilizar
mucha información invadiendo su privacidad. Por ejemplo, en
China se utilizará información como el reconocimiento facial de
cámaras y la forma en la que se comportan, si fuman, o si ven
muchos videojuegos para el sistema de crédito social. Esta
invasión de la privacidad puede convertirse por tanto en opresión
social.

3.4. Divergencia entre nuestros objetivos y los de la máquina de IA

Si nuestros objetivos no coinciden con los de la máquina, las
acciones que pedimos llevar a cabo pueden terminar en un
desastre. Por ejemplo, mandar una orden a la IA de llevarnos a un
lugar lo más rápido posible, pero sin especificar que tiene que
respetar las reglas de tránsito para no hacer peligrar las vidas
humanas.

4
3.5. Discriminación
Como las máquinas de IA pueden recoger tu información,
analizarla y rastrarla, también pueden utilizar esta información en
tu contra. Por ejemplo, una compañía de seguros puede negarte el
seguro debido a las veces que las cámaras tienen imágenes de ti
hablando por teléfono, o una persona que aspire a un puesto de
trabajo puede perder la oportunidad debido a su baja red social de
contactos en Internet.

3.6. Sustituyen el hombre

Como sabemos cada vez la tecnología aumenta y se vuelve más
eficaz con el paso del tiempo haciendo que la intervención del
hombre en los trabajos disminuya considerablemente ya que
estas pueden hacer el trabajo mucho mejor y con más precisión
en algunos ámbitos laborales.

5
4. ¿POR QUÉ ES PELIGROSA LA INTELIGENCIA
ARTIFICIAL?
La diferencia entre la inteligencia y las capacidades de robots y
computadoras con respecto a la mente humana es cada vez menor,
incluso llegando a superarnos en algunos aspectos, lo que puede resultar
preocupante.

Las máquinas y sistemas de inteligencia artificial carecen de dos cosas

muy importantes: sentimientos y ética, por lo que no son capaces discernir
correctamente entre el bien y el mal, ya que su comportamiento depende
de programación y no de la racionalidad, por lo que, en caso de cualquier
falla, podrían dañar al resto.

Ver también: ¿Pueden los robots aprender a tener ética y moral?

En la carta, los investigadores y expertos, muchos de los más destacados
del mundo y con experticia que va desde la física a la filosofía, ética,
computación, sociología y ciencia ficción, está en la necesidad de tener
cuidado, ya que la inteligencia artificial no debe convertirse en un juego
que caiga en las manos equivocadas.

No es primera vez que se nos habla de los peligros de la inteligencia

artificial, el cine e incluso el mismo Stephen Hawking nos lo habían
advertido antes, pero la declaración conjunta nos convence de mirar con
desconfianza esos sistemas automatizados que nos rodean.

6
5. LA INTELIGENCIA ARTIFICIAL PUEDE VOLVERSE
CONTRA LA HUMANIDAD

Un grupo de científicos y expertos del mundo de la tecnología crearon en

conjunto una misiva para que personas comunes y corrientes tengamos
una mayor atención ante la maravilla que parece la inteligencia artificial.
Dicho grupo, entre los que se encuentra nada menos que Stephen
Hawking, Elon Musk y Verno Vinge, entre varios otros destacados
expertos en ciencia y tecnología, presentó la misiva bajo el nombre
Research Priorities for Robust and Beneficial Artificial Intelligence: an
Open Letter (Carta Abierta: Prioridades de Investigación para una
Inteligencia Artificial fuerte y beneficiosas).

El escrito toma en cuenta décadas de investigación sobre inteligencia

artificial, y entre las principales advertencias se habla de la posibilidad de
que en un ambiente no controlado en forma adecuada, los sistemas de
inteligencia artificial podrían tener comportamientos no deseados e
incluso dañinos.

La comunidad muestra así la preocupación ante una posible

independencia de inteligencia artificial, capaz de pueda tomar vida propia
y superar la que ha figurado el hombre. De este modo, quienes hoy
estamos a cargo de estos dispositivos perderíamos el control sobre las
máquinas y estas podrían actuar en contra de sus creadores. Según la
carta abierta, las investigaciones deberían enfocarse en lograr que
quienes trabajan con ella tomen medidas de seguridad ante una rebelión
robótica en caso de problemas.

7
6. LOS MAYORES PELIGROS DEL USO INDEBIDO DE LA
INTELIGENCIA ARTIFICIAL
Un cerebro que procesa cantidades ingentes de información, aprende de
los resultados de sus actos y no descansa nunca… realmente la
genialidad humana ha logrado crear algo que supera a su propia
capacidad, pero los expertos advierten que estos avances pueden ser
devastadores si se emplean para el mal. No es la primera vez que
escuchamos esta advertencia apocalíptica, pero en esta ocasión se trata
de un grupo de expertos conocedores de la inteligencia artificial quienes
ponen nombre y apellidos a estas amenazas en un detallado estudio que
ha sido publicado en la red y que invita al debate.

¿Estamos ante una amenaza real y sin remedio? “No diría que la
evolución de la inteligencia artificial es en sí una amenaza”, explica a EL
PAÍS Miles Brundage, el responsable del estudio, “pero se trata de una
herramienta poderosa que puede ser mal empleada para el mal por los
humanos”

El informe advierte que un sistema capaz de tomar decisiones en

milisegundos y teniendo en consideración millones de datos puede, sin
duda, beneficiar a la humanidad, pero al mismo tiempo, puede ser
devastador si la persona que lo programa tiene fines oscuros. Un panel
de expertos alerta de que el uso malicioso de la inteligencia artificial es ya
una realidad y que podemos ser la víctimas de su poder destructivo,
aunque de una manera no tan evidente como la ha dibujado Hollywood
en el cine. El informe detalla posibles efectos devastadores en los
siguientes ámbitos:

6.1. En ordenadores o servidores

6.1.1. Phising: Un sistema automatizado que genere correos
electrónicos falsos y los envíe de forma masiva para obtener
datos confidenciales del usuario, considerando las tendencias
del momento o las vulnerabilidades existentes, puede tener un
impacto demoledor entre particulares.

6.1.2. Hackeos masivos: Los hackers son incansables buscando

vulnerabilidades en los sistemas, y de alguna manera, la
mayoría de las veces se salen con la suya; ¿se imaginan el
alcance que podría tener un sistema basado en ordenadores
que aprenden con cada error y que trabajan de forma
infatigable?

8
6.2. Manipulación de la opinión pública
Difusión masiva de información falsa en redes: Millones de tuits
automatizados durante la pasada consulta ilegal del pasado 1 de
octubre fueron dirigidos a contaminar las redes con propaganda
independentista. Twitter ha adoptado medidas radicales e inéditas
para poner coto a los bots. Como alertó en su día Elon Musk: “Las
máquinas podrían comenzar una guerra publicando noticias falsas,
robando cuentas de correo electrónico y enviando notas de prensa
falsas, solo con manipular información”.

Retirada automatizada de contenido de la red: Hasta ahora, si

alguien quiere eliminar fotografías o información publicada en la
red, se trata de un proceso bastante laborioso que podría ser
acortado de forma masiva por las máquinas.

6.3. Ataques de robots

Terrorismo automatizado: No parece probable que veamos a
robots disparando por las calles, pero el informe sí contempla la
posibilidad de que seamos atacados por drones comerciales o
vehículos autónomos en una maniobra programada y sin riesgos
para quien la ordena.

9
7. CONCLUSIONES

 En conclusión, la inteligencia artificial puede traer consigo muchos

beneficios y facilidades al ser humano pero a su vez esta también hace
que cada vez sea menos eficiente la mano del hombre lo que a la larga
causara que hayan menos plazas de trabajo en los diferentes ámbitos.
 La inteligencia Artificial es peligrosa ya que es muy fácil acceder a la
información personal de un hombre desde una persona.
 Se puede manipular muy fácil a las personas por medio de la
inteligencia artificial lo que podría causar estragos a nivel mundial.
 Cada vez se van creando nuevas armas de destrucción masivas las
cuales se pueden manipular desde un ordenador, lo cual nos lleva a la
intriga de cuan fácil puede ser causar desastres mundiales y guerras.
 La inteligencia artificial es un tema que puede volverse muy polémico
ya que aún no sabemos hasta qué punto puede avanzar esta y los
daños que pueda causar a la sociedad.

8. BIBLIOGRAFIA

https://www.ticbeat.com/tecnologias/5-riesgos-de-la-inteligencia-artificial-
que-pueden-hacerla-peligrosa/

https://www.vix.com/es/btg/curiosidades/7861/cientificos-advierten-
sobre-los-peligros-de-la-inteligencia-artificial

https://lab.elmundo.es/inteligencia-artificial/riesgos.html

https://www.muyinteresante.es/tecnologia/articulo/ventajas-y-riesgos-de-
la-inteligencia-artificial-651449483429

https://elpais.com/tecnologia/2018/02/23/actualidad/1519384458_65340
0.html

10
11