UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
Resumen No. 11: White Paper on Artificial
Intelligence A European approach to excellence and
trust,How do we learn to work with intelligent
machines?, How we can protect truth in the age of
misinformation, How AI can bring on a second
Industrial Revolution
Diego Arturo Narváez Puentes
danarvaezp@unal.edu.co
Humanos y maquinas inteligentes
I. W HITE PAPER ON A RTIFICIAL I NTELLIGENCE A
E UROPEAN APPROACH TO EXCELLENCE AND TRUST
I-A. Un ecosistema de confianza: marco regulatorio para la
IA
Al igual que con cualquier tecnologı́a nueva, el uso de
IA trae oportunidades , riesgos y preocupaciones. Estas
preocupaciones deben ser abordadas. Además, además de
la falta de inversión y habilidades, la falta de confianza es
un factor principal que frena una utilización más amplia
de IA. Es por eso por lo que la Comisión estableció una
estrategia de IA que aborda los temas socioeconómicos en
paralelo con un aumento de la inversión en investigación,
innovación y capacidad de inteligencia artificial en todo la
UE. La Comisión también estableció un Grupo de expertos
de alto nivel que publicó Directrices sobre IA confiable .
La Comisión publicó un comunicado que acoge los
siete requisitos clave identificados en Las Directrices del
Grupo de Expertos de Alto Nivel los cuales son: Agencia
humana y supervisión, Robustez técnica y seguridad,
Privacidad y gobierno de datos, transparencia, Diversidad,
no discriminación y equidad, Bienestar social y ambiental,
Responsabilidad.
Además de este conjunto de Directrices no vinculantes del
Grupo de Expertos de Alto Nivel, y en lı́nea con el Directrices
polı́ticas del presidente, un claro marco regulatorio europeo
generarı́a confianza entre consumidores y empresas en IA,
y por lo tanto aceleran la adopción de la tecnologı́a. Tal
marco regulatorio debe ser coherente con otras acciones para
promover la capacidad de innovación y competir de Europa en
este campo. Además, debe garantizar resultados económica,
social y ambientalmente óptimos y el cumplimiento de la
legislación, los principios y valores de la UE. Es necesario
1
examinar si la legislación actual es capaz de abordar los
riesgos de la IA y si se puede hacer cumplir efectivamente,
ya sea que se necesitan adaptaciones de la legislación, o si se
necesita una nueva legislación.
Los Estados miembros señalan la ausencia actual de un
marco europeo común. La Comisión de ética de datos de
Alemania ha pedido un sistema de regulación basado en el
riesgo de cinco niveles que irı́a desde no hay regulación para
los sistemas de IA más inocuos a una prohibición completa
para los más peligrosos. Dinamarca acaba de lanzar el pro-
totipo de un Sello de ética de datos. Malta ha introducido
un sistema de certificación voluntario para IA. Un marco
regulatorio europeo sólido para una IA confiable protegerá a
todos los ciudadanos europeos y ayudará a crear un mercado
interno sin fricciones para el desarrollo y la absorción de la
IA, ası́ como el fortalecimiento de la base industrial europea
en IA.
I-B. Dfinición del problema
Si bien la IA puede hacer mucho bien, incluso al hacer
que los productos y procesos sean más seguros, también
puede hacer daño. Este daño puede ser tanto material como
inmaterial y puede relacionarse con una amplia variedad de
riesgos. Un marco regulatorio debe concentrarse en cómo
minimizar los diversos riesgos de daño potencial, en particular
los más significativos.
Riesgos para los derechos fundamentales, incluyendo
datos personales y protección de privacidad y la no
discriminación: Estos riesgos pueden resultar por fallas
en el diseño general de los sistemas de IA (incluso en
lo que respecta a la supervisión humana) o por el uso
de datos sin corregir posibles sesgos (p. ej., el sistema se
2 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
entrena utilizando solo o principalmente datos de hombres
que conduce a resultados subóptimos en relación con las
mujeres).
La IA puede realizar muchas funciones que anteriormente
solo podı́an ser realizadas por humanos. Como resultado,
los ciudadanos y las entidades legales estarán cada vez
más sujetas a acciones y decisiones tomadas por o con la
asistencia de los sistemas de IA, que a veces pueden ser
difı́ciles de entender y desafiar de manera efectiva dónde
es necesario. Además, la IA aumenta las posibilidades de
rastrear y analizar los hábitos diarios de las personas. Al
analizar grandes cantidades de datos e identificar enlaces
entre ellos, la IA también pueden ser utilizados para rastrear
y anonimizar datos sobre personas, creando nuevos riesgos
de protección de datos personales . Las IA también es
utilizado por intermediarios para priorizar información para
sus usuarios y realizar moderación de contenido.
El sesgo y la discriminación son riesgos inherentes a cualquier
actividad social o económica. El ser humano no es inmune a
errores y prejuicios. Sin embargo, el mismo sesgo cuando está
presente en la IA podrı́a tener un efecto mucho mayor, que
afecta y discrimina a muchas personas sin los mecanismos
de control social que rigen el comportamiento humano .Las
caracterı́sticas especı́ficas de muchas tecnologı́as de IA,
incluida la opacidad (’efecto de caja negra’),La complejidad,
la imprevisibilidad y el comportamiento parcialmente
autónomo pueden dificultar la verificación y el cumplimiento
y puede obstaculizar la aplicación efectiva de las normas
de la legislación vigente de la UE destinadas a proteger los
derechos fundamentales.
Riesgos para la seguridad y el funcionamiento efectivo
del régimen de responsabilidad: Las tecnologı́as de IA
pueden presentar nuevos riesgos de seguridad para los usuarios
cuando están integrados en productos y servicios. Al igual que
con los riesgos para los derechos fundamentales, estos riesgos
pueden ser causados por fallas en el diseño de la tecnologı́a,
estar relacionada con problemas con la disponibilidad y cali-
dad de los datos u otros problemas derivados del aprendizaje
automático.
La falta de disposiciones de seguridad claras que aborden estos
riesgos puede, además de los riesgos para las personas, crear
incertidumbre legal para las empresas que comercializan sus
productos que involucran IA . Las autoridades de vigilancia
del mercado y de cumplimiento pueden encontrarse en una
situación en la que no tienen claro si pueden intervenir,
porque pueden no estar facultados para actuar o no tienen las
capacidades técnicas apropiadas para inspeccionar sistemas .Si
se materializan los riesgos de seguridad, la falta de requisitos
claros y las caracterı́sticas de las tecnologı́as de IA mencio-
nado anteriormente hace que sea difı́cil rastrear decisiones
potencialmente problemáticas tomadas con la participación de
los sistemas de IA.
I-C. Posibles disposiciones al marco legislativo existente de
la UE relacionado con la IA
Un amplio cuerpo de legislación vigente sobre seguridad
y responsabilidad de los productos de la UE , que incluye
normas especı́ficas, complementadas además por la legislación
nacional, son relevantes y potencialmente aplicables a un
número de aplicaciones emergentes de IA.
En cuanto a la protección de los derechos fundamentales y
los derechos del consumidor, el marco legislativo de la UE
incluye legislación como la Directiva de igualdad racial, la
Directiva sobre igualdad de trato en empleo y ocupación, las
Directivas sobre igualdad de trato entre hombres y mujeres
en relación con el empleo y el acceso a bienes y servicios,
una serie de normas de protección al consumidor, ası́ como
normas sobre protección de datos personales y privacidad,
en particular el Reglamento general de protección de datos
y otra legislación sectorial que cubre la protección de datos
personales, como la Ley de Protección de Datos Directiva
de ejecución. Si bien la legislación de la UE sigue siendo
en principio plenamente aplicable independientemente de la
participación de la IA, Es importante evaluar si se puede hacer
cumplir adecuadamente para abordar los riesgos que crean
los sistemas de IA, o si se necesitan ajustes a instrumentos
legales especı́ficos.
La Comisión considera que el marco legislativo podrı́a
mejorarse para abordar los siguientes riesgos y situaciones:
Aplicación efectiva y cumplimiento de la legislación
nacional y de la UE existente : para garantizar una
aplicación y ejecución efectiva de las normas, puede
ser necesario ajustar o aclarar la legislación existente en
ciertas áreas.
Limitaciones del alcance de la legislación vigente de la
UE : La legislación general de seguridad actual de la
UE, se aplica a productos y no a servicios, por lo tanto,
en principio, no a servicios basados en tecnologı́a de
IA tampoco (por ejemplo, servicios de salud, servicios
financieros, servicios de transporte).
Funcionalidad cambiante de los sistemas de IA : la
integración de software, incluida la IA, en los productos
puede modificar el funcionamiento de dichos productos
y sistemas durante su ciclo de vida. Estos riesgos no
se abordan adecuadamente en la legislación vigente que
se centra en los riesgos de seguridad presentes en el
momento de la comercialización.
Incertidumbre con respecto a la asignación de respon-
sabilidades entre los diferentes operadores económicos
en la cadena de suministro : en general, la legislación
de la UE sobre seguridad de los productos asigna la
responsabilidad del producto comercializado al produc-
tor, incluidos todos los componentes, por ejemplo, los
sistemas de IA. Pero las reglas pueden no ser claras si
se agrega IA después de que el producto se coloca en el
mercado por una parte que no sea el productor.
Cambios en el concepto de seguridad : el uso de IA en
productos y servicios puede generar riesgos que la legis-
HUMANOS Y MAQUINAS INTELIGENTES
lación de la UE actualmente no aborda explı́citamente.
Estos riesgos pueden estar presentes en el momento de
colocar productos en el mercado o surgir como resultado
de actualizaciones de software o autoaprendizaje cuando
se usa el producto.
I-D. Alcance de un futuro marco regulatorio de la UE
Una cuestión clave para el futuro marco regulatorio
especı́fico sobre inteligencia artificial es determinar el alcance
de su aplicación. La hipótesis de trabajo es que el marco
regulatorio se aplicarı́a a los productos y servicios basados en
IA. En cualquier nuevo instrumento legal, la definición de IA
deberá ser lo suficientemente flexible como para acomodar
progreso técnico a la vez que es lo suficientemente preciso
como para proporcionar la seguridad jurı́dica necesaria.
La UE tiene un marco legal estricto para garantizar, entre
otras cosas, la protección del consumidor, para abordar
prácticas comerciales y para proteger los datos personales
y la privacidad. Además, el acervo contiene información
especı́fica, reglas para ciertos sectores (por ejemplo, salud,
transporte). Estas disposiciones vigentes de la legislación de
la UE continuarán aplicándose en relación con la IA, aunque
ciertas actualizaciones a ese marco pueden ser necesarias
para reflejar la transformación digital y uso de IA .
Como cuestión de principio, el nuevo marco regulatorio para
la IA deberı́a ser efectivo para lograr sus objetivos sin ser
excesivamente prescriptivos para que pueda crear una carga
desproporcionada, especialmente para pymes. Para alcanzar
este equilibrio, la Comisión opina que deberı́a seguir un
enfoque basado en el riesgo. Esto es importante para ayudar
a garantizar que la intervención reguladora sea proporcional.
Sin embargo, requiere criterios claros para diferenciar entre
las diferentes aplicaciones de IA, en particular en relación
con la pregunta de si son o no de .alto riesgo”.
Una aplicación de IA debe considerarse de alto riesgo
cuando se encuentra los siguientes dos criterios acumulativos:
1. La aplicación de IA se emplea en un sector donde, dadas
las caracterı́sticas de las actividades tı́picamente empren-
didas, se puede esperar que ocurran riesgos significativos.
2. La aplicación de IA en el sector en cuestión, además,
se usa de tal manera que es probable que surjan riesgos
significativos.
No obstante, también puede haber casos excepcionales en
los que, debido a los riesgos en juego, el uso de aplicaciones
de IA para ciertos fines debe considerarse de alto riesgo
como tal, es decir, independientemente del sector en cuestión
y de dónde se seguirı́an aplicando los siguientes requisitos.
II. H OW DO WE LEARN TO WORK WITH INTELLIGENT
MACHINES ?
El autor inicia con una anécdota de una operación de
próstata, de como una persona se involucra en la cirugı́a y
3
aprende como las demás personas lo hacen, ya sea al observar
un experto, involucrarse en una parte sencilla para después
enfocarse en las partes complicadas para poder hacerlo de
manera autónoma, lo que se conoce como “ver uno, hacer
uno, enseñar uno”. Menciona que actualmente se está usando
la IA, pero está bloqueando nuestro aprendizaje en pro de la
eficiencia.
Después retoma la historia de la cirugı́a, pero con un robot
involucrado, donde la IA realiza la operación de manera más
segura y rápida que las personas y estas ya no tendrán la
oportunidad de practicar y aprender a hacer la cirugı́a. Esto
se ha repetido por diversos hospitales de EE. UU. Ahora la
parte de ”Ver uno”se habı́a aumentado y ya no habı́a ”hacer
uno”.
Al usar y depender tanto de las nuevas tecnologı́as en
varios campos de aplicación se está haciendo más difı́cil
los trabajos y el aprendizaje de algunas personas ya que
las IA dejaban la vara muy alta no habrı́a campo para el
aprendizaje de las personas. Además, se está bloqueando
el acceso a la educación cuando más se necesita. Ya no se
aprende en el cirujano sino en simuladores y con herramientas
digitales. Esto es llamado .aprendizaje sombra”. Ya no existe
la posibilidad de cometer errores.
El autor cierra la conferencia hablando de como es necesario
que la implementación de la IA debe ir ligada directamente
con los expertos en cada materia que se trata, esto podrı́a
hacer que la educación mejore en un futuro, y generar algo
mas utópico en un futuro donde no se necesite de un tutor para
cada aprendiz. Por último, dice que hay una gran importancia
en aprovechar lo mas que se pueda las IA pero sin que estas
bloqueen el acceso a la educación y el aprendizaje.
III. H OW WE CAN PROTECT TRUTH IN THE AGE OF
MISINFORMATION
El video inicia dando un ejemplo de una noticia falsa o fake
New publicada por la Associated Press en la cual decı́a que el
presidente Obama habı́a resultado herido, esto era una táctica
para el desplome económico de ciertos sectores a raı́z de esta
noticia, también se sabe del alto uso de este tipo de noticias
en época de elecciones democráticas, y varias situaciones
más. Después se habla del estudió que hizo sobre este tema,
en Twitter se estudiaron desde el año 2006 hasta el 2017 y
se concluye que una notica falsa tiene el potencial de tener
más impacto, más alcance y ser de más rápida distribución
que una noticia legitima, mas aun si el tema es polı́tico. Pero
también se observo como las “personas” de divulgaban estas
noticias tenı́an menos seguidores, seguı́an menos gente y
eran recientes en la plataforma. A este fenómeno se le quiso
estudiar bajo un enfoque sociológico con una hipótesis de la
novedad, que dice que las personas se sienten más atraı́das
por la novedad, lo cual es algo que se encuentra en las fake
news y además generan sorpresa y disgusto, mientras que las
4 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
noticias reales generan más expectativa, alegrı́a y confianza,
este problema de las fake news se puede dar gracias a IA pero
estos no son responsables, mientras que las personas si lo son.
Hay otras tecnologı́as, que van a ocacionar que la situación
empeore, los videos y audios falsos que se ven muy reales,
aquı́ es donde salen a relucir las IA, un modelo de ML con
dos redes: un discriminador (para ver si algo es falso o no)
y un generador (para crear medios sintéticos). Ası́, funcionan
como una máquina con retroalimentación que perfecciona más
y más para engañar. La segunda tecnologı́a, es esencialmente
la democratización de la IA, cualquier persona ası́ no tenga
experiencia, puede implementar estos algoritmos.
El autor propone algunas posibilidades para tratar estos
problemas, por ejemplo, el etiquetado de información, pero
este tiene un problema y es la responsabilidad de quien dirá
si algo es verı́dico o falso, otro ejemplo son los incentivos ya
sean polı́ticos, económicos, sociales. . . etc. En tercer lugar, está
la regulación y en cuarto lugar es la transparencia para que se
sepa el funcionamiento de los algoritmos que componen una
IA y ası́ lograr un mejor entendimiento y mayor aceptación de
estas tecnologı́as. Por último, se mencionan los algoritmos de
aprendizaje automático para entender y eliminar las noticias
falsas, ası́ como su transmisión y difusión.
Por último, se hace énfasis en que el responsable de las
Fake News siempre va a ser el ser humano y que este debe
estar vigilante para defender la verdad, con tecnologı́a, con
polı́tica y con nuestras propias responsabilidades, decisiones,
comportamientos y acciones.
IV. H OW AI CAN BRING ON A SECOND I NDUSTRIAL
R EVOLUTION
El conferencista inicia hablando de la tecnologı́a actual y
sus tendencias, estas pueden crear patrones que tienen cosas
en común, como, por ejemplo, la gravedad y la lluvia, y
como el agua a pesar de ser diversa siempre se dirige hacia
abajo a causa de la gravedad. Estas tendencias permiten que
se hagan predicciones del rumbo de la tecnologı́a, ahora se
intenta que las maquinas se hagan mas y mas inteligentes, y
esto se muestra con la tecnologı́a y las aplicaciones que hay
actualmente.
Después habla de 3 aspectos que se deben tener en cuenta
para entender las tendencias y poder controlar su desarrollo
para mejorar las IA.
En primer lugar, se menciona el no entender completamente
la inteligencia, se cree que se puede medir solo con algo
como el coeficiente intelectual, pero es algo más diverso y
compuesto por diversas clases de razonamiento agrupadas
que varı́an entre las personas. Esto pasa similar en los
animales, incluso algunos pueden tener algún aspecto mejor
que los humanos. Las máquinas se crean para tener alguno
de estos aspectos más altos de una forma más especı́fica,
por ejemplo, las calculadoras ya son más inteligentes en
un aspecto aritmético, un GPS en el aspecto espacial. Un
automóvil automático combina caracterı́sticas de ambos lados
y es un buen ejemplo de como se puede combinar un humano
y una máquina.
Después habla de un segundo aspecto el cual es que la
IA ayudara a crear una segunda revolución industrial, donde
actualmente el progreso se basa en el uso de la electricidad y
la tecnologı́a, además, al introducir las IA, se tiene entonces
un proceso no solo de electrificación sino de cognición de las
máquinas. Los autos (ahora autónomos) aparte de tener 250
caballos de fuerza, pueden tener 250 cerebros, lo cual muestra
el desarrollo que se le ha dado a esta tecnologı́a gracias a la
IA.
Como tercer aspecto es la humanización de las IA, ósea poner
un cuerpo a las IA existentes y crear los llamados robots, por
tanto, se deben definir trabajos y tareas, ya que se crearán
nuevas cosas que todavı́a si quiera se ha pensado, y las tareas
se definirán para los robots y deben ser medidas en cuestiones
de eficiencia y productividad. Se debe trabajar a la mano con
las nuevas tecnologı́as y no contra estas. Por último, se dice
que hasta ahora se esta iniciando con el campo de la IA, y
que el futuro que se espera es inmenso.
V. C ONCLUSIONES Y COMENTARIOS
El papel de las personas en las fake news es más
importante que el de la IA, por eso es necesario enseñar
y capacitar a las personas para que aprendan a detectar
y evitar la propagación de fake news, ya que en ultimas,
las personas son las que hacen que una noticia falsa sea
viralizada por el simple hecho de creer en algo que vio
en una red social.
Cualquier legislación o conjunto de leyes que enmarque
el uso de las IA debe velar por el cumplimiento de los
derechos fundamentales y debe prever los riesgos asocia-
dos a estas nuevas tecnologı́as, ya que esto es un deber
de cada paı́s, el velar por los derechos de sus ciudadanos
pero a su vez el correcto uso de las nuevas tecnologı́as
para que exista un verdadero desarrollo tecnológico.
El papel de la ética es muy importante para el desarrollo
de IA y para la toma de decisiones tanto humana como
de las máquinas. Preguntarse cuestiones filosóficas es ne-
cesario para poder realizar las actividades que involucren
tecnologı́a, a cualquier nivel.
R EFERENCIAS
[1] ”White Paper on Artificial Intelligence A European approach to
excellence and trust”, ec.europa.eu, 2020. [Online]. Available:
https://ec.europa.eu/info/sites/info/files/commission-white-paper-
artificial-intelligence-feb2020-en.pdf. [Accessed:01 June- 2020].
[2] M. Beane, How do we learn to work with intelligent machines? 2018.
[3] S. Aral, How we can protect truth in the age of misinformation 2018.
[4] K. Kelly, How AI can bring on a second Industrial Revolution 2016.