Documente Academic
Documente Profesional
Documente Cultură
Octubre 2016
12 de Octubre de 2016
Queridos colegas:
Los avances en las tecnologas en inteligencia artificial han abierto nuevos
mercados y nuevas oportunidades para el progreso en reas crticas como la salud,
educacin, energa y el ambiente. In aos recientes, las maquinas han superado a
los humanos en el desempeo de ciertas tareas especficas, tales como en algunos
aspectos de reconocimiento de imagen. Expertos pronostican que el rpido
progreso en el campo de la inteligencia artificial especializada continuar. Aunque
es muy improbable que las mquinas exhiban una inteligencia ampliamente
aplicable comparable o superior a la de los humanos en los prximos 20 aos, es
de esperar que las mquinas alcancen y excedan el rendimiento humano en ms y
ms tareas. Como contribucin a la preparacin de Estados Unidos para un futuro
en el que la inteligencia artificial juega un papel cada vez ms importante, este
informe examina el estado actual de la IA, sus aplicaciones actuales y potenciales
y las preguntas que se plantean para la sociedad y las polticas pblicas. El informe
tambin hace recomendaciones para acciones adicionales especficas por agencias
federales y otros actores. Un documento complementario establece un plan
estratgico para la investigacin y el desarrollo financiados con fondos federales en
AI. Adems, en los prximos meses, la Administracin publicar un informe de
seguimiento que explora en mayor profundidad el efecto de la automatizacin
impulsada por AI en los empleos y la economa.
El reporte fue desarrollado por la NSTC (Subcomit en aprendizaje automtico y la
inteligencia artificial), que fue fundada en mayo de 2016 para fomentar la
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Megan Smith
Jefe de tecnologa
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Contenido
Resumen ejecutivo ............................................................................................................... 4
Introduccin .......................................................................................................................... 9
Una breve historia de la IA....................................................................................................... 9
Qu es la inteligencia artificial? ......................................................................................... 11
El estado actual de la IA ......................................................................................................... 12
Divulgacin Pblica y Desarrollo de este Informe ......................................................... 18
Aplicaciones de la IA para el bien pblico ...................................................................... 19
IA en el gobierno federal. .................................................................................................. 22
Inteligencia Artificial y Regulacin .................................................................................. 24
Caso de estudio: Vehculos autnomos y Aeronaves .......................................................... 26
Investigacin y mano de obra........................................................................................... 32
Seguimiento del progreso en la IA ........................................................................................... 32
Apoyo Federal a la Investigacin AI ........................................................................................ 35
Investigacin y mano de obra................................................................................................... 37
IA, Automatizacin y Economa........................................................................................ 41
Equidad, seguridad y gobernabilidad .............................................................................. 42
Justicia, equidad y rendicin de cuentas ................................................................................ 43
Seguridad y control .................................................................................................................... 46
Consideraciones globales y seguridad ........................................................................... 49
Cooperacin internacional ........................................................................................................ 49
IA y Ciber seguridad................................................................................................................... 50
La IA en sistemas de armamento ............................................................................................ 52
Conclusin .......................................................................................................................... 55
Recomendaciones en este Informe.................................................................................. 56
Acrnimos ........................................................................................................................... 60
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Resumen ejecutivo
Es como un distribuidor preparado hacia los Estados Unidos, para un futuro en el
cual la Inteligencia Artificial (IA) juega un rol en crecimiento, nosotros encuestamos
en la corriente actual de la IA, esto est existiendo en aplicaciones potenciales, y en
los cuestionarios que elevan para sociedad y la polica publica en los progresos de
la IA. Nosotros tambin hacemos recomendaciones para acciones especficas
futuras promueven acciones para agencias federales y otros actores. Un documento
complementario llamado El plan estratgico nacional de investigacin y desarrollo
de inteligencia artificial establece un plan estratgico para buscar financiamiento
federal y desarrolladores en IA.
IA y regulacin
IA como aplicaciones en muchos productos, tales como automviles y aeronaves,
que estn sujetos a regulacin diseada para proteger al pblico de daos y
garantizar la equidad en la competencia econmica. Cmo afectar la
incorporacin de la IA en estos productos a los enfoques reglamentarios
pertinentes? En general, el enfoque de la regulacin de los productos compatibles
con IA para proteger la seguridad pblica debe ser informado mediante la
evaluacin de los aspectos de riesgo que la adicin de IA pueda reducir junto con
los aspectos de riesgo que puedan aumentar. Si un riesgo cae dentro de los lmites
de un rgimen regulador existente, adems, la discusin de polticas debe empezar
por considerar si las regulaciones existentes ya abordan adecuadamente el riesgo,
o si necesitan ser adaptadas a la adicin de IA. Adems, cuando las respuestas
regulatorias a la adicin de IA amenazan con aumentar el costo del cumplimiento o
frenar el desarrollo o la adopcin de innovaciones beneficiosas, los responsables
de la formulacin de polticas deberan considerar cmo esas respuestas podran
ajustarse para reducir costos y barreras a la innovacin sin afectar negativamente
la seguridad o el mercado de justicia.
Los ejemplos actuales de los retos regulatorios que presentan los productos
compatibles con IA se encuentran en los casos de vehculos automatizados (AV,
tales como automviles auto dirigidos) y sistemas de aeronaves no tripuladas
equipados con IA (UAS, o drones). A largo plazo, AV probablemente salvar
muchas vidas reduciendo el error del conductor y aumentando la movilidad
personal, y UAS ofrecer muchos beneficios econmicos. Sin embargo, la
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
seguridad pblica debe ser protegida a medida que estas tecnologas son probadas
y empiezan a madurar. El Departamento de Transporte (DOT, por sus siglas en
ingls) est usando un enfoque para desarrollar las regulaciones pertinentes que se
basan en la creacin de experiencia en el Departamento, creando espacios seguros
y camas de prueba para la experimentacin y trabajando con la industria y la
sociedad civil para desarrollar regulaciones basadas en desempeo que permitan
ms usos como evidencia de una operacin segura.
Impactos econmicos de la IA
El efecto econmico central de IA a corto plazo ser la automatizacin de tareas
que antes no podan ser automatizadas. Esto probablemente aumentar la
productividad y crear riqueza, pero tambin puede afectar a tipos particulares de
trabajos de diferentes maneras, reduciendo la demanda de ciertas habilidades que
pueden ser automatizadas mientras aumenta la demanda de otras habilidades que
son complementarias a la IA. El anlisis del Consejo de Asesores Econmicos
(CEA) de la Casa Blanca sugiere que el efecto negativo de la automatizacin ser
mayor en los empleos con salarios bajos y que existe un riesgo de que la
automatizacin impulsada por la IA incremente la brecha salarial entre los menos
educados y los ms, lo que podra incrementar la desigualdad econmica. La
poltica pblica puede abordar estos riesgos, asegurando que los trabajadores
reciban capacitacin y sean capaces de tener xito en ocupaciones que son
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
y estudiantes es una parte necesaria de la solucin. Lo ideal sera que todos los
estudiantes que aprendieran IA, ciencias de la computacin o ciencias de los datos
estuvieran expuestos al currculo y a la discusin sobre temas relacionados con la
tica y la seguridad. Sin embargo, la tica por s sola no es suficiente. La tica puede
ayudar a los profesionales a entender sus responsabilidades para todos los
interesados, pero la capacitacin tica debe ser aumentada con herramientas y
mtodos tcnicos para poner en prctica buenas intenciones haciendo el trabajo
tcnico necesario para prevenir resultados inaceptables.
Introduccin
La inteligencia artificial (IA) tiene el potencial de ayudar uno de los retos ms
grandes que enfrenta la sociedad. Los vehculos inteligentes pueden salvar miles
de vidas mundialmente cada ao e incrementar la movilidad para los mayores y
aquellos con discapacidades. Los edificios inteligentes pueden ahorrar energa y
reducir las emisiones de carbono. La medicina de precisin puede extender e
incrementar la calidad de vida. Un gobierno ms inteligente puede servir a los
ciudadanos ms rpido y preciso, proteger mejor aquellos en riesgo y ahorrar
dinero. Educacin mejorada con IA puede ayudar a los profesores a dar a los nios
una educacin que abra las puertas a una vida segura y completa. Esto es solo un
poco del potencial de los beneficios si la tecnologa es desarrollada teniendo en
cuenta sus beneficios y especial consideracin con sus retos y riesgos.
Los estados unidos han estado al frente de fundaciones de investigacin en la IA,
apoyadas principalmente por la mayora de los campos de historia por los fondos
de investigacin federal y el trabajo en laboratorios gubernamentales. El apoyo del
Gobierno Federal a la I + D sin clasificar se gestiona a travs del programa de
Investigacin y Desarrollo en Redes y Tecnologas de la Informacin (NITRD) y
apoyado principalmente por la Agencia de Proyectos Avanzados de Investigacin
en Defensa (DARPA), la Fundacion Nacional de Ciencia (NSF) (NIH), la Oficina de
Investigacin Naval (ONR) y la Actividad de Proyectos de Investigacin Avanzada
de Inteligencia (IARPA). Los principales esfuerzos nacionales de investigacin,
como la Iniciativa Nacional de Computacin Estratgica, la Iniciativa de Big Data y
la Iniciativa de Investigacin del Cerebro a travs de la Iniciativa Avanzada de
Neurotecnologas (BRAIN), tambin contribuyen indirectamente al progreso de la
investigacin de la IA. Los beneficios actuales y proyectados de la tecnologa de IA
son grandes, lo que aumenta la vitalidad econmica de la Nacin y la productividad
y bienestar de su gente. Un documento complementario establece un plan
estratgico para la investigacin y el desarrollo financiados con fondos federales en
IA.
Como una contribucin para preparar a los Estados Unidos para un futuro en el que
la IA desempea un papel cada vez ms importante, examinamos el estado actual
de la IA, sus aplicaciones actuales y potenciales y las cuestiones que el progreso
de la IA suscita para la sociedad y las polticas pblicas. Tambin hacemos
recomendaciones para acciones adicionales especficas por agencias federales y
otros actores.
Qu es la inteligencia artificial?
No existe una definicin nica de IA que sea universalmente aceptada por los
profesionales. Algunos definen IA como un sistema computarizado que exhibe un
comportamiento que comnmente se piensa que requiere inteligencia. Otros
definen a IA como un sistema capaz de resolver racionalmente problemas
complejos o tomar acciones apropiadas para alcanzar sus objetivos en cualquier
circunstancia real que encuentre.
Los expertos ofrecen diferentes taxonomas de problemas y soluciones de IA. Un
libro de texto IA popular utiliz la siguiente taxonoma: (1) sistemas que piensan
como seres humanos (por ejemplo, arquitecturas cognitivas y redes neuronales);
(Por ejemplo, pasar la prueba de Turing a travs del procesamiento del lenguaje
natural, la representacin del conocimiento, el razonamiento automatizado y el
aprendizaje), (3) sistemas que piensan racionalmente (por ejemplo,
5 En el Apndice del Informe AI 100 se puede encontrar un historial ms detallado de AI. Peter Stone, Erik Brynjolfsson, Ryan
Calo, Oren Etzioni, Greg Hager, Julia Hirschberg, Shivaram Kalyanakrishnan, Ece Kamar, Sarit Kraus, Kevin Leyton-Brown,
David Parkes, William Press, AnnaLee Saxenian, Julie Shah, Milind Tambe, y Astro Teller, "Inteligencia Artificial y Vida en
2030," Cien aos de estudio sobre Inteligencia Artificial: Informe del Panel de Estudio 2015-2016, Stanford University,
Stanford, CA, septiembre de 2016, http://ai100.stanford.edu/ 2016-informe.
6 The ImageNet Large Scale Visual Recognition Challenge provides a set of photographic images and asks for an accurate
description of what is depicted in each image. Statistics in the text refer to the classification error metric in the
classification+localization with provided training data task. See http://image-net.org/challenges/LSVRC/.
7 Steven Levy, "Cmo se reorganiza Google como mquina que aprende la primera compaa," Backchannel, 22 de junio de
2016, https://backchannel.com/how-google-is-remaking-self-as-a-machine-learning -first-company-ada63defcb70.
8 See, e.g., Andrew Nusca, IBMs CEO Thinks Every Digital Business Will Become a Cognitive Computing Business, Fortune,
June 1 2016. ([IBM] CEO Ginni Rometty is optimistic that the companys wager on cognitive computing, the term it uses for
applied artificial intelligence and machine learning technologies, is the biggest bet the company will make in its 105-year
history.)
9 Stuart Russell and Peter Norvig, Artificial Intelligence: A Modern Approach (3rd Edition) (Essex, England: Pearson, 2009).
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
El estado actual de la IA
Se han realizado progresos notables en lo que se conoce como Narrow AI, que se
ocupa de reas de aplicacin especficas, como jugar juegos estratgicos,
traduccin de idiomas, vehculos autodirigidos y reconocimiento de imgenes.12 La
AI estrecha sustenta muchos servicios comerciales como la planificacin de viajes,
la recomendacin del comprador sistemas y orientacin de anuncios, y est
encontrando aplicaciones importantes en el diagnstico mdico, la educacin y la
investigacin cientfica. Todos ellos han tenido importantes beneficios sociales y
han contribuido a la vitalidad econmica de la nacin.13
La IA general (a veces llamada Inteligencia General Artificial, o AGI) se refiere a un
futuro nocional sistema AI que exhibe comportamiento aparentemente inteligente
por lo menos tan avanzado como una persona en toda la gama de tareas cognitivas.
Un amplio abismo parece separar hoy a Narrow AI del desafo mucho ms difcil de
General AI. Los intentos de llegar a la IA general mediante la ampliacin de las
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
11 Pedro Domingos, El algoritmo maestro: cmo la bsqueda de la mquina de aprendizaje definitiva rehacer nuestro mundo
(Nueva York, Nueva York: Libros bsicos, 2015).
12 La AI estrecha no es un enfoque tcnico nico, sino ms bien un conjunto de problemas discretos cuyas soluciones se
basan en un conjunto de herramientas de mtodos de IA junto con algunos algoritmos especficos del problema. La diversidad
de los problemas y soluciones de la Narrow AI, y la aparente necesidad de desarrollar mtodos especficos para cada
aplicacin de Narrow AI, ha hecho imposible "generalizar" una sola solucin Narrow AI para producir un comportamiento
inteligente de aplicabilidad general.
13 Mike Purdy y Paul Daugherty, "Por qu la inteligencia artificial es el futuro del crecimiento", Accenture, 2016,
https://www.accenture.com/us-en/_acnmedia/PDF-33/Accenture-Why-AI-is- el-futuro-de-crecimiento.pdf.
14 La opinin de los expertos sobre la fecha prevista de llegada de AGI oscila entre 2030 y siglos. Hay una larga historia de
optimismo excesivo sobre la IA. Por ejemplo, el pionero de la IA Herb Simon predijo en 1957 que los ordenadores
actual. El Gobierno Federal debera adoptar en las cercanas a medio plazo si estos
temores estn justificados casi exactamente a las mismas polticas que la El
Gobierno Federal debe adoptar si no estn justificados. La mejor manera de crear
capacidad a corto plazo los riesgos especulativos es atacar los riesgos menos
extremos ya vistos hoy , como las corrientes seguridad, privacidad y riesgos de
seguridad, mientras invierten en investigacin sobre aptitudes y la forma en que
retos podran ser manejados. Adems, a medida que la investigacin y las
aplicaciones en el campo continan madurando, los profesionales de la IA en el
gobierno y las empresas deben abordar los avances con la debida consideracin a
largo plazo, adems de las preguntas tcnicas - que tal avances advienen. Aunque
la prudencia dicta cierta atencin a la posibilidad de que - inteligencia podra algn
da ser posible, estas preocupaciones no deberan ser el principal motor de la
poltica de AI.
Aprendizaje automtico
El aprendizaje automtico es uno de los enfoques tcnicos ms importantes de la
IA y la base de muchos recientes avances y aplicaciones comerciales de IA . El
aprendizaje moderno de la mquina es un proceso estadstico en los comienzos con
un cuerpo de datos que intenta derivar una regla o procedimiento que explique los
datos o pueda predecir datos futuros. Este enfoque - aprender de los datos que
contrasta con el mayor "Sistema experto" enfoque de la IA, en el cual los
programadores se sientan con expertos de dominio para aprender las reglas y los
criterios de uso retomar decisiones, y traducir esas reglas en cdigo de software.
Un sistema experto pretende emular los principios utilizados por humanos, mientras
que el aprendizaje automtico se basa en mtodos estadsticos para procedimiento
que funciona bien en la prctica.
Una ventaja del aprendizaje automtico es que puede utilizarse incluso en los casos
en que sea imposible o difcil de notar reglas explcitas para resolver un problema.
Por ejemplo, una empresa que ejecuta un servicio en lnea podra utilizar el
aprendizaje de la mquina para detectar el registro del usuario - en intentos que son
fraudulentos. La empresa podra comenzar con grandes datos junto con intentos
anteriores de inicio de sesin, con cada uno como fraudulento o no de beneficio
superando a los humanos en el ajedrez dentro de una dcada, un resultado que
requera 40 aos para ocurrir. Las primeras predicciones sobre la traduccin
automatizada de idiomas tambin result increblemente optimista en la tecnologa
que se ha convertido en utilizable (y no medio completamente fluido) en los ltimos
aos. Es tentador pero incorrecto extrapolar de la capacidad de resolver uno tarea
particular de imaginar mquinas con una gama mucho ms amplia y capacidades y
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
pasar por alto el enorme brecha entre tarea estrecha - y el tipo de inteligencia
general que exhiben las personas.
Aprendizaje profundo
En aos recientes, algunos de los avances ms impresionantes en la el aprendizaje
ha estado en el subcampo de aprendizaje profundo, tambin conocido como
aprendizaje en red profunda. El aprendizaje profundo utiliza estructuras ligeramente
inspiradas en el cerebro humano, que consiste en un conjunto de unidades (o
"neuronas"). Cada unidad combina un conjunto de valores a producir un salida valor
, que a su vez se transmite a otras neuronas aguas abajo. Por ejemplo, en una
aplicacin de reconocimiento de imagen, una primera unidades combinar los datos
sin procesar de la imagen para reconocer patrones simples en la imagen; una
segunda capa de unidades podra combinar los resultados de la primera capa
reconocer patrones - de - patrones; una tercera capa podra combinar los resultados
de la segunda capa; y as.
Las redes de aprendizaje profundo suelen utilizar muchas capas - a veces ms de
100 - y usan a menudo un grande nmero en cada capa, el reconocimiento de
patrones extremadamente complejos y precisos en los datos.
En los ltimos aos, nuevas teoras sobre cmo construir y tren profundo redes
Haber emergido, una afeitada ms grande, sistemas informticos ms rpidos ,
permitiendo el uso de mucho ms grande aprendizaje profundo redes. El dramtico
xito de estos muy grandes en muchas tareas de aprendizaje automtico ha sido
una sorpresa para algunos expertos, y es la principal causa de la actual ola de
entusiasmo por el aprendizaje automtico entre IA investigadores y practica.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Autonoma y Automatizacin
AI se aplica a menudo a sistemas que pueden controlar actuadores fsicos o activar
acciones en lnea. Cuando IA entra en contacto con el mundo cotidiano, las
cuestiones de autonoma, automatizacin y - mquina agrupacin surgir.
Autonoma se refiere a la capacidad de un sistema para operar y adaptarse a las
circunstancias cambiantes con reducido o sin control humano . Por ejemplo, un
automvil autnomo podra conducirse a su destino. A pesar de la atencin en gran
parte de la literatura en automviles y aviones, autonoma es un concepto mucho
ms amplio que incluye escenarios como la automatizacin de la negociacin
financiera y los sistemas automatizados de restauracin de contenidos. Autonoma
tambin incluye sistemas que pueden diagnosticar y reparar fallas en su propia
operacin, tales como identificar y fijar gramo vulnerabilidades de seguridad.
Automatizacin ocurre cuando un la mquina hace el trabajo que pudo haber sido
hecho previamente por una persona. Los trmino se refiere a ambos trabajo fsico
y mental o cognitivo que podra ser reemplazado por IA. Automatizacin y su
impacto en empleo, ha ve fenmenos sociales y econmicos significativos un ya
que al menos la Revolucin Industrial. Es ampliamente aceptado que IA
automatizar algunos trabajos, pero hay ms debate sobre si este es simplemente
el prximo captulo en la historia de la o si la IA afectar a la economa de forma
diferente a las olas pasadas de automatizacin previamente .
Si las clulas contenan o no el cncer, una IA - enfoque basado en tena un 7,5 por
ciento Tasa de error, dnde un patlogo humano tena un 3.5 por ciento Tasa de
error; un enfoque combinado, nosotros tanto la IA como el aporte humano, baj la
tasa de error a 0,5 por ciento, lo que representa una reduccin del 85 por ciento en
el error.
22 The potential benefits of increasing access to digital technologies are detailed further in the World Bank Groups Digital
Dividends report. (World Development Report 2016: Digital Dividends, The World Bank Group, 2016,
http://documents.worldbank.org/curated/en/896971468194972881/pdf/102725-PUB-Replacement-PUBLIC.pdf.)
23 Eric Elster, Surgical Critical Care Initiative: Bringing Precision Medicine to the Critically Ill, presentation at AI for Social
Good workshop, Washington, DC, June 7, 2016, http://cra.org/ccc/wp-content/uploads/sites/2/2016/06/Eric-Elster-AI-slides-
min.pdf.
24 Katharine E. Henry, David N. Hager, Peter J. Pronovost, and Suchi Saria, "A targeted real-time early warning score
(TREWScore) for septic shock," Science Translational Medicine 7, no. 299 (2015): 299ra122-299ra122.
25 Stephen F. Smith, Smart Infrastructure for Urban Mobility, presentation at AI for Social Good workshop, Washington, DC,
June 7, 2016, http://cra.org/ccc/wp-content/uploads/sites/2/2016/06/Stephen-Smith-AI-slides.pdf.
26 Aimee Leslie, Christine Hof, Diego Amorocho, Tanya Berger-Wolf, Jason Holmberg, Chuck Stewart, Stephen G. Dunbar,
and Claire Jea,, The Internet of Turtles, April 12, 2016,
https://www.researchgate.net/publication/301202821_The_Internet_of_Turtles.
27 John Markoff, No Sailors Needed: Robot Sailboats Scout the Oceans for Data, The New York Times, September 4, 2016.
29 Neal Jean, Marshall Burke, Michael Xie, W. Matthew Davis, David B. Lobell, and Stefano Ermon. "Combining satellite
imagery and machine learning to predict poverty." Science 353, no. 6301 (2016): 790-794.
IA en el gobierno federal.
La administracin est trabajando para desarrollar polticas y prcticas internas que
sern los mximos beneficios econmicos y sociales de la Inteligencia Artificial y
promueve la innovacin. Estas polticas y prcticas pueden incluir:
Invertir en lo bsico y aplicarlo en la investigacin y desarrollo.
Servir como un comprador prematuro para las tecnologas de Inteligencia
Artificial y sus aplicaciones.
Apoyando proyectos piloto y creando probetas en escenarios del mundo real.
Creando bancos de datos disponibles para el pblico.
Patrocinando incentivos
Identificando y persiguiendo grandes retos para establecer ambiciones pero
con metas alcanzables.
Financiando evaluaciones rigurosas de aplicaciones de la Inteligencia
Artificial para tomar medida de su impacto, costo y eficiencia.
Creando una poltica, legal, y en un ambiente regulado que permita la
innovacin para prosperar mientras se protege lo pblico desde el dao.
31 Ganar el futuro de la educacin: el papel de ARPA-ED, The U.S. Department of Education, March 8 2011,
https://www.whitehouse.gov/sites/default/files/microsites/ostp/arpa-ed-factsheet.pdf.
https://www.whitehouse.gov/sites/default/files/microsites/ostp/PCAST/pcast_workforce_edit_report_sept_2014.pdf.
Estos aumentos salariales parecen ser mucho mayores que los impactos en los
programas de desarrollo de la fuerza de trabajo 33. Idealmente, estos resultados
seran confirmados independientemente, realizados, aleatorizados, ensayos
controlados. Actualmente, el costo de desarrollar tutores digitales es alto y no es
una metodologa repetible para desarrollar tutores digitales eficaces. Investigacin
que permite el surgimiento de una industria que utiliza enfoques de IA como los
tutores digitales podra potencialmente ayudar a los trabajadores a adquirir
habilidades.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
33 J.D. Fletcher, "Tutora digital en tecnologa de sistemas de informacin para veteranos: Informe de datos", El Instituto para
Anlisis de Defensa, septiembre de 2014.
La Promesa de la Autonoma
La aplicacin de la IA a los vehculos y los aviones ha capturado la imaginacin del
pblico. Los coches nuevos de hoy en da tienen funciones de asistencia al
conductor basadas en AI, como autoservicio y controles avanzados que mantienen
un automvil en su carril y ajustan la velocidad en funcin de los vehculos
circundantes. Los automviles experimentados completamente automatizados
supervisados por los seres humanos ya se pueden ver conduciendo en las
carreteras. El consenso de los expertos es que la tecnologa automatizada de
vehculos de superficie ser ms segura que los conductores humanos y algn da
puede prevenir la mayora de las decenas de miles de muertes que ocurren
anualmente en las carreteras y autopistas de la nacin.
Los vehculos automatizados tambin ofrecen la posibilidad de una mayor movilidad
para los ancianos y los estadounidenses con discapacidades que no pueden
conducir. El acceso de primera y ltima milla al trnsito y otros enfoques novedosos
de transporte pueden proveer a las comunidades aisladas de servicios esenciales
tales como trabajos, cuidado de la salud y provisiones sin precedentes acceso a
oportunidades. Un sistema bien diseado de vehculos automatizados capaces de
predecir y evitar colisiones tambin puede reducir significativamente las emisiones
relacionadas con el transporte y el consumo de energa. La Administracin est
tomando medidas para hacer realidad esta visin, incluida la propuesta de $ 3.900
Billones de inversin en el presupuesto fiscal del ao fiscal 2017 por el
Departamento de Transporte en investigacin, desarrollo e implementacin de
vehculos automatizados y conectados, para asegurar que Estados Unidos
mantenga su liderazgo en tecnologas automatizadas de vehculos.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Secretario Fox revela la propuesta del presupuesto del Presidente Obama, cerca de $4 billones para los Vehculos
Automatizados y anuncia las iniciativas del Departamento de transporte para poder Acelerar las Innovaciones del Seguro del
Vehculo. U.S. Departamento de Transporte, Enero 14 del 2016, https://www.transportation.gov/briefing-room/secretary-foxx-
unveils-presidentobama%E2%80%99s-fy17-budget-proposal-nearly-4-billion.
Desde principios de los aos noventa, las UAS comerciales han funcionado de
forma limitada en el Sistema Nacional de Espacios Areos (NAS, por sus siglas en
ingls) Hasta hace poco, las UAS respaldaban principalmente operaciones
gubernamentales, como operaciones militares y de seguridad fronteriza. Pero en los
ltimos aos, las aplicaciones potenciales se han expandido rpidamente para
incluir fotografa area, inspeccin de tierras y cultivos, monitoreo de incendios
forestales, respuesta a desastres e inspeccin de infraestructura crtica. Varias
agencias gubernamentales ya estn operando UAS para avanzar en sus misiones,
y miles de estadounidenses han obtenido la autoridad necesaria de la
Administracin Federal de Aviacin (FAA) para las operaciones comerciales de la
UAS, un proceso acelerado bajo la "Regla de la UAS pequea" que entr en vigor
en agosto 2016 y el Servicio de Registro de Aviones Pequeos UAS de la FAA que
se lanz en diciembre de 2015. La FAA estima que el nmero de UAS registradas
para uso comercial exceder 600,000 en agosto de 2017.
Una estimacin del impacto econmico de la integracin de la UAS en el espacio
areo predijo ms de 13.600 millones de dlares de valor econmico creado por la
UAS en los tres primeros aos de integracin, con un crecimiento sostenible previsto
para seguir. Un estudio de 2013 de la Asociacin Internacional para Sistemas de
Vehculos No Tripulados predijo que la industria de aviones comerciales podra
generar ms de $ 82 mil millones para la economa de EE.UU. Y crear ms de
100.000 nuevos puestos de trabajo en los prximos 10 aos. Los ingresos fiscales
para los estados se prev que aumenten en ms de $ 482 millones en la primera
dcada despus de la integracin.
Seguridad Garantizada
Al darse cuenta de los beneficios potenciales de estas tecnologas prometedoras,
es necesario que el gobierno adopte medidas para garantizar la seguridad del
espacio areo y las carreteras, al tiempo que contina fomentando una cultura de
innovacin y crecimiento. Estados Unidos tiene el sistema de aviacin ms seguro
y complejo del mundo, y el pblico depende de la supervisin de la FAA para
establecer normas de seguridad. Las Normas Federales de Seguridad de Vehculos
Motorizados (FMVSS) imponen requisitos a los fabricantes para desarrollar
vehculos de superficie seguros, y la NHTSA tiene la autoridad para retirar vehculos
en caso de un riesgo irrazonable para la seguridad. Aunque hay una oportunidad
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Aerospace Forecast Report Los aos fiscales 2016 a 2036, "La Administracin Federal de Aviacin, 24 de marzo 016,
https://www.faa.gov/data_research/aviation/aerospace_forecasts/media/Unmanned_Aircraft_Systems.pdf.
Derryl Jenkins and Bijan Vasigh, The Economic Impact of Unmanned Aircraft Systems Integration in the United States, The
Association for Unmanned Vehicle Systems International, 2013,
https://higherlogicdownload.s3.amazonaws.com/AUVSI/958c920a-7f9b-4ad2-9807-
f9a4e95d1ef1/UploadedImages/New_Economic%20Report%202013%20Full.pdf.
Ignoradas-la aritmtica simple dicta que para que los fallos ocurran al menos tan a
menudo como ocurren con los conductores humanos, un sistema debe manejar
muchos de estos casos raros sin fallar.
Para sistemas que dependen del aprendizaje automtico, la necesidad de obtener
casos excepcionales tiene implicaciones para el diseo y las pruebas del sistema.
Los enfoques de aprendizaje automtico pueden estar ms seguros de que un caso
ser manejado correctamente si un caso similar est en el conjunto de
entrenamiento. El reto es cmo desarrollar un conjunto de datos que incluya
suficientes casos raros que contribuyan al riesgo de un accidente. La aviacin
comercial tiene mecanismos para compartir datos sobre incidentes y seguridad en
toda la industria, pero la presentacin de informes puede no ser de segunda ndole
para los operadores UAS recientemente acreditados que son nuevos en la cultura
de seguridad y rendicin de cuentas de la industria de la aviacin tradicional.
Actualmente no existe un sistema comparable para la industria del automvil, slo
se reportan accidentes fatales y la recoleccin y notificacin de otra informacin de
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
55 libras La regla limita los vuelos diurnos, a una altitud de 400 pies o menos, con
el vehculo controlado por un operador con licencia y dentro de la lnea de visin
directa del operador. Vuelos sobre personas no estn permitidos.
Se planean reglas subsecuentes para relajar estas restricciones, ya que la
experiencia y los datos muestran cmo hacerlo de manera segura. En particular, el
DOT est elaborando actualmente un anuncio de propuesta de reglamentacin que
propone un ciertos tipos de "UAS micro" para llevar a cabo operaciones sobre
personas, con una regla sobre operaciones ampliadas se espera que siga.
La FAA an no ha anunciado pblicamente un camino claro hacia una regulacin
que permita un vuelo totalmente autnomo40.
Aunque la integracin segura de aviones autnomos en el espacio areo ser un
proceso complejo, la FAA
___________________________________
40 Este informe utiliza el trmino "autnomo" para una aeronave que es controlada
por una mquina en lugar de un ser humano. "Pilotado" se refiere a un avin que
tiene un humano a bordo que est controlando el avin. "Controlado a distancia" se
refiere a preparndose para un futuro tecnolgico no tan lejano en el que aeronaves
autnomas y pilotadas vuelan juntas en un sistema de espacio areo perfectamente
integrado.
______________________
un avin que es controlado por un ser humano que no est a bordo. "Tripulado" significa que hay un humano a
bordo que puede o no estar en control.
41 Heinz Erzberger, "The Automated Airspace Concept", preparado para el IV Seminario de I + D de Gestin
del Trnsito Areo USA / Europa del 3 al 7 de diciembre de 2001, Santa Fe, Nuevo Mxico, Estados Unidos,
http: //www.aviationsystemsdivision.arc.nasa .gov / publications / tactical / erzberger_12_01.pdf.
42 Michael Ball, Cynthia Barnhart, Martin Dresner, Mark Hansen, Kevin Neels, Amedeo Odoni, Everett Peterson,
Lance Sherry, Antonio Trani y Bo Zou, "Estudio de Impacto de Retraso Total: Evaluacin Integral de los Costos
e Impactos del Retardo de Vuelo Estados Unidos, "El Centro Nacional de Excelencia para la Investigacin de
Operaciones Aeronuticas, noviembre de 2010, http://www.nextor.org/pubs/TDI_Report_Final_11_03_10.pdf.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
43 Robert W. Poole, Jr., "La Necesidad Urgente de Reformar el Sistema de Control de Trfico Areo de la FAA",
The Heritage Foundation, 2007, http://www.heritage.org/research/reports/2007/02/the-urgent -necesario-a-
reforma-el-faas-control-de-trfico-areo.
44 "Federal Automated Vehicles Policy", del Departamento de Transporte de los Estados Unidos, 21 de
septiembre de 2016, https://www.transportation.gov/AV
Estudio de cien aos de Stanford sobre Inteligencia Artificial48 planea llevar a cabo
"una serie de estudios peridicos sobre cmo la IA afectar la automatizacin, la
seguridad nacional, la psicologa, la tica, el derecho, la privacidad, la democracia
y otras cuestiones". El primero de estos estudios fue publicado en septiembre de
2016.49
Una lnea de investigacin potencialmente til es la de examinar los juicios de
expertos con el tiempo. Como un ejemplo, una encuesta de los investigadores de
IA encontr que el 80 por ciento de los encuestados crea que a nivel humano AI
general se lograr, y la mitad cree que es por lo menos 50 por ciento probable que
se logre en el ao 2040. La mayora de los encuestados tambin crea que Mientras
que estas predicciones particulares son altamente inciertas, como se discuti
anteriormente, tales encuestas de juicio de expertos son tiles, especialmente
cuando se repiten con suficiente frecuencia para medir los cambios en el juicio con
el tiempo. Una manera de obtener juicios frecuentes es la realizacin de "torneos
de prediccin" como los mercados de prediccin, en los que los participantes tienen
incentivos financieros para hacer predicciones precisas.51 Otros
_______________________
45La trayectoria de los pronsticos tecnolgicos, en general, y las previsiones de AI, en particular, sugieren que esto puede
ser difcil. Una de las mayores revisiones retrospectivas de los pronsticos tecnolgicos de los ltimos 50 aos encontr que
los pronsticos con horizonte de tiempo superior a 10 aos rara vez eran mejores que los monedas 45. (Carrie Mullins,
"Anlisis Retrospectivo de Pronsticos Tecnolgicos", The Tauri Group, 13 de agosto de 2012.) Una revisin de 95
predicciones de tiempo para la IA de 1950 a 2012 encontr que la mayora de los pronsticos pronosticados de AI General
se lograran "en los prximos 20 aos . " (Stuart Armstrong, Kaj Sotala, Sen S. higeartaigh, "Los errores, las ideas y las
lecciones de las predicciones famosas de la IA - y lo que significan para el futuro", Journal of Experimental & Theoretical
Artificial Intelligence, 20 de mayo de 2014.)
46 "Panel Presidencial de AAAI sobre Futuros AI a Largo Plazo: Estudio 2008-2009," La Asociacin para el Avance de la
Inteligencia Artificial, http://www.aaai.org/Organization/presidential-panel.php.
47 "AI Safety Conference in Puerto Rico," El futuro de la vida Instituto, 12 de octubre de 2015,
http://futureoflife.org/2015/10/12/ai-safety-conference-in-puerto-rico.
49 Ibid.
50 Vincent Mller y Nick Bostrom, "El progreso futuro en inteligencia artificial: una encuesta de opinin de expertos",
Fundamental Issues of Artificial Intelligence, 2014.
51 Charles Twardy, Robin Hanson, Kathryn Laskey, Tod S. Levitt, Brandon Goldfedder, Adam Siegel, Bruce D'Ambrosio y
Daniel Maxwell, "SciCast: Previsin Colectiva de la Innovacin", Inteligencia Colectiva, 2014.
__________________________
52 Sara Reardon, "Text-mining ofrece pistas para el xito: programa de inteligencia de EE.UU. analiza el
lenguaje en patentes y documentos para identificar las prximas grandes tecnologas", Nature no. 509, 410 (22
de mayo de 2014).
Sin duda, el sector privado ser el motor principal del progreso de la AI. Pero tal
como est, hay una subinversin en la investigacin bsica -investigacin con
horizontes de largo tiempo conducidos con el nico propsito de fomentar la base
de conocimiento cientfico- en parte porque es difcil para una empresa privada
obtener un retorno de su inversin en dicha investigacin en un plazo razonable. La
investigacin bsica beneficia a todos, pero slo la empresa que realiza la
investigacin paga los costos. La literatura sugiere que, como resultado, los niveles
actuales de gasto en I + D son de la mitad a la cuarta parte del nivel de inversin en
I + D que producira el nivel ptimo de crecimiento econmico.55
___________________
53 Jason Furman, "Es esta vez diferente? Las Oportunidades y Desafos de la Inteligencia Artificial ", (Presentacin, IA
Ahora: Las Implicaciones Sociales y Econmicas de las Tecnologas de Inteligencia Artificial en el Trmino Proximo, New
York, NY, 7 de julio de 2016), disponible en https://www.whitehouse. gov / sites / default / files / page / files /
20160707_cea_ai_furman.pdf.
54 Jason Furman, "Es esta vez diferente? Las Oportunidades y Desafos de la Inteligencia Artificial ".
55 Nicholas Bloom, Mark Schankerman, John Van Reene, "Identificacin de los derrames tecnolgicos y la rivalidad en el
mercado de productos", Econometrica, 81: 1347-1393. doi: 10.3982 / ECTA9466.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Recomendacin 13: El gobierno federal debe dar prioridad a la investigacin bsica
ya largo plazo sobre la IA. La Nacin en su conjunto se beneficiara de un aumento
constante de la R&D en el mbito federal y privado, con especial nfasis en la
investigacin bsica y las iniciativas de investigacin a largo plazo y de alto riesgo.
Debido a que la investigacin bsica ya largo plazo son reas en las que el sector
privado no es probable que invierta, las inversiones federales sern importantes para
R&D en estas reas.
La integracin de la IA, la ciencia de los datos y los campos afines en todo el sistema
educativo de la nacin es esencial para desarrollar una fuerza de trabajo que pueda
abordar las prioridades nacionales. Las instituciones educativas estn
estableciendo y creando programas de IA en todos los niveles. Universidades,
colegios e incluso escuelas secundarias estn ampliando los programas de AI y
ciencia de datos, pero se necesitan ms programas y maestros.
__________________
Bronwyn H. Hall, Jacques Mairesse y Pierre Mohnen, "Medicin de los Retornos a la Investigacin y Desarrollo",
captulo preparado para el Manual de Economa de la Innovacin, BH Hall y N. Rosenberg (editores), 10 de
diciembre de 2009, https: // eml.berkeley.edu/~bhhall/papers/HallMairesseMohnen09_rndsurvey_HEI.pdf.
Charles I. Jones y John C. Williams, "Measuring the Social Returns to R & D", The Quarterly Journal of
Economics (1998) 113 (4): 1119-1135, doi: 10.1162 / 003355398555856.
Tambin es necesario desarrollar una slida comunidad de investigacin en campos fuera de las disciplinas
tcnicas relacionadas con la IA, para examinar los impactos y las implicaciones de la AI en la economa, las
ciencias sociales, la salud y otras reas de investigacin.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
El desafo de la diversidad
Todos los sectores enfrentan el reto de cmo diversificar la fuerza de trabajo de AI.
La falta de gnero y la diversidad racial en la fuerza de trabajo de IA refleja la falta
de diversidad en la industria de la tecnologa y el campo de la informtica en general.
Desplegar todo el potencial del pueblo estadounidense, especialmente en los
campos STEM, en el emprendimiento y en la industria tecnolgica es una prioridad
de esta Administracin. La importancia de incluir a personas de diversos orgenes,
experiencias e identidades, especialmente mujeres y miembros de grupos raciales
y tnicos tradicionalmente sub-representados en STEM, es uno de los desafos ms
crticos y de alta prioridad para la informtica y la IA.
Slo el 18 por ciento de los graduados en ciencias de la computacin son mujeres,
frente a un pico del 37 por ciento en 1984.57 Aunque hay una falta de datos
demogrficos reportados de forma consistente en la fuerza laboral de IA, algunas
estadsticas estn disponibles. En la Conferencia de Sistemas de Procesamiento de
Informacin Neural (NIPS) en 2015 -una de las conferencias ms grandes del ao
sobre investigacin de AI- slo 13.7 por ciento de los participantes de la conferencia
fueron
_________________
57 Christianne Corbett y Catherine Hill, "Resolviendo la ecuacin: Las variables para el xito de la mujer en ingeniera y
computacin", The American Association of University Women, marzo de 2015, http://www.aauw.org/files/2015/03/Solution -
la-Ecuacin-informe-nsa.pdf.
Recomendacin 14: Los Subcomits NSTC sobre MLAI y NITRD, conjuntamente con
el Comit de Ciencia, Tecnologa, Ingeniera y Educacin (CoSTEM) de la NSTC,
deberan iniciar un estudio sobre la tubera de mano de obra de AI con el fin de
desarrollar acciones que aseguren un aumento apropiado en el tamao, la calidad y
la diversidad de la fuerza de trabajo, incluidos los investigadores, especialistas y
usuarios de IA.
__________________
60 Jason Furman, "Es esta vez diferente? Las Oportunidades y Desafos de la Inteligencia Artificial ".
61 Georg Graetz y Guy Michaels, "Robots at Work", Documento de discusin del CEPR No. DP10477, marzo de 2015,
http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2575781.
necesarias para dar a los interesados una confianza justificada de que los fracasos
involuntarios son poco probables.
________________________________________
La Casa Blanca, "Grandes Datos: Aprovechando las Oportunidades, Preservando Valores", mayo de 2014,
https://www.whitehouse.gov/sites/default/files/docs/big_data_privacy_report_may_1_2014.pdf; y La Casa Blanca, "Grandes
Datos: Un Informe sobre Sistemas Algortmicos, Oportunidad y Derechos Civiles", mayo de 2016,
https://www.whitehouse.gov/sites/default/files/microsites/ostp/2016_0504_data_discrimination.pdf.
63 La Casa Blanca, "Grandes Datos: Aprovechando las Oportunidades, Preservando Valores", Oficina Ejecutiva del
Presidente, mayo de 2014.
64 La Casa Blanca, "Grandes Datos: Un Informe sobre Sistemas Algortmicos, Oportunidad y Derechos Civiles", Oficina
Ejecutiva del Presidente, mayo de 2016.
65 Matt Ford, "Las estadsticas que faltan de la justicia penal", The Atlantic, 31 de mayo de 2015,
http://www.theatlantic.com/politics/archive/2015/05/what-we-dont-know-about-mass -incarcelacin / 394520 /
66 Julia Angwin, Jeff Larson, Surya Mattu y Lauren Kirchner, "Machine Bias", ProPublica, 23 de mayo de 2016,
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal- sentencia
67 David Robinson y Logan Koepke, "Stuck in a Pattern: Early evidencia sobre 'predictive policing' y derechos civiles", Upturn,
agosto de 2016, http://www.stuckinapattern.org.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Argument que hoy, debido a la falta de entender los algoritmos IA, la forma ms
efectiva de minimizar el riesgo de resultados no intencionados es a travs de
extensas pruebas esencialmente para hacer una larga lista de los tipos de malos
resultados que podran ocurrir y descartar estos resultados mediante la creacin de
muchas pruebas especializadas para ellos.
Un ejemplo de lo que puede salir mal en ausencia de pruebas exhaustivas proviene
de un modelo automticamente subtitulando las fotos, que pusieron el subttulo
"gorila" en algunas fotos de las primeras caras humanas de piel oscura. Esto era
contrario a los valores de los desarrolladores, y se produjo a pesar de las pruebas
que mostr que el modelo produjo resultados precisos en un alto porcentaje de
todas las fotos. Estos errores, aunque raros, tenan consecuencias negativas que
estaban ms all de la comprensin del modelo, que no tena ningn concepto
incorporado de raza, ni ninguna comprensin del contexto histrico relevante. Una
manera de evitar este tipo de error habra implicado pruebas extensas del algoritmo
para escudriar cmo humanos las caras, en particular, estn etiquetadas,
incluyendo el examen de algunos resultados por personas que podran reconocer
resultados inaceptables que el modelo no captara.
El entrenamiento tico para practicantes de IA y estudiantes es una parte necesaria
de la solucin. Idealmente, cada estudiante IA, la informtica o la ciencia de los
datos estaran expuestos al currculo y al debate sobre tica y temas de seguridad.
Sin embargo, la tica por s sola no es suficiente. La tica puede ayudar a los
profesionales comprender sus responsabilidades para con todos los interesados,
pero la formacin tica debe aumentarse Capacidad tcnica para poner en prctica
buenas intenciones tomando precauciones tcnicas a medida que se construye un
sistema y probado.
A medida que los profesionales se esfuerzan por hacer los sistemas de IA ms
justos, justos y responsables, a menudo hay oportunidades para hacen de la
tecnologa una ayuda a la rendicin de cuentas en lugar de una barrera para ella.
Investigacin para mejorar la interoperabilidad de los resultados de aprendizaje de
la mquina es un ejemplo. Tener un modelo interpretable que ayude a la gente
entiende que una decisin les da poder para interrogar las suposiciones y los
procesos detrs de ella.
Existen varios enfoques tcnicos para mejorar la rendicin de cuentas y la solidez
de las decisiones algortmicas. Un sistema puede ser probado "en estado salvaje"
presentndolo con situaciones y observando su comportamiento. Un sistema puede
ser sometido a prueba de caja negra, en la que se presenta con insumos sintticos
y su comportamiento es observado, permitiendo que el comportamiento sea
probado en escenarios que no pueden ocurrir naturalmente.
Se pueden publicar algunos o todos los detalles tcnicos del diseo de un sistema,
lo que permite a los analistas replicarlo y analizar aspectos de su comportamiento
interno que podran ser difciles de caracterizar con las pruebas solas. En algunos
casos es posible publicar informacin que ayude al pblico a evaluar el riesgo de
sesgo de un sistema, mientras retenga otra informacin sobre el sistema como
propietario o privado.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Seguridad y control
En los talleres, los expertos de IA dijeron que uno de los principales factores que
limitan el despliegue de la AI en el real mundo es la preocupacin por la seguridad
y el control. Si los profesionales no pueden lograr una confianza sistema es seguro
y controlable, por lo que el despliegue del sistema no crea un riesgo inaceptable de
graves consecuencias negativas, entonces el sistema no puede ni debe ser
desplegado.
Algunas instituciones pueden optar por incorporar la tica en los cursos existentes.
Otros pueden optar por introducir cursos de tica.
72 La prueba de caja negra permite que se presente un sistema con datos ficticios, lo que permite
experimentos que varan los atributos individuales de un individuo, as como un mayor nmero de experimentos de lo que
podra ser posible para pruebas en su naturaleza. Vase, por ejemplo, Anupam Datta, Shayak Sen y Yair Zick, "Transparencia
Algortmica va Influencia cuantitativa de la entrada: teora y experimentos con sistemas de aprendizaje, "Proceedings of 37th
IEEE Simposio sobre seguridad y privacidad, 2016.
entrenamiento? Por ejemplo, debe lanzar cosas que es poco probable que
pertenezcan a nadie, pero dejar de lado las cosas que podran pertenecer a alguien
(debe manejar envolturas de caramelos extraviados de manera diferente a los
telfonos mviles perdidos). Preguntar a los seres humanos involucrados si han
perdido algo puede servir como un cheque en esto, pero este cheque puede tener
que ser relativamente infrecuente - el robot puede encontrar una manera de hacer
lo correcto a pesar de la informacin limitada? Exploracin Segura: Cmo nos
aseguramos de que el robot de limpieza no haga movimientos exploratorios con
muy mala repercusin? Por ejemplo, el robot debe experimentar con las estrategias
de fregado, pero poniendo un trapeador mojado en un enchufe elctrico es una idea
muy mala. Robustez al cambio de distribucin: Cmo nos aseguramos de que el
robot de limpieza reconoce y se comporta de forma robusta cuando se encuentra
en un entorno diferente del ambiente de entrenamiento? Por ejemplo, la heurstica
que aprendi para limpiar pisos de fbrica puede ser completamente peligrosa en
una oficina.
Estos ejemplos ilustran cmo la "inteligencia" de un sistema de IA puede ser
profunda pero estrecha: el sistema puede tener una capacidad sobrehumana para
detectar la suciedad y optimizar su estrategia de fregado, sin embargo no se sabe
para evitar golpear un trapeador hmedo sobre un enchufe elctrico. Una forma de
describir este problema general es: cmo podemos dar a las mquinas inteligentes
sentido comn? Los investigadores estn haciendo progresos lentos en este tipo de
problemas. Ingeniera de seguridad IA Un tema comn en el taller de Tecnologa,
Seguridad y Control fue la necesidad de conectar mtodos de IA abierta con el
campo ms amplio de la ingeniera de seguridad. La experiencia en la construccin
de otros tipos de sistemas crticos para la seguridad, tales como aviones, centrales
elctricas, puentes y vehculos, tiene mucho que ensear a los profesionales de IA
sobre la verificacin y validacin, cmo construir un caso de seguridad para una
tecnologa, cmo manejar el riesgo y cmo comunicarse con las partes interesadas
sobre el riesgo.
Dario Amodei, Chris Olah, Jacob Steinhardt, Paul Christiano, John Schulman, and Dan Man, Problemas concretos en la
seguridad IA, https://arxiv.org/abs/1606.06565.
Recomendacin 16: Las agencias federales que usan sistemas basados en la IA para
hacer o proporcionar apoyo a la toma de decisiones para las decisiones consecuentes
sobre individuos deben tomar cuidado extra para asegurar la eficacia y justicia de esos
sistemas, basados en la verificacin y validacin basadas en evidencia.
Recomendacin 17: Las agencias federales que otorgan subvenciones a los gobiernos
estatales y locales en apoyo del uso de sistemas basados en la IA para tomar decisiones
consecuentes sobre las personas deben revisar los trminos de las subvenciones para
asegurar que los productos o servicios basados en la IA resulta suficientemente
transparente y se apoya en pruebas de eficacia y equidad.
Recomendacin 18: Las escuelas y universidades deben incluir la tica y temas
relacionados con la seguridad, privacidad y seguridad, como parte integral de los planes
de estudios sobre IA, aprendizaje de mquinas, informtica y ciencias de la informacin.
Recomendacin 19: Los profesionales de la IA, los profesionales de la seguridad y sus
sociedades profesionales deberan trabajar juntos para seguir avanzando hacia un campo
maduro de la ingeniera de seguridad de IA.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Ver, e.g., Mary Shaw, Perspectivas para una disciplina de ingeniera de software, IEEE Software 7(6), Noviembre 1990.
Cooperacin internacional
IA ha sido un tema de inters en los recientes debates internacionales, ya que los
pases, las instituciones multilaterales y otras partes iinteresadas han empezado a
evaluar los beneficios y desafos de la IA. El dilogo y la cooperacin entre estas
entidades podran contribuir a impulsar la IA R&D de la IA y aprovechar la IA para
siempre, al mismo tiempo que abordar los desafos pertinentes. En particular, varios
avances en IA son el resultado directo o indirecto de la investigacin colaborativa
que involucra a personas, recursos e instituciones en mltiples pases. Al igual que
con otras polticas digitales, los pases tendrn que trabajar juntos para identificar
oportunidades de cooperacin y desarrollar marcos internacionales que ayuden a
promover la IA R&D de IA y abordar cualquier desafo. Los Estados Unidos, un lder
en IA R&D de la IA, pueden seguir desempeando un papel clave en la coordinacin
global de la investigacin a travs de dilogos y asociaciones de gobierno a
gobierno. La participacin internacional es necesaria para explorar plenamente las
aplicaciones de la IA en el cuidado de la salud, la automatizacin en la fabricacin
y las tecnologas de la informacin y la comunicacin (TIC). Las aplicaciones de IA
tambin tienen el potencial de abordar temas globales como la preparacin y
respuesta ante desastres, el cambio climtico, el trfico de vida silvestre, la brecha
digital, los empleos y las ciudades inteligentes. El Departamento de Estado prev la
preocupacin por la privacidad, la seguridad de los vehculos autnomos y el
impacto de IA en las tendencias de empleo a largo plazo como reas de poltica
relacionadas con la IA en el contexto internacional. En apoyo de las prioridades de
la poltica exterior estadounidense en este espacio -incluyendo asegurar el liderazgo
internacional y la competitividad econmica de Estados Unidos- el Gobierno de los
Estados Unidos ha participado en cuestiones de IA R&D y poltica en discusiones
bilaterales con otros pases como Japn, el Reino Unido e Italia, as como en foros
multilaterales. Las cuestiones de poltica internacional de IA y los impactos
econmicos de la IA tambin se han planteado en la ONU, el G-7, la Organizacin
de Cooperacin y Desarrollo Econmicos (OCDE) y la Cooperacin Econmica
Asia-Pacfico (APEC). El Gobierno de los Estados Unidos espera que IA sea un
tema de creciente inters en los compromisos internacionales. Los Estados Unidos
se han comprometido a trabajar con la industria y las organizaciones de
normalizacin pertinentes, con el fin de facilitar el desarrollo de normas
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Recomendacin 20: El Gobierno de los Estados Unidos debe elaborar una estrategia a
nivel gubernamental sobre la participacin internacional relacionada con la IA y elaborar
una lista de las esferas temticas de la IA que necesitan la participacin y la supervisin
internacionales.
Recomendacin 21: El Gobierno de los Estados Unidos debe profundizar su compromiso
con las principales partes interesadas internacionales, incluidos los gobiernos extranjeros,
las organizaciones internacionales, la industria, el mundo acadmico y otros, para
intercambiar informacin y facilitar la colaboracin en materia de IA R&D de la IA.
Comit de Estrategias de Estndares de Estados Unidos, "Estrategia de estndares de Estados Unidos", Nueva York:
American National Standards Institute (2015),
IA y Ciber seguridad
La Estrecha AI actual tiene importantes aplicaciones en ciberseguridad, y se espera
que desempee un papel cada vez mayor, tanto para medidas defensivas
(reactivas) como para medidas ofensivas (proactivas).
Recomendacin 22: Los planes y estrategias de las agencias deben tener en cuenta la influencia
de la IA en la ciberseguridad y de la ciberseguridad en la IA. Las agencias involucradas en
asuntos de IA deben involucrar a sus colegas del gobierno de los Estados Unidos y de
ciberseguridad del sector privado para obtener informacin sobre cmo asegurar que los
sistemas y ecosistemas de la IA sean seguros y resistentes ante adversarios inteligentes. Las
agencias involucradas en temas de ciberseguridad deben involucrar a sus colegas del gobierno
de los Estados Unidos y del sector privado de la IA para buscar maneras innovadoras de aplicar
la IA para una ciberseguridad efectiva y eficiente.
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
La IA en sistemas de armamento
Los Estados Unidos han incorporado la autonoma en ciertos sistemas de armas
durante dcadas.78 Estas mejoras tecnolgicas pueden permitir una mayor precisin
en el uso de estos sistemas de armas y operaciones militares ms seguras y
humanas. Las municiones guiadas con precisin permiten completar una operacin
con menos armas gastadas y con menos daos colaterales y los vehculos pilotados
remotamente pueden disminuir el riesgo para el personal militar colocando una
mayor distancia entre ellos y el peligro. Sin embargo, alejarse del control humano
directo de los sistemas de armas implica algunos riesgos y puede plantear
cuestiones legales y ticas. La clave para seguir incorporando sistemas de armas
autnomos y semiautnomos en la planificacin y la estructura de la defensa
estadounidense es continuar garantizando que todos nuestros sistemas de armas,
incluidos los sistemas de armas autnomos, se estn utilizando de conformidad con
el derecho internacional humanitario. Adems, el Gobierno de los Estados Unidos
debe seguir tomando las medidas apropiadas para controlar la proliferacin y
trabajar con socios y Aliados para desarrollar estndares relacionados con el
desarrollo y uso de tales sistemas.
Las partes del Estado de la CCW estn debatiendo cuestiones tcnicas, jurdicas,
militares, ticas y de otra ndole relacionadas con las tecnologas emergentes,
aunque est claro que no existe una comprensin comn de las LEYES. Algunos
Estados han combinado las LEYES con aviones teledirigidos ("drones" militares),
posicin que los Estados Unidos se oponen, ya que los aviones teledirigidos son,
por definicin, directamente controlados por los humanos, al igual que los aviones
tripulados. Otros Estados se han centrado en la inteligencia artificial, los ejrcitos
robots o si se ejerce un "control humano significativo" -un trmino indefinido- sobre
las decisiones de vida o muerte. La prioridad de Estados Unidos ha sido reiterar que
todos los sistemas de armas, autnomos o de otro tipo, deben
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
75
United States Standards Strategy Committee, "United States standards strategy," New York: American National Standards
Institute (2015),
https://share.ansi.org/shared%20documents/Standards%20Activities/NSSC/USSS_Third_edition/ANSI_USSS_2015 .pdf.
76
https://www.cybergrandchallenge.com
77
Federal Cybersecurity Research and Development Strategic Plan, Executive Office of the President, February 2016,
https://www.whitehouse.gov/sites/whitehouse.gov/files/documents/2016_Federal_Cybersecurity_Research_and_De
velopment_Stratgeic_Plan.pdf.
78
See, e.g., Jeffrey L. Caton, Autonomous Weapons Systems: A Brief Survey of Developmental, Operational, Legal, and
Ethical Issues, Strategic Studies Institute, U.S. Army War College, December 2015,
http://www.strategicstudiesinstitute.army.mil/pdffiles/PUB1309.pdf.
79
See, e.g., DeepMind comment, Human Rights Watch comment to the OSTP Request for Information on Artificial
Intelligence.
80
The Convention on Prohibitions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively
Injurious or to Have Indiscriminate Effects (CCW) regulates certain weapons under its five Protocols. The States Parties to
the CCW began informal discussions related to LAWS in 2014.
El gobierno de los Estados Unidos tambin est llevando a cabo una revisin
exhaustiva de las implicaciones de la autonoma en los sistemas de defensa. En
noviembre de 2012, el Departamento de Defensa (DoD) emiti la DoD Directiva
3000.09, "Autonoma en Sistemas de Armas", en la que se describen los requisitos
para el desarrollo y puesta en marcha de armas autnomas y semiautnomas. Los
sistemas de armas capaces de seleccionar y comprometer de forma autnoma
objetivos con fuerza letal requieren revisiones del DoD de alto nivel antes de que
esos sistemas de armas entren en desarrollo formal y de nuevo antes de iniciar el
campo. La Directiva del Departamento de Defensa no prohbe ni fomenta tal
desarrollo, sino que requiere que se proceda con cuidado y slo despus de la
revisin y aprobacin por altos funcionarios de defensa. Entre otras cosas, la
Directiva del Departamento de Defensa exige que los sistemas de armas autnomos
y semiautnomos sean sometidos a rigurosas pruebas y que el personal est
debidamente capacitado para hacer avanzar las normas internacionales
relacionadas con los conflictos armados.
81
El principio de distincin obliga a las partes en un conflicto a distinguir entre la poblacin civil y los combatientes y entre los
objetos civiles y los objetivos militares y dirigir sus operaciones slo contra objetivos militares.
82
El principio de proporcionalidad prohbe los ataques que puedan suponer una prdida accidental de vidas civiles, daos a
civiles, daos a objetos civiles o una combinacin de ellos, lo que sera excesivo en relacin con la ventaja militar concreta y
directa prevista
PREPARANDOSE PARA EL FUTURO DE LA INTELIGENCIA ARTIFICIAL
Conclusin
IA puede ser un importante impulsor del crecimiento econmico y del progreso
social, si la industria, la sociedad civil, el gobierno y el pblico trabajan juntos para
apoyar el desarrollo de la tecnologa, con atencin atenta a su potencial y para
gestionar sus riesgos.
El gobierno tiene varias funciones que desempear. Debe convocar conversaciones sobre
temas importantes y ayudar a establecer la agenda para el debate pblico. Debe supervisar
la seguridad y la equidad de las aplicaciones a medida que se desarrollan, y adaptar los
marcos normativos para alentar la innovacin y proteger al pblico. Debe apoyar la
investigacin bsica y la aplicacin de la IA a los bienes pblicos, as como el desarrollo de
una mano de obra calificada y diversa. Y el gobierno debera usar la IA misma, para servir
al pblico de manera ms rpida, eficaz y de menor costo.
probable que invierta, las inversiones federales sern importantes para R&D en
estas reas.
Recomendacin 22: Los planes y estrategias de las agencias deben tener en cuenta
la influencia de la IA en la ciberseguridad y de la ciberseguridad en la IA. Las
agencias involucradas en asuntos de IA deben involucrar a sus colegas del gobierno
de los Estados Unidos y de ciberseguridad del sector privado para obtener
informacin sobre cmo asegurar que los sistemas y ecosistemas de AI sean
seguros y resistentes a los adversarios inteligentes. Las agencias involucradas en
temas de ciberseguridad deben involucrar a sus colegas del gobierno de los Estados
Unidos y del sector privado de IA para buscar maneras innovadoras de aplicar AI
para una ciberseguridad efectiva y eficiente.
Acrnimos
AAAI Asociacin para el Avance de la Inteligencia Artificial
AGI Inteligencia General Artificial
IA Inteligencia Artificial
APEC Cooperacin Econmica Asia-Pacifico
BRAIN Investigacin del Cerebro mediante el Avance de las Neuronas Innovadoras
CALO Agente Cognitivo que aprende y organiza
CCC Consorcio de la comunidad Informtica
CCW Convencin sobre ciertas armas convencionales
CEA Consejo de Asesores Econmicos
CEO Director Ejecutivo
CGC Cyber Grand Challenge (dirigido por DARPA)
CoSTEM Comit de Ciencia Tecnologa, Ingeniera y Educacin (componente de NSTC)
CS Ciencias dela Computacin
DARPA Agencia de Proyectos de Investigacin Avanzada
DoD Departamento de Defensa
DOT Departamento de Transporte
FAA Administracin federal de aviacin
FMVSS Normas Federales de Seguridad para Vehculos Motorizados
IARPA Actividad de Proyectos Avanzados de Inteligencia
ICTs Tecnologas de Informacin y Comunicacin
IPA Ley de Personal Intergubernamental
LAWS Sistema de armas autmatas Letales
MLAI Aprendizaje Automtico e Inteligencia Artificial (subcomit de NSTC)
NAS Sistema Nacional del Espacio Areo
NEC Consejo Econmico Nacional
NHTSA Administracin Nacional de Seguridad en el Trfico en las Carreteras
NIH Institutos Nacionales de Salud
NIPS Conferencia sobre sistemas de procesamiento de informacin neuronal
Redes y Tecnologa de la Informacin Investigacin y Desarrollo (subcomit
NITRD
de NSTC)
NSF Fundacin Nacional de Ciencia
NSTC Consejo Nacional de Ciencia y Tecnologa
OECD Organizacin para la Cooperacin Econmica y el Desarrollo
OMB Oficina de Gestin y Presupuesto
ONR Oficina de Investigacin Naval
OSTP Oficina de Poltica Cientfica y Tecnolgica
R&D Oficina de Poltica Cientfica y Tecnolgica
RFI Solicitud de informacin
STEM Ciencia, Tecnologa, Ingeniera y Matemticas
UAS Sistema areo no tripulado
UTM Gestin de trfico UAS