UNIVERSIDAD NACIONAL MAYOR DE SAN

MARCOS
DIPLOMATURA EN ESPECIALIZACIÓN EN AUDITORIA
Y SEGURIDAD DE TECNOLOGÍA DE INFORMACIÓN

Sistemas de Seguridad para los Recursos de TI

TEMA:

CHATBOTS: APLICACIONES Y CONTROLES DE

SEGURIDAD

Alumno:

✓ MERINO VÁSQUEZ, MANUEL OMAR

LIMA - PERU
 INDICE

INTRODUCCIÓN ......................................................................................................................... 3
I. HISTORIA ........................................................................................................................... 4
II. MARCO TEORICO ............................................................................................................... 6
1. CONCEPTO ......................................................................................................................... 6
2. FUNCIONALIDADES ........................................................................................................... 7
3. CREAR UN CHATBOT CON INTELIGENCIA ARTIFICIAL ....................................................... 8
4. CASOS DE ÉXITO ................................................................................................................ 8
III. VENTAJAS DE ESTA TECNOLOGÍA ................................................................................ 10
IV. DESVENTAJAS .............................................................................................................. 10
V. RIESGOS DE ESTA TECNOLOGIA ...................................................................................... 11
VI. CONTROLES DE SEGURIDAD ........................................................................................ 11
VII. CONCLUSIONES ........................................................................................................... 13
VIII. BIBLIOGRAPHY................................................................................................................. 14

2
 INTRODUCCIÓN

Los Chatbots son la nueva tecnología digital más reciente, y no es difícil ver por qué. Al
proporcionar una experiencia de conversación fácil de usar a través de múltiples canales de
mensajería. Los Chatbots abren oportunidades para que las marcas se involucren más directa y
frecuentemente con sus clientes de maneras que se sientan más genuinas y personales. Como
resultado, los Chatbots están preparados para incursionar en varias industrias, incluyendo la
banca, callcenter, educación, etc.

La tecnología de Chatbot todavía está en su infancia, pero se está adecuando rápidamente por
las empresas debido a su gran potencial para las ventas, el marketing y el servicio al cliente. Los
chatbots están para ayudar a las organizaciones a construir relaciones más profundas con sus
clientes y mejorar la calidad del servicio, mientras que al mismo tiempo ahorrar dinero mediante
la automatización de ciertas tareas administrativas.

Sin embargo, a medida que las organizaciones construyen e implementan Enterprise Chatbots,
es importante dar un paso atrás por un momento y considerar las implicaciones de seguridad
de esta nueva tecnología.

En el presente trabajo, describiremos el uso, riesgos, vulnerabilidades, amenazas de esta nueva

tecnología, que si bien es cierto aún está dando sus primeros pasos, debemos tener en cuenta
por si la implementamos.

3
 I. HISTORIA
1950:  Test de Turing

Alan Turing teorizo que una maquina verdaderamente inteligente sería imposible de distinguir
por un humano en una conversación de texto si de hecho está hablando con otro humano o una
máquina. Las ideas de Turing ayudaron a empezar la revolución de los chatbots.

1966:  ELIZA

El primer chatbot, ELIZA podía simular las respuestas de una psicoterapeuta y podía llevar una
conversación de manera convincente con un humano.

1972: PARRY

En los 70s, ELIZA conoció a su primer paciente no humano: PARRY, un chatbot que imitaba a una
persona con esquizofrenia y paranoia.

1988: Jabberwacky

Uno de los primeros intentos de crear AI (Artificial Intelligence) a través de la interacción

humana. Principalmente era una forma de entretener, teniendo como propósito final el mover
de un sistema basado en texto a uno operado por medio de la voz.

1992: Dr. Sbaitso

Un programa de síntesis del habla creado por computadoras basadas en MS DOS. Fue diseñado
para mostrar una voz digitalizada, el bot estaba lejos de asumir un rol de psicólogo interactuando
con usuarios humanos.

1995: A.L.I.C.E

“Artificial Linguistic Internet Computer Entity” era un bot con procesamiento natural del lenguaje
(PNL). Podía aplicar patrones heurísticos uniendo reglas de lo que los humanos le decían, es
decir, tenía una conversación.

4
2001: Smarterchild

Un bot inteligente distribuido en redes SMS. Con características como acceso veloz a la data y
personalizaciones conversacionales, era considerado el precursor de SIRI y Samsung’s Voice.

2006: IBM Watson

Watson fue diseñado para competir en Jeopardy!, el cual lo gano en el 2011 ante dos de los más
grandes campeones del juego. Ahora Watson ocupa procesamiento natural del lenguaje (PNL) y
Machine Learning para revelar características de grandes cantidades de datos.

2010: Siri

Un asistente inteligente virtual, parte del sistema operativo iOS de Apple, el cual tiene
características como interfaz natural del lenguaje, preguntas y respuestas, y puede generar
solicitudes al Internet.

2012: Google Now

Desarrollado por Google para la aplicación móvil Google Search, empleando una interfaz de
usuario natural del lenguaje para responder preguntas, hacer recomendaciones, y realizar
acciones como delegar una solicitud a una serie de servicios web.

2015: Alexa

Un servicio de voz habitado en el dispositivo de Amazon, Echo. Alexa es capaz de interactuar por
medio de la voz, utiliza procesamiento natural del lenguaje para recibir, reconocer y responder
comandos de voz.

5
2015: Cortana

Un asistente inteligente personal desarrollado por Microsoft, Cortana te envía recordatorios,

reconoce comandos naturales de voz, y responde preguntas usando el motor de búsquedas de
Bing.

2016: Bots para Messenger

En abril, Facebook lanzo una plataforma que permite a los desarrolladores crear bots que
pueden interactuar con los usuarios de FB. Hasta junio, 11.000 bots estaban disponibles.

2016: Tay

Diseñado para simular el habla y los hábitos de una joven americana. Tay rápidamente desarrollo
paranoia viciosa y tuvo que ser apagado a tan solo 6 horas dado que empezó a dar comentarios
ofensivos a la gente.

II. MARCO TEORICO

1. CONCEPTO

Un bot es un software de inteligencia artificial diseñado para realizar una serie de tareas por su
cuenta y sin la ayuda del ser humano como hacer una reserva en un restaurante, marcar una
fecha en el calendario o recoger y mostrar información a los usuarios. El modelo más frecuente
es el del chatbot, un robot capaz de simular una conversación con una persona y por ello cada
vez están más presentes en las aplicaciones de mensajería.

Están programados bajo los conceptos de inteligencia artificial y machine learning (aprendizaje
automático). Por eso, más allá de responder de acuerdo a datos almacenados en su memoria,

6
 interpretan lo que dice el cliente, dan respuestas coherentes y aprenden de cada una de sus
interacciones.

Para que un chatbot pueda ser una herramienta útil, es fundamental que tanto el
reconocimiento de la voluntad del usuario como la respuesta configurada sean correctas.

Microsoft, Slack e IBM principalmente, están apuntando numerosos esfuerzos al desarrollo de

esta tecnología.

Numerosas compañías integran ya chats automáticos con distintos propósitos. Por ejemplo, en
Slack, el servicio de mensajería para la comunicación interna en empresas, los chatbots ayudan
a gestionar tareas relacionadas con el trabajo, como gastos o tareas pendientes.

Por su parte, la plataforma Kik Mssenger, que cuenta con 275 millones de usuarios, acaba de
lanzar una tienda de bots con diversas funcionalidades.

2. FUNCIONALIDADES

Los chatbots tienen una amplia gama de posibilidades en todos los sectores, entre los que se
incluyen:

• Asistencia de procesos. Los chatbots han sido probados en distintas plataformas comerciales
con éxito en el ámbito de la ayuda a operaciones. En el caso de aplicaciones corporativas pueden
reducir considerablemente el tiempo de aprendizaje de sistemas complejos. Estos bots pueden
ser completados con información de contexto sobre la transacción que se está efectuando en la
página padre para precisar la información concreta que el usuario necesita. Multitud de
aplicaciones web tienen sistemas de ayuda y consulta desplegadas.
• Repositorio de conocimiento. Usando un modelo plano de conversación pregunta-respuesta en
el que las conversaciones tienen poca profundidad se aprovecha la comprensión del lenguaje
natural minimizando el riesgo de problemas de contexto o cambios de tema por parte del
usuario. Este caso aplicaría a un asistente para búsqueda en páginas, o en un caso más extremo
la demostración que realizó IBM con Watson en el concurso americano Jeopardy. Una aplicación
que incluya un repositorio general de conocimiento puede usar un sistema NLU para precisar
búsquedas o incluso aprender de las necesidades de los usuarios
• Plataformas interactivas. Los bots capaces de realizar acciones en segundo plano en función de
las demandas de usuario permiten ejecutar transacciones complejas bajo petición. Podríamos
poner aquí el ejemplo de determinados asistentes que permiten comprar productos desde el
propio chat. Este modelo permite prácticamente prescindir de determinados interfaces gráficos.

7
 3. CREAR UN CHATBOT CON INTELIGENCIA ARTIFICIAL

A la hora de crear un chatbot con Inteligencia Artificial, hay tres conceptos que debemos
controlar:

• Intenciones (#intent): el sistema de Inteligencia Artificial, lo primero que trata de

identificar cuando alguien le escribe es la “intención” de lo que el usuario le ha querido
decir. Por ejemplo, si estamos delante de un chatbot para reservar entradas, habremos
definido diferentes intenciones propias del negocio como #ComprarEntrada,
#ModificarReserva, #DevoluciónEntrada. ¿De dónde viene ese #? Simplemente para
diferenciar los intents (#intenciones) del siguiente concepto que veremos, las entities
(@entidades) que van con la @

• Entidades (@entities): son aquellos inputs del usuario (palabras, categorías, frases) que
determinarán la respuesta del chatbot, puesto que son necesarias para poder llevar a cabo
la acción. Las entidades, van asociadas a las intenciones. Por ejemplo, imaginemos que
nuestro servicio permite comprar entradas de teatros y de conciertos, entonces para la
intención #CompraEntrada, podremos definir la entidad @TipoEntrada que tendrá dos
tipos de valores (teatro y concierto) así como @FechaEntrada y @HorarioEntrada por si
hubiese más de un horario para dicho evento, y @CiudadEntrada.

• Diálogos (Dialog): el diálogo es la propia estructura de la conversación. En los diálogos, se

definen lo que queremos que diga el chatbot cuando identifica qué es lo que ha querido
decir el usuario (es decir, el intent). De este modo, y de forma visual, se va creando una
conversación en modo árbol, donde iremos indicando qué deberá contestar el chatbot
cuando reconoce la intención que ha querido decir el usuario. Es decir, si el usuario dice
“quiero comprar una entrada”, el motor de IA (Watson, por ejemplo) identificará la
intención #ComprarEntrada, y en ese punto nosotros habremos configurado el diálogo para
que el motor de IA diga: “Genial, estoy aquí para ayudarte, ¿querías una entrada para un
teatro o para un concierto?”; y así sucesivamente.

4. CASOS DE ÉXITO

4.1 BCP- ARTURITO

En el Perú, esto ya es una realidad. Arturito es el chatbot del BCP que opera con lo último
de la tecnología de inteligencia artificial. Está preparado para responder todo tipo de
preguntas alrededor de los temas que maneja. Pero, lo más interesante, es que su programa
le permite aprender de cada nueva comunicación, por lo que su repertorio de respuestas se
incrementa mientras más se comunica con los usuarios. Este utiliza la tecnología Watson,
desarrollada por IBM, que le permite acceder a habilidades cognitivas. Es decir, no solo está
entrenado para responder las preguntas para las que ha sido capacitado, sino que, si no
comprende una pregunta, busca automáticamente una respuesta.

8
Bajo la plataforma de innovación en la nube IBM Bluemix y las capacidades de aprendizaje de
IBM Watson, el bot hará recomendaciones y tendrá conversaciones en lenguaje natural para
proporcionar una experiencia más personalizada. Con el tiempo, el bot será capaz de resolver

una mayor gama de consultas, e incluso será capaz de procesar y dar respuesta a solicitudes de
crédito.

4.2 KLM - ESPAÑA

Ha puesto en marcha en España un chatbot para Facebook Messenger que permite le a sus
clientes hacer reservas de vuelo en la plataforma. Este programa simula mantener una
conversación gracias a las respuestas automáticas generadas a las preguntas del usuario. El
objetivo es incluir otras peticiones como cancelaciones de reservas o búsqueda de otros
servicios.

9
4.3 PIZZA EXPRESS – ESPAÑA

Se puede reservar una mesa con el bot del restaurante Pizza Express Messenger. La
compañía dice que es posible hacer una reserva en poco más de 60 segundos a través del
bot, quien pregunta por los platos y preferencias culinarias.

III. VENTAJAS DE ESTA TECNOLOGÍA

• En el mundo digital, los usuarios están cada vez más acostumbrados al control sobre la
experiencia de compra y a la rapidez de respuesta a sus preguntas. Los chatbots
permiten que esta necesidad se resuelva al establecer una comunicación instantánea
con el usuario.
• Aunque ahora mismo parece imposible pensar en todo un centro de atención al cliente
informatizado, cada vez más empresas están empezando a utilizar chatbots en pruebas
encaminadas a crear uno. La eficiencia y el inmenso ahorro económico que supondría
les avalan.
• Fuentes inagotables de información. Los chatbots pueden utilizarse durante una
conversación con el usuario para recopilar y analizar datos destinados a mejorar la
experiencia de éste, siendo mucho más sencillo aportar soluciones personalizadas o, por
ejemplo, recomendar productos en función de los gustos y la experiencia del
consumidor.
• Un nuevo modo de navegar. Los asistentes móviles están a la orden del día en
plataformas como los smartphones; pero, ¿imaginas navegar desde cualquier medio
digital sin necesidad de pulsar una tecla? El futuro sugiere que los chatbots asumirán el
rol de navegador, en lugar de tener que pulsar en iconos y pantallas, o escribir en el
teclado.

IV. DESVENTAJAS

• No lo suficientemente listo. Pese a que el talento y la innovación que reside tras el

chatbot es impresionante, aún se comporta de manera muy primitiva en una
conversación bidireccional, por lo que se prevé que aún falte tiempo para ver el
producto acabado.
• El dilema de la privacidad. El sistema de recogida de datos de los chatbots puede llegar
a ser visto como una plaga dispuesta por las marcas para conocer qué hacemos y con
quién lo hacemos en cada momento. Gustos, horarios, afinidades políticas… La
privacidad será sin duda un terreno difícil en el que las empresas deberán ganarse la
confianza del consumidor.
• Demanda dudosa. Los chatbots son la puerta a una mayor autonomía del usuario,
pero, ¿son realmente necesarios? Las marcas deben estudiar cuidadosamente qué es
lo que quiere el cliente para no caer en una solución que no corresponda a una
necesidad real, con el consiguiente perjuicio para la marca.

10
 V. RIESGOS DE ESTA TECNOLOGIA

1. Harvesting data (recolección de datos)

Los ciberdelincuentes podrían recolectar información que fue reunida a través de Chatbots para
iniciar ataques de phishing selectivos. Esto ya es posible si un navegador o una red está
comprometido, pero la información enviada a través de mensajería puede ser una via aún más
rica de datos. La gente tiende a sentirse más cómoda en una conversación en tiempo real. Con
un servicio como Facebook, cualquier dato enviado a través de Messenger está vinculado al
perfil de la vida real de alguien y es muy valioso para los hackers.

2. Infiltrating chatbots (chatbots disfrazados)

Además de hackear Chatbots y robar datos, los ciberdelincuentes podrían tomarlos activamente
y hacerse pasar por los proveedores oficiales. Esto les daría una capacidad sin precedentes para
conseguir que los usuarios entreguen contraseñas e información financiera. Los delincuentes
disfrazados de "soporte técnico" en un ISP o Banco ya utilizan llamadas de voz para engañar a
las víctimas. Los chatbots representan otro canal para esto, y uno más fácil para los criminales
para automatizar.

3. Rogue chatbots (Robo de Chatbot)

Los ciberdelincuentes podrían crear nuevos Chatbots falsos e incrustarlos en sitios

comprometidos o en anuncios emergentes, de manera que parezcan ser de un sitio legítimo.
Con el correo electrónico, la gente ha aprendido a reconocer los signos y comprobar el remitente
para verificar si son auténticos o no. Los chatbots son más nuevos, por lo que hay un mayor
riesgo para el usuario, ya que la gente aún no es consiente del este tipo de peligro.

VI. CONTROLES DE SEGURIDAD

Los chatbots utiliza dos procesos básicos para garantizar la seguridad: autenticación (el proceso
de verificación de la identidad de un usuario) y autorización (el proceso de concesión de un
permiso de usuario para ejecutar una tarea determinada).

Las solicitudes de datos mediante Chatbots deben verificarse mediante tokens autenticados,
que permiten a los usuarios verificar su identidad sin introducir repetidamente sus credenciales
de inicio de sesión. Por ejemplo, digamos que un usuario quiere pedir un viaje Uber a través de
Facebook Messenger. Al iniciar sesión en Messenger, el usuario enviaría una solicitud de viaje a
través de la aplicación Messenger. Después de verificar la identidad del usuario, la aplicación
genera un token de autenticación seguro, que se transmite a Uber junto con la solicitud de viaje.
El recibo del token de autenticación permite a Uber verificar la identidad del usuario y se procesa
la solicitud.

11
Los chatbots se implementan en muchas plataformas, cada una de las cuales tiene sus propias
responsabilidades de seguridad interna.

Los controles de seguridad utilizados por los chatbots son:

• Autenticación de identidad de usuario: la identidad de un usuario se verifica con

credenciales de inicio de sesión seguras, como un nombre de usuario y una contraseña.
Estas credenciales se intercambian por un token autenticado seguro que se utiliza para
verificar continuamente la identidad del usuario.
• Timeouts de autenticación: los tokens autenticados pueden ser revocados por el
usuario o automáticamente por la plataforma después de una cantidad de tiempo
determinada.
• Autenticación de dos factores: se requiere un usuario para verificar su identidad a
través de dos canales separados (por ejemplo, una vez por correo electrónico, y luego
de nuevo por mensaje de texto).
• Autenticación biométrica: se requiere que un usuario verifique su identidad utilizando
un marcador físico único, como una huella dactilar o una gammagrafía de retina (por
ejemplo, la identificación táctil de Apple).
• Cifrado end-to-end: toda la conversación está encriptada para que sólo las dos partes
involucradas en la conversación puedan leerla. Facebook Messenger ha implementado
recientemente esta funcionalidad con su función de mensajes secretos, y esperamos ver
pronto soporte para la integración de bots.
• Mensajes de autodestrucción: cuando se transmite información potencialmente
sensible, el mensaje que contiene esta información se destruye después de una cantidad
de tiempo determinada.

12
 VII. CONCLUSIONES

La preocupación por la seguridad es una parte importante de la era digital, y cada nueva
innovación viene con preocupaciones de seguridad. Sin embargo, las tecnologías que componen
la mayoría del Chatbots se han utilizado para transmitir con seguridad datos por muchos años.

Los desarrolladores de Chatbot son muy conscientes de la necesidad de privacidad y seguridad,

en particular los que construyen Chatbots para la industria financiera. Cuando estas medidas de
seguridad incorporadas se combinan con las precauciones básicas de seguridad del usuario,
Chatbots proporciona una seguridad fuerte y una facilidad de accesibilidad. Esto permite a las
empresas ofrecer a sus clientes la mejor experiencia de los clientes utilizando las medidas de
seguridad más recientes.

Es fácil estar demasiado preocupado por la seguridad con las nuevas tecnologías, pero en el caso
de Chatbots, esta preocupación es en gran parte incomprendida. Chatbots se construyen en la
misma infraestructura segura de Internet y plataformas integradas como sitios web y
aplicaciones; sólo proporcionan diferentes experiencias de usuario.

13
VIII. BIBLIOGRAPHY

• Armstrong, K. (s.f.). How Secure Are Chatbots? Obtenido de

https://chatbotsmagazine.com/how-secure-are-chatbots-2a76f115618d

• Baker, M. (s.f.). What’s The Risk? 3 Things To Know About Chatbots & Cybersecurity.
Obtenido de https://www.darkreading.com/vulnerabilities---threats/whats-the-risk-3-
things-to-know-about-chatbots-and-cybersecurity/a/d-id/1326912?

• Chatbot, P. (s.f.). Conceptos básicos para crear un chatbot con inteligencia artificial.
Obtenido de https://planetachatbot.com/conceptos-basicos-para-crear-un-chatbot-
con-inteligencia-artificial-2bd284eadd9

• Comercio, D. E. (23 de Agosto de 2017). Chatbots: empresas que se comunican con

Inteligencia Artificial. Obtenido de https://elcomercio.pe/especial/zona-
ejecutiva/tendencias/chatbots-empresas-que-se-comunican-inteligencia-artificial-
noticia-1992238

• Corporation, M. (s.f.). Historia de los Chatbots. Obtenido de

https://medium.com/@cogniapps/historia-de-los-chatbots-bd71f3fd914a

• Economista, E. (13 de Abril de 2016). ¿Qué son exactamente los chatbots y para qué
sirven? Obtenido de
http://www.eleconomista.es/tecnologia/noticias/7488529/04/16/Que-son-
exactamente-los-chatbots-y-para-que-sirven.html

• Gambhir, S. (31 de Mayo de 2017). Chatbots: Opportunity and threat. Obtenido de

https://www.computerworld.com.au/article/620035/chatbots-opportunity-threat/

• Gestion, D. (09 de Diciembre de 2016). Banco de Crédito lanza “Arturito BCP”, chat
cognitivo para Facebook Messenger . Obtenido de
https://gestion.pe/empresas/banco-credito-lanza-arturito-bcp-chat-cognitivo-
facebook-messenger-2176772

14