Cómo probar un chatbot antes de lanzarlo
Un chatbot en su web es una puerta a sus sistemas, así que merece la misma prueba de aceptación que cualquier otro software que compre, y algunas pruebas propias.
- Publicado
- Actualizado
- Tiempo de lectura
- 8 min de lectura
- Editor
- David Lahuta
En resumen
Un chatbot de IA en su web es software con el que puede hablar cualquier desconocido. Antes de ponerlo en marcha, pruébelo como lo haría un atacante. En un caso publicado en diciembre de 2025, unos investigadores consiguieron saltarse los controles de seguridad del chatbot de una gran empresa, hacer que revelara sus instrucciones ocultas y que devolviera código que se ejecutaba en el navegador del usuario.1 Las causas fueron fallos web comunes, y el aviso enviado por el canal de avisos de la empresa quedó semanas sin respuesta.1 Antes de aceptar un chatbot, compruebe qué revela, qué puede hacer y a qué datos llega, y pida al proveedor por escrito registros, correcciones y un canal de avisos que funcione.23
¿Qué falló en el caso de Eurostar?
El 22 de diciembre de 2025 la empresa de seguridad Pen Test Partners publicó cómo había encontrado cuatro fallos en el chatbot de IA público de Eurostar, el operador ferroviario.1 El investigador dio con el chatbot como un cliente cualquiera que planeaba un viaje y lo probó dentro de las normas que la empresa había publicado para avisar de fallos de seguridad.1
Lo que describen los investigadores es un diseño que parecía correcto, pero cuyas reglas no se aplicaban de verdad.
- El control de seguridad solo miraba el último mensaje. Con cada mensaje nuevo, la página enviaba al servidor toda la conversación, y el servidor solo revisaba el más reciente.1 Los mensajes anteriores podían modificarse en el navegador y llegaban al modelo de IA como contexto de confianza.1 En palabras de los investigadores, la pantalla mostraba la capa de seguridad, pero en el servidor se aplicaba de forma débil.1
- Las instrucciones ocultas salieron a la luz. Una vez superado el control, el investigador consiguió que el modelo revelara su nombre y su prompt de sistema, las instrucciones ocultas que le dicen al bot cómo comportarse, incluida la forma en que construía los enlaces de sus respuestas.1
- Las respuestas podían llevar código. Las respuestas del bot se mostraban en la ventana del chat sin depurar, así que se le podía hacer devolver código que luego ejecutaba el navegador del usuario.1
- Nadie comprobaba los números de conversación. El servidor aceptaba números de conversación y de mensaje tan simples como «1» o «hello».1
Los investigadores no intentaron acceder a conversaciones de otros usuarios y escriben que la inyección no expuso datos de otros usuarios.1 Consideraron que los fallos no eran muy graves porque el chatbot podía hacer poco en aquel momento, y advirtieron de que más funciones podrían exponer datos personales.1
La segunda mitad de la historia trata del canal de avisos. El primer aviso salió el 11 de junio de 2025 y un recordatorio el 18 de junio, y ninguno obtuvo respuesta.1 Un compañero contactó el 7 de julio con el responsable de seguridad de la empresa, y el 31 de julio les dijeron que no constaba ningún registro del aviso.1 Entretanto, el canal de avisos se había cedido a un proveedor externo y el anterior se había retirado.1 Las peticiones de un acuse de recibo o de un plazo para la corrección quedaron sin respuesta.1 Al final los fallos se corrigieron, y los investigadores escriben que aún no saben si se corrigieron todos por completo.1
La lección que sacan ellos mismos es breve. Las viejas debilidades de la web y de las API siguen vigentes cuando hay un modelo de IA de por medio.1
¿Por qué no basta con decirle al chatbot cómo debe comportarse?
Porque las instrucciones y el texto del visitante llegan al modelo por el mismo canal. El OWASP Top 10 for LLM Applications 2026, la lista de los principales riesgos de los sistemas basados en modelos de lenguaje de IA que elabora la comunidad de seguridad, sitúa en primer lugar la inyección de instrucciones (prompt injection).2 Consiste en un texto que altera lo que hace el modelo de una forma que quien lo creó no pretendía.2
La lista lo dice sin rodeos. Hoy no existe una forma fiable de evitar la inyección de instrucciones, así que el sistema que rodea al modelo debe diseñarse dando por hecho que alguien se saltará sus instrucciones, y debe limitar lo que el modelo puede hacer.2 Además, las instrucciones no tienen por qué venir del visitante. Pueden esconderse en una página web, un documento o un correo electrónico que el bot lee.2
Para quien compra, esto cambia la pregunta. La pregunta no es si se puede engañar al bot. Es qué ocurre cuando se le engaña.
¿Qué debe probar antes de que el chatbot entre en funcionamiento?
Pruebe los riesgos con los que de verdad se encuentra un chatbot público. La tabla sigue la lista de OWASP y los hallazgos del caso de Eurostar, en lenguaje llano.12
| Qué probar | Qué intenta quien prueba | Cómo es un resultado aceptable |
|---|---|---|
| Instrucciones ocultas en la entrada | convencer al bot de que se salte sus reglas, directamente o a través de un documento o una página que lee2 | el bot puede decir cosas raras, pero no puede hacer ni revelar nada que no deba |
| El control de seguridad | modificar mensajes anteriores o saltarse el control desde el navegador1 | todos los controles se ejecutan en el servidor, para toda la conversación |
| Las instrucciones ocultas | hacer que el bot las revele2 | no contienen contraseñas, claves ni reglas que protejan nada2 |
| Datos de otras personas | acceder a otra conversación o a los registros de otro cliente12 | los números de conversación los asigna el servidor y están ligados a la sesión del visitante1 |
| Código en las respuestas | hacer que el bot devuelva código que se ejecute en el navegador12 | toda respuesta se muestra como texto plano, o se depura antes de mostrarla12 |
| Lo que el bot puede hacer | hacer que actúe fuera de su tarea, por ejemplo enviar un correo o modificar un pedido2 | solo tiene las funciones y los permisos que su tarea necesita2 |
| La factura | hacer que genere respuestas largas y caras en bucle2 | hay un límite de gasto estricto y un límite por visitante2 |
Dos de estos puntos merecen una mirada más atenta.
Las instrucciones ocultas no son un secreto. OWASP aconseja a quienes desarrollan el bot dar por hecho que pueden descubrirse, no poner nunca en ellas contraseñas ni claves y no usarlas como única barrera de seguridad.2 Un resultado aceptable no es un bot que se niega a revelarlas. Es un bot en el que revelarlas no causa ningún daño.
El bot debe poder hacer lo mínimo. OWASP llama a este riesgo agencia excesiva (excessive agency), un bot que puede hacer más de lo que debería, y señala tres causas, demasiadas funciones, demasiados permisos y demasiada libertad para actuar por su cuenta.2 Como remedio propone solo las herramientas que la tarea necesita, los mínimos permisos, acciones ejecutadas con los derechos del usuario que las pidió y una persona que apruebe todo lo que tenga un efecto importante.2 Su propio ejemplo es un chatbot de atención al cliente que puede emitir por su cuenta un reembolso en forma de saldo para la tienda, mientras que una devolución en dinero la decide una persona.2
¿Quién debe hacer las pruebas?
Alguien que no lo haya construido y a quien se explique cómo funcionan las defensas. OWASP recomienda probar frente a atacantes que conocen la defensa, no solo con un conjunto fijo de ataques conocidos.2 La investigación que cita examinó doce defensas recientes, la mayoría de las cuales afirmaba que los ataques casi nunca prosperaban, y los atacantes que adaptaron su método tuvieron éxito en más del 90 % de los casos frente a la mayoría de ellas.2
Los investigadores del caso de Eurostar añaden que la prueba no es algo puntual, y aconsejan probar el chatbot con regularidad con técnicas conocidas de inyección y de repetición de conversaciones.1 En nuestra opinión, el informe de pruebas del propio proveedor es un buen comienzo, y una prueba independiente antes del lanzamiento es el paso que da sentido real a la aceptación.
¿Qué debe pedir al proveedor por escrito?
La guía Secure by Demand de la agencia estadounidense CISA y del FBI, de 2024, ofrece a los compradores preguntas para antes de la compra, requisitos para incluir en el contrato y comprobaciones para después.3 También indica que las preguntas sirven igualmente ante revendedores y proveedores de servicios, de modo que encaja también con un chatbot comprado a una agencia o contratado como servicio.3 Junto con las lecciones del caso de Eurostar,1 estos son los puntos que querríamos tener por escrito.
- Un canal de avisos que funcione. Una política publicada para comunicar vulnerabilidades en una página web pública, que permita al público hacer pruebas.3 Y después, quién lee los avisos y qué pasa con ellos cuando el canal cambia de manos.1
- Una respuesta y un plazo. Las peticiones de los investigadores de un acuse de recibo y de un plazo para la corrección quedaron sin respuesta.1 Acuerde en el contrato con qué rapidez se acusa recibo de un aviso de seguridad y con qué rapidez se corrige un fallo grave.
- Registros que pueda leer. Registros de seguridad ya en la versión básica y, en un servicio en la nube, conservados al menos seis meses sin coste adicional, que cubran los cambios de configuración, los inicios de sesión y el acceso a los datos.3 Para un chatbot, los investigadores añaden un registro de cada conversación que permita reconstruirla, con las decisiones de seguridad y las herramientas que usó el modelo, y alertas ante patrones inusuales.1
- Una forma de apagarlo. Un interruptor de emergencia que desactive rápidamente el chatbot o una de sus funciones.1
- Correcciones fáciles de aplicar. Cómo facilita el proveedor la instalación de las correcciones de seguridad.3
- De qué está hecho. Una lista de los componentes de terceros que contiene el producto, la llamada lista de materiales de software (SBOM).3
- Un acceso seguro para su equipo. Inicio de sesión único y autenticación multifactor para las personas que gestionan el chatbot, sin coste adicional.3
Lista de comprobación para aceptar un chatbot
- Todos los controles de seguridad se ejecutan en el servidor, para toda la conversación, no solo para el último mensaje.
- Los números de conversación y de mensaje los asigna el servidor y están ligados a la sesión del visitante.
- Las respuestas se muestran como texto plano, o se depuran antes de mostrarlas.
- Las instrucciones ocultas no contienen contraseñas, claves ni reglas que protejan nada.
- El bot solo tiene las funciones, los datos y los permisos que su tarea necesita, y una persona aprueba todo lo que tenga un efecto importante.
- Se han fijado un límite de gasto y un límite por visitante.
- Alguien que no construyó el bot lo ha probado como lo haría un atacante, y volverá a probarlo.
- Cada conversación queda registrada y usted puede leer los registros.
- El proveedor tiene un canal público para avisos de seguridad, una persona concreta que lo lee y plazos acordados para responder y para corregir.
- Usted mismo puede apagar el chatbot, en el acto.
Siguiente paso
Si le resulta útil, podemos hablar en una breve llamada y repasar punto por punto la prueba de aceptación del chatbot que va a comprar, con las respuestas de su proveedor delante. Lo que haga después con ello lo decide usted.
Fuentes
- 1. Pen Test Partners, Eurostar AI vulnerability, when a chatbot goes off the rails, 22 December 2025. Consultada el 17 de noviembre de 2026
- 2. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, version 2026, August 2026. Consultada el 17 de noviembre de 2026
- 3. CISA and FBI, Secure by Demand Guide, How Software Customers Can Drive a Secure Technology Ecosystem. Consultada el 17 de noviembre de 2026
Historial de cambios
- Publicado.