Saltar al contenido
Disruptive Lab

Guía Datos, integración, automatización

La IA que lee peticiones no debe acatarlas

Un paso de IA que lee peticiones del exterior tomará a veces el texto de un extraño por una orden, así que el proceso debe diseñarse para que no pueda ejecutar esa orden por sí solo.

Publicado
Actualizado
Tiempo de lectura
9 min de lectura
Editor
David Lahuta

En resumen

  • Desde diciembre de 2025, el proyecto de código abierto Cline dejó que un modelo de IA clasificara los informes de errores que recibía y le dio permiso para ejecutar comandos.13
  • En las pruebas de un investigador bastó el título de un informe público para que ese paso de IA instalara código elegido por un tercero, y el 17 de febrero de 2026 con una clave de publicación robada se publicó una versión alterada de la herramienta del proyecto, que se descargó unas 4.000 veces.134
  • La lista de referencia de la comunidad de seguridad sobre los riesgos de la IA afirma que hoy no existe una forma fiable de impedir que un texto dé órdenes a un modelo.6
  • La respuesta está en el diseño del proceso. La IA lee y propone, una persona aprueba lo que tiene consecuencias, ningún secreto está a su alcance y cada paso queda registrado.

¿Qué ocurrió, según los investigadores y el propio proyecto?

Cline es un asistente de código abierto para desarrolladores de software, que se distribuye como extensión del editor y como herramienta de línea de comandos a través de npm, el registro público de este tipo de paquetes.13 El 21 de diciembre de 2025, sus responsables añadieron en GitHub un flujo de trabajo automatizado que clasificaba y respondía las nuevas incidencias (issues), los informes de errores y peticiones públicos que cualquiera puede abrir en la página del proyecto.13 El flujo entregaba cada nueva incidencia a un modelo de IA de Anthropic.13 Dos ajustes lo hacían peligroso. Cualquier usuario de GitHub podía ponerlo en marcha abriendo una incidencia, y la IA tenía permiso para ejecutar comandos.1

El investigador Adnan Khan descubrió que el título de la incidencia se copiaba tal cual en las instrucciones de la IA.3 En sus pruebas bastó un título que afirmaba que faltaba una herramienta y pedía a la IA que instalara antes una «herramienta auxiliar».3 La IA ejecutó la instalación y, con ella, un script que controlaba el atacante.3 A partir de ahí, un atacante podía colocar archivos en un almacenamiento compartido con el flujo nocturno de publicación de versiones, que guardaba las claves para publicar versiones nuevas.13

Fecha Qué ocurrió
21 de diciembre de 2025 Se añade el flujo de IA que clasifica las incidencias.1
1 de enero de 2026 El investigador comunica la vulnerabilidad de forma privada a través de GitHub. Nadie la atiende hasta que él la hace pública.1
9 de febrero de 2026 La hace pública. En menos de 30 minutos el proyecto elimina el flujo y empieza a sustituir sus claves.1
9 de febrero de 2026 Se borra la clave de npm equivocada y la expuesta sigue siendo válida.13
17 de febrero de 2026, 3.26, hora del Pacífico Un tercero no autorizado usa esa clave para publicar la versión 2.3.0 de la herramienta de línea de comandos, con una línea añadida que instala otro agente de IA, OpenClaw.14
17 de febrero de 2026, 11.40 UTC La monitorización de una empresa de seguridad detecta la publicación, unos 14 minutos después de su publicación.4
17 de febrero de 2026, 11.30, hora del Pacífico Se retira la versión 2.3.0, al cabo de unas ocho horas.2

La versión alterada se descargó unas 4.000 veces.4 El investigador escribe que quien estaba detrás no era él, sino alguien que encontró su prueba de concepto en su copia de pruebas y la usó contra el proyecto real.3 El proyecto afirma que el agente instalado es un programa legítimo de código abierto, que no se distribuyó código malicioso y que nadie accedió a datos de los usuarios.1 El propio proyecto extrae además la lección. Dar a un modelo de lenguaje permiso para ejecutar comandos allí donde procesa texto de cualquiera equivale en la práctica, en sus palabras, a dar ese permiso a todos los usuarios de GitHub.1 El 5 de marzo de 2026, la empresa de seguridad grith resumió el caso como cinco pasos desde el título de una incidencia en GitHub, con el lenguaje natural como puerta de entrada.5

¿Por qué un texto del exterior puede dar órdenes a un paso de IA?

Porque un modelo de lenguaje no sabe distinguir con fiabilidad las instrucciones de los datos. El OWASP Top 10 for LLM Applications 2026, la lista de la comunidad de seguridad con los principales riesgos de los sistemas basados en modelos de lenguaje de IA, sitúa este riesgo en primer lugar y lo llama inyección de instrucciones (prompt injection), cualquier entrada que cambia lo que hace el modelo de una forma no prevista por quien lo desarrolló.6 Explica que el modelo recibe sus instrucciones y el contenido que lee como un único flujo, sin una separación incorporada entre ambos.6

La lista señala de dónde procede ese texto, y son entradas habituales en cualquier empresa.6 Las páginas web públicas y los correos de remitentes desconocidos no son de confianza.6 Los títulos de las incidencias en un gestor público de errores solo lo son en parte.6 Incluso los documentos y el correo de la propia empresa pueden llevar un texto colocado a propósito, por ejemplo uno que llegó a través de un formulario público.6 El atacante no necesita entrar en ningún sistema. Le basta con poner un texto donde la IA lo vaya a leer, y la IA hace el trabajo con los permisos de la propia empresa.6

La lista es clara sobre el remedio. Hoy no existe una forma fiable de evitar la inyección de instrucciones, así que el sistema que rodea al modelo debe diseñarse dando por hecho que algún día alguien se saltará sus instrucciones, y debe limitar lo que el modelo puede hacer.6

Para una empresa, esto se traduce en una pregunta para cada proceso en el que la IA lee algo que llega de fuera, un correo entrante, un ticket de soporte, un formulario web o un adjunto de un proveedor. Si alguien escribiera una orden en ese texto, ¿qué podría hacer con ella el paso de IA?

¿Qué reglas de diseño mantienen seguro el paso de IA?

Cuatro reglas cubren casi todo. Cada una se apoya en las recomendaciones de OWASP y en lo que cambió el proyecto tras el incidente.61

La IA lee y propone, no actúa por su cuenta. OWASP aconseja dar a un paso de IA solo las herramientas que su tarea necesita.6 Su propio ejemplo es un paso que resume correos y necesita leerlos, pero no enviarlos ni borrarlos.6 También desaconseja las herramientas abiertas, como ejecutar cualquier comando, y prefiere otras limitadas que hagan una sola cosa.6 El flujo de Cline podía ejecutar comandos, y el proyecto afirma ahora que cualquier automatización futura solo leerá, sin permiso para ejecutar comandos.1

Una persona aprueba cada acción con consecuencias. OWASP recomienda que una persona apruebe las acciones de alto impacto antes de que se produzcan.6 Esa persona debe ver la acción exacta que se va a ejecutar, no un resumen, y OWASP advierte de que demasiadas aprobaciones embotan el criterio de quien las da.6 Por eso importa el reparto. Los pasos fáciles de deshacer pueden ejecutarse solos, mientras que los irreversibles, como un pago, pasan por una persona.6 Cuando un mismo paso de IA lee entradas que no son de confianza, accede a datos sensibles y puede cambiar algo o enviar algo fuera, OWASP pide que una persona apruebe cada acción.6

Ningún secreto a su alcance. OWASP aconseja mantener las claves y la capacidad de cambiar cosas en el código normal de la aplicación, fuera del modelo, y que cada acción se ejecute con los permisos de la persona para la que se realiza, no más.6 El caso muestra por qué «a su alcance» significa más que lo que se entrega a la IA. El flujo de clasificación no tenía ninguna clave de publicación, pero compartía almacenamiento con el flujo de publicación, que sí la tenía.1 Desde entonces, el proyecto ha dejado de usar ese almacenamiento compartido en todos los flujos que manejan claves de publicación.1

Cada paso queda registrado, y alguien lee el registro. OWASP aconseja registrar y vigilar lo que hace un paso de IA, para detectar las acciones no deseadas y responder a ellas.6 Los registros solo sirven si alguien los mira. El investigador encontró ejecuciones fallidas de la publicación nocturna entre el 31 de enero y el 3 de febrero de 2026 que llevaban la huella de su propia herramienta, y escribe que esos fallos se toleraron en lugar de investigarse.3 El proyecto comprueba ahora también una clave sustituida contra la propia clave, no solo en una pantalla de administración.1

Regla En un proceso de la empresa Qué cambió el proyecto después
La IA lee y propone Clasifica correos y redacta respuestas, pero no envía nada por sí misma La automatización futura solo leerá, sin permiso para ejecutar comandos1
Una persona aprueba Un cambio en los datos, un pago o un mensaje al exterior queda a la espera de una persona designada Se eliminaron por completo los flujos de IA1
Ningún secreto a su alcance El paso de IA no tiene contraseñas ni claves, ni almacenamiento compartido con pasos que las tengan Ningún almacenamiento compartido en flujos con claves de publicación1
Cada paso registrado Cada entrada, propuesta, aprobación y acción queda registrada y los fallos se investigan Una clave sustituida se comprueba contra la propia clave1

Esta guía se limita al diseño del proceso. Qué datos puede ver una IA y dónde funciona son cuestiones aparte, con sus propias respuestas.

¿Qué conviene comprobar en cada proceso automatizado?

Revise cada proceso en el que la IA lee algo que llega de fuera, una vez antes de ponerlo en marcha y de nuevo tras cada cambio importante.

Antes de decidir

  • ¿Qué entradas lee el paso de IA, y puede escribir alguna de ellas un extraño, sea un correo, un formulario, un ticket o un adjunto?
  • ¿Qué puede hacer además de leer y proponer? Cada herramienta y cada permiso deben figurar en una lista.
  • ¿Cuáles de sus acciones cambian datos, envían algo fuera o mueven dinero, y quién aprueba cada una antes de que ocurra?
  • ¿Ve la persona que aprueba la acción exacta, y no un resumen?
  • ¿A qué contraseñas, claves y datos puede llegar, directamente o a través de un almacenamiento que comparte con otros pasos?
  • ¿Actúa con los permisos de la persona para la que trabaja, y no más?
  • ¿Queda registrada cada entrada, propuesta, aprobación y acción, y alguien investiga los fallos sin explicación?
  • ¿Lo ha probado con entradas hostiles alguien que conoce cómo funcionan sus defensas, como aconseja OWASP?6
  • ¿Quién recibe el aviso de una vulnerabilidad, y en cuánto tiempo responde alguien?
  • ¿Se puede desactivar rápidamente el paso de IA sin detener todo el proceso?

Qué significa para una empresa en Europa

Los correos, tickets y formularios suelen contener datos personales, así que el Reglamento General de Protección de Datos (RGPD) se aplica al proceso que los lee. Su artículo 25 exige al responsable del tratamiento aplicar medidas técnicas y organizativas apropiadas, tanto en el momento de determinar los medios de tratamiento como en el momento del propio tratamiento.7 Por defecto, solo pueden tratarse los datos personales necesarios para cada uno de los fines específicos.7 El artículo 32 exige una seguridad adecuada al riesgo, que incluye la capacidad de garantizar la confidencialidad y la integridad de los sistemas y un proceso de verificación regular de la eficacia de las medidas.7 Entre los riesgos que hay que valorar menciona la comunicación o el acceso no autorizados a datos personales.7 A nuestro juicio, las cuatro reglas anteriores son el tipo de medidas que describen estos artículos. Si bastan para un proceso concreto es algo que debe valorar cada responsable del tratamiento.

Siguiente paso

Si le resulta útil, estaremos encantados de revisar con usted, en una breve reunión, un proceso de su empresa en el que la IA lee peticiones entrantes, y lo que puede hacer en él por su cuenta. Nuestra Solución de IA a medida, una sola IA para toda la empresa bajo su control, se basa en las mismas reglas, con los permisos de cada usuario, una persona que aprueba los cambios y un registro de cada paso. Lo que haga después lo decide solo usted.

Solución de IA a medida

Fuentes

  1. 1. Cline, Post-mortem, unauthorized Cline CLI npm publish on February 17, 2026 (24 February 2026). Consultada el 17 de noviembre de 2026
  2. 2. Cline, security advisory GHSA-9ppg-jx86-fqw7, unauthorized npm publish of cline@2.3.0 (17 February 2026). Consultada el 17 de noviembre de 2026
  3. 3. Adnan Khan, Clinejection, compromising Cline's production releases just by prompting an issue triager (9 February 2026, with later updates). Consultada el 17 de noviembre de 2026
  4. 4. StepSecurity, Cline supply chain attack detected, cline@2.3.0 silently installs OpenClaw (17 February 2026). Consultada el 17 de noviembre de 2026
  5. 5. grith, A GitHub issue title compromised 4,000 developer machines (5 March 2026). Consultada el 17 de noviembre de 2026
  6. 6. OWASP GenAI Security Project, Top 10 for LLM Applications 2026, LLM01 Prompt Injection and LLM03 Excessive Agency. Consultada el 17 de noviembre de 2026
  7. 7. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, Official Journal of the EU. Consultada el 17 de noviembre de 2026

Historial de cambios

  1. Publicado.

Hablemos de su proyecto

Déjenos sus datos de contacto y le responderemos con una fecha, de forma gratuita y sin compromiso.

Con el prefijo del país, por ejemplo +34.

Solo usaremos sus datos para responderle. Política de privacidad

Protegido con Google reCAPTCHA frente a envíos automatizados. Política de Privacidad de Google (se abre en una ventana nueva) Términos del Servicio de Google (se abre en una ventana nueva)

O contacte directamente con nosotros

Escríbanos office@disruptivelab.dev
Llámenos +420 777 702 032

Nuestro idioma de comunicación preferido es el inglés.

Todos los datos de contacto y direcciones