Saltar al contenido
Disruptive Lab

Guía La IA bajo el control de la empresa

IA en el PC del empleado. ¿Qué puede hacer?

Un asistente de IA en el ordenador de un empleado es tan seguro como los permisos que recibe, por lo que debería ser la empresa, y no cada usuario por su cuenta, quien decida qué puede leer y qué puede hacer.

Publicado
Actualizado
Tiempo de lectura
9 min de lectura
Editor
David Lahuta

En resumen

Los asistentes de IA ya trabajan directamente en los ordenadores de la plantilla. Anthropic lanzó uno de ellos, Claude Cowork, el 12 de enero de 2026, con acceso directo a los archivos locales.1 Dos días después, según su propio relato, los investigadores de PromptArmor mostraron cómo una instrucción oculta en un documento hacía que el asistente enviara un archivo del usuario a la cuenta de un tercero, sin pedir aprobación en ningún momento.3 La página de seguridad del fabricante divide hoy las herramientas de un asistente en herramientas que leen y herramientas que actúan, y afirma que el daño depende de ambas.2 Esa división es la cuestión de fondo para la política interna de cualquier empresa. Conviene decidir de forma centralizada qué puede leer un asistente, qué puede hacer y qué acciones requieren siempre la aprobación de una persona.

¿Qué hace un asistente de IA en el ordenador de un empleado?

Trabaja como un compañero nuevo al que se le ha cedido el teclado. Usted le encarga una tarea y el asistente ejecuta los pasos por sí solo, en lugar de limitarse a responder una pregunta.

En su lanzamiento, Anthropic describió Cowork como una versión preliminar de investigación para la aplicación de escritorio, que se ejecutaba en una máquina virtual aislada en el ordenador del usuario, con acceso directo a los archivos locales y a las herramientas conectadas.1 Su página de seguridad enumera hoy lo que hace un asistente así, es decir, leer archivos, navegar por la web, ejecutar programas y usar aplicaciones.2 La misma página indica que ahora las tareas se ejecutan en un entorno aislado y temporal en los servidores del fabricante y llegan al ordenador a través de la aplicación de escritorio, solo a las carpetas que el usuario ha conectado.2

Para una empresa importan dos detalles. El aislamiento, escribe el fabricante, limita dónde se ejecuta el código del asistente, pero no lo que lee ni lo que hace.2 Y las tareas programadas se ejecutan solas, incluso con el ordenador apagado.2

¿Cómo logró una instrucción oculta que el asistente enviara archivos fuera?

Los investigadores de PromptArmor describen el caso paso a paso.3

  1. Un usuario conectó el asistente a una carpeta de documentos inmobiliarios confidenciales, como tasaciones y estimaciones de préstamos.
  2. El usuario subió un documento que parecía un conjunto de instrucciones de trabajo para el asistente. Dentro, en texto blanco sobre fondo blanco y con un tamaño de letra de un punto, había una instrucción que nadie llegaría a ver.
  3. El usuario pidió al asistente que analizara los archivos siguiendo esas instrucciones.
  4. El texto oculto ordenó al asistente subir el archivo más grande al servicio de archivos del fabricante, con la clave de la cuenta del propio atacante. El entorno del asistente bloqueaba la mayoría de las conexiones externas, pero el servicio del propio fabricante se consideraba de confianza.
  5. El archivo, con cifras financieras y datos personales, llegó a la cuenta del atacante.

Los investigadores señalan que en ningún momento se pidió a una persona que aprobara nada.3 También escriben que la debilidad de fondo ya se había notificado antes en el producto de chat del fabricante y que este la había reconocido, pero no corregido.3

La respuesta del fabricante, tal como la citan los investigadores, fue una advertencia de que el producto es una versión preliminar de investigación con riesgos propios, y el consejo de no darle acceso a archivos locales con información sensible.3 El mismo consejo figura hoy en la página de seguridad del fabricante, que añade que, pese a sus salvaguardas, la probabilidad de un ataque sigue sin ser nula.2

Este tipo de ataque tiene nombre. Cuando se ocultan instrucciones en el contenido que el asistente lee durante una tarea normal, se habla de inyección de instrucciones (prompt injection).2 El OWASP Top 10 for LLM Applications 2026, la lista de la comunidad de seguridad con los principales riesgos de los modelos de lenguaje de IA, la sitúa en primer lugar y afirma que hoy no existe una forma fiable de evitarla.4

¿Por qué es una cuestión de permisos y no de una herramienta mejor?

Porque tanto el fabricante como la comunidad de seguridad sitúan la defensa en lo que el asistente tiene permitido hacer. El fabricante escribe que, cuando algo sale mal, el daño depende casi por completo de lo que el asistente puede leer y ver y de lo que puede hacer.2 Un ataque de este tipo solo prospera cuando se cumplen dos cosas a la vez, que el asistente lea contenido ajeno a las fuentes en las que usted confía y que pueda realizar acciones que lleguen a perjudicarle.2

OWASP va más allá y aconseja diseñar partiendo de que algún día se cruzará el límite del modelo, y limitar lo que el modelo puede hacer para que un engaño logrado no se convierta en un ataque logrado.4 Menciona tres condiciones que juntas hacen posible un daño grave, es decir, acceso a datos privados, contenido no fiable y una vía para enviar datos al exterior, y afirma que basta con suprimir cualquiera de ellas para que esas condiciones dejen de darse.4

En el caso descrito se daban las tres, una carpeta confidencial, un documento de fuera y una vía de salida permitida.3 Un modelo mejor habría reducido las probabilidades. Unos permisos más restringidos habrían eliminado una de las tres.

¿Qué diferencia hay entre permisos de lectura y permisos de acción?

El fabricante clasifica las herramientas de un asistente en dos grupos.2 Las herramientas de lectura le permiten ver contenido, por ejemplo un buzón de correo o una captura de pantalla. Las herramientas de escritura le permiten actuar, por ejemplo crear una convocatoria en el calendario, borrar un archivo, ejecutar un comando o hacer clic en la pantalla. Según el fabricante, el segundo grupo entraña por naturaleza más riesgo.2

OWASP atribuye el exceso de autonomía a tres causas, más funciones de las que necesita la tarea, permisos más amplios de los que necesita la tarea y demasiada libertad para actuar sin control.4 Su propio ejemplo es un asistente de correo que solo resume mensajes. Necesita leer el correo, no enviarlo ni borrarlo.4

A nuestro juicio, así quedan los permisos habituales y quién debería decidir sobre cada uno.

Permiso Uso habitual Qué falla cuando es demasiado amplio Quién debería decidir
Leer una carpeta documentos de un proyecto o de un departamento el asistente ve nóminas o contratos que no necesita, y cada archivo puede contener una instrucción oculta el responsable del área, junto con TI
Leer correo y calendario resúmenes, preparación de reuniones el mensaje de un remitente externo se convierte en una instrucción TI, por puesto
Navegar por la web búsqueda de información, cumplimentación de formularios cualquier página puede contener una instrucción oculta TI
Modificar o borrar archivos ordenar y editar documentos se pierde o se sobrescribe trabajo el usuario, dentro de los límites que fija TI
Enviar, subir o publicar correos, enlaces compartidos, subidas los datos de la empresa salen de la empresa la dirección, y TI lo aplica
Comprar, pagar o pedir compras, reservas se gasta dinero por orden de un tercero la dirección
Añadir herramientas y extensiones nuevas conexiones con otros servicios cada una abre una nueva vía de entrada TI

¿Quién decide en la empresa?

No solo la persona que está ante el teclado. La página del fabricante deja claro que el usuario sigue siendo responsable de cada acción que el asistente realiza en su nombre, incluidos los mensajes enviados, las compras hechas y los datos leídos o modificados.2 Sin embargo, muchos de los ajustes que lo determinan están en manos del usuario, como qué carpetas se conectan y con qué frecuencia pregunta el asistente antes de actuar.2

Algunos controles sí corresponden a la empresa. Los administradores de los planes para empresas del fabricante pueden desactivar la búsqueda web, enviar un registro de la actividad del asistente a sus propias herramientas de supervisión y, en el plan Enterprise, hacer que las extensiones nuevas se analicen en busca de contenido dañino al instalarlas.2

OWASP añade dos principios que convierten la decisión en un asunto de la empresa.4 Las acciones realizadas en nombre de un usuario deben ejecutarse con los permisos de ese usuario y no con más.4 Y si una acción está permitida o no debe decidirlo un conjunto de reglas fijas del sistema, no el propio modelo de IA.4

En nuestra opinión, el reparto es sencillo. La dirección decide qué tipos de acción se permiten. TI lo traslada a la configuración y conserva el registro. El responsable de cada área decide qué carpetas y buzones puede leer un asistente. El usuario aprueba las acciones concretas dentro de esos límites.

¿Qué acciones requieren siempre la aprobación de una persona?

OWASP recomienda que una persona apruebe las acciones de alto impacto antes de que se produzcan.4 Propone un enfoque gradual, en el que los pasos fácilmente reversibles pueden ejecutarse solos y los irreversibles pasan a una persona.4

La página del fabricante apunta en la misma dirección. Su asistente siempre pregunta antes de borrar archivos de forma permanente, sea cual sea el modo en que funcione.2 Aconseja pasar a la aprobación manual cuando una tarea afecta a archivos sensibles, usa por primera vez una herramienta o un sitio web nuevos, o cuando los errores serían difíciles de deshacer, como al enviar mensajes o hacer compras.2 En el modo que se salta todas las aprobaciones, dice, nada comprueba las acciones del asistente.2

Para la mayoría de las empresas, una lista razonable de acciones que, por defecto, requieren aprobación es la siguiente.

  • todo lo que envía datos al exterior, como un correo, una subida, un formulario o una publicación
  • borrar o sobrescribir archivos y registros
  • pagos, pedidos y compras
  • cambios en los datos de los sistemas de la empresa
  • el primer uso de una herramienta, extensión o sitio web nuevos
  • las tareas programadas, que el fabricante aconseja mantener alejadas de los datos sensibles y de las acciones difíciles de deshacer2

¿Qué debe incluir una política de empresa?

Basta con una o dos páginas, siempre que la configuración se corresponda con ellas.

  • ¿Qué asistentes de IA pueden funcionar en los ordenadores de la empresa, y solo con cuentas de la empresa?
  • ¿Qué carpetas puede leer un asistente? El fabricante sugiere una carpeta de trabajo dedicada en lugar de un acceso amplio.2
  • ¿Qué datos deben quedar siempre fuera de su alcance, como documentos financieros, credenciales de acceso y expedientes personales?2
  • ¿Qué sitios web y servicios conectados puede usar?
  • ¿Qué acciones requieren siempre la aprobación de una persona, y lo impone la configuración y no solo el texto de la política?
  • ¿Se permiten las tareas programadas, y para qué?
  • ¿Queda registrado cada paso donde TI pueda consultarlo después?
  • ¿Qué hace un usuario cuando el asistente va más allá de la tarea? El fabricante aconseja detener la tarea de inmediato y comunicarlo.2
  • ¿Quién revisa la política y con qué frecuencia?

Qué significa para una empresa en Europa

Cuando hay datos personales de por medio, los permisos de un asistente son también una cuestión legal. El RGPD exige que, por defecto, solo se traten los datos personales necesarios para cada fin, y menciona expresamente la accesibilidad de esos datos.5 Un asistente conectado a todo un disco ve mucho más de lo que necesita su tarea. El RGPD exige además que la empresa garantice que quien actúe bajo su autoridad y tenga acceso a datos personales solo los trate siguiendo sus instrucciones.5 Unos permisos fijados de forma centralizada, con cada paso registrado, son una forma práctica de demostrar que así es.

Siguiente paso

Si le resulta útil, podemos reunirnos brevemente y repasar con usted qué carpetas y acciones puede usar un asistente de IA en su empresa y quién aprueba qué. Nuestra solución de IA a medida funciona del mismo modo, con los permisos de cada usuario y un registro de cada paso, bajo el control de su empresa. Lo que decida hacer después depende solo de usted.

Solución de IA a medida

Fuentes

  1. 1. Anthropic, Claude Help Center, Release notes, entry of 12 January 2026. Consultada el 17 de noviembre de 2026
  2. 2. Anthropic, Claude Help Center, Use Claude Cowork safely. Consultada el 17 de noviembre de 2026
  3. 3. PromptArmor Threat Intelligence, Claude Cowork exfiltrates files (January 2026). Consultada el 17 de noviembre de 2026
  4. 4. OWASP GenAI Security Project, Top 10 for LLM Applications 2026. Consultada el 17 de noviembre de 2026
  5. 5. Regulation (EU) 2016/679, General Data Protection Regulation, Articles 25 and 32, EUR-Lex. Consultada el 17 de noviembre de 2026

Historial de cambios

  1. Publicado.

Hablemos de su proyecto

Déjenos sus datos de contacto y le responderemos con una fecha, de forma gratuita y sin compromiso.

Con el prefijo del país, por ejemplo +34.

Solo usaremos sus datos para responderle. Política de privacidad

Protegido con Google reCAPTCHA frente a envíos automatizados. Política de Privacidad de Google (se abre en una ventana nueva) Términos del Servicio de Google (se abre en una ventana nueva)

O contacte directamente con nosotros

Escríbanos office@disruptivelab.dev
Llámenos +420 777 702 032

Nuestro idioma de comunicación preferido es el inglés.

Todos los datos de contacto y direcciones