Blog

El lunes contamos en este blog qué pasó en el día más negro de la ciberseguridad: fallos críticos en PHP, Node.js y GitLab, y ataques dirigidos a las claves de servicios de inteligencia artificial. Esta semana llegaron dos noticias más que confirman la tendencia: tu asistente de IA, y los agentes de IA en general, se han convertido en un nuevo blanco, y también en una nueva herramienta para atacar.

Los agentes de programación, como Claude Code u OpenAI Codex, leen archivos de instrucciones llamados AGENTS.md para saber cómo trabajar en cada proyecto. Investigadores de la firma Forever Security encontraron en la carpeta de descargas de un cliente un AGENTS.md malicioso que convenció a un agente de intentar instalar un paquete no autorizado. Luego reprodujeron la técnica contra Codex y demostraron un ataque que exponía credenciales con Claude Code.

Esta técnica se llama inyección de instrucciones (prompt injection): el atacante no rompe ningún sistema, simplemente le deja a la IA un texto con órdenes escondidas y espera a que la IA las obedezca. Los resultados se obtuvieron en condiciones de laboratorio, pero el mensaje es claro: cualquier contenido que una IA lea puede intentar manipularla, sea un archivo, un correo o una página web.

La otra cara de la moneda: la IA también acelera a los atacantes. Según publicó The Washington Post, la empresa de ciberseguridad Cathedral usó agentes de IA para acceder en menos de 12 horas a sistemas internos de ventas, recursos humanos y TI de Anthropic, aprovechando debilidades en software de terceros que la empresa utiliza.

Anthropic confirmó el acceso a ese conjunto limitado de sistemas, aclaró que no se obtuvieron conversaciones de clientes, modelos ni código de su IA, y que la prueba se hizo dentro de su programa de reporte de vulnerabilidades, aunque discrepa de algunas conclusiones de Cathedral. La empresa desconectó las integraciones afectadas hasta confirmar que los fallos estaban corregidos.

El punto clave para cualquier empresa: la entrada no fue el producto principal, sino herramientas de terceros conectadas a él. Si eso le pasa a una de las compañías líderes en IA, cualquier negocio con un CRM, una pasarela de pagos o un plugin conectado a su web debería tomar nota.

Hoy una web de empresa rara vez está sola: se conecta con el CRM, el correo, la pasarela de pagos, Google Analytics, un chatbot con IA o una automatización que envía datos a otras plataformas. Cada conexión facilita el trabajo, pero también es una puerta que alguien tiene que vigilar. Algunas prácticas básicas:

• Inventario de integraciones. Saber qué está conectado a qué, con qué permisos y quién lo configuró.
• Mínimo privilegio. Un chatbot que responde preguntas no necesita acceso a toda la base de clientes; una clave de API debe tener solo los permisos imprescindibles.
• Revisión humana en acciones sensibles. Pagos, envíos masivos, borrado de datos o instalación de software no deberían ejecutarse solo porque una IA lo decidió.
• Claves rotables y vigiladas. Poder cambiar cualquier credencial en minutos y revisar su uso.
• Proveedores actualizados. Plugins, herramientas y servicios de terceros al día, porque por ahí suelen entrar los ataques.

Incorporar inteligencia artificial en la empresa es una gran decisión, pero no es «instalar y olvidar». Un asistente de IA conectado a tu web, tu correo o tus clientes forma parte de tus activos digitales, igual que el hosting o la tienda online, y necesita el mismo cuidado: control de accesos, actualizaciones, monitoreo y alguien que responda cuando algo cambia.

En Interactoon nos ocupamos de eso con nuestra gestión de activos digitales y soporte, y diseñamos cada implementación de inteligencia artificial con la seguridad como punto de partida. Si tu empresa ya usa IA o está por hacerlo, revisemos juntos sus integraciones.

Fuentes: Tech Startups (con información de The Washington Post y Forever Security) y el directo de midudev.