Los agentes de inteligencia artificial ya pueden consultar bases de datos, gestionar operaciones y ejecutar tareas en nombre de personas y empresas. Pero ¿qué ocurre cuando se equivocan, actúan sin autorización o alguien consigue manipularlos? Su creciente autonomía plantea un nuevo desafío para la ciberseguridad, que pasa por identificar a estos sistemas, controlar sus permisos y determinar quién está detrás de cada una de sus acciones.
Los riesgos de los agentes de IA
¿Quién es responsable si un coche autónomo provoca un accidente de tráfico? ¿Y si un agente de inteligencia artificial realiza una compra que nadie le ha autorizado? ¿ O comparte información confidencial de una empresa con un tercero? A medida que la IA gana autonomía y empieza a tomar decisiones y ejecutar tareas en nuestro nombre, surgen preguntas que hasta hace poco parecían propias de la ciencia ficción. Pero hoy empiezan a preocupar a los expertos en ciberseguridad.
“Para saber quién responde por lo que hace una inteligencia artificial, primero hay que conocer quién está detrás de ella, qué permisos tiene para actuar y quién se los ha concedido”. Explica Hervé Lambert, Global Consumer Operation Manager de Panda Security. “Y aquí entra en juego un concepto”, apunta el experto. “Que está adquiriendo una importancia creciente en el ámbito de la seguridad digital, las identidades no humanas o Non-Human Identities (NHI).
¿Qué son las identidades no humanas?
“Las Non-Human Identities son las identidades digitales que utilizan los sistemas informáticos para identificarse cuando necesitan acceder a información o ejecutar tareas por sí mismos”. Explica Lambert. Es el caso de aplicaciones, dispositivos, procesos automatizados y, cada vez más, agentes de inteligencia artificial. “Estos últimos”, dice el experto de Panda Security. “Plantean un desafío adicional para la ciberseguridad, ya que pueden tomar determinadas decisiones y actuar en nuestro nombre. Por eso, es fundamental saber qué agente está realizando cada acción, qué permisos tiene y quién se los ha concedido”.
Según el informe Identity Security Landscape 2026, de Palo Alto Networks, las organizaciones cuentan ya con una media de 109 identidades de máquina por cada identidad humana, frente a las 82 registradas el año anterior. El estudio revela, además, que el 40% de los agentes de IA identificados tiene acceso a datos corporativos, mientras que solo el 37% de las organizaciones dispone de mecanismos para revocar sus credenciales.
“Estos datos ponen de manifiesto un problema que puede agravarse a medida que los agentes de IA asuman nuevas funciones dentro de las organizaciones”, apunta Lambert. Porque, si estos sistemas pueden acceder a información confidencial, modificar documentos, realizar transacciones o interactuar con otras aplicaciones, sus credenciales pueden convertirse en una vía de entrada especialmente atractiva para los ciberdelincuentes.
El riesgo aumenta cuando las empresas pierden el control sobre quién tiene acceso a sus sistemas y qué puede hacer con ellos. “Un agente de IA con permisos excesivos, unas credenciales robadas o una identidad digital que permanece activa cuando ya no debería pueden facilitar accesos indebidos, filtraciones de información y operaciones fraudulentas”, avisa el experto. Campañas de ciberataques que cuestan dinero.
El coste de una brecha de seguridad
Una brecha de seguridad de estas características puede suponer graves pérdidas económicas. A las que hay que añadir los costes de investigar el incidente, recuperar los sistemas afectados, interrumpir temporalmente la actividad o afrontar posibles sanciones. Según el informe Cost of a Data Breach Report 2026, de IBM, el coste medio mundial de una brecha de datos alcanzó los 4,99 millones de dólares. Un 12% más que el año anterior. En los incidentes maliciosos en los que los ciberdelincuentes utilizaron inteligencia artificial, esa cifra ascendió hasta los seis millones de dólares.
La creciente autonomía de los agentes de IA añade otra preocupación. Un sistema autorizado para realizar compras, modificar información o gestionar determinados procesos podría llegar a ejecutar múltiples operaciones indebidas. Incluso antes de que la empresa detectase que sus credenciales han sido comprometidas o que alguien está manipulando su comportamiento. Cuanto mayor sea su capacidad de actuación y más amplios sean sus permisos, mayor puede ser también el alcance económico de un incidente.
Pero cuando esto pasa, ¿quién es el responsable?
La respuesta depende, en buena medida, de lo que haya sucedido y de quién tuviera el control sobre el sistema. Si un agente de IA realiza una operación para la que estaba autorizado, pero comete un error, habrá que examinar cómo se había configurado, qué instrucciones había recibido y qué mecanismos de supervisión existían. Si, por el contrario, un ciberdelincuente consigue suplantar su identidad o manipular su comportamiento, será necesario determinar cómo se produjo el ataque y qué medidas de seguridad se habían establecido para evitarlo.
“La inteligencia artificial puede ejecutar una tarea de forma autónoma, pero detrás de esa autonomía sigue habiendo personas y organizaciones que deciden qué puede hacer, a qué información puede acceder y hasta dónde llegan sus permisos”. Explica el directivo de Panda Security. “Por eso es tan importante que cada agente tenga una identidad digital propia y que todas sus operaciones puedan rastrearse. Si no sabemos qué sistema ha realizado una acción, quién la ha autorizado o qué instrucciones ha seguido, será mucho más difícil investigar un incidente y determinar las responsabilidades que puedan corresponder”.
Cómo identificar y controlar a los agentes de IA
De la misma manera que las personas necesitamos identificarnos para realizar determinadas gestiones. Los agentes de inteligencia artificial también necesitan acreditar quiénes son cuando acceden a una aplicación, consultan información o ejecutan una operación. Una especie de DNI digital que permita reconocer a cada agente, vincularlo con la persona o empresa responsable de su utilización y establecer qué acciones tiene autorizadas.
Este sistema de identificación puede apoyarse en credenciales digitales, certificados o mecanismos de autenticación que permitan verificar la identidad de cada agente. Además, debe ir acompañado de controles que limiten sus permisos, registren su actividad y permitan retirar sus autorizaciones cuando sea necesario. Así, por ejemplo, una empresa podría permitir que un agente de IA consultase las facturas pendientes de pago y preparase las órdenes correspondientes, pero exigir la aprobación de un empleado antes de ejecutar cualquier transferencia.
“Igual que una empresa no debería permitir que cualquier empleado accediera a toda su información o realizara operaciones sin supervisión, tampoco debería hacerlo con sus agentes de inteligencia artificial”. Explica Lambert. “Cada uno debe disponer de una identidad propia, tener unos permisos definidos y contar con mecanismos que permitan controlar su actividad. Y, si se detecta un comportamiento sospechoso, la organización debe poder bloquear sus accesos antes de que el incidente tenga consecuencias mayores”.
¿Y si alguien roba el DNI de una IA?
Pero, al igual que ocurre con las personas, las identidades digitales de los agentes de inteligencia artificial también pueden ser robadas o suplantadas. Un ciberdelincuente que consiga hacerse con las credenciales de uno de estos sistemas podría utilizarlas para hacerse pasar por él y acceder a los recursos para los que está autorizado. Y, si ese agente tiene permiso para consultar información confidencial, modificar bases de datos o realizar transacciones económicas, el atacante podría intentar ejecutar esas mismas operaciones sin levantar sospechas inicialmente.
“El problema es que, para los sistemas que reciben esas solicitudes, las credenciales pueden parecer perfectamente legítimas”. Advierte el experto de Panda Security. ”Si un ciberdelincuente consigue suplantar la identidad de un agente de IA, podría aprovechar los permisos que tiene concedidos para acceder a información sensible o realizar operaciones fraudulentas. Por eso es tan importante que las empresas puedan detectar comportamientos anómalos, limitar el alcance de cada identidad y revocar inmediatamente sus credenciales cuando exista alguna sospecha de compromiso”.
Cómo evitar que alguien utilice el DNI de nuestra IA
Proteger las identidades digitales de los agentes de inteligencia artificial exige que las empresas revisen cómo gestionan sus accesos y autorizaciones. El primer paso consiste en identificar todos los agentes que operan dentro de la organización, conocer qué aplicaciones utilizan, a qué información pueden acceder y quién es responsable de supervisarlos. Una tarea que puede resultar especialmente compleja cuando distintos departamentos incorporan herramientas de IA sin que exista un control centralizado sobre ellas.
A partir de ahí, los expertos recomiendan aplicar el principio de mínimo privilegio. Consiste en conceder a cada agente únicamente los permisos imprescindibles para realizar las tareas que tiene asignadas. También resulta conveniente utilizar credenciales individuales y de duración limitada, establecer mecanismos de renovación y revocación de accesos. Además de evitar que los sistemas compartan contraseñas o claves permanentes que puedan ser utilizadas por un ciberdelincuente.
Supervisar la actividad de los agentes de IA
Otro aspecto fundamental es la supervisión de la actividad. Las empresas necesitan disponer de mecanismos que permitan detectar comportamientos anómalos. Como un agente que comienza a consultar información a la que nunca había accedido, realiza operaciones fuera de sus funciones habituales o intenta conectarse a aplicaciones que no necesita para trabajar. En las acciones especialmente sensibles, como realizar transferencias, modificar datos críticos o compartir información confidencial, también conviene establecer controles adicionales. Además de exigir una autorización humana antes de ejecutarlas.
“A medida que deleguemos más tareas a los agentes de inteligencia artificial, tendremos que prestar más atención a cómo utilizan los permisos que les hemos concedido”. Explica Lambert. “La seguridad pasa por saber qué agentes están operando en nuestros sistemas, controlar sus accesos y disponer de mecanismos para intervenir cuando algo no funciona como debería. Porque una identidad digital puede estar correctamente autenticada y, aun así, ser utilizada para realizar una operación indebida”.
Y es que el desarrollo de los agentes autónomos plantea una nueva exigencia para la ciberseguridad. Las organizaciones tendrán que ser capaces de identificar a los sistemas que actúan en su nombre, supervisar sus decisiones y conservar la capacidad de detener sus operaciones cuando sea necesario. Especialmente cuando esas decisiones puedan tener consecuencias económicas, comprometer información confidencial o afectar a terceros.
