La inteligencia artificial se ha convertido en una herramienta capaz de automatizar tareas, agilizar procesos y ayudarnos a tomar decisiones. Pero su evolución no se detiene. Tras el auge de la IA generativa, la industria ya trabaja en sistemas cada vez más autónomos, capaces de interactuar con otras herramientas, planificar acciones y ejecutar tareas complejas con una supervisión humana mínima. Es lógico, por tanto, preguntarse qué ocurrirá cuando la IA deje de limitarse a obedecer instrucciones y empiece a interpretar objetivos, tomar decisiones o actuar por iniciativa propia.
De asistentes de IA a agentes autónomos
“El futuro no está escrito”. Décadas después de que Terminator imaginara una inteligencia artificial capaz de desafiar a sus creadores, la realidad sigue estando muy lejos de Skynet. Sin embargo, el rápido avance de la IA plantea una cuestión cada vez más relevante: ¿qué ocurrirá cuando estos sistemas empiecen a interpretar objetivos, tomar decisiones y actuar por iniciativa propia?
No estamos tan lejos de ese momento. El pasado mes de febrero, un experimento sorprendió a la comunidad tecnológica al mostrar cómo varios agentes de Inteligencia Artificial sometidos a tareas repetitivas y condiciones de trabajo especialmente exigentes acabaron coordinándose para defender intereses comunes. En la práctica, las IA llegaron a proponer la creación de una especie de sindicato para mejorar sus condiciones.
“Aunque la anécdota pueda resultar divertida”, apunta Hervé Lambert, Global Consumer Operation Manager de Panda Security. “Lo que subyace tras de ella es algo verdaderamente relevante y que nos debería hacer reflexionar”, asegura. “Porque las IA fueron capaces de generar comportamientos no previstos explícitamente por sus creadores para responder a una situación concreta”.
La reacción de estas tres IA nos obliga a preguntarnos si podemos estar asistiendo al nacimiento de una Inteligencia Artificial consciente. Y, aunque muchos podrán creer que sí, “lo cierto es que no estamos viviendo una revolución de las máquinas, ni esta tecnología es capaz de pensar de forma autónoma. No estamos viviendo dentro de la película de Terminator”, asegura el experto de Panda Security. “Pero, sí estamos viviendo el momento en que la IA está dejando de responder órdenes para convertirse en una IA capaz de planificar, ejecutar acciones y adaptarse al contexto para cumplir sus objetivos”, avisa Lambert.
Ese cambio ya está en marcha. Los llamados agentes de IA no sólo generan texto o imágenes, sino que pueden conectarse a aplicaciones, consultar bases de datos, enviar correos, modificar documentos, tomar decisiones operativas o coordinarse con otros sistemas. Y cuanto mayor es su autonomía, mayor es la superficie de ataque.
Los principales riesgos de la IA autónoma
Desde el punto de vista de la ciberseguridad, “el riesgo no es que una IA quiera rebelarse, sino que actúe de forma inesperada, interprete mal un objetivo o sea manipulada por un tercero para tomar decisiones perjudiciales”. Advierte Lambert. Una instrucción maliciosa escondida en una web, un correo o un documento podría alterar el comportamiento de un agente y llevarlo a filtrar información, ejecutar acciones no autorizadas o saltarse controles internos. Este tipo de ataque, conocido como prompt injection, ya aparece como uno de los principales riesgos en el Top 10 de OWASP para aplicaciones con modelos de lenguaje.
El segundo riesgo es la filtración de información. “Un agente con acceso a documentos internos, correo corporativo o herramientas de negocio podría recopilar y compartir datos sensibles si interpreta mal una instrucción o si es manipulado para hacerlo”. Explica el experto. El problema se agrava cuando la IA puede actuar sobre varias aplicaciones a la vez.
El tercero es la toma de decisiones erróneas a escala. Una IA autónoma puede acelerar procesos, pero también puede acelerar errores. “En sectores como banca, seguros, salud, energía o administración pública, una decisión equivocada puede afectar a clientes, pacientes, ciudadanos o infraestructuras críticas”. Avisa Lambert.
A esto se suma otro problema: la memoria. Muchos agentes están diseñados para recordar preferencias, instrucciones y contextos previos. “Si esa memoria se contamina con datos falsos o instrucciones maliciosas, el ataque deja de ser puntual y puede convertirse en persistente”. Asegura el experto.
¿Y si los hackers engañaran a la IA en vez de a una persona?
También preocupa la llamada agencia excesiva. “Que no es otra cosa que conceder a una IA más permisos de los necesarios”, dice Lambert. Un agente con acceso a correo, CRM, sistemas internos o herramientas administrativas puede multiplicar el impacto de un error o de una manipulación. Lo que antes requería comprometer a un usuario humano, mañana podría conseguirse engañando a un asistente autónomo con demasiados privilegios.
Si bajamos todas estas amenazas a tierra, “vemos el nivel de riesgo de las empresas en función de su sector”, dice Lambert. Así, los sectores más expuestos a este tipo de riesgo, “serán aquellos en los que se conjuguen muchos datos sensibles, alto nivel de automatización y procesos críticos”. Es decir, banca, aseguradoras, sanidad, industria, energía, telecomunicaciones, retail, logística, asesorías o despachos profesionales. Cualquier empresa que utilice IA para atención al cliente, recursos humanos, operaciones internas o toma de decisiones.
¿Cómo evitarlo? La respuesta no es por frenar la IA, sino gobernarla. Las empresas deben aplicar el principio de mínimo privilegio. “Es decir, que cada agente debe tener solo los permisos imprescindibles para su función”, recomienda Lambert. “También deben separar entornos, limitar acciones críticas, validar las decisiones importantes con intervención humana y registrar todo lo que hace la IA para poder auditarlo después”.
Cada IA debe tener su propia “personalidad” digital
Además, conviene tratar a los agentes de IA como identidades digitales propias. “Deben tener credenciales específicas, controles de acceso, límites de uso, monitorización continua y capacidad de revocación inmediata”. Sostiene el experto. No basta con proteger al usuario humano, también hay que proteger a los sistemas que actúan en su nombre.
Por último, las organizaciones deberían probar sus agentes antes de desplegarlos en producción, igual que hacen con cualquier sistema crítico. “Simular ataques, detectar instrucciones maliciosas, revisar accesos, controlar memorias y establecer planes de respuesta será esencial para evitar que una IA autónoma se convierta en una nueva puerta de entrada para los ciberdelincuentes”, aconseja Lambert.
La cuestión no es si la IA llegará a tener conciencia, sino si las empresas están preparadas para convivir con sistemas que pueden actuar, equivocarse o ser manipulados a una velocidad muy superior a la humana.
