Los agentes de IA pertenecen a las operaciones

Los agentes de IA suelen presentarse como herramientas de productividad que resultan ser más rápidas, autónomas y persistentes que las formas anteriores de automatización.

Una vez que un agente actúa de forma continua y sin supervisión, pasa a una categoría diferente. Lee información que no es de confianza, conserva las credenciales y toma decisiones que solo pueden hacerse visibles una vez que hayan entrado en vigor. Desde un punto de vista operativo, esto lo sitúa más cerca de un servicio en segundo plano que de una herramienta que alguien usa activamente.

Ese cambio en el marco es más importante que la elección del modelo, el marco o el entorno de alojamiento.

Los sistemas operativos se diseñan teniendo en cuenta las fallas. Suponen que las entradas son confusas, que la visibilidad es incompleta y que el ser humano se olvida, no porque los equipos esperen que las cosas salgan mal todos los días, sino porque entienden que la estabilidad es algo que los sistemas se alejan con el paso del tiempo.

La mayoría de las fallas de los agentes reflejan esta tendencia. El acceso temporal pasa a ser permanente. Los permisos se amplían para eliminar la fricción y no volver a contraerse nunca más. Los registros aumentan porque el almacenamiento es económico y la revisión se pospone. El agente sigue funcionando lo suficientemente bien como para que tocarlo parezca arriesgado. Nada de esto parece imprudente en este momento. Parece práctico.

Tratar a los agentes como software interactivo que simplemente funciona durante más tiempo fomenta estos patrones. Las credenciales generales parecen aceptables porque el agente es útil. El acceso compartido parece razonable porque el sistema es interno. Con el tiempo, estas opciones producen sistemas sobre los que es difícil razonar y aún más difíciles de cambiar.

Los equipos de infraestructura reconocen este patrón de inmediato. Los sistemas bien gestionados se basan en los límites y no en las intenciones. Asumen que las entradas serán engañosas, que los permisos se desviarán y que los sistemas se utilizarán de formas que nadie había planeado originalmente. Los agentes heredan estas condiciones en el momento en que se quedan en funcionamiento.

Cuando un agente puede leer mucho, escribir libremente y llamar a muchos servicios externos, es difícil predecir su comportamiento bajo presión. La inyección inmediata deja de ser un tema de investigación abstracto cuando los permisos son demasiado amplios. En ese momento, los resultados dependen menos del criterio modelo que del alcance del acceso.

Aquí es donde aparece la gobernanza, incluso en equipos pequeños. No la gobernanza como papeleo, sino la gobernanza como propiedad. Alguien necesita saber quién es el propietario del agente, quién puede detenerlo, quién cambia sus credenciales y quién decide qué se le permite tocar cuando cambia su función.

Cuando esas respuestas no están claras, el sistema ya está funcionando sin una supervisión efectiva.

Hay una tendencia a retrasar estas preguntas, especialmente cuando las implementaciones se enmarcan como experimentos. Los sistemas siempre activos tienen la costumbre de permanecer. Una vez que un agente se vuelve útil, atrae la dependencia, y la dependencia reduce el deseo de cambio.

Los límites que se agregan tarde son más difíciles de hacer cumplir y más fáciles de resistir.

Existe una base de referencia en la que la seguridad es lo primero para hacer que los fallos sean aburridos. El agente se detiene. El acceso está revocado. Las credenciales se rotan. El impacto sigue siendo limitado. El sistema vuelve a ser comprensible.

Si puede describir, en un lenguaje sencillo, a qué puede acceder su agente, a qué no puede y cómo lo cerraría en un mal día, es probable que la configuración esté en un estado razonable. Cuando esas respuestas son vagas, el problema rara vez es el propio agente. Lo que lo rodea es la ausencia de disciplina operativa.

Los agentes de IA seguirán aumentando su capacidad y el despliegue seguirá siendo más sencillo. Esas tendencias aumentan la necesidad de moderación en lugar de reducirla.

Trate a los agentes como sistemas operativos desde el principio. Una vez que se haya establecido ese marco, será más fácil razonar sobre el resto.