¿Un agente de IA interno es automaticamente de alto riesgo?

No. La categoria depende del uso, no de la tecnologia. Un agente que resume documentacion interna o clasifica correos suele quedar fuera del alto riesgo. Entra en alto riesgo si se usa en los ambitos del anexo III, como seleccion de personal, evaluacion de trabajadores, acceso a credito, servicios esenciales o educacion. La clasificacion hay que hacerla caso por caso y dejarla documentada con el criterio aplicado.

¿Que obligaciones tiene una empresa que solo usa herramientas de terceros?

Quien despliega un sistema de IA en su operativa es responsable como usuario aunque no lo haya desarrollado. Eso implica usarlo conforme a las instrucciones del proveedor, garantizar supervision humana competente, vigilar la calidad de los datos de entrada que controla, conservar los registros que genere el sistema y avisar al proveedor y a la autoridad si detecta incidentes graves. Comprar la herramienta no traslada la responsabilidad completa al fabricante.

¿Que logs hay que guardar exactamente y durante cuanto tiempo?

Para sistemas de alto riesgo, el registro automatico debe permitir reconstruir el funcionamiento del sistema y detectar situaciones de riesgo: entradas, contexto, decisiones, salidas y quien intervino. El periodo minimo de conservacion es de seis meses, salvo que otra normativa aplicable exija mas, por ejemplo la sectorial financiera o la laboral. Para sistemas que no son de alto riesgo no hay obligacion equivalente, pero mantener el rastro sigue siendo util para depurar errores y responder reclamaciones.

¿Se puede cumplir sin frenar los proyectos de IA en marcha?

Si, siempre que el cumplimiento este integrado en la plataforma y no sea un tramite paralelo. Si el inventario se rellena al desplegar, los logs se capturan en la capa de orquestacion y las aprobaciones son parte del flujo de trabajo, el coste marginal por agente nuevo es bajo. El problema aparece cuando hay veinte flujos dispersos en herramientas distintas y hay que reconstruir la evidencia hacia atras.

AI Act en plataformas de agentes IA: guia de implantacion

Un agente no se limita a redactar un texto: abre tickets, escribe en el CRM, lanza correos y ejecuta pagos. En cuanto el software actua, el AI Act deja de ser un tema legal y pasa a ser un requisito de producto. La pregunta operativa es simple: ¿tu plataforma puede demostrar quien hizo que, con que modelo y con que aprobacion?

Que cambia cuando el software actua solo

El AI Act no clasifica por tecnologia, clasifica por uso. Un agente que resume actas internas y otro que criba curriculums caen en categorias distintas aunque compartan el mismo modelo base. El primero suele quedar en riesgo minimo con obligaciones de transparencia. El segundo entra en el anexo III y arrastra sistema de gestion de riesgos, documentacion tecnica, registro de eventos y supervision humana.

En una plataforma agentica esto se traduce en funcionalidades concretas, no en un PDF de politicas. Necesitas saber que agentes existen, que pueden tocar, que hicieron y quien lo autorizo. Si esos cuatro datos no salen de la plataforma en un export, no tienes evidencia.

→Articulo 9: gestion de riesgos continua, no una evaluacion inicial y archivada
→Articulo 12: registro automatico de eventos durante el ciclo de vida del sistema
→Articulo 14: supervision humana efectiva, con capacidad real de intervenir y parar
→Articulo 50: avisar al usuario de que interactua con una IA y marcar el contenido sintetico
→Anexo IV: documentacion tecnica para sistemas de alto riesgo

El inventario de agentes: la primera pieza que falta

La mayoria de empresas no sabe cuantos sistemas de IA tiene en produccion. Marketing monto un flujo en una herramienta no-code, atencion al cliente puso un chatbot en la web y finanzas usa un asistente conectado al ERP. Ninguno esta registrado en ningun sitio.

Una plataforma de agentes resuelve esto de raiz porque el inventario es el propio sistema de despliegue: si un agente no esta dado de alta, no corre. Cada ficha guarda los campos que un auditor va a pedir y se rellena en el alta, no seis meses despues a base de entrevistas.

→Proposito declarado y area de negocio responsable
→Modelo base, version y proveedor, con historico de cambios
→Datos y sistemas a los que accede, con permisos por herramienta
→Clasificacion de riesgo asignada y quien la firmo
→Fecha de puesta en produccion y de ultima revision

Trazabilidad: cada accion con su rastro

El registro de eventos del articulo 12 no se cubre con los logs tipicos de aplicacion. Hace falta reconstruir la decision completa: prompt de entrada, contexto recuperado, herramientas invocadas con sus parametros, salida del modelo, accion ejecutada y persona que la valido. Para sistemas de alto riesgo, el proveedor debe conservar esos registros durante al menos seis meses, salvo que otra norma exija mas.

En la practica esto obliga a instrumentar la capa de orquestacion, no el modelo. Si la plataforma ejecuta las llamadas a herramientas, ahi esta el punto natural de captura. Si cada equipo llama al modelo por su cuenta desde su propio script, la trazabilidad se pierde y no hay forma de recomponerla despues.

Supervision humana: niveles de autonomia, no un boton de pausa

El articulo 14 pide supervision humana efectiva. Un boton de emergencia que nadie mira no lo es. Lo que funciona es definir la autonomia por tipo de accion: sugerir, ejecutar previa aprobacion, o ejecutar y notificar. El mismo agente puede operar en los tres modos segun lo que este haciendo.

Leer un expediente y proponer una respuesta puede ir en automatico. Emitir un abono, modificar una condicion contractual o descartar una candidatura pasa por aprobacion humana con registro de quien firmo. La plataforma aplica la politica; el usuario no elige saltarsela.

En canales de cara al cliente se suma el articulo 50: el usuario tiene que saber que habla con una IA. Como aterriza eso en un sector concreto lo desarrollamos en AI Act en concesionarios y el articulo 50, y para contenido publicado con IA en AI Act y contenido generado con IA.

→Listas de herramientas permitidas por agente
→Limites por importe, volumen o tipo de registro afectado
→Escalado automatico a un humano cuando el agente no supera un umbral de confianza
→Parada inmediata por agente, sin tumbar el resto de la plataforma

Como se implanta, por fases

Un despliegue realista no empieza por comprar tecnologia, empieza por saber que hay. Estas son las fases que ordenan el trabajo y evitan rehacerlo.

El calendario regulatorio ha sufrido cambios y propuestas de aplazamiento que conviene seguir de cerca; el detalle de que se ha movido y que sigue igual esta en Digital Omnibus: que ha cambiado de verdad en el AI Act. Nada de eso altera el trabajo de inventario y trazabilidad: es la base sobre la que se apoya cualquier version del calendario.

→Descubrimiento: localizar todos los sistemas de IA activos, incluidos los no-code y los de proveedor
→Clasificacion: asignar categoria de riesgo por caso de uso y documentar el criterio
→Consolidacion: mover los flujos dispersos a una capa unica de orquestacion con permisos y logs
→Instrumentacion: activar registro de eventos, aprobaciones y avisos de transparencia
→Operacion: revisiones periodicas, control de cambios de modelo y export de evidencia bajo demanda

Este tema tambien se trata, desde otro enfoque, en Potenciado · Agent Hub · GEOySEO.

El trabajo duro del AI Act no es leer el reglamento, es tener una plataforma capaz de responder que agentes tienes, que hicieron y quien los autorizo. Si ya tienes agentes en produccion repartidos entre varias herramientas, el primer paso util es un inventario real. Escribenos y lo revisamos contigo sobre tu caso concreto.