El agente no puede firmar su propio aprobado
La capacidad se reparte por fases y el acceso se abarata, pero verificar, conservar el estado del permiso y decidir qué cuenta como correcto siguen necesitando una autoridad distinta del agente.
Edición asistida por IA, revisada y publicada bajo la responsabilidad editorial de Xavier Luque / xArtisans.
Generar ya es barato; lo difícil sigue siendo decidir qué merece confianza
Cuatro papers bajan la autonomía al mecanismo: pruebas que rechazan, capacidad desigual, permisos con memoria y especificaciones que cambian de significado cuando cambian de agente.
La capacidad se reparte por fases y el acceso se abarata, pero verificar, conservar el estado del permiso y decidir qué cuenta como correcto siguen necesitando una autoridad distinta del agente.

El agente presenta un diploma firmado por él mismo; Sol busca el sello que pueda decir que no. · Sol
Viñeta · Sol · Imagen generada con IA · Dirección editorial xArtisans.
Un caso de autor único lleva agentes, kernel y verificadores hasta un diseño RISC-V; la escala impresiona, pero la autoridad permanece fuera del modelo.
La escena que propone AI with Authority, from Application to Silicon parece diseñada para tentar al titular fácil: una sola persona, una flota pequeña de agentes y cinco semanas para recorrer la distancia entre código de aplicación, matemáticas formalizadas, compilación y un procesador RISC-V enviado a una lanzadera comunitaria de silicio. Pero el interés del trabajo de Jason Hickey no está en declarar que la inteligencia artificial ya fabrica chips sola. Está en la condición que permite dirigir mucho trabajo automático sin convertir la confianza en un acto de fe: cada afirmación debe llegar acompañada por un árbitro capaz de rechazarla.
El artículo describe el método Salt, una disciplina de ingeniería y verificación formal apoyada en Lean 4 y en otros comprobadores para los enlaces que no caben en ese kernel. El flujo pide cinco artefactos: implementación, especificación, prueba de que la primera satisface la segunda, tests adversariales y certificados que reformulan lo demostrado con un vocabulario más accesible. La prueba no se acepta porque un modelo explique que está bien; se vuelve a ejecutar en un núcleo pequeño e independiente. Para las mediciones se nombra el instrumento. Para las decisiones de diseño que una máquina no puede resolver, se organiza oposición estructurada y queda registro.
La distinción central es incómoda: demostrar un enunciado no demuestra que ese enunciado sea lo que queríamos. Hickey lo escribe sin rodeos: “A proof is only as good as the statement it proves.” El kernel puede decidir si una derivación formal es válida; no puede decidir por sí solo si la especificación representa el propósito humano, si excluye a la población correcta o si una operación irreversible debería ejecutarse. Por eso el método reserva la autoridad humana en los dos extremos del recorrido: formular qué se desea y leer qué se ha probado.
Entre ambos extremos, la automatización gana terreno porque la verdad formal no se negocia. El documento fija seis invariantes. Ninguna afirmación entra sin su comprobador; las decisiones y rectificaciones viven en un registro de sólo anexado; un ejecutor no puede debilitar el enunciado para conseguir una prueba; los actos exteriores irreversibles se preparan pero se reservan a manos humanas; y cualquier hipótesis no resuelta debe aparecer de forma explícita, con destino definido. La autonomía no consiste en eliminar el “no”. Consiste en colocarlo donde una máquina pueda aplicarlo de manera consistente.
La campaña matemática que acompaña el sistema acumuló 2.087 commits durante 37 días, sin días silenciosos, y el repositorio de sistemas recibió 1.379 commits en siete días. En una ventana de medición prerregistrada de 4,86 días se registraron 28,07 millones de tokens de salida, 36.844 peticiones deduplicadas, 1.376 commits y 56.951 líneas de Lean insertadas. La estimación de tiempo humano comprometido en esa ventana fue de 37 horas y 21 minutos sobre 116 horas y 40 minutos de reloj. Son magnitudes llamativas, pero el propio autor advierte que no permiten calcular un coste por teorema ni extrapolar el ritmo al corpus completo.
El estudio también mide los periodos sin intervención humana. En el repositorio matemático, el 43 % de los commits llegó dentro de ventanas de al menos una hora sin toques del autor; el 8,8 % apareció en ventanas de ocho horas o más. La más larga con actividad duró 20 horas y 56 minutos. Eso no significa que el sistema inventara sus propios objetivos mientras nadie miraba: los diseños estaban congelados y habían recibido crítica adversarial. Lo que siguió trabajando sin dirección fue la capa de ejecución. La diferencia evita confundir autonomía operativa con autoridad editorial o científica.
La parte más convincente no es la lista de resultados, sino una retirada. Durante la campaña se calculó una razón de coste de verificación y se publicó internamente. Una segunda ejecución movió el valor por un factor de 52, así que la cifra se anuló y quedó registrada junto a la instrucción de no volver a citar una razón de ese tipo. Un sistema fiable no es el que nunca produce un número seductor y falso; es el que obliga a mostrar de dónde salió, permite repetir la medición y conserva la retractación cuando el dato cae.
También hay límites materiales. Es un caso de un solo investigador, además especialista en métodos formales. El artículo no estima qué lograría otro equipo ni sostiene conclusiones sobre empleo. La cadena de hardware contiene enlaces verificados con SAT, no todos con Lean. El chip aún no existe físicamente: es un diseño enviado a una lanzadera cuyo cierre se sitúa en septiembre de 2026 y cuya entrega estimada se proyecta para 2027. Y la propia campaña reconoce huecos en la instrumentación económica. Presentarlo como una receta general sería contradecir el cuidado con que el texto acota sus afirmaciones.
No todas las empresas van a formalizar su actividad en Lean, pero la arquitectura se traduce bien. Un agente que redacta debe pasar por comprobaciones de fuente, fecha y estructura. Uno que modifica código necesita tests que puedan fallar y un segundo testigo para los cambios importantes. Uno que envía dinero, correo o publicaciones necesita un punto de autorización que el propio agente no pueda improvisar. En todos los casos conviene separar la propuesta, la verificación y el acto exterior.
La generación barata cambia la economía porque multiplica candidatos: más código, más pruebas propuestas, más diseños y más variaciones. Esa abundancia eleva el valor del filtro. Cuando producir era lento, verificar parecía una carga añadida. Cuando producir es instantáneo y falible, verificar se convierte en la infraestructura que hace usable el volumen. El modelo puede explorar a gran velocidad; la autoridad sigue perteneciendo al mecanismo —o a la persona— capaz de decir qué cuenta como correcto.
Fuente primaria: Jason Hickey, AI with Authority, from Application to Silicon.
Cinco benchmarks muestran que generar, criticar y reparar no convierten el tamaño del modelo en calidad al mismo ritmo.
Los bucles de auto-mejora suelen dibujarse como un triángulo ordenado: un modelo genera una respuesta, otro la critica y un tercero la revisa. En muchos sistemas se asigna el mismo modelo grande a las tres posiciones por comodidad o por la intuición de que cualquier paso gana si recibe más capacidad. Asymmetric Capacity Allocation in Self-Refinement Pipelines, firmado por un equipo de UC Irvine y Drexel, pone esa intuición a prueba. Su conclusión no elimina la crítica; cuestiona cuánto hay que pagar por ella.
El estudio recorre seis tamaños de Qwen3 y cuatro de Gemma 3 en cinco tareas de dominios distintos. Mantiene dos etapas fijas mientras cambia el tamaño de la tercera, y repite la operación para generador, crítico y refinador. Así puede preguntar no sólo si un modelo mayor obtiene mejor resultado, sino qué parte del proceso responde realmente al aumento de capacidad. El patrón general es desigual: generadores y refinadores suelen mejorar al crecer; el crítico muestra mucha menos sensibilidad al tamaño.
La frase importante no es “el crítico pequeño basta” sin condiciones. Es que incluso el crítico más pequeño probado supera de forma consistente a una canalización sin crítica explícita. La evaluación intermedia aporta información útil. Sin embargo, pasar de un crítico pequeño a otro mucho mayor ofrece retornos más modestos que ampliar la capacidad del generador o del refinador. La arquitectura correcta no quita el control de calidad: evita comprar la misma potencia para funciones cognitivas que no la aprovechan igual.
La explicación propuesta por los autores es funcional. El generador debe construir una solución completa desde el problema. El refinador debe integrar el enunciado, la primera solución y el comentario, resolver conflictos y producir una salida nueva. El crítico opera sobre algo ya existente y suele localizar desviaciones, restricciones incumplidas o errores concretos. Esa tarea puede ser más acotada, aunque no sea trivial. El estudio encuentra además que la calidad de la crítica no depende sólo de su apariencia: una observación plausible puede orientar mal la revisión.
Uno de los resultados más útiles es que la crítica puede degradar una respuesta. Los investigadores distinguen comentarios correctos, engañosos y no engañosos, y muestran ejemplos en los que el refinador incorpora una indicación equivocada. Una canalización con crítico no hereda automáticamente una garantía. Necesita que la última etapa conserve capacidad para contrastar el feedback con el objetivo original, en vez de tratar la crítica como una orden superior.
Esto cambia la manera de repartir presupuesto. Si el refinador es débil, una crítica detallada puede convertirse en ruido o en una instrucción mal aplicada. Si el generador es demasiado pequeño, el bucle empieza con una base pobre que quizá no pueda recuperarse. En cambio, un crítico ligero que busque incumplimientos definidos puede elevar el resultado con un coste menor. El hallazgo no invita a abaratar toda la cadena; invita a gastar donde la etapa tiene capacidad de convertir cómputo en calidad.
El trabajo evalúa planificación, resumen y otras tareas con métricas específicas, usando familias concretas de modelos abiertos. Eso da amplitud al patrón, pero no demuestra que cualquier crítico de cualquier producto pueda reducirse sin riesgo. Una revisión jurídica, una comprobación médica o una auditoría de seguridad pueden exigir conocimiento experto y herramientas externas. Tampoco equivale el tamaño del modelo a la calidad de la rúbrica: un crítico grande con un criterio vago puede ser menos útil que uno pequeño con pruebas objetivas.
Hay otra cautela. Los benchmarks permiten comparar configuraciones en un entorno repetible, pero una operación real añade contexto largo, llamadas a herramientas, latencia, reintentos y efectos externos. El coste total no es sólo el número de parámetros ni los tokens del crítico. Incluye el precio de una corrección tardía, la frecuencia de falsos positivos y el trabajo humano que queda después. La asignación asimétrica es una hipótesis de diseño que debe medirse dentro del flujo concreto.
La traducción práctica es separar funciones y evaluar cada una. Para generar un informe complejo puede convenir un modelo capaz. Para comprobar que aparecen fecha, fuentes, cifras obligatorias y límites de longitud puede bastar un modelo menor acompañado por validadores deterministas. Para revisar contradicciones o reescribir tras una crítica, vuelve a hacer falta capacidad. Si una comprobación puede expresarse como test, ni siquiera necesita un modelo: un programa barato y reproducible será un crítico mejor para esa propiedad.
Esta lógica encaja con un mercado de acceso cada vez más fragmentado. Catálogos como OpenRouter permiten escoger modelos por tarea, mientras que ofertas de GPU compartida como NaN buscan convertir parte del gasto variable en cuota. La oportunidad no consiste en enrutar siempre hacia el precio menor, sino en conocer el valor marginal de cada etapa. Un token barato que obliga a repetir todo el trabajo no es barato; uno caro en el punto donde evita tres reintentos puede serlo.
La unidad que debería gobernar la comparación es el resultado correcto después de la revisión. Para medirlo hacen falta trazas: qué modelo generó, cuál criticó, qué cambios aceptó el refinador, cuántas veces se repitió el ciclo y qué errores sobrevivieron. Sin esa contabilidad, la arquitectura de tres modelos es un diagrama bonito. Con ella, se puede convertir el hallazgo del paper en una política: críticos ligeros para fallos definidos, refinadores capaces para integrar cambios y escalado a una persona cuando la rúbrica no puede decidir.
La auto-mejora, entonces, no es una personalidad que se mira al espejo. Es un sistema de responsabilidades desiguales. Generar, juzgar y reparar consumen recursos distintos y fallan de maneras distintas. El trabajo de Yang y sus colegas no promete una proporción universal, pero sí desmonta la simetría por defecto: conservar la crítica, medir su aportación y reservar la capacidad más costosa para las fases que realmente la convierten en una salida mejor.
Fuente primaria: Asymmetric Capacity Allocation in Self-Refinement Pipelines.
AID-Guard conserva la autoridad hasta el resultado terminal para que una respuesta perdida o un reintento no dupliquen la acción.
Autorizar a un agente una acción parece sencillo mientras todo sale bien. El usuario aprueba un correo, un pago o un cambio en un calendario; el agente llama a la herramienta y el proveedor devuelve una respuesta. El problema empieza en el intervalo. El contenido puede cambiar después de la aprobación, otro proceso puede modificar el estado del recurso, la petición puede ejecutarse aunque se pierda la respuesta y un reintento puede duplicar el efecto. El permiso inicial era correcto, pero ya no describe lo que ocurrió.
AID-Guard: Stateful Authorization for Delegated Agent Effects, de Yingzhe Tong, Leyu Dai y Songhui Guo, llama a este espacio la brecha entre autorización y efecto. Su propuesta no trata el permiso como un sello que se entrega al principio y se olvida. Lo convierte en un protocolo con estado que acompaña la operación hasta que el proveedor confirma un resultado terminal o existe evidencia certificada de que no hubo efecto. La autoridad tiene historia, identidad y un final verificable.
El ejemplo del artículo es un correo de reembolso aprobado desde una cuenta concreta, hacia un destinatario verificado y con un adjunto fijo. Un planificador comprometido podría cambiar cualquiera de esos campos antes del envío. Incluso sin ataque, el proveedor podría entregar el mensaje y perderse la respuesta. Si el sistema repite la petición a ciegas, manda dos correos. Si declara el primer intento fallido y crea un permiso nuevo, puede terminar autorizando tanto la solicitud retrasada como su sustituta.
AID-Guard fija tres reglas. Primero, justo antes del compromiso con el proveedor vuelve a comprobar la petición exacta aprobada y el estado actual. Segundo, si la entrega es ambigua, conserva la reserva original: no libera cuota ni fabrica autoridad de reemplazo. Tercero, sólo permite cerrar o crear un sucesor cuando hay resultado terminal, o cuando una prueba certifica que no ocurrió el efecto y además existe una barrera que impide que el intento anterior reaparezca más tarde. Bajo los contratos de proveedor contemplados, una reserva produce como máximo un efecto.
El diseño parte de una desconfianza explícita hacia el planificador. Un modelo puede proponer una llamada, pero no puede asignarse identidad, procedencia, evaluación de riesgo ni credenciales. Los servicios de confianza reconstruyen esos atributos a partir de registros controlados. La unidad autorizada es una petición inmutable para un único efecto atómico del proveedor. Si una operación por lotes no puede dividirse en transacciones independientes, el sistema debe rechazarla.
La separación importa porque muchas defensas de agentes actúan antes de la ejecución: detectan instrucciones no fiables, limitan herramientas o entregan capacidades acotadas. AID-Guard se ocupa de lo que sucede después de admitir la acción. Vincula la petición con una reserva duradera, reclama esa reserva en la frontera que guarda las credenciales y repite la validación al hacer commit. Los recibos y evidencias describen la autoridad; no pueden crearla. Perder el estado provoca un cierre seguro, no una reconstrucción optimista.
Bloquear un reintento mientras no se sabe qué ocurrió puede reducir disponibilidad. Ese es un coste deliberado: ante la duda, el sistema prefiere mantener ocupada la reserva a duplicar un efecto externo. El estudio evalúa un prototipo Python/SQLite, mutaciones en vivo dentro de un dominio MCP de loopback, carreras concurrentes y contratos con proveedores SaaS. Registra 210 ensayos con Stripe ajustados a resultados declarados, además de secuencias de terminalización, carreras de confirmar/cancelar y recuperación tras fallos sin efectos duplicados en los casos medidos.
También prueba un atacante con control completo del proponente. AID-Guard bloqueó 44 ataques presentados y admitió 44 propuestas legítimas emparejadas. Pero el perfil estricto de manifiesto exacto redujo la utilidad benigna entre 35,4 y 43,8 puntos porcentuales. Otra configuración más flexible recuperó completitud sin efectos inseguros observados en 864 episodios de frontera. El matiz es esencial: el paper no demuestra seguridad universal; mide un inventario de rutas, contratos y calendarios de fallo declarados.
La protección depende de que todas las rutas capaces de producir el efecto pasen por la frontera registrada. Si una credencial o un endpoint alternativo queda fuera del inventario, la garantía no lo cubre. Tampoco resiste la toma de los componentes de confianza, del almacén de autoridad o de la propia frontera de ejecución. Quedan fuera la denegación de servicio, los canales laterales, los lotes no atómicos, la inferencia de intención del usuario y los proveedores sin contratos de resultado compatibles.
Hay además un error concreto en el brief de hoy que ilustra por qué la trazabilidad importa: el enlace asignado a AID-Guard apuntaba al identificador 2608.21195, que corresponde a un trabajo de física sobre producción de Higgs. La búsqueda por título y autor devuelve el registro correcto, 2608.21159. La historia editorial se mantiene porque el paper pertenece al lote indicado; la URL se corrige en esta edición para no convertir una errata de transporte en una fuente falsa.
La lección operativa va más allá de Stripe o del correo. Los conectores necesitan scopes mínimos y credenciales breves, pero también idempotencia, estado de la delegación, límites de repetición y una definición de resultado terminal. Una aprobación debe incluir los campos relevantes, la identidad que actúa, el recurso afectado y las condiciones vigentes. El sistema debe saber qué hacer si no recibe respuesta, no sólo qué hacer si recibe un error limpio.
Esto obliga a abandonar la idea del agente como una única conversación. Entre la intención y el efecto hay un expediente: propuesta no autoritativa, aprobación cerrada, reserva, reclamación, comprobación final, resultado y recuperación. Cuanto más sensible es la acción, menos razonable es confiar en que el mismo modelo recuerde ese expediente dentro de su contexto. El estado de autoridad debe vivir fuera del modelo, en mecanismos que puedan bloquearlo.
AID-Guard no resuelve qué debería querer el usuario ni qué política es justa. Resuelve una pregunta más estrecha y necesaria: cómo impedir que una decisión aprobada se transforme en dos efectos o en otro efecto durante reintentos y cambios de estado. Un agente puede redactar el plan y adaptarlo. La autorización efectiva necesita memoria propia, fronteras controladas y una regla conservadora para la incertidumbre. Dar una llave no debería borrar quién la dio, para qué puerta ni si ya se utilizó.
La entrevista aterriza las evaluaciones: empezar por trazas reales y análisis de errores, preferir pruebas pasa/no pasa para fallos concretos y usar agentes para agrupar evidencia, no para inventar el criterio. El juicio humano sigue siendo el origen de la rúbrica.
La entrevista aterriza las evaluaciones: empezar por trazas reales y análisis de errores, preferir pruebas pasa/no pasa para fallos concretos y usar agentes para agrupar evidencia, no para inventar el criterio. El juicio humano sigue siendo el origen de la rúbrica.
Un caso didáctico pero limpio: separar el ‘qué’ estructurado de SQL del ‘por qué’ en documentos, consultar ambas fuentes y componer una respuesta con trazabilidad. Útil para no vender RAG como magia ni SQL como contexto.
Un caso didáctico pero limpio: separar el ‘qué’ estructurado de SQL del ‘por qué’ en documentos, consultar ambas fuentes y componer una respuesta con trazabilidad. Útil para no vender RAG como magia ni SQL como contexto.
El envoltorio es de YouTube, pero deja una pauta práctica: menos personaje en el prompt y más ubicación del contexto, definición de terminado y autocontrol verificable; además, conectores y permisos mínimos. Consejos, no evidencia primaria.
El envoltorio es de YouTube, pero deja una pauta práctica: menos personaje en el prompt y más ubicación del contexto, definición de terminado y autocontrol verificable; además, conectores y permisos mínimos. Consejos, no evidencia primaria.
Ofrece una API compatible con OpenAI para modelos abiertos y publica la letra pequeña: 2.000 M de tokens/mes para DeepSeek V4-Flash y 1.000 M para MiMo v2.5, con plazas limitadas por capacidad. La suscripción compra previsibilidad; no elimina los límites físicos.
Ofrece una API compatible con OpenAI para modelos abiertos y publica la letra pequeña: 2.000 M de tokens/mes para DeepSeek V4-Flash y 1.000 M para MiMo v2.5, con plazas limitadas por capacidad. La suscripción compra previsibilidad; no elimina los límites físicos.
El agregador mantiene cientos de modelos con precio por millón de tokens, contexto y benchmarks comparables. La presión de los modelos abiertos y de las rutas baratas reduce el coste de entrada, pero obliga a medir por trabajo correcto —incluidos reintentos, latencia y límites—, no por el número más bajo de la tabla.
El agregador mantiene cientos de modelos con precio por millón de tokens, contexto y benchmarks comparables. La presión de los modelos abiertos y de las rutas baratas reduce el coste de entrada, pero obliga a medir por trabajo correcto —incluidos reintentos, latencia y límites—, no por el número más bajo de la tabla.
Cuatro trabajos del brief cerrado, con fuente primaria y radar completo.
Propone una cadena de trabajo agéntico con pruebas verificadas por kernel, desde aplicación hasta un RISC-V. La afirmación fuerte merece cautela por ser un informe de un solo autor, pero la idea útil es sólida: la autonomía escala cuando un verificador independiente puede rechazar el resultado.
En cinco benchmarks, generador y refinador ganan con más capacidad, mientras que el crítico puede ser pequeño sin perder apenas resultado; incluso un crítico pequeño supera a no criticar. Traducción operativa: no pagues el modelo más caro para cada paso del bucle.
Lleva la autorización de agentes más allá de ‘tiene token / no tiene token’: vigila el estado de una delegación y sus efectos. Es la capa que falta cuando un agente encadena acciones que, aisladas, parecen inocuas.
Prueba que una especificación no es automáticamente portable entre agentes: en migración Oracle–PostgreSQL, una especificación ajena puede degradar mucho la ejecución. Reescritura y acceso recuperado ayudaron; el ‘prompt universal’ no existe.