Autogoverno dell'AI agentica: time-budget, introspezione embodied e compliance gate per il deployment reale

La narrazione dominante sull'AI agentica ha finora inseguito l'autonomia come fine: agenti che pianificano, agiscono, coordinano. Ma i paper e i prototype usciti solo nell'ultima settimana — tutti depositati su arXiv tra il 7 e il 9 ottobre 2026 — raccontano una svolta più sottile e per certi versi più decisiva. La domanda non è più «cosa riesce a fare l'agente?», ma «come fa l'agente a restare dentro i binari mentre lo fa?». Binari temporali, spaziali, normativi. È il passaggio dall'autonomia all'autogoverno, e sta ridisegnando l'architettura stessa dei sistemi agentici che si preparano a entrare in produzione.

Non si tratta di aggiungere guardrail esterni. Si tratta di rendere l'agente capace di misurarsi da solo: quanto tempo gli resta, se il suo braccio raggiunge davvero quell'oggetto, se la modifica che sta per apportare al proprio codice di scoring creditizio supera il gate di compliance. Quattro filoni di ricerca, emersi quasi simultaneamente, convergono su questo paradigma: il vincolo di wall-clock time, l'introspezione embodied, l'evoluzione compliance-bounded, e il ragionamento evidence-constrained. Insieme, disegnano l'anatomia dell'agente deployabile in contesti ad alto rischio — manifattura, finanza, robotica, scienze della vita — dove l'errore non è un'opzione e la fiducia non si dichiara, si dimostra.

Il vincolo temporale: agenti che rispettano l'orologio

Fino a oggi, i benchmark per agenti LLM hanno misurato successo e qualità, ignorando quasi del tutto il tempo. Il paper «On the Clock: Towards Punctual and Productive Time-Budgeted AI Agents» (Fonte 6) rompe questo tabù. I ricercatori hanno testato Qwen3.6-27B su MLE-Bench Lite e Qwen3-4B su Zork I (Jericho) sotto budget espliciti di wall-clock time. Il risultato è netto: quando il budget è solo enunciato nel prompt, gli agenti falliscono nel tradurlo in uso controllato del tempo. Le cause sono tre: mancanza di feedback temporale dall'harness, incapacità di anticipare la durata delle azioni, assenza di una policy appresa che mappi tempo disponibile → strategia appropriata.

Due interventi complementari cambiano le carte in tavola. Primo, meccanismi lato harness che espongono timing information e fanno enforcement di deadline: iniettare segnali di tempo residuo migliora drasticamente l'aderenza al budget per Qwen3.6-27B senza perdita di performance. Secondo, reinforcement learning con reward budget-aware (GRPO): su Zork I raggiunge aderenza near-perfect e generalizza a budget unseen durante il training. Ma emerge un secondo gap, più insidioso: una volta che l'agente rispetta il budget, non usa il tempo extra per migliorare la performance. Le policy RL imparano quando fermarsi, ma riempiono il tempo residuo con azioni ripetute; il training su budget multipli collassa verso la strategia del budget più corto.

L'implicazione per l'industria è chiara: un agente che opera in produzione su un robot, in una pipeline CI/CD, o in un sistema di trading deve avere un runtime scheduler che gli parli l'orologio, non un prompt che gli dice «hai 30 secondi». E serve un curriculum di RL che premi non solo l'aderenza, ma l'uso produttivo del margine temporale. È ingegneria di sistema, non prompt engineering.

L'introspezione spaziale: robot che verificano le proprie capacità

Il problema del grounding — l'agente genera un piano plausibile ma il robot fisico non può eseguirlo — ha un nome preciso: «grounding failure». Il framework iAm.md (Fonte 4) lo affronta trasformando la generazione di comportamento in generazione di codice ancorato a una rappresentazione standardizzata in Markdown. Attraverso semantic mapping open-vocabulary, iAm.md combina detezioni vision-language locali, segmentazione oggetti e record persistenti in un formato intermedio che abilita l'agentic introspection: l'agente interroga se stesso su cosa sa fare, con quali strumenti, in quale configurazione ambientale, prima di emettere un comando.

Testato su un TIAGo simulato in task navigation-and-manipulation, iAm.md mostra come questa rappresentazione supporti contemporaneamente skill self-assessment e generalizzazione eseguibile. Ma il salto qualitativo arriva con NavGPT-3 (Fonte 7), che connette un LLM addestrato con long-horizon agentic RL a una action policy (NavGPT VLA, 19,28M esempi, 8B parametri) tramite un OS-like runtime gerarchico. Reasoning, acting, monitoring girano come thread separati con contesto, tool e permessi propri; lo scheduler decide chi controlla il moto del robot, gestendo interruzioni e thread switching per reagire a eventi reali improvvisi.

I numeri sono eloquenti: su RxR-CE NavGPT-3 raggiunge 90,43% success rate (umani: 90,4%) e 78,47 nDTW path fidelity (umani: 77,7) a 1 min 22 s per episodio (umani: ~3 min). Quando la VLA esegue la rotta, il loop di reasoning si accorcia e il reaction time minimo crolla da 3-19 s per decisione LLM a 0,5-1 s per step di action policy (1-2 Hz). L'introspezione qui non è metafisica: è un thread monitor che osserva lo stato del robot, confronta il piano con la realtà sensoriale, e cede il controllo alla policy reattiva quando serve. Per l'industria italiana della robotica collaborativa e della logistica automatizzata, significa agenti che sanno cosa non sanno fare prima di provarci, e che scalano dal ragionamento simbolico al controllo denso senza perdere sicurezza.

Il gate di compliance: auto-evoluzione sotto sorveglianza normativa

Il paper più radicale sul piano architetturale è «The Harness as the Only Mutable Surface» (Fonte 10). La tesi: un agente LLM che si riscrive i pesi distrugge l'artefatto che un supervisore deve auditare. L'auto-evoluzione è reviewable solo se confinata all'harness runtime (instruction text, tool-call logic, primitive composition) mentre i pesi restano fissi. Ogni adattamento diventa un diff con causa e test allegati.

Gli autori implementano un dual-loop engine con admission gate che scrive un record hash-chained prima del deployment. In simulazione (agente simulato, proposer seeded-search), su tre famiglie di re-interpretazione supervisoria a tre livelli di severità (10 seed ciascuna), il gate ammette 144 su 7.449 candidati, nessuno dei quali peggiora l'errore su history held-out, e ripristina il false-positive rate al livello oracle senza alzare missed flags in ogni cella low/mid severity. Senza gate (solo check «meno errori nelle trace recenti»), lo stesso loop ammette 309 cambiamenti dannosi e lascia missed flags sopra 10% in 49 su 90 run.

Il mapping normativo è esplicito: i meccanismi corrispondono alle disposizioni dell'EU AI Act per high-risk credit scoring, e la model-risk guidance USA dell'aprile 2026 esclude esplicitamente l'AI agentica dal proprio perimetro — un vuoto che questo approccio inizia a colmare. Parallelamente, un framework agentico locale su laptop (Fonte 1) genera edge-case scenarios per safety assurance usando loop think-act-observe-update-continue con JSON lightweight: un secondo LM indipendente critica ogni scenario con criteri domain-specific, i casi raffinati girano in simulazione, metriche e clustering post-hoc producono evidenza tracciabile per il safety case. Privacy, controllo, costo zero cloud: l'harness diventa superficie mutabile, auditabile, locale.

Per banche, assicurazioni e fintech italiane che devono allinearsi all'AI Act entro il 2027, il messaggio è operativo: non mettete in produzione agenti che si auto-modificano i pesi. Mettete in produzione agenti il cui harness è l'unica superficie mutabile, versionata, firmata, con admission gate misurato. È l'unica via per trasformare l'auto-miglioramento da rischio regolatorio a asset documentabile.

Ragionamento evidence-constrained: dalla genomica al chip design

Il filo conduttore che lega domini apparentemente lontani — genomica, analog/RF chip design, multiphysics modeling, production scheduling — è la separazione architetturale tra calcolo deterministico e ragionamento LLM. ARGUS (Fonte 2) lo fa in genomica: 458 modelli DNABERT per TF binding wrappati in un investigation loop dove un planner seleziona fonti evidence-based sull'incertezza corrente, un verifier interpreta deterministicamente ogni osservazione, e i risultati intermedi cambiano il percorso investigativo. Su variante rs6983267 (locus 8q24 cancer risk), lo stesso planner produce quattro traiettorie divergenti per quattro TF: FOXA1 rescued in 3 step grazie a dati ADASTRA allele-specific (15 esperimenti, FDR=0,030) che rivelano un false negative del modello mascherato da saturazione; KLF6 attraversa 8 step tra ADASTRA, JASPAR, ENCODE cCRE prima di astenersi per evidence mista; RAD21 si astiene in 8 step per test allelico non significativo (FDR=0,65); SP1 si astiene per assenza di evidence diretto. Tutte osservazioni reali, zero simulazioni.

RFChipAgent (Fonte 5) applica lo stesso principio all'analog/RF chip design: quattro pilastri — multimodal RAG con FAISS per-document su documentazione engineering, topology agent + schematic/testbench agent, closed-loop hybrid sizing engine (TPE + CMA-ES) con simulator-in-the-loop, trust-scored simulation database che accumula performance verificate e costruisce adaptive optimization model. Validato su famiglia LNA mm-wave 60 GHz GF22FDSOI: topology generation automatizzata, design-space exploration specification-driven, optimizer simulator-guided. Riduzione sostanziale design effort con signoff-quality verification.

Nel multiphysics modeling (Fonte 8), un harness machine-readable human-specified (governing equations, parametri, metodi numerici, build stages, checkpoints human-verifiable) guida l'agente a costruire modelli completi in Julia open-source. Modelli agent-built indipendenti concordano con implementazione COMSOL equivalente entro 0,7% del peak CO partial current density, e tra loro entro 0,04%. Errori piantati sistematicamente dimostrano l'importanza di specifiche esplicite per riproducibilità e rivelano capacità/limiti dell'agente nel debugging della fisica del modello.

Infine, production scheduling (Fonte 9): multi-agent workflow con Model Context Protocol server per retrieval context-aware di documentazione solver alza la quota di script che girano corretti al primo colpo da 14,8% (direct LLM) a 59,3%, toccando 80,6% sui quattro problemi meno complessi (flow-shop, job-shop, flexible job-shop, warehouse scheduling). I modelli intralogistics tightly-coupled restano sfida aperta.

Il pattern è cristallino: l'agente non «risolve» il problema dominio; orchestra tool deterministici, verifica evidence, itera sotto vincoli espliciti, produce artefatti auditabili. La fiducia non sta nel modello, sta nell'architettura che lo vincola.

Implicazioni per l'industria italiana: dal pilot al deployment governato

Per le imprese italiane — manifattura avanzata (chip analog/RF, scheduling produzione), robotica collaborativa, servizi finanziari (credit scoring high-risk AI Act), life sciences (variant interpretation) — la lezione convergente di questi sette giorni di letteratura è una sola: il vantaggio competitivo non sta nel «mettere un agente» ma nel progettare l'harness che lo governa.

Significa investire in: runtime scheduler con time-budget enforcement (non prompt), rappresentazioni intermedie standardizzate per introspezione embodied (iAm.md style), admission gate hash-chained per ogni mutazione dell'harness con test di regressione automatici, evidence layer deterministici (simulatori, database curated, modelli fisici) che l'agente interroga ma non può sovrascrivere, human-verifiable checkpoints a ogni stage della pipeline computazionale.

Il NIST, nel suo ruolo di bridge tra discovery e industrial capability (Fonte 11), sta implicitamente tracciando questa rotta: standard di misura per l'affidabilità operativa degli agenti, non per la loro intelligenza grezza. Chi in Italia saprà costruire harness compliance-bounded, time-aware, evidence-constrained, introspectable — per chip design, per robot in fabbrica, per scoring creditizio, per modelli elettrochimici — non «userà l'AI agentica». La governerà. E nel 2027, quando l'AI Act entrerà in piena vigore, questa sarà la differenza tra chi scala e chi si ferma al pilot.