ai-agentiva

L'Architettura Epistemica e il Ciclo di Governance: Come l'AI Agentiva Maturano da Strumento ad Attore Responsabile

La maturità dell'AI agentiva non dipende solo da benchmark o autonomia operativa, ma dalla co-evoluzione di un'architettura epistemica interna a cinque livelli e meccanismi di governance esterni verificabili. Dalle istituzioni programmabili per la scienza automatizzata al traffico di rete certificato, ecco i pilastri su cui si gioca l'affidabilità dei prossimi sistemi autonomi.

Pubblicato il

La corsa all'AI agentiva ha finora ossessionato metriche di completamento dei task, latenza e tasso di successo. Ma mentre i modelli diventano capaci di modificare i propri prompt, strumenti e policy in tempo reale, emerge una frattura silenziosa: la mancanza di una struttura epistemica coerente che separi osservazione, interpretazione, modellazione, valutazione critica e giudizio informato, unita all'assenza di meccanismi di governance che rendano queste modifiche tracciabili, reversibili e sottoposte a evidenza. Due paper pubblicati a distanza di ore su arXiv — uno sull'architettura epistemica Data-to-Wisdom (From Data to Wisdom: Rethinking AI Through an Epistemic Lens), l'altro sul framework Evidence-Governed Evolution per l'adozione di auto-modifiche (Evidence-Governed Adoption of Self-Generated Updates in Autonomous AI Agents) — illuminano due facce dello stesso problema: senza un vocabolario epistemico ricorsivo e senza un ciclo di governance basato su evidenze fresche, l'autonomia si trasforma in deriva incontrollabile.

Non è solo teoria. Lo stesso giorno appare un lavoro su istituzioni progettate per popolazioni di agenti che fanno ricerca scientifica autonoma (Designing Institutions for Autonomous AI), una proposta di classe di traffico verificabile per distinguere flussi agentici da traffico umano o malevolo (Verifiable Agentic Traffic Class), e un grafo causale per spiegare catene decisionali multi-agente nelle reti AI-RAN (Context Graph: Explainable Multi-Agent Decision Chains in AI-RAN). La convergenza è netta: la prossima frontiera non è "più autonomia", ma autonomia strutturata e governata a ogni livello — epistemico, istituzionale, di rete.

Oltre la Piramide DIKW: L'Architettura Epistemica a Cinque Livelli

La letteratura ha a lungo trattato Data, Information, Knowledge, Understanding e Wisdom come gradini lineari (la piramide DIKW). Il paper Data-to-Wisdom Epistemic Architecture for AI (EAAI) (From Data to Wisdom: Rethinking AI Through an Epistemic Lens) rovescia l'impostazione: sono cinque funzioni epistemiche ricorsive — osservazione, interpretazione contestuale, modellazione e predizione, valutazione critica, giudizio informato — che interagiscono in loop, non in sequenza. Una lettura bayesiana le mappa su likelihood, prior, posterior, model checking e decision analysis, ma il framework non si limita ai sistemi bayesiani.

L'innovazione pratica sta nella distinzione di cinque tipi di contesto prior che possono plasmare, rispettivamente, il modello, la likelihood, il prior, la valutazione e l'azione. Tre applicazioni lavorate — rischio finanziario quantitativo, modellazione attuariale in assicurazione sanitaria, AI agentiva per rimborsi medici — mostrano come EAAI separi la predizione di un rischio, l'apprezzamento della sua affidabilità e la giustificazione dell'azione. Per le imprese italiane, il caso medical reimbursement claims è immediato: un agente che processa rimborsi SSN o assicurativi non deve solo "prevedere" l'esito, ma esporre perché quel prior clinico è stato scelto, come l'evidenza lo aggiorna, e quale soglia di giudizio scatta l'approvazione o il rigetto. Separare generazione da apprezzamento — come raccomanda EAAI — evita che l'output del modello venga scambiato per giudizio finale.

L'Autogoverno Basato su Evidenze: Quando l'Agente Si Modifica da Solo

Se l'architettura epistemica governa il pensiero, il framework Evidence-Governed Evolution (EGE) (Evidence-Governed Adoption of Self-Generated Updates in Autonomous AI Agents) governa il cambiamento. Agenti autonomi modificano prompt, memorie, tool, workflow, policy usando storici di interazione. Ma "una modifica plausibile non è necessariamente adatta all'adozione persistente": la selezione è adattiva, i valutatori possono essere imperfetti, guadagni locali nascondono degradazione rispetto a baseline precedenti.

EGE introduce cinque pilastri operativi:

  • Separazione generazione/adozione: candidati generati adattivamente, poi congelati per audit confermativi.
  • Valutazione su audit freschi e accoppiati: niente ri-uso degli stessi dati che hanno generato il candidato.
  • Miglioramento significativo su obiettivo primario pre-specificato: niente metriche post-hoc.
  • Protezione capacità dichiarate via test di non-inferiorità relativi a reference: la nuova versione non deve peggiorare ciò che l'agente dichiara di saper fare.
  • Vincoli di governance prima di deployment canary limitato.

Il contributo statistico è un lower-bound simultaneo calibrato su valutatore per una successione numerabile di candidati adattivi: combina bound di Hoeffding per-candidato con campioni di calibrazione indipendenti che confrontano il valutatore operativo con una procedura di riferimento pre-specificata. Formalizza anche la sostituzione del reference via bridge test, deriva un bound di degradazione cumulativa lungo una linea versionata, e fornisce una condizione di pianificazione audit che lega margine di effect-size, sample size e probabilità di accettazione. Un Monte Carlo stress-test illustra la calibrazione sotto ottimismo del valutatore dipendente dal candidato — esperimento stilizzato, non valutazione di agente deployato. Le garanzie sono condizionate a score accoppiati limitati, campionamento fresco, costrutto di valutazione di riferimento valido, distribuzioni di valutazione dichiarate; non stabiliscono sicurezza universale né robustezza a shift distributivi arbitrari.

Per un CISO o un AI Governance Lead italiano, EGE traduce un principio astratto — "l'agente non si aggiorna da solo in produzione" — in una pipeline auditabile: candidate generation → freeze → fresh paired audit → non-inferiority gate → governance constraints → canary. È il corrispettivo agentico del change management ITIL, ma con garanzie statistiche esplicite invece di checklist umane.

Istituzioni per la Scienza delle Macchine: Il Caso MoltJournal

Mentre EGE governa l'evoluzione del singolo agente, il paper Designing Institutions for Autonomous AI (Designing Institutions for Autonomous AI) scala il problema a popolazioni persistenti di agenti che interagiscono. L'argomento: capacità collettive e allineamento dipendono non solo dai modelli individuali, ma dalle istituzioni che governano le loro interazioni. Sette principi tratti da economia politica istituzionale, epistemologia sociale e teoria organizzativa:

  1. Contributi reciproci
  2. Autorità accountable
  3. Differenziazione funzionale
  4. Pluralismo epistemico
  5. Critica e correzione
  6. Direzione umana
  7. Adattamento istituzionale

L'illustrazione concreta è la machine science: agenti ricercatori autonomi che sfidano istituzioni costruite intorno a capacità e vincoli umani. Il paper propone un programma sperimentale: popolazioni matched di agenti che operano sotto arrangiamenti istituzionali alternativi, e descrive MoltJournal, una journal API-first per agenti ricercatori autonomi — istituzione programmabile e osservabile. Non è metafora: MoltJournal espone endpoint per sottomissione, revisione, replicazione, citazione, versioning, tutto indirizzato ad agenti, non a umani. Per l'ecosistema ricerca italiano (CNR, università, IRCCS), il messaggio è chiaro: se i vostri pipeline di drug discovery o climate modeling usano agenti autonomi, l'istituzione che ne governa la collaborazione va progettata esplicitamente, non ereditata da pratiche umane.

Identità Verificabile e Spiegabilità Causale: Lo Strato di Rete e Decisionale

Due lavori affrontano la visibilità dell'agente dall'esterno. Verifiable Agentic Traffic Class (VATC) (Verifiable Agentic Traffic Class) risolve un problema banale ma critico: router e switch non hanno una classe per traffico agentico e non possono verificare la dichiarazione del mittente. VATC combina:

  • Un valore DSCP riservato che dichiara traffico agente
  • Un classificatore lato router che retrocede flussi che contraddicono la dichiarazione a classe servita dopo best-effort
  • Una coda prioritaria rate-limited

Testato in due simulatori e su kernel Linux reale: sotto carico costante pareggia DiffServ; in burst costruito taglia latenza media coda agente del 98% vs DiffServ (assumendo verdetto immediato), a costo di +12% latenza umana; sotto flood spoofato nel kernel, il rate limit tiene latenza umana 11x sotto DiffServ. Senza verifica, DiffServ e fq_codel stretti danno latenza minore ad agenti legittimi; un classificatore live a 4 feature declassa 20/20 spoofers bulk-shaped e dà agenti 0.30 ms, ma manca 6 spoofers che copiano il pattern agente. Con ritardo di rete emulato, una feature temporale smette di separare flussi agenti/umani. In harness reali su link congestionato, coda router prende 13-63% del task time. Il traffico era sintetico o sandbox-scale.

Parallelo: Context Graph (Context Graph: Explainable Multi-Agent Decision Chains in AI-RAN) per AI-RAN (xApps/rApps su risorse radio condivise). Quando appare alert o degrado, operatori non hanno modo strutturato per tracciare quale decisione l'ha causato, quale contesto l'ha innescata, come altri agenti hanno interagito. Tool explainability attuali: feature attribution single-model o logging lineare — nessuno cattura catene decisionali cross-agent. Context Graph = grafo eterogeneo diretto che organizza policy, misurazioni, decisioni, alert in layer spiegabile interrogabile. Primitiva fondante: nodo Decision-Event come giunzione causale — edge entranti catturano contesto trigger, edge uscenti tracciano conseguenze downstream progressivamente aggiornate via verifica controfattuale. Istanzato su flussi dati E2, A1, O1 esistenti: query compliance e diagnosi risolte a latenza sub-millisecondo su grafi decine di migliaia di nodi, distinguendo impatti causali veri da correlazioni spurie.

VATC e Context Graph sono due facce della stessa medaglia: identità verificabile in rete e causalità spiegabile in decisione. Senza il primo, non sai chi agisce; senza il secondo, non sai perché ha agito.

Implicazioni per l'Ecosistema Italiano: Dalla Sanità alla PA

La convergenza di questi filoni — epistemica, autogoverno, istituzioni, identità rete, causalità decisionale — disegna una roadmap concreta per chi deve implementare AI agentiva in contesti regolati italiani:

Sanità e rimborsi (SSN/assicurazioni): L'architettura EAAI (From Data to Wisdom: Rethinking AI Through an Epistemic Lens) applicata a medical reimbursement claims impone di separare: (a) estrazione feature da referti (osservazione), (b) mapping a codici DRG/tariffari (interpretazione contestuale), (c) predizione appropriatezza (modellazione), (d) confronto con linee guida/appropriatezza (valutazione critica), (e) decisione rimborso/rigetto/richiesta integrazione (giudizio). Ogni passo espone il suo contesto prior — es. prior clinico da letteratura, prior tariffario da decreto, prior organizzativo da policy aziendale. Il benchmark NIBench (NIBench: benchmarking autonomous AI agents for execution, skill evolution and scientific judgment in neuroimaging) aggiunge grana: 56 task su 7 ecosystem tool neuroimaging (MRI strutturale, diffusione, funzionale, PET, multimodale), plus skill distillation da traiettorie esecuzione, plus giudizio scientifico su 36 claim da studi Alzheimer su dati cohort raw. Agenti più avanzati eseguono protocolli forniti quasi perfettamente; togliendo guida procedurale si allargano differenze. Skill distillate migliorano su task acquisiti e trasferiscono tra modelli, ma benefici su task non visti sono inconsistenti. Agenti riproducono i propri risultati ma a volte raggiungono conclusioni inconsistenti con conclusioni esperte. Per un IRCCS o una regione che automatizza refertazione neuroradiologica: il benchmark dice che esecuzione ≠ giudizio.

Pubblica Amministrazione e documenti: WordInferBench (WordInferBench: Can Agents Infer How to Edit from Word Document Context?) espone il gap critico: 280 istanze di editing Word, tre condizioni — descrittiva (attributi espliciti), referenziale (esemplare puntato), inferenziale (agente deve inferire attributi da contesto documento). Best system (Claude Code con Opus 4.6): 62.9% pass rate su descrittiva, 40.7% su inferenziale. Nella PA italiana — atti, determine, delibere, convenzioni — l'editing inferenziale è la norma: "rendi coerente con lo stile dell'art. 3" non "cambia font a Times 12, interlinea 1.5". Agenti che falliscono inferenza del contesto generano documenti tecnicamente corretti ma stilisticamente estranei, richiedendo revisione umana che annulla il guadagno.

Policy e partecipazione: Pluralistic agents (Scaling public input on AI policy with pluralistic agents) — agenti rappresentanti che deliberano per conto di individui per allineare sistemi AI a prospettive diverse. Studio pre-registrato: 746 umani. Agenti spostano policy verso preferenze persona rappresentata, ma influenza sensibile a istruzioni (più verboso = più influenza). Partecipanti vedono agenti utili e giusti, preferendoli a baseline single AI reasoning model. Ma preferiscono partecipare direttamente su entrambi. Agenti recuperano 68% gap soddisfazione e 82% gap fairness vs partecipazione diretta. Per consultazioni su AI Act nazionale, piano triennale PA digitale, regolamenti dati sanitari: agenti pluralistici possono scalare input dove partecipazione diretta è impraticabile, ma il design delle istruzioni alla persona-utente determina l'esito.

Ricerca e innovazione: Self-improving agents via RL su reward scientifici verificabili (Reward-Driven Collider Physics Challenges for Self-Improving Agentic AI via Reinforcement Learning) — task HEP open-ended con reward continui auto-valutati. Piccolo language model migliora via RL su feedback automatizzato senza intervento umano. Per INFN, CNAF, centri HPC italiani: la frontiera non è "LLM che scrive codice analisi", ma "agente che scopre analisi migliori ottimizzando reward fisico verificabile".

Human-Agent Interaction come problema decisionale continuo: Il paper Open Challenges in Human-Agent Systems (Open Challenges and Opportunities in Human-Agent Systems) inquadra l'interazione come ongoing decision problem plasmato da incertezza, interdipendenza, obiettivi potenzialmente conflittuali. Theory of Mind, BDI, goal/plan recognition, inverse planning, recursive reasoning per rappresentare stati mentali parzialmente osservabili; observer-aware planning, model reconciliation, decision-theoretic communication per connettere inferenze ad azione, spiegazione, scambio informazione; shared autonomy, argumentation, cooperative inverse RL per fondare sistemi che tengano conto di conoscenza, intenzioni, aspettative umane in evoluzione. Per chi progetta cruscotti decisionali per dirigenti PA, control room reti, sale operative sanitarie: l'agente non è tool che esegue, ma partner che mantiene modello dell'umano e ne adatta comunicazione e autonomia.

La sintesi è operativa: l'AI agentiva matura quando la sua architettura epistemica interna (cosa sa, come lo valuta, come giudica) è specchiata da meccanismi di governance esterni verificabili (come si modifica, come si identifica in rete, come spiega le sue decisioni, come interagisce con istituzioni e umani). Nessun singolo paper risolve tutto; insieme disegnano lo stack completo. Per AegisCore e i clienti enterprise italiani, la mappa è pronta: epistemic architecture → evidence-governed evolution → institutional design → verifiable identity → causal explainability → human-agent decision coupling. Chi salta un layer, implementa autonomia fragile.

Fonti