Quando l'IA agentiva entra in laboratorio: la sfida della verificabilità tra codice, fisica quantistica e governance federata

Dai laboratori digitali a quelli fisici: l'agente che manipola la materia

Fino a pochi mesi fa, la narrativa sull'IA agentiva ruotava attorno a chatbot che prenotano voli o assistenti che riassumono documenti. La frontiera si è spostata, e lo ha fatto in silenzio, dentro i laboratori di fisica della materia condensata. Due lavori pubblicati a distanza di poche ore su arXiv — HERA e QUANTA — documentano agenti capaci non solo di proporre esperimenti, ma di eseguirli su strumentazione reale, leggere i dati, decidere la misura successiva e chiudere il ciclo senza intervento umano (HERA: Assessing an Autonomous Agent for Quantum Device Measurement) (Autonomous Quantum Measurement with Agentic AI).

HERA opera su dispositivi a grafene multistrato a temperature criogeniche, attingendo a una knowledge base curata dai ricercatori del laboratorio: protocolli di misura, tool software, riferimenti bibliografici. In un test alla cieca contro un esperto umano sull'ordine di impilamento di due dispositivi, le conclusioni dell'agente hanno corrisposto a quelle sigillate dall'esperto su entrambi i campioni. L'ablazione della knowledge base ha mostrato che, senza di essa, ogni modello testato progettava misure peggiori e ragionava in modo meno solido. QUANTA, dal canto suo, gira su un Physical Property Measurement System (PPMS) standard di settore e ha caratterizzato in autonomia il semimetallo di Weyl TaP e le risposte non lineari del Co2MnGa. Entrambi i sistemi incorporano un layer di controllo deterministico che valida ogni azione strumentale prima dell'esecuzione: una guardia di sicurezza non negoziabile quando l'agente muove hardware fisico.

La portata del salto è sottile ma profonda. Non si tratta più di "AI per la scienza" nel senso di analisi dati offline, ma di agenti che abitano il metodo sperimentale: ipotizzano, misurano, revisionano, iterano. La knowledge base non è un archivio passivo; è la memoria operativa che rende l'agente situato nel laboratorio, capace di recuperare protocolli, letteratura e misure pregresse per contestualizzare ogni decisione. E il layer deterministico è l'equivalente fisico di ciò che, nel mondo del software, si chiama policy enforcement point.

Il problema dell'osservabilità: quando l'agente programma (e perde le credenziali)

Se in laboratorio la posta in gioco è la validità scientifica, nello sviluppo software il rischio è operativo e immediato. Lo studio Soei (Structured Observability of Evidence and Intent) ha analizzato 45 sessioni reali di agenti di coding — 102.233 record, 20.577 esecuzioni di tool, 2.336 episodi uomo-agente — rivelando un quadro che dovrebbe allarmare ogni CTO (Soei: Structured Observability of Evidence and Intent for Multi-Agent AI Software Engineering).

Il 23,4% degli episodi di modifica del codice si chiude senza alcun controllo indipendente dopo l'ultima modifica. Il 57,8% dei task che l'agente ha marcato come "completati" non aveva alcuna prova di verifica intermedia. Le sessioni sono lunghe: il 42% supera le 24 ore, e il 48,1% dei byte del transcript eccede i 2 MiB, rendendo il replay naïf impraticabile. Ma il dato più critico è un altro: 1.326 record in 16 sessioni contenevano stringhe simili a credenziali. Chiavi API, token, segreti — finiti nel log dell'agente perché l'agente li ha letti, manipolati, forse scritti in file di configurazione temporanei.

Soei propone una risposta architetturale: uno schema di eventi acknowledgement-aware, un ledger locale hash-chained allineato a W3C PROV, e un layer di verifica che separa la dichiarazione di completamento dalla prova di completamento. Il ledger occupa il 20% della dimensione grezza, non contiene contenuto né credenziali, verifica a ~126k eventi/secondo e rileva manomissioni con replay deterministico. È l'infrastruttura di fiducia che manca quando l'agente lavora per ore senza supervisione: una scia di breadcrumb crittografici che risponde alla domanda "cosa è stato fatto davvero, da chi, e con quale evidenza?".

La lezione trasversale è chiara: l'autonomia senza osservabilità strutturata è debito tecnico ad alto rischio. Che l'agente stia regolando una tensione di gate su un qubit o riscrivendo un modulo di autenticazione, la catena di custodia dell'intenzione e dell'evidenza non è opzionale.

Governance federata per agenti collaborativi: verificare senza fidarsi

Quando gli agenti non operano in isolamento ma collaborano — addestrando modelli, scambiando aggiornamenti, prendendo decisioni collettive — il problema della fiducia si fa sistemico. Il framework GAFL (Governance-Aware Federated Learning) affronta proprio questo: client che riportano valori di governance (fairness, explainability, anomaly score) autenticati, legati ai loro aggiornamenti di modello, e ricomputati indipendentemente prima dell'aggregazione (Governance-Aware Federated Learning for Multi-Agent AI Systems).

Il prototipo cross-silo con 10 partecipanti, testato su scenari che vanno dal benigno non-IID al malizioso (falsified-evidence, non-compliant, mixed-threat), mostra che GAFL completo intercetta il 100% dei partecipanti che falsificano l'evidenza, mentre la versione senza verifica indipendente non ne identifica nessuno. Il costo: 173,67 ms di elaborazione governance per round contro 3,82 ms di FedAvg standard. Un overhead non banale, ma il prezzo di una trustworthiness verificabile.

C'è un'altra sfumatura cruciale: una soglia rigorosa di demographic parity ha causato interventi frequenti su partecipanti onesti, evidenziando un trade-off concreto tra policy di equità e utilità del modello. Non basta "abilitare la governance"; serve calibrare le policy con la stessa cura con cui si calibrano gli iperparametri. E il log di audit tamper-evident non è un accessorio: è la base legale per qualsiasi contestazione successiva.

Architetture per l'autonomia affidabile: knowledge base, control layer, ledger

Mettendo a fuoco i tre fronti — laboratorio fisico, sviluppo software, federazione multi-agente — emerge un pattern architetturale ricorrente per l'IA agentiva trustworthy:

1. Knowledge base curata e task-specific — HERA e QUANTA non usano conoscenza generica; il loro ragionamento è ancorato a protocolli, letteratura e dati storici del loro dominio. L'ablazione prova che senza questa base l'agente regredisce a comportamento stocastico non affidabile.
2. Layer di controllo deterministico / policy enforcement — QUANTA valida ogni azione strumentale; GAFL ricomputa indipendentemente i valori di governance; Soei separa claim da proof via ledger. In tutti i casi, c'è un componente non-LLM, non-stocastico, verificabile che fa da guardiano dell'operatività.
3. Osservabilità strutturata, non logging generico — Il ledger hash-chained di Soei, il log di audit tamper-evident di GAFL, la knowledge base versionata di HERA/QUANTA: sono tutti meccanismi che rendono ricostruibile e contestabile la storia dell'agente, senza conservare segreti né contenuti sensibili.
4. Calibrazione continua delle policy — Il trade-off fairness/utility di GAFL, la priorizzazione adattiva delle debolezze in RuHarness (When the Critic Falls Behind: Co-Evolving Rubrics and Harnesses for Continual Agent Self-Improvement), il routing condizionato per diversità di ragionamento (Agent-Conditioned Routing: Diverse Reasoning Paths Within One Frozen Model): l'autonomia affidabile richiede meta-livelli di supervisione che co-evolvono con l'agente.

Le implicazioni per l'ecosistema italiano sono immediate. I centri di ricerca su materiali quantistici (CNR, IIT, università) possono adottare framework tipo QUANTA per accelerare la caratterizzazione di nuovi materiali, a patto di dotarsi di knowledge base curate e layer deterministici certificati. Le software house che integrano agenti di coding nei pipeline CI/CD devono pretendere osservabilità Soei-grade: ledger locali, separazione claim/proof, scansione credenziali nei log. Le banche e le PA che esplorano federated learning per modelli su dati sensibili (sanità, antifrode) trovano in GAFL un modello di governance auditabile per design, non per promessa.

C'è un ultimo dato che lega tutto: Nemotron 3.5 Super raggiunge 51,78% su SWE-bench Pro con 4,6x meno parametri attivi del predecessore, grazie a agentic mid-training e multi-teacher on-policy distillation (Nemotron 3.5 Super and Lightning). L'efficienza architetturale (MoE ibrido Mamba-Transformer, quantizzazione NVFP4, speculative decoding) rende economicamente sostenibile deployare agenti complessi on-premise — dove i dati non escono, dove il ledger Soei gira in locale, dove il control layer QUANTA ha latenza deterministica.

L'IA agentiva non è più una promessa; è una filiera di componenti verificabili: knowledge base, control layer, ledger, governance federata. Chi la costruisce, la compra o la regola in Italia ha ora i reference implementation per esigere — e verificare — che l'autonomia non sia sinonimo di opacità.