Governance dei Modelli Linguistici (LLM): Lezioni dal Modello Consultivo NIST per una Supervisione Strutturata dell'AI

La convocazione del National Construction Safety Team Advisory Committee da parte del NIST per il prossimo settembre offre uno spunto di riflessione inaspettato per chi si occupa di intelligenza artificiale. L'istituto statunitense, riferimento globale per standard e misurazioni, ha annunciato la riunione virtuale del comitato consultivo per il 23 e 24 settembre 2026, con registrazione obbligatoria entro il 16 settembre (NIST News). Sebbene l'ordine del giorno riguardi la sicurezza strutturale degli edifici, la modalità operativa — un comitato federale consultivo trasparente, con partecipazione pubblica regolamentata — rappresenta un modello di governance istituzionale che l'ecosistema dei Large Language Models (LLMs) osserva con attenzione crescente.

Negli ultimi diciotto mesi, il dibattito sulla regolamentazione dell'AI generativa è passato dai principi etici astratti alla definizione di architetture di supervisione concrete. L'AI Act europeo, entrato in vigore nella sua interezza all'inizio del 2026, richiede ora organismi notificati, valutazioni di conformità e sorveglianza post-market per i sistemi ad alto rischio. Parallelamente, il NIST AI Risk Management Framework (AI RMF) 1.0, pubblicato nel 2023, sta vivendo la sua prima fase di adozione industriale su larga scala. La domanda non è più se regolamentare, ma come strutturare la governance tecnica continua per tecnologie che evolvono su cicli di settimane, non anni.

Il Vuoto di Governance Tecnica per gli LLM

L'attuale panorama della governance LLM presenta una frammentazione critica. Da un lato, i fornitori di modelli foundation (OpenAI, Anthropic, Google, Meta, Mistral) operano sotto impegni volontari e red-teaming interno. Dall'altro, le imprese che integrano questi modelli in processi critici — banche, sanità, pubblica amministrazione, difesa — necessitano di garanzie verificabili e catene di responsabilità chiare. L'AI Act risolve parzialmente il problema classificando certi usi LLM come "high-risk", ma delega la definizione degli standard tecnici a organismi europei (CEN/CENELEC) ancora al lavoro su specifiche armonizzate.

In questo vuoto, l'approccio NIST — basato su comitati consultivi federali (Federal Advisory Committees) che riuniscono accademia, industria, agenzie governative e società civile — offre un modello metodologico. Il National Construction Safety Team, istituito sotto il National Construction Safety Team Act del 2002, indaga i collassi strutturali maggiori per raccomandare revisioni a codici, standard e pratiche. La sua forza risiede in tre elementi: mandato legislativo chiaro, composizione multidisciplinare vincolante, e autorità di raccomandazione formale verso enti normativi.

Traslando questo modello agli LLM, emergono tre lacune immediate. Primo: manca un mandato legislativo equivalente per indagini sistemiche su fallimenti AI ad alto impatto (data poisoning, prompt injection su scala, allucinazioni in contesti medico-legali). Secondo: i forum esistenti (Partnership on AI, MLCommons, Frontier Model Forum) sono iniziative private, prive di autorità pubblica e responsabilità democratica. Terzo: non esiste un meccanismo strutturato per tradurre le evidenze tecniche degli incidenti in aggiornamenti rapidi di standard e pratiche di settore.

Architetture di Supervisione Continua: Oltre la Certificazione Puntuale

La certificazione tradizionale — istantanea di conformità a un momento T — è inadeguata per sistemi che apprendono in continuo (continual learning), vengono aggiornati via API senza versioning trasparente, o mostrano capability emergence post-deployment. L'analogia con la sicurezza delle costruzioni è illuminante: gli edifici non vengono certificati una sola volta; ispezioni periodiche, monitoraggio strutturale IoT, e revisioni post-evento sismico sono prassi consolidate.

Per gli LLM, un'architettura di supervisione continua richiederebbe quattro pilastri. Monitoraggio distribuito delle prestazioni: metriche standardizzate (accuratezza, robustezza, equità, calibrazione) raccolte in produzione dagli operatori, aggregate in registri federati accessibili ad autorità competenti. Segnalazione degli incidenti obbligatoria: estensione del modello CERT/CSIRT al dominio AI, con tassonomie condivise per modalità di guasto LLM-specifiche (es. sycophancy, reward hacking, context window exploitation). Red-teaming periodico obbligatorio: non solo pre-deployment, ma a cadenza regolare su modelli in produzione, con ambito definito da threat modeling contestuale. Meccanismi di richiamo e patching coordinato: analoghi agli advisory di sicurezza software (CVE), ma per vulnerabilità comportamentali dei modelli, con tempistiche vincolanti per i fornitori.

Il NIST, attraverso il suo U.S. AI Safety Institute (AISI), sta avviando programmi pilota su alcuni di questi assi. La struttura a comitati consultivi — come quella convocata per settembre — potrebbe diventare il veicolo istituzionale per validare e rendere obbligatorie tali pratiche, trasformando buone pratiche volontarie in standard regolatori minimi.

Sovranità Algoritmica e il Caso Italiano

Per l'Italia e l'Europa, la lezione del modello consultivo NIST ha una dimensione strategica aggiuntiva: la sovranità digitale. L'AI Act stabilisce il quadro giuridico, ma la capacità di influenzare gli standard tecnici globali — quelli che determinano come si misura la robustezza di un LLM, quali benchmark contano per la conformità, come si definisce "rischio sistemico" per i modelli foundation — dipende dalla presenza tecnica nei forum dove questi standard si scrivono.

L'Italia, attraverso ACN (Agenzia per la Cybersicurezza Nazionale), il CINI (Consorzio Interuniversitario Nazionale per l'Informatica), e le eccellenze accademiche (Politecnico di Milano, Sapienza, Pisa, IIT), ha le competenze per sedere ai tavoli dove si definiscono le metriche di valutazione LLM per contesti ad alto rischio. Ma serve una struttura di coordinamento nazionale — un "Comitato Consultivo Nazionale per la Valutazione e la Governance dei Modelli Foundation" — che aggrega domanda pubblica, offerta industriale, ricerca accademica e autorità di regolazione in un mandato formale, sul modello NIST.

Un tale comitato potrebbe: (1) definire requisiti di valutazione per LLM in settori regolati italiani (sanità, finanza, PA, giustizia); (2) coordinare la partecipazione italiana ai gruppi di lavoro CEN/CENELEC JTC 21 e ISO/IEC JTC 1/SC 42; (3) gestire un registro nazionale di incidenti AI ad alto impatto, alimentando l'EU AI Office; (4) emettere pareri tecnici vincolanti per appalti pubblici di sistemi AI generativa.

Dalla Sicurezza Strutturale alla Sicurezza Algoritmica: Un Metodo, Non un'Analogia

Il parallelismo con il National Construction Safety Team Advisory Committee non è un esercizio retorico. Entrambi i domini condividono caratteristiche sistemiche: complessità architetturale opaca (black box), dipendenza da catene di fornitura globali (materiali/componenti vs dati/compute), conseguenze sistemiche dei fallimenti (collasso fisico vs collasso informazionale), necessità di standard viventi aggiornati su evidenze empiriche.

La differenza critica è la velocità di evoluzione. Un codice antisismico si aggiorna su cicli decennali; un framework di valutazione LLM deve adattarsi su cicli trimestrali. Questo richiede una governance agile by design: comitati tecnici permanenti con poteri di fast-track per aggiornamenti standard, sandbox regolatorie per testare nuove metriche in produzione controllata, meccanismi di sunset clause automatica per requisiti obsoleti.

Il NIST, con la sua storia di standardizzazione partecipativa (si pensi al processo AES per la crittografia, o al recente SHA-3), possiede il DNA istituzionale per gestire questa tensione tra rigore e velocità. La riunione di settembre del suo comitato per la sicurezza delle costruzioni — per quanto lontana dall'AI — ne dimostra la continuità operativa: un ente che convoca, ascolta, delibera, raccomanda, con trasparenza procedurale e responsabilità pubblica.

Per l'ecosistema italiano ed europeo degli LLM, la sfida dei prossimi dodici mesi non è solo conformarsi all'AI Act, ma co-progettare l'architettura di governance tecnica che ne renderà l'implementazione efficace, credibile, e sovrana. Il modello consultivo NIST, nella sua concretezza procedurale, offre un punto di partenza metodologico più solido di qualsiasi manifesto etico.