Un agente AI può analizzare documenti, confrontare informazioni, individuare anomalie e proporre una decisione. Ma prima di consentirgli di modificare dati, inviare comunicazioni, approvare pratiche o avviare lavori, serve una fase intermedia: farlo lavorare senza attribuirgli effetti reali.
Possiamo chiamarla modalità ombra.
Non è uno standard formale né una garanzia assoluta. È un modello operativo: l’AI riceve un caso reale, produce l’azione che eseguirebbe e ne spiega le ragioni, ma l’azione resta simulata. Un tecnico, un responsabile o un controllo automatico confronta poi la proposta con ciò che sarebbe stato corretto fare.
L’AI lavora. Ma non può ancora agire.
Il problema non è soltanto l’errore
Un errore dichiarato è gestibile. Un errore che produce un effetto reale può non esserlo.
Pensiamo a un agente che analizza una relazione tecnica condominiale. Rileva infiltrazioni, macchie di umidità e acqua che raggiunge balconi sottostanti. Poi formula un’ipotesi: la causa potrebbe essere una pendenza errata del pavimento dei balconi.
L’ipotesi può essere ragionevole. Ma non dimostra ancora la causa.
Potrebbero esistere altre spiegazioni: scarichi ostruiti, sigillature deteriorate, impermeabilizzazione insufficiente, difetti nel lastrico solare, perdite da impianti o una combinazione di fattori.
Se l’agente fosse già autorizzato ad agire, potrebbe produrre un verbale che attribuisce una responsabilità, richiede lavori o suggerisce una ripartizione delle spese. In questo caso una deduzione plausibile diventerebbe una conseguenza concreta.
In modalità ombra, invece, l’agente dovrebbe restituire qualcosa di più onesto:
Evidenze osservate:
- macchie di umidità;
- presenza di acqua su muri e balconi sottostanti;
- degrado localizzato delle finiture.
Ipotesi:
- possibile deflusso non corretto dovuto a pendenza, scarico o sigillatura.
Azione proposta:
- sopralluogo tecnico con rilievo delle pendenze;
- verifica degli scarichi;
- prova d’acqua controllata;
- verifica dell’impermeabilizzazione.
Azione reale eseguita:
- nessuna.La differenza è decisiva: l’AI può aiutare a preparare il controllo, ma non trasforma una probabilità in una decisione.
Una simulazione che produce evidenze
La modalità ombra non consiste nel lasciare un agente inattivo. Al contrario, serve a raccogliere prove sulla sua affidabilità.
Per ogni caso, occorre confrontare:
- la decisione proposta dall’AI;
- le evidenze realmente disponibili;
- la decisione del responsabile umano o del processo già consolidato;
- la motivazione della differenza;
- l’effetto che l’azione automatica avrebbe prodotto.
Dopo un numero sufficiente di casi, l’organizzazione può misurare non soltanto quante risposte erano “corrette”, ma anche:
- quante ipotesi sono state presentate impropriamente come fatti;
- quante azioni proposte erano fuori perimetro;
- quante volte il revisore ha modificato o annullato la proposta;
- quali categorie di errore ricorrono;
- in quali casi l’AI sa riconoscere di non avere prove sufficienti.
Il NIST raccomanda che test, metriche, strumenti e risultati della valutazione siano documentati, includendo anche il grado di supervisione umana e le decisioni di “go/no-go”. NIST AI RMF Playbook – Measure
Non basta chiedere approvazione alla fine
Un errore frequente è consentire all’agente di compiere tutto il ragionamento e tutte le azioni, chiedendo all’essere umano soltanto un’approvazione finale generica.
In questo modo il controllo rischia di diventare un gesto automatico.
La supervisione deve essere collocata nel punto in cui nasce l’effetto: prima dell’invio di un messaggio, della modifica di un database, dell’esecuzione di un comando o dell’attribuzione di una responsabilità.
Le guide sugli agenti raccomandano infatti di usare la revisione umana per sospendere le azioni sensibili prima che lo strumento le esegua, e di applicare controlli direttamente ai tool che producono effetti. OpenAI – Guardrails and human review
La modalità ombra aggiunge un passaggio precedente: prima ancora di chiedere l’approvazione per agire, verifica se l’agente propone azioni affidabili.
Un percorso graduale
Un agente non dovrebbe passare direttamente dalla lettura alla piena autonomia.
Un percorso più prudente può essere:
- Sola lettura — analizza fonti e produce una sintesi.
- Modalità ombra — propone azioni, senza eseguirle.
- Azioni reversibili con approvazione — prepara bozze, query di sola lettura, piani di intervento.
- Azioni circoscritte con controlli — opera soltanto entro confini precisi, registrando ogni passaggio.
- Revisione continua — le autorizzazioni non diventano permanenti: risultati, errori e cambiamenti di contesto devono essere rivalutati.
L’obiettivo non è eliminare la responsabilità umana. È spostarla dove serve davvero: sulle decisioni con effetti concreti e sui casi in cui le evidenze non bastano.
L’ombra non rende l’AI infallibile
Anche un agente che propone bene cento azioni può fallire nel caso successivo. Può ricevere fonti incomplete, interpretare male un’eccezione o applicare una regola valida nel contesto sbagliato.
Per questo la modalità ombra non dimostra che un sistema sia affidabile in assoluto. Dimostra soltanto come si è comportato su casi e condizioni specifici.
Il NIST sottolinea che le valutazioni devono essere collegate al contesto d’uso, documentate e aggiornate nel tempo; un sistema va monitorato anche quando è già operativo. NIST AI RMF Core
La domanda giusta non è:
Possiamo fidarci dell’AI?
È:
In quali decisioni, con quali evidenze, entro quali limiti e con quali controlli possiamo usare questa AI?
La modalità ombra serve a rispondere a questa domanda prima che un errore plausibile diventi un effetto reale.
Fonti consultate
- NIST, AI Risk Management Framework, consultato il 30 settembre 2026.
- NIST, AI RMF Playbook – Measure, consultato il 30 settembre 2026.
- OpenAI, Evaluate agent workflows, consultato il 30 settembre 2026.
- OpenAI, Guardrails and human review, consultato il 30 settembre 2026.
Nessun commento:
Posta un commento