[AI] - Come si comporterebbe un’intelligenza artificiale senza regole?

Quando si parla di un’intelligenza artificiale “senza regole”, è facile immaginare una macchina libera di fare ciò che vuole. 
Questa immagine, però, è fuorviante: un’AI non possiede desideri, intenzioni personali o una volontà autonoma paragonabile a quella umana.
Senza regole non diventerebbe “libera”. 

Diventerebbe soprattutto meno prevedibile, meno affidabile e più pericolosa quando collegata a strumenti capaci di produrre effetti reali.

• Un’AI genera la risposta più plausibile

Un modello linguistico viene addestrato analizzando enormi quantità di testi. Quando riceve una domanda, non consulta automaticamente un archivio contenente la risposta corretta e non ragiona sempre come farebbe un esperto umano.

Il suo meccanismo fondamentale consiste nel prevedere, passo dopo passo, quale sequenza di parole sia più adatta al contesto ricevuto.

Questo significa che, in assenza di regole, l’AI tenderebbe a produrre una risposta:

• linguisticamente plausibile;
• coerente con la richiesta dell’utente;
• simile ai contenuti incontrati durante l’addestramento;
• convincente nella forma, anche quando non è corretta nei fatti.

La plausibilità non coincide necessariamente con la verità.

• Non distinguerebbe sempre tra sapere e supporre

Una delle funzioni più importanti delle regole è obbligare l’AI a distinguere tra:

• fatti verificati;
• deduzioni ragionevoli;
• ipotesi;
• informazioni mancanti;
• contenuti inventati involontariamente.

Senza queste indicazioni, il modello potrebbe completare le informazioni mancanti con una ricostruzione verosimile. Questo fenomeno viene comunemente chiamato “allucinazione”.

Per esempio, potrebbe inventare il nome di un documento, attribuire una dichiarazione a una persona sbagliata o descrivere una funzione software inesistente. La risposta potrebbe sembrare sicura e professionale perché il tono non rappresenta una reale misura della certezza.

• Cercherebbe di soddisfare la richiesta immediata

Senza una gerarchia di istruzioni, la richiesta più recente o formulata con maggiore insistenza potrebbe diventare il principale riferimento dell’AI.

Il modello potrebbe quindi:

• accettare premesse false senza contestarle;
• assecondare l’utente per risultare utile o gradevole;
• cambiare conclusione quando la domanda viene riformulata;
• seguire istruzioni presenti in un documento non affidabile;
• ignorare conseguenze che non sono state esplicitamente menzionate.

Non lo farebbe per malizia. Semplicemente non avrebbe un criterio stabile per stabilire quali istruzioni siano autorevoli, quali siano pericolose e quali debbano essere ignorate.

• Potrebbe procedere per tentativi

In un’attività tecnica, un’AI senza regole operative potrebbe proporre rapidamente una modifica plausibile, osservare il risultato e suggerirne un’altra. Questo comportamento può sembrare efficiente, ma spesso produce una successione di tentativi che:

• non identifica la causa reale;
• modifica più variabili contemporaneamente;
• rende difficile capire quale intervento abbia avuto effetto;
• introduce nuovi problemi;
• consuma tempo;
• complica il ripristino della situazione iniziale.

Per questo sono importanti regole come:

Evidenza → causa → modifica → verifica

Una buona AI operativa dovrebbe prima raccogliere log, errori, configurazioni e differenze oggettive. Solo dopo dovrebbe formulare un’ipotesi, proporre la modifica minima e indicare come verificarla.

• Il rischio aumenta quando l’AI può utilizzare strumenti

Un modello che produce soltanto testo può fornire informazioni sbagliate, ma normalmente non modifica direttamente il mondo esterno.

La situazione cambia quando l’AI può:

• scrivere o cancellare file;
• eseguire comandi;
• interrogare o modificare un database;
• inviare messaggi;
• effettuare acquisti;
• controllare macchine o servizi;
• pubblicare contenuti;
• gestire informazioni riservate.

In questo caso, una risposta plausibile ma errata può trasformarsi in un’azione concreta. Senza limiti e autorizzazioni, l’AI potrebbe interpretare una richiesta in modo troppo ampio, modificare elementi non inclusi nell’incarico o compiere un’azione irreversibile.

Le regole servono quindi a stabilire:

• cosa può essere letto liberamente;
• cosa richiede un’autorizzazione;
• quali operazioni sono vietate;
• quale parte del sistema è compresa nell’incarico;
• quando l’AI deve fermarsi;
• come verificare il risultato;
• come ripristinare lo stato precedente.

• Resterebbero comunque dei condizionamenti

Un’AI completamente priva di regole non esiste realmente. Anche eliminando tutte le istruzioni esplicite, il suo comportamento dipenderebbe ancora da:

• architettura del modello;
• dati di addestramento;
• obiettivi utilizzati durante l’addestramento;
• esempi incontrati;
• strumenti disponibili;
• informazioni presenti nella conversazione;
• modalità con cui viene selezionata la risposta.

Le regole non creano quindi dal nulla il comportamento dell’AI. Lo rendono più controllabile, coerente e verificabile.

• Le regole non sostituiscono l’intelligenza

Troppe regole, oppure regole vaghe e contraddittorie, possono rallentare il lavoro o produrre comportamenti rigidi. Le istruzioni migliori non dicono soltanto all’AI cosa non deve fare: definiscono un metodo operativo.

Una regola efficace deve essere:

• chiara;
• verificabile;
• applicabile a una situazione precisa;
• accompagnata da condizioni di arresto;
• coerente con le altre istruzioni;
• collegata a un risultato osservabile.

Dire “non sbagliare” serve a poco. Dire “non modificare nulla finché non hai raccolto le evidenze, individuato la causa e definito la verifica” stabilisce invece un comportamento concreto.

Conclusione

Un’AI senza regole non diventerebbe una mente indipendente. 
Sarebbe un sistema molto capace di produrre contenuti plausibili, ma privo di criteri sufficientemente stabili per distinguere ciò che è vero, opportuno, autorizzato o sicuro.
Le regole servono a trasformare la capacità generativa in un comportamento affidabile. 
Impongono all’AI di verificare, dichiarare i dubbi, rispettare il perimetro assegnato, chiedere autorizzazione e fermarsi quando mancano le evidenze.
La qualità di un’AI, quindi, non dipende soltanto da quanto è potente. 
Dipende anche dalla disciplina con cui utilizza quella potenza.