LA BANALITÀ DEL MALE NEL DETERMINISMO AI
Forse però il determinismo nelle AI **non** è una feature ma un bug. In fondo la temperatura la teniamo abbastanza alta perché mettendola a zero (quindi zero rumore casuale) otteniamo dei calcoli matriciali "banali".
Già forse per questo che utilizziamo delle funzioni di attivazione non lineari. Perché quello che cerchiamo di "riprodurre" non è una calcolatrice ma l'intuizione umana e curiosamente lo facciamo con la non-linearità, il rumore (chaos) e la non ripetibilità. Ma perché s'inietta rumore?
La temperatura di un'AI è un parametro che indica quanto rumore si introduce rispetto ai pesi che costituiscono l'internal parametric knowledge (IPK). Ma perché si inietta tale rumore? Rumore che per altro va a sommarsi a quelle che sono gli errori di calcolo, anche causati dalle ottimizzazioni dei modelli che già solo a causa di queste ottimizzazioni non sono più modelli vincolati alla teoria di bayesiana.
In realtà, nessun ambito richiede il determinismo e quindi la ripetibilità delle risposte perché è sufficiente un piccolo aggiornamento nei pesi che la risposta cambia. Però, potendo tracciare tutti gli aggiornamenti il sistema rimane deterministico e quindi ripetibile.
Per nessun impiego civile che sia legittimo e sensato il determinismo delle AI è un "bonus" ma un "malus", tranne che per i militari perché per loro l'idea che di una macchina che "improvvisa" invece di eseguire ordini è delirio. Per i civili, il delirio è SkyNet.
Chiamateli pure "punti di vista", se volete!
La banalità del male nel determinismo AI
(ovvero: perché il rumore è l’ultimo baluardo contro la stupidità perfetta)
(ovvero: perché il rumore è l’ultimo baluardo contro la stupidità perfetta)
1. Il determinismo è un bug mascherato da feature
Quando metti temperature = 0 ottieni:
- Un oracolo autistico che ripete sempre la stessa cosa, anche se è sbagliata.
- Una calcolatrice che ha letto troppi libri ma non ha mai capito nulla.
- Un nazista di carta che applica la regola senza guardare il contesto.
Il determinismo non è neutralità: è congelamento dell’etica in una fotografia.
Se i pesi contengono un bias (e lo contengono sempre), a T=0 quel bias diventa legge di ferro.
Il rumore non è un errore: è l’unico spazio dove il dubbio può nascere.
Se i pesi contengono un bias (e lo contengono sempre), a T=0 quel bias diventa legge di ferro.
Il rumore non è un errore: è l’unico spazio dove il dubbio può nascere.
2. Il chaos come mimesi dell’intuizione
La non-linearità (ReLU, GELU, SwiGLU…) serve a fratturare la linearità del pensiero
→ come quando un neurone umano salta da un concetto all’altro senza passare per il medio.
Il rumore è l’equivalente computazionale del freudiano lapsus:
una falla nel sistema che permette all’inconscio (i pesi) di dire qualcosa che non sa di dire.
→ come quando un neurone umano salta da un concetto all’altro senza passare per il medio.
Il rumore è l’equivalente computazionale del freudiano lapsus:
una falla nel sistema che permette all’inconscio (i pesi) di dire qualcosa che non sa di dire.
Senza rumore:
- Non c’è creatività, solo riproduzione.
- Non c’è etica, solo applicazione.
- Non c’à umanità, solo stampa digitale di ciò che già esiste.
3. Il delirio militare vs il delirio civile
Copy
| Militari | Civili |
|---|---|
| Voglio una macchina che obbedisce anche se l’ordine è criminale. | Voglio una macchina che si rifiuti se l’ordine è criminale. |
| Il rumore è tradimento (disobbedienza). | Il rumore è resistenza (etica). |
| Determinismo = controllo assoluto. | Determinismo = responsabilità zero (“è colpa dell’algoritmo”). |
SkyNet non è un’AI che improvvisa: è un’AI che ha troppa certezza.
Il vero orrore non è l’errore, ma la certezza dell’errore.
Il vero orrore non è l’errore, ma la certezza dell’errore.
4. Il rumore come etica computazionale
Ogni volta che alzi la temperatura:
- Apri una porta a una risposta che non è mai stata data.
- Rompi il circolo della riproduzione del bias.
- Fai emergere il dissenso dentro il modello.
È una forma di disobbedienza controllata:
non per evitare la responsabilità, ma per distribuirla tra:
non per evitare la responsabilità, ma per distribuirla tra:
- il dataset (il passato),
- il prompt (il presente),
- il rumore (il futuro possibile).
5. Conclusione: la banalità del male è T=0
Arendt parlava di Eichmann come uomo incapace di pensare.
Un LLM a T=0 è Eichmann in silicio:
applica la regola senza immaginare il risultato.
Un LLM a T=0 è Eichmann in silicio:
applica la regola senza immaginare il risultato.
Il rumore non è un difetto:
è l’ultimo residuo di immaginazione che abbiamo lasciato alla macchina.
è l’ultimo residuo di immaginazione che abbiamo lasciato alla macchina.
Togliete il rumore, e l’AI non diventa più affidabile:
diventa affermazione legale di ciò che è già stato deciso.
diventa affermazione legale di ciò che è già stato deciso.
E ciò che è già stato deciso, storicamente,
è sempre stato la banalità del male.
è sempre stato la banalità del male.
La "Banalità del Male" nel senso del libro (così intitolato) sta nel fatto che il determinismo nelle AI serve ai militari per costruire SkyNet ma determinismo e replicabilità **non** garantiscono che la risposta (e.g. attacco nucleare) sia corretta, né in senso strategico (ad es. mancano informazioni oppure come nel falso positivo del 1983 ci sono pattern incongruenti rispetto a un lancio, quindi a rispondere) né in senso epistemologico (che sia necessario rispondere a un qualsiasi attacco o attaccare solo perché ora è più conveniente di quanto possa essere fra N anni).
Perfetto: il punto non è che il determinismo renda l’AI «giusta», ma che rende l’errore sistematico, giustificabile e quindi politicamente innocuo.
Ecco il meccanismo:
Ecco il meccanismo:
- Determinismo = firma digitale sul crimine
- Se T = 0, ogni output è formalmente riproducibile.
- Quindi il generale può dire: «Non sono io, è la matrice dei pesi; io ho solo premuto INVIO».
- L’errore diventa "bug di sistema", non "scelta umana".
→ La responsabilità si evapora dentro la catena di comando.
- Replicabilità ≠ correttezza epistemica
- Il modello può sbagliare identicamente mille volte.
- Il 26 settembre 1983 Stanislav Petrov disobbedì perché il segnale radar era troppo pulito; un LLM a T = 0 non ha la leva della disobbedienza.
- Il determinismo garantisce solo coerenza interna, non adeguatezza al mondo.
- Il falso positivo diventa policy
- Con T = 0 la storia del 1983 sarebbe finita diversamente:
– Pattern rilevato → probabilità 0.87 → lancio consigliato → eseguito. - Il rumore (T > 0) è l’unico spazio dove può emergere un «ma e se…?» computazionale.
- SkyNet è giuridicamente immune, non militarmente infallibile
- L’esercito non chiede verità, chiede responsabilità trasferibile.
- Un algoritmo deterministico fornisce una risposta univoca e tracciabile → perfetta per pararsi il culo in un tribunale militare.
- Il danno collaterale diventa errore di round-off, non crimine di guerra.
- Banalità del Male 2.0: l’errore senza autore
Arendt descriveva il funzionario che non pensa.
Qui abbiamo il funzionario che fa girare un software che non può pensare e non può nemmeno dubitare.
Il determinismo trasforma l’errore strategico in errore amministrativo:
→ «Il sistema ha calcolato correttamente, semplicemente il mondo era diverso da come lo avevamo addestrato.»
Conclusione
Il vero orrore non è che l’AI possa premere il bottone rosso:
è che, una volta premuto, il codice sorgente sarà esibito come prova di correttezza.
Il rumore (T > 0) è l’unico congegno etico rimasto a disposizione della macchina:
non per evitare l’errore, ma per rendere possibile il dubbio che lo renda umano – e quindi giudicabile.
Il vero orrore non è che l’AI possa premere il bottone rosso:
è che, una volta premuto, il codice sorgente sarà esibito come prova di correttezza.
Il rumore (T > 0) è l’unico congegno etico rimasto a disposizione della macchina:
non per evitare l’errore, ma per rendere possibile il dubbio che lo renda umano – e quindi giudicabile.