L'Eloquenza della Mediocrità

Iniziamo l’anno con un articolo diverso dalla solita e inutile tiritela di post strappalacrime con buoni propositi e traguardi che non interessano veramente che avete trovato sui social dalla mezzanotte del 1 Gennaio.

Fin da ragazzo mi ha sempre spaventato l’idea di essere una persona “mediocre”. Mediamente bravo a scuola, nello sport, a livello estetico, nei videogiochi… rientrare insomma in quella grande e fumosa categoria del “sì, ma…”. Una persona assolutamente anonima, la cui assenza non viene nemmeno avvertita.

Grafico della media statistica

Essere nella media è oggettivamente frustrante (un po’ come quando tornando a casa da scuola tutto contento per aver preso un voto decente ad una materia a me ostica, mia madre esordiva con un eloquente “Sì, ma… X quanto ha preso?”), è come vedere il sole comparire dietro una montagna, mentre tu osservi dalla valle. Sai che al di là un mondo “migliore” ti aspetta, ma quanto è profonda la valle per arrivarci…

Spaventati dallo sforzo necessario per emergere, spesso ci accontentiamo di completare i nostri task quotidiani. Che si tratti di chiudere un ticket, di sbolognarci quella fastidiosa call delle 5:30, di un cliente che ti chiama per una sciocchezza mentre ti sei finalmente riuscito a concentrare… per molti ormai l’importante è arrivare a fine giornata con meno sforzo possibile, e poco importa se questi tour de force non ci lasciano altro che stanchezza, senza una ricompensa per aver sconfitto “il mostro”.

L’avvento dell’AI ha portato questo fenomeno a livelli mai visti. L’aver reso uno strumento tanto potente alla portata di tutti ha portato alla sua conseguenza più naturale: molti di noi hanno semplicemente spento il cervello.

Perché sbattersi ad imparare a fare qualcosa quando posso prendere un file, darlo in pasto a ChatGPT (o chi per lui), e vedere il mio lavoro di 2 ore svolto in 10 minuti? Tra l’altro l’output è spesso di qualità superiore a quello che la persona addetta avrebbe prodotto (output di qualità media bassa), già arricchito da commenti (in caso di codice) e presentato tremendamente bene a livello lessicale.

Un win-win clamoroso, no?

No, assolutamente no.

Faccio una premessa: in questo articolo ignorerò volontariamente tutta la parte legata al perché è da fuori di testa (o da licenziamento per giusta causa, vedete voi) sparare documenti aziendali o contenenti dati sensibili ad un LLM esterno. Non è importante per lo scopo del post, quindi tiriamo dritto.

Il Problema Non È Quello Che Pensi

L’altro giorno scrollavo LinkedIn e ho visto tipo il ventesimo post che iniziava con “In un mondo in rapida evoluzione…” seguito da una serie di insight perfettamente formattati su come l’AI stia rivoluzionando tutto.

E lì mi sono fermato. Perché quel post… lo avevo già letto. Cento volte. Stesse parole diverse, stesso vuoto cosmico dentro. Una mediocrità così lucida, così ben articolata, così dannatamente convincente da sembrare quasi intelligente.

E questa è esattamente la trappola.

L’AI non ci sta rendendo più intelligenti. Ci sta rendendo eloquentemente mediocri. E la cosa peggiore? Non ce ne accorgiamo nemmeno.

Quando la Forma Mangia la Sostanza

Ok, facciamo un passo indietro. Ted Chiang (quello che ha scritto “Story of Your Life”, da cui hanno fatto Arrival) ha definito ChatGPT “a blurry JPEG of the web”. Una versione compressa, sfocata, ma statisticamente rappresentativa di tutto quello che è mai stato scritto su Internet.

Bello, no? Peccato che su Internet quasi tutto sia mediocre. Anzi, peggio.

C’è questa cosa chiamata Legge di Sturgeon che dice che “il 90% di tutto è spazzatura”. E indovina su cosa si sono allenati questi modelli? Esatto. Su quel 90%.

Ma qui viene la parte geniale dell’inganno: questi sistemi hanno una capacità dialettica che noi umani generalmente non possediamo. Prendono quel 90% di mediocrità e te lo restituiscono con la fluidità di un TED Talk, la struttura di un paper accademico, il tono di un esperto del settore.

Emily Bender li ha chiamati “stochastic parrots” - pappagalli stocastici. Non capiscono un cazzo. Predicono il token successivo basandosi su probabilità. Punto. Non c’è comprensione, non c’è semantica, non c’è intenzione.

Eppure funzionano.

Tipo… prendi un junior che deve scrivere un documento tecnico. Lo dà a ChatGPT. Ottiene un testo impeccabile: grammatica perfetta, struttura logica, terminologia appropriata. Se non conosci la materia, ti sembra scritto da un senior con 10 anni di esperienza.

Ma se la conosci… vedi le crepe. Le generalizzazioni sicure ma vuote. Le affermazioni tecnicamente corrette ma che non dicono niente. L’assenza di quel “click” che viene solo dalla comprensione vera.

È la differenza tra sapere la teoria musicale e saper suonare uno strumento. Puoi conoscere tutte le scale del mondo, ma se non hai mai messo le dita su una tastiera…

Il Loop Della Morte: Quando La Mediocrità Si Auto-Alimenta

E ora arriva la parte che dovrebbe farci cagare sotto.

C’è questo fenomeno che si chiama “Model Collapse”. Succede quando un LLM si allena su contenuti generati da altri LLM. Ed è esattamente quello che sta succedendo adesso, in tempo reale.

Pensa alla fotocopia di una fotocopia. Ogni iterazione perde qualità, amplifica gli errori, appiattisce i dettagli. Ora applica questa immagine mentale ad Internet.

Milioni di articoli generati da AI finiscono su Google. Post LinkedIn scritti da AI. Codice su GitHub copiato da Copilot. Risposte su Stack Overflow generate da ChatGPT. E tutto questo finisce nei dataset di training dei modelli futuri (vedi The Curse of Recursion e AI Collapse).

Stiamo letteralmente inquinando il pozzo da cui beviamo.

Il modello che uscirà tra qualche anno si sarà allenato su un oceano di mediocrità generata da AI. E produrrà output ancora più raffinati, ancora più convincenti… ancora più vuoti.

Le Allucinazioni: Quando L’AI Mente Senza Saperlo

Parliamo di allucinazioni. Quelle volte che il tuo tool preferito ti cita uno studio che non esiste, ti inventa una data, ti dà un dato completamente sbagliato ma presentato con una sicurezza disarmante.

La prima volta che mi è capitato stavo facendo una ricerca su un protocollo di sicurezza. L’AI mi ha citato un paper del 2019, con autori, titolo, tutto. Sembrava legit. Sono andato a cercarlo… non esisteva. Niente. Zero. Inventato di sana pianta.

E qui viene il bello: le allucinazioni non sono un bug. Sono una feature. O meglio, sono una conseguenza inevitabile di come funzionano questi sistemi.

Un LLM non ha un database di “fatti veri” da cui attinge. Ha solo una matrice gigantesca di parametri che gli dice quali parole hanno senso statistico dopo le altre. Quando gli chiedi di citare uno studio, non sta “ricordando” niente. Sta generando una stringa di testo che assomiglia a una citazione.

Se quella citazione esiste davvero nel training, ottimo. Se non esiste, la inventa comunque. Perché deve completare la sequenza. È come uno studente che ha studiato male e all’esame spara una risposta al prof che suona plausibile, sperando che questo non cerchi di approfondire.

Piccola differenza: lo studente sa di non sapere. L’AI non sa nemmeno di esistere.

E per accorgerti dell’allucinazione? Devi conoscere la materia. Devi avere l’expertise per capire che quella citazione è falsa, che quel dato è inventato, che quel ragionamento non fila.

Senza expertise, l’AI diventa una camera d’eco che amplifica la tua ignoranza mascherandola da conoscenza.

Il Dunning-Kruger 2.0: L’Illusione Perfetta

C’è un effetto collaterale di tutto questo che è ancora più perverso: l’effetto Dunning-Kruger amplificato. Lo conoscete sicuramente, dal 2006 in poi ve lo hanno smarmellato (-cit) in qualsiasi post semi-interessante che avete letto.

Semplifichiamo il concetto: “Chi non sa, non sa di non sapere”. E l’AI gli fornisce l’illusione perfetta della competenza.

Tipo… un junior developer che usa Copilot per scrivere codice. Il codice compila, sembra funzionare, ha pure i commenti. Il junior è convinto di aver fatto un ottimo lavoro. Si sente competente. Magari lo condivide anche, tipo “guardate che figata ho fatto”.

Poi arriva un senior, da un’occhiata, e vede: memory leaks ovunque, security issues, bad practices, logica fragile che crolla alla prima edge case. Ma il junior non lo sa. Non può saperlo. Non ha l’esperienza per vedere quello che manca.

E questa è la vera rivoluzione… non che le macchine pensino, ma che noi possiamo smettere di farlo senza accorgercene.

L’AI abbassa la barriera d’ingresso, ma non elimina la necessità dell’expertise. Anzi, la rende ancora più critica. Perché ora devi anche saper riconoscere quando l’AI sta sbagliando. E questo richiede più competenza, non meno.

È il paradosso della democratizzazione: rendere accessibile a tutti uno strumento potente non rende tutti esperti. Rende solo più difficile distinguere gli esperti dai mediocri.

Centauri, Non Pappagalli

Kasparov, dopo essere stato sconfitto a scacchi da Deep Blue, non si è arreso. Ha inventato il concetto di “Centauro”: umano + macchina che collaborano. E ha dimostrato che un grande maestro con un buon computer batte tutti.

L’AI è un amplificatore. Amplifica quello che hai. Se hai competenza, la amplifica. Se non ne hai, amplifica il vuoto.

La differenza tra un esperto e un principiante non è l’accesso allo strumento. È sapere quando fidarsi e quando no. È avere il “naso” per le stronzate. È quella vocina che ti dice “aspetta, questo non torna”.

E quella vocina si sviluppa solo con l’esperienza vera, non delegata.

La Corsa Inutile al Modello Migliore

C’è tutta questa gente ossessionata dall’ultimo modello SOTA (State-Of-The-Art, per chi non mastica l’acronimo).

“Hai provato l’ultimo GPT?” “No no, Claude Opus X è migliore per il coding” “Ma hai visto i benchmark di Gemini?”

Tralasciando l’inutilità di certi benchmark, oramai tutti i modelli top sono eccellenti. Le differenze sono marginali per l’utente medio. Quello che fa veramente la differenza è come li usi: come strutturi i prompt, come validi gli output, come li integri nei tuoi workflow, come mantieni il controllo.

Il collo di bottiglia non è il modello. Sei tu. La tua comprensione del dominio, la tua capacità di fare le domande giuste, il tuo spirito critico.

Inseguire l’ultimo modello è come comprare l’attrezzatura fotografica più costosa pensando che ti renderà un fotografo migliore. Spoiler: non funziona così.

Il Problema Sei Tu

Torniamo al punto di partenza. L’AI ci sta rendendo più intelligenti o più mediocri?

Dipende da te.

Se usi l’AI per evitare di pensare, ti stai condannando alla mediocrità. Stai producendo contenuti che suonano bene ma sono vuoti. Stai contribuendo all’inquinamento informativo di Internet. Stai diventando parte di quel 90% della Legge di Sturgeon.

Il vero problema non è nemmeno la qualità dell’output. Il vero problema è che la mediocrità eloquente è più pericolosa della mediocrità evidente. Perché si mimetizza. Perché convince. Perché ti fa credere di essere competente quando non lo sei.

E questa è la vera trappola: non che le macchine diventino più intelligenti, ma che noi possiamo diventare più stupidi senza accorgercene. Che possiamo delegare il pensiero e sentirci comunque produttivi. Che possiamo smettere di imparare e continuare a produrre output “decenti”.

Ma “decente” è solo un altro modo per dire “mediocre”. E la mediocrità, anche quando è eloquente, rimane mediocrità.

Luciano Floridi (vedi articolo precedente su The Thinking Game) parla del “divorzio tra Agency e Intelligence”. Per millenni, se volevi fare qualcosa di intelligente, dovevi essere intelligente. Ora no. Ora puoi agire con efficienza senza comprensione, produrre risultati senza pensiero, convincere senza sapere.

E forse questo è il vero pericolo. Non Skynet che prende il controllo. Ma noi che lentamente, comodamente, inesorabilmente… smettiamo di pensare.

In un mondo di pappagalli… siate Centauri.

Vittorio