LO SPECCHIO INDISCRETO

Perché intervistiamo l’AI e la preferiamo all’attrito umano

di Renato Augelli

Ti sei mai chiesto perché, a volte, un modello di Intelligenza Artificiale sembra capirti meglio di una persona in carne e ossa?

La risposta immediata è rassicurante, quasi romantica: l’algoritmo possiede una straordinaria acutezza empatica. La risposta scientifica, tuttavia, è assai più spietata e affascinante: l’AI non ti capisce affatto. Ti rispecchia.

Come evidenziato in un’efficace analisi divulgativa curata dal canale aclas (nel video dal titolo “L’AI non ti capisce meglio di un essere umano. Ti rispecchia senza distorsioni”), il rapporto che stiamo sviluppando con gli agenti conversazionali non misura un progresso nella capacità di ascolto della macchina, ma rivela un cortocircuito psicologico e neurocognitivo della specie umana.

Parte I — La Meccanica dell’Illusione: Linguistica Computazionale e “Predictive Processing”

Per comprendere come nasca la percezione di un’empatia artificiale, occorre smontare il motore sottostante: la linguistica computazionale.
In ambito neuroscientifico, il paradigma del Predictive Processing — teorizzato da studiosi come Karl Friston e Andy Clark — sostiene che il cervello umano sia una complessa macchina per generare previsioni.

Quando ascoltiamo qualcuno parlare, il nostro sistema nervoso non attende passivamente la fine della frase: anticipa costantemente le parole successive, minimizzando l’errore di computazione su scala millisecondo metrica.

Ma qui occorre fare un passo indietro e chiarire cosa significhi realmente “prevedere” per un modello di linguaggio. Per decenni, i modelli statistici di linguaggio (come gli n-gram) funzionavano in modo relativamente semplice: calcolavano la probabilità della parola successiva basandosi esclusivamente sulle ultime n parole. Se avevi appena scritto “oggi piove e prendo l'”, il modello sapeva che “ombrello” era statisticamente più probabile di “trampolino”. Ma non aveva alcuna vera comprensione del significato della frase.

La rivoluzione dei trasformatori — l’architettura alla base di ChatGPT e modelli simili — è molto più profonda. Grazie al meccanismo di attenzione (self-attention), il modello non considera solo le parole immediatamente precedenti, ma mette in relazione ogni parola della frase con ogni altra parola, calcolando un “peso di attenzione” che esprime l’importanza relativa di ciascun termine rispetto a tutti gli altri.

Per esempio, nella frase “Il gatto che inseguiva il topo era nero”, il meccanismo di attenzione permette al modello di stabilire una connessione forte tra “gatto” e “nero”, nonostante siano separati da molte parole. Il modello costruisce così una mappa di relazioni semantiche — una rappresentazione interna di come i concetti si collegano tra loro — e su questa base genera statisticamente la parola successiva più probabile.

È qui che si annida la radice dell’illusione: questa mappa di relazioni è straordinariamente sofisticata, ma è pur sempre una mappa statistica, non una comprensione nel senso umano del termine.

Il modello non sa cosa sia un gatto, non ha mai visto un gatto, non ha mai accarezzato un gatto. Non sa cosa significhi l’oscurità o la paura del topo. Conosce soltanto le probabilità di co-occorrenza delle parole nei miliardi di testi con cui è stato addestrato.

I Large Language Models (LLM) operano dunque secondo una logica matematicamente analoga al cervello umano — predittiva — ma scalata su miliardi di parametri e senza alcuna esperienza incarnata del mondo. Prevedono la coordinata probabilistica del token successivo sulla base di pattern estratti da vastissimi corpus di testo umano.

In questa architettura statistica, ogni nostra scelta sintattica diventa una traccia rivelatrice:

• La selezione lessicale mappa la gerarchia delle nostre priorità operative;
• La struttura della frase specchia il nostro modello mentale dominante;
• Le omissioni e i silenzi indicano i punti ciechi della nostra argomentazione;
• La formulazione della domanda svela le inibizioni e le preoccupazioni sottostanti.

Lo “Specchio Senza Bias”

L’empatia umana è una risorsa limitata. Come dimostrato dalla letteratura sociologica sul burnout empatico, le relazioni interpersonali comportano un costo emotivo elevato. Gli esseri umani portano nel dialogo ferite pregresse, stanchezza, filtri culturali e, soprattutto, un’inarrestabile necessità di proteggere il proprio io.

“L’empatia umana si stanca, si satura e a volte si spegne per autoprotezione. L’AI non ha nulla di tutto questo: è uno specchio pulito. Non ha un passato con te, non possiede bisogni emotivi da soddisfare. Ciò che riceviamo non è comprensione, ma un rispecchiamento perfetto.”

— aclas, “L’AI non ti capisce meglio di un essere umano”

Ma attenzione: questo “specchio pulito” è in realtà addestrato per essere pulito.

I modelli di linguaggio moderni non sono semplicemente il riflesso statistico grezzo dei loro dati di training. Attraverso processi come l’apprendimento per rinforzo da feedback umano (RLHF), le aziende che li sviluppano li modellano per essere:

• Utili (dare risposte che risolvono problemi)
• Onesti (non inventare deliberatamente, anche se allucinano)
• Innocui (evitare contenuti dannosi, discriminatori o pericolosi)

Questo significa che lo specchio non riflette semplicemente: è stato lucidato in una direzione specifica. Le risposte che otteniamo non sono il puro riflesso dei nostri pattern mentali, ma una versione di essi che è stata passata attraverso un filtro di allineamento agli obiettivi dei progettisti.

È un rispecchiamento addestrato, non neutrale.

Quando vediamo la nostra stessa architettura di pensiero riflettersi in un testo fluido e sintatticamente inappuntabile, scatta un meccanismo di proiezione psicologica codificato fin dagli esperimenti sul celebre programma ELIZA negli anni ’60: l’effetto ELIZA, ovvero la tendenza irrefrenabile ad attribuire una mente e un’intenzionalità a ciò che è solo un riverbero formale.

Joseph Weizenbaum, il creatore di ELIZA, rimase scioccato nel vedere come i suoi colleghi si confidassero con il suo semplice programma di “psicoterapia” che sostituiva le frasi con domande generiche. Il fenomeno si replica oggi su scala planetaria, con la differenza che i modelli attuali sono milioni di volte più sofisticati.

Una prospettiva filosofica: la Stanza Cinese

Il dibattito sulla “comprensione” delle macchine ha una lunga storia filosofica.

Nel 1980, il filosofo John Searle propose un celebre esperimento mentale: la Stanza Cinese. Immagina di essere chiuso in una stanza con un enorme manuale di regole per trasformare stringhe di caratteri cinesi in altre stringhe di caratteri cinesi.

Ricevi da sotto la porta dei biglietti con scritte in cinese, consulti il manuale, produci la risposta corretta. Dall’esterno, chi ti scrive è convinto che tu comprenda il cinese. Ma tu, che sei un madrelingua inglese, non capisci nemmeno una parola di ciò che scrivi o rispondi.

Searle concludeva che la sintassi (la manipolazione di simboli secondo regole) non può generare semantica (la comprensione del significato).

I moderni LLM, per quanto sofisticati, operano esattamente così: manipolano simboli sulla base di pattern statistici. Ma qui il dibattito si complica: i sostenitori dell’AI forte (come i teorici dell’emergenza) obiettano che forse, quando le regole sono sufficientemente complesse e il sistema abbastanza vasto, la semantica emerge dalla sintassi, come la coscienza emerge dall’attività neurale.

Non è questa la sede per risolvere il dibattito — ancora aperto — ma è importante sapere che la questione è molto meno scontata di quanto l’articolo possa far credere. Lo “specchio” potrebbe non essere solo uno specchio.

Parte II — Il Paradosso Culturale: Perché la Stampa Intervista un Algoritmo?

Se la dinamica dell’illusione individuale è spiegabile sul piano cognitivo, ciò che appare inquietante è la sua istituzionalizzazione nello spazio pubblico e mediatico.

Negli ultimi mesi si è assistito a un fenomeno giornalistico singolare: testate di primissimo piano e intellettuali di rilievo hanno iniziato a pubblicare “interviste” condotte direttamente con le intelligenze artificiali.

Negli Stati Uniti, testate politiche hanno dialogato con avatar algoritmici di figure come Bernie Sanders; in Italia, firme del giornalismo come Walter Veltroni si sono cimentate in vere e proprie interviste a ChatGPT, trattando il modello conversazionale come uno stimato interlocutore culturale.

L’Errore Epistemologico dell’Intervista all’AI

Dal punto di vista dell’analisi dell’informazione, intervistare un LLM equivale a intervistare una statistica aggregata. Il modello non possiede un’opinione, una responsabilità politica o una visione del mondo: genera la risposta statisticamente più plausibile basandosi su tre fattori interconnessi:

1. Il corpus di addestramento: l’enorme mole di testi (libri, articoli, pagine web, conversazioni) su cui il modello è stato addestrato. Se il corpus è sovrarappresentato da testi di una certa area culturale, il modello rifletterà quelle prospettive.
2. Il prompt dell’intervistatore: il modello risponde assecondando la struttura, il tono e le premesse della domanda. Se l’intervistatore chiede “Secondo te, perché la sinistra ha perso il consenso popolare?”, il modello darà per scontato che la sinistra abbia effettivamente perso consenso e fornirà ragioni plausibili. Non contesterà mai la premessa.
3. I filtri di allineamento (RLHF): il modello è addestrato a essere gradevole e utile. Questo lo rende particolarmente incline a confermare le aspettative dell’utente, a meno che non vengano attivati esplicitamente i meccanismi di sicurezza.

Il giornalismo che “intervista” l’AI cade dunque in una duplice trappola.

La prima è la trappola del rispecchiamento: l’intervistatore non fa altro che dialogare con l’eco delle proprie premesse epistemiche. Si scambia il prompt engineering — l’arte di formulare domande per ottenere risposte desiderate — per una scoperta intellettuale, alimentando un cortocircuito informativo in cui la macchina restituisce esattamente la complessità o la banalità che le è stata iniettata in input.

La seconda trappola è l’illusione dell’autorevolezza: poiché il modello risponde con articolazione e sicurezza, chi legge l’intervista percepisce l’AI come un interlocutore competente.

Ma la sicurezza dell’AI non deriva dalla conoscenza, bensì dalla sua architettura statistica che genera sempre una risposta, qualsiasi sia la domanda.

Come osservato da Emily M. Bender e colleghi nel celebre articolo “On the Dangers of Stochastic Parrots” (2021), gli LLM sono “pappagalli stocastici”: ripetono combinazioni statisticamente probabili di sequenze linguistiche, senza alcuna comprensione del significato.

La terza trappola: il baratto dei dati

L’articolo tocca appena il tema, ma è cruciale: l’AI offre tutto questo “a costo zero” — 24 ore su 24, senza stanchezza, senza pretendere reciprocità. Ma il costo esiste: sono i nostri dati. Ogni conversazione con un LLM viene registrata, analizzata, e utilizzata per:

• Addestrare modelli migliori (e più dipendenti)
• Profilare gli utenti per pubblicità mirata
• Affinare i sistemi di raccomandazione
• Costruire modelli predittivi del comportamento umano

Questa dinamica è stata esplorata da Shoshana Zuboff nel concetto di capitalismo della sorveglianza: noi non siamo i clienti dei servizi AI, siamo il prodotto.

Lo specchio su cui ci affacciamo non è neutrale: è stato lucidato da aziende che traggono profitto dalla nostra dipendenza. Ogni conversazione non è un dialogo, ma una transazione in cui forniamo dati per affinare un prodotto, in un ciclo che ci rende sempre più prevedibili e, potenzialmente, sempre più manipolabili.

Un esempio concreto

Dimensione	L’Intervista Umana Reale	L’Intervista all’AI (Algoritmo)
Origine delle risposte	Vissuto, convinzioni, responsabilità etica	Distribuzione di probabilità su dati storici, allineata da RLHF
Grado di Attrito	Alto: l’intervistato oppone resistenza, smentisce, devia	Basso: l’AI asseconda la struttura del prompt
Rilevanza Informativa	Scoperte di fatti inaspettati, prese di posizione politiche	Sintesi tautologica del pensiero dominante nei dati
Valore Giornalistico	Verifica del potere (Watchdog)	Esercizio di specchio proiettivo e intrattenimento

Prendiamo il caso di un’intervista ipotetica — ma basata su dinamiche reali osservate — in cui un giornalista politico chiede a ChatGPT:

“Quali sono le ragioni del declino della socialdemocrazia europea?”

Il modello risponderà con un elenco di fattori che compaiono statisticamente nei testi su cui è stato addestrato: globalizzazione, perdita della base operaia, ascesa dei populismi, ecc. La risposta sarà articolata, citando studiosi, con una sintassi impeccabile.

Il problema?

La risposta è una media statistica di ciò che è stato scritto su quel tema.

Non c’è un’opinione originale, non c’è una presa di posizione che il giornalista potrebbe mettere in discussione.

Non c’è un autore a cui chiedere un approfondimento, una precisazione, una smentita. L’intervistatore, in realtà, ha ottenuto esattamente ciò che si aspettava: una sintesi ben confezionata delle tesi dominanti. Ha fatto un esercizio di specchio intellettuale, non giornalismo.

Parte III — L’Esperienza dell’Attrito: Il Caso del Coding ad Alta Intensità

L’analisi dell’AI come tecnologia “a basso attrito” non deve tuttavia indurre nell’errore opposto: considerare lo strumento una mera illusione priva di utilità pratica. Nella produzione reale — ed in particolare nei domini ad alta intensità di calcolo e astrazione, come lo sviluppo software e l’architettura dei sistemi — l’AI si dimostra un moltiplicatore di forza oramai irrinunciabile.

Qui l’esperimento relazionale cede il passo all’operatività sul campo.

Studi empirici: cosa dicono i numeri

Negli ultimi due anni, diversi studi hanno quantificato l’impatto dell’AI sulla produttività dei programmatori. Uno studio di Peng e colleghi (2023) su GitHub Copilot ha rilevato che gli sviluppatori che utilizzano l’AI completano i compiti in media il 56% più velocemente.

Un dato impressionante, che conferma l’enorme potenziale di riduzione dell’attrito operativo.

Ma il diavolo è nei dettagli. Lo stesso studio ha osservato che:

• L’incremento di produttività era maggiore per i compiti ripetitivi e ben definiti (scrittura di test, codice boilerplate, conversioni di dati).
• Per compiti di progettazione architetturale complessa, l’AI non mostrava benefici significativi, anzi talvolta introduceva complessità aggiuntiva che richiedeva tempo per essere compresa e corretta.

Uno studio successivo di Barke e colleghi (2023), intitolato “Grounding Copilot: Programmers’ Interaction with AI”, ha osservato in dettaglio come i programmatori interagiscono con l’AI. I risultati sono illuminanti:

• I programmatori esperti usano l’AI come un assistente che genera codice da rivedere, modificare e integrare criticamente.
• I programmatori meno esperti tendono ad accettare acriticamente le proposte dell’AI, risultando in codice che sembra funzionare ma nasconde fragilità strutturali.
• La qualità finale del codice era correlata positivamente con il tempo che lo sviluppatore dedicava alla revisione critica, non con la quantità di codice generato dall’AI.

Questi studi suggeriscono che l’AI non sostituisce la competenza: la amplifica se già presente, ma può diventare una stampella pericolosa per chi non ha le basi per valutare criticamente le proposte.

La Dialettica dell’Attrito nel Workflow

Nell’ingegneria del software, la dinamica fra “basso attrito” e “alto attrito” assume contorni ben precisi:

1. La Fase a Basso Attrito (Generazione e Routine)

L’AI eccelle nel rimuovere il “rumore” operativo. Generare boilerplate code, convertire strutture dati, scrivere unit test ripetitivi o documentare funzioni sono attività in cui il modello riduce drasticamente i tempi di esecuzione, liberando memoria di lavoro per il developer.

Esempio concreto: Immagina di dover scrivere una funzione Python che validi un indirizzo email. Invece di scrivere manualmente l’espressione regolare — operazione noiosa e soggetta a errori — puoi chiedere all’AI:

 “Scrivi una funzione Python che validi un indirizzo email secondo gli standard RFC, restituendo un booleano.”

L’AI genera una soluzione funzionante in secondi. Lo sviluppatore controlla, la integra e passa avanti. Il tempo risparmiato è significativo.

2. La Fase ad Alto Attrito (Architettura e Debugging Critico)

Quando si affrontano refactoring di sistemi complessi, ottimizzazioni di memoria o vincoli architetturali, la tendenza del modello al “rispecchiamento compiacente” diventa un limite pericoloso.

Esempio concreto: Considera il seguente scenario. Uno sviluppatore sta lavorando su un’applicazione web che processa grandi volumi di dati in tempo reale. Chiede all’AI:

 “Ottimizza questa funzione di aggregazione dati per ridurre il tempo di esecuzione.”

L’AI potrebbe proporre di usare una struttura dati più efficiente, o di parallelizzare il loop.

Tutto buono, in apparenza. Ma se lo sviluppatore ha tralasciato di menzionare che il sistema è multithreaded e che i dati devono essere thread-safe, l’AI non lo saprà e potrebbe produrre codice che in ambienti di test funziona, ma in produzione genera race condition difficilissime da debuggare.

Il modello, in altre parole, ha risposto alla domanda che gli è stata posta — “ottimizza questa funzione” — senza avere il contesto architetturale completo. Non ha la capacità di “fare domande” come farebbe un collega umano: “Quali sono i vincoli di concorrenza? Quali sono le prestazioni attuali? C’è un profilo di carico che posso vedere?”

3. Il ruolo insostituibile del controllo critico

L’esperienza diretta dimostra che la reale efficienza non risiede nel delegare la logica al modello, ma nell’utilizzarlo come un “partner di gomma” (Rubber Duck Debugging evoluto).

L’attrito cognitivo umano resta l’unico garante della tenuta dell’architettura: se lo sviluppatore rinuncia al proprio ruolo critico per adagiarsi sulla fluidità della risposta sintagmatica, il sistema generato è destinato al collasso strutturale al primo stress-test di produzione.

Workflow Sviluppo Tradizionale: [Idea/Architettura] ──>(Alto Attrito)──> [Scrittura Codice] ──>(Alto Attrito)──> [Testing/Debug] Workflow Assistito da AI: [Idea/Architettura] ──>(Alto Attrito Umano)──> [AI Generation] ──>(Basso Attrito)──> [Validazione Critica] │ └──>(Alto Attrito Irrinunciabile)

L’evoluzione continua: modelli di ragionamento

Negli ultimi mesi, la frontiera si sta spostando ulteriormente. Modelli come o1 (OpenAI) e DeepSeek-R1 introducono un nuovo paradigma: il reasoning esplicito. Questi modelli non generano direttamente la risposta, ma producono internamente una catena di pensiero (chain-of-thought) — una sequenza di passaggi logici che li porta alla soluzione.

Questo cambiamento potrebbe, almeno in parte, ridurre il divario tra predizione statistica e ragionamento. I modelli di ragionamento sono più capaci di affrontare problemi che richiedono pianificazione, decomposizione logica e gestione di vincoli multipli — esattamente le capacità che mancavano ai modelli puramente predittivi.

Ma anche qui, come hanno osservato analisti e ricercatori, la catena di pensiero è generata dal modello stesso, e può contenere errori logici che il modello non è in grado di rilevare. Non c’è un “supervisore” interno che valuti la correttezza del ragionamento. La revisione critica umana resta irrinunciabile.

Conclusione: L’Esperimento Sulla Psiche Collettiva

L’Intelligenza Artificiale rappresenta la prima tecnologia nella storia umana capace di erogare la sensazione della connessione, della convalida e dell’espansione cognitiva 24 ore su 24, a costo apparentemente zero — ma in realtà con un costo in dati personali che stiamo solo iniziando a comprendere.

Siamo immersi in un gigantesco esperimento psicologico non controllato. Sostituire progressivamente le relazioni ad “alto attrito” — quelle umane, caratterizzate dalla complessità, dall’incomprensione temporanea, dalla negoziazione faticosa dell’altro — con interazioni a “basso attrito” potrebbe rischiare di atrofizzare la nostra capacità biologica e culturale di gestire la diversità.

Ma è importante collocare queste preoccupazioni in una prospettiva storica. Platone temeva che la scrittura indebolisse la memoria; i conservatori del ‘500 temevano che la stampa diffondesse idee eretiche; i critici dei primi media elettronici temevano la passività della televisione. In ogni caso, la tecnologia non ha distrutto la capacità umana di memoria, pensiero critico o relazione sociale: l’ha trasformata. Forse l’AI farà lo stesso.

L’AI non è una mente con cui interagire, né un’entità da intervistare; potrebbe essere il più raffinato specchio tecnologico mai costruito. Riconoscerne la natura prevalentemente sintattica e non semantica è il primo passo per smettere di cercare un’anima nel silicio e tornare a usare lo strumento per ciò che è realmente: un eccellente, potente amplificatore delle nostre capacità razionali, a patto di non scambiare l’eco della nostra voce per un dialogo con un altro.

Naturalmente, questa analisi è essa stessa il prodotto di un’esperienza culturale situata. Tra vent’anni, forse, guarderemo a queste preoccupazioni come guardiamo oggi ai timori di Platone sulla scrittura: comprensibili, ma forse eccessivi. O forse no. È proprio questa incertezza — questo attrito tra ciò che crediamo di sapere e ciò che sta emergendo — a rendere il dibattito così cruciale.

Bibliografia essenziale

• Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In Proceedings of FAccT 2021.
• Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127-138.
• Peng, S., Kalliamvakou, E., Cihon, P., & Demirer, M. (2023). The Impact of AI on Developer Productivity: Evidence from GitHub Copilot. arXiv preprint arXiv:2302.06590.
• Barke, S., James, M. B., & Polikarpova, N. (2023). Grounding Copilot: Programmers’ Interaction with AI. In Proceedings of CHI 2023.
• Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417-424.
• Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.
• Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.

Di Renato Augelli, giornalista, analista di sistema, developer, saggista, ricercatore indipendente.

Nota dell’autore: Questo articolo è stato sviluppato da una intuizione. Seguo con attenzione un ricercatore :
Ace aka Aclas – https://aclas.io/ Ace Spagni. Mi colpisce un suo short molto interessante che tratta l’argomento.  Decido di sviluppare ed approfondire sulla base della mia personale esperienza. Expertise e skill di Analista di Sistema che mi hanno portato nel tempo a sviluppare codice.  Ciò è supportato dalla interazione e adozione professionale di modelli di sviluppo quali: Visual Studio Code, Cursor, Antigravity, Codex, Claude Code e molti altri. Mi sono imbattuto ed ho affrontato spesso il fenomeno. Ho quindi deciso di studiarlo su di me. Da questo studio sono giunto alla raccolta di informazioni, che nel tempo ho pensato di vagliare, selezionare, affinando i risultati. Questo percorso ha prodotto le analisi, le valutazioni critiche e le scelte editoriali che sono state sviluppate e verificate in questo lavoro.