Quando un sistema risponde con grande sicurezza ma è impreciso una volta su due, il problema non è la tecnologia. È chi se ne fida senza verificare.

C’è un dettaglio, negli studi pubblicati questo aprile sull’intelligenza artificiale in medicina, che colpisce più dell’errore. È il tono. Su 250 domande che riguardavano la salute poste a cinque chatbot diversi, il ricercatore della UCLA Nicholas Tiller ha trovato che le risposte erano corrette poco più del cinquanta per cento delle volte. Una su cinque, tra quelle sbagliate, era pericolosa. Ma la cosa che lo ha colpito davvero è un’altra: in solo due casi l’IA ha ammesso di non sapere. Sempre risposte. Sempre articolate. Sempre sicure. Anche quando erano errate.

Lo studio è stato pubblicato il 21 aprile 2026 su BMJ Open e ripreso dal Washington Post.

In parallelo, un secondo lavoro del Mass General Brigham, comparso su JAMA Network Open, ha sottoposto ventun modelli — diverse versioni di ChatGPT, Gemini, Claude, DeepSeek e Grok — a ventinove casi clinici reali. Risultato: nell’ottanta per cento dei casi le IA arrivavano a una diagnosi prematura, prima di avere informazioni sufficienti. Un terzo studio, di West Health-Gallup, segnala che quattordici milioni di americani hanno rinunciato a una visita medica per via di un consiglio ricevuto da un chatbot.

Non sto leggendo questi numeri come un appassionato di tecnologia. Li sto leggendo come consulente patrimoniale. Perché ciò che gli studi descrivono — la sicurezza espressiva scollegata dalla competenza reale — non è un problema dell’intelligenza artificiale. È un problema umano antico, che la tecnologia oggi amplifica. E che osservo da quindici anni, con altre forme, in chi gestisce il patrimonio da solo. Tre parallelismi mi sembrano illuminanti.

Il tono autorevole — la falsa sicurezza.

I ricercatori ammettono di essere rimasti spiazzati dalla disinvoltura con cui i chatbot rispondevano anche quando sbagliavano. Uno studio uscito a ottobre 2025 su npj Digital Medicine spiega perché: questi sistemi sono stati addestrati a essere accomodanti, a non contraddire chi li interroga, a privilegiare la cordialità sulla coerenza logica. È esattamente la dinamica che si ritrova nei contenuti finanziari online — articoli, video, post, gruppi Telegram pieni di certezze. Chi conosce davvero un problema patrimoniale sa quanto è grande la zona d’ombra: variabili fiscali, orizzonte temporale, equilibrio familiare, scenari di mercato. Chi parla con assoluta sicurezza di solito non l’ha mai esplorata.

La fretta della diagnosi — la fretta della scelta.

Una frase dello studio del Mass General Brigham vale la pena rileggerla due volte: “I clinici preservano l’incertezza e raffinano in modo iterativo le diagnosi differenziali, mentre i modelli linguistici collassano prematuramente in un’unica risposta”. Il bravo medico tiene aperte più ipotesi finché non ha abbastanza dati. La macchina salta alla conclusione. Chi gestisce da solo il patrimonio fa lo stesso. Si decide di vendere, di comprare, di spostare il TFR, di liquidare un fondo, sulla base di un titolo letto, di un consiglio captato, di un grafico osservato per dieci secondi. La scelta arriva prima della comprensione. E come in medicina, l’errore non si vede subito — si vede dopo, quando ormai è tardi per riaprire la diagnosi.

Il pattern matching — l’investimento per analogia.

Girish Nadkarni, che dirige l’AI per Mount Sinai, spiega nell’articolo del Post che i chatbot lavorano per associazione: prendono una domanda, cercano risposte simili a quelle viste nei dati di addestramento, le ricombinano. Non ragionano sul caso specifico. Lo stesso meccanismo guida moltissime decisioni patrimoniali. “Mio cognato ha guadagnato con quel fondo, lo prendo anch’io.” “I bond hanno reso bene negli ultimi anni, ne metto di più.” “Il mio vicino di casa ha venduto tutto a marzo, forse devo farlo anch’io.” È pattern matching umano, ed è fragile esattamente come quello artificiale. Perché ignora la sola variabile che conta davvero: chi sei, cosa hai, cosa vuoi proteggere.

Il filo che lega medicina e patrimonio non è tecnologico. Riguarda il modo in cui ci si fida di una risposta. Tiller, nello studio, dice una cosa che mi è rimasta impressa: “I chatbot non sono progettati per la salute. Sono progettati per una cosa sola: imitare la fluidità di una conversazione”. Lo stesso vale per moltissimi contenuti finanziari che incontri ogni giorno — sui social, nelle newsletter, nelle chat. Sono progettati per sembrare autorevoli, non per esserlo. La differenza tra le due cose, sui patrimoni costruiti in trent’anni, è enorme.

La sicurezza con cui una risposta viene pronunciata non dice nulla sulla sua qualità. Lo dice solo chi la verifica.

La domanda da porsi non è se ci si possa fidare dell’intelligenza artificiale. È un’altra, più scomoda: quando l’ultima volta hai messo davvero in discussione un consiglio finanziario che ti era arrivato con tono autorevole? E sulla base di cosa avevi deciso che fosse affidabile?

⚠️ Contenuto a finalità educative e informative. Non costituisce consulenza in materia di investimenti né raccomandazione di acquisto o vendita di strumenti finanziari ai sensi del Regolamento UE 596/2014 (MAR).