È in questo passaggio che emerge una questione che considero urgente. L’accesso all’intelligenza artificiale si sta diffondendo molto più velocemente della cultura necessaria per utilizzarla con consapevolezza.
Oggi chiunque può aprire una conversazione e ottenere un testo ben scritto, un’analisi apparentemente approfondita, una proposta commerciale. Questa facilità rappresenta una possibilità straordinaria. Ma può anche indurre a sottovalutare la complessità di ciò che sta accadendo e ad attribuire alle risposte un’affidabilità che deve ancora essere dimostrata.
Quando una risposta convincente diventa una decisione
I sistemi basati sui grandi modelli linguistici hanno una capacità sorprendente di costruire risposte coerenti e persuasive. Possono però sbagliare dati, inventare riferimenti, trascurare condizioni decisive o presentare come certe conclusioni che dipendono da informazioni incomplete. È un limite riconosciuto anche dai produttori di questi sistemi [1].
Il problema diventa particolarmente serio quando una risposta entra in un processo aziendale. Immaginiamo un’offerta commerciale preparata con l’aiuto dell’IA. Il documento è impeccabile: linguaggio professionale, struttura ordinata, argomentazioni efficaci. Ma il calcolo del margine utilizza costi incompleti. Oppure un’analisi di mercato suggerisce una strategia sulla base di informazioni superate.
Sono esempi ipotetici, ma aiutano a comprendere il punto: la qualità della forma può nascondere la fragilità delle premesse. E una premessa sbagliata può produrre conseguenze molto concrete.
La fluidità della conversazione rende questo rischio difficile da percepire. Riceviamo risposte immediate, formulate con sicurezza, spesso aderenti alle nostre aspettative. Possiamo così abbassare la soglia di attenzione proprio mentre avremmo bisogno di esercitare maggiormente il nostro giudizio.
Scegliere lo strumento richiede competenza
Sono convinto che la scelta dello strumento sia fondamentale. Per affrontare problemi complessi bisogna conoscere le capacità dei modelli disponibili, le modalità di ragionamento, gli strumenti di ricerca e analisi, i limiti di utilizzo e le condizioni di trattamento dei dati.
Accontentarsi della prima interfaccia disponibile, senza comprenderne le caratteristiche, può essere inadeguato rispetto alla delicatezza del compito. Occorre però evitare un altro equivoco: il prezzo dell’abbonamento non è una misura sufficiente dell’affidabilità. Anche un modello molto avanzato può sbagliare. Un sistema meno sofisticato può invece essere sufficiente per un’attività circoscritta, se il risultato è facilmente verificabile.
La scelta va quindi costruita intorno al lavoro da svolgere e alle conseguenze di un eventuale errore. Riordinare appunti e valutare un investimento richiedono livelli di controllo diversi. Per le attività più impegnative serve poter accedere a capacità adeguate. Serve anche qualcuno che sappia riconoscere quando quelle capacità non bastano.
Dialogare con l’IA è un lavoro
Nella mia esperienza, ottenere risultati utili richiede una consuetudine profonda con questi strumenti. Bisogna saper definire il problema, formulare istruzioni precise, fornire il contesto necessario e individuare ciò che manca.
Un buon prompt può aiutare molto. Il lavoro, però, prosegue dopo la prima risposta: si confrontano le fonti, si controllano le ipotesi, si verificano i calcoli, si chiede di esplicitare le incertezze. Talvolta occorre cambiare approccio o affidare una parte del compito a strumenti diversi.
La competenza comprende anche la capacità di fermarsi. Se mancano dati essenziali, continuare a chiedere una conclusione può produrre una risposta sempre più articolata senza renderla più fondata. Chiedere al sistema di ricontrollarsi può essere utile, ma non sostituisce una verifica indipendente.
Chi utilizza professionalmente l’IA deve quindi conoscere sia lo strumento sia il campo in cui lo applica. La familiarità con un’interfaccia, da sola, non permette di valutare un’analisi economica, un progetto tecnico o un’interpretazione storica.
L’azienda deve entrare nel contesto
C’è poi una differenza sostanziale tra rivolgere una domanda generica a un modello e lavorare con un sistema che può consultare informazioni pertinenti sulla propria organizzazione.
Un’azienda possiede procedure, documenti, vincoli produttivi, relazioni commerciali e un patrimonio di esperienza che una domanda isolata difficilmente riesce a restituire. Rendere disponibili le informazioni necessarie può migliorare molto l’utilità delle risposte. La ricerca mostra però che anche i modelli evoluti possono rispondere erroneamente quando il contesto non contiene elementi sufficienti [2].
Questo richiede un lavoro accurato. Occorre selezionare documenti affidabili, mantenerli aggiornati, stabilire chi possa consultarli e verificare che il sistema li utilizzi correttamente. Prima di inserire informazioni riservate bisogna inoltre valutarne il trattamento nell’ambiente scelto.
È utile anche chiarire il significato di “addestramento”, una parola spesso usata per indicare operazioni diverse. Fornire istruzioni, caricare documenti o utilizzare la memoria di un’applicazione non equivale automaticamente a modificare il modello attraverso un vero addestramento.
In molti casi il risultato desiderato si ottiene costruendo un buon sistema di consultazione delle conoscenze aziendali, attraverso tecniche come il recupero di documenti a supporto della generazione, o RAG [3]. La qualità dipende allora anche da come quelle conoscenze sono organizzate e rese accessibili. Un archivio incompleto o contraddittorio può trasferire i propri problemi alle risposte.
La formazione deve entrare nell’organizzazione
Nei confronti con le imprese vedo un bisogno crescente di formazione. Una formazione che aiuti a comprendere dove l’IA possa portare valore, quali attività richiedano supervisione e quali decisioni debbano restare affidate a professionisti responsabili.
Questo percorso riguarda anche chi dirige l’azienda. Se ai collaboratori viene chiesto soltanto di produrre più velocemente, senza prevedere tempo e responsabilità per la verifica, l’organizzazione rischia di premiare risultati convincenti prima ancora di averne accertato la correttezza.
Affidarsi a esperti può aiutare a scegliere gli strumenti, progettare le applicazioni e misurarne i risultati. L’obiettivo dovrebbe essere anche far crescere le competenze interne, perché l’impresa possa comprendere e governare ciò che introduce nei propri processi.
La responsabilità resta umana
Possedere uno strumento chirurgico non rende chirurghi. È un’analogia che uso per ricordare quanto contino preparazione ed esperienza quando uno strumento potente può produrre conseguenze importanti. Lo stesso principio vale, con le dovute differenze, per l’intelligenza artificiale. La facilità di accesso rende ancora più necessario riconoscere il valore delle competenze professionali.
Nel nostro laboratorio lavoriamo con tecnologie che aprono possibilità straordinarie per la conoscenza e la valorizzazione del patrimonio culturale. Anche in questo ambito, una ricostruzione plausibile o una narrazione persuasiva devono essere confrontate con documenti, evidenze e interpretazioni scientifiche. La capacità di generare un risultato non risolve il problema della sua attendibilità.
Per questo considero la formazione una parte essenziale dell’innovazione. L’IA può ampliare enormemente ciò che sappiamo fare, a condizione che cresca anche la nostra capacità di valutarne il lavoro.
Prima di chiederci quanto tempo ci faccia risparmiare, dovremmo allora porci una domanda: nella nostra organizzazione, chi ha le competenze e la responsabilità per verificare le sue risposte prima che diventino decisioni?
Note sui riferimenti tecnici
[1] Anthropic, “Claude is providing incorrect or misleading responses. What’s going on?”. La documentazione riconosce che il modello può produrre informazioni errate o citazioni apparentemente autorevoli e raccomanda particolare attenzione alle indicazioni con conseguenze rilevanti.
[2] Hailey Joren e altri, “Sufficient Context: A New Lens on Retrieval Augmented Generation Systems” (2025), Google Research. Lo studio esamina il rapporto fra sufficienza del contesto ed errori nei sistemi RAG: aggiungere documenti può aiutare, ma non garantisce che il sistema riconosca quando mancano le informazioni necessarie.
[3] Anthropic, “Enhancing RAG with Contextual Retrieval”. Il documento illustra come recuperare contenuti da archivi interni e fornirli al modello durante la risposta. Questo processo si distingue dall’addestramento dei parametri del modello. I risultati sperimentali descritti riguardano gli specifici dati e metodi valutati e non costituiscono una garanzia generale di accuratezza.
I collegamenti ai tre documenti sono riportati qui sotto. Sono riferimenti tecnici per approfondire i limiti e il funzionamento dei sistemi, senza indicare una preferenza commerciale per un fornitore.