A Castelfidardo, nelle Marche, un bambino di nove anni ha inserito con un’applicazione di intelligenza artificiale un serpente nella fotografia del bagno della sua abitazione. Nella foto si vede anche traccia del dito sull’obiettivo della camera. Secondo la ricostruzione dei giornali e poi ripresa dal Tgcom del 15 novembre, l’immagine è stata mostrata agli adulti come testimonianza di un incontro reale. Sono intervenuti i vigili del fuoco, sono stati avviati accertamenti dei carabinieri forestali del Cites, la fotografia ha cominciato a circolare. Successivamente, durante le verifiche, il bambino ha ammesso che il serpente era stato aggiunto digitalmente.

Il Corriere Adriatico ha ospitato anche un mio commento sulla vicenda. Ma credo che questa storia richieda una riflessione più ampia di quella consentita da una notizia di cronaca.

Perché rischiamo di archiviarla troppo rapidamente come uno scherzo riuscito male. O di soffermarci soprattutto sull’ennesima dimostrazione di ciò che l’intelligenza artificiale sa fare.

A me colpisce soprattutto la sproporzione: un bambino di nove anni ha potuto mettere in movimento adulti, soccorritori, verifiche e circuiti dell’informazione attorno a qualcosa che non esisteva.

È in questo senso che la vicenda ci mostra quanto una comunità possa essere messa in scacco. Un gesto alla portata di un bambino può produrre conseguenze che richiedono, per essere comprese e gestite, l’intervento di molte persone.

Il serpente era immaginario. Il tempo, la preoccupazione e le risorse impiegate erano reali.

La fotografia manipolata con l’intelligenza artificiale: un serpente aggiunto digitalmente nel bagno di un’abitazione
L’immagine del presunto serpente, poi risultata manipolata con l’intelligenza artificiale, all’origine dell’allarme a Castelfidardo. Riprodotta dall’articolo LinkedIn di Paolo Clini.

La facilità di fare qualcosa ha superato la capacità di comprenderne le conseguenze.

Non sappiamo quanto quel bambino conoscesse l’applicazione, come vi avesse avuto accesso, quali regole gli fossero state date. Non possiamo trasformare queste lacune in un processo pubblico alla sua famiglia. Ma i suoi genitori, e tutti i genitori, devono porsi domande sulla loro responsabilità e sulla libertà di azione che viene lasciata a un bambino di nove anni.

Possiamo però riconoscere la domanda che il caso pone a tutti noi: quali capacità stiamo consegnando ai bambini, e quale preparazione accompagna questa consegna?

Saper usare un’interfaccia non significa comprendere la portata di ciò che si sta facendo. Ottenere un risultato convincente non dimostra maturità, consapevolezza o competenza critica.

È un equivoco che riguarda anche gli adulti. Vediamo un bambino muoversi rapidamente sullo schermo e concludiamo che sappia padroneggiare lo strumento. Ma la destrezza riguarda l’azione immediata. La responsabilità richiede di immaginare ciò che accadrà dopo: chi crederà a quell’immagine, chi avrà paura, chi dovrà intervenire, chi potrebbe subire un danno.

Il caso di Castelfidardo rende visibile questa distanza. E ci obbliga a prenderla sul serio.

Un’immagine diventa pericolosa anche attraverso la credibilità che le prestiamo.

Il falso non agisce da solo. Viene mostrato, raccontato, inoltrato, interpretato. Entra in una conversazione fra persone che si conoscono, raggiunge una chat, passa a una pagina, arriva a una testata.

A ogni passaggio può acquistare autorevolezza. Chi lo riceve vede che altri lo hanno già condiviso; chi legge la notizia può presumere che qualcuno abbia già verificato.

Si può così formare una catena nella quale ciascuno si affida alla verifica che immagina compiuta da qualcun altro.

Questa è una vulnerabilità collettiva. L’episodio di Castelfidardo dimostra questo. La qualità tecnica dell’immagine conta, ma contano anche il racconto che la accompagna, la fiducia nella persona che la mostra e l’emozione che suscita.

Una fotografia imperfetta può risultare persuasiva se arriva nel momento giusto, attraverso una relazione credibile, dentro una situazione di paura.

Per questo la difesa deve riguardare l’intero percorso che trasforma un’immagine in una notizia e una notizia in una decisione.

Chi interviene per proteggerci deve poter verificare senza rinunciare a intervenire.

Su questo punto occorre essere chiari. Davanti alla segnalazione di un possibile pericolo, i soccorritori devono valutarlo e proteggere le persone. Il fatto che l’allarme si riveli infondato non rende automaticamente sbagliato l’intervento. Anche se questo episodio capita proprio nei giorni degli allarmi bomba delle scuole con mail non credibili. E quindi pone un problema di strumenti e competenze da parte di chi deve gestire queste situazioni.

Il Resto del Carlino, inoltre, aveva già riportato i dubbi dei pompieri e la possibilità che la fotografia fosse stata creata con l’intelligenza artificiale. Sarebbe scorretto raccontare questa vicenda come se nessuno avesse sollevato interrogativi.

La questione è come rafforzare le capacità di verifica mentre si gestisce il possibile rischio.

Quando mi è stato chiesto un parere sull’immagine, ho segnalato alcuni particolari sospetti, fra cui i bordi sfumati. Certo, una sfocatura non certifica automaticamente un falso ma è un segnale da non trascurare. Ma sono segnali davanti ai quali dobbiamo assumere più responsabilità.

Servono domande sulla provenienza, sul file originale, su chi abbia assistito direttamente all’evento e sui riscontri disponibili.

Per chi informa, questo significa anche distinguere con precisione una segnalazione da un fatto accertato. E dare alla rettifica una visibilità adeguata, aggiornando il racconto iniziale.

La domanda più inquietante riguarda ciò che potrebbe accadere intenzionalmente.

Questa vicenda nasce, secondo le ricostruzioni, da uno scherzo. Ma ci costringe a considerare scenari nei quali il danno sia cercato deliberatamente.

Pensiamo a un’immagine falsa utilizzata per screditare un’attività commerciale, attribuire un comportamento a una persona, suggerire un pericolo in un luogo pubblico. Il danno può cominciare prima che sia disponibile una smentita.

Non sto dicendo che un singolo episodio dimostri quanto siano frequenti questi fenomeni, né che autorizzi a prevedere una società permanentemente nel panico. Sto dicendo che rivela una possibilità concreta: produrre un contenuto ingannevole può essere molto più semplice che verificarlo, correggerlo e riparare le conseguenze della sua diffusione.

Esiste poi un rischio ulteriore. Se ci abituiamo a considerare ogni immagine potenzialmente falsa, potremmo arrivare a respingere anche testimonianze autentiche.

Dobbiamo costruire una fiducia capace di verificare. Una comunità che crede a tutto è vulnerabile; una comunità che non crede più a nulla lo è altrettanto. E poi c’è il rischio di emulazione. Forse il pericolo più grande.

Le leggi servono. L’educazione deve renderle efficaci nella vita quotidiana.

L’AI Act europeo prevede obblighi di trasparenza per determinati sistemi e contenuti: fra questi, la marcatura tecnica degli output sintetici da parte dei fornitori e obblighi di dichiarazione per determinati utilizzi di contenuti manipolati. Sono strumenti importanti, con ambiti ed eccezioni precisi.

Non è però corretto riassumere tutto con la formula «ogni immagine generata dall’IA deve sempre avere un’etichetta visibile». Il regolamento distingue soggetti e attività e prevede, per gli obblighi degli utilizzatori, un’esclusione relativa alle attività puramente personali e non professionali. Questa distinzione non cancella le altre responsabilità eventualmente applicabili.

Soprattutto, una norma non può sostituire la comprensione delle conseguenze di un gesto.

Occorrono regole, protezioni tecniche e responsabilità dei produttori. E occorrono persone capaci di capire perché una fotografia inventata, presentata come vera, possa danneggiare qualcuno.

Dobbiamo cominciare dai cinque anni. Questa è la vera sfida.

Fino a poco tempo fa pensavo soprattutto alla scuola secondaria. Questa vicenda mi convince che dobbiamo anticipare radicalmente l’inizio dell’educazione.

La mia proposta è cominciare già dai cinque anni, con attività adeguate allo sviluppo dei bambini. È una proposta educativa: non sto indicando una soglia scientificamente dimostrata né proponendo l’accesso autonomo dei più piccoli agli strumenti generativi.

Si può lavorare anche senza schermi. Attraverso un disegno, una storia, una fotografia, un gioco guidato possiamo imparare a distinguere ciò che immaginiamo da ciò che raccontiamo come realmente accaduto. Possiamo domandarci come si sente una persona spaventata da una notizia falsa. Possiamo spiegare perché, quando qualcosa ci preoccupa, dobbiamo parlarne con un adulto e perché inoltrare un contenuto è già un’azione che produce effetti.

Educare significa anche custodire la libertà dell’immaginazione: inventare è una risorsa straordinaria. Il passaggio decisivo è comprendere che presentare un’invenzione come testimonianza di un fatto cambia il rapporto con gli altri.

L’UNESCO, nella propria guida sull’IA generativa nell’istruzione, richiama la necessità di proteggere l’autonomia umana, formare gli insegnanti e adottare approcci adeguati all’età. Dentro questa cornice, credo che l’educazione al giudizio debba precedere l’uso autonomo degli strumenti.

Anche gli adulti devono tornare a imparare.

Le famiglie hanno bisogno di conoscere le applicazioni accessibili ai figli, stabilire limiti comprensibili, accompagnarne l’esperienza e rendere possibile il dialogo quando qualcosa sfugge di mano.

La scuola ha bisogno di formazione continuativa per gli insegnanti e di tempo educativo. Un incontro occasionale sui pericoli della rete non può sostenere da solo un cambiamento di questa portata.

Le aziende tecnologiche devono rendere comprensibili le funzionalità, predisporre protezioni adeguate ai minori e strumenti di supervisione effettivamente utilizzabili.

Redazioni, amministrazioni e organizzazioni devono prepararsi a gestire contenuti di provenienza incerta, con procedure proporzionate al possibile danno.

Nessuno di questi soggetti può risolvere il problema da solo. Ma ciascuno deve assumere una parte riconoscibile della responsabilità.

La formazione umanistica entra qui, nel cuore della questione.

Da tempo sostengo che governare l’intelligenza artificiale richieda una formazione umana più forte.

La storia insegna a interrogare le fonti. La filosofia aiuta a distinguere un’affermazione dalle ragioni che la sostengono. L’arte educa a leggere le immagini e il loro potere. La letteratura ci mette nella condizione di immaginare la vita e le conseguenze delle nostre azioni dal punto di vista degli altri.

Queste capacità devono crescere insieme alle conoscenze scientifiche e tecnologiche.

Possiamo insegnare a ottenere un’immagine con poche istruzioni. Formare una persona capace di decidere come usarla richiede tempo, relazioni, esempi e responsabilità.

È su questo investimento che dobbiamo concentrare le nostre energie.

Lavoro ogni giorno con l’intelligenza artificiale, nella ricerca e nella valorizzazione del patrimonio culturale. Ne conosco le possibilità straordinarie. Proprio per questo considero urgente affrontare ciò che questa vicenda ci mostra.

Vorrei che Castelfidardo diventasse un punto di partenza: per percorsi educativi fin dall’infanzia, per una formazione accessibile alle famiglie, per protezioni migliori e per una cultura della verifica condivisa.

Il bambino ha nove anni. La responsabilità di costruire un mondo capace di accompagnarlo è nostra.

Torna a tutti gli articoli ↗