En Castelfidardo, en la región italiana de Las Marcas, un niño de nueve años utilizó una aplicación de inteligencia artificial para añadir una serpiente a una fotografía del baño de su casa. En la foto incluso se aprecia parte de un dedo sobre el objetivo de la cámara. Según la reconstrucción de los periódicos, recogida después por Tgcom el 15 de noviembre, la imagen se mostró a los adultos como testimonio de un encuentro real. Intervinieron los bomberos, se iniciaron comprobaciones de los carabinieri forestales del CITES y la fotografía comenzó a circular. Posteriormente, durante las verificaciones, el niño admitió que la serpiente había sido añadida digitalmente.
El Corriere Adriatico publicó también un comentario mío sobre el caso. Pero creo que esta historia requiere una reflexión más amplia de la que permite una noticia de sucesos.
Porque corremos el riesgo de despacharla demasiado rápido como una broma que salió mal. O de detenernos sobre todo en otra demostración más de lo que puede hacer la inteligencia artificial.
A mí me impresiona especialmente la desproporción: un niño de nueve años pudo poner en movimiento a adultos, equipos de emergencia, verificaciones y circuitos de información en torno a algo que no existía.
En este sentido, el caso muestra hasta qué punto una comunidad puede verse en jaque. Un gesto al alcance de un niño puede producir consecuencias que, para comprenderse y gestionarse, requieren la intervención de muchas personas.
La serpiente era imaginaria. El tiempo, la preocupación y los recursos empleados eran reales.

La facilidad para hacer algo ha superado la capacidad de comprender sus consecuencias.
No sabemos cuánto conocía aquel niño la aplicación, cómo había accedido a ella ni qué normas le habían dado. No podemos convertir estas lagunas en un juicio público a su familia. Pero sus padres, y todos los padres, deben preguntarse por su responsabilidad y por la libertad de acción que se concede a un niño de nueve años.
Sí podemos reconocer la pregunta que el caso nos plantea a todos: ¿qué capacidades estamos entregando a los niños y qué preparación acompaña esa entrega?
Saber utilizar una interfaz no significa comprender el alcance de lo que se está haciendo. Obtener un resultado convincente no demuestra madurez, conciencia ni competencia crítica.
Es un equívoco que también afecta a los adultos. Vemos a un niño moverse rápidamente por la pantalla y concluimos que domina la herramienta. Pero la destreza atañe a la acción inmediata. La responsabilidad exige imaginar lo que ocurrirá después: quién creerá esa imagen, quién tendrá miedo, quién deberá intervenir, quién podría sufrir un daño.
El caso de Castelfidardo hace visible esta distancia. Y nos obliga a tomarla en serio.
Una imagen también se vuelve peligrosa por la credibilidad que le otorgamos.
Lo falso no actúa solo. Se muestra, se cuenta, se reenvía, se interpreta. Entra en una conversación entre personas que se conocen, llega a un chat, pasa a una página y alcanza un medio de comunicación.
En cada paso puede adquirir autoridad. Quien lo recibe ve que otros ya lo han compartido; quien lee la noticia puede suponer que alguien ya la ha verificado.
Así puede formarse una cadena en la que cada cual confía en la verificación que imagina realizada por otra persona.
Esta es una vulnerabilidad colectiva. El episodio de Castelfidardo lo demuestra. La calidad técnica de la imagen importa, pero también importan el relato que la acompaña, la confianza en quien la muestra y la emoción que suscita.
Una fotografía imperfecta puede resultar persuasiva si llega en el momento adecuado, a través de una relación de confianza, en una situación de miedo.
Por eso la defensa debe abarcar todo el recorrido que transforma una imagen en una noticia y una noticia en una decisión.
Quienes intervienen para protegernos deben poder verificar sin renunciar a intervenir.
En este punto hay que ser claros. Ante la comunicación de un posible peligro, los equipos de emergencia deben evaluarlo y proteger a las personas. Que la alarma resulte infundada no convierte automáticamente la intervención en un error. Este episodio, además, coincide con días de alertas de bomba en escuelas mediante correos poco creíbles. Por tanto, plantea un problema de herramientas y competencias para quienes deben gestionar estas situaciones.
Il Resto del Carlino ya había recogido las dudas de los bomberos y la posibilidad de que la fotografía hubiera sido creada con inteligencia artificial. Sería incorrecto contar este caso como si nadie se hubiera hecho preguntas.
La cuestión es cómo reforzar la capacidad de verificación mientras se gestiona el posible riesgo.
Cuando me pidieron una opinión sobre la imagen, señalé algunos detalles sospechosos, entre ellos los bordes difuminados. Desde luego, un desenfoque no certifica automáticamente una falsificación, pero es una señal que no debe ignorarse. Son señales ante las que debemos asumir una mayor responsabilidad.
Hay que preguntar por la procedencia, el archivo original, los testigos directos del hecho y las pruebas disponibles.
Para quien informa, esto también significa distinguir con precisión una comunicación de un hecho comprobado. Y dar a la rectificación una visibilidad adecuada, actualizando el relato inicial.
La pregunta más inquietante se refiere a lo que podría ocurrir intencionadamente.
Según las reconstrucciones, este caso nace de una broma. Pero nos obliga a considerar escenarios en los que el daño se busque deliberadamente.
Pensemos en una imagen falsa utilizada para desacreditar un negocio, atribuir una conducta a una persona o sugerir un peligro en un lugar público. El daño puede comenzar antes de que exista un desmentido.
No estoy diciendo que un solo episodio demuestre la frecuencia de estos fenómenos ni que permita prever una sociedad en pánico permanente. Estoy diciendo que revela una posibilidad concreta: producir un contenido engañoso puede ser mucho más sencillo que verificarlo, corregirlo y reparar las consecuencias de su difusión.
Existe además otro riesgo. Si nos acostumbramos a considerar potencialmente falsa cualquier imagen, podríamos llegar a rechazar también testimonios auténticos.
Debemos construir una confianza capaz de verificar. Una comunidad que lo cree todo es vulnerable; una comunidad que ya no cree en nada también lo es. Y está el riesgo de imitación. Quizá el mayor peligro.
Las leyes son necesarias. La educación debe hacerlas eficaces en la vida cotidiana.
El Reglamento europeo de Inteligencia Artificial prevé obligaciones de transparencia para determinados sistemas y contenidos: entre ellas, el marcado técnico de las salidas sintéticas por parte de los proveedores y obligaciones de declaración para determinados usos de contenidos manipulados. Son instrumentos importantes, con ámbitos y excepciones precisos.
Sin embargo, no es correcto resumirlo todo con la fórmula «toda imagen generada por IA debe llevar siempre una etiqueta visible». El reglamento distingue sujetos y actividades y establece, para las obligaciones de los responsables del despliegue, una exclusión relativa a las actividades puramente personales y no profesionales. Esta distinción no elimina otras responsabilidades que puedan resultar aplicables.
Sobre todo, una norma no puede sustituir la comprensión de las consecuencias de un gesto.
Hacen falta normas, protecciones técnicas y responsabilidad de los productores. Y hacen falta personas capaces de comprender por qué una fotografía inventada, presentada como verdadera, puede perjudicar a alguien.
Debemos empezar a los cinco años. Este es el verdadero reto.
Hasta hace poco pensaba sobre todo en la enseñanza secundaria. Este caso me convence de que debemos adelantar radicalmente el inicio de la educación.
Mi propuesta es empezar ya a los cinco años, con actividades adecuadas al desarrollo infantil. Es una propuesta educativa: no estoy indicando un umbral científicamente demostrado ni proponiendo el acceso autónomo de los más pequeños a las herramientas generativas.
También se puede trabajar sin pantallas. A través de un dibujo, un cuento, una fotografía o un juego guiado podemos aprender a distinguir lo que imaginamos de lo que relatamos como realmente sucedido. Podemos preguntarnos cómo se siente alguien asustado por una noticia falsa. Podemos explicar por qué, cuando algo nos preocupa, debemos hablarlo con un adulto y por qué reenviar un contenido ya es una acción que produce efectos.
Educar significa también preservar la libertad de la imaginación: inventar es un recurso extraordinario. El paso decisivo es comprender que presentar una invención como testimonio de un hecho cambia nuestra relación con los demás.
La UNESCO, en su guía sobre IA generativa en la educación, recuerda la necesidad de proteger la autonomía humana, formar al profesorado y adoptar enfoques adecuados a cada edad. Dentro de este marco, creo que la educación del juicio debe preceder al uso autónomo de las herramientas.
También los adultos deben volver a aprender.
Las familias necesitan conocer las aplicaciones accesibles a sus hijos, establecer límites comprensibles, acompañar su experiencia y hacer posible el diálogo cuando algo se escapa de las manos.
La escuela necesita formación continua para el profesorado y tiempo educativo. Una charla ocasional sobre los peligros de la red no puede sostener por sí sola un cambio de esta magnitud.
Las empresas tecnológicas deben hacer comprensibles las funcionalidades, prever protecciones adecuadas para los menores y herramientas de supervisión que puedan utilizarse de verdad.
Redacciones, administraciones y organizaciones deben prepararse para gestionar contenidos de procedencia incierta, con procedimientos proporcionados al posible daño.
Ninguno de estos actores puede resolver el problema por sí solo. Pero cada uno debe asumir una parte reconocible de la responsabilidad.
La formación humanística entra aquí, en el corazón de la cuestión.
Hace tiempo que sostengo que gobernar la inteligencia artificial exige una formación humana más sólida.
La historia enseña a interrogar las fuentes. La filosofía ayuda a distinguir una afirmación de las razones que la sustentan. El arte educa para leer las imágenes y su poder. La literatura nos permite imaginar la vida y las consecuencias de nuestras acciones desde el punto de vista de los demás.
Estas capacidades deben crecer junto con los conocimientos científicos y tecnológicos.
Podemos enseñar a obtener una imagen con unas pocas instrucciones. Formar a una persona capaz de decidir cómo utilizarla requiere tiempo, relaciones, ejemplos y responsabilidad.
En esta inversión debemos concentrar nuestras energías.
Trabajo cada día con la inteligencia artificial, en la investigación y en la valorización del patrimonio cultural. Conozco sus extraordinarias posibilidades. Precisamente por eso considero urgente afrontar lo que este caso nos muestra.
Quisiera que Castelfidardo se convirtiera en un punto de partida: para itinerarios educativos desde la infancia, para una formación accesible a las familias, para mejores protecciones y para una cultura compartida de la verificación.
El niño tiene nueve años. La responsabilidad de construir un mundo capaz de acompañarlo es nuestra.

