Quando chiediamo ad un sistema di intelligenza artificiale di scrivere un testo al posto nostro, anche senza saperlo e rendercene conto, stiamo usando dei modelli generativi, cioè dei sistemi di apprendimento automatico progettati per analizzare grandi quantità di dati e creare contenuti originali del tutto nuovi, come testi, immagini, video, musica e codice.

I modelli generativi producono testi plausibili ma non sempre testi verificati: possono inventare riferimenti normativi, attribuire a una legge contenuti che non ha, citare sentenze inesistenti, sbagliare dati o scadenze, ma tutto questo con un tono autorevole che rende l’errore spesso molto difficile da trovare.

Le allucinazioni, cioè quando l’AI è fuori controllo

Basta fare una veloce ricerca sul web per trovare diversi casi in cui l’AI ha inventato qualcosa di sana pianta, spacciandolo per vero. Sono le allucinazioni dell’intelligenza artificiale, cioè quelle risposte sbagliate, fuorvianti o inventate ma che vengono presentate come corrette e vere.

Così, ad esempio, nel 2025 il Chicago Sun-Times ha pubblicato un inserto contenente una lista di libri consigliati, alcuni però neppure mai scritti e inventati da un’AI.

Ancora, nel 2024 un tribunale canadese ha condannato la compagnia Air Canada a risarcire un passeggero che era stato indotto in errore da informazioni sbagliate che, però, gli erano state fornite dal chatbot della compagnia. Per il giudice l’azienda è responsabile delle informazioni fornite utilizzando i propri canali ufficiali, tra cui il chatbot.

Per non parlare poi di alcuni avvocati che hanno pensato bene di affidarsi ciecamente all’AI per scrivere i propri atti, richiamando sentenze inesistenti e mai emesse da nessun giudice su questa terra. Risultato? Condanna per lite temeraria e migliaia di euro da pagare.

Quali sono i rischi concreti?

Non c’è alcun dubbio che l’AI può essere uno strumento utile per preparare bozze, strutture, idee e revisione.
I problemi nascono, però, quando si ricorre all’intelligenza artificiale senza alcun controllo e verifica.

I rischi a cui si può andare incontro non sono di poco conto e potrebbero avere conseguenze negative, anche dal punto di vista economico, molto importanti.
Tra questi segnalo:

• violazione del diritto d’autore: i contenuti generati possono riprodurre, in tutto o in parte, materiali protetti: frasi, strutture, descrizioni, a volte anche marchi o elementi distintivi altrui. Chi pubblica non ha modo di sapere se il testo somiglia troppo a un’opera esistente.
  C’è poi anche il problema contrario. Se un contenuto è stato creato in larga parte dall’AI, non è automatica la sua tutela dal punto di vista del diritto d’autore. Questo significa, ad esempio, che l’azienda rischia di non poter impedire che altri riutilizzino proprio lo stesso contenuto. Nel quadro italiano, la L. 132/2025 richiama il requisito dell’apporto intellettuale umano per la protezione delle opere;
• utilizzo di dati personali e informazioni riservate: quando si chiede a ChatGPT, per dirne uno, di “riscrivere questa email del cliente” o di “riassumere questo contratto” senza accorgercene, stiamo trasferendo dei dati a un fornitore terzo. E se fossero dati personali? per quelli c’è il GDPR, ossia base giuridica del trattamento, informativa, ruolo del fornitore, eventuali trasferimenti extra UE. Se poi si trattasse di informazioni riservate? che fine farebbero il segreto commerciale e gli obblighi di riservatezza verso clienti e partner?
• pratiche commerciali scorrette e pubblicità ingannevole: l’azienda o il professionista devono essere in grado di dimostrare le qualità dei propri prodotti e quello che pubblicizza ma non è detto che un testo generato dall’AI tenga conto di questi aspetti. Se il testo presenta questi problemi, si può incorrere in costose sanzioni per pratiche commerciali scorrette e pubblicità ingannevole.

Sono solo alcuni degli aspetti che bisognerebbe considerare prima di affidarsi ad un sistema di intelligenza artificiale.
Quello dell’AI è un mondo in costante evoluzione e cambiamento e anche per questo è spesso difficile capire i limiti entro i quali ci si può e ci si deve muovere.