DeepSeek, Mistral e NOVA AI: Importanza della Trasparenza sulle Allucinazioni AI

Negli ultimi anni, i chatbot hanno guadagnato una popolarità crescente, ma con questa espansione è emersa anche la necessità di garantire un uso responsabile e trasparente di queste tecnologie. L’Autorità Garante della Concorrenza e del Mercato (AGCM) ha recentemente chiuso tre istruttorie contro i servizi DeepSeek, Mistral AI e Scaleup, il fornitore di NOVA AI, a seguito di impegni presi per migliorare la chiarezza sulle potenziali “allucinazioni” generate da questi sistemi. Le “allucinazioni” si riferiscono a risposte errate poste dai chatbot, e la loro gestione è fondamentale per tutelare l’utenza.

Maggiore Consapevolezza sul Rischio di Risposte Errate

Le indagini sono state avviate tra aprile e giugno 2025, rivelando che le interfacce dei chatbot non fornivano sufficienti informazioni riguardo alle incertezze legate alle risposte generate. L’AGCM ha identificato potenziali violazioni del Codice del consumo, sottolineando che gli utenti dovevano essere avvisati della possibilità che i chatbot producessero contenuti imprecisi, fuorvianti o totalmente inventati. In particolare, il servizio NOVA AI non delineava chiaramente le sue caratteristiche, creando confusione tra gli utenti.

Le misure adottate prevedono l’inserimento di avvisi permanenti nelle interfacce, nonché la redazione di documenti informativi che specificano i limiti di affidabilità delle informazioni fornite. Questi avvisi, disponibili in italiano e con collegamenti specifici, mirano a sensibilizzare gli utenti sui rischi associati all’uso di chatbot.

Impegni delle Aziende per una Maggiore Trasparenza

Dopo aver esaminato i provvedimenti correttivi, l’AGCM ha accettato gli impegni presi da ciascuna delle tre aziende, chiudendo le istruttorie senza infliggere sanzioni. DeepSeek ha deciso di investire in tecnologie che possano contenere il fenomeno delle allucinazioni, sebbene queste non possano essere completamente eliminate. D’altro canto, Scaleup ha specificato che NOVA AI funge esclusivamente da piattaforma di accesso per altri chatbot, chiarendo così la sua posizione e il suo funzionamento.

Queste decisioni non solo migliorano la trasparenza, ma rappresentano anche un passo importante per rafforzare la fiducia degli utenti, in un mercato italiano dove l’uso dei chatbot sta rapidamente crescendo. La comunicazione chiara dei limiti e delle capacità di queste tecnologie è fondamentale per garantire che le aziende utilizzino i chatbot in modo etico e responsabile.

Il Futuro della Comunicazione AI in Italia

L’impegno delle aziende nel fornire informazioni chiare sulle allucinazioni non è un fatto isolato; riflette una tendenza crescente verso una maggiore responsabilità e trasparenza nel settore tecnologico. Mentre i chatbot continuano a diventare strumenti sempre più comuni nelle interazioni quotidiane, è essenziale che aziende e sviluppatori lavorino per garantire che gli utenti siano ben informati riguardo ai potenziali rischi.

In conclusione, l’azione dell’AGCM nei confronti di DeepSeek, Mistral AI e Scaleup rappresenta un passo significativo nella direzione giusta. Promuovere la consapevolezza e ridurre i rischi associati all’uso dei chatbot non solo proteggerà i consumatori, ma contribuirà anche a costruire un ecosistema digitale più sostenibile e affidabile in Italia. Per gli utenti, questa evoluzione segna un momento importante per comprendere e navigare il futuro della comunicazione assistita dall’AI, assicurandosi che le informazioni ricevute siano sempre verificate e contestualizzate.