Nel caso delle IA “con personalità”, il timore è che la loro capacità di influenzare le emozioni e le opinioni degli utenti possa amplificare la diffusione di narrazioni indesiderate o di disinformazione in modo ancora più efficace rispetto ai social network tradizionali.
Un settore in piena esplosione
Per capire perché Pechino stia intervenendo proprio ora, bisogna guardare ai numeri e alle dinamiche del mercato. Il settore dell’intelligenza artificiale in Cina è letteralmente esploso negli ultimi anni, spinto sia da politiche industriali molto aggressive sia da un enorme bacino di utenti pronti a sperimentare nuovi servizi digitali.
Parallelamente, le aziende cinesi stanno investendo massicciamente anche sul fronte dei modelli linguistici e delle infrastrutture tecnologiche. Negli ultimi mesi si è parlato molto di nuovi attori nel campo dei grandi modelli, alcuni dei quali adottano strategie open source per accelerare l’adozione e creare ecosistemi di sviluppatori.
Un anno fa c’è stata la comparsa di DeepSeek, la risposta cinese a ChatGPT, e a dicembre diverse startup hanno annunciato la quotazione in borsa. È nata una costellazione variegata di modelli con decine di milioni di utenti.
Attenzione, però: non si tratta di semplici oracoli o assistenti alla ricerca, come spesso accade in Occidente. In Cina l’IA ha preso una direzione molto più pratica e operativa, entrando già in diversi momenti della vita economica, sociale e privata. Ci sono applicazioni usate come forme di compagnia, per esempio nelle case di riposo, oppure come supporto terapeutico nel settore sanitario.
Giocattoli intelligenti, griefbot e nuove relazioni digitali
In altri casi, i modelli possono instaurare una sorta di rapporto emotivo. È il caso dei giocattoli dotati di intelligenza artificiale, un settore in cui la Cina pesa da sola il 40% dell’industria globale. Qualche mese fa, è diventato virale il video pubblicato su Douyin, il TikTok cinese, di una bambina che dice addio piangendo a un gioco non più funzionante.
All’apparenza, sono semplici pupazzi, ma in realtà conservano i ricordi delle conversazioni coi bambini tramite cloud e, attraverso algoritmi sofisticati, sono in grado di adattare le loro risposte con l’ascolto.
Ci sono anche i griefbot, i bot del lutto, che danno la possibilità ai più adulti di parlare virtualmente coi propri cari scomparsi, fatti rivivere in avatar creati incrociando foto e video.
Questo fermento tecnologico rende però ancora più urgente, agli occhi del regolatore, definire paletti chiari, soprattutto quando le applicazioni non si limitano a fornire informazioni, ma entrano nella sfera emotiva e relazionale delle persone.
Una via cinese alla governance dell’AI
Resta da vedere come queste regole verranno applicate nella pratica. La sfida non è banale: riconoscere segnali di dipendenza o di uso problematico richiede metriche, sistemi di analisi e decisioni delicate su quando e come intervenire. C’è anche il rischio che un eccesso di cautela possa limitare alcune applicazioni legittime e utili.
