Chi decide cosa ci dice l’IA? I pensieri di Campbell Brown, ex capo delle notizie di Meta Campbell Brown ha dedicato la sua carriera alla ricerca dell'informazione precisa e verificata. Inizialmente come affermata giornalista televisiva, e successivamente come prima responsabile…
Chi decide cosa ci dice l’IA? I pensieri di Campbell Brown, ex capo delle notizie di Meta
Campbell Brown ha dedicato la sua carriera alla ricerca dell’informazione precisa e verificata. Inizialmente come affermata giornalista televisiva, e successivamente come prima responsabile delle notizie di Facebook, ha sempre avuto un obiettivo chiaro: garantire che l’informazione fosse accessibile e di qualità. Ora, mentre l’intelligenza artificiale (IA) trasforma il modo in cui consumiamo notizie, Brown ha lanciato un allerta riguardo ai pericoli di una nuova era di disinformazione. Con il suo progetto, Forum AI, non intende aspettare che qualcun altro prenda in mano la situazione.
Forum AI: Un’Iniziativa per la Verità
Forum AI è un’iniziativa nata 17 mesi fa a New York, e si concentra sull’analisi delle prestazioni dei modelli di intelligenza artificiale su temi critici come la geopolitica, la salute mentale e l’assunzione di personale. Questi argomenti, Brown li definisce “difficili”, in quanto non offrono risposte semplici e richiedono una comprensione profonda e sfumata. Il suo approccio prevede di coinvolgere esperti riconosciuti, come il noto storico Niall Ferguson e l’ex segretario di Stato Tony Blinken, per creare benchmark fondamentali da utilizzare nel training degli AI. L’obiettivo finale è quello di raggiungere una coerenza del 90% tra gli algoritmi e le opinioni di questi esperti.
Questo desiderio di accuratezza è emerso in modo specifico durante la prima presentazione pubblica di ChatGPT nel 2022, quando Brown ha compreso come questa tecnologia potesse diventare il principale canale di distribuzione delle informazioni. La considerazione per l’impatto che ciò avrebbe potuto avere sui futuri consumatori di notizie — i suoi stessi figli — ha portato a una riflessione personale sul valore della verità nell’informazione.
Un Futuro Incerto per l’IA
Le valutazioni iniziali di Forum AI sui modelli più utilizzati non sono state incoraggianti. Considerazioni come un bias politico marcato e mancanze di contesto sono risultati problemi ricorrenti. Brown ha osservato come alcuni modelli attingano informazioni da fonti discutibili, come siti legati al Partito Comunista Cinese, per argomenti non pertinenti. Ha inoltre segnalato che, mentre i modelli di IA continuano a migliorare, ci sono “soluzioni semplici” in grado di migliorare drasticamente i risultati.
La sua esperienza presso Facebook le ha fornito lezioni preziose, e Brown è ferma nel sostenere che le piattaforme non dovrebbero ottimizzare solo per il coinvolgimento. Questa tendenza ha portato a una società meno informata, e la sua speranza è che l’IA possa rompere questo ciclo. La chiave sta nella capacità delle aziende di optare per “ciò che è reale e onesto”, piuttosto che semplicemente seguire le preferenze di mercato.
L’Impatto sulle Aziende Italiane
In un contesto italiano, questa discussione ha implicazioni significative non solo per i consumatori, ma anche per le aziende che utilizzano l’IA per decisioni critiche. La domanda di compliance e di standard elevati non è mai stata così alta. Le imprese italiane devono prendere in considerazione l’adozione di pratiche di auditing affidabili, per evitare problemi legali e di reputazione. Tuttavia, la realtà attuale è che molti operatori continuano a soddisfare i requisiti minimi, con conseguenti gravi carenze nella qualità dell’informazione.
L’ambito della compliance è spesso considerato inadeguato, e una legislazione come quella di New York che richiede audit di bias nelle assunzioni ha messo in evidenza quanto ci sia ancora da fare. Brown sottolinea che l’esperienza specializzata è cruciale per garantire che le tecnologie emergenti siano utilizzate in modo corretto e responsabile.
Conclusione
Campbell Brown ha lanciato un appello chiaro: l’accuratezza dovrebbe tornare al centro della discussione sull’IA. Con la crescente diffusione di tecnologie che influenzano la nostra vita quotidiana, è fondamentale che, sia nel contesto di aziende americane che italiane, si lavori per garantire un’informazione di qualità. L’inefficienza attuale non solo minaccia gli utenti, ma ha anche il potenziale di danneggiare il giusto funzionamento delle aziende, richiedendo un cambio di rotta rispetto alle pratiche attuali. Con Forum AI, Brown spera di spezzare il ciclo della disinformazione e di costruire un futuro in cui la verità sia la base sulla quale si fonda l’intero ecosistema informativo.
