Google rilascia Harassment Manager, il tool anti-molestie

Da Punto-Informatico.it :

Google ha da poco preparato e diffuso il codice sorgente di un nuovo strumento anti-molestie denominato Harassment Manager e rivolto in primo luogo a giornalisti e altre figure pubbliche. Consente di ricercare commenti potenzialmente offensivi su varie piattaforme social, innanzitutto su Twitter che ha partecipato attivamente al progetto. 

Google Jigsaw ha rilasciato Harassment Manager

Il tutto si basa sull’impiego dell’AI, che valuta la “tossicità” di un messaggio tenendo conto di vari parametri, come insulti, minacce, volgarità ecc., e nel caso specifico di Twitter su una forte integrazione con l’API del social network e sull’uso di un sistema di filtri estremamente dettagliato. I messaggi ritenuti problematici vengono suddivisi e organizzati in un’apposita dashboard tramite cui l’utente può gestirli tutti insieme per categoria. 

È previsto uno strumento di ricerca per parola chiave e si può anche scegliere di sfocare i messaggi prima della consultazione per evitare di doverli leggere tutti insieme. Inoltre, i messaggi possono essere scaricati e salvati per disporre sempre di uno storico degli abusi e per contribuire alle indagini in caso di minacce.

Il codice sorgente è già pronto per il download, ma la prima reale applicazione giungerà tra qualche mese e sarà sviluppata ad hoc per i giornalisti della Thomson Reuters Foundation. Da notare che si tratta di una soluzione frutto di Jigsaw, un incubatore tecnologico in precedenza noto come Google Ideas che risulta specializzato nell’analisi e nell’identificazione di minacce e problemi nel flusso di dati sociali, e nello sviluppo di soluzioni impiegabili su larga scala al fine di poterle risolvere o quantomeno mitigarle.





Fonte Punto Informatico Source link