L’obiettivo è condividere la tecnologia con altri attori per monitorare la diffusione di contenuti violenti sul social network e affinare le tecniche per bloccarli
Facebook ha deciso di mettere a disposizione della community di internet, rendendolo open source, il software impiegato dal social network per individuare i video dai contenuti vietati e violenti, come sfruttamento minorile, propaganda terroristica o immagini disturbanti.
Il software è stato sviluppato dal team per la ricerca sull’intelligenza artificiale di Facebook (Fair) in collaborazione con l’università di Modena e Reggio Emilia. L’algoritmo, sviluppato al Fair di Parigi dai ricercatori del social network e da Lorenzo Baraldi, oggi ricercatore all’AImageLab dell’ateneo emiliano, ha lo scopo di trovare duplicati o parti simili tra video in tempo reale, coniugando tecnologie di intelligenza artificiale.
“La tecnica sviluppata permette ai filmati di conservare al loro interno una firma dell’evoluzione temporale del video, rendendo così possibile il confronto di clip tra di loro”, spiega Lorenzo Baraldi. E aggiunge: “Si possono scoprire video copiati, violazioni di diritto d’autore e si può tracciare la diffusione di video pericolosi sui social network”.
“Questi algoritmi saranno disponibili su GitHub in modo che i nostri partner del settore, i piccoli sviluppatori e le organizzazioni non profit possano utilizzarli per identificare più facilmente i contenuti offensivi e condividere hash – o impronte digitali – di diversi tipi di contenuti dannosi”, scrive Facebook.
Queste tecnologie creano un modo efficiente per archiviare i file come hash digitali brevi (tratti distintivi che identificano un video), che possono determinare se due file sono uguali o simili, anche senza l’immagine o il video originale. In questo modo è più semplice comparare e riconoscere video da cancellare e impedirne la diffusione.
Nonostante gli investimenti, l’algoritmo è stato aggirato, per esempio dopo le sparatorie di Christchurch in Nuova Zelanda, quando il video della strage è stato condiviso ed è rimasto online per ore.
Potrebbe interessarti anche