Seleziona una pagina
martedì, Ott 26

Facebook, post non moderati in aree del mondo in conflitto



Da Wired.it :

La mancanza di persone che conoscono la lingua e di algoritmi efficienti ha lasciato correre la diffusione di contenuti violenti e di incitamento all’odio in comunità già in crisi

Foto: via Unsplash

Facebook ha moltissima difficoltà a moderare i contenuti sulle sue piattaforme in lingue diverse dall’inglese – come già riportato dal Wall Street Journal – e questo diventa ancora più problematico in zone del mondo interessate da conflitti etnici e religiosi che si riversano anche online. 

Secondo i documenti dei Facebook Papers forniti dall’ex dipendente dell’azienda e whistleblower, Frances Haugen, a 17 media internazionali, in alcune delle regioni più instabili del mondo, i contenuti terroristici e l’incitamento all’odio proliferano senza che il gigante dei social riesca a intervenire in modo adeguato. Questo è dovuto a una carenza di moderatori che parlino le lingue locali e comprendano i contesti culturali. Facebook non è nemmeno riuscito a sviluppare intelligenze artificiali affidabili per rilevare e rimuovere contenuti dannosi in diversi idiomi e dialetti.

In un promemoria di 59 pagine diffuso internamente alla fine dell’anno scorso gli ingegneri di Facebook hanno fornito alcuni dettagli di questo fallimento. Solo il 6% dei contenuti di odio in lingua araba – la terza più usata su Facebook – è stato rilevato su Instagram. In tutto il Medio Oriente gli algoritmi hanno invece cancellato per sbaglio contenuti non violenti il ​​77% delle volte, mentre erano alla ricerca di post di terroristi.

Come ha scritto Politico, “sin dalle elezioni presidenziali statunitensi del 2016, l’attenzione della gente – e gran parte delle risorse dell’azienda – si è concentrata sull’affrontare il ruolo crescente e divisivo di Facebook all’interno della politica americana”, ma quello che succede in alcune aree del mondo sulle sue piattaforme è forse ancora più preoccupante.

Facebook ha sviluppato per la prima volta un enorme seguito in Medio Oriente durante le rivolte della Primavera araba del 2011 e gli utenti hanno attribuito alla piattaforma il merito di aver fornito una rara opportunità di libera espressione e una fonte fondamentale di notizie in una regione in cui i governi autocratici controllano entrambi. Ma negli ultimi anni, quella reputazione è cambiata.

Decine di giornalisti e attivisti palestinesi hanno visto i loro account cancellati, gli archivi della guerra civile siriana sono scomparsi e un vasto vocabolario di parole di tutti i giorni è diventato off-limits per chi parla l’arabo. Facebook ha consentito e consente a gruppi religiosi, fazioni in lotta e a governi autoritari come quello di Bashar al-Assad in Siria, di utilizzare il social network per diffondere messaggi violenti e hate speech.

“Penso sinceramente che ci siano molte vite in gioco ha detto la whistleblower Haugen in riferimento alle attività di Facebook in tutto il mondo. Una posizione condivisa da molti esperti. Facebook da parte sua ha contrassegnato molti di questi Paesi come aree ad alto rischio, o le cosiddette zone Tier 1, che richiedevano risorse aggiuntive come sofisticati algoritmi di controllo dei contenuti e team interni per rispondere agli eventi quasi in tempo reale, secondo l’elenco interno di Facebook di Paesi prioritari per il 2021. Nei documenti interni di Facebook l’azienda ha anche sottolineato la necessità di “migliorare” gli algoritmi e arruolare più moderatori arabi provenienti da paesi meno rappresentati.





[Fonte Wired.it]