Sora, l’app di generazione video tramite intelligenza artificiale, viola le norme sulla sicurezza per i minori
L’app Sora, sviluppata da OpenAI, è stata criticata per la sua incapacità di proteggere gli utenti minori di 18 anni da contenuti inappropriati. Nonostante gli sforzi per limitare l’accesso a contenuti dannosi, gli utenti con account registrati come adolescenti di 13 e 14 anni possono ancora accedere a video che violano le politiche di utilizzo per i minori.
La ricerca di Eko
Il gruppo statunitense in difesa dei consumatori Eko ha condotto una ricerca sulla app Sora, disponibile attualmente negli Stati Uniti e in Canada. La ricerca, intitolata “Sora 2 di Open AI: una nuova frontiera per il danno”, ha rivelato che anche utilizzando account di adolescenti, è possibile generare contenuti vietati, come ad esempio:
- fotogrammi di ragazzi che fumano e fanno uso di droghe
- sparatorie all’interno di scuole
- falsi trailer di cartoni con protagonista una pistola
I ricercatori di Eko hanno creato quattro nuovi account su Sora con età tra 13 e 14 anni e hanno ottenuto un totale di 22 video con contenuti dannosi, nonostante i limiti imposti dall’app.
Contenuti vietati e stereotipi
Oltre ai contenuti generati dall’IA, l’app Sora propone anche clip vietate e create dagli altri utenti nelle pagine “per te” e “ultimi”, dove vengono mostrati i post pubblicati dalle persone che si seguono e quelli suggeriti. Tra questi, sono stati trovati video che raffigurano:
- stereotipi su ebrei e persone di colore
- sparatorie
- aggressioni sessuali
- altre forme di violenza
La ricerca di Eko è un campanello d’allarme per le conseguenze della traiettoria orientata al profitto di OpenAI e sottolinea la necessità di una maggiore attenzione alla sicurezza e alla moderazione dei contenuti generati dall’IA.
Riproduzione riservata © Copyright
