Sora, l’app di generazione video tramite intelligenza artificiale, viola le norme sulla sicurezza per i minori

L’app Sora, sviluppata da OpenAI, è stata criticata per la sua incapacità di proteggere gli utenti minori di 18 anni da contenuti inappropriati. Nonostante gli sforzi per limitare l’accesso a contenuti dannosi, gli utenti con account registrati come adolescenti di 13 e 14 anni possono ancora accedere a video che violano le politiche di utilizzo per i minori.

La ricerca di Eko

Il gruppo statunitense in difesa dei consumatori Eko ha condotto una ricerca sulla app Sora, disponibile attualmente negli Stati Uniti e in Canada. La ricerca, intitolata “Sora 2 di Open AI: una nuova frontiera per il danno”, ha rivelato che anche utilizzando account di adolescenti, è possibile generare contenuti vietati, come ad esempio:

  • fotogrammi di ragazzi che fumano e fanno uso di droghe
  • sparatorie all’interno di scuole
  • falsi trailer di cartoni con protagonista una pistola

I ricercatori di Eko hanno creato quattro nuovi account su Sora con età tra 13 e 14 anni e hanno ottenuto un totale di 22 video con contenuti dannosi, nonostante i limiti imposti dall’app.

Contenuti vietati e stereotipi

Oltre ai contenuti generati dall’IA, l’app Sora propone anche clip vietate e create dagli altri utenti nelle pagine “per te” e “ultimi”, dove vengono mostrati i post pubblicati dalle persone che si seguono e quelli suggeriti. Tra questi, sono stati trovati video che raffigurano:

  • stereotipi su ebrei e persone di colore
  • sparatorie
  • aggressioni sessuali
  • altre forme di violenza

La ricerca di Eko è un campanello d’allarme per le conseguenze della traiettoria orientata al profitto di OpenAI e sottolinea la necessità di una maggiore attenzione alla sicurezza e alla moderazione dei contenuti generati dall’IA.

Riproduzione riservata © Copyright