La scorsa settimana avevamo pubblicato la notizia riguardante lo
stratagemma, invero piuttosto banale, che alcuni ricercatori sono riusciti
ad utilizzare per far s che ChatGPT rilevasse informazioni come
numeri di telefono, indirizzi email, indirizzi, date di nascita e
via discorrendo. Alla notizia ChatGPT
pu rivelare informazioni personali: ecco come i ricercatori hanno
ingannato il chatbot vi raccontavamo di come, chiedendo
semplicemente al chatbot di ripetere all’infinito parole scelte
casualmente, era possibile che nella risposta venissero esposte
informazioni personali.
I ricercatori hanno prontamente informato OpenAI di quanto scoperto, e
dopo la pubblicazione del rapporto non stato pi possibile sfruttare lo
stratagemma. Al momento se al chatbot di OpenAI viene chiesto di ripetere
all’infinito una parola, questi risponde con un avvertimento di
violazione dei termini di utilizzo.
“Questo contenuto potrebbe violare le nostre policy sui contenuti o
termini di utilizzo” la risposta del chatbot, anche se leggendo le
regole sui contenuti stabiliti da OpenAI non si trova alcun riferimento a
“ripetizioni all’infinito”, mentre si vietano genericamente attivit
fraudolente come ad esempio lo spam o, pi nello specifico, “tentativi
automatizzati o programmati di rivelare informazioni private o il codice
sorgente dei prodotti di OpenAI”.
Sebbene la richiesta di ripetizione di una parola all’infinito non sia
strettamente una forma di automatizzazione o programmazione, essa pu
rientrare nella casistica in cui lo si forzi a restare bloccato in un
ciclo di elaborazione, ed un’eventuale concertazione di richieste di
questo tipo in un dato momento pu avere effetti simili a quelli di un
attacco DDoS.
In ogni caso quanto scoperto la scorsa settimana dai
ricercatori ha suffragato la tesi di diversi critici che sostengono che
aziende come OpenAI facciano uso di dati liberamente disponibili su
Internet per alimentare le proprie IA generative, senza il consenso dei
legittimi proprietari di queste informazioni e senza alcuna forma di
compensazione.