Seleziona una pagina
lunedì, Apr 24

ChatGPT: ecco quanto costa al giorno ad OpenAI

da Hardware Upgrade :

ChatGPT, con la sua straordinaria popolarit e l’impatto sulla
societ, ha un costo di mantenimento particolarmente oneroso. OpenAI
deve sostenere una spesa di circa 700 milioni di dollari al giorno
per poter mantenere operativa l’infrastruttura di ChatGPT.

Si tratta di una stima
elaborata
dalla societ di ricerca SemiAnalysis e che ha preso in
considerazione i costi di mantenimento dei server necessari
all’operativit dell’infrastruttura. I costi attuali potrebbero essere
per ancor pi elevati, in quanto la stima basata su GPT-3, la
versione precedente del modello AI che abilita ChatGPT. Il pi recente
GPT-4 di OpenAI potrebbe avere costi di esercizio ancor pi elevati.




n


L’elevato costo operativo di una infrastruttura alla base di
un’intelligenza artificiale non ovviamente un aspetto esclusivo di
ChatGPT: tutte le AI conversazionali sono particolarmente costose da
gestire. Ed il motivo per cui Microsoft, che ha investito miliardi di
dollari in OpenAI, comunque al lavoro per sviluppare un chip AI
proprietario, internamente conosciuto con il nome in codice di Athena. Il
processore specializzato sarebbe in fase di sviluppo dal 2019 e gi
disponibile per alcuni dipendenti selezionati di Microsoft e di OpenAI.

Lo sviluppo del chip consentir, almeno nelle intenzioni del colosso di
Redmond, di sostituire le GPU NVIDIA con una soluzione hardware pi
efficiente e pertanto con meno oneri operativi. Sempre SemiAnalysis
sostiene, a tal proposito, che Athena potrebbe portare riduzioni di costi
per chip di un terzo rispetto alle soluzioni di NVIDIA. Microsoft, che ha
di
recente stretto un accordo con NVIDIA proprio nel campo AI
, non
punta comunque a sostituire tout-court i chip di quest’ultima.

Secondo le informazioni disponibili, Athena potrebbe essere reso
disponibile, sempre internamente, all’inizio del prossimo anno.

Source link