Il Ceo di Anthropic, una delle principali startup nel campo dell’intelligenza artificiale, concorrente di OpenAI, ha rilasciato un’intervista in cui ipotizza l’utilizzo di un pulsante per fermare le attività dei modelli di IA. Nel corso dell’evento Council on Foreign Relations negli Stati Uniti, Dario Amodei ha espresso un’idea che sembra “un po’ folle”: l’integrazione di un pulsante di stop con cui le intelligenze artificiali possano bloccarsi automaticamente quando si accorgono di dover prendere decisioni per argomenti delicati, anche pericolosi, o semplicemente non vogliono svolgere un determinato lavoro.
“Penso che dovremmo almeno considerare la questione, sapendo che più andiamo avanti più i modelli avranno le stesse capacità cognitive dell’uomo,” ha spiegato Amodei. La sua idea è arrivata come risposta ad una domanda sulla possibilità che un giorno i chatbot possano essere considerati qualcosa di più di piattaforme software, fino ad avere entità riconosciute ed emozioni.
La sua suggestione di dare alle IA un modo per rifiutare i compiti imposti ha suscitato un certo scetticismo sul social e sui forum di Reddit, dove molti sostengono che fornire all’IA un’opzione simile incoraggi un filone non corretto, che attribuisce sentimenti e motivazioni simili a quelli umani. “Ma l’IA non ha esperienze soggettive, ottimizza solo le funzioni di ricompensa che le diamo,” si legge su Reddit.
FP
