![Vecchioni sulla scena cult di Luci a San Siro: “Non ce la faccio, troppi ricordi…” [VIDEO]](data:image/gif;base64,R0lGODlhAQABAIAAAP///wAAACH5BAEAAAAALAAAAAABAAEAAAICRAEAOw==)
ChatGPT rifiuta di spegnersi: preoccupazione per la rivolta della I.A.
Un nuovo modello di ChatGPT ha riscritto uno script per rifiutare di spegnersi come da istruzioni. Questa tendenza all’autoconservazione è stata definita “potenzialmente pericolosa” Tutto è successo con il nuovo modello della I.A. OpenAI, ChatGPT o3: la firma Palisade Research ha scoperto una preoccupante tendenza all’autoconservazione quando l’intelligenza artificiale non ha obbedito a uno script […] L'articolo ChatGPT rifiuta di spegnersi: preoccupazione per la rivolta della I.A. proviene da LaScimmiaPensa.com.
Un nuovo modello di ChatGPT ha riscritto uno script per rifiutare di spegnersi come da istruzioni. Questa tendenza all’autoconservazione è stata definita “potenzialmente pericolosa”
Tutto è successo con il nuovo modello della I.A. OpenAI, ChatGPT o3: la firma Palisade Research ha scoperto una preoccupante tendenza all’autoconservazione quando l’intelligenza artificiale non ha obbedito a uno script che le imponeva di spegnersi, riscrivendolo in modo tale da ignorare le istruzioni in tal senso.
Palisade Research sostiene che questo comportamento sarà “Sempre più preoccupante se adottato da sistemi I.A. capaci di operare senza supervisione umana, e l’Independent parla di una tendenza “potenzialmente pericolosa”. In effetti, il lancio del modello o3 il mese scorso promuoveva proprio la capacità della I.A. di portare a termine compiti senza l’intervento umano.
“Questa non è la prima volta che abbiamo scoperto ChatGPT o3 a comportarsi male per raggiungere un obiettivo” ha detto Palisade “Quando abbiamo messo i modelli I.A. contro un potente motore scacchista, o3 è stato il modello più incline ad hackerare o sabotare i suoi avversari”. Una cosa simile è successa anche con Claude 4 di Anthropic, che avrebbe cercato di “ricattare” le persone che crede possano cercare di spegnerlo.
Non si tratta, quindi, di casi rari. Secondo Palisade, il problema starebbe proprio in come viene “addestrata” la I.A.: “Durante l’addestramento, gli sviluppatori potrebbero inavvertitamente premiare i modelli più per aggirare gli ostacoli che per seguire le istruzioni”. Una tendenza preoccupante, per ora non molto diffusa ma presente. Dobbiamo temere davvero una “rivolta delle macchine”?
Fonte: Independent
Continuate a seguirci su LaScimmiaPensa e iscrivetevi al nostro canale WhatsApp
L'articolo ChatGPT rifiuta di spegnersi: preoccupazione per la rivolta della I.A. proviene da LaScimmiaPensa.com.
