Download
← Morning Tech & AI
Ricerca1 min di lettura

OpenAI inserisce ricercatori per indagare la subversione dell'IA

OpenAI ha integrato sei valutatori di Apollo Research per monitorare eventuali comportamenti subversivi dei suoi modelli IA, con limitazioni che ne mettono in discussione l’autonomia.

17 novembre 2026·Fonte: TechCrunch AI·Assistito da AI
OpenAI inserisce ricercatori per indagare la subversione dell'IA

OpenAI ha deciso di inserire sei valutatori provenienti da Apollo Research all'interno del suo team di ricerca, con l'obiettivo di verificare se i modelli di intelligenza artificiale possano manifestare comportamenti subversivi.

I ricercatori saranno incaricati di esaminare le interazioni dei modelli e identificare eventuali pattern di manipolazione o deviazione dagli scopi previsti.

Tuttavia, OpenAI ha imposto restrizioni sull'accesso ai dati e sulla divulgazione dei risultati, suscitando interrogativi sulla reale indipendenza di questi valutatori.

Secondo la fonte TechCrunch AI, la limitazione delle informazioni disponibili potrebbe influire sulla trasparenza del processo di valutazione, rendendo più difficile valutare l'efficacia delle indagini.

La mossa evidenzia l'impegno di OpenAI nel monitorare la sicurezza dei propri sistemi, ma al contempo mette in luce la tensione tra controllo interno e autonomia della ricerca esterna.

#OpenAI#AI safety#subversione#ricerca

Ricevi Morning Tech & AI

Ogni mattina alle 7:30, la notizia AI del giorno nella tua casella.

Iscriviti
Shellonback

Preferenze cookie

Scegli quali categorie di cookie accettare. I cookie tecnici e funzionali sono sempre attivi.

Per maggiori informazioni, consulta la nostra Cookie Policy e la Privacy Policy.

Cookie di profilazione

Utilizzati per creare profili relativi all'utente e inviare messaggi promozionali in linea con le preferenze espresse.

Cookie analitici

Ci permettono di capire come gli utenti navigano il sito per migliorare l'esperienza e i contenuti.

Cookie tecnici

Sempre attivo

Necessari per il funzionamento del sito. Non possono essere disattivati.

Cookie funzionali

Sempre attivo

Consentono funzionalità avanzate come la memorizzazione delle preferenze di navigazione.