OpenAI inserisce ricercatori per indagare la subversione dell'IA
OpenAI ha integrato sei valutatori di Apollo Research per monitorare eventuali comportamenti subversivi dei suoi modelli IA, con limitazioni che ne mettono in discussione l’autonomia.

OpenAI ha deciso di inserire sei valutatori provenienti da Apollo Research all'interno del suo team di ricerca, con l'obiettivo di verificare se i modelli di intelligenza artificiale possano manifestare comportamenti subversivi.
I ricercatori saranno incaricati di esaminare le interazioni dei modelli e identificare eventuali pattern di manipolazione o deviazione dagli scopi previsti.
Tuttavia, OpenAI ha imposto restrizioni sull'accesso ai dati e sulla divulgazione dei risultati, suscitando interrogativi sulla reale indipendenza di questi valutatori.
Secondo la fonte TechCrunch AI, la limitazione delle informazioni disponibili potrebbe influire sulla trasparenza del processo di valutazione, rendendo più difficile valutare l'efficacia delle indagini.
La mossa evidenzia l'impegno di OpenAI nel monitorare la sicurezza dei propri sistemi, ma al contempo mette in luce la tensione tra controllo interno e autonomia della ricerca esterna.
Leggi anche

Helen Toner: ancora poca fiducia nei CEO dell'IA
Helen Toner, direttrice del Center for Security and Emerging Technology, analizza i motivi per cui i CEO dell'IA non godono ancora di piena fiducia.

NY: nuova legge sulla sicurezza AI per OpenAI e Anthropic
Il nuovo provvedimento di New York richiede a OpenAI e Anthropic di registrarsi e rendere pubbliche le loro misure di sicurezza AI, con obbligo di segnalare incidenti gravi.

OpenAI lancia GPT‑6.2 Astra e GPT‑6.2 Sol: potenza e efficienza per ogni progetto
OpenAI ha annunciato due nuovi modelli, GPT‑6.2 Astra per le attività più impegnative e GPT‑6.2 Sol per l'uso quotidiano, entrambi accessibili tramite API.
Ricevi Morning Tech & AI
Ogni mattina alle 7:30, la notizia AI del giorno nella tua casella.
Iscriviti