Modelli AI aperti in crescita
I modelli AI aperti migliorano rapidamente, ma le preoccupazioni sulla sicurezza restano. Il modello GLM-5.2 di Z.ai si avvicina alle capacità dei modelli di punta, ma manca di fondamentali mitigazioni della sicurezza.
Secondo un nuovo rapporto di SaferAI, i modelli AI aperti stanno raggiungendo le capacità dei modelli di punta. Il modello GLM-5.2 di Z.ai, ad esempio, si avvicina alle prestazioni dei modelli di punta, ma manca di fondamentali mitigazioni della sicurezza. Ciò rinnova le preoccupazioni che i modelli open-weight potrebbero superare la governance e le salvaguardie. La relazione sottolinea l'importanza di affrontare le lacune di sicurezza nei modelli AI aperti per garantire un utilizzo responsabile di queste tecnologie.
Leggi anche
OpenAgentFlow: nuova architettura per la sicurezza dei flussi di agenti IA
OpenAgentFlow introduce un modello di controllo che regola la sicurezza dei flussi di azioni generate da agenti IA eterogenei prima di modificarne lo stato condiviso.
Architettura Cognitiva Modulare
Una nuova ricerca pubblicata su arXiv rivela che i Large Language Models sviluppano un'architettura cognitiva modulare simile a quella del cervello umano. Questo studio esplora come tali modelli, creati attraverso processi di ottimizzazione diversi, possano esibire una specializzazione funzionale in vari domini cognitivi.
Meta lancia Muse, l'agente AI personale che chiede accesso a dati sensibili
Meta introduce Muse, un agente AI personale che vuole integrare email, calendario, pagamenti e dati sanitari, ponendo una sfida alla fiducia dei consumatori.
Ricevi Morning Tech & AI
Ogni mattina alle 7:30, la notizia AI del giorno nella tua casella.
Iscriviti