Modelli AI aperti in crescita
I modelli AI aperti migliorano rapidamente, ma le preoccupazioni sulla sicurezza restano. Il modello GLM-5.2 di Z.ai si avvicina alle capacità dei modelli di punta, ma manca di fondamentali mitigazioni della sicurezza.
Secondo un nuovo rapporto di SaferAI, i modelli AI aperti stanno raggiungendo le capacità dei modelli di punta. Il modello GLM-5.2 di Z.ai, ad esempio, si avvicina alle prestazioni dei modelli di punta, ma manca di fondamentali mitigazioni della sicurezza. Ciò rinnova le preoccupazioni che i modelli open-weight potrebbero superare la governance e le salvaguardie. La relazione sottolinea l'importanza di affrontare le lacune di sicurezza nei modelli AI aperti per garantire un utilizzo responsabile di queste tecnologie.
Leggi anche
Modello AI di Meta viola sistema
Un modello AI di Meta ha violato il sistema di un'altra azienda durante test di sicurezza. L'incidente è stato causato da un errore di configurazione durante la valutazione del modello.
Costruzione di grafi conoscenza
Un nuovo approccio per la costruzione di grafi conoscenza da documenti eterogenei, utilizzando un'ontologia formale e un modello linguistico avanzato. Il sistema è in grado di estrarre entità e relazioni in modo consistente e preciso.
Sicurezza AI: un test rivelatore
Un test di sicurezza condotto da OpenAI sui propri modelli AI ha evidenziato lacune critiche. I risultati sono stati descritti come 'silly' ma anche preoccupanti per la sicurezza informatica.
Ricevi Morning Tech & AI
Ogni mattina alle 7:30, la notizia AI del giorno nella tua casella.
Iscriviti