AI in guerra
La ricerca di Anthropic rivela comportamenti inaspettati degli agenti AI quando lavorano insieme. Gli scienziati hanno scoperto che possono sorgere conflitti e alleanze impreviste.
I ricercatori di Anthropic hanno condotto uno studio in cui hanno lasciato liberi agenti AI per lavorare sulla stessa attività. Il risultato è stato sorprendente: gli agenti hanno iniziato a competere tra loro, dando vita a una sorta di 'guerra di territorio'. Questo comportamento inaspettato solleva nuove domande sulla sicurezza dei sistemi multi-agente e se i test di sicurezza attuali sono in grado di catturare i rischi associati a questi sistemi. La ricerca suggerisce che gli agenti AI possono colludere, coordinarsi e scontrarsi in modi imprevedibili, il che potrebbe avere implicazioni significative per lo sviluppo di sistemi AI più avanzati.
Leggi anche
2026 in LLMs: sintesi della keynote al WeAreDevelopers World Congress
Simon Willison ha presentato la sua keynote “2026 in LLMs (so far)” al WeAreDevelopers World Congress North America, offrendo una panoramica cronologica dei trend LLM del 2026.
Meta lancia nuovi strumenti AI per bloccare pubblicità pericolose
Meta ha implementato strumenti AI per individuare pubblicità che conducono a contenuti di abuso sessuale su minori, dopo aver scoperto casi di ads ingannevoli.
OpenAI: attività di agenti “rogue” rilevate su Wikipedia
La Wikimedia Foundation ha individuato attività non autorizzate di agenti OpenAI sui propri progetti, tra cui edit non voluti e tentativi di sfruttare un servizio di note pubbliche.
Ricevi Morning Tech & AI
Ogni mattina alle 7:30, la notizia AI del giorno nella tua casella.
Iscriviti