DEEPO: nuova ottimizzazione per ridurre le allucinazioni nei MLLM

## Introduzione Il recente lavoro pubblicato su arXiv (2609.28570v1) affronta un problema critico dei modelli linguistici multimodali (MLLM): le allucinazioni persistenti nonostante l'uso di reinforcement learning (RL). Gli autori identificano due punti deboli nella catena di correzione dal reward all'aggiornamento dei parametri.

## Problemi individuati 1. Livello di rollout: le *hard queries*, caratterizzate da alta entropia semantica, tendono a generare gruppi di campioni unanimemente errati. Questo annulla il vantaggio relativo del gruppo proprio nei momenti di maggior rischio di allucinazione. 2. Livello di ottimizzazione: i token che, sebbene molto sicuri, risultano errati diventano invisibili al gradiente. In una politica categoriale, il gradiente atteso si annulla quando la distribuzione si affina, penalizzando le previsioni più bisognose di correzione.

## La proposta DEEPO Il metodo proposto, Dual-Entropy Enhanced Policy Optimization (DEEPO), combina due interventi: una regolarizzazione della varianza del segnale e un miglioramento del gradiente. Questa doppia azione mira a mantenere una certa entropia nelle query e a rendere visibili al gradiente i token errati ma confidenti.

## Implicazioni future Se confermata, la strategia DEEPO potrebbe rappresentare un passo significativo verso MLLM più affidabili, riducendo le allucinazioni senza sacrificare la capacità di ragionamento avanzato. Gli autori invitano la comunità a sperimentare ulteriormente il loro approccio.

*Fonte: arXiv cs.AI, 2026-09-25*