Investigadores han desarrollado una técnica para identificar alucinaciones en Modelos de Lenguaje Grandes (LLMs) de caja negra, utilizando la tasa de producción de entropía a nivel de token. Este avance promete mejorar la fiabilidad de los LLMs en tareas de respuesta a preguntas.

Meta Superintelligence Labs, en colaboración con la Universidad Nacional de Singapur y la Universidad de Rice, presenta REFRAG, un nuevo framework que redefine la eficiencia de la generación aumentada por recuperación (RAG) con mejoras significativas en la longitud del contexto y la velocidad de decodificación.