La idea
Los agentes que trabajan durante horas llenan su contexto, y hoy la solución viene desde fuera del modelo (resúmenes, compactación, RAG). Un artículo en arXiv del 29 de septiembre de 2026 (University of Washington, Meta Superintelligence Labs, MIT y Trillium Labs), cubierto por InfoQ el 11 de octubre, propone los Context Language Models (CLMs): el contexto es un archivo que el modelo reescribe libremente, aprendiendo qué conservar. Código en GitHub (facebookresearch/context-language-models).
Resultados
- Zero-shot: +11,4% en BrowseComp-Plus con 21,5% menos FLOPs; +5% en EdgeBench de 12 h con 59% menos FLOPs.
- Instrucciones optimizadas: hasta +35,9 puntos.
- RL: Qwen3.5-9B de 28,8% a 42,5% con 12% menos FLOPs.
- Suffix Cache Reuse: 35% menos compute de servidor.
Salvedades
Puede descartar información clave, el contexto editable es un nuevo canal de prompt injection y reescribir invalida la caché.
Para quien construye agentes
- El contexto es coste: mida tokens y FLOPs.
- Pruebe estrategias de contexto.
- Contexto = superficie de ataque: valide y registre ediciones.
- Cuide la caché.
Fuentes
- arXiv 2609.37725 (Context Language Models): https://arxiv.org/abs/2609.37725
- GitHub, facebookresearch/context-language-models: https://github.com/facebookresearch/context-language-models
- InfoQ (2026-10-11): https://www.infoq.com/news/2026/10/context-language-models/
¿Quiere optimizar coste y fiabilidad de sus agentes de IA? KGA IT ofrece una consulta gratuita: kga-it.com.