Beam es un modelo de IA basado en expertos dispersos con 501 mil millones parámetros, eficiente para tareas de codificación y razonamiento(reflection.ai)
Idioma del texto: coreanoVer en el idioma original
Resumen sencillo
- Beam, desarrollado por Reflection, es un modelo de mezcla de expertos dispersos (MoE) con 501 mil millones parámetros, de los cuales 23 mil millones están activados, diseñado específicamente para codificación, razonamiento y tareas de agentes.
- El modelo fue preentrenado con 23,8 billones tokens de datos web de alta calidad y con licencia, y entrenado con más de 100 millones ejecuciones de aprendizaje por refuerzo usando 10,500 GPUs NVIDIA GB300 activas continuamente durante 4 semanas.
- Reflection declaró que Beam muestra rendimiento competitivo en tareas relacionadas con codificación y agentes en comparación con modelos públicos del mismo o mayor tamaño, como GLM 5.2 y Qwen 3.8-Max, logrando una eficiencia significativamente mejorada al usar de 3 a 4 veces menos cómputo de GPU durante la inferencia.
- El entrenamiento utilizó un nuevo algoritmo optimizado de gradiente de política asincrónico para el aprendizaje por refuerzo y aproximadamente 1 millón entornos de tareas. También aplicó varias técnicas para un uso equilibrado de los expertos y una propagación de señal estable, garantizando la estabilidad general del aprendizaje.
Encontrado en
Hacker News ↗ / 462 votos / 148 comentarios
¿Te ha pasado algo parecido? Cuéntanos en una o dos líneas qué hiciste. No hace falta conocer el producto.