Buscar
Español

Comparación de velocidad y capacidad de optimización de código del modelo de IA abierto Kimi-K3.1-Pro instalado directamente en un servidor con 8 GPU(zenn.dev)

startupxo Conversar

Idioma del texto: coreanoVer en el idioma original

Resumen sencillo

- Kimi-K3.1-Pro es un modelo de lenguaje grande cuyos pesos publicó la empresa china Moonshot AI. La japonesa Fixstars lo instaló directamente en su propio servidor y probó su velocidad de respuesta y su capacidad para corregir código con rapidez. - En un solo servidor con 8 GPU NVIDIA B300, con 64 sesiones simultáneas, se obtuvieron 64.4 tokens por segundo por usuario. El modelo anterior, Kimi-K3, en las mismas condiciones es 38.7. La medición es una muestra de 4 minutos y la recomendación oficial es de al menos 30 minutos. - 10 modelos resolvieron 12 tareas propias de optimización en ensamblador. Según la mejor puntuación entre 3 intentos, Kimi-K3.1-Pro quedó en el puesto 1 con 0.9494 puntos, y DeepSeek-V4.1-Flash-1017 en el puesto 2 por un margen estrecho. - El autor considera que estas tareas son una evaluación adaptada al trabajo de su empresa, por lo que la diferencia fue menor que la brecha de un índice compuesto externo (AA Index v5). La licencia exige un permiso aparte a los grandes proveedores de API, pero indica expresamente que el uso interno en la empresa es libre.

Leer la fuente ↗

Encontrado en

Zenn ↗ / Publicado por la fuente

¿Te ha pasado algo parecido? Cuéntanos en una o dos líneas qué hiciste. No hace falta conocer el producto.

Inicia sesión para comentar

Atajos de teclado

Elige una publicación con J y K o con las flechas y pulsa Enter.

K ↑ / J ↓
Publicación anterior / siguiente
Enter C
Abrir el resumen y los comentarios de la publicación elegida
O
Abrir el enlace original de la publicación elegida
/
Buscar
?
Mostrar esta ayuda
Tab
Ve al botón de publicar o comentar y pulsa Enter

Escribe con normalidad en los campos de texto. Tab y Enter siempre están disponibles.