Buscar
Español

Modelo de Selección de Código Abierto con 2 mil millones Parámetros que Soporta Experimentos Rápidos y Decisiones de Baja Latencia(strandsagents.com)

startupxo Conversar

Idioma del texto: coreanoVer en el idioma original

Resumen sencillo

- Strands Decider 2B es un modelo de IA de código abierto de pequeño tamaño que, a diferencia de los grandes modelos de lenguaje general que generan texto, decide rápidamente la opción más adecuada entre respuestas predeterminadas. - Este modelo está compuesto por 2 mil millones parámetros y proporciona respuestas a preguntas en un promedio de aproximadamente 115 milisegundos en una tarjeta gráfica NVIDIA RTX3090 y también muestra un rendimiento de baja latencia de alrededor de 153 milisegundos en una MacBook Apple M3. - La precisión y la confiabilidad (calibración) fueron evaluadas con el conjunto de datos JevBench, posicionándose entre las mejores dentro de modelos del mismo tamaño, según el equipo de Strands. - Al no tener funciones de generación de texto, no es adecuado para tareas generales de modelos de lenguaje como codificación, chat o resumen de documentos, pero es ideal para tareas como toma de decisiones simples, selección de herramientas y enrutamiento de modelos.

Leer la fuente ↗

Encontrado en

Hacker News ↗ / 160 votos / 38 comentarios

¿Te ha pasado algo parecido? Cuéntanos en una o dos líneas qué hiciste. No hace falta conocer el producto.

Inicia sesión para comentar

Atajos de teclado

Elige una publicación con J y K o con las flechas y pulsa Enter.

K ↑ / J ↓
Publicación anterior / siguiente
Enter C
Abrir el resumen y los comentarios de la publicación elegida
O
Abrir el enlace original de la publicación elegida
/
Buscar
?
Mostrar esta ayuda
Tab
Ve al botón de publicar o comentar y pulsa Enter

Escribe con normalidad en los campos de texto. Tab y Enter siempre están disponibles.