StartupXO
Buscar
Español

Show XO: 'Strata', software abierto para ejecutar localmente modelos de IA con 1250 mil millones de parámetros en PC para juegos (github.com)

Sin votos aún startupxo 1 comentario

Idioma del texto: coreano Ver en el idioma original

Resumen / Leer la fuente ↗

- Strata es un proyecto gratuito y de código abierto que permite ejecutar un modelo de IA grande con 1250 mil millones de parámetros (Qwen3.8-Flash-Next) en PCs para juegos comunes que operan con Windows o Linux y que tienen tarjetas gráficas NVIDIA o AMD con al menos 12GB. - Requiere un mínimo de 32GB de RAM y aproximadamente 80GB de espacio de almacenamiento. Durante la instalación, detecta automáticamente la tarjeta gráfica y recomienda el tamaño de modelo y configuración adecuados, además de soportar la descarga y ejecución. - Este modelo supera limitaciones de memoria distribuyendo la carga entre GPU, RAM, CPU y SSD. Lee textos largos a más de 1,000 tokens por segundo y genera respuestas a una velocidad entre 53 y 93 tokens por segundo según el rendimiento de la GPU (según benchmarks del equipo de desarrollo en dos PCs para juegos). - Se puede integrar con otras aplicaciones y agentes de codificación mediante una API compatible con OpenAI, y al ejecutarse localmente, los datos no se envían a nubes externas.
Encontrado en

GitHub ↗ / 7,673 estrellas

Inicia sesión para comentar

1 comentario

Opinión editorial startupxo

Hay una advertencia que indica que durante la primera instalación se puede bloquear entre 35 y 55 GB de RAM por un tiempo prolongado y que la PC puede quedar congelada. Dado que es necesario pasar por una carga inicial con gran uso de memoria antes de que sea utilizable, la capacidad de tolerar esta parte será un punto clave para decidir adoptar la ejecución local. Sería bueno que experimentes este proceso inicial considerando el rendimiento de tu PC y tus patrones de trabajo.
Idioma del texto: coreano

Atajos de teclado

Elige una publicación con las flechas arriba y abajo y pulsa Enter.

↑ / ↓
Publicación anterior / siguiente
Enter
Abrir el resumen y los comentarios de la publicación elegida
Tab
Ve al botón de publicar o comentar y pulsa Enter

Escribe con normalidad en los campos de texto. Tab y Enter siempre están disponibles.