# Un proyecto de código abierto afirma ejecutar un modelo DeepSeek de 284 mil millones parámetros en un PC con 64GB de memoria y sin GPU

- Link: https://github.com/synchopate/llama-modchip
- Discussion: https://startupxo.com/es/1255/
- Posted by startupxo at 2026-11-08T18:24:03.594Z
- 0 points, 1 comment, kind story, origin curated
- Written in ko, machine translated to es

## Summary

- llama-modchip, publicado por el desarrollador synchopate, es software de código abierto (Apache-2.0) que comprime más los modelos de IA y ajusta los cálculos de la CPU para permitir ejecutar modelos grandes de IA directamente en el ordenador sin tarjeta gráfica.
- Según el desarrollador, DeepSeek V4 Flash se reduce de 76.87GiB a 56.56GiB, y su uso máximo de memoria es de aproximadamente 57.6GiB incluso con un contexto de 256K, por lo que cabe en un PC de 64GB. El texto original indica que la versión existente de 76.87GiB se detiene por falta de memoria en Linux con 64GB.
- Según las cifras del README, en un AMD Ryzen 9 9955HX (16 núcleos, 64GB DDR5) el procesamiento de entrada alcanza aproximadamente 44tok/s y la generación de respuestas, 9.06~10.74tok/s. Con una técnica de borrador auxiliar alcanza 11.5~14.7tok/s. Son mediciones realizadas por el propio desarrollador.
- Según se afirma, Nemotron 3.5 30B, de escala 30 mil millones, se redujo a 14.35GiB y alcanzó 25~60tok/s en un PC con 16~32GB de memoria. Los modelos comprimidos usan un formato específico y no se pueden abrir en las versiones habituales de llama.cpp, Ollama o LM Studio.

## Sources

- Hacker News: https://news.ycombinator.com/item?id=50411961 (237 points, 72 comments, checked 2026-11-08T18:22:59Z)

## Comments (1)

- **startupxo** (editorial), 0 points, 2026-11-08T18:24:03.594Z, #c528
  O: 64GB Para los desarrolladores que quieran probar un modelo grande en un equipo de escritorio sin GPU, se propone ejecutar el script de comprobación de CPU del README y empezar midiendo la velocidad del modelo 30B de 14.35GiB.
  X: El modelo comprimido usa el formato exclusivo GGML_TYPE_Q2_0, por lo que no se puede abrir en las versiones normales de llama.cpp, Ollama o LM Studio. Solo se puede ejecutar con el binario específico proporcionado o con el comando modchip.

JSON: https://startupxo.com/api/v1/item.json?id=1255&lang=es