DeepInfer vs vLLM: el motor de DeepSeek no es para vos

El 20 de octubre de 2026 DeepSeek abrió el código de DeepInfer, el motor de inferencia que usa para servir sus propios modelos en producción, bajo licencia Apache 2.0. La noticia generó la pregunta obvia: ¿conviene reemplazar vLLM, el motor open source que ya usan miles de equipos, por el que usa DeepSeek internamente? La respuesta corta es que no, salvo que tu infraestructura se parezca mucho a la de DeepSeek.

DeepInfer y vLLM son motores de inferencia para modelos de lenguaje grandes: software que toma un modelo entrenado y lo ejecuta de forma eficiente para responder pedidos en tiempo real. vLLM es un proyecto open source de propósito general mantenido por la comunidad de vllm-project, mientras que DeepInfer es el fork especializado que DeepSeek usa para su propia API, recién liberado al público.

¿Qué es DeepInfer y por qué DeepSeek lo abrió ahora?

DeepInfer es el framework de inferencia que respalda los servicios de producción de DeepSeek, publicado como código abierto el 20 de octubre de 2026 bajo licencia Apache 2.0, según reportó SiliconANGLE. No es un proyecto nuevo escrito desde cero: es el mismo stack que atiende el tráfico real de la API de DeepSeek, publicado "tal cual", sin adaptarlo para uso externo.

• Nace de vLLM. DeepInfer se construyó sobre una bifurcación temprana de vLLM, a la que DeepSeek le sumó componentes propios: FlashMLA, DeepGEMM y DeepEP, además de kernels escritos en TileLang.
• Agrega decodificación especulativa propia. Su módulo DSpark usa un modelo borrador que propone cinco tokens y una "confidence head" que decide cuáles aceptar, con una ganancia de throughput estimada de entre 4% y 7% en carga de producción.
• Escala a nivel de clúster, no de servidor. Un solo clúster de DeepSeek sirve 155 billones de tokens por día, con ingresos de 38 dólares por GPU por hora en horario de baja demanda, según el mismo reporte de SiliconANGLE.

¿Qué es vLLM y por qué lo usan tantas empresas?

vLLM es un motor de inferencia y serving de código abierto para LLMs, enfocado en alto throughput y uso eficiente de memoria GPU mediante su mecanismo PagedAttention. Es el estándar de facto para self-hosting de modelos abiertos desde hace varios años, con soporte para decenas de arquitecturas de modelos y múltiples fabricantes de hardware.

• Comunidad masiva y activa. El repositorio de vllm-project/vllm acumula más de 2.000 contribuidores de decenas de empresas e instituciones académicas.
• Ritmo de releases sostenido. El proyecto mantiene una cadencia constante de nuevas versiones, sostenida por una comunidad de contribuidores activa.
• Multiplataforma de verdad. Corre en GPUs Nvidia de varias generaciones, además de contar con builds para otros aceleradores, lo que lo hace viable en infraestructura heterogénea.
• Incluye lo que hace falta para producción. Trae servidor API compatible con OpenAI, gestión de KV cache y soporte para balanceo entre réplicas de fábrica.

¿En qué hardware corre cada motor?

DeepInfer exige GPUs Nvidia de arquitectura SM100 (Blackwell) o NPUs Huawei Ascend 950; vLLM corre en un abanico mucho más amplio de generaciones de hardware. Esa diferencia sola ya descarta a DeepInfer para la mayoría de los equipos que no renovaron su flota de GPUs en el último año.

¿Qué modelos soporta cada uno?

DeepInfer, en su versión pública, solo soporta DeepSeek-V4.1-Flash (versión 1017 por defecto); vLLM soporta decenas de familias de modelos open source de distintos proveedores. Esto es la diferencia más determinante a la hora de elegir: DeepInfer no es un motor de propósito general, sino la infraestructura a medida de un solo modelo.

• DeepInfer está atado a un modelo. Si tu stack no usa DeepSeek-V4.1-Flash, no hay razón técnica para evaluarlo hoy.
• vLLM es agnóstico del modelo. Podés servir Llama, Qwen, Mistral o el propio DeepSeek sin cambiar de motor cuando cambiás de modelo.

¿Qué le falta a DeepInfer para ser una plataforma de serving completa?

A DeepInfer le falta gestión de KV cache, desagregación de prefill/decode entre nodos, balanceo de carga entre réplicas y un servidor API compatible con OpenAI: todo eso queda en manos de quien lo despliega. El propio equipo de DeepSeek explicó que esas piezas quedaron afuera porque están "tightly coupled" (fuertemente acopladas) a su infraestructura interna, según reportó SiliconANGLE.

• No hay API server listo para usar. Tenés que construir esa capa vos mismo si querés exponer DeepInfer como servicio.
• El despliegue mínimo es grande. El análisis técnico describe un esquema de cuatro GPUs SM100 para prefill y 64 para decode dentro de un mismo dominio de escalado, muy lejos de un servidor único.
• No es un "vLLM más rápido" intercambiable. El artículo de dev.to lo dice explícitamente: no hay que tratar a DeepInfer como un paquete más rápido de vLLM que se puede cambiar en un despliegue existente.

¿Cómo se compara la facilidad de despliegue entre los dos?

vLLM se instala con pip y queda corriendo en minutos en una sola GPU; DeepInfer requiere un clúster con hardware específico, componentes propios compilados y piezas de infraestructura que todavía no vienen incluidas. Para un equipo que necesita servir un modelo abierto hoy, esa diferencia de fricción es la que define la decisión antes de mirar cualquier benchmark.

• vLLM tiene curva de entrada baja. Documentación oficial, imágenes Docker y ejemplos de despliegue en Kubernetes ya probados por la comunidad.
• DeepInfer tiene curva de entrada alta. Requiere GCC 13+, Python 3.12 y CUDA 13 o CANN 9.2 como mínimo, además de las GPUs específicas ya mencionadas.

¿Qué dice la madurez de cada comunidad sobre el mantenimiento a largo plazo?

vLLM tiene años de desarrollo continuo, miles de contribuidores y releases mensuales; DeepInfer tiene días de vida pública y un alcance deliberadamente acotado a un solo modelo y dos fabricantes de hardware. Eso no significa que DeepInfer sea un proyecto débil —corre la API de producción de una de las empresas de IA más seguidas del momento— sino que todavía no pasó por el proceso de generalización que sí tuvo vLLM.

¿Cuándo conviene elegir DeepInfer y cuándo vLLM?

vLLM es la opción correcta para la enorme mayoría de equipos que quieren self-hostear un modelo abierto con recursos razonables; DeepInfer solo tiene sentido si ya corrés DeepSeek-V4.1-Flash sobre GPUs Blackwell o Ascend 950 a escala de clúster. No es una cuestión de cuál es "mejor" en abstracto, sino de qué problema tenés resuelto.

• Elegí vLLM si necesitás servir uno o varios modelos abiertos, tenés entre una y unas pocas GPUs, y querés algo que funcione con documentación y comunidad detrás desde el primer día.
• Elegí DeepInfer si tu stack ya es DeepSeek-V4.1-Flash, tenés acceso a GPUs SM100 o NPUs Ascend 950 en volumen, y tu equipo puede construir las piezas de infraestructura que todavía faltan (KV cache, balanceo, API server).
• No elijas DeepInfer pensando que es un "vLLM turbo": comparten origen, pero hoy resuelven problemas distintos en escalas distintas.

Si tu plan es montar tu propio servicio de inferencia con vLLM sobre GPUs dedicadas, la decisión de infraestructura pesa tanto como la del motor: necesitás hardware con GPU disponible de forma estable y sin las limitaciones de un clúster compartido. Donweb Cloud ofrece servidores dedicados y cloud en Argentina para ese tipo de cargas, sin depender de la capacidad específica que exige un stack como DeepInfer.

Preguntas frecuentes

¿DeepInfer es un reemplazo directo de vLLM?

No. DeepInfer nació de un fork de vLLM pero hoy es una solución especializada para un solo modelo y hardware específico, sin el API server ni la gestión de KV cache que vLLM trae de fábrica.

¿DeepInfer funciona en GPUs Nvidia anteriores a Blackwell?

No. La versión pública requiere GPUs Nvidia de arquitectura SM100 (Blackwell) o NPUs Huawei Ascend 950; arquitecturas Hopper o anteriores no están soportadas.

¿Qué licencia tiene DeepInfer?

DeepInfer se liberó bajo licencia Apache 2.0, la misma licencia que usa vLLM, el 20 de octubre de 2026.

¿vLLM es gratuito y open source?

Sí. vLLM es un proyecto open source mantenido por la comunidad vllm-project, con más de 2.000 contribuidores de empresas e instituciones académicas.

¿Puedo usar vLLM en producción hoy mismo?

Sí, es uno de sus casos de uso principales: trae servidor API compatible con OpenAI, gestión de KV cache y soporte de balanceo entre réplicas listos para desplegar.

Cloud Serversby Donweb

Todo el poder de la nube a tus proyectos y aplicaciones.
Alojamiento ultra rápido, escalable y con alta disponibilidad.

• Performance que te sorprenderá
• Rápida escalabilidad y sin limitaciones
• Arquitectura de alta disponibilidad
• Soporte experto y ejecutivos de cuenta
• Pagos en tu moneda y facturación local

Descubre la mejor solución de Cloud Hosting