El equipo de investigadores del laboratorio chino de inteligencia artificial responsable de DeepSeek ha puesto a disposición pública DSpark, un innovador marco de trabajo —o framework— que promete revolucionar la velocidad con la que los modelos de lenguaje de gran escala (LLMs) procesan y entregan respuestas. Según datos oficiales, la aceleración en el tiempo de inferencia oscila entre el 57% y el 85%.
Presentado durante el fin de semana, DSpark es un sistema distribuido bajo licencia MIT. Su propósito principal es permitir que los LLMs generen respuestas de forma mucho más ágil, manteniendo intactos tanto el contenido como la calidad de los textos producidos por el modelo.
Este lanzamiento llega en un momento crucial para la industria, donde sistemas como ChatGPT, Claude o Gemini operan bajo un esquema que genera texto palabra por palabra, o más precisamente, token por token. Aunque este método garantiza una alta precisión, también introduce una latencia considerable en el proceso.
La propuesta de DeepSeek con DSpark se basa en una técnica denominada decodificación especulativa. Su mecanismo es similar al de un explorador que anticipa las siguientes palabras del texto, lo que permite incrementar significativamente la velocidad de respuesta. En lugar de esperar la aprobación individual de cada token, el sistema revisa y valida bloques completos de texto de una sola vez.
Este enfoque contrasta con el de los LLMs convencionales, que suelen generar cuellos de botella al procesar cada palabra antes de avanzar a la siguiente, ralentizando toda la cadena de producción de respuestas.
Los resultados de las pruebas internas con los propios modelos de DeepSeek son contundentes. Al integrar DSpark en DeepSeek-V4-Flash, se observó un aumento de velocidad por usuario de entre el 60% y el 85%. En el caso del modelo frontera de la firma, DeepSeek-V4-Pro, la aceleración alcanzada se situó entre el 57% y el 78%.
Además, en escenarios de alta demanda de procesamiento y saturación del servidor, la capacidad total del sistema llegó a multiplicarse entre 4 y 6 veces en comparación con la generación anterior de su infraestructura.
Los detalles técnicos de estos avances han sido publicados por DeepSeek en un documento técnico oficial y a través de DeepSpec, un código fuente especializado en el entrenamiento y evaluación de sistemas de decodificación especulativa. El framework DSpark ya está disponible para su descarga y uso en los repositorios de GitHub y Hugging Face, abriendo la puerta a desarrolladores, investigadores y empresas de todo el mundo.
Mientras los laboratorios de IA occidentales, como Meta con su centro de datos Hyperion, apuestan por la construcción de macrocentros para expandir las capacidades de sus modelos, la estrategia de DeepSeek se enfoca en la optimización del software. La firma china busca resolver el desafío económico de la velocidad: hacer que la inteligencia artificial responda más rápido sin que los costos de infraestructura hagan inviable el negocio.
Compatibilidad con modelos de terceros
Un aspecto relevante es que DSpark no se limita exclusivamente a los modelos desarrollados por DeepSeek. Gracias a la publicación de los puntos de control, el framework también es compatible con otras familias de modelos abiertos como Qwen, de Alibaba, y Gemma, de Google.
No obstante, los modelos comerciales que se conectan a través de API, como los de Anthropic u OpenAI, quedan fuera del alcance de DSpark por ahora. Para que el sistema funcione correctamente, necesita acceso absoluto al sistema de inferencia de los modelos, un requisito que las plataformas cerradas no suelen conceder.
Fuente: Infobae