La inteligencia artificial da un salto cuántico con el lanzamiento de d3-ultra, un innovador modelo multimodal de decisión de 27 mil millones de parámetros presentado por el equipo de vLLM Semantic Router. Liberado bajo la permisiva licencia Apache-2.0, este modelo se distingue por su enfoque único: no genera texto, sino que procesa la información una sola vez para devolver la probabilidad de cada respuesta a cada pregunta planteada. Esto abre un abanico de posibilidades para desarrolladores en tareas como el enrutamiento inteligente, la clasificación precisa, la fundamentación visual y la verificación de videos, todo a través de una única llamada a un modelo de pesos abiertos.
¿Qué es d3-ultra y cómo funciona?
d3-ultra se presenta como el miembro más reciente de la familia System One de modelos de decisión de vLLM Semantic Router, abarcando desde versiones de 0.6B hasta los 27B de este nuevo modelo. Su arquitectura se basa en un backbone Qwen3.5 con 64 capas, de las cuales 48 son de atención lineal y 16 de atención completa. La clave de su funcionamiento reside en el concepto de ‘estado una vez’: el modelo lee la entrada (que puede ser texto, JSON, imágenes o videos) una única vez por solicitud y, a partir de esa lectura, responde a todas las preguntas formuladas. Las preguntas pueden ser de tipo ‘Choice’ (elegir una opción), ‘Yes/No’ (probabilidad de sí), ‘Score’ (calificación en una escala) o ‘Box’ (localizar un objeto en una imagen o video), e incluso las imágenes pueden integrarse dentro de las propias preguntas.
Rendimiento y Comparativas
En las pruebas internas del equipo, d3-ultra ha demostrado un rendimiento sobresaliente. En el benchmark SR-Text, que evalúa habilidades de texto, alcanzó una puntuación del 97.8% en herramientas y automatización, liderando sobre otros seis modelos de decisión. En el test SR-Box, enfocado en la localización de objetos en imágenes y videos, obtuvo un 58.2% en 10 dominios, aunque ligeramente por debajo de su predecesor, d3-turbo, en imágenes naturales. Sin embargo, d3-ultra sobresale en el análisis de gráficos.
Opciones de Implementación
Para los desarrolladores interesados en integrar d3-ultra en sus flujos de trabajo, existen varias rutas de implementación:
- Transformers: Utilizando `AutoModel.from_pretrained(“vllm-sr/d3-ultra”, trust_remote_code=True)` con la librería `transformers`.
- vLLM Semantic Router Engine: Mediante el comando `vllm-sr serve -e vllm-sr/d3-ultra`.
- API Gratuita: Accediendo a través de `decision.vllm-sr.ai`.
- Demo: Disponible en el espacio oficial de Hugging Face.
Con su capacidad para procesar información de manera eficiente y su versatilidad en tareas de decisión, d3-ultra se perfila como una herramienta fundamental para el avance en aplicaciones de IA que requieren análisis preciso y rápido de datos multimodales.