El mercado de los grandes modelos de lenguaje (LLMs) está dominado por la generación autoregresiva, ese método de escribir token por token. Pero Inception acaba de romper ese molde con el lanzamiento de Mercury 3, su nuevo modelo de difusión que genera texto en paralelo y alcanza la asombrosa velocidad de 1.068 tokens por segundo en GPUs de NVIDIA. Para los desarrolladores que construyen agentes y bots de voz, esta velocidad primero cambia las reglas del juego.
¿Cómo funciona un LLM de difusión?
A diferencia de los modelos tradicionales que esperan a terminar una palabra para empezar la siguiente, Mercury 3 arranca desde un borrador completo de la respuesta y lo refina en varias pasadas simultáneas. Menos pasos secuenciales significan una salida mucho más rápida en el mismo hardware. La gran pregunta era si esta arquitectura escalaría bien. Según Inception, Mercury 3 es 40 veces más grande que su primera versión y triplicó su calidad promedio en benchmarks estándar sin sacrificar esa velocidad superior a los 1.000 tokens por segundo.
Mercury 3 frente a los gigantes: GPT-6 Luna y Haiku 5.5
En las pruebas autoreportadas por Inception, Mercury 3 supera a GPT-6 Luna de OpenAI y a Claude Haiku 5.5 de Anthropic en 8 de 12 evaluaciones. Sus mayores victorias están en el seguimiento de instrucciones (IFBench con 76,84) y en código agéntico (SWE-Bench Atlas con 51,08), dejando a sus rivales casi 18 puntos atrás en este último. Sin embargo, no todo es color de rosa. Anthropic sigue ganando en tareas de código más largas (DeepSWE v1) y en recuperación de contexto extenso (MRCR v2), que siguen siendo los puntos débiles de este enfoque de difusión.
Flujos de trabajo, precios y disponibilidad para devs
Para integrarlo en tus proyectos, la API de Mercury 3 es compatible con la de OpenAI, lo que facilita la migración. Está disponible en la plataforma de Inception, OpenRouter, Baseten y Vercel. El modelo ofrece una ventana de contexto de 1 millón de tokens. En cuanto al bolsillo, el precio de lanzamiento es muy agresivo: 0,10 dólares por millón de tokens de entrada y 0,35 de salida, aunque luego subirá a 0,20 y 0,70 respectivamente. Además, las cuentas nuevas reciben 100 millones de tokens gratis.
Hay que tener en cuenta una limitación clave para la comunidad open source: no hay pesos abiertos ni versiones cuantizadas. Es estrictamente API. Inception también lanzó dos variantes hermanas: Mercury Voice, optimizado para reducir el tiempo al primer token en agentes de voz, y Mercury Decide, orientado a clasificación. Si tu prioridad es la latencia extrema en agentes interactivos, Mercury 3 es una herramienta que vale la pena probar, siempre y cuando no dependas de tareas de recuperación de contexto muy largo.
Enlaces útiles