En el mundo de los modelos de lenguaje, la velocidad y la eficacia suelen ser los criterios clave para evaluar su rendimiento. Sin embargo, un reciente experimento con los modelos Qwen3.6 y Qwen3.8 ha puesto en duda esta premisa. ¿Qué sucede cuando un modelo piensa demasiado?
El caso de Qwen3.6: Pensar sin resolver
Durante una prueba estándar de handoff, el modelo Qwen3.6 recibió una tarea relacionada con SwiftUI y QWEN CLI. En lugar de resolverla, el modelo entró en un ciclo interminable de reflexiones, lo que llevó a su cierre forzado. La conclusión inicial fue que Qwen3.6 no estaba capacitado para este tipo de tareas. Sin embargo, esta evaluación resultó ser prematura.
Qwen3.8: Velocidad vs. Calidad
En un análisis previo, se buscó optimizar la velocidad de Qwen3.8-27B en un Mac Studio. La solución parecía obvia: reducir el volumen de sus pesos mediante cuantización. Con DFlash2, la versión 8-bit alcanzó 38 tokens por segundo. Pero la velocidad no lo es todo. En tareas complejas, como la depuración de código o el análisis de incidentes, la calidad de la respuesta es crucial.
La hipótesis inicial era que las versiones cuantizadas de Qwen3.8 mantendrían su eficacia en tareas complejas si se les asignaba un alto nivel de razonamiento (reasoning_effort=xhigh). Sin embargo, esta teoría resultó ser incorrecta, demostrando que la velocidad y la calidad no siempre van de la mano.