En un movimiento que redefine los límites de la inteligencia artificial práctica, AWS Strands Labs acaba de liberar Strands Decider 2B, un modelo de código abierto que no genera texto sino que toma decisiones. Con 1.900 millones de parámetros y capacidad para ejecutarse localmente en CPU, GPU de consumo o Mac con silicon de Apple, esta herramienta representa un giro radical en cómo las máquinas procesan opciones. Según los desarrolladores, su latencia media en una RTX 3090 es de apenas 115 milisegundos, ofreciendo respuestas casi instantáneas para flujos de trabajo que requieren selección rápida entre alternativas.
La arquitectura del silencio: un LLM sin boca
El equipo técnico partió de Qwen3.5-2B-Base y realizó una modificación quirúrgica: eliminó por completo la cabeza de modelado de lenguaje, reemplazándola con una pequeña cabeza de puntero de aproximadamente un millón de parámetros. Esta cabeza compara el estado oculto en la posición de respuesta contra el estado oculto del último token de cada opción. El resultado es un forward pass único, sin bucles de decodificación, que devuelve elecciones, probabilidades sí/no o puntuaciones en escalas predefinidas. Como expresaron los desarrolladores en la documentación técnica, “es un LLM con la boca removida”, diseñado exclusivamente para evaluar y seleccionar.
Precisión calibrada y limitaciones conscientes
En los benchmarks públicos de JevBench, la versión v19 alcanzó un 72,3% de precisión (167 de 231 tareas), con un error de calibración esperado de solo 0,052. Lo más notable es su calibración práctica: en tareas de clasificación corta no vistas durante el entrenamiento, las respuestas con confianza del 90% o superior fueron correctas aproximadamente el 95% de las veces. Sin embargo, el equipo es transparente sobre sus limitaciones: el modelo es inferior a los modelos de razonamiento en problemas complejos y es completamente inadecuado para codificación, chat o resúmenes. Su dominio es la toma de decisiones acotada y rápida.
Los pesos están disponibles en Hugging Face bajo licencia Apache-2.0, y con un simple “pip install strands-decider” se obtiene tanto una CLI como un servidor HTTP. El servidor incluido se vincula a 127.0.0.1 sin autenticación, por lo que para entornos de producción los desarrolladores necesitarán agregar su propia capa de seguridad. Actualmente ningún proveedor de inferencia alojada ofrece el modelo, lo que refuerza su enfoque en despliegues locales y autoalojados.
Entre los casos de uso destacados se encuentran el enrutamiento de modelos, selección de herramientas, verificación de argumentos, triaje, guardrails, evaluaciones y agentes híbridos. En estos últimos, un LLM maneja las decisiones difíciles mientras el decider se ocupa de las rutinarias. Un ejemplo del repositorio muestra cómo puede actuar como guardrail para llamadas a herramientas: antes de ejecutar una consulta meteorológica, el modelo pregunta si los argumentos están fundamentados en lo que dijo el usuario y si la llamada es prematura, evitando suposiciones riesgosas.