La carrera por la supremacía en la inteligencia artificial suma un nuevo capítulo con el anuncio de Baseten: la liberación de Bison-1 y Groundhog-1, dos modelos de decisión de código abierto que se apoyan en la arquitectura Gemma 4 de Google. A diferencia de los modelos de lenguaje tradicionales que generan texto, estos se especializan en devolver probabilidades calibradas para preguntas de sí/no, elección o puntuación, un avance crucial para aplicaciones que requieren análisis y toma de decisiones precisas.
Bison-1: El Nuevo Rey del Índice de Decisiones
Bison-1 ha irrumpido con fuerza, alcanzando un puntaje de 76 en el Artificial Analysis Decision Index v2.1. Este logro lo posiciona en el primer lugar de un total de 19 modelos evaluados, superando incluso a competidores como Liquid AI. La clave de su éxito radica en su capacidad para manejar contextos extendidos, elevando el límite de 16k a 128k tokens, y la posibilidad de procesar imágenes. Esto se traduce en la capacidad de integrar políticas completas e historiales en una sola consulta, optimizando flujos de trabajo para enrutamiento, triaje y sistemas de salvaguarda (guardrail pipelines).
Características Clave de Bison-1 y Groundhog-1
- Tamaño y Arquitectura: Bison-1 es un modelo denso de 31 mil millones de parámetros, mientras que Groundhog-1 es un modelo Mixture-of-Experts (MoE) de 26 mil millones de parámetros con aproximadamente 4 mil millones de parámetros activos.
- Capacidad de Contexto: Ambos modelos soportan hasta 131,072 tokens de contexto, permitiendo el análisis de grandes volúmenes de información.
- Entrada Multimedia: Aceptan tanto texto como imágenes, ampliando su versatilidad.
- Disponibilidad: Los pesos BF16 abiertos están disponibles en Hugging Face, facilitando su implementación.
- Rendimiento y Calibración: Bison-1 destaca por su bajo puntaje Brier de 0.14, indicando una alta precisión en la predicción de probabilidades.
¿Cómo Funcionan los Modelos de Decisión?
Estos modelos operan recibiendo un estado (texto, opcionalmente con imágenes) y una serie de preguntas. Las preguntas pueden ser de tipo ‘noul’ (sí/no), ‘choice’ (opciones nombradas) o ‘score’ (niveles ordenados). La respuesta se genera en una única pasada, devolviendo la probabilidad de ‘sí’ o la opción elegida junto con un campo de probabilidades, sin generar tokens de salida. Tareas como el triaje de tickets, detección de spam, o el enrutamiento de LLMs son ejemplos de su aplicación.
Comparativa con Otros Modelos
Baseten ha lanzado una tabla comparativa que resalta las fortalezas de sus nuevos modelos frente a otros competidores:
- Bison-1 se destaca por su puntaje en el índice de decisiones, su Brier score y su capacidad de contexto.
- Groundhog-1 ofrece una alternativa más económica con un modelo MoE eficiente y un precio competitivo por millón de tokens de entrada.
- En comparación con Liquid AI’s d1.2-ultra, Bison-1 muestra un rendimiento superior en el índice de decisiones y un Brier score más bajo.
Despliegue y Costos
Tanto Bison-1 como Groundhog-1 están disponibles a través de las APIs de Baseten Model. El costo de uso para Bison-1 es de $0.10 por cada millón de tokens de entrada, mientras que Groundhog-1 se sitúa en $0.035 por millón de tokens, posicionándose como una opción atractiva para desarrolladores y empresas que buscan optimizar sus procesos de toma de decisiones automatizada.
