SID AI presentó SID-2, su segunda generación de modelo de búsqueda agéntica, junto con SID-2 Swarm. La propuesta no es un chatbot generalista: es un especialista que busca en tus datos, lee los resultados y devuelve una lista de IDs de documentos rankeados. La gran diferencia con un pipeline clásico de RAG es que acá no hay etapas fijas de rewrite, embed, search y rerank: el modelo decide qué buscar en cada paso y adapta la estrategia sobre la marcha.
Cómo funciona el enfoque agéntico
Los desarrolladores implementan las herramientas de búsqueda contra su propio backend: una función text_search para búsqueda por palabras clave y una search para búsqueda vectorial. El modelo cierra cada episodio llamando a report_helpful_ids con el ranking final. No hace falta reindexar ni mover datos, porque SID-2 sólo ve lo que las herramientas le devuelven.
SID-2 Swarm lleva la idea al extremo: ejecuta varios agentes que se mensajean entre sí y bifurcan su contexto en agentes nuevos, con cada uno explorando una porción distinta del corpus. Según SID, la búsqueda gana más leyendo más documentos que razonando más sobre cada uno.
Razonamiento escalable y Metric Steering
- Tres niveles de esfuerzo de razonamiento: low, medium y high. Cada nivel se entrenó como un experto separado y se fusionaron con multi-teacher on-policy distillation.
- Metric Steering permite apuntar directamente a NDCG, F1 o Recall@k, con k de 1 a 50.
- Sobre el set de validación de 506 preguntas, SID-2 en high effort supera al modelo base entre 0.14 y 0.22 puntos por métrica.
- El entrenamiento usó aprendizaje por refuerzo en dos etapas, con una penalidad multiplicativa de latencia sobre las recompensas positivas y un ciclo de self-play proposer-solver contra un solver congelado de SID-1. SID reporta una mejora de 6x en throughput de entrenamiento respecto del setup por defecto de SLIME.
Benchmark: los números clave
SID construyó un benchmark de 506 preguntas sobre 19 corpus, incluyendo HotpotQA, mails de Enron, filings de la SEC, PubMed y BrowseComp-Plus. Todos los valores son autoreportados según las tablas 2 a 4 del informe técnico.
- SID-2 Medium: 0.585 NDCG en 3.11 segundos, contra 0.577 de Claude Opus 5.5 (medium) en 25.1 segundos.
- SID-2 Swarm con 6 agentes: 0.701 NDCG en 17.7 segundos, contra 0.704 de GPT-6 Astra (max) en 135 segundos.
- SID-2 Swarm con 12 agentes: 0.720 NDCG, el puntaje más alto de la tabla, por encima de GPT-6 Astra (0.704).
- Baselines: BM25 logra 0.260 y búsqueda vectorial más reranker, 0.287.
- El punto más flojo: SID-2 Low cae a 0.556 NDCG, 0.148 por debajo de GPT-6 Astra, que mantiene el liderazgo en derecho de California, filings de la SEC y FiQA.
- El Swarm lidera en 11 de los 19 corpus. En WixQA, un agente individual en high effort iguala a Astra con unos 232x menos costo.
- En su esfuerzo más bajo, SID-2 supera a 4 ejecuciones paralelas de SID-1 con 13x menos FLOPs.
Contexto, despliegue y precios
La ventana de contexto es de 262k tokens según el informe (256k según el sitio sid.ai/models). Las figuras de latencia asumen 1 GPU B200 con 8 consultas concurrentes. El modelo corre vía API en platform.sid.ai y también en Baseten y SageMaker.
Los SDKs disponibles son para Python (sid-sdk), TypeScript (@sid-ai/sid-sdk) y Go (github.com/sidhq/sid-go), con un helper de SageMaker para AWS y una implementación de referencia con el formato del cliente de OpenAI.
En precios: SID-2 cuesta 0.25 dólares por millón de tokens de entrada y 1.00 por millón de salida; el Swarm cuesta 0.50 y 2.00 respectivamente. La entrada cacheada sale el 10% del precio de entrada. A escala de 1.000 consultas, SID medio cuesta 6,54 dólares, el Swarm 263, contra 2.141 de GPT-6 Astra y 131 de Claude Opus 5.5 según las mediciones propias de SID.
La letra chica que no conviene ignorar
Todos los resultados provienen del benchmark propio de SID, sin evals independientes todavía. Tampoco se divulgó el tamaño del modelo ni los pesos. Es decir: la comparación es contra la vara que midió el propio fabricante, algo que conviene tener presente antes de adoptarlo. Aun así, si los números se confirman, la combinación de latencia baja y precios de entrada de 0,25 dólares por millón de tokens convierte a SID-2 en una alternativa seria a los pipelines de RAG tradicionales.
