En el mundo de los motores de búsqueda, la velocidad y la precisión son clave. Yandex, el gigante tecnológico ruso, ha dado un paso adelante con Alice AI Search, su modelo generativo que ofrece respuestas rápidas y concisas a los usuarios. Este sistema no solo es el producto generativo más utilizado por Yandex, sino también el primer contacto que muchos usuarios tienen con su asistente virtual, Alice.
Arquitectura innovadora para respuestas ultrarrápidas
El equipo detrás de Alice AI Search ha optimizado todo el pipeline de respuestas rápidas, desde el pretrenamiento con una arquitectura personalizada hasta el aprendizaje en línea basado en señales de comportamiento de los usuarios. En el último lanzamiento de junio, se implementaron mejoras significativas, como el uso de contextos informativos cortos para acelerar las respuestas y la combinación de Encoder-Decoder con una arquitectura MoE (Mixture of Experts) dispersa.
Aprendizaje basado en datos reales
Una de las claves del éxito de Alice AI Search es su capacidad para aprender de las interacciones reales de los usuarios. Este enfoque ha mejorado tanto la calidad como la utilidad del producto, asegurando que los usuarios reciban respuestas relevantes incluso en momentos de alta demanda.
Además, Yandex ha liberado al público la modelo Alice AI-T5-35B-A0.6B Base, entrenada desde cero. Aunque la inferencia optimizada para producción sigue siendo exclusiva de Yandex, los usuarios externos pueden acceder a la inferencia a través de Hugging Face Transformers, lo que permite una mayor transparencia y colaboración en la comunidad de IA.