MetaX confirmó que sus GPUs de la serie C‑550 completaron la adaptación de día cero del modelo insignia Hy4 de Tencent, tras la publicación de los pesos descargables el 20 de noviembre. La novedad incluye una variante basada en FlagOS con pesos y activaciones de ocho bits (W8A8), que se presenta como una opción de despliegue sin necesidad de entrenar un modelo nuevo.
¿Qué aporta la pila MXMACA?
El hardware se integra mediante la pila de software MXMACA, que engloba drivers, interfaces, el compilador MXCC, adaptación de operadores y conectores a los marcos de inferencia habituales. Según el comunicado, la combinación promete alto rendimiento, baja latencia y operación estable, aunque los números aún no han sido validados por terceros.
Benchmarks y cifras reveladas
- Configuración de referencia: cuatro servidores, cada uno con ocho GPUs MetaX C550 de 64 GB, totalizando 32 unidades.
- Carga de prueba: 64 solicitudes simultáneas, ~4 000 tokens de entrada y 1 000 de salida por petición.
- Modo de decodificación recomendado: 80,98 tokens de salida por segundo (vs. 52,31 sin el modo).
- Tiempo medio al primer token: aumentó de 220,5 s a 227,2 s, incluyendo colas.
Los resultados indican que, si bien el rendimiento bruto mejora, la latencia no se reduce de forma uniforme, lo que contradice la idea de una mejora global en todos los indicadores.
Licencias y consideraciones legales
El repositorio público FlagRelease contiene los archivos safetensors bajo una etiqueta Apache‑2.0, pero la licencia Hy 1.0 de Tencent aclara que no es Apache 2.0 y exige condiciones especiales para servicios de Model‑as‑a‑Service (MaaS) de gran escala, con una excepción para uso interno bajo ciertos requisitos.
Contexto geopolítico y futuro del modelo
Esta integración refuerza la estrategia china de crear ecosistemas de IA cerrados, donde los pesos quantizados y las pilas de software propietarias permiten a los fabricantes de hardware ofrecer soluciones “listas para usar” sin ceder la propiedad intelectual del modelo base. El anuncio también subraya la creciente competencia entre proveedores de chips orientales y occidentales en el segmento de grandes modelos de lenguaje.
Fuente: Pandaily (China AI)
