La seguridad de la inteligencia artificial está dejando de ser una discusión sobre textos y empieza a ser una discusión sobre acciones. Ese es el argumento con el que NetEase Yidun, la unidad de seguridad y control de riesgos del negocio de servicios empresariales de NetEase, presentó el 3 de noviembre su sistema de productos de seguridad nativo de IA en la Expo Luz de Internet de la Conferencia Mundial de Internet 2026, en Wuzhen. Así lo reportaron Sina Tech e IT Home.
La tesis de la compañía es directa: con agentes que acceden a bases de conocimiento, herramientas de negocio y sistemas corporativos, la seguridad tiene que pasar de controlar lo que la IA dice a controlar lo que la IA hace.
Un marco de doble vía: IA para segurar, seguridad para contener la IA
Zhu Haoqi, vicegerente general del negocio de servicios empresariales de NetEase y responsable de Yidun, presentó un marco bidireccional: usar la IA para fortalecer el trabajo de seguridad y, a la vez, usar herramientas de seguridad para mantener a la IA operando dentro de límites definidos. Según detalló, los riesgos actuales incluyen contenido generado por IA, deepfakes, fraude automatizado, jailbreaks de modelos, fugas de datos sensibles y agentes que ejecutan acciones fuera de sus permisos.
El sistema se organiza en tres capas:
- Contenido y datos de IA: moderación y análisis de contenido generado por IA, más un agente de moderación llamado CMA.
- Interacción e identidad: control de riesgo de negocio, huella de dispositivos, CAPTCHA conductual y DeepGuard, su solución anti-spoofing facial.
- Modelos y agentes: barandillas para grandes modelos, una plataforma de seguridad de agentes y controles de la cadena de suministro de agentes.
El salón de lanzamientos de la expo otorgó al sistema un certificado de primera publicación.
Agent Guard: el corazón de la propuesta
En la capa de agentes, las barandillas filtran entradas y salidas de los modelos, mientras que Agent Guard verifica si las acciones de un agente coinciden con la intención del usuario, aplica permisos, marca llamadas a herramientas riesgosas y bloquea comportamientos. La plataforma de seguridad de agentes, además, descubre activos de IA en uso, escanea las cadenas de suministro de Skills y MCP, y protege contra fugas de datos sensibles.
Un foco declarado es el llamado shadow AI: herramientas de IA que los empleados adoptan sin que el área de IT tenga visibilidad. Para ese caso, la plataforma ofrece bloqueo, revisión, alertas y enmascaramiento de datos.
Números concretos: de 35,7 a 12,3 minutos por ticket
Yidun también aportó cifras para sus otros productos:
- CMA combina un modelo interno de seguridad de contenidos con modelos especializados más pequeños y funciona las 24 horas. En la revisión de tickets de reclamos de un cliente que procesa más de 2,5 millones de tickets por mes, la company afirmó que la revisión de primera pasada de CMA más chequeos humanos redujo el tiempo promedio de revisión de 35,7 a 12,3 minutos, con un 99,2% de precisión.
- DeepGuard, que busca contenido implausible en lugar de solo rastros conocidos de falsificación, obtuvo la calificación más alta en una evaluación anti-spoofing facial de la Academia China de Tecnología de la Información y las Comunicaciones, y mostró un 99% de recall y 96% de precisión contra ataques de recaptura de pantalla en pruebas de fase.
Instrucciones maliciosas escondidas en páginas, archivos y MCP
En un foro paralelo, Rao Xiaoyan, responsable de seguridad de contenidos de Yidun, advirtió que las instrucciones maliciosas pueden esconderse dentro de páginas web, archivos, APIs, herramientas o respuestas de MCP, por lo que los sistemas deben distinguir los datos de la tarea de los comandos de comportamiento.
Su propuesta: defensas contra la inyección tanto antes de las llamadas al modelo como antes del ensamblado del contexto, y verificación de las salidas en tiempo de streaming. El criterio es escalonado: el contenido que pasa se muestra, el dudoso se revisa y el de alto riesgo se retira.
La presentación de Yidun se enmarca en un Wuzhen 2026 donde los agentes de IA y sus riesgos están en el centro del debate: DeepSeek, Qwen y MiniMax discutieron los riesgos de los modelos open source en un escenario compartido del congreso, y Tencent Map abrió sus capacidades de agente a desarrolladores vía MCP, Agent Skills y conectores.
Fuente: Pandaily (China AI)
