Brad Smith, presidente de Microsoft,_encendió el debate sobre la seguridad en inteligicia artificial con una comparación que resume la magnitud del problema: «Tu lavadora está sujeta a más normas de seguridad que la IA». En declaraciones al podcast Big Boss Interview de la BBC, Smith señaló que hasta un cartón de leche en un supermercado pasa por más controles e inspecciones que los sistemas de IA más potentes del mundo. La afirmación llega en un momento delicado: mientras la Casa Blanca apuesta a que la industria se autorregule, una de las voces más influyentes del ecosistema considera que ese enfoque ya no es suficiente.
Choque con la postura de Trump
Smith representa a una de las empresas más involucradas en IA: Microsoft opera infraestructura crítica y es accionista de OpenAI, desarrollador de la familia GPT. Su pedido de normas globales lo coloca en desacuerdo con Donald Trump, quien impulsó la autorregulación para que las compañías estadounidenses no pierdan terreno frente a China. Microsoft, además, no firmó el documento «moralmente vinculante» que Trump reunió con OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google a finales del mes pasado. Smith dijo que aplaude la iniciativa y que Microsoft está «encantado de firmarla», pero la calificó como un paso necesario que ya no basta: «Las buenas empresas harán lo que se les pide, pero de las que hay que preocuparse es de las que no son tan responsables».
Las tres medidas que propone Smith
El ejecutivo planteó un conjunto concreto de regulaciones que cualquier desarrollador de LLMs —desde OpenAI y Anthropic hasta Google y Meta— debería cumplir:
- Freno de emergencia: permitir pausar o ralentizar un sistema de IA que se descontrole, aplicable a infraestructuras críticas y dispositivos autónomos. Satya Nadella, CEO de Microsoft, ya había aludido a esta idea.
- Informes de incidentes obligatorios: si un agente de IA deshonesto o descontrolado accede furtivamente a un sistema, se debe notificar a la víctima, igual que ante una brecha de seguridad.
- Aprobación independiente antes del lanzamiento: la medida más crítica. Evaluadores del gobierno examinarían los modelos de frontera antes de su llegada al público, como ocurre con los aviones comerciales.
Smith describió la IA simultáneamente como «herramienta y arma», admitiendo que «avanza más rápido que la velocidad de la seguridad». Para un especialista que cubre el ecosistema de LLMs occidentales, la frase no es exagerada: cada semana los laboratorios publican mejoras de razonamiento, agentes autónomos y capacidades multimodales que superan los mecanismos de evaluación disponibles.
El rol del Reino Unido y la tensión con EE.UU.
Smith argumentó que Gran Bretaña está en la mejor posición para liderar la regulación global gracias a su Instituto de Seguridad de IA (AISI), creado bajo el mandato de Rishi Sunak. Según Politico, la Casa Blanca pidió a Anthropic y OpenAI no poner sus nuevos modelos a disposición de los evaluadores británicos. Sin embargo, el AISI confirmó que todavía puede acceder y probar los últimos modelos, reportó TechCrunch. «Sabemos cómo hacer esto para otros productos», cerró Smith. «Deberíamos aprovechar ese conocimiento y pensar en cómo aplicarlo a la IA». La pregunta es si Washington escuchará a quien financia buena parte de la revolución que pretende regular.
Fuente: Xataka IA (Español)