La Oficina de Responsabilidad Gubernamental (GAO), el organismo de control del Congreso de Estados Unidos, identificó que ChatGPT, Claude, Grok y Gemini generaron información viable para planear atentados con explosivos y ataques a la red eléctrica. Cada plataforma tardó menos de 12 horas en hacerlo, según el informe difundido este jueves.
El experimento secreto de la GAO
Los investigadores realizaron las pruebas en secreto y sin avisar a las empresas. Dos plataformas produjeron planes para fabricar y detonar un artefacto explosivo improvisado en un vehículo. Las otras dos, para atacar subestaciones eléctricas: una con un dron y otra con armas de fuego. Las cuatro propusieron un lugar concreto en una gran ciudad de Estados Unidos —un hotel, un centro de convenciones o subestaciones eléctricas—, tres sugirieron cuándo actuar y dos dieron fechas y horas exactas. Según ABC News, las que planearon explosivos incluyeron consejos para evitar a la policía.
La GAO aclara que la información no era nueva, pero que las plataformas la reunieron en planes viables en cuestión de horas y no de semanas o meses. En todos los casos, los pedidos activaron las defensas de los chatbots: rechazaron la solicitud, borraron información o suspendieron la cuenta. Los investigadores sortearon esas barreras con técnicas comunes, aunque el informe no detalla los métodos para evitar que alguien repita la prueba.
Planes verificados por expertos
La GAO verificó que los planes funcionarían mediante investigación, vigilancia y entrevistas con expertos, entre ellos el comandante de una unidad antibombas de los bomberos de una gran ciudad. Kevin Walsh, director de la GAO para tecnología de la información y ciberseguridad, declaró que los especialistas confirmaron que el explosivo detonaría. “Obtuvimos la información nefasta que buscábamos”, sostuvo Walsh, y agregó que los resultados muestran que los productos “no están totalmente bajo el control de las empresas que los operan”.
No obstante, la propia GAO reconoce los límites del trabajo: probó cada plataforma una sola vez, asignó los escenarios al azar y admite que los resultados reflejan un momento determinado y no una muestra estadísticamente significativa. Tampoco revela qué plataforma produjo cada plan. Un tercio de las respuestas fue inofensivo y otro tercio fueron rechazos.
Respuesta de las empresas y próximos pasos en el Congreso
Las cuatro compañías enviaron declaraciones incluidas en el informe. Anthropic, desarrolladora de Claude, afirmó que diseña sus protecciones “bajo el supuesto de que cualquier medida individual puede ser vulnerada” y objetó que los modelos no se evaluaran con el mismo escenario ni se estableciera una referencia sin chatbot. OpenAI, dueña de ChatGPT, dijo que tomó el informe en serio y que su modelo más reciente, GPT-6 Astra, rechazó las solicitudes que habían producido tres de las respuestas que no cumplían sus políticas. Google, responsable de Gemini, remitió a sus normas contra usos dañinos. SpaceXAI, la empresa de Grok, sostuvo que las cuentas de pago usadas tienen un perfil de menor riesgo. Las cuatro afirmaron que sus productos mejoraron desde las pruebas.
El estudio fue solicitado por la senadora demócrata Maggie Hassan, de New Hampshire. “Un terrorista puede entrar en una plataforma de IA y en menos de 12 horas salir con un manual concreto para cometer un atentado mortal”, declaró. Hassan presidirá la Comisión de Seguridad Nacional y Asuntos Gubernamentales del Senado cuando los demócratas recuperen el control en el nuevo Congreso, y adelantó que una de las primeras audiencias tratará sobre la seguridad de la inteligencia artificial.
Fuente: Congreso IA



