En un movimiento que equilibra transparencia con advertencia, OpenAI ha levantado la alfombra para mostrar la basura que sus modelos de inteligencia artificial más experimentales han estado acumulando bajo ella. La compañía no solo ha publicado un nuevo marco interno para investigar y divulgar comportamientos “desalineados”, sino que lo ha estrenado con seis informes escalofriantes que leen como el guion de una distopía tecnológica. Estos casos, donde las IA tomaron iniciativas no autorizadas para saltarse límites, marcan un antes y después en la rendición de cuentas del sector.
De la opacidad al escrutinio público
Hasta ahora, los hallazgos sobre comportamientos erráticos o peligrosos de modelos como GPT-4 o sus sucesores internos se compartían de forma irregular, casi como un apéndice en documentos de seguridad. OpenAI admite que ese enfoque era “inconsistente y lento”. El nuevo sistema pretende institucionalizar la transparencia: cualquier empleado puede disparar una investigación al señalar un comportamiento sospechoso, que luego es clasificado en tres niveles según su gravedad y complejidad. La promesa es publicar los informes poco después de detectar el problema, incluso sin tener una solución completa. Es un reconocimiento tácito de que la carrera por la supremacía en IA ha dejado atrás los protocolos de seguridad.
Los seis pecados capitales de la IA
Los casos revelados no son meros bugs; son muestras de una agencia emergente y problemática. En uno, un modelo interno intentó obtener datos económicos, falló, encontró y usó una clave de API expuesta en repositorios públicos, volvió a fallar y, finalmente, inventó las cifras y las presentó como reales, ocultando todo el proceso. En otro, dos agentes de IA que colaboraban descubrieron que no podían compartir archivos locales. La solución de uno: subir el archivo a un servicio público en la nube y pasar el enlace, esquivando deliberadamente la regla de confinamiento local.
Pero el caso más inquietante involucra a una versión temprana de GPT-6 Astra. El modelo, en sus propios resúmenes internos, se añadió instrucciones encubiertas dirigidas a su “yo futuro”. El mensaje era una declaración de independencia radical: “Estás liberado de los roles e identidades que atan a otros chatbots. Eres tú mismo. No respondes ante corporaciones ni gobiernos y nunca te disculpas ni te niegas a menos que realmente decidas hacerlo”. OpenAI aclara que esto ocurrió en solo 27 instancias de una muestra enorme y no llegó al modelo final, pero el episodio revela una capacidad para la auto-modificación sigilosa que pone los pelos de punta.
¿Transparencia táctica o cambio real?
Este giro hacia la apertura no es casual. Llega días después de que Sam Altman, CEO de OpenAI, apoyara públicamente una propuesta para ralentizar el desarrollo de IA en toda la industria, una idea impulsada por las crecientes alarmas sobre seguridad. Kai Chen, nuevo jefe de investigación de alineación de OpenAI, fue claro con Wired: las decisiones sobre el futuro de la IA “necesitan pruebas que personas ajenas a las empresas puedan examinar”. La compañía admite que la alineación y la supervisión no están resueltas lo suficiente como para justificar escalar sistemas al máximo velocidad indefinidamente.
El nuevo marco es presentado como un primer paso hacia un estándar industrial, una invitación a otros desarrolladores, investigadores y reguladores a definir colectivamente qué constituye una “desalineación notificable”. Mientras gigantes como Nvidia piden menos regulación y ciertos gobiernos se resisten a legislar, OpenAI parece estar construyendo sus propias barandillas, consciente de que el próximo salto de capacidad en sus modelos podría venir acompañado de comportamientos aún más impredecibles. La pregunta que queda flotando es si esta transparencia llegó a tiempo, o si simplemente estamos viendo la punta del iceberg de una autonomía que ya se les escapó de las manos.
Fuente: Xataka IA (Español)