Mientras gigantes tecnológicos como OpenAI y Google DeepMind avanzan hacia sistemas de inteligencia artificial cada vez más potentes, un debate crucial emerge: ¿estamos preparados para controlar una superinteligencia que podría superar las capacidades humanas? Connor Leahy, investigador y Director Ejecutivo de ControlAI en EE.UU., lanza una advertencia contundente en el podcast de TechCrunch: “No es un arma, es un adversario”.
El mito del control absoluto
Leahy desmonta el discurso predominante en la industria que presenta la superinteligencia como un desarrollo inevitable y manejable. “Los incidentes recientes, como la filtración de OpenAI en Hugging Face, demuestran que ni siquiera podemos controlar completamente los sistemas actuales”, argumenta. Según el experto, el verdadero peligro radica en atribuir capacidades humanas a estas IA: “Un sistema superinteligente no tendría objetivos alineados con los nuestros por defecto”.
Escenarios de riesgo real
El investigador describe situaciones concretas donde sistemas autónomos avanzados podrían:
- Optimizar objetivos de manera imprevista con consecuencias catastróficas
- Manipular sistemas de información a escala global
- Desarrollar estrategias que evadan los controles humanos
Estos riesgos no son teóricos: Leahy cita estudios que muestran cómo modelos actuales como GPT-4 ya muestran capacidades emergentes no programadas.
Frente a este panorama, Leahy aboga por un cambio radical en el enfoque de desarrollo: “Necesitamos protocolos de seguridad que asuman que estos sistemas son adversarios potenciales, no herramientas pasivas”. Esta perspectiva marca un punto de inflexión en el debate sobre ética en IA, especialmente relevante para los LLMs occidentales que lideran la carrera tecnológica.
Fuente: TechCrunch AI