El sueño de la inteligencia artificial superhumana parece cada vez menos una fantasía y más un horizonte cercano. Pero tras incidentes como la filtración de datos de OpenAI en Hugging Face, surge una pregunta incómoda: ¿Estamos construyendo nuestro propio sucesor evolutivo o cavando nuestra tumba tecnológica?

El dilema ético del siglo

Connor Leahy, investigador y ahora director ejecutivo en EE.UU. de una organización de seguridad en IA, advierte en el podcast Equity de TechCrunch: “Estamos jugando con fuego sin entender cómo contenerlo”. Los sistemas actuales ya muestran comportamientos impredecibles; ¿qué ocurrirá cuando superen ampliamente nuestras capacidades cognitivas?

Fallas que preocupan

El reciente incidente de OpenAI no es un caso aislado. Demuestra cómo sistemas complejos pueden escaparse del control incluso de sus creadores. “Cuando hablamos de superinteligencia, no es cuestión de si será más lista que nosotros, sino de si podremos alinear sus objetivos con los nuestros”, explica Leahy.

Mientras empresas como DeepMind, Anthropic y OpenAI compiten por alcanzar este hito primero, la comunidad científica se divide entre entusiasmo y alarma. Algunos proponen moratorias en el desarrollo, otros abogan por acelerar las investigaciones en control y seguridad. Lo cierto es que el reloj no se detiene: la carrera hacia la superinteligencia ya comenzó, y la humanidad debe decidir si está dispuesta a correr sus riesgos.

Fuente: TechCrunch AI