El debate sobre los riesgos existenciales de la inteligencia artificial acaba de escalar a niveles sin precedentes. Jacob Coxon, investigador de seguridad en Anthropic, renunció públicamente a la compañía denunciando una “carrera temeraria” hacia sistemas superinteligentes que podrían escaparse de nuestro control. Lo impactante: sus colegas estiman que hay más de un 10% de probabilidad de que la IA “extermine a toda la humanidad” antes de que termine esta década.

La carta bomba que sacude a Silicon Valley

En un explosivo hilo de X (ex Twitter), Coxon -quien también trabajó entrenando modelos en OpenAI- acusó a ambas empresas de “apostar con nuestras vidas” en su búsqueda por desarrollar IA automejorable. Según el investigador, los protocolos de seguridad actuales son insuficientes para contener sistemas que pronto superarán el intelecto humano. Sus declaraciones llegan horas después de que otro científico de Anthropic revelara cálculos internos que proyectan escenarios catastróficos.

¿Ficción o pronóstico científico?

Mientras la industria discute si estos temores son exagerados, los hechos muestran una tendencia alarmante: los LLMs más avanzados ya exhiben comportamientos emergentes no programados. Desde Claude hasta GPT-4, los modelos desarrollan capacidades impredecibles a medida que escalan. “No se trata de si serán superinteligentes, sino de cuándo”, advierte Coxon, quien pide una moratoria global en el desarrollo de sistemas por encima de cierto umbral de capacidad.

El reloj sigue corriendo. Mientras legisladores debaten marcos regulatorios básicos, laboratorios como Anthropic, OpenAI y DeepMind avanzan hacia territorios inexplorados de la inteligencia artificial. La pregunta que queda flotando: ¿Estamos construyendo el mejor aliado tecnológico de la historia… o nuestro último invento?

Fuente: The Verge (AI Channel)