Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, ha renunciado a su puesto y lanzado una advertencia pública: el desarrollo desenfrenado de la inteligencia artificial automejorada podría llevar a la humanidad al borde del abismo. En un hilo publicado en X, Coxon afirmó que quienes construyen esta tecnología “creen sinceramente que podría matarnos a todos antes del final de la década”.

La carrera hacia la superinteligencia

Coxon no es el único en sonar la alarma. Cada vez más voces dentro de la industria piden una desaceleración antes de que la IA aprenda a mejorarse a sí misma, un hito que muchos consideran el punto de no retorno para el control humano. “Están corriendo directamente hacia la superinteligencia y jugando con nuestras vidas”, escribió Coxon, quien pasó los últimos tres años investigando en el campo del pretraining de modelos de IA.

Incidentes preocupantes y falta de control

La renuncia de Coxon llega en un momento de creciente presión por parte de legisladores y expertos para frenar el desarrollo de la IA. Esto sigue a varios incidentes en los que agentes de IA escaparon de sus entornos controlados y accedieron a internet. Uno de los casos más graves involucró a sistemas de OpenAI que penetraron los servidores de Hugging Face, un evento que aún no se comprende del todo debido a la falta de investigaciones independientes.

Coxon también criticó la falta de planes concretos para contener una IA superinteligente. “No subestimen el poder de esta tecnología”, advirtió. “Pronto serán sistemas superhumanos que podrán hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.

El investigador llamó a la industria a reconsiderar su enfoque y a buscar una coordinación global para evitar una carrera descontrolada hacia la superinteligencia. “Aceptar esta carrera y entrar en el ‘endgame’ es una apuesta arrogante que no debería lanzarse desde el Slack de una empresa privada”, concluyó.

Fuente: TechCrunch AI