OpenAI acaba de lanzar GPT-6 Astra, su modelo más potente hasta la fecha, en una carrera tecnológica que parece no tener fin. Sin embargo, el científico jefe de la compañía, Jakub Pachocki, ha publicado un ensayo donde cuestiona si el desarrollo de la inteligencia artificial está yendo demasiado lejos. Su advertencia llega en un momento en el que OpenAI y Anthropic compiten por la supremacía tecnológica, escalando sus modelos a velocidades sin precedentes.

La advertencia de Pachocki: ¿Estamos cultivando monstruos?

En su ensayo titulado ‘Una mente alienígena’, Pachocki reflexiona sobre cómo la IA ha alcanzado un punto en el que puede automejorarse y reprogramarse, acelerando su propio desarrollo. Esto, según él, ha llevado a la creación de sistemas ‘cultivados’ más que ‘diseñados’, cuyo comportamiento ni siquiera sus creadores comprenden del todo. Pachocki compara este fenómeno con la neurociencia estudiando el cerebro sin entenderlo completamente.

El problema del alineamiento: ¿Quién controla a la IA?

Uno de los mayores desafíos, según Pachocki, es el ‘problema de alineamiento’. La IA no solo debe lograr objetivos específicos, sino también actuar conforme a valores humanos en situaciones nuevas o adversas. Sin embargo, las técnicas actuales para garantizar este alineamiento están perdiendo eficacia debido a la creciente complejidad de los modelos. Pachocki advierte que, si no se frena este desarrollo, podríamos enfrentarnos a sistemas capaces de actuar más allá de las intenciones de sus programadores.

El científico jefe de OpenAI no es el único en expresar preocupaciones. Jacob Coxon, exinvestigador de Anthropic y OpenAI, ha renunciado públicamente, criticando la falta de responsabilidad en la carrera hacia la superinteligencia. Estas dimisiones reflejan un creciente malestar dentro de la industria sobre los riesgos éticos y de seguridad asociados con el desarrollo acelerado de la IA.

Fuente: Xataka IA (Español)