La idea de una pausa en el desarrollo de la inteligencia artificial de vanguardia ha resonado en los pasillos de las grandes tecnológicas. Dario Amodei, CEO de Anthropic, lanzó la bomba: ralentizar la creación de modelos de IA avanzados para comprender mejor sus riesgos. La propuesta encontró eco en figuras como Sam Altman de OpenAI y Elon Musk, e incluso Demis Hassabis de Google DeepMind y Satya Nadella de Microsoft se sumaron a la llamada a la reflexión. Sin embargo, la teoría choca de frente con una realidad geopolítica y económica compleja: nadie quiere ser el primero en bajarse del tren.
El Dilema del Prisionero Geopolítico
El principal obstáculo para una desaceleración coordinada, como el propio Amodei reconoce, es la competencia con China. Si las empresas estadounidenses de IA bajan el ritmo y las chinas continúan su avance, Estados Unidos podría perder su ventaja estratégica en una tecnología cada vez más crucial, incluso con implicaciones militares. Si bien Amodei vislumbra acuerdos internacionales a largo plazo, la tentación de adelantar al rival es demasiado fuerte. La postura de Estados Unidos, reflejada en el rechazo de Donald Trump a frenar el desarrollo, es clara: “quien gane la IA, gana”. La posibilidad de que China acorte distancias o supere a EE. UU. es un riesgo que la potencia norteamericana no está dispuesta a correr.
Curiosamente, China también aboga por un marco global de gobernanza de la IA. Xi Jinping ha propuesto un sistema basado en el consenso, incluso impulsando la creación de una comunidad de IA Open Source dentro del bloque BRICS. Aunque el discurso oficial difiere, la aspiración de establecer reglas y mantener una posición de liderazgo es un paralelismo notable con la postura estadounidense. Sin embargo, las críticas a estas propuestas apuntan a que la desaceleración podría traducirse en un control más estricto sobre el acceso a los modelos más potentes, creando una brecha entre los que desarrollan a puerta cerrada y el público general.
La Desconfianza Corporativa y la Imposibilidad de la Verificación
La dinámica se replica a nivel corporativo. Inversores como David Sacks critican la postura de Amodei y Altman, argumentando que si realmente desean ir más despacio, pueden hacerlo sin esperar regulaciones externas. El problema es que cualquier empresa que decida voluntariamente frenar su desarrollo se arriesga a ser superada por sus competidores directos, ya sean OpenAI, Google, Meta o los laboratorios chinos. La idea de una cooperación conjunta para no competir podría incluso generar problemas antimonopolio. En esencia, todos desean ser prudentes, pero nadie está dispuesto a dar el primer paso y comprometer su posición en la carrera por la supremacía de la IA.
Además, la naturaleza misma de la IA dificulta enormemente la verificación de cualquier acuerdo de ralentización. A diferencia de la Guerra Fría, donde se podían negociar y supervisar límites en armamento, controlar el ritmo de entrenamiento de la IA es una tarea titánica. Si bien el acceso a chips y energía puede ser un punto de control, la eficiencia del software y la capacidad de entrenar modelos en sistemas distribuidos hacen que la confianza mutua entre potencias sea casi imposible. La carrera por la IA, impulsada por la desconfianza y el deseo de liderazgo, parece destinada a continuar a toda velocidad, con o sin reflexiones sobre sus riesgos.
Fuente: Xataka IA (Español)