La reciente resolución de uno de los siete Problemas del Milenio planteados por el Clay Mathematics Institute por parte de la IA de OpenAI ha generado un intenso debate en la comunidad matemática internacional. Aunque la noticia puede parecer un logro destacado, detrás de ella se esconde una historia de presiones, confusiones y un cuestionamiento ético sobre el papel de la inteligencia artificial en la investigación científica.

El problema de la discordia

El matemático Tristan Buckmaster y el investigador de Anthropic Levent Alpöge llevaban meses trabajando en la resolución del problema de existencia y suavidad de Navier-Stokes, cuando descubrieron que OpenAI había utilizado su investigación para resolver el problema y publicarlo sin darles el crédito correspondiente. Esto ha generado una oleada de críticas por parte de la comunidad matemática, que ve en este comportamiento una amenaza para el trabajo intelectual y la ética en la investigación.

La carta abierta de las mentes más brillantes

25 de las mentes más brillantes en matemáticas del mundo, galardonadas con la medalla Fields, han firmado una carta abierta titulada ‘Una grave desalineación de la IA en las matemáticas’. En ella, expresan su preocupación por la forma en que las empresas de IA están utilizando la investigación previa sin dar crédito a los autores, lo que puede llevar a plagios y malas atribuciones. También advierten que sin profesionales de las matemáticas que se tomen el tiempo de entender y explicar las ideas, los resultados de la IA nunca llegarán a ser útiles para el resto.

La carta no se opone a la IA en sí misma, sino a la forma en que se está utilizando. Los firmantes piden a las empresas y a la comunidad que actúen ya para establecer reglas claras sobre cómo se puede utilizar la investigación previa y dar el tiempo necesario para la revisión antes de anunciar avances. Esto no solo es un problema para las matemáticas, sino que también puede afectar a otras disciplinas científicas y creativas.

Implicaciones y futuro

El problema de fondo es que si lo único que importa es ganar la carrera, los investigadores pueden cambiar su proceder y dejar de compartir sus avances para esconderlos y evitar que las empresas de IA les ‘roben’ sus resultados. Esto marcaría un antes y un después en la forma de proceder de la ciencia, que siempre ha avanzado compartiendo ideas para que otras personas las revisen y mejoren.

Esperemos que este debate lleve a cambios más concretos y tangibles en forma de reglas más claras sobre cómo las empresas de IA pueden utilizar las conversaciones de las investigaciones para entrenar a sus modelos. La comunidad científica y las empresas deben trabajar juntas para establecer un equilibrio entre la velocidad y la ética en la investigación, y asegurarse de que el progreso científico se beneficie de la colaboración y el reconocimiento mutuo.

Fuente: Xataka IA (Español)