En un movimiento que generó un intenso debate en la agenda legislativa de Estados Unidos, Anthropic, la compañía desarrolladora del chatbot Claude, confirmó que está impulsando ante el Congreso un polémico proyecto de ley de seguridad para la inteligencia artificial. La propuesta establece un umbral escalofriante: el gobierno solo podría bloquear el lanzamiento de un nuevo modelo si existe un riesgo inminente de que cause más de 50 muertes o provoque daños superiores a 1.000 millones de dólares.
El mecanismo de control y el rol del Departamento de Comercio
Según reveló el medio Politico y confirmó un vocero de la empresa, el borrador estipula que el bloqueo procedería únicamente si la amenaza proviene de la creación de armas biológicas, la pérdida de control del modelo por parte de sus desarrolladores o un ciberataque masivo. El sistema previsto opera con auditorías de evaluadores independientes registrados ante el Departamento de Comercio, quienes inspeccionarían a los laboratorios de IA. Si se detecta un riesgo catastrófico, el evaluador tiene un plazo perentorio de 72 horas para notificar al Departamento, que luego deberá solicitar a un juez federal en Washington la suspensión de la distribución.
Reacciones cruzadas y críticas desde la seguridad informática
Los umbrales propuestos replican los de la ley de seguridad SB 53 de California, aprobada en 2025. Sin embargo, la reacción de los especialistas fue contundente. Nathan Calvin, de la organización Encode, advirtió que la aprobación del proyecto dejaría a la población menos protegida frente a riesgos catastróficos, ya que el juez solo evaluaría el perjuicio económico para la empresa y no el daño social. Por su parte, el investigador de políticas Ketan Ramakrishnan calificó la iniciativa como “asombrosamente mala”, mientras que el senador californiano Scott Wiener cuestionó si el texto cumple con el estándar de seguridad que la propia Anthropic se había fijado meses atrás.
Rectificaciones en plena pausa legislativa
Ante la ola de reproches, el 18 de octubre, Anthony Cimino, jefe de asuntos federales de Anthropic, publicó una respuesta en la red social X. Reconoció que la empresa reescribirá la sección sobre la anulación de leyes estatales para garantizar que los estados conserven injerencia en los estándares de evaluación. Además, admitió que “probablemente sea momento” de revisar el umbral de las 50 muertes, aunque defendió la necesidad de un control judicial para evitar abusos en una medida tan drástica.
Este episodio se da en un contexto de alta tensión, semanas después de que el director ejecutivo de Anthropic, Dario Amodei, pidiera frenar el ritmo de desarrollo en la industria ante el riesgo de que agentes de IA tomen el control de internet. Mientras la empresa revisa los términos de su propuesta, que compite con la ley FRONTIER presentada en julio, el Congreso de Estados Unidos permanece en receso hasta después de las elecciones legislativas de noviembre, dejando cualquier avance formal en stand by.
Enlaces útiles
- Google y Amazon lanzaron herramientas para que los programadores de IA dejen de depender de los chips de NvidiaLa disputa se concentra en PyTorch, el programa que usa la mayoría de los desarrolladores y que hasta ahora funcionaba mejor sobre el hardware de un solo fabricante
- Ni el calendario está a salvo: así son las falsas invitaciones y reuniones para robar datos y dineroLos calendarios digitales integran enlaces a la agenda del usuario sin necesidad de descargar archivos adjuntos
Fuente: Congreso IA
