En resumen
Anthropic está presentando a legisladores estadounidenses un proyecto que permitiría interrumpir el lanzamiento de modelos solo ante un riesgo inminente de más de 50 muertes, lesiones graves o 1.000 millones de dólares en daños. La propuesta también concentraría la decisión en un juez federal de Washington, D. C., en lugar de permitir una suspensión directa por parte de las agencias gubernamentales.
Anthropic está presentando a legisladores de Estados Unidos un proyecto de ley propio para abordar los riesgos extremos asociados con los modelos de inteligencia artificial. Según reportajes de TechCrunch y Mashable basados en un documento confidencial obtenido por Politico, el texto permitiría bloquear la distribución de un modelo ante un riesgo previsible e inminente capaz de causar la muerte o lesiones graves a más de 50 personas, o daños materiales superiores a 1.000 millones de dólares.
Las fuentes no describen la propuesta como una ley aprobada ni como una política ya adoptada por el Gobierno estadounidense. Se trata de un borrador que la empresa estaría llevando a legisladores para su discusión. Por lo tanto, sus límites, mecanismos y redacción todavía pueden cambiar, y el material proporcionado no confirma que el Congreso haya iniciado formalmente su tramitación.
Qué considera el proyecto un riesgo catastrófico
Los criterios presentados son más específicos que una autorización amplia para que el Gobierno interrumpa cualquier modelo considerado peligroso. El riesgo tendría que estar relacionado con un ciberataque, la pérdida de control del sistema por parte del desarrollador o la creación o liberación de un arma biológica. Además, el peligro tendría que considerarse inminente y alcanzar una de las dos escalas establecidas: más de 50 posibles muertes o lesiones graves, o al menos 1.000 millones de dólares en daños materiales.
La combinación entre el tipo de amenaza y la magnitud del daño es fundamental para entender el alcance de la propuesta. Un riesgo relevante, pero fuera de esas categorías, podría no entrar en el mecanismo descrito. Las fuentes tampoco aclaran cómo se calcularían las muertes, lesiones o pérdidas económicas previstas, ni qué pruebas serían suficientes para demostrar que el peligro es inminente.
Las cifras recuerdan a los parámetros utilizados en la Senate Bill 53, una ley de California que TechCrunch menciona como una definición similar de riesgo catastrófico. La comparación indica que la propuesta de Anthropic se acerca a una tendencia regulatoria que intenta convertir los daños extremos en criterios objetivos. Aun así, la existencia de valores de referencia no resuelve por sí sola la dificultad de prever las consecuencias de sistemas complejos.
La decisión pasaría por evaluadores y por la Justicia
El proyecto prevé evaluaciones periódicas de laboratorios y modelos por parte de especialistas independientes registrados en el Departamento de Comercio de Estados Unidos. Si esos evaluadores identificaran un riesgo inminente dentro de las categorías previstas, tendrían 72 horas para comunicarlo al departamento. Luego, el organismo evaluaría si debía solicitar la suspensión a un juez federal en Washington, D. C.
El punto más controvertido es que la propuesta prohibiría que cualquier departamento, agencia o autoridad federal interrumpiera directamente la distribución de un modelo. Incluso cuando una evaluación señalara un riesgo grave, la suspensión dependería de una solicitud del Departamento de Comercio y de la correspondiente autorización judicial. En la práctica, el mecanismo sustituiría una decisión administrativa inmediata por un proceso con revisión de un juez.
Este diseño puede interpretarse de dos maneras. Por un lado, la exigencia de una orden judicial crearía una barrera contra decisiones unilaterales del Gobierno y haría más explícitos los criterios para una intervención. Por otro, también podría retrasar la respuesta ante un peligro que evolucionara rápidamente, ya que la agencia no tendría autoridad autónoma para bloquear el modelo.
La propuesta también plantea una cuestión sobre la independencia de las evaluaciones. Los laboratorios podrían pagar a los evaluadores, siempre que el pago no dependiera del resultado de sus dictámenes, según el material citado por TechCrunch. El texto proporcionado no explica cómo se supervisaría esa separación, cómo se abordarían los conflictos de interés ni qué sanciones existirían en caso de influencia indebida.
Por qué importa ahora la propuesta
La iniciativa aparece en un momento de disputa sobre quién debe definir los límites de seguridad de la industria de la IA: las propias empresas, los organismos reguladores, el Congreso o una combinación de estas instancias. Al presentar una arquitectura legal propia, Anthropic intenta influir en la forma en que el Gobierno estadounidense respondería a los escenarios más graves asociados con los modelos avanzados.
También existe una consecuencia institucional importante. La propuesta no solo establece cuándo podría suspenderse un modelo, sino que determina quién no podría hacerlo. Al retirar de las agencias federales la autoridad directa y concentrar la solicitud en el Departamento de Comercio, el texto crea una cadena formal de evaluación, comunicación y decisión judicial.
Esto puede aumentar la previsibilidad para desarrolladores y usuarios, pero depende de definiciones que todavía no aparecen en el expediente. No está claro, por ejemplo, qué pruebas utilizarían los evaluadores, cómo abordarían los modelos ya distribuidos, cuánto tiempo tendría un juez para decidir o cómo funcionaría el proceso en situaciones que involucraran a varios países.
Tampoco hay confirmación de que el proyecto represente una posición común de todo el sector o de que tenga suficiente apoyo entre los legisladores. El material disponible señala que Anthropic está promoviendo la idea entre parlamentarios y que Politico obtuvo el documento, pero no presenta reacciones oficiales del Gobierno, de otras empresas ni de organizaciones independientes.
El próximo punto que habrá que seguir es la transformación del borrador en un texto público y debatido. Será necesario comprobar si se mantienen los límites de 50 personas y 1.000 millones de dólares, cómo se garantizará la independencia de los evaluadores y si el Congreso aceptará restringir la autoridad de las agencias federales. Hasta que esas etapas se concreten, la propuesta debe considerarse una contribución política de Anthropic, no una norma vigente.
- La propuesta todavía es un borrador presentado a legisladores, no una ley aprobada.
- Los riesgos citados se centran en armas biológicas, ciberataques y pérdida de control por parte del desarrollador.
- La suspensión dependería de un juez federal en Washington, D. C.
- La independencia y la financiación de los evaluadores siguen siendo aspectos sin suficiente detalle.
Nuestro prisma
La propuesta intenta dar objetividad a la respuesta regulatoria al combinar categorías de riesgo con límites numéricos de daño, pero estos criterios no eliminan la incertidumbre de las previsiones. Su aspecto más relevante quizá sea institucional: Anthropic quiere impedir que las agencias federales suspendan modelos por iniciativa propia. Esto podría funcionar como protección frente a decisiones administrativas arbitrarias, pero también crea dependencia de un proceso judicial en situaciones potencialmente urgentes. Antes de cualquier evaluación definitiva, el texto debe aclarar la metodología, los conflictos de interés, los plazos y la aplicación a modelos ya distribuidos.
Recursos relacionados: IA para marketing y contenido con métricas
Fuentes: TechCrunch (IA) · Mashable
Preguntas frecuentes
¿Cuál es el límite previsto en el proyecto de Anthropic?
La propuesta menciona un riesgo previsible e inminente de muerte o lesiones graves para más de 50 personas, o de al menos 1.000 millones de dólares en daños materiales.
¿Qué riesgos podrían justificar la suspensión?
El texto descrito en los reportajes menciona ciberataques, pérdida de control del modelo por parte del desarrollador y creación o liberación de un arma biológica.
¿Quién podría suspender un modelo?
Según la propuesta, solo un juez federal en Washington, D. C., tras una solicitud del Departamento de Comercio, tendría autoridad para interrumpir la distribución.
Recibe Radar de IA todos los días
Las noticias de inteligencia artificial que importan — con nuestro prisma y siempre con las fuentes. Gratis.
