La propuesta de seguridad de Anthropic: ¿protección real o trampa regulatoria disfrazada?
Anthropic acaba de presentar una propuesta legislativa que suena razonable sobre el papel, bloquear modelos de IA si existe riesgo de que maten a 50 o más personas. Pero leer la letra pequeña revela algo muy diferente a lo que el titular promete.
Qué propone realmente la iniciativa de Anthropic
La empresa creadora de Claude ha llevado ante el Congreso de Estados Unidos un borrador legislativo centrado en la seguridad de la IA. El umbral que ha captado todos los titulares es claro, si un modelo puede causar la muerte de 50 o más personas, debería poder ser bloqueado antes de su lanzamiento. Hasta aquí, suena como sentido común.
El problema está en el mecanismo que propone para ejecutar ese bloqueo. Según el texto, ninguna agencia federal podría impedir la salida al mercado de un modelo sin la autorización previa de un juez. Esto transforma lo que parece una norma de precaución en un procedimiento que, en la práctica, protege más al desarrollador que al ciudadano.
Los reguladores, que hoy tienen cierta capacidad de actuación rápida ante riesgos emergentes, quedarían atados a procesos judiciales que pueden tardar semanas o meses. En el mundo de la IA, donde los modelos se despliegan en horas y su adopción es masiva desde el primer día, ese retraso regulatorio equivale a no tener regulación real.
El conflicto de interés que nadie debería ignorar
Hay algo estructuralmente problemático cuando una empresa privada —y además competidora directa de otros laboratorios de IA— es quien redacta las normas bajo las cuales ella misma operará. Anthropic se ha posicionado durante años como el laboratorio de IA más comprometido con la seguridad. Ese posicionamiento le da credibilidad ante legisladores que, en su mayoría, no tienen formación técnica suficiente para detectar los matices legales de una propuesta como esta.
El resultado es una propuesta que, sobre la superficie, parece un avance en gobernanza de la IA. Pero que, en su arquitectura real, eleva la barrera para que los reguladores actúen e introduce un filtro judicial que favorece la continuidad del despliegue de modelos salvo prueba en contrario.
No afirmo que Anthropic actúe de mala fe. Pero sí que cualquier profesional del sector debería leer esta propuesta con el mismo escepticismo que aplicaría a cualquier marco regulatorio diseñado por quien más tiene que ganar —o perder— con él.
Lo que la regulación de IA debería hacer, y no hace aquí
Una regulación efectiva de modelos de alto riesgo necesita al menos tres cosas que esta propuesta no garantiza:
- Capacidad de actuación preventiva: los reguladores deben poder frenar un despliegue sin necesidad de autorización judicial previa cuando existan indicadores técnicos de riesgo grave.
- Evaluaciones independientes: los estándares de seguridad no pueden depender exclusivamente de las auditorías internas del desarrollador. Hace falta un organismo técnico externo con autoridad real.
- Transparencia en los criterios de riesgo: el umbral de «50 personas» es arbitrario sin un método científico que lo respalde. ¿Por qué 50 y no 10? ¿Quién evalúa esa probabilidad y con qué datos?
La Unión Europea está avanzando en esta dirección con el AI Act, que aunque imperfecto, establece categorías de riesgo con obligaciones claras y supervisores con mandato propio. Estados Unidos sigue sin ese marco, y propuestas como la de Anthropic podrían convertirse en el sustituto de facto si el Congreso las adopta sin el escrutinio necesario.
Conclusión: la seguridad no puede ser un argumento de marketing
Que Anthropic sea pionero en hablar de seguridad no significa que sus propuestas regulatorias deban aceptarse sin debate. Al contrario, precisamente porque tienen credibilidad e influencia, sus iniciativas legislativas merecen un análisis más riguroso que el de cualquier otro actor.
La pregunta que deberíamos hacernos no es si esta propuesta tiene buenas intenciones. La pregunta es, ¿a quién protege realmente este mecanismo cuando las cosas van mal? Si la respuesta honesta es «al desarrollador más que al ciudadano», entonces no estamos ante una política de seguridad. Estamos ante una política de gestión del riesgo regulatorio.
¿Crees que los laboratorios privados deberían tener voz en el diseño de las normas que los regulan, o eso es un conflicto de interés que ninguna democracia debería permitir?