Anthropic quiere frenar la IA: ¿seguridad real o captura regulatoria?

En este episodio analizo el giro más polémico de Anthropic: mientras Dario Amodei advierte que la IA avanza a velocidad exponencial, también propone que el gobierno tenga autoridad para bloquear o revertir el despliegue de modelos de frontera que no superen pruebas de seguridad independientes.

Repaso el ensayo “Policy on the AI Exponential”, las cuatro categorías de riesgo que Anthropic destaca —biológico, cibernético, pérdida de control y automatización de la propia I+D en IA— y el argumento de fondo: si esta tecnología puede causar daños severos, no debería salir al mercado sin auditoría externa y capacidad real de frenado.

Pero también reviso la crítica más dura: la posibilidad de captura regulatoria, donde las reglas de seguridad terminan favoreciendo a las empresas grandes que sí pueden costear evaluaciones, cumplimiento y protección avanzada de modelos.

Además, conecto este debate con la postura más amplia de Amodei en “The Adolescence of Technology”, donde plantea que la humanidad está entrando en una etapa turbulenta que pondrá a prueba su capacidad para manejar un poder técnico sin precedentes.