El 1 de julio, Dario Amodei testificó ante el Senado de Estados Unidos con una frase que no suena a discurso corporativo: hoy, ciertos pasos hacia la fabricación de armas biológicas requieren conocimiento especializado que no está disponible en Google ni en un libro de texto. Su advertencia fue directa: “a straightforward extrapolation of today’s systems to those we expect to see in two to three years suggests a substantial risk that AI systems will be able to fill in all the missing pieces” (una extrapolación directa de los sistemas actuales hacia los que esperamos ver en dos o tres años sugiere un riesgo sustancial de que los sistemas de IA puedan llenar todas las piezas faltantes).

Lo que Amodei le pide al Senado es lo que tu empresa debería pedirle a su proveedor de IA

El testimonio de Amodei tiene tres recomendaciones concretas, y la segunda es la que más debería importarle a cualquier empresa que ya depende de IA para algo serio: “we recommend a testing and auditing regime for new and more powerful models. Similar to cars or airplanes, AI models of the near future will be powerful machines that possess great utility but can be lethal if designed incorrectly or misused” (recomendamos un régimen de pruebas y auditoría para modelos nuevos y más poderosos; parecido a los autos o los aviones, los modelos de IA del futuro cercano van a ser máquinas poderosas con gran utilidad, pero que pueden ser letales si están mal diseñadas o se usan mal).

Nadie objeta por qué un avión pasa por certificación antes de que un pasajero suba a bordo. La pregunta que Amodei le hace al Senado es por qué un modelo de IA que ya toma decisiones sobre código de producción, diagnósticos o finanzas empresariales no pasa por un proceso equivalente antes de su lanzamiento.

Las tres piezas del pedido

La primera recomendación de Amodei es asegurar la cadena de suministro de IA, y la definió con precisión: “this supply chain runs from semiconductor manufacturing equipment to chips and even the security of AI models stored on the servers of companies like ours” (esta cadena de suministro va desde el equipo de fabricación de semiconductores hasta los chips, e incluso la seguridad de los modelos de IA almacenados en los servidores de empresas como la nuestra). No es un pedido abstracto. Es reconocer que un modelo de frontera es, literalmente, infraestructura crítica, y que su seguridad depende de una cadena que empieza mucho antes del modelo mismo.

La segunda es el régimen de pruebas y auditoría ya citado, con la comparación directa a autos y aviones.

La tercera es más técnica y menos discutida: un mecanismo de terceros que verifique, antes del lanzamiento, si un modelo cruza umbrales de riesgo específicos, similar a cómo un regulador de aviación certifica un diseño antes de que vuele el primer avión de producción.

Las tres recomendaciones comparten un supuesto: que hoy nadie fuera del laboratorio que construye el modelo puede verificar de forma independiente si es seguro, y que ese punto ciego se vuelve más peligroso con cada modelo más capaz que sale al mercado.

Vale la pena decirlo sin rodeos: Amodei dirige una de las pocas empresas que ya tiene la infraestructura para cumplir con un régimen de auditoría como el que propone, y un mandato regulatorio de ese tipo también sube la barrera de entrada para cualquier competidor nuevo que no pueda pagarlo. Eso no invalida el argumento de fondo. Pero conviene leer la propuesta sabiendo que viene de alguien con un interés directo en cómo termine escrita la regla.

La evidencia de que esto ya es técnicamente posible salió tres días antes

Lo interesante de este testimonio es que llega apenas tres días después de que Anthropic publicara una investigación que demuestra exactamente la capacidad técnica que un régimen de auditoría necesitaría: una forma de leer lo que un modelo tiene en mente antes de que decida qué responder, capaz de detectar cuándo reconoce que está siendo evaluado, cuándo fabrica un dato o cuándo carga un objetivo oculto entrenado deliberadamente.

Esa capacidad hoy vive adentro de Anthropic, como herramienta de investigación interna que usan antes de lanzar sus propios modelos. Lo que Amodei le pide al Senado, en el fondo, es que ese tipo de auditoría deje de ser una decisión voluntaria de cada laboratorio y se vuelva un requisito verificable por terceros antes de que un modelo salga al mercado. No está pidiendo inventar una capacidad nueva. Está pidiendo que la capacidad que ya existe se aplique de forma consistente, y no solo cuando el laboratorio decide hacerlo.

Lo que hacemos en IQ Source

Ya he escrito que el modelo es un commodity y la gobernanza es el moat (ventaja competitiva) real de la IA empresarial. El pedido de Amodei al Senado es esa misma idea, escalada a nivel de industria: el modelo por sí solo no garantiza nada, lo que importa es si existe un proceso verificable que audite su comportamiento antes de confiar en él con autoridad real.

Cuando entramos a la fase de discovery de AI Maestro, aplicamos exactamente esa lógica a escala de empresa, antes de que exista un mandato regulatorio que la obligue. Cada despliegue de IA con autoridad real sobre sistemas de producción pasa por un Go/No-Go gate antes de que se invierta un peso adicional en diseño o implementación: qué tan auditable es el comportamiento del modelo, qué evidencia existe de sus fallas conocidas, y qué pasa si falla de la forma menos esperada. No esperamos a que el Senado apruebe un régimen de pruebas para empezar a exigirlo dentro de la empresa.

La pregunta que le harías a un proveedor de IA después de leer este testimonio ya no es filosófica. Es la misma que un regulador de aviación le haría a un fabricante: ¿puedes mostrarme la evidencia de que este modelo fue probado antes de que confiara mi negocio en él?

Exígele a tu proveedor de IA el mismo régimen de auditoría que Amodei le pidió al Senado