Dario Amodei, fundador y CEO de Anthropic, respondió el lunes a los rumores que circulaban en la industria sobre un supuesto apoyo de su empresa a los esfuerzos del gobierno de EE.UU. para prohibir los modelos open-weight chinos, o incluso los modelos open-weight en general.

“Cualquiera que haya leído mis escritos anteriores sabe que no considero útiles esas prohibiciones, pero lo diré claramente para que no quede duda: Anthropic nunca ha abogado por una prohibición de los modelos open-weight.”

La declaración llegó después de que Jensen Huang, fundador y CEO de Nvidia, publicara en X —su primera publicación en la plataforma— una carta abierta en la que Nvidia y una larga lista de empresas de IA, incluyendo Hugging Face, Meta, Microsoft, Mistral y la propia Nvidia, instaban a los reguladores a no imponer “restricciones prematuras” a los modelos de IA open-weight.

El verdadero temor: la IA china

Aunque la carta no mencionaba a China específicamente, el debate en la industria se ha centrado en las acusaciones de que los laboratorios chinos de IA están creciendo en capacidades, a menudo mediante el robo de propiedad intelectual de sus contrapartes estadounidenses. Un método particularmente controvertido es la destilación, donde un modelo de IA bombardea a otro con consultas para aprender cómo funciona.

Amodei dejó claro que los modelos open-weight caen en una categoría diferente a la amenaza que representa China:

“Los modelos open-weight que no tienen capacidades peligrosas son un bien público: no cuestan nada más que el cómputo necesario para ejecutarlos, y proporcionan valor a empresas, desarrolladores e investigadores.”

Su verdadera preocupación, explicó, es que los “gobiernos autoritarios” construyan modelos más poderosos que los de EE.UU. para lograr “superioridad militar permanente” o usar la IA para reprimir a su propia población. El Partido Comunista Chino no es el único gobierno autoritario que le preocupa, pero es “el más capaz”.

El espectro de los ataques biológicos

Amodei también advirtió que la IA podría habilitar “ataques biológicos”, no solo cibernéticos. En su opinión, los modelos open-weight son más peligrosos en esos escenarios porque es difícil aplicarles barreras de seguridad o monitorear su uso. Citó un informe del Instituto de Seguridad de IA del Reino Unido que señala que, una vez que los pesos abiertos se liberan, no pueden retirarse.

Esta postura contrasta con lo que argumentan los defensores del open source: que el acceso a modelos abiertos poderosos, no controlados por una sola entidad, ayuda a los defensores a protegerse.

Posibles soluciones

Amodei enumeró varias acciones que cree que podrían frenar a China, incluyendo restringir su acceso a chips potentes —una política que EE.UU. ya mantiene desde hace tiempo— y un control más estricto sobre la destilación. EE.UU. ha amenazado con sanciones a China si determina que hubo robo de propiedad intelectual involucrando modelos estadounidenses.

Curiosamente, Amodei también expresó su apoyo a los crecientes esfuerzos —liderados en parte por EE.UU.— para crear una organización global de pruebas de seguridad de modelos, especialmente si todo el mundo, incluyendo China, acepta someterse a ella.

“Para que sea efectiva, las pruebas tendrían que ser globales, lo que significa que incluso el Partido Comunista Chino tendría que estar a bordo. Creo que esto puede ser posible… la cooperación limitada para prevenir armas biológicas de IA podría ser factible porque también beneficia a China.”

Implicaciones para la industria

Este debate llega en un momento crucial para la industria de IA. Por un lado, la presión regulatoria en Occidente busca controlar el avance de modelos cada vez más poderosos. Por otro, la comunidad open-source defiende el acceso abierto como un pilar de la innovación y la seguridad colectiva.

Para los desarrolladores y empresas de Latinoamérica que construyen sobre modelos open-weight, las declaraciones de Amodei son alentadoras: no hay una amenaza inminente de prohibición. Sin embargo, la advertencia sobre la necesidad de gobernanza y seguridad en el uso de IA es un recordatorio de que la industria debe avanzar con responsabilidad.

Sigue explorando estos temas en el blog de DojoFullStack.