El debate de los riesgos de la IA y el desafío de los emergentes modelos abiertos chinos

Estados Unidos y China miden sus fuerzas en el sector de la inteligencia artificial (IA) con dos enfoques opuestos: mientras grandes empresas estadounidenses abogan por un modelo cerrado y la autorregulación, Pekín defiende los códigos abiertos y el cumplimiento de normativas estatales.

En el trasfondo de las recientes alertas sobre la posibilidad de que la IA acabe con la humanidad en un futuro cercano, está la lucha entre los grandes "labs" de IA estadounidenses que abogan por modelos cerrados (Anthropic y OpenAI) y competidores chinos como DeepSeek, Moonshot, Alibaba o Zhipu que han apostado por el código abierto, una fórmula que permite a desarrolladores y compañías descargar, adaptar y desplegar sistemas de IA en sus propios servicios y tener solo como gran coste el de computación propia.

Este verano, Dario Amodei, consejero delegado de Anthropic, aseguró que su temor con los modelos abiertos es que sean los chinos los que consigan posicionarse como hegemónicos y que ese tipo de IA pueda usarse para ciberataques o ataques biológicos, ya que "es muy difícil aplicar barreras de seguridad o monitorear el uso".

Casualmente, después de que el exempleado de Anthropic y OpenAI Jacob Coxon alertara la semana pasada de la posibilidad de que la IA causara la extinción de la humanidad, Amodei publicó un ensayo en el que alertaba del riesgo de "perder el control de los sistemas de IA" y pedía un desarrollo más lento de esta tecnología, al que se sumaron Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind).

En la misma semana, Anthropic publicó un informe en el que revelaba que gracias a que sus modelos permiten monitorizar el uso que hacen sus usuarios -algo que el caso de OpenAI podría estar detrás de los hitos matemáticos presentados recientemente- detectaron intentos de desarrollo de armas biológicas, ataques terroristas u operaciones de desinformación orquestada por adversarios de Estados Unidos.

El fundador Moonshot, Yang Zhilin, ha defendido en declaraciones a la prensa local el potencial de los modelos abiertos, asegurando que, "si los modelos pueden alcanzar el mismo nivel, el código abierto será una victoria absoluta", en un momento en el que algunos servicios chinos ya muestran un rendimiento casi similar al de los estadounidenses más avanzados, según comparativas especializadas.

En la misma línea, el directivo de la tecnológica Honor, Wang Ai, señaló que la industria transita hacia una "competencia de ecosistemas" y consideró que el código abierto "determinará el panorama competitivo en la era de la IA".

La apuesta por modelos más eficientes está vinculada además a las limitaciones de China en capacidad de cálculo. El fundador de DeepSeek, Liang Wenfeng, ha afirmado que la mayor diferencia con Estados Unidos no es de talento ni tecnológica, sino los recursos de computación, condicionados por las restricciones estadounidenses al acceso chino a chips avanzados.

No obstante, en Estados Unidos también hay voces críticas sobre los modelos cerrados y la necesidad de promover sus propias arquitecturas de IA abierta, especialmente en el caso del CEO de Palantir, Alex Karp, que este lunes pidió no poner el freno al desarrollo de la IA, especialmente cuando hay rivalidades geopolíticas.

Karp defendió en una entrevista en CNBC la idea de modelos abiertos que rivalicen con los chinos, ya que tanto las empresas como el gobierno quieren mantener el control de su propiedad intelectual y su cadena de generación de valor a la par que generalizan el uso de la IA tanto para sus operaciones diarias como en la defensa del país.

En China, esta apertura en la arquitectura de los modelos convive con un estricto control estatal sobre los contenidos y, presumiblemente en última instancia, sobre su potencial y empleo, que es seguido de cerca por el gobernante Partido Comunista.

Desde la eclosión de los chatbots, las autoridades chinas han reforzado el marco regulatorio y subrayado que los servicios de IA generativa deben respetar los "valores socialistas fundamentales" y no generar contenidos que afecten a la seguridad nacional, la unidad territorial o la estabilidad social.

Ese control se ha extendido también al etiquetado de contenidos sintéticos y a los usos considerados lesivos: el Tribunal Supremo chino ha fijado criterios para supuestos en los que 'deepfakes' (ultrafalsos), alucinaciones o usos discriminatorios de algoritmos pueden acarrear responsabilidad legal.

En julio, el presidente chino, Xi Jinping, quien se espera que viaje a finales de mes a EE. UU., donde se prevé que la IA sea uno de los temas centrales en su reunión con su par, Donald Trump, pidió una gobernanza "precisa y efectiva" de la inteligencia artificial y llamó a garantizar que esta tecnología permanezca "bajo control humano".

Por su parte, el ministro chino de Seguridad del Estado, Chen Yixin, instó el pasado fin de semana a construir una "barrera de seguridad" para dicha tecnología ante los riesgos existentes.

Por otro lado, el diario Global Times, dependiente del Diario del Pueblo, órgano del Partido Comunista de China (PCCh), acusó recientemente a parte de la comunidad tecnológica estadounidense de utilizar las advertencias sobre los riesgos de la IA para "contener" a China.

Pekín rechaza asimismo las críticas estadounidenses contra empresas chinas como DeepSeek, Moonshot o Alibaba por supuesto uso de "destilación", una técnica que permite entrenar modelos más pequeños con respuestas de sistemas más avanzados, y sostiene que se trata de una "práctica común" en la industria.