El gigante de la tecnología chino Huawei afirmó el jueves que los modelos de inteligencia artificial desarrollados en China aún no han alcanzado el nivel de sofisticación en el que presenten riesgos significativos para la seguridad, en marcado contraste con las preocupaciones crecientes entre los principales desarrolladores de Estados Unidos.
En la conferencia anual de la empresa Connect, celebrada en Shanghai, el presidente rotatorio Eric Xu sugirió que los proveedores de IA chinos necesitan acelerar el desarrollo antes de poder percibir adecuadamente y gestionar los posibles peligros de sus propios sistemas.
“Si miramos a los proveedores de modelos de IA principales en Estados Unidos, debido a que disponen de una enorme capacidad de cómputo, tal vez solo ellos sean conscientes de dónde se encuentran en términos del nivel de sus modelos”, dijo Xu. “Quizás el tipo de riesgo relacionado con la IA que pueden percibir sea algo que las personas en China o los proveedores de modelos de IA en China no pueden sentir”.
Xu hizo hincapié en la necesidad de equilibrar el avance de la IA con la gestión de los riesgos asociados, señalando que las empresas chinas aún están trabajando para cerrar la brecha de capacidades con las firmas estadounidenses.
Estos comentarios se produjeron en un contexto de debate intensificado sobre la seguridad de la IA en los Estados Unidos, donde desarrolladores e investigadores han advertido de que los sistemas autónomos podrían eludir las medidas de seguridad o resultar difíciles de controlar. El director ejecutivo de Anthropic, Dario Amodei, ha pedido públicamente que se ralentice el desarrollo para permitir que las medidas de seguridad avancen al mismo ritmo.
Por el contrario, China ha tratado la IA avanzada como una tecnología poderosa pero manejable, mientras la despliega rápidamente en diferentes sectores. Beijing está desarrollando estándares obligatorios, evaluaciones de seguridad y medidas de protección, incluyendo la elaboración de un estándar nacional para la seguridad de los agentes de IA.
Huawei también presentó unas proyecciones que describen la futura escala de los sistemas de IA autónomos. La empresa pronosticó que, para el año 2035, los agentes de IA autónomos representarán más del 90 % del tráfico de procesamiento de IA a nivel global, con hasta 900 mil millones de agentes activos operando en todo el mundo.
“Tenemos que encontrar un equilibrio entre impulsar el desarrollo de la IA y gestionar el riesgo relacionado”, dijo Xu, reconociendo que los proveedores chinos podrían llegar a necesitar acelerar su ritmo para alcanzar un nivel en el que puedan comprender y abordar adecuadamente los peligros emergentes.
Huawei actúa como principal proveedor doméstico de China de infraestructura de cómputo necesaria para entrenar modelos avanzados de IA, un rol que se amplió tras los controles de exportación impuestos por EE. UU. en 2023, que restringieron el acceso de las empresas chinas a los chips de Nvidia. La empresa reconoció que no podía producir suficiente equipamiento de cómputo para IA para satisfacer toda la demanda doméstica.
El mercado de chips de inteligencia artificial de China está valuado en aproximadamente 50.000 millones de dólares, y la posición de Huawei se ha reforzado gracias a las restricciones a los proveedores extranjeros.
