CHINA Y LA IA NECESITAN EN EL CAMPO DE LA SEGURIDAD

Giancarlo Elia Valori*

Imagen de Gerd Altmann en Pixabay

En la tarde del 11 de diciembre de 2020, el Buró Político del Comité Central del Partido Comunista de China (CPC) celebró la 26ª Sesión de Estudio Colectivo dedicada a la seguridad nacional. En esa ocasión, el Secretario General del Comité Central del PCC, Xi Jinping, destacó que la labor de seguridad nacional era muy importante en la gestión de los asuntos de Estado del Partido, así como para asegurar que el país fuera próspero y que la gente viviera en paz.

En vista del fortalecimiento de la seguridad nacional, China debe adherirse al concepto general de seguridad nacional; aprovechar y hacer un buen uso de un período importante y propicio a nivel estratégico para el desarrollo del país; integrar la seguridad nacional en todos los aspectos del CPC y la actividad del Estado y considerarla en la planificación del desarrollo económico y social. En otras palabras, necesita construir un modelo de seguridad con miras a promover la seguridad internacional y la paz mundial y ofrecer fuertes garantías para la construcción de un país socialista moderno.

En este sentido, un nuevo ciclo de revolución tecnológica impulsada por la IA y la transformación industrial está en aumento en el Imperio Medio. Impulsada por nuevas teorías y tecnologías como Internet, servicios de telefonía móvil, big data, supercomputación, redes de sensores y ciencias del cerebro, la IA ofrece nuevas capacidades y funcionalidades como la integración intersectorial, la colaboración hombre-máquina, la inteligencia abierta y el control autónomo. El desarrollo económico, el progreso social, la gobernanza mundial y otros aspectos tienen un impacto importante y de largo alcance.

En los últimos años, China ha profundizado la importancia de la IA y las perspectivas de desarrollo en muchos campos importantes. Acelerar el desarrollo de una nueva generación de IA es un importante punto de partida estratégico para hacer frente al desafío de la competencia tecnológica mundial.

¿Cuál es el estado actual del desarrollo de la IA en China? ¿Cómo son las tendencias actuales de desarrollo? ¿Cómo se orientará y liderará en el futuro el desarrollo seguro, ordenado y saludable de la industria?

La brecha actual entre el desarrollo de la IA y el nivel avanzado internacional no es muy amplia, pero la calidad de las empresas debe ser “igualada” con su cantidad. Por esta razón, se están haciendo esfuerzos para expandir escenarios de aplicaciones, mejorando la seguridad de datos y algoritmos.

El concepto de IA de tercera generación ya está avanzando y progresando y hay esperanzas de resolver el problema de seguridad a través de medios técnicos distintos de las políticas y reglamentos, es decir, que no sean meras conversaciones.

La IA es un motor de las nuevas etapas de la revolución tecnológica y la transformación industrial. Acelerar el desarrollo de una nueva generación de IA es una cuestión estratégica para que China aproveche nuevas oportunidades en la organización de la transformación industrial.

Comúnmente se argumenta que la IA ha pasado por dos generaciones hasta ahora. La IA1 se basa en el conocimiento, también conocido como “simbolismo”, mientras que la IA2 se basa en datos, big data y su “aprendizaje profundo”.

La IA comenzó a desarrollarse en la década de 1950 con el famoso Test de Alan Turing (1912-54), y en 1978 comenzaron los primeros estudios sobre IA en China. En la IA1, sin embargo, su progreso fue relativamente pequeño. Los progresos reales se han logrado principalmente en los últimos 20 años, por lo tanto, la IA2.

La IA es conocida por la industria de la información tradicional, normalmente las empresas de Internet. Esto ha adquirido y acumulado un gran número de usuarios en el proceso de desarrollo, y luego ha establecido los patrones o perfiles correspondientes basados en estas adquisiciones, es decir, el llamado “gráfico de conocimiento de las preferencias del usuario”. Tomando como ejemplo la entrega de algunos productos, decenas o incluso cientos de millones de datos consistentes en las posiciones de los usuarios y distribuidores, así como la información sobre la ubicación de los compradores potenciales, se incorporan a una base de datos y luego se emparejan y optimizan a través de algoritmos de IA: todo esto obviamente mejora la eficacia del comercio y la velocidad de entrega.

Al mejorar las industrias tradicionales de esta manera, se han logrado grandes beneficios. China está liderando el camino y está a la vanguardia en este sentido: reconocimiento facial, altavoces inteligentes, servicio inteligente al cliente, etc. En los últimos años, no sólo un número creciente de empresas ha comenzado a aplicar la IA, sino que la propia IA también se ha convertido en una de las direcciones profesionales que preocupa a los candidatos en los exámenes de ingreso a la universidad.

Según las estadísticas, hay 40 empresas de IA en el mundo con una facturación de más de mil millones de dólares, 20 de ellas en Estados Unidos y unas 15 en China. En términos cuantitativos, China ocupa firmemente el segundo lugar. Cabe señalar, sin embargo, que aunque estas empresas tienen altas calificaciones, su rentabilidad sigue siendo limitada y la mayoría de ellas incluso pueden arrojar pérdidas.

El sector principal de la IA debería ser independiente de la industria de la información y debería abrirse cada vez más al transporte, la medicina, el tejido urbano y las industrias lideradas independientemente por la tecnología de IA. Estos sectores ya se están desarrollando en China.

China representa más de un tercio de las empresas emergentes de IA del mundo. Y aunque la cantidad es alta, la calidad aún debe mejorarse. En primer lugar, los escenarios de aplicación son limitados. Además del reconocimiento facial, la seguridad, etc., otros campos no son fáciles de usar y están expuestos a riesgos como 1) inseguridad de datos y 2) inseguridad del algoritmo. Estos dos aspectos son actualmente los principales factores que limitan el desarrollo de la industria de la IA, que corre el peligro de ser presa de hackers de origen conocido.

Con respecto a la inseguridad de los datos, sabemos que el efecto de las aplicaciones de IA depende en gran medida de la calidad de los datos, lo que implica problemas de seguridad como la pérdida de privacidad (es decir, la seguridad del Estado). Si no se resuelve el problema de la protección de la privacidad, la industria de la IA no puede desarrollarse de manera saludable, ya que estaría trabajando para terceros «desconocidos».

Cuando iniciamos sesión en una página web y nos dicen que lo más importante para ellos es la privacidad de los usuarios, esto es una mentira ya que incluso los hackers adolescentes conocen programas para violarla: al menos China nos habla de la risa de tales declaraciones políticamente correctas.

El segundo tema importante es la inseguridad del algoritmo. El llamado algoritmo inseguro es un modelo que se utiliza en condiciones específicas y no funcionará si las condiciones son diferentes. Esto también se denomina “inconsistencia”, es decir, la vulnerabilidad del algoritmo al entorno de prueba.

Tomando como ejemplo la conducción autónoma, es imposible considerar todos los escenarios durante la formación de IA y hacer frente a nuevas emergencias cuando se producen eventos inesperados. Al mismo tiempo, esta vulnerabilidad también hace que los sistemas de IA sean permeables a ataques, engaños y fraudes.

El problema de la seguridad en la IA no radica en los discursos y palabras vacíos de los políticos, sino que debe resolverse desde un punto de vista técnico. En esta distinción se basa la IA3.

Tiene una ruta de desarrollo que combina la IA basada en el conocimiento de primera generación y la IA basada en datos de segunda generación. Utiliza los cuatro elementos -conocimiento, datos, algoritmos y potencia informática- para establecer una nueva teoría y métodos interpretables y robustos para una tecnología segura, creíble y confiable.

Por el momento, la IA2 caracterizada por el aprendizaje profundo todavía se encuentra en una fase de crecimiento y, por lo tanto, surge la pregunta de si la industria puede aceptar el concepto de desarrollo de la IA3.

Como se ha visto anteriormente, la IA se ha estado desarrollando durante más de 70 años y ahora parece ser un “prólogo”.

Actualmente la mayoría de la gente no es capaz de aceptar el concepto de IA3 porque todo el mundo esperaba más avances en la IA2. Todo el mundo sentía que la IA podía seguir desarrollándose confiando en el aprendizaje y no en el procesamiento. Los primeros pasos de la IA3 en China tuvieron lugar a principios de 2015 y en 2018.

La AI3 tiene que resolver problemas de seguridad desde un punto de vista técnico. En concreto, el enfoque consiste en combinar conocimientos y datos. Algunas investigaciones relacionadas se han llevado a cabo en China en los últimos cuatro o cinco años y los resultados también se han aplicado a nivel industrial. La plataforma de seguridad de datos RealSecure y la plataforma de seguridad de algoritmos RealSafe son evidencia directa de estos éxitos.

Lo que hay que subrayar es que estas actividades sólo pueden resolver problemas de seguridad particulares en circunstancias específicas. En otras palabras, el problema de la seguridad de la IA aún no ha encontrado una solución fundamental, y es probable que se convierta en un tema de larga duración sin una solución definitiva ya que —sólo para usar una metáfora— una vez que se encuentra el candado, siempre hay un ladrón experto. En el futuro, el campo de la seguridad de la IA estará en un estado de confrontación continua entre la infracción externa y la defensa interna, por lo tanto, los algoritmos deben actualizarse constante y continuamente.

La progresión de la IA3 será un proceso natural a largo plazo. Afortunadamente, sin embargo, hay una característica importante de IA, es decir, que cada resultado puesto en la mesa siempre tiene un gran valor de aplicación. Esta es también una de las razones importantes por las que todos los países conceden gran importancia al desarrollo de la IA, ya que su interés nacional y su independencia real están en juego.

Con cambios en todo el mundo y una economía global en profunda recesión debido a Covid-19, el próximo 14º Plan Quinquenal (2021-25) de la República Popular China será la hoja de ruta para alcanzar los objetivos de desarrollo del país en medio de la agitación global.

Dado que la IA está incluida en el plan antes mencionado, su desarrollo también abordará muchos “cuellos de botella de seguridad”. En primer lugar, existe una amplia brecha en la innovación y aplicación de la IA en el campo de la seguridad de la red, y muchos escenarios todavía están en la etapa de exploración e investigación académica.

En segundo lugar, la IA carece de una evaluación sistemática de la seguridad y existen graves riesgos en todos los aspectos del software y el hardware. Además, el entorno de investigación e innovación en materia de seguridad de la IA aún no está en su apogeo y la industria nacional china pertinente aún no está en la primera posición, buscando más experiencia.

Desde 2017, en respuesta al Plan de Desarrollo de la IA3 emitido por el Consejo de Estado, 15 Ministerios y Comisiones, entre ellos el Ministerio de Ciencia y Tecnología, la Comisión de Desarrollo y Reforma, etc., han establecido conjuntamente una plataforma de innovación. Esta plataforma está formada por empresas líderes en la industria, centrándose en la innovación abierta en el segmento de IA.

En la actualidad, gracias a esta plataforma, se han logrado muchos logros en el ámbito de la seguridad. Como primer equipo del mundo en llevar a cabo investigaciones sobre infraestructura de IA desde una perspectiva de implementación del sistema, se han encontrado más de 100 vulnerabilidades en los principales marcos de aprendizaje automático y componentes dependientes en China.

El número de vulnerabilidades hace que los investigadores chinos ocupen el primer lugar en el mundo. Al mismo tiempo, se está estudiando un futuro plan de innovación -desarrollado y lanzado para abrir decenas de miles de millones de big data de seguridad- para promover la solución a aquellos problemas que necesitan actualizaciones continuas.

El informe de trabajo del gobierno promueve la cooperación académica e impulsa a la industria y a las universidades a llevar a cabo investigaciones innovadoras sobre tres aspectos: a) comparación de la seguridad del algoritmo de IA; 2) Detección de seguridad de infraestructura de IA; 3) Aplicaciones de IA en escenarios clave de seguridad del ciberespacio.

A través de investigaciones teóricas y básicas de última generación, también necesitamos proporcionar reservas técnicas para la construcción de plataformas básicas de hardware de IA y software de código abierto (es decir, programas que no están protegidos por derechos de autor y pueden ser modificados libremente por los usuarios) y plataformas de detección de seguridad de IA, a fin de reducir los riesgos inherentes a la tecnología de seguridad de IA y garantizar el desarrollo saludable de la propia IA.

Con referencia específica a la seguridad, el 23 de marzo se anunció que los Ministros de Asuntos Exteriores chino y ruso habían firmado una declaración conjunta sobre diversas cuestiones actuales de gobernanza mundial.

La declaración subraya que la continua propagación de la pandemia Covid-19 ha acelerado la evolución de la escena internacional, ha causado un nuevo desequilibrio en el sistema de gobernanza global y ha afectado el proceso de desarrollo económico, mientras que han surgido nuevas amenazas y desafíos globales uno tras otro y el mundo ha entrado en un período de cambios turbulentos. La declaración hace un llamamiento a la comunidad internacional para dejar de lado las diferencias, construir el consenso, fortalecer la coordinación, preservar la paz mundial y la estabilidad geoestratégica, así como promover la construcción de un orden internacional multipolar más equitativo, democrático y racional.

En vista de garantizar todo esto, la independencia consagrada por el derecho internacional obviamente no es suficiente, ni la posesión de disuasión nuclear. Lo que se necesita, en cambio, es el control absoluto de la seguridad de la información en el país, que a su vez orienta y dirige los sistemas de armas, cuyo control remoto es la presa codiciosa de los sospechosos habituales.

 

* Copresidente del Consejo Asesor Honoris Causa. El Profesor Giancarlo Elia Valori es un eminente economista y empresario italiano. Posee prestigiosas distinciones académicas y órdenes nacionales. Ha dado conferencias sobre asuntos internacionales y economía en las principales universidades del mundo, como la Universidad de Pekín, la Universidad Hebrea de Jerusalén y la Universidad Yeshiva de Nueva York. Actualmente preside el «International World Group», es también presidente honorario de Huawei Italia, asesor económico del gigante chino HNA Group y miembro de la Junta de Ayan-Holding. En 1992 fue nombrado Oficial de la Legión de Honor de la República Francesa, con esta motivación: “Un hombre que puede ver a través de las fronteras para entender el mundo” y en 2002 recibió el título de “Honorable” de la Academia de Ciencias del Instituto de Francia.

 

Artículo traducido al español por el Equipo de la SAEEG con expresa autorización del autor. Prohibida su reproducción. 

©2021-saeeg®

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *