{"id":3403,"date":"2021-05-18T23:30:00","date_gmt":"2021-05-19T02:30:00","guid":{"rendered":"https:\/\/saeeg.org\/?p=3403"},"modified":"2021-05-18T23:57:03","modified_gmt":"2021-05-19T02:57:03","slug":"china-y-la-ia-necesitan-en-el-campo-de-la-seguridad","status":"publish","type":"post","link":"https:\/\/saeeg.org\/index.php\/2021\/05\/18\/china-y-la-ia-necesitan-en-el-campo-de-la-seguridad\/","title":{"rendered":"CHINA Y LA IA NECESITAN EN EL CAMPO DE LA SEGURIDAD"},"content":{"rendered":"\n

Giancarlo Elia Valori*<\/span><\/strong><\/em><\/p>\n\n\n\n

\"\"
Imagen de Gerd Altmann<\/a> en\u00a0Pixabay<\/a><\/em><\/strong>
<\/figcaption><\/figure><\/div>\n\n\n\n

En la tarde del 11 de diciembre de 2020, el Bur\u00f3 Pol\u00edtico del Comit\u00e9 Central del Partido Comunista de China (CPC) celebr\u00f3 la 26\u00aa Sesi\u00f3n de Estudio Colectivo dedicada a la seguridad nacional. En esa ocasi\u00f3n, el Secretario General del Comit\u00e9 Central del PCC, Xi Jinping, destac\u00f3 que la labor de seguridad nacional era muy importante en la gesti\u00f3n de los asuntos de Estado del Partido, as\u00ed como para asegurar que el pa\u00eds fuera pr\u00f3spero y que la gente viviera en paz.<\/span><\/p>\n

En vista del fortalecimiento de la seguridad nacional, China debe adherirse al concepto general de seguridad nacional; aprovechar y hacer un buen uso de un per\u00edodo importante y propicio a nivel estrat\u00e9gico para el desarrollo del pa\u00eds; integrar la seguridad nacional en todos los aspectos del CPC y la actividad del Estado y considerarla en la planificaci\u00f3n del desarrollo econ\u00f3mico y social. En otras palabras, necesita construir un modelo de seguridad con miras a promover la seguridad internacional y la paz mundial y ofrecer fuertes garant\u00edas para la construcci\u00f3n de un pa\u00eds socialista moderno.<\/span><\/p>\n

En este sentido, un nuevo ciclo de revoluci\u00f3n tecnol\u00f3gica impulsada por la IA y la transformaci\u00f3n industrial est\u00e1 en aumento en el Imperio Medio. Impulsada por nuevas teor\u00edas y tecnolog\u00edas como Internet, servicios de telefon\u00eda m\u00f3vil, big data<\/em>, supercomputaci\u00f3n, redes de sensores y ciencias del cerebro, la IA ofrece nuevas capacidades y funcionalidades como la integraci\u00f3n intersectorial, la colaboraci\u00f3n hombre-m\u00e1quina, la inteligencia abierta y el control aut\u00f3nomo. El desarrollo econ\u00f3mico, el progreso social, la gobernanza mundial y otros aspectos tienen un impacto importante y de largo alcance.<\/span><\/p>\n

En los \u00faltimos a\u00f1os, China ha profundizado la importancia de la IA y las perspectivas de desarrollo en muchos campos importantes. Acelerar el desarrollo de una nueva generaci\u00f3n de IA es un importante punto de partida estrat\u00e9gico para hacer frente al desaf\u00edo de la competencia tecnol\u00f3gica mundial.<\/span><\/p>\n

\u00bfCu\u00e1l es el estado actual del desarrollo de la IA en China? \u00bfC\u00f3mo son las tendencias actuales de desarrollo? \u00bfC\u00f3mo se orientar\u00e1 y liderar\u00e1 en el futuro el desarrollo seguro, ordenado y saludable de la industria?<\/span><\/p>\n

La brecha actual entre el desarrollo de la IA y el nivel avanzado internacional no es muy amplia, pero la calidad de las empresas debe ser \u201cigualada\u201d con su cantidad. Por esta raz\u00f3n, se est\u00e1n haciendo esfuerzos para expandir escenarios de aplicaciones, mejorando la seguridad de datos y algoritmos.<\/span><\/p>\n

El concepto de IA de tercera generaci\u00f3n ya est\u00e1 avanzando y progresando y hay esperanzas de resolver el problema de seguridad a trav\u00e9s de medios t\u00e9cnicos distintos de las pol\u00edticas y reglamentos, es decir, que no sean meras conversaciones.<\/span><\/p>\n

La IA es un motor de las nuevas etapas de la revoluci\u00f3n tecnol\u00f3gica y la transformaci\u00f3n industrial. Acelerar el desarrollo de una nueva generaci\u00f3n de IA es una cuesti\u00f3n estrat\u00e9gica para que China aproveche nuevas oportunidades en la organizaci\u00f3n de la transformaci\u00f3n industrial.<\/span><\/p>\n

Com\u00fanmente se argumenta que la IA ha pasado por dos generaciones hasta ahora. La IA1 se basa en el conocimiento, tambi\u00e9n conocido como \u201csimbolismo\u201d, mientras que la IA2 se basa en datos, big data<\/em> y su \u201caprendizaje profundo\u201d.<\/span><\/p>\n

La IA comenz\u00f3 a desarrollarse en la d\u00e9cada de 1950 con el famoso Test de Alan Turing (1912-54), y en 1978 comenzaron los primeros estudios sobre IA en China. En la IA1, sin embargo, su progreso fue relativamente peque\u00f1o. Los progresos reales se han logrado principalmente en los \u00faltimos 20 a\u00f1os, por lo tanto, la IA2.<\/span><\/p>\n

La IA es conocida por la industria de la informaci\u00f3n tradicional, normalmente las empresas de Internet. Esto ha adquirido y acumulado un gran n\u00famero de usuarios en el proceso de desarrollo, y luego ha establecido los patrones o perfiles correspondientes basados en estas adquisiciones, es decir, el llamado \u201cgr\u00e1fico de conocimiento de las preferencias del usuario\u201d. Tomando como ejemplo la entrega de algunos productos, decenas o incluso cientos de millones de datos consistentes en las posiciones de los usuarios y distribuidores, as\u00ed como la informaci\u00f3n sobre la ubicaci\u00f3n de los compradores potenciales, se incorporan a una base de datos y luego se emparejan y optimizan a trav\u00e9s de algoritmos de IA: todo esto obviamente mejora la eficacia del comercio y la velocidad de entrega.<\/span><\/p>\n

Al mejorar las industrias tradicionales de esta manera, se han logrado grandes beneficios. China est\u00e1 liderando el camino y est\u00e1 a la vanguardia en este sentido: reconocimiento facial, altavoces inteligentes, servicio inteligente al cliente, etc. En los \u00faltimos a\u00f1os, no s\u00f3lo un n\u00famero creciente de empresas ha comenzado a aplicar la IA, sino que la propia IA tambi\u00e9n se ha convertido en una de las direcciones profesionales que preocupa a los candidatos en los ex\u00e1menes de ingreso a la universidad.<\/span><\/p>\n

Seg\u00fan las estad\u00edsticas, hay 40 empresas de IA en el mundo con una facturaci\u00f3n de m\u00e1s de mil millones de d\u00f3lares, 20 de ellas en Estados Unidos y unas 15 en China. En t\u00e9rminos cuantitativos, China ocupa firmemente el segundo lugar. Cabe se\u00f1alar, sin embargo, que aunque estas empresas tienen altas calificaciones, su rentabilidad sigue siendo limitada y la mayor\u00eda de ellas incluso pueden arrojar p\u00e9rdidas.<\/span><\/p>\n

El sector principal de la IA deber\u00eda ser independiente de la industria de la informaci\u00f3n y deber\u00eda abrirse cada vez m\u00e1s al transporte, la medicina, el tejido urbano y las industrias lideradas independientemente por la tecnolog\u00eda de IA. Estos sectores ya se est\u00e1n desarrollando en China.<\/span><\/p>\n

China representa m\u00e1s de un tercio de las empresas emergentes de IA del mundo. Y aunque la cantidad es alta, la calidad a\u00fan debe mejorarse. En primer lugar, los escenarios de aplicaci\u00f3n son limitados. Adem\u00e1s del reconocimiento facial, la seguridad, etc., otros campos no son f\u00e1ciles de usar y est\u00e1n expuestos a riesgos como 1) inseguridad de datos y 2) inseguridad del algoritmo. Estos dos aspectos son actualmente los principales factores que limitan el desarrollo de la industria de la IA, que corre el peligro de ser presa de hackers de origen conocido.<\/span><\/p>\n

Con respecto a la inseguridad de los datos, sabemos que el efecto de las aplicaciones de IA depende en gran medida de la calidad de los datos, lo que implica problemas de seguridad como la p\u00e9rdida de privacidad (es decir, la seguridad del Estado). Si no se resuelve el problema de la protecci\u00f3n de la privacidad, la industria de la IA no puede desarrollarse de manera saludable, ya que estar\u00eda trabajando para terceros \u00abdesconocidos\u00bb.<\/span><\/p>\n

Cuando iniciamos sesi\u00f3n en una p\u00e1gina web y nos dicen que lo m\u00e1s importante para ellos es la privacidad de los usuarios, esto es una mentira ya que incluso los hackers adolescentes conocen programas para violarla: al menos China nos habla de la risa de tales declaraciones pol\u00edticamente correctas.<\/span><\/p>\n

El segundo tema importante es la inseguridad del algoritmo. El llamado algoritmo inseguro es un modelo que se utiliza en condiciones espec\u00edficas y no funcionar\u00e1 si las condiciones son diferentes. Esto tambi\u00e9n se denomina \u201cinconsistencia\u201d, es decir, la vulnerabilidad del algoritmo al entorno de prueba.<\/span><\/p>\n

Tomando como ejemplo la conducci\u00f3n aut\u00f3noma, es imposible considerar todos los escenarios durante la formaci\u00f3n de IA y hacer frente a nuevas emergencias cuando se producen eventos inesperados. Al mismo tiempo, esta vulnerabilidad tambi\u00e9n hace que los sistemas de IA sean permeables a ataques, enga\u00f1os y fraudes.<\/span><\/p>\n

El problema de la seguridad en la IA no radica en los discursos y palabras vac\u00edos de los pol\u00edticos, sino que debe resolverse desde un punto de vista t\u00e9cnico. En esta distinci\u00f3n se basa la IA3.<\/span><\/p>\n

Tiene una ruta de desarrollo que combina la IA basada en el conocimiento de primera generaci\u00f3n y la IA basada en datos de segunda generaci\u00f3n. Utiliza los cuatro elementos -conocimiento, datos, algoritmos y potencia inform\u00e1tica- para establecer una nueva teor\u00eda y m\u00e9todos interpretables y robustos para una tecnolog\u00eda segura, cre\u00edble y confiable.<\/span><\/p>\n

Por el momento, la IA2 caracterizada por el aprendizaje profundo todav\u00eda se encuentra en una fase de crecimiento y, por lo tanto, surge la pregunta de si la industria puede aceptar el concepto de desarrollo de la IA3.<\/span><\/p>\n

Como se ha visto anteriormente, la IA se ha estado desarrollando durante m\u00e1s de 70 a\u00f1os y ahora parece ser un \u201cpr\u00f3logo\u201d.<\/span><\/p>\n

Actualmente la mayor\u00eda de la gente no es capaz de aceptar el concepto de IA3 porque todo el mundo esperaba m\u00e1s avances en la IA2. Todo el mundo sent\u00eda que la IA pod\u00eda seguir desarroll\u00e1ndose confiando en el aprendizaje y no en el procesamiento. Los primeros pasos de la IA3 en China tuvieron lugar a principios de 2015 y en 2018.<\/span><\/p>\n

La AI3 tiene que resolver problemas de seguridad desde un punto de vista t\u00e9cnico. En concreto, el enfoque consiste en combinar conocimientos y datos. Algunas investigaciones relacionadas se han llevado a cabo en China en los \u00faltimos cuatro o cinco a\u00f1os y los resultados tambi\u00e9n se han aplicado a nivel industrial. La plataforma de seguridad de datos RealSecure<\/em> y la plataforma de seguridad de algoritmos RealSafe<\/em> son evidencia directa de estos \u00e9xitos.<\/span><\/p>\n

Lo que hay que subrayar es que estas actividades s\u00f3lo pueden resolver problemas de seguridad particulares en circunstancias espec\u00edficas. En otras palabras, el problema de la seguridad de la IA a\u00fan no ha encontrado una soluci\u00f3n fundamental, y es probable que se convierta en un tema de larga duraci\u00f3n sin una soluci\u00f3n definitiva ya que \u2014s\u00f3lo para usar una met\u00e1fora\u2014 una vez que se encuentra el candado, siempre hay un ladr\u00f3n experto. En el futuro, el campo de la seguridad de la IA estar\u00e1 en un estado de confrontaci\u00f3n continua entre la infracci\u00f3n externa y la defensa interna, por lo tanto, los algoritmos deben actualizarse constante y continuamente.<\/span><\/p>\n

La progresi\u00f3n de la IA3 ser\u00e1 un proceso natural a largo plazo. Afortunadamente, sin embargo, hay una caracter\u00edstica importante de IA, es decir, que cada resultado puesto en la mesa siempre tiene un gran valor de aplicaci\u00f3n. Esta es tambi\u00e9n una de las razones importantes por las que todos los pa\u00edses conceden gran importancia al desarrollo de la IA, ya que su inter\u00e9s nacional y su independencia real est\u00e1n en juego.<\/span><\/p>\n

Con cambios en todo el mundo y una econom\u00eda global en profunda recesi\u00f3n debido a Covid-19, el pr\u00f3ximo 14\u00ba Plan Quinquenal (2021-25) de la Rep\u00fablica Popular China ser\u00e1 la hoja de ruta para alcanzar los objetivos de desarrollo del pa\u00eds en medio de la agitaci\u00f3n global.<\/span><\/p>\n

Dado que la IA est\u00e1 incluida en el plan antes mencionado, su desarrollo tambi\u00e9n abordar\u00e1 muchos \u201ccuellos de botella de seguridad\u201d. En primer lugar, existe una amplia brecha en la innovaci\u00f3n y aplicaci\u00f3n de la IA en el campo de la seguridad de la red, y muchos escenarios todav\u00eda est\u00e1n en la etapa de exploraci\u00f3n e investigaci\u00f3n acad\u00e9mica.<\/span><\/p>\n

En segundo lugar, la IA carece de una evaluaci\u00f3n sistem\u00e1tica de la seguridad y existen graves riesgos en todos los aspectos del software y el hardware. Adem\u00e1s, el entorno de investigaci\u00f3n e innovaci\u00f3n en materia de seguridad de la IA a\u00fan no est\u00e1 en su apogeo y la industria nacional china pertinente a\u00fan no est\u00e1 en la primera posici\u00f3n, buscando m\u00e1s experiencia.<\/span><\/p>\n

Desde 2017, en respuesta al Plan de Desarrollo de la IA3 emitido por el Consejo de Estado, 15 Ministerios y Comisiones, entre ellos el Ministerio de Ciencia y Tecnolog\u00eda, la Comisi\u00f3n de Desarrollo y Reforma, etc., han establecido conjuntamente una plataforma de innovaci\u00f3n. Esta plataforma est\u00e1 formada por empresas l\u00edderes en la industria, centr\u00e1ndose en la innovaci\u00f3n abierta en el segmento de IA.<\/span><\/p>\n

En la actualidad, gracias a esta plataforma, se han logrado muchos logros en el \u00e1mbito de la seguridad. Como primer equipo del mundo en llevar a cabo investigaciones sobre infraestructura de IA desde una perspectiva de implementaci\u00f3n del sistema, se han encontrado m\u00e1s de 100 vulnerabilidades en los principales marcos de aprendizaje autom\u00e1tico y componentes dependientes en China.<\/span><\/p>\n

El n\u00famero de vulnerabilidades hace que los investigadores chinos ocupen el primer lugar en el mundo. Al mismo tiempo, se est\u00e1 estudiando un futuro plan de innovaci\u00f3n -desarrollado y lanzado para abrir decenas de miles de millones de big data <\/em>de seguridad- para promover la soluci\u00f3n a aquellos problemas que necesitan actualizaciones continuas.<\/span><\/p>\n

El informe de trabajo del gobierno promueve la cooperaci\u00f3n acad\u00e9mica e impulsa a la industria y a las universidades a llevar a cabo investigaciones innovadoras sobre tres aspectos: a) comparaci\u00f3n de la seguridad del algoritmo de IA; 2) Detecci\u00f3n de seguridad de infraestructura de IA; 3) Aplicaciones de IA en escenarios clave de seguridad del ciberespacio.<\/span><\/p>\n

A trav\u00e9s de investigaciones te\u00f3ricas y b\u00e1sicas de \u00faltima generaci\u00f3n, tambi\u00e9n necesitamos proporcionar reservas t\u00e9cnicas para la construcci\u00f3n de plataformas b\u00e1sicas de hardware de IA y software de c\u00f3digo abierto (es decir, programas que no est\u00e1n protegidos por derechos de autor y pueden ser modificados libremente por los usuarios) y plataformas de detecci\u00f3n de seguridad de IA, a fin de reducir los riesgos inherentes a la tecnolog\u00eda de seguridad de IA y garantizar el desarrollo saludable de la propia IA.<\/span><\/p>\n

Con referencia espec\u00edfica a la seguridad, el 23 de marzo se anunci\u00f3 que los Ministros de Asuntos Exteriores chino y ruso hab\u00edan firmado una declaraci\u00f3n conjunta sobre diversas cuestiones actuales de gobernanza mundial.<\/span><\/p>\n

La declaraci\u00f3n subraya que la continua propagaci\u00f3n de la pandemia Covid-19 ha acelerado la evoluci\u00f3n de la escena internacional, ha causado un nuevo desequilibrio en el sistema de gobernanza global y ha afectado el proceso de desarrollo econ\u00f3mico, mientras que han surgido nuevas amenazas y desaf\u00edos globales uno tras otro y el mundo ha entrado en un per\u00edodo de cambios turbulentos. La declaraci\u00f3n hace un llamamiento a la comunidad internacional para dejar de lado las diferencias, construir el consenso, fortalecer la coordinaci\u00f3n, preservar la paz mundial y la estabilidad geoestrat\u00e9gica, as\u00ed como promover la construcci\u00f3n de un orden internacional multipolar m\u00e1s equitativo, democr\u00e1tico y racional.<\/span><\/p>\n

En vista de garantizar todo esto, la independencia consagrada por el derecho internacional obviamente no es suficiente, ni la posesi\u00f3n de disuasi\u00f3n nuclear. Lo que se necesita, en cambio, es el control absoluto de la seguridad de la informaci\u00f3n en el pa\u00eds, que a su vez orienta y dirige los sistemas de armas, cuyo control remoto es la presa codiciosa de los sospechosos habituales.<\/span><\/p>\n

\u00a0<\/p>\n

* <\/sup><\/em><\/strong>Copresidente del Consejo Asesor Honoris Causa. El Profesor Giancarlo Elia Valori es un eminente economista y empresario italiano. Posee prestigiosas distinciones acad\u00e9micas y \u00f3rdenes nacionales. Ha dado conferencias sobre asuntos internacionales y econom\u00eda en las principales universidades del mundo, como la Universidad de Pek\u00edn, la Universidad Hebrea de Jerusal\u00e9n y la Universidad Yeshiva de Nueva York. Actualmente preside el \u00abInternational World Group\u00bb, es tambi\u00e9n presidente honorario de Huawei Italia, asesor econ\u00f3mico del gigante chino HNA Group y miembro de la Junta de Ayan-Holding. En 1992 fue nombrado Oficial de la Legi\u00f3n de Honor de la Rep\u00fablica Francesa, con esta motivaci\u00f3n: \u201cUn hombre que puede ver a trav\u00e9s de las fronteras para entender el mundo\u201d y en 2002 recibi\u00f3 el t\u00edtulo de \u201cHonorable\u201d de la Academia de Ciencias del Instituto de Francia.<\/em><\/strong><\/span><\/p>\n

\u00a0<\/em><\/strong><\/span><\/p>\n

Art\u00edculo traducido al espa\u00f1ol por el Equipo de la SAEEG con expresa autorizaci\u00f3n del autor. Prohibida su reproducci\u00f3n.<\/em><\/strong><\/span>\u00a0<\/em><\/strong><\/span><\/p>\n

\u00a92021-saeeg\u00ae<\/strong><\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Giancarlo Elia Valori* En la tarde del 11 de diciembre de 2020, el Bur\u00f3 Pol\u00edtico del Comit\u00e9 Central del Partido Comunista de China (CPC) celebr\u00f3 la 26\u00aa Sesi\u00f3n de Estudio Colectivo dedicada a la seguridad nacional. En esa ocasi\u00f3n, el Secretario General del Comit\u00e9 Central del PCC, Xi Jinping, destac\u00f3 que la labor de seguridad … Seguir leyendo CHINA Y LA IA NECESITAN EN EL CAMPO DE LA SEGURIDAD<\/span> →<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[72,1200],"tags":[100,111,463,310],"class_list":["post-3403","post","type-post","status-publish","format-standard","hentry","category-china","category-inteligencia-artificial","tag-china","tag-desarrollo","tag-inteligencia-artificial","tag-seguridad"],"_links":{"self":[{"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/posts\/3403","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/comments?post=3403"}],"version-history":[{"count":0,"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/posts\/3403\/revisions"}],"wp:attachment":[{"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/media?parent=3403"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/categories?post=3403"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/saeeg.org\/index.php\/wp-json\/wp\/v2\/tags?post=3403"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}