•  |
  •  |

Por Paul Mozur

El Gobierno chino ha provocado una amplia condena por su severa represión de los musulmanes étnicos en su región occidental, incluyendo mantener a hasta un millón de ellos en campos de detención.

Ahora, documentos y entrevistas muestran que las autoridades también están usando un vasto y secreto sistema de tecnología avanzada de reconocimiento facial para rastrear y controlar a los uigures, una minoría principalmente musulmana. Es el primer ejemplo conocido de un Gobierno que intencionalmente utiliza la inteligencia artificial (IA) para identificar perfiles raciales, dijeron expertos.

La tecnología de reconocimiento facial, que está integrada en las redes en rápida expansión de cámaras de vigilancia de China, busca exclusivamente a uigures con base en su apariencia y mantiene registros de sus llegadas y salidas para investigación y revisión. La práctica convierte a China en pionera en la aplicación de tecnología de la siguiente generación para vigilar a su pueblo, con lo que potencialmente abre paso a una nueva era de racismo automatizado.

La tecnología y su uso para monitorear a los 11 millones de uigures de China fueron descritos por cinco personas con conocimiento directo de los sistemas, que solicitaron el anonimato por temor a represalias. The New York Times también revisó bases de datos empleadas por la Policía, documentos de adquisiciones del Gobierno y materiales publicitarios distribuidos por las compañías de inteligencia artificial que fabrican los sistemas.

Las autoridades chinas ya mantienen una amplia red de vigilancia, incluyendo rastrear el ADN de la gente, en la región occidental de Xinjiang, que muchos uigures consideran su hogar. Pero el alcance de los nuevos sistemas extiende ese monitoreo a muchos otros rincones del País.

La Policía ahora está usando tecnología de reconocimiento facial para enfocarse en los uigures en ciudades adineradas del este como Hangzhou y Wenzhou y en la provincia costera de Fujian, dijeron dos de las personas. La agencia de imposición de la ley en la ciudad central china de Sanmenxia, junto al Río Amarillo, operó un sistema que durante un mes este año revisó 500 mil veces si los residentes eran uigures.

Documentos policiacos muestran que la demanda por estas capacidades se está extendiendo. Casi dos docenas de Departamentos de Policía en 16 provincias y regiones por toda China buscaron obtener esta tecnología desde principios del 2018, de acuerdo con documentos de adquisiciones. Por ejemplo, la agencia de imposición de la ley de la provincia central de Shaanxi se propuso adquirir un sistema de cámaras inteligentes el año pasado que “debe soportar el reconocimiento facial para identificar atributos uigures/no-uigures”.

Algunos Departamentos de Policía y compañías de tecnología describieron la práctica como “identificación de minorías”, aunque tres de las personas dijeron que esa frase era un eufemismo para una herramienta que buscaba identificar exclusivamente a uigures. Los uigures a menudo tienen un aspecto distinto de la población mayoritaria han de China, al parecerse más a las personas de Asia Central. Esas diferencias hacen más fácil que el software los distinga.

Durante décadas, las democracias han tenido un cuasimonopolio de la tecnología de vanguardia. Hoy, una nueva generación de empresas de arranque que atienden las necesidades autoritarias de Beijing está estableciendo el tono para tecnologías emergentes como la inteligencia artificial. Herramientas similares podrían automatizar los prejuicios con base en color de piel y etnia en otras partes.

Desde el punto de vista de la tecnología, usar algoritmos para etiquetar a personas con base en raza y etnia se ha vuelto relativamente fácil. Compañías como IBM anuncian software que puede clasificar a las personas en grupos amplios.

Pero China ha abierto nuevos caminos al identificar a un grupo étnico para propósitos de imposición de la ley. Una startup china, CloudWalk, delineó una experiencia de muestra en la mercadotecnia de sus propios sistemas de vigilancia. Informó que la tecnología podía reconocer “grupos sensibles de personas”.

“Si originalmente un uigur vive en un vecindario, y en un lapso de 20 días aparecen seis uigures”, señalaba la empresa en su sitio en internet, “inmediatamente envía alarmas” a las agencias de imposición de la ley.

En la práctica, los sistemas son imperfectos, dijeron dos de las personas. Con frecuencia, su precisión depende de factores ambientales, como la iluminación y la colocación de las cámaras.

En Estados Unidos y Europa, el debate en la comunidad de inteligencia artificial se ha centrado en los prejuicios inconscientes de quienes diseñan la tecnología.

Los esfuerzos de China plantean cuestiones más crudas. Mientras que la tecnología de reconocimiento facial utiliza aspectos como el color de piel y los rasgos faciales para clasificar imágenes, los humanos deben decirle que categorice a las personas con base en definiciones sociales de raza o etnia. La Policía china, con la ayuda de las startups, ha hecho eso.

Entre las compañías chinas de IA detrás del software figuran Yitu, Megvii, SenseTime y CloudWalk, cada una valuada en más de mil millones de dólares.

Las valuaciones de las compañías se dispararon en el 2018 cuando el Ministerio de Seguridad Pública de China, su principal agencia policiaca, reservó miles de millones de dólares para computarizar la vigilancia, el control policiaco y la recopilación de información de inteligencia.

Una vocera de SenseTime dijo que sus equipos no estaban enterados de que su tecnología era usada para identificar perfiles. Megvii señaló que estaba enfocada en “soluciones comerciales, no políticas”, y añadió, “estamos preocupados por el bienestar y la seguridad de los ciudadanos individuales”. CloudWalk y Yitu no hicieron comentarios.

Sin embargo, las compañías ayudan a avanzar la arquitectura de China para el control social.

China ha destinado importantes recursos al monitoreo de uigures, aduciendo violencia étnica en Xinjiang y ataques terroristas uigures en otros lugares. Beijing ha colocado a cientos de miles de uigures y otras personas de Xinjiang en campamentos de reeducación.

El software extiende al resto del País la habilidad del Estado para etiquetar a uigures. Una base de datos almacena los rostros de todos los uigures que salen de Xinjiang, de acuerdo con dos de las personas.

En dos condados de la Provincia de Guizhou, la Policía listó la necesidad de clasificación de uigures. Uno pidió la habilidad para reconocer a uigures con base en fotos de identificación con una precisión mayor al 97 por ciento. En la megaciudad central de Chongqing y la región del Tíbet, la Policía ofreció licitaciones para software similar. Y un documento de adquisiciones para la Provincia de Hebei describió cómo la Policía debería ser notificada cuando varios uigures reservaran el mismo vuelo para el mismo día.

Una base de datos generada por Yitu mostraba cómo la Policía en la ciudad de Sanmenxia utilizó software que opera en cámaras para identificar residentes más de 500 mil veces durante aproximadamente un mes a partir de mediados de febrero. El software supuso que vio uigures 2 mil 834 veces.

Yitu y sus rivales tienen ambiciones para expandirse al extranjero. Tal impulso podría poner fácilmente el software para identificar perfiles étnicos en manos de otros gobiernos, dijo Jonathan Frankle, investigador en el Instituto Tecnológico de Massachusetts.

“No creo que sea exagerado tratar esto como una amenaza existencial a la democracia”, dijo Frankle. “Una vez que un país adopta un modelo en este modo estricto y autoritario, está usando datos para imponer el pensamiento y reglas de una forma mucho más arraigada que lo que podría haber sido posible hace 70 años en la Unión Soviética. A ese grado, esto es una crisis urgente a la que estamos entrando poco a poco como sonámbulos”.

 The New York Times