Tecnología

La distopía del sueño en China: Inteligencia Artificial, vergüenza y muchas cámaras

Por Paul Mozur  | New York Times


ZHENGZHOU, China – En la ciudad china de Zhengzhou, un oficial de policía con gafas de reconocimiento facial vio a un contrabandista de heroína en una estación de tren.

En Qingdao, una ciudad famosa por su herencia colonial alemana, las cámaras con inteligencia artificial ayudaron a la policía a arrestar a dos docenas de sospechosos criminales en medio de un gran festival anual de cerveza.

En Wuhu, un sospechoso de asesinato fugitivo fue identificado por una cámara cuando compraba comida a un vendedor ambulante.

Con millones de cámaras y miles de millones de líneas de código, China está construyendo un futuro autoritario de alta tecnología. Beijing está adoptando tecnologías como el reconocimiento facial y la inteligencia artificial para identificar y rastrear a 1,4 mil millones de personas. Quiere armar un vasto y sin precedentes sistema de vigilancia nacional, con ayuda crucial de su próspera industria tecnológica.

“En el pasado, todo era instinto”, dijo Shan Jun, el subjefe de la policía en la estación de ferrocarril de Zhengzhou, donde fue capturado el contrabandista de heroína. “Si te perdiste algo, te lo perdiste”.

China está invirtiendo la visión común de la tecnología como un gran democratizador, brindando a las personas más libertad y conectándolas al mundo. En China, ha traído el control.

Empleados de Megvii en las oficinas de la compañía en Beijing. CréditoGilles Sabrié para The New York Times

En algunas ciudades, las cámaras escanean las estaciones de tren para los más buscados de China. Las pantallas del tamaño de una cartelera muestran las caras de los jaywalkers y enumeran los nombres de las personas que no pueden pagar sus deudas. Los escáneres de reconocimiento facial protegen las entradas a los complejos de viviendas. China ya tiene aproximadamente 200 millones de cámaras de vigilancia, cuatro veces más que los Estados Unidos.

Dichos esfuerzos complementan a otros sistemas que rastrean el uso de Internet y las comunicaciones, estadías en hoteles, viajes en tren y avión e incluso viajes en automóvil en algunos lugares.

Aun así, las ambiciones de China superan sus capacidades. La tecnología instalada en una estación de tren o paso de peatones puede faltar en otra ciudad, o incluso en la próxima cuadra. Las ineficiencias burocráticas impiden la creación de una red nacional.

Para el Partido Comunista, eso puede no importar. Lejos de ocultar sus esfuerzos, las autoridades chinas regularmente afirman y exageran sus capacidades. En China, incluso la percepción de la vigilancia puede mantener al público en línea.

Algunos lugares están más avanzados que otros. El software invasivo de vigilancia masiva se ha establecido en el oeste para rastrear a los miembros de la minoría musulmana uigur y mapear sus relaciones con amigos y familiares, de acuerdo con el software visto por The New York Times.

“Esta es una forma potencialmente totalmente nueva para que el gobierno administre la economía y la sociedad”, dijo Martin Chorzempa, miembro del Instituto Peterson de Economía Internacional.

“El objetivo es la gobernanza algorítmica”, agregó.

Agentes de policía que usan anteojos inteligentes accionados por Inteligencia Artificial en Luoyang. CreditReuters

El juego de la vergüenza

La intersección al sur del puente Changhong en la ciudad de Xiangyang solía ser una pesadilla. Los autos conducían rápido y los jaywalkers salían corriendo a la calle.

Luego, el verano pasado, la policía colocó cámaras conectadas a la tecnología de reconocimiento facial y una gran pantalla exterior. Se mostraron fotos de infractores de la ley junto con su nombre y número de identificación del gobierno. Inicialmente, la gente estaba emocionada de ver sus caras en el tablero, dijo Guan Yue, una portavoz, hasta que los medios de propaganda les dijeron que era un castigo.

“Si eres capturado por el sistema y no lo ves, tus vecinos o colegas lo harán, y lo chismorrearán”, dijo. “Es demasiado embarazoso para la gente”.

La nueva vigilancia de China se basa en una vieja idea: solo una autoridad fuerte puede poner orden en un país turbulento. Mao Zedong llevó esa filosofía a fines devastadores, ya que su regla descendente trajo hambre y luego la Revolución Cultural.

Sus sucesores también anhelaron el orden pero temieron las consecuencias del gobierno totalitario. Ellos formaron un nuevo entendimiento con el pueblo chino. A cambio de la impotencia política, en su mayoría serían dejados solos y se les permitiría hacerse ricos.

Funcionó. La censura y los poderes de la policía se mantuvieron fuertes, pero la gente de China aún encontró más libertad. Esa nueva actitud ayudó a marcar el comienzo de décadas de crecimiento económico vertiginoso.

Hoy, ese acuerdo no escrito se está desmoronando.

La economía de China no está creciendo al mismo ritmo. Sufre de una brecha de riqueza severa. Después de cuatro décadas de salarios más altos y una vida mejor, su gente tiene expectativas más altas.

Los turistas esperan para visitar el Mausoleo de Mao en Beijing, bajo un poste con 11 cámaras de vigilancia. CréditoGilles Sabrié para The New York Times

Xi Jinping, el principal líder de China, se ha movido para consolidar su poder. Los cambios en la ley china significan que podría gobernar más tiempo que cualquier líder desde Mao. Y ha emprendido una amplia campaña de corrupción que podría hacerle muchos enemigos.

Como apoyo, ha recurrido a las creencias de la era Mao sobre la importancia de un culto a la personalidad y el papel del Partido Comunista en la vida cotidiana. La tecnología le da el poder para hacerlo realidad.

“La reforma y la apertura ya han fallado, pero nadie se atreve a decirlo”, dijo el historiador chino Zhang Lifan, citando la política de cuatro décadas posterior a Mao en China. “El sistema actual ha creado una severa segregación social y económica. Entonces ahora los gobernantes usan el dinero de los contribuyentes para monitorear a los contribuyentes “.

El Sr. Xi lanzó una importante actualización del estado de vigilancia chino. China se ha convertido en el mayor mercado mundial de tecnología de seguridad y vigilancia, y los analistas estiman que el país tendrá casi 300 millones de cámaras instaladas para 2020. Los compradores chinos tomarán más de las tres cuartas partes de todos los servidores diseñados para escanear imágenes de rostros, predice IHS Markit, una firma de investigación. La policía china gastará $ 30 mil millones adicionales en los próximos años en espionaje habilitado por tecnología, según un experto citado en los medios estatales.

Los contratos gubernamentales están impulsando la investigación y el desarrollo en tecnologías que rastrean rostros, vestimenta e incluso la forma de andar de una persona. Han comenzado a aparecer aparatos experimentales, como gafas de reconocimiento facial.

Juzgar la reacción pública china puede ser difícil en un país donde los medios de comunicación son controlados por el gobierno. Sin embargo, hasta ahora, el ciudadano chino promedio parece mostrar poca preocupación. La aplicación errática de leyes contra todo, desde el exceso de velocidad hasta el asalto, significa que el brazo largo del gobierno autoritario de China puede sentirse alejado de la vida cotidiana. Como resultado, muchos animan a nuevos intentos de ley y orden.

“Es una de las intersecciones más grandes de la ciudad”, dijo Wang Fukang, un estudiante universitario que se ofreció de voluntario como guardia en el paso de peatones en Xiangyang. “Es importante que se mantenga seguro y ordenado”.

En la sede de Shanghai de la empresa de inteligencia artificial Yitu, una red de cámaras conectadas a un sistema de reconocimiento facial monitorea a los empleados y puede rastrear sus movimientos en la oficina. CréditoGilles Sabrié para The New York Times

La puesta en marcha de la vigilancia

Las empresas emergentes suelen insistir en que sus empleados utilicen su tecnología. En Shanghai, una compañía llamada Yitu ha llevado eso al extremo.

Los pasillos de sus oficinas están salpicados de cámaras en busca de caras.Desde el escritorio hasta la sala de descanso para salir, los caminos de los empleados se trazan en una pantalla de televisión con líneas punteadas azules. El monitor muestra sus idas y venidas, todo el día, todos los días.

En China, fisgonear se está convirtiendo en un gran negocio. A medida que el país gasta mucho en vigilancia, una nueva generación de nuevas empresas ha aumentado para satisfacer la demanda.

Las empresas chinas están desarrollando aplicaciones competitivas a nivel mundial, como reconocimiento de imagen y voz. Yitu obtuvo el primer lugar en un concurso abierto de 2017 para algoritmos de reconocimiento facial realizado por la Oficina del Director de Inteligencia Nacional del gobierno de los Estados Unidos. Varias otras compañías chinas también obtuvieron buenos puntajes.

Un auge tecnológico en China está ayudando a las ambiciones de vigilancia del gobierno. A gran escala e inversión, China ya rivaliza con Silicon Valley. Entre el gobierno y los inversores entusiastas, las empresas de nueva creación tienen acceso a una gran cantidad de dinero y otros recursos.

En mayo, la advenediza compañía de inteligencia artificial SenseTime recaudó $ 620 millones, lo que le valió unos $ 4,5 mil millones. Yitu recaudó $ 200 millones el mes pasado. Otro rival, Megvii, recaudó $ 460 millones de inversores que incluían un fondo respaldado por el Estado creado por los principales líderes de China.

En una conferencia en mayo en un hotel de lujo en Beijing, el complejo industrial de seguridad de China ofreció su visión del futuro. Empresas grandes y pequeñas exhibieron puertas de seguridad de reconocimiento facial y sistemas que rastrean autos en las ciudades a funcionarios del gobierno local, ejecutivos de tecnología e inversionistas.

Las empresas privadas ven un gran potencial en la construcción de vigilancia de China. El mercado de seguridad pública de China fue valorado en más de $ 80 mil millones el año pasado, pero podría valer incluso más a medida que el país desarrolle sus capacidades, dijo Shen Xinyang, un ex científico de datos de Google que ahora es director de tecnología de Eyecool, una nueva empresa.

“La inteligencia artificial para la seguridad pública es en realidad una parte muy insignificante de todo el mercado”, dijo, señalando que la mayoría de los equipos actualmente en uso era “no inteligente”.

Muchas de estas empresas ya están proporcionando datos al gobierno.

El Sr. Shen le dijo al grupo que su compañía tenía sistemas de vigilancia en más de 20 aeropuertos y estaciones de trenes, lo que había ayudado a atrapar a 1,000 criminales. Eyecool, dijo, también está entregando más de dos millones de imágenes faciales cada día a un sistema policial de gran tamaño llamado Skynet.

En un complejo de edificios en Xiangyang, un sistema de reconocimiento facial creado para permitir que los residentes crucen rápidamente las puertas de seguridad se suma a la colección de fotos de la policía de los residentes locales, según funcionarios locales del Partido Comunista Chino.

Wen Yangli, un ejecutivo de Number 1 Community, que fabrica el producto, dijo que la compañía está trabajando en otras aplicaciones. Uno detectaría cuando las multitudes de personas están chocando. Otro permitiría a la policía usar mapas virtuales de edificios para descubrir quién vive allí.

Las compañías de vigilancia de China también buscan probar el apetito por la vigilancia de alta tecnología en el exterior. Yitu dice que ha estado expandiéndose en el extranjero, con planes para aumentar los negocios en regiones como el sudeste asiático y el Medio Oriente.

En casa, China prepara a su gente para la tecnología de vigilancia de siguiente nivel. Una reciente película de propaganda de los medios estatales llamada “Amazing China” mostró un mapa virtual similar que proporcionó a la policía registros del uso de servicios públicos, diciendo que podría ser utilizado para la vigilancia predictiva.

“Si hay anomalías, el sistema envía una alerta”, dice un narrador, mientras policías chinos visitan un departamento con un historial de uso errático de servicios. La película luego cita a uno de los oficiales: “No importa a qué esquina escales, te llevaremos ante la justicia”.

Un video que muestra el software de reconocimiento facial en uso en el showroom de Megvii en Beijing. CréditoGilles Sabrié para The New York Times

Ingresa el panóptico

Para que la tecnología sea efectiva, no siempre tiene que funcionar. Tome las gafas de reconocimiento facial de China.

La policía en la ciudad central china de Zhengzhou recientemente mostró las especificaciones en una estación de tren de alta velocidad para los medios estatales y otros. Tomaron fotos de una mujer policía mirando por detrás de las lentes sombreadas.

Pero las gafas solo funcionan si el objetivo se detiene por varios segundos. Se han utilizado principalmente para controlar a los viajeros en busca de identificaciones falsas.

La base de datos nacional de China de personas a las que ha marcado para que la mire -incluidos los sospechosos de terrorismo, delincuentes, narcotraficantes, activistas políticos y otros- incluye entre 20 y 30 millones de personas, dijo un ejecutivo de tecnología que trabaja estrechamente con el gobierno. Esa es demasiada gente para que la tecnología actual de reconocimiento facial lo analice, dijo el ejecutivo, que pidió no ser identificado porque la información no era pública.

El sistema sigue siendo más un mosaico digital que una red tecnológica que todo lo ve. Muchos archivos aún no están digitalizados, y otros están en hojas de cálculo no coincidentes que no se pueden conciliar fácilmente. Los sistemas que la policía espera que algún día sean alimentados por inteligencia artificial son actualmente administrados por equipos de personas que clasifican las fotos y los datos a la antigua usanza.

Tome, por ejemplo, el cruce de peatones en Xiangyang. Las imágenes no aparecen instantáneamente. La cartelera a menudo muestra jaywalkers de hace semanas, aunque recientemente las autoridades redujeron el retraso a unos cinco o seis días. Las autoridades dijeron que los humanos aún revisan las imágenes para unirlas con las identidades de las personas.

Aún así, las autoridades chinas que generalmente son parcas de la seguridad se han embarcado en una campaña para convencer a la gente del país de que el estado de seguridad de alta tecnología ya está en funcionamiento.

Los propagandistas de China son aficionados a las historias en las que la policía utiliza el reconocimiento facial para detectar delincuentes buscados en los eventos. Un artículo en el People's Daily, el periódico oficial del Partido Comunista, cubrió una serie de arrestos realizados con la ayuda del reconocimiento facial en los conciertos de la estrella pop Jackie Cheung. La pieza hace referencia a algunas de las letras del cantante: “Eres una red ilimitada de amor que me atrapó fácilmente”.

En muchos lugares, funciona. En la intersección en Xiangyang, el cruce ilegal ha disminuido. En el complejo de edificios donde se instaló el sistema de puerta de reconocimiento facial Number 1 Community, un problema con el robo de bicicletas cesó por completo, de acuerdo con la administración del edificio.

Una pantalla al aire libre en Xiangyang muestra fotos de jaywalkers junto con sus nombres y números de identificación.La idea es avergonzar a los delincuentes para que cumplan. CréditoGilles Sabrié para The New York Times

“El punto es que las personas no saben si están siendo monitoreadas, y esa incertidumbre hace que las personas sean más obedientes”, dijo el Sr. Chorzempa, compañero del Instituto Peterson.

Describió el enfoque como un panóptico, la idea de que las personas seguirán las reglas precisamente porque no saben si están siendo observadas.

En Zhengzhou, la policía se complació en explicar cómo solo el pensamiento de las gafas de reconocimiento facial podía hacer confesar a los delincuentes.

Shan, el jefe de policía adjunto de la estación ferroviaria de Zhengzhou, citó el momento en que su departamento agarró a un contrabandista de heroína. Mientras interrogaba al sospechoso, dijo el Sr. Shan, la policía sacó las gafas y le dijo al hombre que lo que dijo no importaba. Las gafas podrían darles toda la información que necesitaban.

“Debido a que temía que la tecnología avanzada lo descubriera, confesó”, dijo el Sr. Shan, agregando que el sospechoso se había tragado 60 pequeños paquetes de heroína.

“Ni siquiera usamos ninguna técnica de interrogatorio”, dijo Shan. “Simplemente se dio por vencido”.

Carolyn Zhang contribuyó con informes de Zhengzhou.

SaveSave

Share:

Deja un comentario

This site uses Akismet to reduce spam. Learn how your comment data is processed.

A %d blogueros les gusta esto: