Microsoft, el gigante tecnológico estadounidense, ha hecho equipo con una universidad militar china para desarrollar sistemas de inteligencia artificial que potencialmente podrían mejorar la vigilancia gubernamental y las capacidades de censura. Dos senadores estadounidenses condenaron públicamente la sociedad, pero lo que la Universidad de China de Tecnología de Defensa Nacional quiere de Microsoft no es la única preocupación.

Como lo muestra mi investigación, el advenimiento de la represión digital afecta profundamente la relación entre ciudadano y estado. Las nuevas tecnologías arman a los gobiernos con capacidades sin precedentes para monitorear, rastrear y vigilar a los individuos. Incluso los gobiernos en democracias con fuertes tradiciones del estado de derecho se ven tentados a abusar de estas nuevas capacidades.

En los estados con incontables instituciones y abusos frecuentes de los derechos humanos, los sistemas de inteligencia artificial con toda probabilidad provocarán mayor daño. China es un ejemplo destacado. Sus líderes han abrazado entusiastamente las tecnologías de inteligencia artificial, y han establecido el estado vigilante más sofisticado del mundo en la provincia de Xinjiang, rastreando los movimientos diarios de los ciudadanos y su uso de los teléfonos inteligentes.

Su explotación de estas tecnologías presenta un modelo escalofriante para sus colegas autócratas y presenta una amenaza directa a las sociedades democráticas abiertas. Aun cuando no hay evidencia de que otros gobiernos hayan duplicado este grado de vigilancia con inteligencia artificial, las compañías chinas exportan activamente las mismas tecnologías subyacentes a todo el mundo.

Lee: ¿Black Mirror en China? 1,400 millones de ciudadanos serán monitoreados para obtener beneficios

Dependencia cada vez mayor en herramientas de inteligencia artificial en Estados Unidos

Los sistemas de inteligencia artificial están en todas partes en el mundo moderno, ayudando a operar los teléfonos inteligentes, los motores de búsqueda internet, los asistentes de voz digitales y las listas de películas de Netflix. Muchas personas no alcanzan a percatarse de la rapidez con que se expande la inteligencia artificial, gracias a las cantidades siempre crecientes de datos que analizar, los algoritmos mejorados y los chips de computadora avanzados.

Cada vez que hay más información disponible y el análisis se facilita, los gobiernos se interesan, y no solo los autoritarios. Por ejemplo, en Estados Unidos, en la década de 1970 hubo revelaciones de que agencias del gobierno —como el FBI, la CIA y la Agencia de Seguridad Nacional (NSA)— habían establecido redes amplias de vigilancia doméstica para monitorear y acosar a manifestantes por los derechos civiles, activistas políticos y grupos nativos americanos. Estos problemas no han desaparecido: la tecnología digital hoy día ha aumentado la capacidad de que todavía más agencias lleven a cabo una vigilancia todavía más invasiva.

Por ejemplo, la policía estadounidense ha abrazado entusiastamente las tecnologías de inteligencia artificial. Ha empezado a usar software destinado a predecir dónde sucederán crímenes para decidir dónde enviar oficiales a patrullar. También usa reconocimiento facial y análisis de ADN en investigaciones criminales. Pero los análisis de estos sistemas muestran que los datos en que están entrenados los sistemas a menudo están predispuestos, llevando a resultados injustos, como determinar falsamente que los afroestadounidenses tienen más posibilidades de cometer crímenes que otros grupos.

La vigilancia con inteligencia artificial alrededor del mundo

En países autoritarios, los sistemas de inteligencia artificial pueden inducir directamente el control y la vigilancia doméstica, ayudando a las fueras de seguridad interna a procesar cantidades enormes de información —incluidas publicaciones en redes sociales, mensajes de texto, correos electrónicos y llamadas telefónicas— con más rapidez y eficiencia. La policía puede identificar tendencias sociales y personas específicas que podrían amenazar al régimen con base en la información descubierta por estos sistemas.

Por ejemplo, el gobierno chino ha usado la inteligencia artificial en represiones a gran escala en regiones que albergan a las minorías étnicas de China. Los sistemas de vigilancia en Xinjiang y Tíbet se han descrito como “orwellianos”. Estas acciones incluyen muestras obligatorias de ADN, monitoreo de redes Wi-Fi y la diseminación de cámaras de reconocimiento facial, todas conectadas a plataformas integradas de análisis de datos. Con la ayuda de estos sistemas, las autoridades chinas, según el Departamento de Estado de Estados Unidos, han “detenido arbitrariamente” entre 1 y 2 millones de personas.

Mi investigación revisó 90 países de todo el mundo con tipos de gobierno que van desde autoritarismo cerrado hasta democracias fallidas, incluidos Tailandia, Turquía, Bangladesh y Kenia. He descubierto que las compañías chinas exportan tecnología de inteligencia artificial para vigilancia a por lo menos 54 de esos países. Frecuentemente, esta tecnología es ofrecida como parte de la Iniciativa del Cinturón y Ruta insignia de China, la cual financia una red extensa de de caminos, vías férreas, ductos energéticos y redes de telecomunicaciones que sirven al 60 por ciento de la población mundial y a economías que generan el 40 por ciento del PIB mundial.

Te puede interesar: Automatización laboral en México: ¿Nos preparamos para ser reemplazados por robots?

Por mencionar un caso, compañías chinas como Huawei y ZTE construyen “ciudades inteligentes” en Pakistán, Filipinas y Kenia, las cuales cuentan con extensa tecnología de vigilancia incorporada. Por ejemplo, Huawei ha equipado a la Ciudad Global Bonifacio en Filipinas con cámaras de alta definición conectadas a internet que proveen “vigilancia de seguridad inteligente las 24 horas toda la semana con análisis de datos para detectar crímenes y ayudar a manejar el tránsito”.

Hikvision, Yitu y SenseTime proveen cámaras de reconocimiento facial de vanguardia para usarlas en lugares como Singapur, la cual anunció el establecimiento de un programa de vigilancia con 110,000 cámaras montadas en postes de luz por toda la ciudad-estado. Zimbabue está creando una base de datos nacional de imágenes que podría usarse para reconocimiento facial.

Sin embargo, vender equipo avanzado por lucro es diferente a compartir tecnología con un propósito geopolítico expreso. Estas capacidades nuevas podrían plantar las semillas de la vigilancia mundial. Conforme los gobiernos dependan cada vez más en la tecnología china para manejar a sus poblaciones y conservar el poder, enfrentarán una presión más grande para alinearse a la agenda de China. Pero, por ahora, parece que el motivo principal de China es dominar el mercado de las tecnologías nuevas y ganar muchísimo dinero con ello.

Inteligencia artificial y desinformación

Además de proveer capacidades de vigilancia que sean tanto de gran alcance como detalladas, la inteligencia artificial puede ayudar a los gobiernos represores a manipular la información disponible y difundir desinformación. Estas campañas pueden ser automatizadas o asistidas por automatización, y desplegar mensajes híper personalizados dirigidos a —o en contra de— grupos específicos de personas.

También lee: China recluta a sus jóvenes más brillantes para desarrollar armas de inteligencia artificial

La inteligencia artificial también apuntala la tecnología llamada comúnmente “falsificación profunda”, en la que los algoritmos crean falsificaciones realistas en video y audio. Enturbiar las aguas entre la verdad y la ficción podría volverse útil en una elección reñida, en la que un candidato podría crear videos falsos mostrando a un oponente haciendo y diciendo cosas que en realidad nunca sucedieron.

En mi opinión, los legisladores en las democracias deberían pensar cuidadosamente sobre los riesgos de los sistemas de inteligencia artificial para sus propias sociedades y para quienes viven bajo regímenes autoritarios alrededor del mundo. Una cuestión crucial es cuántos países adoptarán el modelo de China de vigilancia digital. Pero no son solo los países autoritarios los que sienten la atracción. Y tampoco son solo compañías chinas las que difunden esta tecnología: muchas compañías estadounidenses, incluida Microsoft, pero también IBM, Cisco y Thermo Fisher, han provisto capacidades sofisticadas a gobiernos desagradables. El mal uso de la inteligencia artificial no se limita a estados autocráticos.

Steven Feldstein, presidente de Asuntos Públicos y profesor adjunto de la cátedra Frank and Bethine Church, Escuela de Servicio Público, Universidad Estatal de Boise.

Este artículo se publicó originalmente en The Conversation y se publica aquí bajo una licencia de Creative Commons. Lee el artículo original.

—

Publicado en cooperación con Newsweek