Cómo la inteligencia artificial reconfigurará el orden global La próxima competencia entre el

autoritarismo digital y la democracia liberal

Por Nicholas Wright

El debate sobre los efectos de la inteligencia artificial ha estado dominado por dos temas.

Uno es el miedo a una singularidad, un evento en el que una IA excede la inteligencia humana
y escapa al control humano, con consecuencias posiblemente desastrosas. El otro es la
preocupación

que una nueva revolución industrial permitirá que las máquinas interrumpan y reemplacen a
los humanos en todas las áreas de la sociedad, o casi en todas, desde el transporte al ejército y
la atención médica.

También hay una tercera forma en que AI promete remodelar el mundo. Al permitir que los
gobiernos supervisen, comprendan y controlen a sus ciudadanos mucho más de cerca que
nunca, AI ofrecerá a los países autoritarios una alternativa plausible a la democracia liberal, la
primera desde el final de la Guerra Fría. Eso provocará una renovada competencia
internacional entre los sistemas sociales.

Durante décadas, la mayoría de los teóricos políticos han creído que la democracia liberal
ofrece el único camino hacia el éxito económico sostenido. Cualquiera de los gobiernos podría
reprimir a su pueblo y seguir siendo pobre o liberarlo y cosechar los beneficios económicos.
Algunos países represivos lograron hacer crecer sus economías por un tiempo, pero a la larga
el autoritarismo siempre significó estancamiento. AI promete cambiar esa dicotomía. Ofrece
una forma plausible para que los países grandes y económicamente avanzados enriquezcan a
sus ciudadanos mientras mantienen el control sobre ellos.

Algunos países ya se están moviendo en esta dirección. China ha comenzado a construir un

estado autoritario digital mediante el uso de herramientas de vigilancia y aprendizaje
automático para controlar poblaciones inquietas, y creando lo que llama un "sistema de
crédito social". Varios países de ideas afines han comenzado a comprar o emular sistemas
chinos. Así como la competencia entre los sistemas sociales liberales, democráticos, fascistas y
comunistas definió gran parte del siglo XX, la lucha entre la democracia liberal y el
autoritarismo digital definirá el XXI.

AUTORITARISMO DIGITAL

Las nuevas tecnologías permitirán altos niveles de control social a un costo razonable.

Los gobiernos podrán censurar selectivamente temas y comportamientos para permitir que la
información de las actividades económicamente productivas fluya libremente, al tiempo que
frena las discusiones políticas que podrían dañar el régimen. El llamado Gran Firewall de China
ofrece una demostración temprana de este tipo de censura selectiva.
Además de censurar retroactivamente el habla, la inteligencia artificial y los grandes datos
permitirán el control predictivo de los posibles disidentes. Esto se parecerá a la orientación al
consumidor de Amazon o Google, pero será mucho más eficaz, ya que los gobiernos
autoritarios podrán recurrir a datos de formas que no están permitidas en las democracias
liberales. Amazon y Google solo tienen acceso a los datos de algunas cuentas y dispositivos;
Una IA diseñada para el control social extraerá datos de la multiplicidad de dispositivos con los
que alguien interactúa durante su vida diaria. Y aún más importante, los regímenes
autoritarios no tendrán reparo en combinar dichos datos con información de declaraciones de
impuestos, registros médicos, antecedentes penales, clínicas de salud sexual, extractos
bancarios, exámenes genéticos, información física (como ubicación, biometría y monitoreo de
CCTV). usando software de reconocimiento facial) e información obtenida de familiares y
amigos. La IA es tan buena como los datos a los que tiene acceso. Desafortunadamente, la
cantidad y calidad de los datos disponibles para los gobiernos sobre cada ciudadano resultará
excelente para capacitar a los sistemas de IA.

Incluso la mera existencia de este tipo de control predictivo ayudará a los autoritarios. La
autocensura fue quizás el mecanismo disciplinario más importante de la Stasi de Alemania
Oriental.

La IA hará que la táctica sea dramáticamente más efectiva. Las personas sabrán que el
monitoreo omnipresente de sus actividades físicas y digitales se utilizará para predecir
comportamientos no deseados, incluso acciones que simplemente están contemplando. Desde
una perspectiva técnica, tales predicciones no son diferentes del uso de sistemas de atención
médica de IA para predecir enfermedades en personas aparentemente sanas antes de que
aparezcan sus síntomas.

Para evitar que el sistema haga predicciones negativas, muchas personas comenzarán a imitar
los comportamientos de un miembro "responsable" de la sociedad. Estos pueden ser tan
sutiles como cuánto tiempo se miran los diferentes elementos en la pantalla de un teléfono.
Esto mejorará el control social no solo al obligar a las personas a actuar de ciertas maneras,
sino también al cambiar su forma de pensar. Un hallazgo central en la ciencia cognitiva de la
influencia es que hacer que las personas realicen comportamientos puede cambiar sus
actitudes y conducir a hábitos de auto-refuerzo.

Hacer que las personas expongan una posición las hace más propensas a apoyarla, una técnica
utilizada por los chinos en los prisioneros de guerra estadounidenses durante la Guerra de
Corea. Los vendedores saben que lograr que un cliente potencial realice comportamientos
pequeños puede cambiar las actitudes hacia solicitudes más grandes y posteriores. Más de 60
años de trabajo de laboratorio y de campo han demostrado la notable capacidad de los
humanos para racionalizar sus comportamientos.

Además de un control más efectivo, AI también promete una mejor planificación económica
central. Como afirma Jack Ma, fundador del titán tecnológico chino Alibaba, con suficiente
información, las autoridades centrales pueden dirigir la economía planificando y prediciendo
las fuerzas del mercado.
En lugar de planes lentos, inflexibles, de talla única, AI promete respuestas rápidas y detalladas
a las necesidades de los clientes.

No hay garantía de que este tipo de autoritarismo digital funcione a largo plazo, pero puede
que no sea necesario, siempre que sea un modelo plausible al que algunos países puedan
aspirar. Eso será suficiente para provocar una nueva competencia ideológica. Si los gobiernos
comienzan a ver el autoritarismo digital como una alternativa viable a la democracia liberal, no
sentirán presión para liberalizar. Incluso si el modelo falla al final, los intentos de
implementarlo podrían durar mucho tiempo. Los modelos comunistas y fascistas colapsaron
solo después de que los intentos exhaustivos de implementarlos fallaran en el mundo real.

CREAR Y EXPORTAR UN ESTADO QUE TODO LO VE

No importa cuán útil pueda ser un sistema de control social para un régimen, construir uno no
sería fácil. Los grandes proyectos de TI son notoriamente difíciles de llevar a cabo. Requieren
altos niveles de coordinación, financiación generosa y mucha experiencia. Para tener una idea
de si ese sistema es factible, vale la pena mirar a China, el país no occidental más importante
que podría construir uno.

China ha demostrado que puede entregar grandes proyectos de TI que abarcan la sociedad,
como el Gran Firewall. También tiene los fondos para construir nuevos sistemas importantes.
El año pasado, el presupuesto de seguridad interna del país fue de al menos $ 196 mil
millones, un aumento del 12 por ciento desde 2016. Mucho

del salto probablemente fue impulsado por la necesidad de nuevas plataformas de big data.
China también tiene experiencia en inteligencia artificial. Las empresas chinas son líderes
mundiales en investigación de IA y los ingenieros de software chinos a menudo superan a sus
homólogos estadounidenses en competiciones internacionales.

Finalmente, las tecnologías, como los teléfonos inteligentes, que ya están muy extendidas
pueden formar la columna vertebral de un sistema de monitoreo personal. Las tasas de
propiedad de teléfonos inteligentes en China se están acercando a las de Occidente y en
algunas áreas, como los pagos móviles, China es el líder mundial.

China ya está construyendo los componentes centrales de un sistema autoritario digital. El

Gran Firewall es sofisticado y bien establecido, y se ha endurecido durante el año pasado.
Freedom House, un grupo de expertos, califica a China como el peor abusador del mundo de la
libertad en Internet.

China también está implementando una amplia vigilancia en el mundo físico. En 2014, anunció
un esquema de crédito social, que calculará una calificación integrada que refleje la calidad de
la conducta de cada ciudadano, tal como lo entiende el gobierno. El desarrollo del estado de
vigilancia de China ha llegado más lejos en la provincia de Xinjiang, donde se está utilizando
para monitorear y controlar a la población musulmana uigur. Aquellos a quienes el sistema
considera inseguros quedan excluidos de la vida cotidiana; muchos incluso son enviados a
centros de reeducación. Si Beijing quiere, podría implementar el sistema en todo el país.
Sin duda, la habilidad no es lo mismo que la intención. Pero China parece estar avanzando
hacia el autoritarismo y lejos de cualquier sugerencia de liberalización. El gobierno cree
claramente que la inteligencia artificial y los grandes datos harán mucho para permitir esta
nueva dirección. El Plan de Desarrollo de AI 2017 de China describe cómo la capacidad de
predecir y "comprender la cognición grupal" significa que "la IA brinda nuevas oportunidades
para la construcción social".

El autoritarismo digital no se limita a China. Beijing está exportando su modelo. El enfoque del
Gran Firewall en Internet se ha extendido a Tailandia y Vietnam. Según informes noticiosos, los
expertos chinos han brindado apoyo a los censores gubernamentales en Sri Lanka y han
suministrado equipos de vigilancia o censura a Etiopía, Irán

Rusia, Zambia y Zimbabwe. A principios de este año, la firma china de inteligencia artificial Yitu
vendió "cámaras portátiles con tecnología de reconocimiento facial con inteligencia artificial" a
las fuerzas del orden público de Malasia.

En términos más generales, China y Rusia han rechazado la concepción estadounidense de una
Internet libre, sin fronteras y global. China utiliza su poder diplomático y de mercado para
influir en los estándares técnicos mundiales y normalizar la idea de que los gobiernos
nacionales deben controlar Internet de manera que limite drásticamente la libertad individual.
Después de que, según los informes, se calienta la competencia por la influencia sobre un
nuevo foro que establecerá estándares internacionales para la IA, Estados Unidos aseguró la
secretaría, lo que ayuda a guiar las decisiones del grupo, mientras que Beijing organizó su
primera reunión, este abril, y Wael Diab, un director senior en Huawei, aseguró la presidencia
del comité. Para los gobiernos que los emplean, estas medidas pueden parecer defensivas,
necesarias para garantizar el control interno, pero otros gobiernos pueden percibirlas como
equivalentes a ataques en su forma de vida.

LA RESPUESTA DEMOCRÁTICA

El surgimiento de un modelo tecnológico autoritario de gobernanza podría, tal vez de manera

contraintuitiva, rejuvenecer a las democracias liberales. Cómo las democracias liberales
responden a los desafíos y oportunidades de AI depende en parte de cómo los manejan
internamente y en parte de cómo manejan la alternativa autoritaria externamente. En ambos
casos, existen motivos para un optimismo cauteloso.

Internamente, aunque las democracias establecidas necesitarán realizar esfuerzos concertados

para gestionar el surgimiento de las nuevas tecnologías, los desafíos obviamente no son
mayores de lo que esas democracias han superado antes. Una gran razón para el optimismo es
la dependencia del camino.

Los países con fuertes tradiciones de libertad individual probablemente irán en una dirección
con las nuevas tecnologías; aquellos sin ellos probablemente irán a otro. Las fuerzas fuertes
dentro de la sociedad estadounidense han rechazado los programas de vigilancia masiva del
gobierno nacional, aunque con un éxito variable. En los primeros años de este siglo, por
ejemplo, la Agencia de Proyectos de Investigación Avanzada de Defensa comenzó a construir
sistemas de vigilancia doméstica "Concienciación total de la información" para reunir datos
médicos, financieros, físicos y de otro tipo. La oposición de los medios de comunicación y los
grupos de libertades civiles llevaron al Congreso a eliminar el

programa, aunque dejó algunas soluciones ocultas al público en ese momento. La mayoría de
los ciudadanos de las democracias liberales reconocen la necesidad de espionaje en el
extranjero y la vigilancia nacional contra el terrorismo, pero los controles y equilibrios
poderosos limitan el aparato de seguridad del estado. Esos controles y equilibrios están bajo
ataque hoy y necesitan fortificación, pero esto será más una repetición de esfuerzos pasados
que un desafío fundamentalmente nuevo.

En Occidente, los gobiernos no son los únicos que representan una amenaza para las
libertades individuales. Las empresas de tecnología oligopolística están concentrando poder al
engullir competidores y presionar a los gobiernos para que promulguen regulaciones
favorables. Sin embargo, las sociedades han superado este desafío antes, después de
revoluciones tecnológicas pasadas. Piense en la ruptura de la confianza del presidente
estadounidense Theodore Roosevelt, la ruptura de AT&T en la década de 1980 y los límites
que los reguladores pusieron a Microsoft durante el aumento de Internet en la década de
1990.

Los gigantes digitales también están perjudicando la diversidad de los medios y el apoyo al
contenido de interés público, así como creando un Salvaje Oeste en la publicidad política. Pero
anteriormente las nuevas tecnologías radicales, como la radio y la televisión, planteaban
problemas similares y las sociedades estaban a la altura del desafío. Al final, la regulación
probablemente se pondrá al día con las nuevas definiciones de "medios" y "editor" creadas por
Internet. El presidente ejecutivo de Facebook, Mark Zuckerberg, se resistió a etiquetar la
publicidad política de la misma manera que se requiere en la televisión, hasta que la presión
política forzó su mano el año pasado.

Es poco probable que las democracias liberales sean ganadas por el autoritarismo digital.
Encuestas recientes sugieren que una proporción decreciente en las sociedades occidentales
considera la democracia como "esencial", pero esto está muy lejos de un verdadero
debilitamiento de la democracia occidental.

El desafío externo de un nuevo competidor autoritario quizás fortalezca a las democracias

liberales. La tendencia humana a enmarcar la competencia en nosotros frente a ellos puede
llevar a los países occidentales a definir sus actitudes hacia la censura y la vigilancia, al menos
en parte, en oposición a la nueva competencia. La mayoría de las personas encuentran
aburrida la esencia de la política de datos y prestan poca atención a los riesgos de la vigilancia.
Pero cuando estos problemas sustentan un régimen distópico en el mundo real, no resultarán
aburridos ni abstractos.

Los gobiernos y las empresas de tecnología en las democracias liberales tendrán que explicar
cómo son diferentes.

LECCIONES PARA EL OESTE

Occidente puede hacer muy poco para cambiar la trayectoria de un país tan capaz y seguro
como China. Los estados autoritarios digitales probablemente estarán presentes por un
tiempo. Para competir con ellos, las democracias liberales necesitarán estrategias claras.
Primero, los gobiernos y las sociedades deberían limitar rigurosamente la vigilancia y
manipulación doméstica. Los gigantes tecnológicos deben ser divididos y regulados. Los
gobiernos deben garantizar un entorno de medios diverso y saludable, por ejemplo,
asegurando que los porteros demasiado poderosos como Facebook no reduzcan la pluralidad
de medios; financiación de servicios públicos de radiodifusión; y actualizar las regulaciones que
cubren la publicidad política para adaptarse al mundo en línea. Deben promulgar leyes que
impidan a las empresas de tecnología explotar otras fuentes de datos personales, como
registros médicos, en sus clientes y deben restringir radicalmente la recopilación de datos a
través de la multiplicidad de plataformas con las que las personas entran en contacto. Incluso
se debería prohibir a los gobiernos el uso de dichos datos, excepto en algunas circunstancias,
como las operaciones antiterroristas.

En segundo lugar, los países occidentales deberían trabajar para influir en cómo los estados
que no son sólidamente democráticos ni autoritarios implementan sistemas de IA y big data.
Deben proporcionar ayuda para desarrollar la infraestructura física y reguladora de los estados
y utilizar el acceso proporcionado por esa ayuda para evitar que los gobiernos utilicen datos
unidos. Deben promover normas internacionales que respeten la privacidad individual y la
soberanía estatal.

Y deberían demarcar el uso de IA y metadatos para fines legítimos de seguridad nacional de su

uso en la supresión de los derechos humanos.

Finalmente, los países occidentales deben prepararse para luchar contra el corazón autoritario
digital. Los vastos sistemas de IA resultarán vulnerables a la interrupción, aunque a medida
que los regímenes dependan cada vez más de ellos para la seguridad, los gobiernos tendrán
que cuidar que los ciclos de retribución ojo por ojo no se salgan de control. Los sistemas que
censuran selectivamente las comunicaciones permitirán la creatividad económica, pero
también revelarán inevitablemente el mundo exterior. Ganar el concurso con gobiernos
autoritarios digitales no será imposible, siempre y cuando las democracias liberales puedan
convocar la voluntad política necesaria para unirse a la lucha.