Marta García Aller: "Somos las cobayas humanas de la inteligencia

artificial"
Miriam Puelles

Hay situaciones que escapan a nuestro control, a nuestra capacidad cognitiva. Sin
embargo, la naturaleza humana es sinónimo de curiosidad, de descubrimientos, de
avances como la tecnología, que ha servido para ayudarnos a revolucionar nuestra forma
de vida. Tanto, que en muchos casos parece que nos conoce mucho mejor que nosotros
mismos. ¿Es entonces un complemento positivo o una amenaza para las personas?
¿Dónde están los límites de la tecnología?

En este punto arranca Lo Imprevisible, el último libro de la periodista Marta García Aller,

con el que busca desentrañar las limitaciones de este desarrollo que tantos beneficios
nos ha proporcionado pero que tantas amenazas nos implica. Un ejemplo: los algoritmos,
esos famosos números matemáticos capaces de sacar toda la información posible de
nuestra personalidad y nuestros gustos. 

"Una de las líneas de investigación de la inteligencia artificial es poder entender en qué

momento estamos anímicamente porque es así como somos más influenciables en la
publicidad a la hora de vendernos cosas", comenta con infoLibre. La autora confirma que
"el mercado audiovisual es uno de los ejemplos donde más se está experimentando" con
los ellos

El más famoso es el de Netflix, pero más allá de si acierta o no, esta periodista plantea
otra hipótesis: "Hay investigaciones que apuntan que el algoritmo no es que no sepa lo
que nosotros queremos, es que tiene una intención comercial de promover un contenido
muy particular por la estrategia de lanzamiento". Incluso sugiere que te propone títulos
sabiendo de facto que los vas a descartar para confirmar que no te gustan. Y ahí entra la
desconfianza.

"A los humanos no nos gusta que se nos conozca demasiado bien y a veces las
máquinas disimulan cuando tienen esa información", apunta García Aller, quien recuerda
que "si dotásemos al sistema de la suficiente cantidad de información, sí que podría llegar
a prever –incluso– nuestro estado de ánimo en cada momento". Aunque quizás, eso sí,
esto "nos resulte muy invasivo".

Hasta la fecha se permite esa invasión, se confía en esa fórmula matemática

"subordinando muchas de nuestras decisiones a la información o a las decisiones que
toman por nosotros los algoritmos". Uno de los casos más fáciles de discernir esta
realidad se encuentra en las aplicaciones de citas, pese a que en muchos casos "no
tienen ni idea de cuáles son los criterios que los llevan" a sentenciar determinados cruces.

"Hacen esa preselección en base a criterios que a veces son muy poco transparentes",
apunta la autora de Lo imprevisible, quien indica que en este tipo de apps "se están
reproduciendo parámetros muy arcaicos y bastante machistas que vienen del siglo XX y
que no se han revisado". El ejemplo más claro se observa en que "hay datos que hacen
pensar al sistema que los hombres quieren emparejarse con mujeres que ganen menos
que ellos y que midan unos pocos centímetros menos". 

Para García Aller, la pregunta es "hasta dónde pueden llegar los datos", ya que si bien "en
equipos deportivos se está utilizando [el machine learning y la inteligencia artificial] para
predecir el riesgo de lesión", hay casos como el de las aplicaciones de citas o los
algoritmos de las plataformas de streaming cuyos intereses pueden ser otros menos
positivos. Aunque se les puede engañar.

"Un artista alemán demostró en Berlín que bastaba un carrito y cien teléfonos móviles
para engañar al sistema de predicción del tráfico para que la gente creyera que había un
atasco donde no lo había", recuerda García Aller. ¿Y qué hizo? "Una persona llevaba esos
cien teléfonos en un carrito e hizo pensar al sistema que las calles por donde pasaba
estaban atascadas". Otro ejemplo de que, según la periodista, "depositamos demasiada
confianza en sistemas que no sabemos cómo funcionan".

Por eso en Lo imprevisible destaca la importancia de conocer realmente cuál es el

funcionamiento y los límites de la tecnología. Y todo para poder hacer un mejor uso de
ella. Más que nada porque de lo contrario podría afectar a nuestra propia evolución
psicológica. "Tener una excesiva dependencia de la tecnología puede hacer que cada vez
nos cueste más tomar decisiones", señala ésta, quien recuerda que "a veces tener
demasiadas películas que ver en vez de ayudarnos nos paraliza, es una parálisis por
saturación". Por eso, "ya que estamos siendo las cobayas humanas de la inteligencia
artificial", es necesario "un mayor espíritu crítico para pedirles a los algoritmos que nos
intermedian una mayor transparencia". Solo así, incide la periodista, "seremos libres de
tomar decisiones".

"Al final es curioso que sean los robots los que nos hagan a los humanos confrontarnos
con dilemas que hasta ahora nos habíamos permitido el lujo de mantener teóricos o
filosóficos. Ya no lo son, hay que bajarlos a la tierra, hay que hacerlos comprensibles y hay
que explicarle a la máquina lo que queremos de ella", insiste. La periodista entiende que
si una máquina proporciona resultados machistas –como podría verse en el caso de las
aplicaciones de citas– es porque "los datos de los que se ha alimentado también lo son y
no podemos responsabilizar a la tecnología de ello".
Detrás de toda máquina hay una persona que la educa para predecir lo previsible. Pero
¿qué ocurre con lo imprevisible? "No va a haber ninguna tecnología que nos vaya a
resolver todos los problemas porque los humanos somos capaces de generar nuevas
necesidades, inventarnos nuevos problemas y resolverlos", comenta. Por eso solicita que
en esta era de revolución tecnológica dotemos a las máquinas de todo lo necesario para
potenciarlas en el desarrollo de lo previsible, pero no nos olvidemos de aquellos
elementos que escapan de su conocimiento: nuestro sentido común y nuestro humor.
Sobre todo de nuestro humor, lo que para esta escritora es, en definitiva, la esencia de lo
imprevisible.

Si estás leyendo este artículo es gracias a las socias y socios de infoLibre

La salud es lo primero. Por ese motivo, en infoLibre decidimos abrir todos nuestros
contenidos sobre el coronavirus para que cualquier ciudadano pueda leerlos gratis. Ese
esfuerzo no habría sido posible sin socias y socios que creen en un periodismo
comprometido y que ponga en cuarentena a las 'fake news'. Si eres uno de ellos, gracias.
Sabes que puedes regalar una suscripción haciendo click aquí. Si no lo eres y quieres
comprometerte, este es el enlace. La información de calidad es la mejor vacuna contra
cualquier virus.