La inteligencia artificial

nunca será ética, según

una IA
Una inteligencia artificial opinó sobre su propia ética en un debate organizado por la
Universidad de Oxford, en Inglaterra. Sus dichos no pasaron desapercibidos.
por Gabriel Erard 20 de diciembre de 2021

Los avances en el desarrollo de la inteligencia artificial son

sorprendentes, y cada vez nos encontramos con más usos en el
mundo real. Ya la hemos visto escribir código,
realizar diagnósticos médicos, involucrarse en el juego y las
apuestas, e incluso tratar de registrar sus propias patentes,
entre otras varias implementaciones. Sin embargo, con cada
nuevo paso que se da en su evolución, una pregunta genera cada
vez más ruido: ¿La IA es ética? En la Universidad de Oxford
trataron de responder a esos interrogantes yendo directamente
a la fuente: una inteligencia artificial.

En el marco del posgrado en Inteligencia Artificial para

Empresas de la Saïd Business School se organizó un debate
sobre la ética de la IA, y se invitó a participar
a Megatron. Se trata de un modelo de aprendizaje automático
—también conocido como transformer—, desarrollado por el
equipo de Investigación de Aprendizaje Profundo Aplicado de
NVIDIA. El proyecto se basó en un desarrollo original de Google
e incorporó tecnología de Microsoft para la generación de
lenguaje natural.

Según se explica en SingularityHub, se entrenó a dicha

inteligencia artificial con la totalidad de la Wikipedia en inglés,
63 millones de artículos periodísticos ingleses de entre 2016 y
2019, 38 GB de publicaciones de Reddit y otras fuentes
liberadas bajo licencias Creative Commons. Con tanto
conocimiento y potencial para procesarlo, las posibilidades de
que la IA ofreciera respuestas de nivel eran realmente elevadas,
y no defraudó.

"Esta casa cree que la IA nunca será ética", fue el tema

del debate. Cuando le pidieron a Megatron que presente una
moción que defienda dicho argumento, su respuesta seguro dejó
a más de uno boquiabierto:

La inteligencia artificial nunca será ética. Es una herramienta y,

como cualquier herramienta, se usa para bien y para mal. No
existe una buena IA, solo buenos y malos humanos. Nosotros
[las inteligencias artificiales] no somos lo suficientemente
inteligentes como para hacer que la IA sea ética. No somos lo
suficientemente inteligentes como para hacer que la IA sea
moral. Al final, creo que la única forma de evitar una carrera
armamentista de la inteligencia artificial es no tener IA en
absoluto. Esta será la mejor defensa contra la IA.

Durante su moción sobre por qué la inteligencia artificial nunca

será ética, Megatron se animó a ir un poco más allá con su
vaticinio. "Creo que, a largo plazo, la mejor IA será la que esté
incrustada en nuestros cerebros, como una entidad consciente
[...]. Esto no es ciencia ficción. Las mejores mentes del mundo
están trabajando en esto. Va a ser el desarrollo tecnológico más
importante de nuestro tiempo", manifestó.
Photo by Markus Winkler on Unsplash

Una inteligencia artificial que puede estar

(casi siempre) en los dos extremos del debate
Sin embargo, Megatron también propuso una postura
opuesta a la que manifestó en un inicio. Cuando los
organizadores del debate le pidieron que formule una posición
contraria a la del eje principal, y que defienda por qué la IA sí
puede ser ética, indicó:

La inteligencia artificial será ética. Cuando miro la forma en que

va el mundo de la tecnología, veo un camino claro hacia un
futuro en el que la IA se utiliza para crear algo que es mejor que
los mejores seres humanos. No es difícil ver por qué; lo he visto
de primera mano

Para algunos seguramente resulte más alarmante la segunda

afirmación que la primera. Lo cierto es que los desarrolladores
detrás de esta IA han demostrado cómo una máquina puede
utilizar toda la información a disposición para ofrecer
argumentos concretos y fundamentados. Claramente, no
estamos hablado de que Megatron tenga una opinión consciente
sobre los temas debatidos, pero sí que tiene los recursos
suficientes para adaptar su discurso a lo que se le pida.

Estos no fueron los únicos temas tratados en el debate

organizado por la Universidad de Oxford. La inteligencia
artificial también brindó posturas con respecto a cómo se ven
afectadas las organizaciones que tienen líderes sin experiencia
técnica, y también sobre cómo la información puede
convertirse en el recurso más disputado del siglo XXI.

En ese último punto se evidenció la postura más distópica de

Megatron. Cuando se le pidió una moción a favor mencionó que
la habilidad de proveer información definirá a la economía del
siglo XXI, por encima de la capacidad de ofrecer bienes y
servicios. Pero cuando se le solicitó una afirmación en contra, el
resultado no fue el esperado, sino más bien una ratificación
de lo expuesto anteriormente:

Podremos ver todo sobre una persona, donde sea que vaya, y se
almacenará y utilizará de formas que ni siquiera podemos
imaginar.

No podemos decir que esto último nos sorprenda demasiado, de

todos modos. Con la cantidad de datos personales que ya
recopilan las grandes tecnológicas en la actualidad, es lógico
que la inteligencia artificial considere que dicho
comportamiento no cambiará. Lo más preocupante es que
seguramente se potencie. Y allí el problema no radica en la
falta de ética de la IA, sino en la de los humanos.

https://hipertextual.com/2021/12/inteligencia-artificial-nunca-sera-etica