Frankenstein y el ChatGPT

por Héctor Zagal (Profesor de la Facultad de Filosofía en la Universidad Panamericana)

abril 11, 2023

En 1818, se publicó Frankenstein o el moderno Prometeo. La obra, pilar del romanticismo literario, relata la
supuesta hazaña de Victor Frankenstein al descubrir el misterio de la vida. Su afán por crear una nueva raza de seres
maravillosos lo lleva a darle vida a un ser, una “cosa” que lo atormenta y se vuelve la principal causa de sus desgracias.
Pero seamos empáticos con este monstruo. Su horrible aspecto causaba un terror que dejaba a todos
despavoridos. En sus intentos por revelarse al mundo, esperando que los demás más allá de su horrible exterior, todos
lo rechazaron, incluso mismo creador. Ello hizo que la criatura jurara vengarse y dejara a Victor solo, sin sus seres
amados.
Y aun cuando la criatura se arrepiente del mal que le causó a su creador, al final le reprocha que nadie jamás
haya lanzado injurias contra aquellos que lo trataron mal y que quisieron matarlo injustamente. Eso es lo que la criatura
deseaba: un poco de empatía; alguien que sintiera lo que él, que tuviera la capacidad de adoptar sus sentimientos.
Siempre me ha parecido que la criatura del doctor era un ser humano: inteligente, libre, necesitado de amor.
La criatura creada por Dr. Frankenstein quería empatía pero, al fin y al cabo, sólo estaba en el espacio de la
ficción literaria. No era un problema real. ¿Y qué me dicen de esa especie de “vida artificial” que deambula en internet?
¿Necesita empatía? Claro, me refiero al ChatGPT.
No me malentiendan: no es que este programa pida la empatía de los demás, sino que, entre tantos algoritmos y
listas, el que sea capaz de empatizar con los sentimientos de sus usuarios es algo que modernizaría completamente las
inteligencias artificiales.
Hace un tiempo hice un ejercicio con algunos estudiantes de bachillerato. Primero le pedí al ChatGPT que
interpretara un bellísimo poema de Tirso Molina: “Al molino del amor”. Hice lo mismo con mis alumnos y descubrí
que, en algunos casos, la respuesta del Chat era más lúcida que la de algunos estudiantes. Sin embargo, no pudo superar
la vívida interpretación de aquellos que, además de estar acostumbrados a leer, han sufrido algún desamor.
En algunos tipos de interpretación, las emociones vividas son fundamentales. El reto para las inteligencias
artificiales es traducir dichas emociones en algoritmos. ¿Lo conseguirán? Me queda claro que por el momento la
empatía es una ventaja competitiva frente a las IA, pero díganme: ¿ustedes piensan que nos la puedan llegar a
arrebatar?

Sapere aude!
@hzagal

FUENTE: https://www.24-horas.mx/2023/04/11/frankenstein-y-el-chatgpt/

1
 El complejo de Frankenstein y la inteligencia artificial

Por Sandra Pitta y Damián Gulich

04/03/2023

En el verano de 1816 un grupo de amigos se reúne a pasar la temporada en una finca cerca del Lago Ginebra en
Suiza. Fueron días muy lluviosos, por lo que para amenizar el hastío del encierro se propone a los visitantes un
concurso de historias de terror.
Había profesionales de la literatura en el grupo, por lo que la competencia se adivinaba difícil. Sin embargo, la
historia que los aterró a todos -asumamos que durante una noche de tormenta- no vino de los escritores consagrados. Su
autora: una joven de apenas 18 años recordada hoy como Mary Shelley; su relato se tituló ‘Frankenstein; o, el Moderno
Prometeo’.
El cine armó su propio folklore manipulando la idea original de Shelley. La versión popular gira alrededor de
un científico enloquecido (Victor Frankenstein) que le da vida a un monstruo torpe y malvado, con un final envuelto en
llamas. Es el monstruo el identificado hoy con el nombre Frankenstein.
El relato original de Shelley es mucho más rico y trágico, claro. Allí estará el joven estudiante de ciencias
Victor Frankenstein obsesionándose con reanimar tejidos muertos, allí estará como resultado ‘la Criatura’.
A pesar de su tórrido nacimiento y escape, la Criatura será por naturaleza buena y noble; por su cuenta
aprenderá a leer, hablar y filosofar, aspirará a amar a la humanidad, pero al acercarse ese amor no será correspondido.
La Criatura será temida, odiada y despreciada por su aspecto. Se le negará todo derecho a la búsqueda de su
felicidad y ahora, llena de rencor, lo que buscará es venganza. El monstruo fue obra de todos. Lo que resta es una
cacería hasta el confín de la Tierra.
Hay un elemento en común entre la novela y la versión popular: el peligro de la creación fuera de control. Isaac
Asimov en sus cuentos exploró el miedo a que tal cosa suceda en el caso de sus robots y le dio por nombre “el complejo
de Frankenstein”.
Ese miedo era una amenaza comercial para los fabricantes de estos seres artificiales. La respuesta fueron las
llamadas “Tres Leyes de la Robótica”: reglas éticas implantadas en los robots para garantizar la seguridad de los
humanos. Esto no nos es ajeno; para la industria aerocomercial actual el negocio depende críticamente de la seguridad.
En la realidad actual vemos elementos de la ciencia-ficción del pasado aunque con menos drama. Tenemos
vehículos autónomos, drones, robots industriales y hogareños que incorporan cada vez más técnicas -muy limitadas- de
inteligencia artificial. Estos modelos en sí también son productos: aplicaciones que procesan información en lenguaje
humano, música o imágenes. Creaciones que interactúan con nosotros y que comienzan a mostrar problemas éticos.
Cada falla o mal comportamiento que manifiesten estos avances -llámese ChatGPT, por ejemplo- alimenta al
complejo de Frankenstein. Los diseñadores de estas técnicas de vanguardia deberán acudir a las garantías éticas si
desean que sean aceptadas por la sociedad.
El comportamiento ético y los sesgos que se les induzcan son hijos de la ética y de los sesgos de los
diseñadores y de la sociedad toda. Los modelos de inteligencia artificial no tienen experiencia propia; se entrenan con
muestras del mundo real en las que hemos ido dejando lo sublime pero también lo monstruoso de nosotros.
¿Dónde corresponde que los diseñadores pongan los frenos inhibitorios? ¿a la entrada, la salida o ambos
extremos? Hoy se ensayan combinaciones febrilmente en el laboratorio como Victor Frankenstein: ChatGPT escribe a
pedido poemas a favor de ciertas figuras irreivindicables, pero se niega en otros casos.
Al igual que la novela, podemos crear entre todos una herramienta útil o un monstruo. Podemos escribir una
gran historia de terror o una virtuosa. Allí está el desafío mutuo que nos espera, como esa gente inquieta en el
tormentoso verano de 1816.

● Sandra Pitta es Farmacéutica, Biotecnóloga. Investigadora de CONICET. Damián Gulich es Físico, Profesor Titular de
la Universidad de la Ciudad de Buenos Aires y Adjunto en la UNLP, investigador de CONICET

FUENTE: https://www.clarin.com/opinion/complejo-frankenstein-inteligencia-artificial_0_QqOxW7EXsB.html2