Dudas que plantea el
ChatGPT
El ChatGPT está de moda y causa
furor mundial. Para quienes no se
han empapado del nuevo glamour
tecnológico, se lo podría definir,
sintéticamente, como un chat con
inteligencia artificial que permite, a
cualquiera de nosotros, efectuarle
distintos pedidos que tendrán rápida
respuesta. Entre otras cosas, podemos
requerirle que nos explique algún
evento histórico (como la Segunda
Guerra Mundial), que nos redacte una
nota periodística sobre la actuación de
Messi en la final de la Copa del Mundo
2022, que nos escriba una canción
estilo “Shakira-Piqué” y hasta un poema
inspirado en obras de Shakespeare. El
listado es interminable y, en cuestión de
segundos, obtendremos respuesta a
todos nuestros requerimientos.
Este chat inteligente, de uso gratuito,
al que podemos acceder con
cualquier computadora, fue diseñado
por la compañía OpenAI, se basa en el
lenguaje de inteligencia artificial GPT-3,
ha sido alimentado con gran cantidad
de texto y se retroalimenta con todo
aquello que los usuarios requieren o
preguntan: una auténtica procesadora
de información inteligente que no para
de aprender. Supongamos que estamos
atravesando un momento poco feliz,
consecuencia de una ruptura amorosa,
y le solicitamos a “nuestro amigo
ChatGPT” que nos escriba un poema
de amor basado en la desilusión
afectiva. En minutos tendremos una
versión de un poema que podremos
“ajustar”, verbigracia, requiriendo la
inclusión de citas relacionadas con
hechos particulares, acortar la cantidad
de palabras y aun relacionar con otro
poema de un autor específico.
Obtendremos entonces un nuevo
resultado perfeccionado, susceptible
de nuevos ajustes: entretanto, la
inteligencia artificial sigue aprendiendo
de la mano de los desarrolladores de la
empresa, empeñados en que su
“criatura” se alimente. Este milagroso
chat plantea desafíos en todos los
niveles, con gran impacto, por ahora, en
el trabajo y en la educación. Siguiendo
la antigua conceptualización de Upton
Sinclair (1930), los trabajadores de
24 de marzo de 202300:14
Fernando Tomeo
PARA LA NACION
cuello blanco (profesionales y reproducción. Asimismo, el artículo 4,
administrativos) serían quienes podrían
verse afectados y aun desplazados por
esta tecnología. Un abogado senior ya
no necesitaría de tres abogados junior
para confeccionar escritos o buscar
jurisprudencia: alcanzaría con uno solo
que sepa utilizar nuestro chat amigo.
Aun un juez podría ajustar sus
sentencias a modelos alimentados, o un
psicólogo estandarizar diagnósticos
armados por nuestro chat freudiano.
Lógicamente, la primera etapa de
aplicación de esta tecnología
reconoce errores, grietas y/o grises
que afectan su confiabilidad y requieren
de un ojo humano corrector o
verificador, pero dentro de pocos años
el chat habrá aprendido tanto que sus
consecuencias prácticas serán
impensadas, al mejor estilo ciencia
ficción, porque mientras escribo estas
líneas y usted toma un café, el chat
sigue aprendiendo con efecto flash.
La educación también sufre un
impacto directo, ya que cualquier
estudiante puede solicitar al chat que
escriba un ensayo o un trabajo de
investigación: las entidades educativas
y los profesores tendrán que hacer algo
al respecto: ¿volverán las evaluaciones
orales presenciales con carácter
vitalicio y despido directo a la era
Zoom? Y otro gran desafío, entre
tantos, se vincula a la propiedad
intelectual de las creaciones del chat.
En el ejemplo anterior: ¿quién será
considerado autor del poema de amor:
los usuarios, la compañía
desarrolladora o el chat inteligente con
autonomía reconocida por ley?
Según el artículo 1 de la ley 11.723 de
propiedad intelectual, las obras
científicas, literarias y artísticas
comprenden los escritos de toda
naturaleza y extensión, entre ellos, los
programas de computación (fuente y
objeto), y el derecho de propiedad de
una obra supone para su autor la
facultad de disponer de ella, publicarla,
ejecutarla, representarla y exponerla en
público, enajenarla, traducirla, adaptarla
o autorizar su traducción y/o
inciso d, de la norma, establece que
son titulares del derecho de propiedad
intelectual las personas físicas o
jurídicas cuyos dependientes
contratados para elaborar un programa
de computación lo hubieren producido
en el desempeño de sus funciones
laborales, salvo estipulación en
contrario.
En criollo y en una interpretación
normativa, la empresa desarrolladora
del chat reconocería derechos de
propiedad intelectual sobre las
creaciones u obras de su criatura,
aunque ese criterio es cuestionable, ya
que la inteligencia del “niño” ha sido
nutrida por millones de usuarios del
propio chat que lo transforman en un
huérfano de alimento artificial: ¿quién
es entonces el dueño de la creación
devenida del uso del chat?
Todas estas dudas, y muchas más,
que plantea esta tecnología con muy
pocos meses de aplicación en el
mercado local e internacional por ahora
no tienen alcances sociales definidos y
tampoco una respuesta legislativa que,
como es usual, va al ritmo del coyote
detrás del correcaminos, no obstante
los enormes esfuerzos que desarrolla la
Unión Europea para tratar de abrazar
legislativamente cambios tecnológicos
que nos sobrepasan.
En el nivel local, si pensamos que
nuestra ley de propiedad intelectual
fue sancionada en 1933 y nuestra ley
de protección de datos personales data
de 2000, sobran los comentarios. Lo
que aparece inevitable, ante esta y
otras tecnologías en desarrollo y
aplicación, es que dentro de muy pocos
años vamos a necesitar un verdadero
GPS humano “a medida” para entender
dónde estamos parados. Recuérdelo,
estimado lector.
Abogado consultor en Derecho
Digital y Data Privacy. Director del
Programa de “Derecho al Olvido y
Cleaning Digital” de la Universidad
Austral. Profesor UBA
ChatGPT. La
inteligencia
artificial ya puede
hablar, pero no
sabe de lo que
habla
Hace muchos años, en una ciudad de la
provincia de Buenos Aires, una vecina
tenía un loro. Célebre por sus destrezas
para replicar el lenguaje humano, nadie
sabía que el locuaz volátil escondía
además un secreto: también imitaba la
voz de su dueña cuando se encontraba
solo en casa. Por ejemplo, cuando el
cartero tocaba el timbre.
–¡Ya va! –le decían desde el interior de
la casa, y el buen hombre, en una
época sin celulares, internet, Facebook
o WhatsApp, esperaba.
Pasado un plazo prudencial, volvía a
tocar el timbre, por si acaso. Y recibía
de nuevo la respuesta de esa voz que
conocía desde hacía años:
–¡Ya va!
Entonces el cartero seguía aguardando,
pacientemente, hasta que la demora se
hacía insostenible, y, temiendo
importunar más allá de lo que dictan las
buenas costumbres, se retiraba
intrigado.
Pasaron meses hasta que, al
encontrarse a la vecina por casualidad
en un comercio y pedirle disculpas por
haber insistido con los timbrazos en
varias ocasiones, supo que la señora
nunca había dejado de responderle. Y
solo después de atar cabos, la mujer,
estupefacta, concluyó:
–El loro.
Todos se rieron y la anécdota se
viralizó rápidamente, hasta convertirse
en una de esas historias que se
cuentan en las charlas de sobremesa o
a la hora de la siesta.
Si alguien está pensando que esta
anécdota tiene la intención de bajarle el
precio al ahora célebre ChatGPT, es
exactamente al revés. Es por lo menos
admirable que la inteligencia artificial
(IA) haya alcanzado el mismo nivel
que un organismo vivo para producir
un discurso adecuado al contexto. O,
para ser enteramente justos (con el
loro), producir algo que parece
ajustarse al contexto. ¿Por qué la
salvedad? Porque ChatGPT funciona
sobre la base de redes neuronales;
matemática y parámetros, en otras
palabras; carece de consciencia,
aunque más no sea la consciencia de
un loro, y los contextos son para esa
red neuronal un asunto estadístico y
nada más. Pero ya llegaremos a eso.
Me refiero, claro a ChatGPT 3.5, la
nueva estrella de la inteligencia artificial
y del vertiginoso firmamento tecno.
Para quienes no están muy al tanto del
asunto, ChatGPT es un chatbot (o bot,
a secas) basado en una tecnología de
IA relativamente nueva que lo hace
capaz de entender (entender en el
sentido antedicho) y producir el
lenguaje humano con realismo
abrumador; imitar sería una palabra
más adecuada. Su red neuronal
emplea 175.000 millones de
parámetros, se maneja en unos 30
idiomas (sobre todo en inglés) y ha
sido alimentada con cientos de miles
de millones de palabras extraídas de
internet.
Estas plataformas se llaman Grandes
Modelos de Lenguaje (LLM, por sus
siglas en inglés) y existen desde hace
varios años. Por razones de espacio,
dejaremos de lado innumerables
detalles técnicos, que el lector
interesado puede investigar en este
documento (100 páginas en inglés).
Pero lo que pateó el tablero –una vez
más en la historia de la tecnología– fue
que la compañía OpenAI, creadora de
ChatGPT, puso su bot al alcance de
todo el mundo. Por ahora es gratis,
pero la nueva versión (la 4, que
incorpora avances significativos) ya
tiene costo. En todo caso, la movida fue
genial y catapultó al amable y
aparentemente erudito chatbot a la
categoría de rockstar.
La comparación entre ChatGPT y el
solícito lorito es pertinente por otro
motivo. En 2020, un grupo de
investigadores del equipo de ética de
inteligencia artificial de Google dio a
conocer un trabajo titulado Sobre los
peligros de los loros estocásticos.
¿Pueden los modelos de lenguaje ser
demasiado grandes? El estudio
advierte, entre otras cosas, sobre el
demencial costo ambiental de poner
máquinas a producir lenguaje (entrenar
un LLM, sostiene el trabajo, produce
284 toneladas de dióxido de carbono,
porque usa supercomputadoras; una
persona produce de 5 a 15 toneladas
por año); el riesgo de replicar y
profundizar nuestros sesgos, y el
potencial uso para inundar la red con
noticias falsas y difundir virus (esto
ya está ocurriendo, aunque con
sutilezas significativas).
Dos años después, las dos líderes de la
investigación, las doctoras Timnit
Gebru y Margaret Mitchell, ya no
trabajan en Google; aunque, según la
compañía, sus despidos no se debieron
a sus críticas y advertencias sobre los
LLM. Pero no está solo el buscador
web. Microsoft acaba de despedir a
todo su equipo de ética en IA. En esta
industria, tales purgas significan una
sola cosa: se avecina una guerra.
Sin embargo, la relación entre los
modelos de lenguaje basados en IA y
los loros no es del todo simétrica. En un
minuto lo explicará un experto, pero la
destreza de ChatGPT es la de
producir texto con casi absoluta
corrección. Más allá de eso, mientras
el loro tenía un motivo para responder
al cartero –quizá un motivo pavloviano,
pero motivo al fin–, ChatGPT carece
por completo de intenciones. Para
despejar posibles confusiones al
respecto: es cierto que el lorito
respondía cuando sonaba el timbre
(eso en la jerga se llama prompt);
ChatGPT hace lo mismo, responde a un
prompt (lo que le preguntamos). Pero
mientras el loro podía optar por no
responder, el bot lo hará siempre, sin
excepción.
Choque de titanes
La súbita fama de este chatbot se debe
a que somos seres lingüísticos. Sus
respuestas, tan humanamente
correctas, le confieren una perturbadora
apariencia de entidad consciente. Pero
el mismo ChatGPT se apresura a
aclarar que solo es un “modelo de
lenguaje y que carece de
sentimientos, consciencia de sí e
intereses personales”. “Solo soy un
programa”, insiste, y cuando le
pregunto qué significa “ser solo un
programa”, responde: “Cuando digo
que solo soy un programa quiero
decir que soy una colección de
algoritmos y código diseñados para
procesar y analizar datos
lingüísticos”. Al parecer no advierte
cuán cándidamente está usando la
primera persona del singular para hacer
una afirmación ontológica. En todo
caso, una colección de algoritmos y
código tiene un sinónimo menos
pomposo: software.
Luego del 30 de noviembre de 2022,
cuando ChatGPT fue puesto al alcance
del público en general, todo lo que
hasta ese momento era trendy, empezó
a sonar a viejo. El metaverso,
los NFT y las criptomonedas quedaron
eclipsados por el bot charlatán, y
ahora la industria está obsesionada
en masa con los grandes modelos de
lenguaje y la IA. Bill Gates acaba de
calificarlos como “el mayor avance
técnico en décadas”.
Pero los contendientes en esta batalla
no son muchos, porque mientras un
niño (o un loro) aprende a hablar solito,
se necesitan inversiones colosales en
hardware, software y know how para
entrenar un LLM.
OpenAI fue fundada en 2015 como una
organización sin fines de lucro
destinada a desarrollar “una IA
beneficiosa para la humanidad”. Con
el paso del tiempo las cosas dejaron de
ser tan altruistas, y su brazo corporativo
–OpenAI LP– recibió en 2019 una
inversión de 2000 millones de dólares
de parte de Microsoft. Vistos los
espectaculares resultados de ChatGPT,
la compañía cofundada por Gates
puso otros 10.000 millones este año,
y la semana última integró ChatGPT al
paquete Office; ya lo había hecho con
su buscador Bing y con Skype. Sin
embargo, ni remotamente funciona
igual en Skype (por dar un ejemplo) que
en el sitio de OpenAI. ChatGPT parece
mucho más humano y elabora más
profundamente sus respuestas en el
sitio de OpenAI que en Skype, donde
responde en formato de telegrama. En
Bing es un poco más elocuente. Pero
los resultados son bastante diferentes
de los que da OpenAI. El loro
estocástico, al parecer, es muy
configurable (sí, lo es). Por ejemplo, al
pedirle que resuma El sonido y la
furia, de William Faulkner, Bing
responde sucintamente:
“El sonido y la furia” es la cuarta novela
de William Faulkner publicada en 1929.
La novela cuenta la historia de la familia
Compson y la pérdida de su posición
antes respetada en la sociedad sureña.
La obra está dividida en cuatro
secciones, cada una narrada por un
personaje diferente y en un momento
diferente del tiempo. La primera sección
es narrada por Benjy, un hombre con
discapacidad mental que tiene
dificultades para distinguir entre el
pasado y el presente. La segunda
sección es narrada por Quentin, el
hermano mayor de Benjy, quien está
obsesionado con la idea de que su
hermana Caddy ha perdido su
virginidad. La tercera sección es
narrada por Jason, el hermano menor
de Quentin, quien es un hombre
amargado y cruel que trabaja como
contable en una tienda local. La cuarta
sección es narrada por Dilsey, una
mujer negra que trabaja para la familia
Compson y que es la única persona
que parece tener alguna compasión por
ellos.
En cambio, ChatGPT, en el sitio de
OpenAI, dice:
“El sonido y la furia” de William
Faulkner es una novela experimental
que cuenta la historia de la decadente
familia Compson en el sur de Estados
Unidos a principios del siglo XX. La
novela se divide en cuatro secciones
narradas por cuatro personajes
diferentes, cada uno con su propia
perspectiva única y estilo de narración.
La primera sección, narrada por Benjy,
un hombre discapacitado mental, es
una corriente de conciencia
fragmentada y caótica que salta de un
momento a otro sin ninguna estructura
lógica. La segunda sección, narrada por
Quentin, el hermano mayor de Benjy,
es una meditación obsesiva sobre el
tiempo, el incesto y la culpa.
La tercera sección es narrada por
Jason, el hermano menor de Quentin, y
se enfoca en su amargura y
resentimiento hacia su familia y su vida.
La cuarta y última sección es narrada
por Dilsey, una criada negra, y ofrece
una visión más objetiva y compasiva de
la familia Compson.
En conjunto, la novela explora temas
como la decadencia de la aristocracia
sureña, la pérdida de la inocencia, la
identidad y el tiempo. La estructura
experimental y los cambios abruptos de
narrador y tiempo pueden hacer que la
lectura de “El sonido y la furia” sea
desafiante, pero es una obra literaria
icónica y aclamada por su complejidad
y originalidad.
Todo indica que para tener una idea
más o menos clara de esa novela sigue
siendo menester leerla. Lógico.
El otro peso pesado en este ring
es Google, que se perdió una
oportunidad de oro cuando OpenAI le
ganó de mano y puso a ChatGPT al
alcance de todos. Insólito, porque
Google había desarrollado en 2017 una
parte central de estas redes
neuronales, algo conocido
como transformadores (es la T en
GPT). Su modelo de lenguaje se
llama LaMDA (por Language Model for
Dialogue Applications) y fue puesto a
disposición de un número reducido de
personas en Estados Unidos e
Inglaterra el martes último. Su bot fue
bautizado Bard, pero esta vez la táctica
de la lista de espera difícilmente le dé el
mismo resultado que con Gmail en
2004. ChatGPT ya está ahí; al menos,
la versión 3.5.
El tercer gran competidor es Facebook,
con su modelo LLaMA (Large
Language Model Meta AI). También con
billetera inagotable, pero en medio de
una tormenta llamada TikTok, Mark
Zuckerberg terminó de convencerse de
que el metaverso es hoy un callejón sin
salida (o al menos una fruta demasiado
alta para resolver sus problemas
inmediatos) y decidió enfocarse en el
nuevo Santo Grial de la tecnología,
las máquinas que hablan.
Otros participantes son Amazon,
con Alexa Teacher
Models; Anthropic, con Claude; la
británica DeepMind, con Gopher, y la
china Baidu, con Ernie.
Hablarle al espejo
Alejandro Zuzenberg es un ex-
Facebook que hace siete años previó la
relevancia que tendrían en el futuro los
chatbots y cofundó Botmaker, de la
que es actualmente su director
ejecutivo. Así que conoce esta industria
no solo por dentro, sino desde hace
mucho. “Nuestra plataforma es una
herramienta que le permite a nuestros
clientes crear sus propios chabots –
resume; dicho de otro modo, el
meteórico ascenso de ChatGPT lo toca
de cerca–. Nosotros veníamos jugando
en los torneos locales y de pronto el
público, en especial las empresas,
vieron el campeonato mundial”.
Así que su corazonada, cuando
cofundó Botmaker, resultó certera. Pero
no pierde la objetividad, y su
explicación acerca de cómo funcionan
estas tecnologías es de las más claras
y completas que he oído. ¿Cuál es la
diferencia entre ChatGPT y los bots que
ya conocíamos?
“Hasta ahora, veníamos trabajando
con un modelo de lenguaje que se
llama ‘de intenciones’ –dice
Zuzenberg–. Es decir, el robot entiende
lo que el usuario quiere y con
eso ejecuta una respuesta
prefabricada. Lo novedoso de
ChatGPT es que no solo entiende lo
que el usuario quiere, sino que es
capaz también de generar texto
nuevo. No ejecuta una respuesta
predeterminada, sino que es capaz
de componer texto original. Y el
modelo es además predictivo. La IA
siempre tiene que ver con la predicción.
O sea, entiende un cierto proceso y es
capaz de predecir cómo va a continuar
dicho proceso. Por ejemplo,
ChatGPT es muy bueno para predecir
la siguiente palabra que corresponde
en una oración que está
escribiendo.”
Esto es importante, porque
establece una primera diferencia clave
entre la inteligencia humana y la
artificial. Las personas no hablan de
forma probabilística; los humanos no
predecimos qué corresponde decir a
continuación, sino que decimos lo
que tenemos la intención de decir. Es
más, la Pragmática –la rama de la
lingüística que estudia el lenguaje en
acción– ha demostrado que al hablar
tendemos a no ser gramaticales. El
contexto, la entonación, los gestos,
las miradas y el lenguaje corporal
contribuyen a nuestro propósito:
hacernos entender. Así, solemos
sacrificar la sintaxis en nombre de algún
factor circunstancial (la brevedad, por
ejemplo). ChatGPT, entre
tanto, escribe como un humano, pero
resulta que los humanos no
hablamos como escribimos.
Con todo, la producción de texto del bot
es prodigiosa. ¿Cómo logran escribir
tan bien estos grandes modelos de
lenguaje? Explica Zuzenberg: “En
tecnología veníamos haciendo
algoritmos que daban un resultado,
tenían un output. Lo que viene a hacer
la IA, y en particular el aprendizaje con
redes neuronales, es invertir los
términos. A la red neuronal le das
resultados hasta que se da cuenta de
cuál fue el algoritmo anterior. Lo hace
con funciones matemáticas de n
dimensiones que, del mismo modo que
podemos graficar curvas de diferentes
variaciones, el volumen de datos que le
entregás a la red neuronal le permite
entender los algoritmos detrás de ese
corpus de datos. Una vez que la
máquina entendió o puede
representar esos algoritmos empieza
a predecir correctamente.”
Suena abstruso, pero Zuzenberg da un
ejemplo práctico: “Una forma más
didáctica de entenderlo es usando
matemática de secundario. Dada una
función f(x) = x^2 + 5x + 2,
podés graficar el valor de f(x) para
cada valor posible de x y obtener una
curva. Imaginate que el lugar que
ocupa cada palabra en una oración o
en un texto obedece a una función,
pero en lugar de 2 variables, tiene
millones. Cada vez que le das un texto,
ChatGPT ya sabe cómo calcular cuál es
la palabra, frase y puntuación que le
corresponde. Sumale a eso un marco
programado acerca de cómo se debe
responder, y listo, tenés texto generado
con un sentido coherente, y usamos texto. Pero no es una fuente de
comunicado en una estructura
diseñada.”
Si lo trasladamos al mundo real, el CEO
de Botmaker ofrece otro escenario:
“Una persona que no sabe ajedrez,
después de mirar miles de partidas,
va a terminar entendiendo cuáles
son las reglas. A ChatGPT, en lugar
de darle partidas de ajedrez, le dieron
miles de millones de textos,
principalmente escritos por humanos, y
así aprendió el algoritmo del
lenguaje. Lo que aprendió esa red
neuronal es el algoritmo
conversacional, pero no tiene una
representación consciente ni un
peso psicológico o emocional sobre
lo que está hablando.”
O sea que ChatGPT habla, pero no
sabe de qué está hablando. Incluso
cuando parece que sí sabe. Por eso,
como apunta agudamente James
Vincent en un reciente artículo de The
Verge, muchas personas inteligentes
fallan en lo que el autor denomina
el Test del Espejo. ¿Qué es? Simple:
como ChatGPT está entrenado sobre la
base de texto humano y se expresa
como si fuera una persona, no nos
damos cuenta de que lo que vemos en
ese black mirror es en realidad nuestro
propio reflejo.
Sin embargo, no hay nadie del otro lado
de la pantalla, solo se trata de software.
“Así es, es solo software –coincide
Zuzenberg–. Lo alimentamos con cosas
que hicimos los humanos, de modo que
funciona como un espejo. Incluye todos
nuestros prejuicios, nuestros vicios y
nuestras virtudes”. Y nuestras lagunas.
El bot parece saberlo todo, pero solo
sabe lo que está en su corpus de datos,
y a veces confunde mucho las cosas.
“Lo que tiene que tener en claro el
público es que la información y la
veracidad de ChatGPT no son
confiables. El bot sabe entender y
producir lenguaje, incluso puede
resultar creativo, pero no
necesariamente tiene información
correcta. Hay que advertirle a la gente
que la información que da ChatGPT no
equivale a buscar uno mismo los datos
en Google o en Wikipedia. Sí sirve para
resumir un artículo, porque no tenés
tiempo de leerlo, o para que te dé
alternativas más concisas de algo que
estás escribiendo. Eso puede hacerlo
porque manipula muy bien el lenguaje.
Es una herramienta útil para todos los
trabajos de escritorio en los que
información para investigar el mundo o
para saber, por ejemplo, cuáles son los
mejores restaurantes en esta zona,
porque ChatGPT nunca fue a comer”,
dice Zuzenberg.
Cierto, alguien podría observar que
ChatGPT puede ver las calificaciones
que los humanos les han dado a los
restaurantes. Sí, pero hasta ahora
ChatGPT solo podía responder con lo
que había en su corpus, que llega hasta
septiembre de 2021. Solo en estos días
OpenAI activó la función de que el bot
saque información en tiempo real de la
web. Pero el punto sigue siendo cierto:
carece de la experiencia de salir a
comer, así que dirá lo que otros dicen,
sin ninguna mirada crítica.
Eso sí, cuando el bot se pone a
escribir, nos parece magia; y a la
magia siempre conviene ayudarla un
poquito. Por eso, parte de lo que hace
ChatGPT está prefabricado. “Algo que
no es aparente es que este chabot tiene
encima un programa escrito por
humanos sobre cómo debe ser el curso
de una conversación –continúa
Zuzenberg–. Lo primero que hace
ChatGPT es repetir lo que le pediste,
para demostrar que te entendió. Ese
comportamiento está
programado. Luego, responde.
Gramaticalmente es muy probable que
esté correcto, pero el contenido no
necesariamente es veraz; puede
responder cualquier cosa. Y finalmente
tiene lo que se llama un ‘cierre de
humildad’, donde relativiza lo que te
dijo, por si se equivocó. Así, usando el
mismo modelo de lenguaje podríamos
modularlo con otro diseño
conversacional y hacerlo más agresivo
o más alegre”.
La pregunta Skynet
Por lo dicho hasta aquí, ya se instaló la
palabra “copiloto” para esta clase de
bots lingüísticos. La máquina hace el
trabajo pesado de redactar, leer y
resumir, y nosotros corregimos,
chequeamos, y eventualmente
añadimos el factor humano. Anoten la
palabra copiloto. Va a sonar mucho de
ahora en más.
Aquí se vuelve inevitable la
pregunta Skynet. Por ahora, ChatGPT
no hace nada solo. ¿Pero en qué punto
de la inteligencia artificial estamos
respecto del momento hipotético (no
sabemos si va a pasar algo así) en el
que el código toma la iniciativa y
empieza a indagar por las suyas, a
hacerse preguntas, a tomar
decisiones? “Con el estado del arte de
hoy no existe ninguna chance de que a
ChatGPT se le dé por empezar a
preguntar solo. En mi opinión, tenemos
dos o tres olas más, hasta 2035 o
2040, en que nuestra vida va a ser muy
mejorada por la IA, en que el trabajo
realmente va a cambiar, donde muchos
de los empleos que requieren las
habilidades humanas con el lenguaje
van a estar automatizados o van a
poder asistirse con lo que llamamos
“copilotos”. Pero la esencia de nuestra
vida no va a alterarse en el sentido de
que no va a haber una inteligencia
paralela con intenciones propias. Qué
va a pasar más allá no lo puedo saber”,
opina Zuzenberg, pero no descarta que
un día las máquinas cobren consciencia
y empiecen, por lo tanto, a desarrollar
una intención.
Está en línea con la respuesta que le
dio estos días Grady Booch, jefe de
ingeniería de software de IBM
Research, a InfoWorld. Frente a la
pregunta de si alguna vez habrá
máquinas conscientes, responde que
en su experiencia la mente puede
computarse, así que sí, las máquinas
podrían llegar a adquirir
consciencia. “Pero no en nuestra
vida, ni en la de tus hijos, ni en la de
los hijos de tus hijos”, anticipó Booch.
Más: en febrero, la revista de ciencia
ficción Clarkesworld debió suspender
la recepción de colaboraciones porque
se vio inundada por textos creados
usando ChatGPT; se notaba mucho
que eran obras artificiales. Además,
ChatGPT solo puede ser
gramaticalmente correcto; eso está a
años luz del arte literario. El gran
escritor (un Borges, un Cortázar,
un Joyce, un Kafka) no escribe
correctamente; ni siquiera escribe solo
bien; lleva el lenguaje humano hasta
el límite y un poco más. Clarkesworld
ha vuelto a tomar colaboraciones, pero
ahora en su sitio hay una contundente
advertencia respecto del uso de la
IA: no solo no se aceptan textos
hechos por bots o con la asistencia
de bots, sino que quien lo haga
podría ser inhabilitado para enviar
colaboraciones en el futuro. La Jihad
Butleriana de Dune ya empezó.
¿Sueñan los androides?
Por ahora, además, el consenso legal
es que las obras creadas por la IA no
están protegidas por la propiedad
intelectual. Otro debate en
puerta. ¿Acaso tenemos miedo de
que la IA sea más creativa que los
humanos? Más allá de que en arte
esto no tiene sentido (basta leer Arte y
Poesía, de Heidegger), si acaso fuera
cierto, bueno, reconozcámoslos como
personas y démosles sus derechos.
Según Zuzenberg y Booch, falta mucho
para eso. Hay autores que sostienen
que faltan mil años para que la IA
acceda a algo semejante a la
consciencia. ¿Acaso se puede hacer
arte automático? Un dadaísta diría que
sí. Pero un dadaísta, al revés que la
IA, tiene un cuerpo, lo aguarda la
muerte al final, sabe de su finitud a la
vez que puede concebir lo infinito,
tiene sueños inexplicables y un
subconsciente, miedos, deseos e
intenciones. Es, en suma,
humano. Incluso es humano cuando
intenta hacer arte automático.
La IA logró deducir, tras oír cientos de
miles de millones de nuestras
palabras, cómo funciona el lenguaje.
Algunos lenguajes, en rigor. Porque no
los maneja todos con la misma
presteza. China, que también corre
detrás de esta nueva meta tecnológica,
se enfrenta al problema de que en
internet hay mucho menos texto en
chino que en otros idiomas. A pesar de
ser el segundo idioma más hablado del
mundo.
Al “oírnos” hablar, el bot entendió
también nuestras formas de debatir y
razonar, lo mismo que nuestros
prejuicios y asociaciones inconscientes,
me explica Zuzenberg. Puede debatir –
incluso debatir consigo–, simular salas
de chat, escribir código, comparar y
resumir. Pero todavía no es
inteligencia generalista. Lo parece,
porque puede hablar de todo lo que
aprendió (y, a partir de las nuevas
versiones, de lo que encuentra en la
web). Pero esa inteligencia es una
imitación.
Se sabe que los loros están entre las
aves más listas que existen, lo mismo
que los cuervos, otros eximios
imitadores. Pero sabemos también que
repetir como un loro solo otorga un
barniz de inteligencia. Increíble como
pueda sonar, hemos privilegiado
tanto la memorización y la imitación
que ChatGPT ha pasado con honores
exámenes de ingreso a prestigiosas
universidades y colegios de
abogados. Cosa que, ahora empieza a
quedar claro, habla más de esos
exámenes que de la IA. Está bien, es
hora de que repensemos también la
educación. No es que los robots se
van a quedar con nuestros empleos,
sino que durante 5000 años nos
acostumbramos a hacer el trabajo de
los robots.
Y dicho sea de paso, si ni siquiera
tenemos una buena definición de qué
es la inteligencia humana, ¿por qué
insistimos en hablar de inteligencia
artificial? Esta brillante pregunta se la
formuló Kevin Kelly en un excelente
artículo de Wired, en 2017. Esto de
atribuirle a las máquinas una
características cuya definición nos
elude cuando hablamos de humanos
termina instalándose allí donde
ChatGPT se mueve con aparente
soltura: el lenguaje, el discurso público.
No es raro que nos esté
encandilando. ¿Sueñan los androides
con ovejas eléctricas?, se preguntó el
enorme Philip K. Dick en el título de la
novela que llegaría al cine como Blade
Runner, dirigida por Riddley Scott.
¿Sueña ChatGPT? Es pregunta.
Ariel Torres