Trabajo de Filosofia de la Técnologia y el Cambio Tecnológico

Profesores: Dario Sandrone

Diego Lawler.

Alumno: Ariel Dávila : Cohorte 2018.

¿Pueden crear las máquinas? Por Ariel Dávila

A partir de la pregunta de Turing ¿Pueden pensar las máquinas? Me hago la pregunta seguramente

no tan original pero que no pocos la formulan: ¿Pueden hacer arte las máquinas? O la pregunta mas

precisa seria ¿Pueden crear las máquinas?

Turing ideó un test para identificar una máquina de un humano a partir de preguntas: ¿Se podría

hacer el mismo test con el arte? ¿Se podría hacer un test donde se pueda descubrir si una obra está

hecha por una persona o por una máquina?

Trataré de revisar el concepto de máquina y tecnología en relación al arte.

Como marco teórico parto desde el texto de Turing “¿Puede pensar una máquina?”, desde la

Filosofía de la Tecnología de Simondon y sus estudios sobre la invención. Por el lado del arte y

cultura tomaré conceptos de George Steiner. Analizaré algunos proyectos actuales de IA los cuales

están trabajando en “máquinas creativas” y una mirada contemporánea sobre las culturas

tecnificadas contemporáneas de Eric Sadin.

Alan Turing en la conferencia que dio para la National Physical Laboratory de Londres intentó

responder a la vieja y controvertida pregunta ¿Puede pensar una máquina?, para lo cual propuso que

se debía empezar por la pregunta qué es una máquina y qué es pensar. Turing fue un brillante

matemático y en vez de tratar de resolver estas preguntas desde la ontología se propuso crear un

juego lógico, “el juego de imitación”. Desarrolló el ahora conocido test de Turing, en el cual a
través de preguntas y respuestas un jugador debe distinguir entre un humano y una máquina.

Entonces Turing decide reemplazar la pregunta ¿Pueden pensar las máquinas? por otra que está

estrechamente relacionada y en palabras no ambiguas, la nueva pregunta de Turing es: “¿Existirán

computadoras digitales imaginables que tengan un buen desempeño en el juego de imitación?”.

El test no evalua la capacidad de la máquina de pensar correctamente, sino la capacidad de esta de

dar respuestas similares a las que da un ser humano. En 1947 Turing pronosticaba que en 50 años

habría máquinas que podrían superar el test. “Me parece que la pregunta original, «¿Pueden

pensar las máquinas?», no merece discusión por carecer de sentido. No obstante, creo que, a

finales del siglo, el sentido de las palabras y la opinión profesional habrán cambiado tanto que

podrá hablarse de máquinas pensantes sin levantar controversias.“ (1947 Turing)

Hoy en día la máquina AlphaGoZero que aprende a jugar al Go jugando contra sí misma, consiguió

derrotar no solo a los campeones mundiales de Go si no también a las máquinas expertas en ajedrez

como StockFish. El director del equipo nacional de Corea del Sur Mok Jin Seok sostiene “que hay

una tendencia general en el mundo del Go que ahora esta siendo influenciado por el estilo de juego

del AlphaGo.”1.

¿Se puede hablar ahora de máquinas pensantes como lo pronosticaba Turing? Lo cierto es que la

Inteligencia Artificial es un hecho, que es parte ya de nuestro cotidiano.

Evidentemente en aquella conferencia Turing trataba de poner en crisis el concepto “pensar” como

una actividad exclusivamente humana.

A pesar de ser ya un reconocido matemático y de proponerse un juego lógico de preguntas y

respuestas, empieza ejemplificando un posible dialogo como este:

“P: Por favor, escriba un soneto sobre el tema del Cuarto Puente.

R: Hágame otra pregunta; la poesía no es mi fuerte.

P: Sume 34957 con 70764.

R: (Pausa de unos 30 segundos) 105621.

P: ¿Juega al ajedrez?

1 https://en.wikipedia.org/wiki/AlphaGo_Zero
R: Sí.

P: Tengo el rey en la casilla 1R y ninguna otra pieza. Usted tiene sólo el Rey en la casilla 6R y la

Dama en 1D. Le toca mover. ¿Qué juega?

R: (Pausa de unos 15 segundos) La Dama a D8, mate.

El método de preguntas y respuestas parece adecuado para introducir casi todos los campos de

actividad humana que queramos. No vamos a sancionar a la máquina por su incapacidad para

destacar en concursos de belleza, del mismo modo que no castigamos a una persona por perder

una carrera en una competición aérea”. (1947: Turing)

Lo que propone es no juzgar a la máquina por sus capacidades estéticas, sacarla de lo que hasta el

momento sólo podía hacer una máquina: calcular y a lo sumo analizar.

Pero volviendo a la conferencia de Turing en 1947, el hace mención a diez argumentos en contra de

la idea de que las máquinas pueden pensar. La objeción teológica, la objeción del avestruz, la

objeción matemática, el argumento de la conciencia, argumentos de incapacidades diversas, la

objeción de Lady Lovelace, el argumento de la continuidad del sistema nervioso, el argumento de la

informalidad de comportamiento, el argumento de la percepción extra-sensorial.

En el punto del argumento de la conciencia Turing cita un discurso del profesor Jefferson que dice:

«Hasta que una máquina sea capaz de escribir un soneto o de componer un concierto, porque tenga la

facultad de refexionar y sea capaz de sentir, y no por la combinación aleatoria de símbolos, no podremos

admitir que esa máquina sea igual al cerebro, en el sentido de que no sólo los escriba, sino que sepa que

los ha escrito. Ningún mecanismo (y no hablo de una señal artifcial, invención simplona) puede sentir

placer por sus logros, pena cuando se funden sus válvulas, regocijo por los halagos, depresión por sus

errores, atracción sexual, enfado o decepción cuando no consigue lo que quiere».

A lo que Turing responde: ¿como podemos saber si una máquina siente? Sería practicamente

imposible salvo ser una máquina, lo cual sería una salida solipsista. Si una máquina fuera

capaz de dar respuestas complejas y atinadas seguramente Jeferson no las califcaría de

“invención simplona”.

Actualmente las máquinas pueden dar respuestas complejas y atinadas.

Si ponemos en crisis el concepto “pensar” como una actividad exclusivamente humana,

¿podemos tambien pensar que la creatividad artistica puede ser también no humana?

Tendríamos que pensar que es eso que llamamos creatividad artística.

La concepción clásica o romántica sobre la creatividad y la invención consistía en creer que era

el emergente de un genio creador, inspirado por una musa, el cual tuvo un momento de

lucidez y ’Eureka!’ - surgió la creación de la nada.

Hay muchos mitos sobre esos momentos de revelación: la misma palabra Eureka que viene del

griego εὕρηκα héurēka,"¡Lo he descubierto!" señala el momento donde Arquímides cuando se tira

en una pileta y descubre el principio de flotación. O la manzana que cae en la cabeza a Newton le

inspira nada menos que la ley de gravedad. Podemos decir que esos relatos tienen la forma de una

Epifania, un momento de revelación, de descubrimiento de algo oculto. Claro que descubrir no es lo

mismo que inventar o crear. El descubrimiento es sobre algo dado ya existente pero que se

comprendió de repente, la invención o la creación implica la agencia de algo nuevo que no existía.

Pero tanto en el descubrimiento como en la invención, la concepción clásica y moderna también

sostienen un momento casi mágico donde se despierta el genio.

En la actualidad se concibe tanto la creación como la invención como un proceso. Seguramente el

descubrimiento de leyes universales de gravedad no surgió por un accidente, sino de como resultado

de un trabajo que quizás en un momento se resuelve ayudados por alguna contingencia.

Simondon tambien sostenía que la invención no procede de un solo acto: “no procede ex nihilo a partir

de la materia a la que da una forma, sino a partir de elementos ya técnicos, a los que se descubre un

ser individual susceptible de incorporarlos” (MEOT: 94). “Inventar es imaginar la construcción de un

individuo técnico a partir de la incorporación y/u organización de los elementos técnicos existentes”.
(Parente Sandrone)

Entonces la invención es un proceso de combinación de elementos técnicos previos.

“La invención no se da sólo en el plano del conocimiento sensible de la materialidad de los

elementos ni exclusivamente en la imaginación abstracta del cumplimiento de una función práctica

sino “e n ese nivel intermedio de los esquemas” inventar un individuo técnico es diseñar un

esquema de funcionamiento a partir de los elementos técnicos conocidos.” (Parente Sandrone).

En cuanto a la creación artística George Steiner sostiene en la “Gramática de la creación” que decir

que la creación viene de la nada es imposible para el ser humano:

“Todas las contrucciones humanas son combinatorias, lo cual no significa más que son arte-factos

realizados por una selección combinación de elementos preexistentes. Hemos visto cuán espinosa

es la cuestión de la creación divina o astrofísica “a partir de la nada”(Ex nihilo). Esta posibilidad

no está al alcance del ser humano. Las combinaciones pueden ser inéditas y estrictamente sin

precedentes. La asociación de elementos dispares, la generación de lo andrógino o lo hermafrodita

puede revestir y engendrar formas ilimitadas. Pero incluso el diseño mas revolucionario, la unión

cromática con los colores mas nuevos, requiere inevitablemente el uso de un material existente que

en sí mismo está circunscrito a la limitación de nuestro nervios ópticos.

Tanto Simondon como Steiner sostienen que no hay un creación ex nihilo de la nada, que son

procesos combinatorios de elementos anteriores sumadas a capacidades “técnicas” del creador y su

bagaje cultural. Steiner en su Gramática de la Creación analiza que detrás de la palabra creación hay

un cierta cantidad de creencias teológicas y religiosas, en definitiva el único capaz de crear algo de

la nada para la cultura occidental judeo cristiana es Dios.

David Cope es un compositor y científico estadounidense. El comenzó su carrera como compositor

musical pero estudió computación y técnicas de aprendizaje e inteligencia artificial aplicando sus

conocimientos a sus trabajos musicales.

A fines de los noventa, comenzó a programar EMI (Experiments in Music Intelligence) para

ayudarlo a superar un bloqueo de compositor que estaba sufriendo al intentar completar una opera.
Su idea inicial era crear un programa que pudiera tener una idea general de su estilo musical y la

habilidad de componer o continuar componiendo una obra.

EMI compone música en el estilo de un músico determinado a partir de obra. Funciona a partir de

tres principios 1) Deconstrucción, Analizar y separar partes. 2) Firmas (elementos comunes), 3)

Compatibilidad, Recombinación en nuevas obras.

La recombinación consiste en producir música nueva recombinando una existente en sucesiones

lógicas. Se podría decir en verdad que casi todas las grandes obras de la música occidental es una

recombinación de doce notas de la escala temperada y sus equivalentes de octava. El resultado final

esta dado por la sutileza y elegancia con la que se realiza este proceso.

Para que esta recombinación dé como resultado una obra musical estéticamente correcta es

necesario incluir un análisis musical.

En la universidad de Oregon se organizó un test de Turing musical en el que un pianista tocaría tres

piezas al estilo de Bach: una compuesta por EMI, otra por el Dr. Steve Larson y la última por el

mismo Bach teniendo la audiencia que identificar qué pieza correspondía a quien. El publico

seleccionó la composición de EMI como la creada por Bach y la de Larson como la realizada por el

software.

Google tiene el proyecto Magenta para desarollar Inteligencia Artificial y mejorar la tecnología que

usaba Deep Blue (la máquina que ganó a Kasparov y luego al campeon de GO). En el marco del

proyecto Magenta, Douglas Eck, músico e informático, es el impulsor del proyecto Tensor-Flow,

que utiliza la arquitectura del Deep Learning. El Tensor-Flow consiste en una máquina que puede

recombinar distintos imputs sonoros, visuales y de textos y recombinarlos creando nuevas obras. En

el momento hay diferentes artistas que están utilizando estas herramientas para la composición

musical, crean instrumentos inteligentes. En literatura, la máquina puede aprender estilos de

escrituras encontrando patrones en el texto original y crear una nueva obra literaria con el estilo de

un autor determinado.

Si crear es recombinar elementos existentes en este momento, podemos afirmar que las máquinas
pueden crear. Luego vendría el debate si lo que producen las máquinas es arte. Pero eso seria otra

discusión. Mario Klingeman un artista y miembro del equipo de Google Arts. Trabaja con la

tecnología de IA y Deep Learning para entrenar las computadoras en crear imágenes y dice que se

convirtió en un curador de las imágenes que crea la máquina.

Todavia es necesario que los humanos pongan un imput en las máquinas para recombinar en nuevas

obras, todavia parece que hace falta la mirada humana para seleccionar que de lo que produce la

máquina tiene valor artístico.

La autonomía de las máquinas es cada vez mayor, nos asisten cada vez mas en tareas cognitivas y

nos superan en otras, como los jugadores de Go que empiezan a copiar el estilo de juego de Alpha

Go. Eric Sadin en el texto “Del sujeto humanista al individuo algoritmicamente asistido” describe

como en el siglo XX se fue descontruyendo el antropomorfismo que venía de la modernidad. Desde

Descartes hasta el positivismo se creía que el hombre a través de la razón podia descubrir el

funcionamiento total de esa gran maquinaria que es el universo. Pero en el Siglo XX, Freud

descubrió que había algo mas que la razón, un mundo “subterraneo” de pensamientos que no

manejamos del todo. La relatividad y la física cuántica proponen principios que escapan a la

intuición. Wittgenstein y gran parte de la lingüística sostienen que hay perceptos que vienen de

formas colectivas heredadas del lenguaje. Las nuevas concepciones filosóficas, psicológicas y

científicas redujeron el campo de competencia otorgado al hombre moderno. Marx dice: “En tanto

que el hombre se pudo considerar como un demiurgo, como el amo cuyas manos modelaban la

naturaleza, su imagen estaba salvada. Pero cuando la máquina, o el objeto técnico individual,

estuvo disponible no solamente como instrumento de trabajo, sino bastándose a sí mismo en la

ejecución como individuo separado, para el hombre esto significó de golpe la pérdida de una parte

esencial de su legado.”

El hombre, al menos como único soberano de sus acciones y convicciones ya no existe. Esta

“muerte del hombre”, anunciado por Foucault, nos obliga repensarnos como sujetos sociales,

culturales y políticos. Si sumamos esta descentralización del hombre al surgimiento de la revolución

digital, el capitalismo cognitivo y la algoritmización de la sociedad, es lógico que se hable de un

hombre “post-orgánico”, como sostiene Paula Sibilia. Es lógico que se escriba un manifiesto Ciborg

como lo hizo Donna Haraway o que se hable de una “humanidad híbrida”, una condición

antrobológica como plantea Sadin.

Los artistas estamos tomando conciencia de estas miradas y nos estamos repensando como actores

sociales creativos, pero conscientes que no somos los únicos capaces de tener creatividad.

Ariel Dávila.

Noviembre 2018

Bibliografía:

Turing Alan M - ¿Puede Pensar Una Maquina? 1950. GusiX.

Parente y Sandrone: “Invención y creatividad en la evolución de los objetos industriales:

exploración de algunos problemas simondonianos”.

Steiner George: “Gramática de la creación” 2001.Editor digital: Titivillus. Epulibre.

Sadin Eric: “La humanidad aumentada. La administración digital del mundo” 2017 Caja Negra.