Procesos creativos, inteligencia

artificial y ciencias de datos II

Carlos Hinrichsen y Erick Svec
Desafío Deepfake
Desafío Deepfake
Proponga un producto, cuyo fin sea la ayuda a un tercero usando la tecnología de deepfake vista en
clases. Como entrega se espera:
● Presentación en clases 13 Septiembre: se presenta en 5 minutos
○ el dolor a resolver
○ el producto
○ una demo con un prototipo quick and dirty
● Monografía 13 de septiembre impresa, entregar en clases, con el detalle del proyecto
○ Portada
○ Índice
○ Introducción
○ Desarrollo
■ Canvas model
■ Análisis ético
○ Conclusión
○ Bibliografía
○ Anexos (opcional, puede incluir el demo)
Desafío Deepfake - Consideraciones
● Su producto debe resolver un dolor real
● Su producto puede ser original o una adaptación considerable de uno
existente (no una copia) mencionando el factor diferenciador
● Debe mencionar si es original y en cuyo caso asegúrense que no existe (use
google)
● El prototipo puede tener procesos off-line, que en un producto final no se
encontrarían, como por ejemplo el tiempo de hacer copy paste manualmente
de un video entre plataformas.
¿Cómo generar un deepfake?
Cómo generar un deepfake
Existen aplicaciones, sitios web o código disponibles. La gran mayoría de pago,
pero que tienen un gran performance y un costo de aprendizaje bajo, algunas
opciones son:
Web
● https://deepfakesweb.com/
● https://www.myheritage.es/deep-nostalgia
● https://www.synthesia.io/free-ai-video-demo#LnD
Aplicaciones
● Faceswap [https://faceswap.dev/]
● FaceApp [https://www.faceapp.com/]
● Reface [https://reface.app/]
● doublicat [https://doublicat.es.aptoide.com/app]
● Wombo [https://www.wombo.ai/]
● Zao [https://zaodownload.com/]
● Botika [https://botika.io/]
Código
● https://github.com/iperov/DeepFaceLab
● https://github.com/chervonij/DFL-Colab
● https://github.com/AliaksandrSiarohin/first-order-model
● https://colab.research.google.com/github/JaumeClave/deepfakes_first_order_
model/blob/master/first_order_model_deepfakes.ipynb#scrollTo=brJlA_5o72X
c
● https://colab.research.google.com/github/AliaksandrSiarohin/first-order-model/
blob/master/demo.ipynb#scrollTo=Oxi6-riLOgnm
● https://colab.research.google.com/drive/1qF4hjMsFPl-fLFhy3q0q5LLSgksNhI
vT?usp=sharing#scrollTo=PEU1RADbwcaB
Ética en Deepfake
Discografía
Lola Flores tiene cientos de grabaciones y canciones que han quedado en el
recuerdo del público. Su primera canción grabada en disco fue Pescaero,
pescaero. De ese mismo periodo destacan Pepa Banderas (1946), La Sebastiana
y sobre todo La Zarzamora (1948), que la acompañó en su entierro por petición
propia.

Entre sus discos se encuentran: Ay Lola, España mía, Juerga flamenca, Mi

mundial 82 (1982) La inimitable Lola (1990). Las canciones más recordadas son
La Zarzamora, A tu vera, Torbellino de colores, ¡Ay pena, penita, pena!.
Filmografía
Premios
Orden del Tío Pepe de Oro en 195352​
Lazo de Isabel, la Católica, con tratamiento de Ilustrísima Señora, abril de 1962
Insignia de Oro de la Peña Tío José de Paula en 1991
En 1994 recibió la Medalla de Oro al Mérito en el Trabajo.53​
Se le otorgaba, en 1965, la medalla de plata de Jerez de la Frontera, en
agradecimiento por llevar el nombre de su ciudad a todos los rincones del mundo.
Lola Flores
A considerar
Aunque los legítimos herederos/as de dicha personas acepten y den su
consentimiento. ¿Podemos asegurar que esa persona estuviera de acuerdo?
Piensen en alguien que no haya conocido de manera contemporánea la vida y
obra de Lola Flores, y gracias a este vídeo la conozca, esa persona asumirá estas
palabras como suyas. Quizás no se plantee y se pregunte nada más. Y para esta
persona las palabras del video son de Lola. Un mensaje que nunca dijo.
Ética en Deepfake
¿Podemos personificar o revivir a alguien muerto solo para hacer propaganda a
un producto?
¿Cuáles serían motivos justificados según ustedes para “revivir” a alguien usando
deepfake?
¿Dónde dibujamos la línea?
¿Qué hay de los derechos de autor al morir?
¿Es Lola o es un avatar digital?
Ver para creer
Ver para creer
Ver para creer
Ver para creer

Los rostros sintetizados por la IA son indistinguibles de los

reales y más fiables

El texto, el audio, la imagen y el vídeo sintetizados

por la inteligencia artificial (IA) están siendo
utilizados como armas para la creación de
imágenes íntimas no consentidas, el fraude
financiero y las campañas de desinformación.
We the humans
humans.ai
humans.ai
The first step towards achieving our vision is to place AI under the close
supervision of real humans who monitor how the technology is being used and if it
respects the rigorous Humans.ai ethical standards, meaning that AI can never be
used outside its intended purpose, to create harmful media that denigrate people’s
image, ideas or beliefs.
humans.ai
El primer paso para lograr nuestra visión es colocar la IA bajo la estrecha
supervisión de humanos reales que controlen cómo se utiliza la tecnología y si
respeta las rigurosas normas éticas de Humans.ai, lo que significa que la IA
nunca puede utilizarse fuera de su propósito, para crear medios de comunicación
perjudiciales que denigren la imagen, las ideas o las creencias de las personas.
humans.ai
Secondly, we have created a new intelligent asset class named AI NFTs that goes
beyond the standard iteration of an NFT by integrating an AI component inside them,
as well as a person’s unique digital genome which can be composed of voice, face,
posture, way of being and other biometrics unique to an individual. Blockchain is
unique through its ability to ensure granular traceability and ownership of the
information it stores, as well as data immutability and integrity, which means that
once introduced into the network, the information cannot be altered.

By making use of these properties, we ensure that each human is the true owner of
their digital genome which they can use as a building block to develop new AI
products or enable other people to use the data in their projects.
humans.ai
En segundo lugar, hemos creado una nueva clase de activos inteligentes denominada NFT
de IA que va más allá de la iteración estándar de una NFT al integrar un componente de IA en
su interior, así como el genoma digital único de una persona que puede estar compuesto por
la voz, la cara, la postura, la forma de ser y otros datos biométricos únicos de un individuo.
Blockchain es única por su capacidad de garantizar la trazabilidad granular y la propiedad de
la información que almacena, así como la inmutabilidad e integridad de los datos, lo que
significa que una vez introducida en la red, la información no puede ser alterada.

Al hacer uso de estas propiedades, nos aseguramos de que cada ser humano sea el
verdadero propietario de su genoma digital, que puede utilizar como bloque de construcción
para desarrollar nuevos productos de IA o permitir que otras personas utilicen los datos en
sus proyectos.
Cómo detectar un deepfake
Falta de parpadeo: Muchos de los métodos de deepfake más antiguos no conseguían
imitar el ritmo de parpadeo de una persona, un problema que los programas recientes
han solucionado.

El temblor de la cara: El brillo o la distorsión es un indicio. Además, busque movimientos

anormales de objetos fijos en el encuadre: un soporte de micrófono o una lámpara, por
ejemplo.

Comportamiento extraño: Un individuo que hace algo inverosímil o fuera de lo normal

debería ser siempre una bandera roja.

Pero las falsificaciones evidentes pueden no ser lo que parecen Es fácil sembrar la duda
sobre una grabación real añadiendo una incoherencia.
AI vs AI
Procesos creativos, inteligencia
artificial y ciencias de datos II
Carlos Hinrichsen y Erick Svec