monografía

ciclo de
conferencias y debates en

ciencias
11.ª edición
FUNDACIÓN RAMÓN ARECES
SPRINGER NATURE

INTELIGENCIA ARTIFICIAL
APLICADA A LA BIOMEDICINA
Lo que nos depara el futuro

ARTIFICIAL
INTELLIGENCE
IN BIOMEDICINE
What the future
holds for us
monografía
ciclo de
conferencias y debates en

ciencias
11.a edición
FUNDACIÓN RAMÓN ARECES
SPRINGER NATURE

INTELIGENCIA ARTIFICIAL
APLICADA A LA BIOMEDICINA
Lo que nos depara el futuro

ARTIFICIAL INTELLIGENCE
IN BIOMEDICINE
What the future holds for us

Madrid, 7 de febrero de 2019

FUNDACIÓN RAMÓN ARECES
Vitruvio, 5 • 28006 Madrid
© Fundación Ramón Areces
Vitruvio, 5 - 28006 Madrid (España)
www.fundacionareces.es

© 2019 Springer Healthcare Ibérica, part of Springer Nature group

Rosario Pino, 14 - 4ª planta
28020 Madrid (España)
Tel.: +34 91 555 40 62
www.springerhealthcare.com
www.springernature.com

Depósito legal: M-15507-2019

Impreso en España – Printed in Spain
ÍNDICE
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
Lo que nos depara el futuro
presentación
Federico Mayor Zaragoza___________________________________________________________________ 7
Soledad Santos___________________________________________________________________________ 8

introducción
Erika Pastrana __________________________________________________________________________ 11

conferencias
Inteligencia artificial y ciencia de datos: mirando hacia el futuro
Prof. José Hernández-Orallo ________________________________________________________________ 17

Desarrollo de la inteligencia artificial y tecnologías éticas para el sector de la salud

Dr. Tarek R. Besold ______________________________________________________________________ 23

Robótica flexible para interaccionar de manera intuitiva con los robots

Dra. Jamie Paik _________________________________________________________________________ 29

Potencial de la inteligencia artificial/deep learning para mejorar

el tratamiento oncológico
Dra. Kara L. Davis ______________________________________________________________________ 35

debate
Prof. José Hernández-Orallo, Dr. Tarek R. Besold, Dra. Jamie Paik, Dra. Kara L. Davis _______________________ 39

ARTIFICIAL INTELLIGENCE IN BIOMEDICINE

What the future holds for us
presentation
Federico Mayor Zaragoza__________________________________________________________________ 47
Soledad Santos__________________________________________________________________________ 48

introduction
Erika Pastrana __________________________________________________________________________ 51

lectures
Artificial intelligence and data science: looking ahead
Prof. José Hernández-Orallo ________________________________________________________________ 57

Building ethical Artificial Intelligence and technology for the health sector
Dr. Tarek R. Besold_______________________________________________________________________ 63

Soft robotics for intuitive human robot interaction

Dr. Jamie Paik __________________________________________________________________________ 69

Potential of artificial intellingence/deep learning methods to improve cancer care

Dr. Kara L. Davis________________________________________________________________________ 75

discussion
Prof. José Hernández-Orallo, Dr. Tarek R. Besold, Dr. Jamie Paik, Dr. Kara L. Davis _________________________ 79

3
presentación

Federico Mayor Zaragoza

Presidente del Consejo Científico
de la Fundación Ramón Areces

Soledad Santos
Directora Editorial de España y Portugal
de Springer Healthcare

Inteligencia artificial aplicada a la Biomedicina

5
Presentación
E
n esta undécima edición de “Ciclos de conferencias y debates”, organizada
conjuntamente con Springer Nature, y bajo el título Inteligencia Artificial
Aplicada a la Biomedicina. Lo que nos depara el futuro, nos acercamos a
temas de gran actualidad, con la participación y colaboración de personalidades de gran
notoriedad. No cabe duda del progreso extraordinario que ha experimentado la informá-
tica aplicada a la Biomedicina en los últimos años y de la inmensa repercusión que puede
tener su aplicación, no solo en el análisis de datos, sino también en el establecimiento del
diagnóstico y la decisión del tratamiento, así como en el aumento de las capacidades de las
técnicas quirúrgicas, con aplicaciones que hace algunos años eran inimaginables.
Siguiendo la misma trayectoria, el siglo xxi será el siglo de la atención personalizada
en Medicina. Hoy en día ya disponemos de sistemas de acumulación de datos (Big data)
que permiten recopilar gran cantidad de información, no solo respecto a los síntomas de
los pacientes, sino también para valorar la repercusión genética y epigenética, y que nos
permiten, además, combinar estos datos a gran velocidad y establecer, sobre esta base,
la mejor decisión terapéutica. Por tanto, vale la pena invertir en todo lo relacionado con la
computación, la informática y la salud.
Hemos de ser conscientes de que solo algunas personas pueden disfrutar de estos
avances. Hoy quiero recordar la importancia de que aspectos como la salud, el agua y
una educación de calidad, señalados como prioritarios por las Naciones Unidas, deberían
extenderse a todo el mundo.
Mediante la aplicación de estos avances a la salud, el futuro nos puede deparar algo
mucho mejor desde el punto de vista de la solidaridad humana. Por tanto, una vez más
me alegra dar la bienvenida a los representantes de Springer Nature y espero que sigan
considerando la Fundación Ramón Areces como su casa. ❙

Federico Mayor Zaragoza

Presidente del Consejo Científico de la Fundación Ramón Areces

7
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA

B
ienvenidos a la undécima conferencia-debate fruto de la colaboración entre
la Fundación Ramón Areces y el grupo Springer Nature dedicada a la
­Inteligencia Artificial Aplicada a la Biomedicina.
Para todo el equipo de Springer Nature en España es una gran satisfacción poder
continuar, año tras año, esta interesante colaboración con la Fundación Ramón Areces
y con ello contribuir a su importante misión de acercar la vanguardia científica de
fuera y dentro de nuestras fronteras, no solo a nuestra comunidad científica local, sino
también al público en general. Es para nosotros un honor contribuir a la organización
de una de las actividades de divulgación de ciencias de la vida de mayor trayectoria en
la Fundación Ramón Areces.
Este año celebramos el 150 aniversario de la revista Nature y nos llena de orgullo
saber que, a lo largo de estos años, aunque las formas han cambiado desde el papel
hasta “la nube”, nuestro objetivo sigue siendo el mismo: ayudar a nuestros lectores a
entender y comprender el avance de la ciencia; asistirles en su trabajo y en la progre-
sión de su carrera profesional; y ayudarles a evaluar la trascendencia que cada avance
científico tiene en el contexto de la sociedad. Todos estos valores coinciden con la
misión de la Fundación Ramón Areces, a la que agradecemos que nos brinde esta estu-
penda oportunidad de colaborar en la organización de estas conferencias.
Agradecemos especialmente al Comité Científico, representado en esta mesa por
los Profesores Federico Mayor Zaragoza y José María Medina, que escogen cada año
un tema de gran relevancia científica e interés para el público en general. Al Director
General de la Fundación, el Sr. Raimundo Pérez-Hernández y Torra, y al Sr. Manuel
Azcona, Director de Comunicación, les agradecemos su compromiso para organizar
estas jornadas cada año.
“¿Será mi doctora sustituida por un robot?” “¿Predecirá una máquina si voy a pade-
cer cáncer?” Estas preguntas, que hasta hace poco solo se entendían en el entorno de
las películas o de las novelas de ciencia ficción, hoy en día están en la mente de muchos
de nosotros y son los retos que se han planteado los ponentes de esta tarde. La com-
binación de cantidades enormes de información médica, en particular imágenes, y
el desarrollo de algoritmos para extraer patrones de información y tomar decisiones
“inteligentes” a partir de los datos, han hecho avanzar rápidamente el diagnóstico, y ya
se ha observado que estos algoritmos aportan resultados tan buenos o incluso mejores
que los estándares establecidos por expertos.
Como nos explicará la Dra. Kara L. Davis, estos algoritmos inteligentes también
pueden ayudar a predecir los resultados de un medicamento en un paciente a nivel
individual, evitando así tratamientos innecesarios y mejorando la atención sanitaria.
 Presentación

Además, escucharemos a la Dra. Jamie Paik describir cómo en su laboratorio cada día
desafían a la imaginación para desarrollar robots y otro tipo de herramientas capaces
de inter­accionar con el ser humano de forma segura y eficiente, con el objetivo de ayu-
dar, entre otras situaciones, en tratamientos de rehabilitación.
Como con todos los avances tecnológicos, la implantación de herramientas de
inteligencia artificial en el campo de la Medicina y la automatización de muchos pro-
cesos nos plantean cuestiones éticas sobre qué se puede y se debe hacer dentro de este
campo. El Prof. Hernández-Orallo y el Dr. Tarek R. Besold nos ayudarán a entender
y plantearnos hasta dónde queremos llegar al “ceder” algunas de nuestras tareas a las
máquinas, y más concretamente, dentro del delicado campo de la Biomedicina y de los
datos de pacientes, nos ayudarán a comprender en qué nos pueden beneficiar todas
estas herramientas de inteligencia artificial y qué debemos exigirles a estas para ase-
gurar que incluyen valores éticos que permitan un desarrollo equitativo de nuestra
sociedad.
José, Tarek, Jamie y Kara, es para nosotros un honor que hayáis aceptado participar
en estas conferencias. Os estamos muy agradecidos y esperamos que disfrutéis de esta
experiencia tanto como nosotros.
Por último, quisiera dar las gracias a Erika Pastrana, Directora Editorial de las
revistas Nature, por la moderación de este evento. Tu gran profesionalidad y tu entu-
siasmo por la ciencia son parte del éxito de estas jornadas.
Muchas gracias a todos. Espero que disfruten de las conferencias y su debate
posterior.  ❙

Soledad Santos
Directora Editorial España y Portugal
Springer Healthcare

9
introducción
Erika Pastrana
Directora Editorial de Nature Research,
Nueva York, EE.UU.

Erika es licenciada en Bioquímica y Biología Molecu-

lar por la Universidad Autónoma de Madrid y obtuvo
su doctorado en la misma Universidad, de la mano
del Dr. Javier Díaz-Nido, investigando los mecanis-
mos ­celulares y moleculares responsables de promo-
ver la regeneración de axones dañados en el sistema
­nervioso central de los mamíferos. Posteriormente se
trasladó a Nueva York, donde realizó estudios posdoc-
torales en la Universidad de Columbia, en el Labora­

Down aplicada a la Biomedicina

torio de la Dra. Fiona Doetsch, donde estudió la forma
en la que se crean nuevas neuronas y se incorporan a
los circuitos de ciertas áreas del cerebro de los mamí-
feros adultos.

En 2010 se unió a la revista Nature Methods como

­Editora responsable de Neurociencias y en 2014 se
trasladó a Nature Communications como Editora jefe de
la sección de Neurociencias.
Síndrome deartificial

En la actualidad, Erika es la Directora Editorial de las re-

vistas Nature en el área de las ciencias aplicadas y quí-
micas, incluidas Nature Biotechnology, Nature Methods
y Nature Chemistry, entre otras.
Inteligencia

11
 Introducción
E
n primer lugar, me gustaría reiterar nuestro
agradecimiento a la Fundación Ramón
Areces. Muchos de los aquí presentes, al
igual que yo, os dedicáis a la labor científica, y el papel
de una fundación como esta es de vital importancia,
ya que trae la ciencia presentada por investigadores
internacionales a nuestra ciudad, a nuestras calles y a
nuestras universidades, promoviendo de esta forma el
diálogo no solo de los expertos con la sociedad, sino
también de la sociedad con los expertos.
En esto consiste el acto de esta tarde. Podremos
disfrutar de presentaciones de investigadores inter-
nacionales muy importantes en el campo de la inteli-
gencia artificial y la Biomedicina. Primero asistiremos
a cuatro presentaciones de unos veinte minutos y
luego escucharemos vuestras preguntas y opiniones
sobre la materia.
Quiero agradecer a los ponentes que hayan venido
desde tan lejos para presentar aquí sus trabajos y la gran
importancia de la labor de divulgación científica que
desempeñan, probablemente ahora más que nunca.
¿Por qué hemos elegido este año el tema del uso de la
inteligencia artificial en Biomedicina?
Hoy en día es indudable la relevancia que la inteli-
gencia artificial tiene en nuestras vidas, tanto por sus
aspectos positivos como por los posibles efectos nega-
tivos asociados a un mal uso de la misma. Es impor-
tante resaltar que el avance que estamos viendo a nivel
científico y su aplicación clínica son el resultado de
una inversión en ciencia básica de muchos años. Los
principios básicos en los que se fundamenta lo que
hoy denominamos inteligencia artificial, como el deep
­learning, se establecieron el siglo pasado. Ha sido la
financiación y la perseverancia de grupos de investiga-
dores, centrados en desarrollar esas ciencias básicas, lo
que ha permitido que hoy podamos hacer uso de ellas.
¿Por qué tiene ahora tanta importancia la inteli-
gencia artificial aplicada a la Biomedicina cuando sus
principios surgieron hace muchos años?
Puede asociarse a que hoy en día la acumulación de
datos es una tarea fácil y barata, el poder de cómputo
de las máquinas está alcanzando, gracias al desarrollo
del software y del hardware, unos niveles mucho más
altos y todo ello lleva a que en este momento estemos
asistiendo a un punto de inflexión.
En la Biomedicina, como en otras ciencias, la
cantidad de información que obtenemos actual-
mente es mucho mayor. Si pensáis en los disposi-
tivos que lleváis con vosotros, todos los días están
acumulando datos sobre vuestros comportamientos
y, en algunos casos, también sobre aspectos fisio-
lógicos. Los médicos tienen actualmente una gran
capacidad para obtener detalles muy refinados sobre
cada célula y cada elemento de vuestro cuerpo. Por
ejemplo, como nos explicará la Dra. Davis, hoy en
día se puede recopilar información de un tumor
hasta un nivel mucho más sofisticado y detallado de
lo que se podía hace años.
Por último, el ejercicio de la práctica clínica está
cambiando de un modelo basado en un soporte de
papel a un modelo digital. Todos los registros clínicos
e información clínica están pasando a convertirse
en información digital. Con todo ello, un médico o
un científico se encuentran con las manos atadas, ya
que disponen de mucha información que no pueden
manejar sin la ayuda de soportes informáticos, ya
que la mente humana, por sí sola, no puede analizar
e interpretar tanto volumen de información. Es aquí
donde las ciencias del deep learning y la informática
aportan su capacidad de interpretar gran cantidad de
información y dar claridad a esa nube de datos que
de otra forma no podríamos entender.
13
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
Al igual que en otros campos, es importante hacer
un uso muy delicado de estas técnicas. Cabe resaltar que
en Biomedicina este uso seguro de los datos es de vital
importancia. Los datos que se manejan son de carácter
muy sensible como, por ejemplo, datos médicos, perso-
nales y/o de comportamiento, y como sociedad debemos
tener cuidado de no usarlos de una manera que infrinja
principios básicos de consentimiento y de privacidad.
Otro reto lo constituye el hecho de que muchos
de los algoritmos que analizan dicha información
se basan en los propios datos que les aportamos y, si
dichos datos no son representativos de la sociedad
o están sesgados por representar solo a una parte, es
posible que tomemos decisiones que no puedan apli-
carse a todos los individuos por igual.
Por último, también hay un problema real, y es que
en ocasiones no entendemos cómo esos algoritmos
llegan a las conclusiones a las que llegan. El deep
­learning, en particular, nos da una respuesta después
de haber observado cómo los informáticos son inca-
paces de explicar cómo un algoritmo ha sido capaz de
llegar a una cierta conclusión.
Todos estos aspectos son los retos sobre los cuales
nos van a hablar los ponentes de hoy, así como de la
importancia de desarrollar unos marcos científicos
éticos y legales.
Es un enorme placer para mí presentar a los cuatro
ponentes de hoy. Cada uno de ellos ha llegado al
campo de la inteligencia artificial desde ámbitos muy
distintos que hoy van a compartir con nosotros.
En primer lugar, vamos a escuchar al Profesor José
Hernández-Orallo, Catedrático de la Universidad Poli-
técnica de Valencia, experto en ciencias de datos y de
sistemas informáticos. Nos va a presentar una visión
general y amplia sobre qué entendemos hoy en día
por inteligencia artificial, qué técnicas implica y los
conceptos de inteligencia artificial de las máquinas
en relación con lo que conocemos de la inteligencia
humana y cuáles son los parámetros más relevantes que
debemos entender para poder aplicar estas técnicas.
El Dr. Tarek R. Besold es Director de Inteligencia
Artificial @ Telefónica Innovación Alpha Health y
tiene una trayectoria diferente, ya que es experto en
ciencias cognitivas y ha estudiado cómo los humanos
entendemos el conocimiento. Desde esa perspectiva,
ha llegado a la inteligencia artificial, aportando el
conocimiento del cerebro humano, y nos va a hablar
de la aplicación que está haciendo de las técnicas de
inteligencia artificial y del conocimiento humano
para desarrollar herramientas reales en el campo de la
Biomedicina. El Dr. Besold tiene mucho que decirnos
respecto a cómo desarrollarlas de forma ética, regu-
lada y asegurando que la técnica conviva con nosotros
de una forma segura.
En tercer lugar, tendremos a la Dra. Jamie Paik, que
nos visita desde Lausanne (Suiza), donde ejerce como
Directora del Laboratorio de Robótica Reconfigurable
en la Universidad Politécnica. La robótica es un campo
muy importante de la inteligencia artificial porque
los algoritmos y los datos por sí mismos no pueden
avanzar si no van acompañados de un desarrollo del
hardware. La Dra. Paik se ha especializado en el campo
de soft robotics (robótica flexible) y en la ciencia de los
materiales y va a presentar los últimos avances sobre
qué se puede hacer para convertir robots basados en
origami en entes inteligentes.
Finalmente, vamos a tener la perspectiva clínica
de la Dra. Kara L. Davis, que aplica estas técnicas en
el desarrollo de su profesión médica. La Dra. Davis
nos visita desde Stanford, California, donde lidera el
Centro Bass del Instituto de Investigación en Salud
y donde, además, ejerce como médica pediatra en la
especialidad de Oncología infantil, concretamente
en el tratamiento de leucemias. Nos hablará de los
retos y oportunidades del uso de la inteligencia
artificial para analizar datos a nivel molecular de
tumores y, de esta manera, poder establecer cuáles
son las células responsables de que recaigan los
pacientes y contribuir a diseñar mejores opciones
de tratamiento para ellos.  ❙
conferencias
• Inteligencia artificial y ciencia de datos: mirando
hacia el futuro
Prof. José Hernández-Orallo
Catedrático del Departamento de Sistemas Informáticos y Computación,
Universidad Politécnica de Valencia, Valencia, España

• Desarrollo de la inteligencia artificial

y tecnologías éticas para el sector de la salud
Dr. Tarek R. Besold
Director de Inteligencia Artificial @ Telefónica Innovación Alpha Health,
Barcelona, España

• Robótica flexible para interaccionar de manera

intuitiva con los robots
Dra. Jamie Paik
Directora del Laboratorio de Robótica Reconfigurable, École Polytechnique
Fédérale de Lausanne, Lausanne, Suiza

• Potencial de la inteligencia artificial/deep learning

para mejorar el tratamiento oncológico
Dra. Kara L. Davis
Departamento de Pediatría, Centro Bass del Instituto de Investigación

Inteligencia artificial aplicada a la Biomedicina

en Salud y del Cáncer y Leucemias Pediátricos, Universidad de Stanford,
Stanford, Estados Unidos

15
Inteligencia artificial y ciencia de datos:
mirando hacia el futuro
Prof. José Hernández-Orallo
Catedrático del Departamento de Sistemas Informáticos y Computación, Universidad Politécnica de Valencia,
Valencia, España

Q uizás se tiene la idea de que los académicos

preferimos no hablar del futuro; sin embargo,
a mí me gusta porque tengo licencia para
equivocarme. Cuando hablamos del presente o del
pasado tenemos que ser muy rigurosos, pero cuando
nos referimos al futuro se entiende que podemos equi-
vocarnos.
En esta ponencia voy a dar una perspectiva actual
y una visión de futuro de la inteligencia artificial y de
su importancia. Podemos preguntarnos: ¿por qué la
inteligencia artificial es tan transformativa y por qué
pensamos que puede cambiarlo todo? Mi punto de
vista es que estamos hablando de inteligencia y el obje-
tivo es que estos sistemas artificiales lleguen a ser inte-
ligentes. La inteligencia es la base de todas las tecno- Prof. José Hernández-Orallo
logías y lo que ha hecho a nuestra especie dominar
el planeta, ha creado la cultura y ciencias como la
Medicina. Cuando hablamos de nuevas tecnologías datos, como el deep learning que ha mencionado Erika
debemos considerar que muchas de ellas se basan en Pastrana, y esto limita su uso; sin embargo, hay otras
inteligencia artificial. que sí generan conocimiento y proporcionan una
Esto se relaciona a su vez con otra área, como es visión nueva sobre el uso de dichas técnicas.
la ciencia de datos, que es capaz de generar evidencia La ciencia de datos podría considerarse “una ciencia
basándose en los datos que recopila, al igual que hemos al cuadrado”, particularmente en aquellos ámbitos
hecho los humanos en diferentes ámbitos de manera donde se genera conocimiento a partir de dichos datos.
más o menos consciente a lo largo de los siglos. La visión que tenemos ahora es todavía muy
La ciencia de datos va a constituir una factoría de simplista, ya que se limita a considerar la inteli-
conocimiento que permitirá la toma de decisiones gencia artificial como un aprendizaje automático. Sin
racionales. Todavía no sabemos cómo funcionan embargo, cada día es más evidente que la inteligencia
muchas de las herramientas que utiliza la ciencia de artificial abarca muchos más aspectos, los cuales se

17
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
han desarrollado particularmente estos últimos cinco
años. Es tan falso pensar que podemos tener inteli-
gencia artificial sin aprendizaje como pensar que solo
es aprendizaje.
También hay que diferenciar el aprendizaje auto-
mático del deep learning o aprendizaje profundo, que neuronales justo ahora, y no hace
en realidad es uno de los distintos tipos de aprendizaje 20 o 30 años cuando se empezó a hablar
automático.
«A la hora de conjugar la
inteligencia artificial y la ciencia
de datos observamos muchos
elementos comunes, aunque
se emplean más procesos de
aprendizaje en el caso de la
inteligencia artificial y más procesos
inductivos en la ciencia de datos.»
¿Por qué este boom del deep learning
en estos momentos?
A muchas técnicas de aprendizaje automático es nece-
sario proporcionarles las características más relevantes
sobre el problema que han de solucionar. Esto ­requiere
un conocimiento manual, reconocer el dominio, y en
determinadas áreas, como la visión, esto es todavía
muy complicado.
A partir de ejemplos, el sistema infiere automáti-
camente representaciones de distintas características
de la imagen, llegando incluso a distinguir entre dos
caras diferentes. La denominación de redes neuro-
nales artificiales se atribuye al paradigma conexio-
nista del sistema, con millones de conexiones entre
dichas redes que se asemeja a las redes neuronales
cerebrales, aunque hasta la fecha todavía son mucho
más simples. Los mecanismos de estas redes pueden
parecerse en muchos aspectos a los mecanismos del
cerebro, pero en otros modos de funcionamiento
son muy diferentes. No obstante, hoy en día todavía
quedan muchos aspectos que desconocemos del
propio funcionamiento cerebral.
¿Por qué la importancia de las redes
de ellas en el ámbito académico o las
universidades?
Además del avance que se ha producido en el algo­
ritmo que subyace bajo las redes, hay tres componen-
tes fundamentales que han marcado su importancia en
la actualidad. El primer componente es la gran capa-
cidad de almacenamiento de datos. En otras técnicas
de aprendizaje automático, los resultados no mejoran,
aunque se les proporcionen más datos. Por el contra-
rio, en las redes neuronales profundas, cuantos más
datos se proporcionen mejor resultado se obtiene y,
además, con un margen de saturación muy elevado.
El segundo componente es el desarrollo de chips es-
peciales en las tarjetas gráficas que permiten hacer gran
cantidad de cálculos de forma mucho más eficiente que
los chips convencionales. Por último, el concepto de
modelos grandes, un aspecto poco intuitivo que se basa
en el principio de parsimonia, según el cual un modelo
muy grande se sobreajusta a los datos, dado que tiene
muchos grados de libertad y necesita muchos ejemplos
para poder generalizar.
«El deep learning está constituido
por redes neuronales artificiales
con numerosas capas, las cuales
van aprendiendo progresivamente
representaciones cada vez más
abstractas y en las capas más
profundas.»
 Inteligencia artificial y ciencia de datos: mirando hacia el futuro | Prof. José Hernández-Orallo
«En el deep learning con grandes
modelos y con muchos datos
conseguimos sistemas capaces de
generalizar, lo que constituye uno
de los grandes retos que se deben
seguir desarrollando.»
¿Qué puede hacer la inteligencia artificial
por nosotros en estos momentos?
En los medios y redes sociales se constata un avance
de la aplicación de la inteligencia artificial en las distin-
tas disciplinas, pero es importante analizar qué puede
aportar cada una de ellas en cada dominio concreto. A
veces, ni los sistemas de predicción predicen tan bien;
de hecho, fallaron estrepitosamente en las elecciones
americanas; ni los asistentes personales son tan inteli-
gentes y fantásticos como nos dicen, ya que han demos-
trado tener muy buena aplicación para comprar, pero
están todavía  muy limitados en otros aspectos. En el
reconocimiento de patrones a partir de una imagen to-
davía queda mucho por desarrollar y el reconocimiento
de voz está más avanzado para idiomas mayoritarios
que minoritarios.
Hay publicaciones que señalan una aplicación
inminente de la inteligencia artificial, pero en la prác-
tica todavía se constatan muchas limitaciones, regu-
laciones y costes que determinan dicha aplicación.
Un ejemplo típico son los coches sin conductor, que
hace cinco años se veían como algo sencillo de imple-
mentar, pero hoy en día se constata que en la práctica
hay muchas limitaciones para su uso generalizado.
En el ámbito médico, hace dos años se publicó en
la revista Science un cuestionario con 21 ítems cuyo
resultado puede indicarnos si la tarea que se desarrolla
actualmente con tecnología normal se podrá desarro-
llar con aprendizaje automático. Entre los diferentes
ítems figuran: si hay gran cantidad de datos, si la
tarea está bien acotada, si hay tolerancia a errores, etc.
A nivel intuitivo también hay una regla que funciona
muy bien para definir aquellas tareas que podrá
realizar: todo aquello que podemos hacer subcons-
cientemente en menos de un segundo, la inteligencia
artificial puede desarrollarlo.
Aquello que requiere más razonamiento, pensar
o utilizar el conocimiento es en lo que el aprendizaje
automático actualmente está fallando más, al igual que
hace 20 o 30 años.
Hoy en día, las especialidades de la inteligencia
artificial son la percepción y la extracción de conoci-
miento a partir de datos.
Otro aspecto, como la planificación, puede
funcionar bien en algunos ámbitos, pero en otros no.
Para valorar qué será capaz de hacer la inteligencia
artificial, la extrapolación es un método poco útil, pero
puede ayudarnos en las predicciones, tal y como refleja
Tegmark en el libro Life 3.0.
Steven Pinker, uno de los pensadores más importantes
en la actualidad sobre inteligencia artificial, hace 20 años
afirmó que los trabajos que tenían más riesgo de ser auto-
matizados eran aquellos como los de analista, ingeniero
petroquímico o miembro del ámbito judicial, y los que
tenían menos riesgo eran los jardineros, r­ecepcionistas,
«Siguiendo la regla del sistema 1
y sistema 2 del Premio Nobel
Daniel Kanheman y autor del
libro Thinking, fast and slow,
todo aquello que podemos hacer
rápidamente sin realmente
pensar cómo lo estamos haciendo
es automatizable.»
19
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
cocineros, etc. Sin embargo, hace dos años se publicó una Papel de la inteligencia artificial
lista de la Universidad de Oxford en la cual la conclusión en la Biomedicina
era justo la opuesta; según esta lista, las profesiones mani-
pulativas que no necesitan razonamiento a largo plazo
son aquellas que se van a reemplazar más rápidamente.
¿Qué queremos que haga la inteligencia
artificial?
En la Conferencia Asilomar (California) que se celebró
en 1975 para regular el tema de la investigación gené-
tica y el ADN se sentaron las bases de la investigación
durante muchos años. Hace dos años asistimos a una
conferencia en Asilomar para desarrollar una labor pa-
recida con el tema de la inteligencia artificial. En esta
conferencia hablamos de temas de seguridad, privaci-
dad, confianza, inclusión, estándares, regulaciones, etc.,
y se mostró una voluntad, por parte de la comunidad
científica y personas responsables de la toma de decisio-
nes sobre inteligencia artificial, de establecer una regu-
lación y, además, se constató un deseo de proceder de
forma correcta en el uso de la misma.
Por otro lado, hay una visión negativa de la inte-
ligencia artificial actual y su necesidad constante de
recopilar datos, particularmente en lo que respecta a
los datos humanos. Dentro del campo de la Medicina,
se incentiva cada día más la recolección de datos y
la realización de test. Esto puede relacionarse con el
hecho de que es relativamente barato y tiene la ventaja
de que en muchas ocasiones los datos recogidos para
solucionar un problema concreto pueden servir más
tarde para resolver otro. Sin embargo, para ello el
manejo de datos debe realizarse de forma adecuada,
solicitando el consentimiento del usuario impli-
cado. De hecho, el que podamos confiar en la inteli-
gencia artificial, en el aprendizaje automático y en la
ciencia de datos depende de que realmente haya una
regulación y de que todos los implicados, desde la
investigación académica hasta las empresas y orga-
nismos públicos, actúen correctamente.
El potencial de la inteligencia artificial en la Bio­
medicina es muy claro. No hay ningún área en la cual
sean más claros, tanto los beneficios como los riesgos.
Es un área que precisa de datos humanos y que, me-
diante la aplicación del método científico, genera co-
nocimiento a partir de la evidencia acumulada. Las
posibles aplicaciones en genómica, técnicas de ima-
gen, robótica, etc., son muchas y favorecen aspectos
como la prevención, el diagnóstico, el tratamiento y el
manejo de muchas patologías; y también el cuidado de
los pacientes, la gestión de la salud y muchos más. Es
probablemente el ámbito de mayor interés, ya que se
traduce en la obtención de claros beneficios, pero para
ello los datos deben fluir de manera sencilla y segura.
Biomedicina: retos y riesgos
Los principales retos para una adecuada aplicación de la
inteligencia artificial en Biomedicina incluyen aspectos
éticos como la igualdad, la privacidad, la responsabi-
lidad, la seguridad o la sostenibilidad. Por ejemplo, la
aplicación del deep learning en grupos poblacionales
pequeños, como en el caso de las enfermedades raras,
estaría limitada por los escasos datos, que no permiti-
rían desarrollar modelos predictivos precisos. En este
sentido, un reto importante es la integración del cono­
cimiento previo en Medicina en los modelos que se de-
sarrollan.
Es fundamental resaltar que la inteligencia artificial
está cambiando, pero el ser humano también. Ante este
continuo cambio, los modelos de tratamiento deben
adaptarse y actualizarse. Hay que tener en cuenta
que en el futuro la inteligencia artificial también va a
modificar nuestras capacidades en muchos aspectos y
puede proporcionarnos la posibilidad de suplir ciertas
habilidades, como corregir la pérdida de habilidades
cognitivas propias de la edad, de modo que será una
alternativa a tratamientos más agresivos.
 Inteligencia artificial y ciencia de datos: mirando hacia el futuro | Prof. José Hernández-Orallo
Entre los aspectos negativos del desarrollo de la
inteligencia artificial cabe mencionar la dependencia
cada vez mayor de estas tecnologías, lo cual favo-
rece la atrofia mental y un estado más pasivo que
hay que cuidar particularmente en los niños. Otros
posibles riesgos en ámbitos médicos incluyen la falta
de responsabilidad y confianza en su uso, la protec-
ción de la identidad y el control que se realiza de estas
herramientas. El uso creciente de la inteligencia artifi-
cial puede favorecer que el siglo xxi se convierta en el
tiempo del “cerebro sedentario” y es importante cana-
lizar qué aspectos delegamos en estas tecnologías y
cuáles seguimos desarrollando.
Como resumen, cabe destacar que la inteli-
gencia artificial se puede aplicar en cualquier ámbito
(personal, empresarial, en las administraciones
públicas, etc.), al igual que la inteligencia, pero en
el caso de la Biomedicina la aplicación es particu-
larmente útil y sencilla, ya que comparten aspectos
como la metodología científica, el personal cuali-
ficado, el uso de protocolos, etc., que facilitan esta
implementación. Para ofrecer buenos resultados, la
inteligencia artificial precisa de la recopilación de
gran cantidad de datos humanos y es importante
valorar el posible impacto y asegurar un adecuado
manejo de estos.
21
Desarrollo de la inteligencia artificial y
tecnologías éticas para el sector de la salud
Dr. Tarek R. Besold
Director de Inteligencia Artificial @ Telefónica Innovación Alpha Health, Barcelona, España

C
omienzo esta charla al hilo de lo comentado
por el Profesor Hernández-Orallo, y voy
a tratar de aclarar algunos de los aspectos
mencionados. Mi punto de vista es que no hay que
tener miedo al desarrollo e implementación de la inte-
ligencia artificial, ya que hay personas interesadas en
construir inteligencia artificial de una manera ética,
particularmente dentro del sector de la salud.
Justo ayer se publicó un informe de la Academy
of Medical Royal Colleges, disponible en internet, que
resume bastante bien el funcionamiento, las posibili-
dades, las oportunidades y los riesgos de la inteligencia
artificial en el campo de la salud. En la tercera y cuarta
página de los contenidos de este informe figuran diez
Dr. Tarek R. Besold
recomendaciones, la primera de las cuales señala que “los
responsables políticos deben evitar pensar que la inteli-
gencia artificial va a resolver todos los problemas a los certificarse su exactitud y calidad. Es responsabilidad
que se enfrentan los sistemas de salud del Reino Unido del gobierno decidir hasta qué punto se comparten los
(y del resto del mundo). La inteligencia artificial todavía datos de los usuarios. Muchas personas, cuando leen el
está en sus comienzos y su aplicación dentro de la aten- documento, solo leen que “los datos deben estar dispo-
ción sanitaria, a pesar de las afirmaciones de algunos de nibles”, pero la frase continúa “…para aquellos que
los líderes de opinión, es aún muy incipiente”. cumplen con el manejo de la información y los están-
En segundo lugar, en relación con los estándares, dares establecidos por el gobierno…”, por lo  que son
como ya mencionó el Prof. Hernández-Orallo al los representantes electos de la ciudadanía  los que
hablar de la ciencia de datos, cabe comentar que para deciden quién tiene acceso a los datos.
aquellos que cumplen con el manejo correcto de la En tercer lugar, es necesaria una evaluación crítica
información y con los estándares establecidos por el externa y transparencia por parte de las compañías
gobierno, debería facilitarse que dispongan de datos tecnológicas para que los clínicos estén seguros de que
­provenientes del sector público y privado y debería las herramientas que les brindan son de uso seguro.

23
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
Estos son los principales mensajes de mi presentación,
que trataré de explicar en detalle a continuación.
Propuesta de desarrollo de la inteligencia
artificial en el sector salud de Alpha Health
En primer lugar, ¿quién soy y cuál es la organización
para la que trabajo? Formamos parte del universo de
Telefónica, pero de alguna manera somos como los
inadaptados de la familia, porque nuestra misión sería
la equivalente a fabricar naves espaciales con destino
a la luna. Apuntamos hacia algún objetivo loco, pero
que sea plausiblemente posible. Si funciona, es genial
y realmente resolvemos un problema. Si no funciona,
nadie se sorprenderá. Asumimos grandes retos como,
por ejemplo, aspectos relacionados con los 28 Objeti-
vos de Desarrollo Sostenible de las Naciones Unidas. La
consecución de estos objetivos requiere que se ­busquen
soluciones radicales, por lo que, si son posibles, po-
drían cambiar la manera que tenemos de ver el m
­ undo.
­Requiere, además, tecnología avanzada, y cuando habla-
mos de tecnología de vanguardia nos referimos a plau-
sible. No se trata de viajes intergalácticos, no se trata de
transmitir personas de A a B, sino de desarrollar proyec-
tos que creemos que deberían funcionar, para los cuales
hay pruebas académicas de que podrían funcionar, pero
que todavía no han sido abordados a nivel industrial. La
combinación de estos tres aspectos constituye, básica-
mente, nuestro criterio para participar en un proyecto.
La siguiente pregunta sería: ¿por qué estoy aquí
hoy? Para explicarlo podemos analizar los datos de
mortalidad de los Estados Unidos, desde el año 1900
hasta el año 2000. De estos datos se deduce que, por
un lado, se pueden ver buenas noticias, ya que hoy
en día mueren menos personas que en el siglo xx.
Por otro lado, las malas noticias son que en la actua-
lidad mueren aproximadamente la misma cantidad de
personas que en el año 1960.
¿Cuál es la diferencia? Sencillamente, tras el descu-
brimiento de la penicilina, se sabe cómo tratar las enfer-
medades infecciosas; y se han reducido enormemente las
muertes por esta causa, por lo menos hasta el momento,
ya que han empezado a detectar cepas de microorga-
nismos con hiperresistencia que podrían cambiar la
tendencia de esta curva. Sin embargo, aún no hemos
descubierto cómo tratar las enfermedades crónicas, lo
que en la práctica se traduce en que vivimos más tiempo,
pero nuestra vida saludable no se extiende tanto como
nuestra esperanza de vida. Hoy en día vivimos entre cinco
o diez años más que nuestros antepasados, pero solo dos
de estos años son años saludables, por lo que durante
los otros ocho años estamos básicamente tratando de
controlar las enfermedades típicas del envejecimiento. Al
analizar cuáles son las principales causas de mortalidad
podemos observar que el 70% de ellas se debe a enfer-
medades crónicas como el cáncer, los accidentes cerebro-
vasculares, la diabetes o los trastornos mentales. De este
70% de mortalidad asociado a enfermedades crónicas,
alrededor del 75% se relaciona con los hábitos o el estilo
de vida. El otro 25% está relacionado con la predisposi-
ción genética y factores ambientales.
Por tanto, si modificamos nuestro estilo de vida
podríamos influir sobre el 75% implicado en el
­desarrollo de enfermedades crónicas. Si lo desglo-
samos más, vemos que hay un total de entre cinco y
ocho comportamientos o conductas claves, entre los
que destacan el ejercicio, el uso de sustancias (ya sean
drogas o medicamentos) o la calidad de las relaciones
interpersonales. Dentro de la salud mental, la calidad
de las relaciones interpersonales puede darnos mucha
información sobre la probabilidad de sufrir una depre-
sión o una afección similar en el futuro.
Teniendo esto en consideración, y añadiendo el
avance de estos últimos 30 años sobre el conocimiento
de cómo se forma y cómo funciona la conducta
humana, mi trabajo se centra en fomentar cambios de
comportamiento que reduzcan radicalmente la carga
de las enfermedades crónicas a nivel mundial centrán-
donos en las ocho conductas mencionadas. Para ello,
 Desarrollo de la inteligencia artificial y tecnologías éticas para el sector de la salud
dado que pertenecemos a Telefónica, la propuesta es
construir un “asistente personal en salud” que brinde
al paciente una forma efectiva de mejorar los compor-
tamientos relacionados con su salud y vivir una vida
más feliz y saludable. En este sentido, queremos ir
todavía un poco más lejos y pretendemos que no sea el
asistente el que dirija al paciente, sino que sea el propio
paciente el protagonista, ayudándole de forma efectiva
y eficiente a estar lo mejor posible, aumentando su
expectativa de vida saludable más allá de la actual.
Para ello, tal y como ha comentado previamente el
Prof. Hernández-Orallo, uno de los factores clave en este
tipo de tecnología dentro del campo de asistencia personal
per se, y especialmente dentro del campo sanitario en el
que hay una susceptibilidad particular, es la confianza.
¿Qué significa la confianza en la aplicación
de la inteligencia artificial en salud?
La confianza es un requisito previo para que las perso-
nas participen en el proyecto y para que las compañías
desarrolladoras de estos productos se merezcan el com-
promiso de las personas.
Por un lado, nuestros clientes o nuestros usuarios
deben poder confiar en que las soluciones que les brin-
damos les llevan realmente a donde quieren ir y de la
manera en que quieren conseguirlo. Por lo tanto, se
trata del cómo y el qué de la solución.
Por un lado, intentamos desarrollar un asis-
tente personal que sea atractivo, que se ajuste,
que quiera  que  te conectes con él; pero, por otro
lado,  queremos que  sea el paciente el que dirija el
proceso.
¿Cómo podríamos favorecer
el funcionamiento de la inteligencia
artificial en salud?
Como ya he dicho, la confianza es clave y, como ya
apuntó el Prof. Hernández-Orallo, la ética está rela-
cionada con la confianza. Lo que se necesita para ser
| Dr. Tarek R. Besold
«Se trata de garantizar la
transparencia en la tecnología
y de mantener el protagonismo
del usuario, dado que
estamos brindando asistencia
personalizada y queremos
ayudar a las personas a
cambiar su comportamiento,
que es una tarea muy difícil de
conseguir.»
dignos de confianza es un desarrollo en el que se respe-
ten unos valores; además, debe haber un compromiso
público con estos valores, de tal forma que el paciente
pueda identificarlos fácilmente. Aquí es donde entra la
ética.
Como ya ha comentado Erika Pastrana, actual-
mente estoy dirigiendo un laboratorio de investigación
de Alpha Health y nuestro trabajo se centra en tres
líneas. La primera línea, que denominamos la inteli-
gencia artificial de confianza o explicable, se basa en la
construcción de sistemas que sean transparentes para
el usuario. El usuario puede preguntarle al sistema y
tiene el derecho de preguntar: “Me recomendaron
hacer algo. ¿Por qué me recomendaste eso?”. O puede
preguntar al sistema: “¿Cómo funcionas realmente?
¿Cómo tomas las decisiones?”.
La segunda línea es la inteligencia artificial empá-
tica dirigida a comprender los estados emocionales de
nuestros usuarios de forma interactiva y multimodal.
De tal forma que, si ofrecemos una recomendación o
una intervención, queremos saber cómo se siente el
usuario en ese momento, cómo se siente después, cuál
fue el impacto, si le ayudamos realmente, si empeoró
o si está actualmente en un estado en el que todavía
podemos ayudarle.
25
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
«Europa está haciendo un gran
esfuerzo para tratar de avanzar
en la regulación de la inteligencia
artificial, por ejemplo, en la
privacidad de los datos, pero
también está trabajando
intensamente dentro del sector
de la salud para proteger a los
pacientes. El hecho de que sea
una aplicación legal, no significa
que sea ética. La ética va más
allá de la legalidad.»
Por último, estamos trabajando en una tercera línea
de inteligencia artificial dirigida a preservar la priva-
cidad del usuario, la cual se relaciona mucho con lo que
ha expuesto el Prof. Hernández-Orallo dentro del sector
de datos. Esta línea trata de desarrollar tecnología que
nos permita brindar servicios de vanguardia a la vez
que la propiedad y el control de los datos permanezcan
exclusivamente en manos del usuario. Esto significa
que como compañía renunciamos a la propiedad de los
datos y nos limitamos a proporcionar un servicio.
Actualmente, todavía hay muchas personas que
piensan que no hay inteligencia artificial involucrada en
la Medicina, pero no es así. De hecho, en una simple
exploración por resonancia magnética con tecnología
punta, por lo general se dispone del apoyo de la inte-
ligencia artificial para realizar el agrupamiento de todo
lo que se escanea. También hay sistemas de asistencia
médica o de redes profundas, como ya ha presentado el
Prof. Hernández-Orallo. Uno de los grandes problemas
de estos sistemas es que, aunque sabemos que estadísti-
camente están desempeñando bien su función, muy a
menudo no sabemos por qué están funcionando bien.
Sabemos que en el 97-98% de los casos son
correctos, pero ignoramos por qué son correctos o
incorrectos en el 2 o 3% restante. Esto se debe a que, en
realidad, son sistemas demasiado complejos para que
podamos seguir realmente todos los procesos matemá-
ticos, aunque esto no significa que sean incognoscibles.
¿Cómo podríamos aumentar la comprensión
del funcionamiento de los sistemas de
inteligencia artificial?
La pregunta en realidad es cómo usamos los sistemas de
inteligencia artificial actualmente. Hoy por hoy intro-
ducimos los datos y en el 98% de los casos obtenemos
un resultado con validez estadística, pero en muchas
ocasiones desconocemos su funcionamiento.
Hay cinco preguntas que se pueden hacer para
aumentar la comprensión del funcionamiento de los
sistemas de inteligencia artificial; para cada meca-
nismo de decisión podemos preguntarnos:
1º. ¿Cómo crea el algoritmo?
2º ¿Cómo toma las decisiones?
3º. ¿Cómo influyen en el resultado las diferentes
partes del mecanismo?
4º. Si se encuentra en una situación específica,
¿por qué esta situación desencadena un resul-
tado particular?
5º. Y, más globalmente, ¿cómo funciona en general?
Si observamos la situación actual, la mayoría
de los sistemas se encuentran en una etapa inicial de
desarrollo. Se está estudiando cómo hacerlo de forma
mejor y más accesible, de tal modo que sean sistemas
de aprendizaje comprensibles e interpretables. Actual-
mente, los sistemas de reconocimiento de imágenes
pueden identificar los diferentes componentes de la
imagen, pero la extrapolación todavía está limitada.
Para otros médicos o personal clínico, los médicos
pueden ser como modelos interpretables, de tal forma
que esboce la línea técnica de la conexión de los
síntomas del paciente y los resultados del examen a un
diagnóstico particular. Esto permite a otros clínicos
interpretar el diagnóstico, asegurando que las conclu-
siones estén apoyadas por funciones de evaluación
 Desarrollo de la inteligencia artificial y tecnologías éticas para el sector de la salud
razonables y valores de peso para las pruebas presen-
tadas. Pero en ambos casos, de forma ideal, se requiere
que el médico contextualice toda la información de tal
forma que pueda explicársela al paciente en términos
comprensibles. Para ello, debe tener conocimiento
sobre su entorno de vida y sobre las relaciones causales
entre las distintas partes. Esto mismo deberíamos
exigir a los sistemas de inteligencia artificial, en espe-
cial, a aquellos aplicados al campo de la salud.
«Dentro del campo de la salud,
podrían equipararse los sistemas
de aprendizaje automático
a los médicos. Los médicos
deben convertirse en modelos
comprensibles para los pacientes
y entregar el diagnóstico
proporcionando indicadores bien
conocidos de alto nivel revelados
en las pruebas (es decir, símbolos
del sistema) sin dar información
sobre cómo funcionan las pruebas
médicas y las evaluaciones.»
Inteligencia artificial y privacidad
Respecto al tema de la privacidad, actualmente la
­mayoría de las empresas de sistemas de datos propor-
cionan sus servicios a cambio de obtener los datos de los
usuarios. De hecho, la mayoría de la tecnología ­actual
necesita la información de las manos de los provee­
dores de servicios a los usuarios. Esta es la razón por
la que estos modelos se denominan gratuitos, o mejor
dicho f­ reemium, ya que los datos son básicamente parte
del pago al proveedor de servicios al desarrollador de
la aplicación. De tal forma que, posteriormente, el pro-
veedor de servicios puede utilizar información analítica­ máticas nos han permitido hacerlo y ahora ya es
adicional extraída de estos datos para obtener más
| Dr. Tarek R. Besold
­ingresos. Un ejemplo claro sería optar por un enfoque
de aprendizaje automático tradicional que no preserva
la privacidad, así también recogen datos de los usuarios
(edad, sexo, salario) al tiempo que se proporciona un
servicio. A continuación, se introducen los datos en la
red neuronal artificial, que aprende cómo la edad, el
sexo y el salario se correlacionan entre sí. ­Finalmente, la
red neuronal entrenada se constituye como un modelo
que puede predecir el salario según la edad y el sexo o
viceversa, la edad en función del salario y el sexo, etc.
En esta situación podemos encontrarnos con dos pro-
blemas fundamentales; el primero sería que los usua-
rios no quieran compartir sus datos, y el segundo se
­relaciona con el hecho de que las empresas pueden usar
modelos capacitados para revelar información de usua-
rios individuales, sin preservar la privacidad.
Para evitarlo se han desarrollado técnicas que
permiten aprender de una población sin poseer/revelar
información individual. Entre estas técnicas se encuen-
tran la encriptación o cifrado homomórfico total, el
aprendizaje federado, la computación multipartidista
segura o los enclaves seguros. Muchas de estas técnicas
han demostrado teóricamente que funcionarían, pero
aún no se han implementado. Desarrollaré un poco
más el concepto de cifrado homomórfico total.
Dado que la idea del usuario no es compartir sus
datos, sino tener un proveedor de servicios, la pregunta
es: ¿Por qué no simplemente cifro mis datos antes de
enviarlos? La respuesta es clara, si se envían datos
cifrados, el aprendizaje automático ya no funciona con
la mayoría de los métodos actuales. No se obtienen
datos, sino una versión encriptada de los mismos. En
el ejemplo anterior se perdería, por ejemplo, la iden-
tificación de sexo, salario y edad. Cuando se envían
datos encriptados, el proveedor de servicios tiene que
descifrar, entrenar el modelo, hacer una predicción y
cifrar la predicción de nuevo para enviárselo al usuario
y que él lo descifre. En los últimos diez años, las mate-
factible debido a las mejoras en la computación que, a
27
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
día de hoy, hace posible aprender de los datos cifrados,
dado que existe una subcategoría de mecanismos de
encriptación que lo permite. Es decir, estos meca-
nismos permiten realizar una clasificación o cualquier
otro servicio de aprendizaje automático. La ventaja
es que podemos hacer un aprendizaje automático de
vanguardia sin ver los datos, y la desventaja es que,
desde la perspectiva de la empresa, estamos realizando
un aprendizaje automático de última generación sin
poder disponer de los datos.
Inteligencia artificial y ética
Para las personas involucradas en este campo, es ele-
mental, además de considerar las diferentes opciones
éticas, comprometerse con alguna. Es importante valo-
rar si el problema de salud que se quiere solucionar se
puede llevar a cabo respetando las limitaciones éticas;
ya que el problema que se desea solucionar y las priori-
dades éticas entran en conflicto con frecuencia.
Hay varias preguntas que plantearse y sobre las que
reflexionar antes de desarrollar las herramientas de
inteligencia artificial: ¿queremos ser éticos?, ¿queremos
preservar la privacidad?, ¿queremos ser confiables?,
¿queremos solucionar dolencias y queremos acceder a
espacios como el cuidado de la salud donde las personas
son muy vulnerables?
Es importante determinar cuáles son las supo-
siciones básicas subyacentes a la solución prevista
y determinar la necesidad de datos, de información
confidencial, plantearse si será posible servir a todos
los grupos de clientes por igual, el modelo de negocio
que se va a desarrollar y con quién se quiere asociar.
Un ejemplo clásico, que todavía sigue sucediendo, es
la baja representación de ciertos tonos de piel para
el reconocimiento visual de las personas de color.
La mayoría de los sensores de vídeo actuales tienen
todavía más dificultades para captar bordes en la piel
oscura que en la piel clara. En este sentido, hay que
ser conscientes de que hay al menos una dimensión de
diversidad que está subrepresentada, aunque estamos
trabajando para solucionarlo con una buena perspec-
tiva de futuro.
Por otro lado, cuando hablamos de datos, además
del propio dato, necesitamos etiquetarlos, de tal
forma que nos permita distinguir qué conjunto de
datos  representa a un paciente sano y qué conjunto
de datos representa a un paciente poco saludable. Para
obtener estos conjuntos de datos lo más frecuente es
recurrir a uno de los grandes proveedores en línea
que realizan una subasta entre personas que están
dispuestas a etiquetarlos y, dentro del entorno capita-
lista que trata de venderlo lo más barato posible. Así,
la mayoría del etiquetado de datos se realiza efecti-
vamente en regiones económicamente pobres por
grupos insuficientemente representados y vulnerables.
Ante esta situación, ¿se puede hacer esto y afirmar
que se es ético? Y si no se hace, ¿qué significa eso para
el flujo de ingresos ya que los costes aumentan?
Y, finalmente, ¿estamos dispuestos a someter una
idea, producto, modelo de negocio y equipo a un
escrutinio público? El sector sanitario tiene la ventaja,
al menos desde el punto de vista del paciente, de
que está bastante regulado. El escrutinio público es
una necesidad, porque de lo contrario no se obtiene
la aprobación de la Food and Drug Administration
estado­
unidense, de las instituciones europeas o
nacionales correspondientes. Aun así, ¿cuántas de las
grandes empresas de inteligencia artificial y aprendi-
zaje automático presentan de manera completamente
abierta al público sus principios y están dispuestas a
aceptar totalmente el escrutinio público sobre ellos?
En conclusión, como se comenta en el informe ante-
riormente mencionado, tenemos una oportunidad real
con esta tecnología para ganar en tiempo y eficiencia,
pero debe implementarse de forma segura y confiable.
Debemos estar juntos usuarios, médicos y proveedores
en este viaje de transformación. Es en parte una obliga-
ción y en parte una invitación.
Robótica flexible para interaccionar
de manera intuitiva con los robots
Dra. Jamie Paik
Directora del Laboratorio de Robótica Reconfigurable, École Polytechnique Fédérale de Lausanne,
Lausanne, Suiza

A
ctualmente estamos viviendo un cambio de
paradigma en el diseño de los robots. Los
robots de nueva generación no se van a
limitar a estar en las fábricas o empresas, sino que van
a convivir e interaccionar con nuestra vida cotidiana.
El desarrollo de los robots industriales precisó de una
optimización del rendimiento mecánico.
Hoy en día dichos robots hacen un trabajo total-
mente programado y predecible y, en muchos casos,
son más rápidos, más precisos y más fuertes que sus
homólogos humanos. Los ingenieros y los especialistas
en robótica están trabajando actualmente para opti-
mizar las características de interactividad de los robots
con el fin de acercarlos a nuestra vida cotidiana, donde
el entorno es muy variable e impredecible, por lo que es
preciso desarrollar su adaptabilidad y seguridad.
Dra. Jamie Paik

¿Es el robot antropomórfico la respuesta?

A lo largo de los últimos 20 años he estado analizando
esta cuestión. He estudiado diferentes tipos de r­ obots
antropomórficos y he investigado en profundidad
cómo reaccionan y cómo se mueven los humanos.
Reproducir el cuerpo humano es un desafío muy
grande. Actualmente consideramos cuatro aspectos
claves en el diseño de los robots antropomórficos para
llevar a cabo una tarea concreta: el tipo de estructura y
ajuste estructural del robot, la precisión, los grados de
libertad y la fuerza que necesita ejercer.
Pero, en general, nos encontramos con dos tipos
de robots. Los robots flexibles (soft robots), que maxi-
mizan la precisión y el cumplimiento; estos pueden
llevar a cabo tareas como levantar vidrio sin romperlo
o enhebrar una aguja. Por otro lado, están los robots
rígidos (rigid robots), que maximizan la fuerza y
los grados de libertad; estos están más preparados
para llevar a cabo tareas que requieren fuerza, como
levantar grandes pesos de hasta 264 kg.

29
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
«Los robots están constituidos
por una estructura que reacciona
al entorno y realiza una tarea
precisa, con una fuerza concreta
y en una dirección determinada.
El robot ideal es aquel que
maximiza estos cuatro aspectos.»
Robots reconfigurables
En este punto, nos planteamos si sería posible dise-
ñar un robot que pueda y tenga flexibilidad para rea-
lizar diferentes tareas. Dicho robot no podía tener
una única forma o desarrollar una única tarea, y así
fue como desarrollamos los robots origami. Para ello,
­empleamos materiales como silicona, goma y mate-
riales tipo ­esponja, son los materiales de los robots
de nueva gene­ración y permiten que el diseño del
robot cumpla las cuatro características mencionadas
anteriormente para un diseño ideal. Los materiales se
­deforman al ­recibir un estímulo, pero luego son capa-
ces de volver a su forma original.
La composición de estos robots es modular, con
múltiples capas en forma de sándwich que pueden
unirse o desmontarse dependiendo de la tarea o el
entorno, de tal forma que puede cambiar de forma y
convertirse en un robot que anda o en una superficie
que equilibre una bola en su parte superior. Además,
cada una de las capas están equipadas con sensores
inteligentes para interactuar tanto con el entorno
como con las personas. Más concretamente, la estruc-
tura modular permite que se adapte al cuerpo humano
de forma flexible. Se puede llevar alrededor del cuerpo
y, cuando se necesite, el robot puede volverse autó-
nomo. Además, esta estructura en módulos permite
personalizarlo y la fabricación es mucho más barata,
dado que hasta el logotipo es reconfigurable.
¿Qué es un robot origami?
El robot origami no es un robot que haga origami,
sino que es un robot cuya estructura está basada en el
­origami, lo que le permite adaptarse a cada situación.
Dado que el cuerpo y la cara de cada persona son
diferentes y el movimiento de cada persona también
es distinto, conseguimos que el robot se adapte a
cada persona en particular mediante el control de
los pliegues individuales de su estructura en origami.
Un ejemplo de aplicación de esta interfaz completa-
mente reconfigurable es la parálisis facial, en la que
un lado del movimiento de la cara no coincide con el
del otro lado. Aunque parezca futurista, este tipo de
dispositivo puede adaptarse a los músculos faciales
de la persona para que pueda recuperar su sonrisa y
sus expresiones.
Respecto al proceso de fabricación, es similar al
sistema de fabricación actual en serie, ya que se utiliza
una cinta transportadora en la que se incorporan los
múltiples componentes y se ensamblan hasta construir
el producto final. Se toman los diferentes materiales
y, dependiendo de la forma del dispositivo, se cortan
la capa exterior y las diferentes capas y se ensamblan
en forma de sándwich. En cada capa se incorporan
los  diversos componentes, como el microprocesador
y los sensores.
«El robot origami dispone de
una estructura en sándwich,
con múltiples capas y cada una
de ellas con sensores, lo que
le permite adaptarse a cada
propósito o tarea concreta e
interaccionar con cada cuerpo
concreto.»
 Robótica flexible para interaccionar de manera intuitiva con los robots | Dra. Jamie Paik
«Lo que marca la diferencia es
que estas estructuras se pueden
autoplegar y crear un robot en
tres dimensiones (3D) mediante
un sistema basado en 2D, algo
que nunca se había hecho antes y
que ahora se puede conseguir con
las plataformas origami. »
De tal forma que se pueden construir distintos
robots origami dependiendo de la aplicación que
vayan  a tener. Por ejemplo, pueden caer del cielo y
luego los multiagentes pueden comunicarse entre sí
para encontrar a una persona desaparecida o dife-
rentes dispositivos cuando el GPS no funciona y el
Herramienta quirúrgica Robogami reconfigurable
Mango
Modo 2D/3D
Modelo blando/rígido
Modo DoF adicional
rastreo se realiza en la oscuridad. Durante el proceso,
se pueden perder o dañar los dispositivos, pero esto
no tendría mucha repercusión, dado que se dispone de
cientos de ellos. En el robot tradicional, dependiendo
de las tareas que desempeñe, los ingenieros tienen que
diseñar los diferentes modos de comunicación o los
distintos tipos de locomoción, y si se necesita alguna
nueva función adicional es preciso empezar de nuevo.
Con una plataforma de origami se detecta y se diseña
la nueva aplicación y, si se necesita un sensor adicional,
simplemente se actualiza el diseño del sistema. Lo
siguiente que se necesita (mecánica, geometría, mate-
riales) es fabricar los componentes 3D con la nueva
aplicación. Se añade el nuevo parámetro en la secuencia
del proceso de fabricación y este completa el diseño
incluyéndolo de forma repetitiva, de tal forma que se
pueden cambiar las funciones y fabricar el robot en el
mismo día, lo cual es revolucionario.
Sección Sección Sección
origami 1 giratoria origami 2
31
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
Aplicaciones del robot origami en salud
Entre las aplicaciones en las que se está trabajan-
do actualmente se encuentra la cirugía de próxima
­generación. Esto significa que se podrá perforar un
orificio muy pequeño (en el estómago o para hacer
una biopsia en el cáncer de próstata o en diferentes
­tipos de cáncer) con estos robots. Hoy en día, este tipo
de procedimiento ya lo realizan robots, el más cono­
cido de ellos es el robot Da Vinci. Básicamente, el ciru-
jano permanece detrás de la consola y dispone de un
robot que está preajustado y que hace las incisiones.
Utilizando una plataforma de origami, si es necesario,
se puede añadir un nuevo instrumento simplemente
reconfigurando la forma.
Como se muestra en la imagen, en el robogami para
operar tenemos tres secciones diferentes: la sección
origami 1, la sección giratoria y la sección origami 2,
que permiten cambiar el radio de curvatura. Al modi-
ficar el radio de curvatura, se puede tener una sola
herramienta que realiza múltiples tareas, de tal forma
que los cirujanos ya no tienen que perder tiempo
cambiando los instrumentos y se reducen los costes
generales de los procedimientos quirúrgicos. También
disponemos de “joystick hápticos plegables”, robots
muy pequeños con tres grados de libertad en la punta
de los dedos que permiten sentir el objeto, como en la
realidad virtual. En el entorno de la realidad virtual
puede haber varios objetos y, si se usan las gafas de
realidad virtual, no se sabe lo que realmente se toca,
solo se ve. En el caso de una bola azul, una roja y una
negra, es posible diferenciarlas por el color, pero con
el joystick que se ha desarrollado se podrían distin-
guir también en función de la textura o rigidez, de tal
forma que lo que se ve coincide con lo que se siente. Se
trata de una realidad tangible que combina lo que se ve
con lo que se percibe y se siente.
Y eso no es todo, esta plataforma basada en placas
de origami varía en función de cómo se diseñe cada
placa. Si tiene un material diferente, en este caso
estamos usando goma de silicona y aplicando distintas
presiones de aire, y con diferentes grados de libertad, se
simula el funcionamiento de los grupos musculares que
se inflan si se bombea más sangre. Para crear un sistema
muscular con microprocesadores individuales, como
en este caso, cada módulo se diseña con tres grados de
libertad, lo que significa que se mueve en tres direc-
ciones en el espacio. Se pueden colocar cuatro de esos
módulos juntos como un bloque de Lego® y hacer
que funcione como los robots tradicionales. Lo que es
impresionante de estos sistemas es que, dependiendo
de cuántos grados de libertad se definan, se pueden
modificar los robots origami para que realicen otras
funciones. Por ejemplo, el día de mañana se necesita
que el robot recoja un objeto más lejano, que sea más
fuerte o que tenga otro radio de curvatura adicional,
esto es algo que normalmente no se puede hacer con los
robots tradicionales; sin embargo, con el robot origami
sí se lograría porque cada bloque es como una pieza de
Lego® que nos permite agregar más acciones.
Respecto a la “modularidad”, se puede disponer
de estos módulos para cubrir las diferentes partes
del cuerpo. En enfermos con Alzheimer o que se
están recuperando de un derrame cerebral se pueden
emplear módulos que cubran la parte superior de
sus dedos, de tal forma que fuercen a los dedos del
paciente a moverse para coger mejor la cuchara o
cortar mejor. La ventaja es que se usa una acción muy
suave sin materiales duros o con armazones perso-
nalizados. Pero se puede ir aún más lejos y disponer
de accionadores más grandes que soporten incluso
decenas de kilogramos de peso. En este caso, el robot
no se desarrolla para rehabilitación o para pacientes
paralizados, sino para pacientes con dolor de espalda
crónico o trabajadores de la construcción que tienen
que levantar una gran cantidad de peso durante
mucho tiempo, perforar agujeros o usar martillos en
una posición incómoda, lo que puede acabar afec-
tando a su espalda. Estos dispositivos son una medida
preventiva para este tipo de trabajadores para mejorar
sus condiciones de trabajo.
 Robótica flexible para interaccionar de manera intuitiva con los robots | Dra. Jamie Paik
Otra aplicación de esta tecnología es para la
retroalimentación mecánica en trabajo virtual. En
una situación en la que se estuviera trabajando con
un entorno virtual para escalar una montaña, estos
sistemas permitirían cambiar su rigidez y hacer que el
usuario se sintiese como si estuviera cargando un gran
peso o que el peso estuviera empujado por alguien
más, así da la sensación de que le están tocando o está
moviendo diferentes objetos. Además, resulta muy
interesante combinar la retroalimentación estática con
gafas de realidad virtual y luego agregar una sensa-
ción adicional, más pequeña, como la textura, lo que
permite experimentar una forma de comunicación
completamente diferente. Así, el dispositivo puede
ayudar al usuario a mantener el equilibrio. De esta
manera, si alguien necesita la ayuda de otra persona o
es invierno y tiene que andar sobre la nieve, este dispo-
sitivo le dará soporte inmediato (por ejemplo, si está a
punto de caerse); mientras que cuando no se necesite,
será pasivo. También estos dispositivos pueden ayudar
en la recuperación de la marcha después de estar
mucho tiempo inmovilizados por una rotura de una
pierna, o si es una persona totalmente sana pueden
ayudar a corregir la forma o la postura en el entrena-
miento de deportes, por ejemplo, a corregir el swing en
el golf o en el tenis.
Otro nivel de actuación son las “mallas de sensa-
ciones” sobre la piel, como un Braille robótico. En antes de empezar a usar el teléfono móvil
lugar de leer el Braille solo con las yemas de los dedos, o la tablet?
podemos imaginar que este Braille está encima de
cualquier parte del cuerpo. Se trata de parches con
píxeles táctiles que vibran a diferentes frecuencias
y con distintos niveles de fuerza, de tal forma que
generan una sensación enorme y muy rica. Dispone
de una burbuja inflable embebida con sensores flexi-
bles y suaves. El sensor mide el inflado de la burbuja,
y cuanto más inflada está la burbuja, mayor será la
fuerza de interacción sobre la piel, y mejor se podrá
sentir cualquier perturbación que ocurra, ya sea muy
fuerte o muy sutil, como si alguien nos rozara la piel;
«En conclusión, mediante el
uso de estos interfaces de robots
flexibles y blandos vamos
a poder desarrollar tareas
mucho más variadas de lo que
jamás habíamos imaginado, e
interaccionar de forma muy suave
e intuitiva, sin necesidad de leer
los manuales para controlarlos.»
la gran ventaja es que todo está integrado en un único
dispositivo.
De esta manera, se pueden tener los parches en el
antebrazo y entender la información sin que la vista sea
necesaria o, aún más fácil, puede informar al usuario de
que el objeto en cuestión es una manzana roja, un libro
verde o un lápiz, sin ninguna otra información sensorial
que no sea una sensación táctil. En un futuro esto signi-
ficará que no hará falta leer o escuchar los mensajes del
móvil o teléfono, seremos capaces de sentirlos. En mi
opinión, así será como nos comunicaremos en el futuro
y como los médicos se relacionarán con sus pacientes.
¿Cuántos de nosotros leemos el manual
Los sistemas robóticos intuitivos permitirán una
mejor ejecución de los dispositivos portátiles de
­
­comunicación y de los robots médicos en un siste-
ma robótico colaborativo. En mi laboratorio estamos
­empezando a trabajar con la Agencia Espacial E
­ uropea
para que nuestros robots no sean solo una idea de
­futuro, sino que estamos trabajando para enviar este
tipo de robots a la estación espacial que, por razones
de espacio disponible, no permite el envío de muchos
­robots y es más conveniente enviar un único robot
­capaz de desarrollar múltiples tareas.
33
Potencial de la inteligencia artificial/
deep learning para mejorar el tratamiento
oncológico
Dra. Kara L. Davis
Departamento de Pediatría, Centro Bass del Instituto de Investigación en Salud y del Cáncer y Leucemias
Pediátricos, Universidad de Stanford, Stanford, Estados Unidos

E
n este ciclo de conferencias hemos descu-
bierto varios aspectos realmente emocio-
nantes y atractivos sobre el uso del deep
learning en diferentes ámbitos de nuestra sociedad.
En esta presentación se expone la experiencia de la
aplicación de la inteligencia artificial en el cuidado de
niños con leucemia.
Hace cien años la leucemia en la infancia era una
enfermedad fatal, tal y como refleja un informe de un
médico de Estados Unidos que describió el curso de
­estos pacientes, los cuales sucumbían a la enferme-
dad en muy pocos meses. Pero en el transcurso de los
­últimos 50 a 60 años se han llevado a cabo avances real-
mente increíbles en el manejo de los niños con leucemia
y, de hecho, casi se ha convertido en un claro ejemplo de
la importancia de la colaboración multidisciplinar para Dra. Kara L. Davis

el tratamiento del cáncer.

Se ha avanzado de tal manera que en los años s­ esenta
solo sobrevivían a su leucemia alrededor del 20% de los muestran que más de la mitad de los pacientes en los
pacientes, mientras que ahora se curan más del 90% de que el t­ ratamiento no funcionó fallecen a consecuencia
los niños con esta patología. Sin embargo, el p
­ roblema de esta enfermedad.
real de esta enfermedad es la recaída del ­paciente, ya
que cuando la enfermedad reaparece d
­ espués de un ¿Cómo abordar clínicamente la recaída
primer tratamiento, es muy difícil de tratar. En algu- y la predicción de esta cuando llega un
nos estudios de los ochenta y la década de los 2000 y paciente al hospital?
en un ensayo clínico en el que participó la Dra. Kara Cuando un paciente llega al hospital es importante
L. Davis el año pasado, se utilizó ingeniería genética de informar a su familia de cuál es su pronóstico. Para
células T para tratar pacientes en los que falló el trata- ello, es preciso recabar distintos tipos de información;
miento inicial. Los resultados de todos estos estudios la primera corresponde a los datos clínicos según el

35
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
­criterio Roma NCI, que se determina en el momento
del diagnóstico según las características del paciente
cuando llega al hospital. Lo segundo que se analiza son
los cambios genéticos generales, y de los cromosomas
en particular, cuyos resultados tardan en saberse entre
1-2 semanas desde la llegada del paciente. Por último, se
revisa la respuesta al tratamiento inicial que se valora al
mes o dos meses después de iniciar el tratamiento.
El conjunto de esta información constituye lo que se
denomina evaluación final del riesgo, en función de la
cual se tomarán las decisiones más adecuadas de trata-
miento para estos pacientes. Sin embargo, hay dos limi-
taciones principales en este enfoque; la primera es que
hay cierta demora en conocer el riesgo, por lo que no se
puede saber el riesgo total de los pacientes hasta un par
de meses después de su primer ingreso; la segunda limi-
tación es que no se trata de una predicción informativa,
se puede saber que el paciente corre un alto riesgo de
recaída, pero realmente no se sabe qué células no están
respondiendo o qué hace que no respondan para poder
adaptar el tratamiento de manera inteligente.
Ese ha sido el objetivo de nuestros estudios. Tra-
tamos de encontrar las poblaciones de células clínica­
mente relevantes dentro de un tumor individual para
poder actuar lo antes posible. Por ejemplo, la pauta de
actuación actual en el diagnóstico de un paciente con
cáncer es someterle a un tratamiento y evaluar su enfer-
medad mínima residual o la respuesta a la terapia en el
curso de las siguientes semanas y esperar a ver su evo-
«El paradigma de la recaída en
la leucemia es que las células que
causan la recaída están presentes
desde el inicio de la enfermedad,
escondidas, y se debe intentar
detectarlas en los estadios
iniciales.»
lución. Hoy por hoy se sabe que a los 7-10 años, un 80%
de los pacientes se curarán y un 20% recaerán.
Las preguntas que nos planteamos en la actualidad
son, en el momento del diagnóstico, cuando el paciente
ingresa en el hospital por primera vez, ¿se puede prede-
cir quién va a recaer y quién no?, ¿es posible distinguir
realmente qué células causarán la recaída y cómo tratar
al paciente más eficazmente?
Para responder a estas preguntas diseñamos un
­estudio con una cohorte de 60 pacientes con leucemia
desde el momento en que fueron diagnosticados y un
grupo control con médula ósea sana. Determinamos
a través de estudios de estimulación de células aisladas
de alta dimensión qué proteínas tenían a nivel de células
individuales de estos pacientes. Para ello, analizamos los
­distintos tipos de proteínas mediante citometría de m
­ asas
en cada una de las células extraídas de los p
­ acientes y los
controles. El primer problema que se nos p
­ lanteó en este
estudio de células tumorales indivi­duales fue la gran
heterogeneidad de las células estudiadas y la dificultad
para analizarlas. El objetivo entonces fue o
­ rganizarlas en
­bloques y tratar de obtener un modelo.
¿Cómo pasar de este conglomerado de
información a un modelo de aprendizaje?
Para ello, aplicamos el mismo enfoque a células B
­sanas de la médula ósea y analizamos en detalle cómo
era su proceso de maduración. Evaluamos los com-
ponentes principales de las poblaciones de células
normales y cómo las células de la leucemia se sitúan
en dicho rango de fenotipos, y comprobamos que los
patrones de las células B sanas y de las cancerígenas se
superponían. A partir de ahí desarrollamos un clasifi-
cador de desarrollo de células únicas, y en cada una de
las distintas etapas de poblaciones de células B sanas
analizamos la expresión de 11 proteínas principales.
Realizamos también este tipo de análisis en pacientes
con leucemia extrayendo de cada paciente un total
de alrededor de 600.000 células y determinamos,
 Potencial de la inteligencia artificial/deep learning para mejorar el tratamiento oncológico | Dra. Kara L. Davis

­tomando como base la expresión de estos marcadores, Pudimos observar que, tanto en nuestra cohorte de
qué poblaciones eran más similares a la población sana. ­entrenamiento como en la cohorte de validación, tenía­
Por último, organizamos nuestros datos normali- mos un excelente poder predictivo basado en las áreas
zándolos según la progresión normal del desarrollo de bajo las curvas. Cuando comprobamos la curva de
células B y pudimos observar que, en comparación con Kaplan-Meier que valoraba el riesgo de tener o no una
las células sanas, las células B de pacientes con leucemia recaída según nuestro modelo, obtuvimos una fantás-
se expandían en la transición entre células pro-B y pre-B. tica separación entre los pacientes que efectivamente
Analizamos también otras características de las células, sufrían recaída y aquellos que no.
como la genética de pronóstico, y pudimos comprobar
que no había una gran diferencia, según la genética, en ¿Cómo funciona la aplicación de la
cómo se asentaban estas células en esta clasificación de inteligencia artificial/deep learning
desarrollo. Comprobamos también que para predecir la en la predicción del riesgo de recaída en
recaída no bastaba únicamente con tener en cuenta las comparación con lo que solemos hacer
diferencias observadas en la clasificación de desarrollo. cuando un paciente llega a la consulta?
En este punto recurrimos al aprendizaje automá- El criterio Roma NCI se ha utilizado durante décadas
tico. Disponíamos de datos de parámetros diferentes en la predicción del riesgo de recaída, al aplicar nuestro
medidos en 600.000 células de cada uno de los 60 modelo DDPR junto con el criterio Roma NCI mejorá-
pacientes. Para ello, extrajimos las características de bamos la separación entre los pacientes con alto riesgo de
­dichos datos (proteínas fenotípicas, señal basal y señal recaída frente a la utilización exclusiva del criterio tradi-
inducida) en el momento del diagnóstico y las situa- cional. Obtuvimos la misma conclusión cuando analiza-
mos en un algoritmo de aprendizaje automático. Divi- mos la enfermedad mínima residual para valorar la velo-
dimos nuestra cohorte en un grupo de entrenamiento cidad de remisión de la leucemia después de comenzar el
con el 80% de las muestras y un grupo de prueba con tratamiento, confirmando que el modelo DDPR mejora
el 20% de las muestras. Lo llevamos al modelo reali- la predicción de manera estadísticamente significativa.
zando un total de 10 veces una validación cruzada y
obtuvimos la selección de las características celulares ¿Qué sucede realmente en la recaída?
que podían predecir con precisión una futura recaí- Una vez identificadas las características de señalización
da, denominando a este modelo predictor de recaída que predicen una futura recaída, nos preguntamos qué
­dependiente del desarrollo (DDPR). podía suceder realmente en la recaída. Para ello obtu-
El modelo DDPR identificó seis características de vimos una muestra de los pacientes en el momento del
señalización presentes en el momento del diagnóstico diagnóstico y una muestra emparejada del paciente en
que podían predecir una futura recaída; dichas carac- el momento de la recaída y las clasificamos en ­pacientes
terísticas estaban básicamente confinadas a dos células que no recaen (muestra del diagnóstico y recaída) y
en particular (células pre-B y pro-B), presentes una a ­pacientes que sufren recaída (muestras del diagnóstico
continuación de la otra en el proceso de desarrollo de y momento de recaída).
las células B. La conclusión de estos hallazgos es que los Cuando analizamos las características de predic-
pacientes que van a recaer presentan altos niveles de ción, pudimos comprobar que estaban aumentadas
señalización al inicio y no pueden continuar activando significativamente en el momento de la recaída y que
esa señalización con nuestras estrategias de ­tratamiento. estaban ya presentes, aunque sin aumento s­ ignificativo,

37
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
en el momento del diagnóstico. Esto significa que en
los pacientes con recaída estas características de pre-
dicción no habían cambiado sustancialmente. Al pro-
fundizar en la biología comprobamos que en realidad
se estaba produciendo una señalización dentro de la
misma red. Tres de las proteínas que habíamos identi-
ficado son proteínas de señalización que aumentaban
entre el momento del diagnóstico y la recaída en algu-
nos pacientes. Empleamos una métrica diferente para
medir la fuerza de relación entre estas tres moléculas
y observamos que la fuerza de interacción se hace más ¿Cómo funciona la inteligencia artificial/
fuerte en la recaída; la población se hace más homogé- deep learning en el tratamiento del cáncer?
nea y se observa una conexión más estrecha entre estas
moléculas. En este modelo de leucemia linfoblástica
aguda, algunas células están destinadas a la supervi-
vencia, por lo que en el momento en que el paciente
llega por primera vez a la consulta, entre sus miles de
millones de células, hay algunas que son las responsa-
bles de la recaída y quizás todas las otras medidas de
estratificación del riesgo que empleamos pueden ser
indicadores de estas características.
¿Cómo nos ayudará la aplicación del modelo
en la práctica clínica?
Hemos mencionado, al inicio de esta presentación, las
limitaciones de las medidas que empleamos actual-
mente para la estratificación del riesgo. La primera es
la demora de meses en asignar el riesgo; con el modelo
«Hemos identificado las células
responsables de la recaída y
las proteínas implicadas, por
lo que ahora podemos dirigir
el tratamiento hacia alguna
molécula que actúe como inhibidor
de este proceso de señalización.»
DDPR podemos determinar el riesgo en una semana
desde que el paciente llega al hospital. Además, este
modelo permite realizar una predicción informativa.
Sabemos que alguien está en riesgo de recaída y pode-
mos intensificar la terapia o realizar un trasplante de
médula ósea. También se puede diseñar alguna célula
T mediante ingeniería genética que pueda unirse a la
superficie de estas células y usar el sistema inmunoló-
gico para erradicarlas.
En nuestro caso, lo que destacó fue la precisión para
identificar pacientes en riesgo de recaída y poder acer-
carnos a ellos clínicamente. Usando este tipo de téc-
nicas podemos profundizar en la biología y tratar de
preguntarnos qué tienen estas células que las hace resis-
tentes y por qué sobrevivieron a la quimio­terapia, para
así tratar de integrar todo este conocimiento con otros
tipos de información. La secuenciación, por ejemplo,
es algo que se está haciendo en la leucemia linfoblás-
tica para obtener información adicional y entender
mejor la biología de estas células y cómo se relacionan
entre sí. Clínicamente es importante plantearse cómo
integramos esta técnica en los hospitales para que un
niño que vaya a cualquier hospital ­pueda hacerse esta
prueba y su médico le informe de los ­resultados. Debe-
mos descubrir la manera de dirigirnos a estas células
para aprender más sobre ellas, ­entender cómo son y
cuáles son sus puntos débiles para atacarlas mejor y,
con suerte, que ningún niño recaiga.
Este es un concepto que hemos aplicado en esta
­enfermedad concreta, pero puede extenderse a otras
muchas. Concretamente, en nuestro laboratorio
­estamos aplicando estas técnicas en otros tipos de
­leucemia, así como en tumores sólidos. El objetivo
principal es ­llegar a manejar los aspectos más im-
portantes de la enfermedad para ayudar a asegurar la
­curación del paciente.
debate
Moderadora:
Erika Pastrana

Mesa redonda:
Prof. José Hernández-Orallo, Dr. Tarek R. Besold,
Dra. Jamie Paik y Dra. Kara L. Davis

Inteligencia artificial aplicada a la Biomedicina

39
Debate
El especialista en inteligencia arti-
ficial, Prof. José Hernández-Orallo,
ha afirmado que una de las limita-
ciones de las actuales redes neuro-
nales profundas es que en muchas
ocasiones no entendemos cómo
llegan a determinadas conclusio-
nes. Asimismo, la Dra. Kara L.
Davis ha señalado algunos ejem-
plos realmente interesantes de cómo
la aplicación de esos algoritmos
puede aportar nueva información
a los métodos tradicionales. Para
iniciar el debate, la primera pre-
gunta dirigida a todos los miembros
de la mesa es que, si tenemos en
cuenta estas limitaciones y el des-
conocimiento en muchas ocasiones
de cómo los algoritmos llegan a esas
conclusiones, ¿cómo podrían ser
las aplicaciones para la Biología?,
¿existen limitaciones en la forma en
que plantearemos nuevas preguntas
en Medicina Clínica?
Dra. Davis: Creo que es una pre-
gunta excelente. Puedo darle un
ejemplo: mientras trabajábamos
en este asunto, una estudiante de
posgrado que estaba realizando
un trabajo de aprendizaje automá-
tico ejecutó muchas herramientas
diferentes y empleó muchos tipos
distintos de modelos de aprendi-
zaje automático para obtener resul-
tados. Le comenté que no podía
entender algo que tiene 100 carac-
terísticas diferentes, que necesitaba
algo que me proporcionara una
serie limitada de características
que sean interpretables para mí
como médico y biólogo. Creo que
eso es algo que hay que pensar. Es
posible que haya cientos de carac-
terísticas que sean informativas,
muchas aplicaciones distintas
con diferentes herramientas, pero
debemos centrarnos en aquellos
datos y en aquellas herramien-
tas que nos lleven a descubrir la
respuesta que estamos buscando.
Como con la mayoría de las cosas,
puedo ir a pescar y encontrar
muchas respuestas diferentes que
podrían estar respaldadas por los
datos, pero en nuestro caso busca-
mos información clínicamente sig-
nificativa e interpretable. Por ello,
estoy muy agradecida por haber
llegado a una respuesta a partir
de los datos que hemos manejado
en nuestra investigación y tengo
que comentar que los resultados
están en consonancia con lo publi-
cado por otros investigadores. Las
características que encontramos
tienen sentido; sin embargo, es un
problema cuando se es consciente
de que los datos están en una caja
negra y obtenemos resultados,
pero no sabemos interpretar lo que
pasa. Esto constituye una limita-
ción en Biología y en la aplicación
en Medicina, donde se precisan
métodos transparentes e interpre-
tables.
Prof. Hernández-Orallo: Creo que
esa es básicamente la idea funda-
mental: no hay solución para todos
los problemas. Se necesitan diferen-
tes herramientas para los distintos
problemas, y el deep ­learning no
es la solución de todos los proble-
mas. Incluso con la misma técnica
se pueden obtener diferentes resul-
tados. Pero con 10  características
41
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
o agregando más y ampliando el
número de datos, se pueden obtener
modelos más comprensibles. Sin
embargo, hay algo que solemos
olvidar, y es que para muchas apli-
caciones hay muchas pruebas,
pero cuando preguntamos por qué
lo ha clasificado como A o B, los
propios humanos no saben cómo
explicar cómo han hecho la clasifi-
cación. Disponemos de herramien-
tas que pueden interaccionar con
esa persona, hacerle preguntas y
gracias a esas preguntas encontrar
explicaciones. Hay muchas maneras
de saber qué hay dentro de la caja
negra, pero la principal consiste en
convertir la caja negra en reglas que
puedan entenderse.
Dr. Besold: En mi opinión, hay
por lo menos dos dimensiones
en la pregunta. Una tiene que ver
con la filosofía de la ciencia, ¿qué
tipo de conocimiento se está pro-
duciendo en este momento? No es
un conocimiento mecánico, pero
presumiblemente puede añadirse
al conocimiento humano actual.
Hay muchas ciencias que se basan
en principios elementales, particu­
larmente las ciencias empíricas
que miden un efecto y tratan de
predecir la ruta hasta dicho efecto.
Y quizás nosotros estamos en el
extremo opuesto de la ruta, en
un punto en que la respuesta está
en algún lugar y tal vez alguien la
descubra casualmente, pero mien-
tras tanto, este conocimiento es lo
suficientemente bueno como para
considerarlo válido y emplearlo.
Por otro lado, hay un cuestiona-
miento social muy profundo que
sostiene que todo aquello que se
demuestra es más científico, pero
en la actualidad afirma que puede
basarse en uno de estos mecanis-
mos de decisión. ¿Qué paciente
tiene una mayor probabilidad de
recaída y qué paciente tiene una
mayor probabilidad de estar salu-
dable durante un tiempo más pro-
longado? Teniendo en cuenta los
recursos limitados, presumible-
mente la información determinará
esta decisión tan difícil sobre qué
paciente puede tratarse, y es pro-
bable que pongamos en desventaja
a los que tienen menor probabi-
lidad de supervivencia. La pre-
gunta que tenemos que hacer a la
sociedad no es solo respecto a los
tratamientos contra el cáncer, sino
para el trasplante de órganos, para
cualquier decisión entre la vida y
la muerte. La sociedad estará feliz
si le decimos que antes de aplicar
estos métodos la tasa de mortali-
dad asociada a malas decisiones
era del 10% y desde la implemen-
tación de estos métodos es del 2%.
Por otro lado, antes de aplicar estos
métodos podíamos preguntarle al
médico por qué recomendó una
acción que resultó ser la equivo-
cada. En el escenario del 2% vamos
a tener que decirles a las personas
que no sabemos por qué la inclu-
yen entre las personas desafor-
tunadas. Pero hay un 8% que, en
comparación con la situación ante-
rior, no está en el lado malo. Este es
el debate actual, se trata del efecto,
se trata de estar incluido o no. Si
le preguntas a un médico por qué
hizo lo que hizo, estaremos ante un
análisis posracionalización. Hará
lo mejor dentro de lo que sean sus
razones y esto puede extenderse o
no a las máquinas.
Quiero preguntarles su opinión
teniendo en cuenta la experiencia
en los hospitales de Boston, en la
que se emplearon archivos de datos
extensos para cada uno de los
pacientes. En esta experiencia cada
médico disponía de una historia
clínica completa de cada paciente,
pero la recopilación de tal canti-
dad de datos resultó ser contrapro-
ducente, en el sentido de que los
médicos no podían manejar tanta
información y dejaron de propor-
cionar datos sobre los pacientes. En
la práctica, y ante esta abundancia
de datos, ¿cuál es la mejor manera
de ayudar a los médicos?, ¿creen
que es positivo recopilar tanta
información y tendríamos, en tal
caso, que reemplazar a aquellos
médicos que no estén de acuerdo?
Dra. Davis: Espero que no reem-
placemos a los médicos, aunque
estoy totalmente de acuerdo con

esa observación. En la mayoría de
los sistemas de salud se integran
registros médicos electrónicos, por
lo que hay una enorme cantidad de
datos disponibles de cada paciente
y debo decir que suele estar
mal organizada. Es complicado
acceder, es difícil de interpretar y
es difícil poder dar una respuesta
al paciente. A veces, tanta informa-
ción no es la mejor opción, aunque
en otras ocasiones desempeña
un papel importante. Tal y como
hemos comentado hoy, pueden
desarrollarse aspectos para que el
sistema sea más inteligente,  que
se pueda realizar una “digestión” de
los datos de tal forma que se agre-
guen sin que el médico tenga que
incorporarlos a través de cientos
y cientos de informes, y cientos y
cientos de resultados de pruebas.
Realizarlo de forma que le permita
obtener los datos que necesita rápi-
damente y acceder a ellos fácil-
mente sin tener que volver atrás
y leer todos los informes de los
pacientes, que le llevaría mucho
tiempo.
He trabajado en esta área
durante 33 años, soy doctor en
Medicina y profesor de inteli­
gencia artificial. He trabajado con
personas que llevan en esta área
desde hace 50 años. Y lo que he
escuchado hoy aquí es algo que
llevo escuchando en los últimos
años respecto al conocimiento de
las limitaciones en esta área. No
sé si realmente la gente sabe las
limitaciones de las personas que
trabajaban en esta tarea ya en los
años ochenta y noventa, particu-
larmente en el área de la Medicina,
que es distinta al resto de las áreas.
Los datos médicos están llenos de
conocimiento muchas veces inútil,
interpretaciones e incertidumbre.
Teniendo en cuenta todos estos
problemas y limitaciones, no sé si
la inteligencia artificial va a entrar
de nuevo en un proceso de estan-
camiento.
Prof. Hernández-Orallo: Algunas
de las cuestiones que se plantean
en este momento ya las habíamos
visto en el pasado, y dentro de
este campo hay muchas personas
jóvenes brillantes que piensan que
van a salvar el mundo. Todas las
áreas científicas tienen sus altos y
bajos, y no es solo la tecnología,
sino también el contexto, lo que
hace que algo vaya más o menos
deprisa. El desarrollo que se ha
producido en estos últimos cinco
años no es sostenible. Los avances
de computación que se han apli-
cado a la inteligencia artificial, en
estos últimos años, no creo que se
mantengan.
Dr. Besold: En estos últimos años
la tecnología se ha extendido
mucho más que anteriormente.
Los primeros coches con sistema
de autoconducción son de los
Debate
años ochenta, no son un invento
del año 2012. Los sistemas exper-
tos de uso médico llevan desde
los años ochenta y ahora están en
nuestro entorno. Esto muestra las
limitaciones en su aplicación y en
su incorporación al mercado. La
mayoría de los avances en tecnolo-
gía de los años ochenta y noventa
se aplican actualmente en el deep
learning. Lo que realmente ha cam-
biado es que ahora disponemos de
nuevos avances en computación y
en memoria. Una de las cosas que
estamos haciendo actualmente es
volver a los años ochenta y rein-
vertir en técnicas que no se habían
aplicado. Estamos hablando de
hacer las redes de comunicación
interpretables o aplicar métodos
para extraer árboles de decisión
de las redes. Creo que podemos
mantenernos en este progreso
y que disponemos de herramientas
que lo facilitan.
Quiero hacer una pequeña aporta-
ción a la discusión sobre las redes
profundas como cajas negras. El
deep learning es una parte del
aprendizaje con inteligencia artifi-
cial. Uno de los métodos es el análi-
sis de componentes principales y el
árbol de decisiones. Estos métodos
nos permiten observar las carac-
terísticas más relevantes, e incluso
en las redes profundas hay inves-
tigaciones que nos permiten retro-
ceder y ver qué características son
43
INTELIGENCIA ARTIFICIAL APLICADA A LA BIOMEDICINA
las más importantes y disponer de
métodos que permitan encontrar
esas variables.
Dr. Besold: Este es el tipo de cosas
que estamos haciendo dentro de
la inteligencia artificial explicable.
Estos métodos están aún en sus
etapas iniciales. En ocasiones, si
intentamos hacer que las redes pro-
fundas sean explotables, no fun-
cionan tan bien y seguro que una
máquina de vectores de soporte es
un componente principal. Todas
estas opciones están ahí, pero
muchas de las aplicaciones geniales
actualmente no se utilizan.
Uno de los problemas principa-
les, incluso con estos métodos, es
que pueden mostrar cuáles fueron
los factores que influyeron en
cierta clasificación o resultado de
automatización, pero no se obtiene
una historia causal y las personas
generalmente piden una explica-
ción que les permita comprender
tal conexión y saber cómo poder
llegar hasta ella.
Dra. Paik, me preguntaba si podría
darnos un poco más de informa-
ción sobre la aplicación del robot
origami en cirugía. ¿Es realmente
capaz de reproducir una biopsia?
¿Sabe cómo hacer la punción en
el tejido? ¿Cómo lo haría y cómo
sacaría el tejido del cuerpo?
Dra. Paik: Ya se han usado herra-
mientas de este tipo en cirugía. La
novedad de esta herramienta, en
comparación con las otras, es que
el cirujano puede sostenerlo direc-
tamente en sus manos sin tener que
manejar un sistema de mandos por
separado, lo que le impediría tener
un feedback háptico real. El robot
origami le permite tener un contacto
directo con los tejidos. En la reali-
zación de las biopsias, y durante la
sutura, la razón fundamental para su
aplicación es el tamaño, ya que con
este robot podemos reducir la exten-
sión y el diámetro de la sutura o la
punción. Esto se debe a que dispone
de uniones controlables. Cuantas
más juntas tenga, mayor será su
grado de libertad, y si tiene múlti-
ples uniones controlables significa
que necesita múltiples motores,
por lo que en otros tipos de herra-
mientas se necesitan muchos cables.
En nuestro caso, el poder modi-
ficar selectivamente la rigidez de
las juntas individuales nos permite
controlar los grados de libertad sin
tener que incorporar motores direc-
tamente en el dispositivo, que es
extremadamente pequeño.
presentation

Federico Mayor Zaragoza

Chairman of the Scientific Council
of the “Fundación Ramón Areces”

Soledad Santos
Editorial Director for Spain and Portugal,
Springer Healthcare
Artificial intelligence in biomedicine

45
Presentation
I
n this 11th edition of “Conferences and Debates on Science”, jointly organised
with Springer Nature, and under the title “Artificial Intelligence in
Biomedicine. What the future holds for us”, we address current major topics
thanks to the participation and collaboration of renowned personalities. There is no
doubt of the extraordinary progress that computer science applied to biomedicine has
experienced in recent years and the extraordinary impact that its implementation may
have, not only on data analysis, but also on favouring the diagnosis and decision-
making in treatment, as well as on increasing the capabilities of surgical techniques
with uses that were unimaginable some years ago.
Following the same trajectory, the 21st century will be the century of personalized
medicine. Today, we have data accumulation systems (Big data) that allow collecting
a huge amount of information, not only on patients’ symptoms, but also to assess the
impact of genetics and epigenetics, which, in addition, allow us to combine these data
at high speed and make the best therapeutic decision on this basis. Therefore, it is
worth investing in everything related to computing, computer science and health.
We must be aware that only some people can get the most out of these advances.
Today I want to recall the importance that aspects such as health, water and quality
education, considered as a priority by the United Nations, should be extended to
everyone.
By implementing these health advances, the future will bring something much
better from the perspective of human solidarity. Therefore, once again I am pleased to
welcome those representing Springer Nature and I hope they continue considering the
“Fundación Ramón Areces” as their home.
 ❙

Federico Mayor Zaragoza

Chairman of the Scientific Council of the “Fundación Ramón Areces”

47
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE

W
elcome to the 11th Conference-debate, which is the result of the
collaboration between the “Fundación Ramón Areces” and
Springer Nature, will address the topic “Artificial Intelligence in
Biomedicine”.
For the whole team of Springer Nature in Spain, it is a great satisfaction to continue
this interesting collaboration with the “Fundación Ramón Areces” year after year and to
contribute thereby with its important mission of bringing state of the art science from
outside and within our borders, not only to our local scientific community, but also
to the public in general. It is an honour for us to contribute to the organization of one of
the longest dissemination activities in life science in the “Fundación Ramón Areces”.
This year we are celebrating the 150th anniversary of the Nature Journal and it
makes us proud to know that, throughout these years and despite changing from
hardcopy to digital format “the cloud”, our goal remains the same: to help our readers
to understand scientific progress; to help them in their work and career progression;
and to help them assess the relevance that every scientific advance has to society.
All these values are consistent with the mission of the “Fundación Ramón Areces”,
to whom we are thankful for giving us this great opportunity to collaborate in the
organisation of these conferences.
We especially thank the Scientific Committee, represented in this table by
Professors Federico Mayor Zaragoza and José María Medina, who each year choose a
topic of great scientific relevance and interest to the public in general. We also want to
thank Mr. Raimundo Pérez-Hernández y Torra, General Manager of the Foundation,
and Mr.  Manuel Azcona, Director of Communications for their commitment in
organising this Conference every year.
Will my doctor be replaced by a robot? Will a machine predict if I get cancer? These
questions, that until recently were only seen in science fiction films or novels, nowadays
are in the mind of many of us and are the challenges faced by the speakers we will have
this afternoon. The combination of huge amounts of health information, particularly
images, and the development of algorithms to extract information patterns and make
“smart”, decisions based on data, have allowed a faster diagnosis. These algorithms
have already proved to provide results as good as, or even better than, the standards
set by experts.
As Dr. Kara L. Davis will tell us, these intelligent algorithms can also help us to
predict the outcome of a drug on a particular patient, thus avoiding unnecessary
treatments and improving healthcare. In addition, we will hear Dr. Jaime Paik telling
us how they defy imagination in their lab every day by developing robots and other
devices that safely and efficiently interact with the human being in order to help,
among other situations, in rehabilitation treatments.

 Presentation

As with all technological advances, the implementation of artificial intelligence

tools in the field of medicine and the automation of many processes raise ethical
concerns about what can and should be done in this field. Prof. Hernández-Orallo
and Dr. Tarek R. Besold will help us to understand and consider where we want to
get when “giving in” some of our tasks to machines, and more specifically, within the
delicate field of biomedicine and patient data. They will help us to understand how all
these artificial intelligence tools can benefit us and what we should require from them
to ensure that they include ethical values that allow the equitable development of our
society.
José, Tarek, Jaime and Kara, we are honoured that you have agreed to participate
in these conferences. We are very grateful and we hope you enjoy this experience as
much as we do.
Finally, I would like to thank Erika Pastrana, Executive Editor of the Nature
Journals, for the moderation of this event. Your professionalism and your enthusiasm
for science are part of the success of this Conference.
Thank you all. I hope you enjoy these lectures and the subsequent discussion. ❙

Soledad Santos
Editorial Director for Spain and Portugal
Springer Healthcare

49
introduction

Erika Pastrana
Editorial Director for Nature Research,
New York, USA.

Erika received her degree in Biochemistry and

Molecular Biology from the Universidad Autónoma
de Madrid and was granted a doctorate at the same
University with a thesis supervised by Dr. Javier
Díaz-Nido, investigating the cellular and molecular
mechanisms responsible for promoting the rege­
neration of damaged axons in the mammalian central
nervous system. Later, she moved to New York where
she did postdoctoral studies in the laboratory of
Dr. Fiona Doetsch at Columbia University, where she
studied the way in which new neurons are created and Artificial intelligence in biomedicine
incorporated into the circuit of certain areas of the
adult mammalian brain.
In 2010 she joined Nature Methods as editor
responsible for neuroscience, and in 2014 she started
working on Nature Communications as Editor-in-Chief
of the neuroscience section.
Currently, Erika is the Editorial Director for the
Nature journals in the area of applied sciences and
chemistry, including Nature Biotechnology, Nature
Methods and Nature Chemistry, among others.

51
 Introduction
A
t the outset, I would like to reiterate our
gratitude to the “Fundación Ramón Areces”.
Many of the attendees, like me, are dedi-
cated to scientific work, and the role of a foundation
such as this one is vitally important, since it brings sci-
ence presented by international researchers to our city,
our streets and our universities, thus promoting dia-
logue not only from experts to society, but also from
society to experts.
And this is the purpose of tonight’s event. We will
enjoy lectures given by very important international
researchers in the field of artificial intelligence and
biomedicine. You will listen to four presentations of
around twenty minutes each and then we want to hear
your questions and opinions on the topic. If you think about the devices you carry with you,
I want to thank the lecturers for coming from so
far away to show their work and the importance of the
dissemination of science they conduct, probably now
more than ever.
Why have we chosen a topic such as the use of artifi-
cial intelligence in biomedicine this year?
Today, the relevance of artificial intelligence in our
lives, both for its positive aspects and the potential
negative effects associated with its misuse, is unques-
tionable. It is important to highlight that the progress
that we are seeing at the scientific level and its clini-
cal application is the result of an investment in basic
science for many years. The basic principles on which
what we call artificial intelligence today is based, such
as deep learning, were established last century. The
funding and perseverance of groups of researchers
focused on developing these basic sciences is what
have allowed us to make use of them today.
Why is artificial intelligence applied to biomedicine
relevant nowadays if it began so many years ago?
It may be associated with the fact that today data
collection is an easy and cheap task, the mechani-
cal calculation power is reaching much higher levels
– thanks to the development of software and hard-
ware – and this leads to the turning point at which
we find ourselves nowadays.
In biomedicine, as in other sciences, the amount
of information we currently collect is much greater.
they are accumulating data about your behaviour
and, sometimes about your physiological aspects, on
a daily basis. Currently, physicians have increased
their ability to obtain very refined details about each
cell and each element of your body. For example, as
Dr. Davis will explain, nowadays a lot of information
on a tumour can be collected in a much more sophis-
ticated and detailed way than some years ago.
The exercise of clinical practice is changing from
a hardcopy-based model to a digital one. All clinical
records and health information are becoming digital.
With all this, a doctor or a scientist has his/her hands
tied, since he/she has a lot of information that cannot
be handled without a computer aid. The human mind,
53
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
by itself, cannot analyse and interpret such a huge vol-
ume of information. It is here where the deep learning
and computing sciences contribute with their ability
to interpret a lot of information and give clarity to that
cloud of data that we would not otherwise understand.
As in other fields, it is important to make sensitive
use of these techniques. In biomedicine, the safe use
of these data is paramount. Medical, personal and/or
behavioural data are very sensitive, and as a society we
must be careful not to use them in a way that infringes
basic principles of consent and privacy.
Another challenge is the fact that many of the algo-
rithms that analyse such information are based on the
data we provide them with and, if such data are not
representative of the society or are biased for repre-
senting only a part, we could make decisions that may
not apply to all individuals alike.
Finally, there is also a real problem, since some-
times we do not understand how those algorithms
reach the conclusions they do. Deep learning, in par-
ticular, gives us an answer after having observed how
computer scientists are unable to explain how an algo-
rithm has been able to reach a certain conclusion.
All these aspects are the challenges our speak-
ers will talk about today, as well as the importance of
developing scientific, ethical and legal frameworks.
It is for me a great pleasure to introduce the four
speakers we will have today. Each of them has come
to the field of artificial intelligence from very different
areas that they will share with us today.
First, we will listen to Professor José Hernández-
Orallo, Professor at the Polytechnic University of
Valencia, who is an expert on data science and infor-
mation systems. He will present a general and broad
vision about what we mean today by artificial intelli-
gence, what techniques are involved and the concept
of machine artificial intelligence in relation to what
we know of human intelligence and what the relevant
parameters are that we need to understand to be able
to apply these techniques.
Second, Dr. Tarek R. Besold is Artificial Intel-
ligence Lead at Telefónica Innovation Alpha Health
Lab. who has a different area of experience since he
is an expert in cognitive science and has studied how
humans understand knowledge. From this perspec-
tive, he has come to artificial intelligence providing
his knowledge of the human brain, and he will talk
about the implementation of artificial intelligence and
human knowledge techniques to develop real tools in
biomedicine. Dr. Besold has much to tell us about how
to develop them in an ethical, regulated manner and to
ensure that technology coexists safely with us.
Third, Dr. Jamie Paik, who comes from Lausanne
(Switzerland) where she is the Director of the Reconfigu-
rable Robotics Laboratory at the Polytechnic University,
will speak. Robotics is a very important field of artificial
intelligence because algorithms and data cannot progress
by themselves if not accompanied by the development of
hardware. Dr. Paik is specialized in the field of soft robot-
ics (flexible robotics) and materials science and will pres-
ent the latest developments about what can be done to
turn origami-based robots into intelligent entities.
Finally, we will have the clinical perspective of
Dr. Kara L. Davis who applies these techniques in
her medical profession. Dr. Davis visits us from Stan-
ford, California, where she leads the Bass Centre of
the Health Research Institute and where she works as
paediatrician specialising in children’s oncology, spe-
cifically in the treatment of leukaemia. She will talk
about the challenges and opportunities artificial intel-
ligence offers when analysing tumour data at a molec-
ular level, determining which cells are responsible for
patient relapse and thus, designing better treatment
options for these patients. ❙
 • Artificial
lectures
intelligence and data science:
looking ahead
Prof. José Hernández-Orallo
Professor, Department of Computer Systems and Computation,
Polytechnic University of Valencia, Valencia, Spain

• Building ethical artificial intelligence

and technology for the health sector
Dr. Tarek R. Besold
Artificial Intelligence Lead @ Telefónica Innovation Alpha Health,
Barcelona, Spain

• Soft robotics for intuitive human robot interaction

Dr. Jamie Paik
Director of Reconfigurable Robotics Lab, École Polytechnique Fédérale
de Lausanne, Lausanne, Switzerland

• Potential of artificial intelligence/deep learning

methods to improve cancer care
Dr. Kara L. Davis
Pediatric Cancer and Blood Diseases Stanford Child Health Research
Institute. Bass Center for Childhood Cancer and Blood Disorders,
Stanford University, Stanford, USA

Artificial intelligence in biomedicine

55
Artificial intelligence and data science:
looking ahead
Prof. José Hernández-Orallo
Professor of Data Science and Information Systems at the Polytechnic University of Valencia, Valencia, Spain

P
erhaps there is an idea that academics prefer
not to talk about the future. However, I do
because I have a license to be wrong. When
we talk about the present or the past we need to be
very strict, but when we talk about the future we
understand that we may be wrong.
In this talk I am going to give you the current and
future view of artificial intelligence and its relevance.
We can ask ourselves: why is artificial intelligence so
transformative and why do we think it can change
everything? From my viewpoint, we are talking about
intelligence, and the aim is that these artificial systems
will become intelligent. Intelligence is the basis of all
technologies; it has allowed our species to dominate
Prof. José Hernández-Orallo
the planet and has created culture and sciences such
as medicine. When we talk about new technologies,
we have to consider that many of them are based on
artificial intelligence. (which limits their use); however, there are others that
In turn, this relates to another area, such as data do bring knowledge and provide a new view on the use
science, which is able to generate evidence based of these techniques.
on the data collected, as we humans have done in Data science could be considered a “squared
different areas in a more or less conscious way over science”, particularly in those areas where knowledge
the centuries. is obtained from these data.
Data science will be a factory of knowledge that The view we have now is still very simplistic, since
will enable rational decision-making. We still do not it only considers artificial intelligence as machine
know how many of the tools used by data science, such learning. However, each day it is more evident that
as deep learning mentioned by Erika Pastrana, work artificial intelligence covers many more aspects, which

57
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
have been developed particularly in the last five years.
It is as false to think we can have artificial intelligence
without learning as to think that it is just learning.
In addition, we must also differentiate machine
learning from deep learning, which is really one of the
various types of machine learning.
«When it comes to combining
artificial intelligence and data
science we see many common
elements, although in artificial
intelligence more learning
processes are used whereas in
data science the processes are
more inductive.»
Why is deep learning so relevant
these days?
Many machine learning techniques require providing
them with the most relevant characteristics of the
problem to solve. This requires a manual knowledge
and recognition of the domain, and, in certain areas
(such as vision) this is still very complicated.
From examples, the system automatically infers
representations of different characteristics of the image,
being able to distinguish even between two different
faces. The designation of artificial neural networks
is attributed to the system connectionist paradigm,
with millions of connections amongst these networks
that resemble brain neural networks, although to date
they are still much simpler. The mechanisms of these
networks may resemble the mechanisms of the brain
in many ways, but in other aspects of functioning they
are very different. Nevertheless, many aspects of brain
function are still currently unknown.
Why are neural networks relevant now,
and not twenty or thirty years ago when
academics or universities started to talk
about them?
In addition to the progress that has occurred in the
algorithm that lies behind the networks, there are
three fundamental components that have marked its
importance today. The first component is the great
capability of data storage. In other machine learning
techniques, the results do not improve, even if you
give them more data. On the contrary, in deep neural
networks, the more data you provide, the better result
is obtained and with a very high saturation margin.
The second component is the development of spe-
cial chips in graphic cards that allow a great number
of much more efficient calculations than conventional
chips. Lastly, is the concept of large models, which is a
poor intuitive aspect. It is based on the principle of par-
simony by which a very large model is over-adjusted to
data, since it has many degrees of freedom and needs
many examples to be able to generalize.
«Deep learning contains artificial
neural networks with many
layers, which are progressively
learning increasingly abstract
representations and in the deeper
layers.»
· Building ethical
Artificialartificial
«In deep learning with large
models and many data we
obtain systems capable of
generalizing, which constitutes
one of the greatest challenges
that must be further developed.»
What can artificial intelligence do for
us nowadays?
Media and social networks have shown a clear progress
in the implementation of artificial intelligence in
the various disciplines, but it is important to analyse
what each one of them can provide in each specific
domain. Sometimes prediction systems are not such
good predictors; in fact, they failed miserably in the
USA elections; personal assistants are not as smart or
fantastic as they are said to be, since they have been
shown to be very effective when used for shopping
but are still very limited in other respects. Much
remains to be developed in pattern recognition from
an image, and voice recognition is more developed for
widespread languages than for less spoken ones.
There are publications that suggest an imminent
implementation of artificial intelligence, but in
practice we still find many limitations, regulations
and costs that restrict that implementation. A typical
example is driverless cars that were considered easy
to implement five years ago, but today they still have
many limitations for their widespread use.
Two years ago, in the medical field, the “Science”
journal published a 21-item questionnaire whose result
may tell us if the task currently performed by normal
technology can be solved with automatic learning. The
various items include the presence of a large amount
of data, if the task is well bounded, if there is error
intelligence
intelligence
and data
andscience:
technology
Looking
for the
ahead | Prof.
health sector | Dr.
José Hernández-Orallo
Tarek R. Besold
tolerance, etc. There is also a rule that works very well
for defining tasks that can be performed at an intuitive
level: anything that can be done subconsciously in less
than a second can be done by artificial intelligence.
Anything that requires more reasoning, thinking or
using knowledge is where machine learning is currently
failing, as it happened twenty or thirty years ago.
Nowadays, the specialties of artificial intelligence
are perception and data crunching.
Another aspect, such as planning, may work
well in some areas, but not in others. To assess what
artificial intelligence will be able to do, extrapolation is
not a useful method but it can help us in predictions,
as Tegmark states in his book “Life 3”.
Steven Pinker, one of the most important thinkers
today on artificial intelligence, said twenty years ago
that the works that were more likely to be automated
were those such as analyst, petrochemical engineer
and member of the judiciary, and the ones less likely
were gardeners, receptionists, cooks, etc. However, two
years ago, the University of Oxford published a list in
which the conclusion was just the opposite. According
to this list, the manipulative professions that do not
require long-term reasoning will be replaced more
quickly.
«Following the rule of system
1 and 2 of Daniel Kanheman,
Nobel Prize winner and author
of the book “Thinking, fast
and slow”, anything we can do
quickly without really thinking
about how we’re doing it is
automatable.»
59
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
What do we want artificial intelligence to do?
The Asilomar Conference (California) that took place
in 1975 to regulate the issue of genetic and DNA
research laid the foundations of research for many
years. Two years ago we had a conference at Asilomar
to carry out similar work with the topic of artificial
intelligence. At this Conference we talked about safety,
privacy, trust, inclusion, standards, regulations, etc.
and the scientific community, and those responsible for
decision-making about artificial intelligence showed a
willingness to create regulations. Furthermore, they
stated their desire to proceed correctly in its use.
On the other hand, there is a negative perception
of current artificial intelligence and its constant need
for data collection, particularly human data. Within
the medical field, data collection and test making is
being increasingly encouraged. This may be related to
the fact that it is relatively cheap and has the advantage
that the data collected to solve a specific problem may
be useful in solving another one later on. However,
this data management must be adequately performed,
requesting the consent of the involved user. In fact, the
possibility of relying on artificial intelligence, machine
learning and data science depends on having a
regulation and that all those involved, from academic
researchers to companies and public bodies, behave
adequately.
Role of artificial intelligence in biomedicine
The potential of artificial intelligence in biomedicine
is very clear. There is no area in which both benefits
and risks are clearest. It is an area that requires human
data, and by applying the scientific method it generates
knowledge from accumulated evidence. Potential
applications in genomics, image techniques, robotics,
etc. are many and favour aspects such as prevention,
diagnosis, treatment and management of many
diseases, plus patient care health management and
many more. It is probably the area of greatest interest
since it translates into clear benefits; however, for this
to happen, data must flow easily and safely.
Biomedicine: challenges and risks
The main challenges for the adequate implementation
of artificial intelligence in biomedicine include ethical
aspects such as equality, privacy, responsibility, safety
and sustainability. For example, the implementation of
deep learning in small populations, as in rare diseases,
would be limited by scant data that would not allow
the development of accurate predictive models. In this
regard, an important challenge is the integration of
previous knowledge in medicine into models that are
being developed.
It is important to highlight that artificial intelligence
is changing, as human beings are too. Before this
continuous change, treatment models must be adapted
and updated. It must be taken into account that,
in the future, artificial intelligence is also going to
change our abilities in many ways and can provide us
with the possibility of replacing certain skills, such as
correct age-related cognitive decline, thus providing an
alternative to more aggressive treatments.
The negative aspects of the development of artificial
intelligence include the increasing dependence on
these technologies, which favours mental atrophy
and a more passive state that must be taken care of,
particularly in children. Other potential risks in
medical areas include the lack of responsibility and
trust in its use, identity protection and the control of
these tools. The increased use of artificial intelligence
can help the 21st century to become the century of
the  “sedentary brain” and it is important to decide
· Artificial intelligence and data science: Looking ahead | Prof. José Hernández-Orallo

which aspects we delegate in these technologies
and which we continue developing.
In summary, artificial intelligence can be
applied in any field (personal, business, public
administrations, etc.) as human intelligence, but
in biomedicine, its implementation is particularly
useful and simple, since they (artificial intelligence
and biomedicine) share aspects such as scientific
methodology, skilled personnel, the use of protocols,
etc., which facilitates this implementation.
To provide good results, artificial intelligence
requires the collection of large amounts of human
data; it is important to assess the potential impact
and to ensure adequate management of these data.

61
Building ethical artificial intelligence
and technology for the health sector
Dr. Tarek R. Besold
Artificial Intelligence Lead @ Telefónica Innovation Alpha Health, Barcelona, Spain

I
will start this talk following what Professor
Hernández-Orallo has stated, and I will try
to clarify some of the aspects mentioned. My
viewpoint is that the development and implementation
of artificial intelligence must not be feared, since there
are people interested in building artificial intelligence
ethically, particularly in the health sector.
In February 2019, the Academy of Medical Royal
Colleges published a report, which is available on
the Internet, that sums up quite well the functioning,
possibilities, opportunities and risks of artificial
intelligence in the health sector. The third and fourth
pages of this report contain ten recommendations, the
first of which states: “politicians should avoid thinking Dr. Tarek R. Besold

that artificial intelligence is going to solve all the

problems the health and care systems across the UK
(and the rest of the world) are facing”.
First, artificial intelligence is still in its infancy and
its implementation in healthcare, despite the claims of
some opinion leaders, is still very incipient.
Second, regarding standards already mentioned
by Prof. Hernández-Orallo when talking about
data science, it is worth mentioning that for those
who comply with the proper information handling
and government standards, data from the public and
private sectors should be made available and their
accuracy and quality should be certified. It is the
responsibility of the government to decide to what
extent users’ data are shared. Many people, when
reading the document, just read that “data must be
available”, but the sentence continues “...for those who
comply with information handling and government
standards...”, so the representatives elected by the
people should decide who has access to data.
Third, technology companies should implement
external critical appraisal and transparency so that
clinicians can rest assured that the tools they are
providing are safe. These are the key messages of my
presentation and now I will try to explain them in
detail.

63
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
Proposal of Alpha Health for building
artificial intelligence in the health sector
So who am I, and what does the organization I work
for do? We are part of the Telefónica universe, but
somehow we are the misfits of the family, since our
mission would be the equivalent of manufacturing
moonshots. We aim towards some crazy goal but it
is one that is plausibly possible. If it works, it will be
awesome and we will really solve a problem. If it fails,
no one will be surprised. We assume big challenges
such as, for example, aspects related to the twenty-
eight United Nations sustainable development goals.
The achievement of these goals requires seeking for
radical solutions so that, if they are possible, they
could change the way we see the world. In addition, it
requires advanced technology and when we talk about
cutting-edge technology we refer to plausible tech. We
are not talking about intergalactic travelling; it is not
about transporting people from A to B, but developing
projects that we believe could work, for which there
is academic evidence that they may work; however,
they have not been addressed at the industrial level
yet. The combination of these three aspects basically
constitutes our criteria for participating in a project.
The next question would be, why am I here
today? To explain it, we can analyse the US mortality
data between 1900 and 2000. From these data it can
be deduced that, on the one hand, nowadays fewer
people die compared with the 20 century, which is
th
good news. On the other hand, approximately the
same number of people who died in 1960 are dying
nowadays, which is bad news.
What’s the difference? Simply, since the discovery
of penicillin, we know how to treat infectious diseases,
and deaths from this cause have been greatly reduced,
at least until now, since hyper-resistant strains of
microorganisms are now being detected, which is
something that could change the trend of this curve.
However, we have not yet discovered how to treat
chronic diseases, which in practice means that we
live longer, but our healthy lifestyle does not extend
as far as our expectancy of life. Today we live five to
ten years longer than our ancestors, but only two of
these years are healthy years, so in the other eight years
we are basically trying to control the typical aging-
associated diseases. When analysing the leading causes
of mortality, we can see that 70% of them are due to
chronic diseases such as cancer, strokes, diabetes, or
mental disorders. Out of this 70%, around 75% relates
to habits or lifestyle; the other 25% is related to genetic
predisposition and environmental factors.
Therefore, if we change our lifestyle we could
influence the 75% involved in the development of
chronic diseases. If we break it down even more,
we will see that there is a total of five to eight key
behaviours or attitudes of which exercise, the use
of substances (either drugs or medication) or the
quality of interpersonal relationships, stand out.
Regarding mental health, the quality of interpersonal
relationships can give us a lot of information about
the probability of suffering depression or a similar
condition in the future.
Therefore, taking this into consideration along with
the advances of the last thirty years in the knowledge
of how behaviours are formed and how they work,
my work focuses on promoting behaviour changes
that will dramatically reduce the burden of chronic
diseases worldwide centred on the eight behaviours/
attitudes mentioned. Since we belong to Telefónica, the
intention is to build “a personal health assistant” that
provides the patient with an effective way of improving
his/her health-related behaviours and of living a
happier and healthier life. In this sense, we want to go
a little further since we do not intend the assistant to
guide the patient, but the patient him/herself to be the
leader, helping him/her effectively and efficiently to
feel the best health possible, increasing his/her healthy
life expectancy beyond the current one.
· Building ethical artificial intelligence and technology for the health sector | Dr. Tarek R. Besold
For this purpose, as Prof. Hernández-Orallo
previously pointed out, one of the key factors of
this type of technology in personal care per se, and
especially in the healthcare field where there is a
particular susceptibility, is trust.
What does trust in the implementation of
artificial intelligence in healthcare mean?
Trust is a prerequisite for people involved in the project
and for the companies that develop these products to be
worthy of people’s commitment. Our customers (or our
users) must be able to believe that the solutions we provide
them with will really take them where they want to go
and the way in which they want to achieve their aims.
Therefore, it is the “how” and “where” of the solution.
On the one hand, we try to develop a personal
assistant that is attractive, one that fits and wants you
to connect with it. On the other hand, we want the
patient to be the one who runs the process.
How could we favour the performance of
artificial intelligence in health?
As I have already said, trust is paramount, and as
Prof. Hernández-Orallo said, ethics is related to trust.
What is needed to be trustworthy is a development
that respects values. In addition, there must be a public
commitment to these values, so the patient can easily
identify them. This is where ethics plays a role.
As Erika Pastrana mentioned, I am currently
leading the Alpha Health research laboratory and our
work focuses on three lines. The first line, which we call
the trustworthy (or explainable) artificial intelligence,
is based on building systems that are transparent to the
user. The user can and has the right to ask the system:
“I was recommended to do something. Why did you
recommend that?” Or may ask the system: “How do
you really work? How do you make decisions?”
The second line is empathic artificial intelligence
directed to understand the mood of the users in an
«The aim is to ensure
transparency in technology and
to maintain the leadership of
the user, since we are providing
personalized support and
want to help people to change
their behaviour, which is very
difficult to achieve.»
interactive and multimodal manner. So, if we provide
a recommendation or an intervention, we want to
know how the user feels at that very moment, how the
user will feel afterwards, what the impact was, if we
really helped him/her, if he/she got worse, or if he/she
is in a state where we can still help.
Finally, we are working on a third line of artificial
intelligence aimed at preserving the user´s privacy,
which is closely related to what Prof. Hernández-
Orallo mentioned when talking about data. This line
is developing technology that will allow us to deliver
cutting-edge services while data ownership and
control are exclusively in the hands of the user. This
means that we, as a company, give up data ownership
and simply provide a service.
There are still many people nowadays who
think that there is no artificial intelligence involved
in medicine, but it is not so. In fact, a simple
magnetic resonance imaging with state-of-the-art
technology usually has the support of artificial
intelligence to perform clustering of all the scanned
material. However, there are also healthcare and
deep network systems, as already mentioned by
Prof. Hernández‑Orallo. One of the major problems
of these systems is that, although we know they are
statistically performing well, very often we don’t know
why they are working well.
65
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
«Europe is making a big
effort to try to move forward
in the regulation of artificial
intelligence, for example, in
data privacy, but it is also
working very hard in the health
sector to protect patients. The
fact that it is a legal application
does not mean that it is ethical.
Ethics goes beyond legislation.»
We know that 97-98% of the cases are correct, but
we don´t know why they are correct or why they are
incorrect in the remaining 2-3%. This is because these
systems are really so complex for us to follow all the
mathematical processes, although this does not mean
that they are unknowable.
How could we increase the understanding
of the way artificial intelligence systems
work?
The question really is how are we currently using
artificial intelligence systems? Nowadays, we enter
data and in 98% of cases we get an output with
statistical validity, but we often ignore its operation.
There are five questions that you can ask to increase
the understanding of how artificial intelligence
systems work. For each decision-making mechanism
we can ask ourselves:
1. How does the algorithm create the decision?
2. How does it make decisions?
3. How do the various parts of the mechanism
affect the result?
4. If you are in a specific situation, why does this
situation trigger a particular result?
5. And, more globally, how does it work in general?
If we look at the current situation, most of the
systems are in an early stage of development. How to
improve them and make them more accessible so
they become comprehensible and interpretable
learning  systems is being studied. Currently,
image recognition systems can identify the various
components of an image, but extrapolation is still
limited.
To other medical or clinical staff, physicians may
be like interpretable models in that they sketch the
technical line of connecting the patient’s symptoms
and test results with a particular diagnosis. This allows
other clinicians to interpret the diagnosis, ensuring that
conclusions are supported by reasonable assessment
functions and strong values for the evidence given.
However, in both cases, ideally, the physician has to
put into context all the information so that he/she can
explain it to the patient in understandable terms. To do
this, he/she must have knowledge about the patient’s
living environment and the causal relationships
among the various parties. This is what we should
be demanding from artificial intelligence systems,
especially those applied to the health field.
«Within the health sector,
machine learning systems
could compare with physicians.
Physicians must become
comprehensible models for
patients and deliver the
diagnosis by providing well-
known high-level indicators
revealed in tests (i.e. system
symbols) without giving
information about how medical
tests and assessments work.»
· Building ethical artificial intelligence and technology for the health sector | Dr. Tarek R. Besold
Artificial intelligence and privacy
On the issue of privacy, most of the data system
companies are currently providing their services in
exchange for obtaining data from users. In fact, most
of the current technology needs information from
the service providers to the users. This is the reason
why these models are called free, or rather freemium,
since data are basically part of the payment of
the service provider to the application developer.
Subsequently, the service provider can use additional
analytical information extracted from these data
to obtain more income. A clear example would be to
choose a traditional machine learning approach that
does not protect privacy, but does collect data from
users (age, sex, salary) while providing a service.
Then, these data are entered in the artificial neural
network that learns how age, sex and salary are
correlated to each other. Finally, the trained neural
network becomes a model that can predict salary
according to age and sex, or vice versa, the age based
on the salary and sex, etc. In this situation, we can
find two fundamental problems. The first is that users
don’t want to share their data.  The second relates
to the fact that companies can use models capable
of disclosing information of the individual users,
without preserving their privacy.
To avoid this, techniques that allow learning from
a population without owning/disclosing individuals´
information have been developed. These techniques
include encryption or fully homomorphic encryption,
federated learning, secure multi-party computation
or secure enclaves. Many of these techniques
have  theoretically shown that they could work,
but  have  not yet been implemented. I will further
develop the concept of fully homomorphic encryption.
Since the user’s intention is not to share his/her
data but to have a service provider, the question is:
Why don’t  I simply code my data before sending
it? The answer is clear: if encrypted data are sent,
the  machine  learning no longer works with most
of the  current methods. Only an encrypted version
of data are obtained. In the above example, the
identification of gender, salary and age would be
lost. When sending encrypted data, the service
provider has to decrypt, train the model, make a
prediction and, again, encrypt  the prediction to
send it to the user who, in turn, will decode it. In
the last ten years, mathematics has allowed us to do
this, and it is now feasible due to improvements in
computing that, nowadays, make it possible to learn
from encrypted data since there is a subcategory
of encryption mechanisms that allow it. That is to
say, these mechanisms allow a classification or any
other machine learning function. The advantage is
that we can create cutting-edge machine learning
without seeing data, and the disadvantage, from the
company’s viewpoint, is that we are making cutting-
edge machine learning without having data.
Artificial intelligence and ethics
For the people involved in this field, besides
considering the various ethical choices, it is essential
to comply with one of them. It is important to assess
if the health problem I want to solve can be done
following the ethical limitations, since the problem
to be solved and the ethical priorities often come into
conflict.
There are several questions to ask and to reflect on
before developing artificial intelligence tools: Do we
want to be ethical? Do we want to preserve privacy?
Do we want to be reliable? Do we want to cure illness
and do we want to enter areas such as healthcare where
people are very vulnerable?
It is important to determine the basic assumptions
underlying the expected solution and the need for data
and confidential information; to consider whether
it will be possible to serve all customer groups alike;
decide on the business model to develop; and decide
67
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
who to partner with. A classic example, which is still
happening, is the under-representation of certain skin
tones for visual recognition of people of colour; most
of the current video sensors still have more difficulty
capturing edges on dark skin than on fair skin. In
this sense, we must be aware that there is at least one
dimension of diversity that is underrepresented,
although we are working to solve it with good prospects
for the future.
Also, when we talk about data, in addition to
the data themselves, we need to label them, which
will allow us to distinguish between data sets that
represent a healthy patient and data sets representing
an unhealthy patient. To obtain these data sets, we
frequently go to one of the big online providers who
perform an auction among people who are willing
to label them and, within the capitalist context, tries
to sell them as cheaply as possible. Just like that,
most of the data labelling is performed effectively in
economically poor regions by inadequately repre­
sented and vulnerable groups.
In this situation, can you do this and say you’re
ethical? And if you don’t do this, how would it affect
your income flow since costs would increase?
And finally, are you ready to submit your idea,
product, business model and equipment to public
scrutiny? The health sector has the advantage, at least
from the patient viewpoint as it is strongly regulated.
Public scrutiny is a necessity because otherwise the
approval of the US Food and Drug Administration
and similar European or national institutions would
not be obtained. Even so, how many large companies
of artificial intelligence and machine learning openly
show their principles to the public and are willing to
fully accept public scrutiny?
In conclusion, as stated in the aforementioned
report, we have a real opportunity to gain time and
efficiency with this technology, but it should be
implemented safely and reliably. Users, physicians
and providers must be together in this journey of
transformation. It is partly an obligation and partly an
invitation.
Soft robotics for intuitive human robot
interaction
Dr. Jamie Paik
Director of Reconfigurable Robotics Laboratory at École Polytechnique Fédérale de Lausanne,
Lausanne, Switzerland

C
urrently we are experiencing a paradigm
shift in robotic design. New generation robots
won’t just be in factories or companies, they
are going to live with us and interact in our daily lives.
The development of the robotic industry required an
optimization of mechanical performance. Today these
robots perform a fully programmed and predictable
task and, in many cases, are faster, more precise and
stronger than their human counterparts.
Robotic engineers and specialists are now working
to optimize robot interaction features in order to
bring them closer to our everyday lives where the
environment is extremely variable and unpredictable,
so their adaptability and safety requires development.

Dr. Jamie Paik

Is an anthropomorphic robot the answer?
I have been analysing this issue over the last twenty
years. I have studied various types of anthropomorphic
robots and researched in depth how humans react
and move. Reproducing the human body is a very
challenging task. We currently consider four key
aspects in the anthropomorphic robot design to
perform a specific task: type of structure and structural
compliance, precision, degrees of freedom and force
exertion.
But, generally, we have two types of robots.
Soft robots that maximize precision and compliance;
they can perform tasks such as lifting glass without
breaking it, or needle threading. Rigid robots maximize
the strength and the degrees of freedom, and are more
prepared to carry out tasks requiring strength such as
lifting heavy loads up to 264 kg.
«Robots have a structure that reacts
to the environment and performs
a precise task, with a specific force
and in a certain direction. The ideal
robot is one that maximizes these
four aspects.»

69
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
Reconfigurable robots
At this point, we considered whether it would
be possible to design a robot that can, and have
flexibility to develop various tasks. This robot could
not have a single shape or develop a single task,
and this is how we developed origami robots. To do
this, we used  materials such as silicone, rubber and
sponge-like materials, which are the materials that
new generation robots are made of, which allow the
design to meet the four aforementioned features for an
ideal design.  The materials deform when receiving a
stimulus, but they subsequently return to their original
shape.
The composition of these robots is modular,
with multiple layers in a sandwich shape that can be
assembled or disassembled depending on the task
or the environment, so they can change form and
become a walking robot or a surface that balances
a ball on its top. In addition, each of the layers
is equipped with intelligent sensors that interact
with both the  environment and the people. More
specifically, the modular structure allows the robot to
adapt to the  human body in a flexible way. You can
carry it around your body and when required, the
robot may become autonomous. In addition, this
modular structure allows it to be customized, and
the  manufacturing is much cheaper, since even the
logo is reconfigurable.
What is an origami robot?
An origami robot is not a robot that makes origami,
but a robot whose structure is based on origami, which
allows it to adapt to every situation.
Since each individual’s body and face are different,
as is the way each person moves, the robot adapts to
each person in particular by controlling the individual
folds of its origami structure. task and to interact with each
An example of the implementation of this fully
reconfigurable interface is in facial paralysis, in
which  the movement of one side of the face does
not match the other side. Although it may seem
futuristic,  this type of device can be adapted to the
person’s facial muscles, so he/she can recover his/her
smile and expressions.
The manufacturing process is similar to the
current mass production system, using a conveyor
belt where multiple components are incorporated
and assembled to build the final product. The various
materials are taken, and depending on the shape of
the device, the outer layer and the rest of the layers
are cut and assembled in a sandwich shape. Various
components, such as the microprocessor and sensors,
are incorporated into each layer.
This way, an origami robot can be built
depending on its application. For example, the
origami robots can fall from the sky and then the
multi-agents can communicate among them to
find a missing person or various devices when the
GPS does not work and the tracking is done in
darkness. During the process, devices may be lost
or damaged, but this would not have much impact
since there are hundreds of them. In the traditional
robot, depending on the tasks it performs,
engineers have to design various communication
modes or different types of motion, and if any
additional new function is required, they have to
start all over again.
«The origami robot has a
sandwich structure with
multiple layers and each one
has sensors, which allows it to
adapt to a specific purpose or
specific body.»
· Soft robotics for intuitive human robot interaction | Dr. Jamie Paik
«What makes the difference is
that these structures can fold
and create a three-dimensional
(3D) robot from a 2D system,
something that had never
been done before and that can
now be achieved with origami
platforms.»
With an origami platform, you detect and
design the new application, and if it is noticed
that an additional sensor is needed, you can
simply update your system design. The next thing
you need (mechanics, geometry, materials) is to
manufacture 3D components containing the new
application. You add the new parameter to the
Reconfigurable Robogami Surgical Tool
Handle
2D/3D mode
SOFT/STIFF mode
Extra DoF mode
sequence of the manufacturing process and it
completes the design, including it repetitively, so
that you can change functions and manufacture
the robot on the same day, which is revolutionary.
Applications of the origami robot in health
Next-generation surgery is among the applications we
are currently working on. This means that a very small
hole (in the stomach or to make a biopsy in various
types of cancer) can be made with these robots. At
present, robots are already performing this type of
procedures; the best known is the Da Vinci robot.
Basically, the surgeon stays behind the console and
has a pre-adjusted robot making incisions. Using an
origami platform, if necessary, a new instrument can
be added simply by reconfiguring the shape.
For the “robogami” to operate, as shown in the
image, we have three different sections: origami
section 1, the rotating section and origami section 2,
Origami Rotating Origami
section 1 joint section 2
(bending (bending
joint) joint)
71
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
which allow the radius of curvature to be changed.
When  changing the radius of curvature, you can
have a single tool that develops multiple tasks, so
that surgeons no longer have to waste time changing
instruments, and the overall costs of surgical
procedures are reduced. We also have “foldable
haptic joysticks”, which are very small robots with
three degrees of freedom at the tip of the fingers that
allow you to feel the object, as in virtual reality. In the
environment of virtual reality there may be several
objects, and if you are using virtual reality goggles,
you don’t know what you are really touching, you just
see it. If a blue ball, a black ball and a red ball are
shown, you can differentiate them by colour, but with
the joystick you can also differentiate them by their
texture or stiffness, so what you see matches what you
feel; it is a tangible reality. And that is not all: this
origami module-based platform varies depending on
how you design each module. If you have a different
material (in this case we are using silicone rubber)
and you apply different air pressures and different
degrees of freedom, it may simulate the functioning
of muscle groups that inflate if more blood is pumped.
If we want to create a muscle system with individual
microprocessors in this case, each module has three
degrees of freedom, which means that it moves in
three directions in space, and we can assemble four of
these modules like a Lego® block and make it operate
as traditional robots do.
What is impressive about these systems is that,
depending on how many degrees of freedom are
defined, the origami robots can be modified to perform
other functions. For example, tomorrow you need the
robot to pick up a more distant object or you want it to
be stronger or to have an additional bending radius; this
is something you cannot usually do with the traditional
robots. However, with the origami robot you can
because each block is like a piece of Lego that allows
®
you to add more actions.
Regarding “modularity”, you can use these modules
to cover different parts of the body. In patients with
Alzheimer disease or who are recovering from a
stroke, we can place these modules on the top of their
fingers, so the patient’s fingers are forced to move
and the way they grab the spoon or cut with a knife
is improved. The advantage is that a very mild action is
used without using hard or custom-framed materials.
We can go even further and have larger actuators,
which can withstand even tens of kilograms of weight.
In this case, we don’t develop it for rehabilitation or for
paralyzed patients, but for patients with chronic back
pain or for construction workers who have to lift heavy
weights for too long or to drill holes or use hammers in
an awkward position, which will eventually affect their
back. These devices are a preventive measure for these
workers and help to improve their working conditions.
Another application of this technology is for
mechanical feedback in virtual work. In a situation where
you are working with a virtual environment to climb a
mountain, these systems would allow you to change the
user´s (your) rigidity and make you feel as if you were
carrying a heavy weight or that weight was pushed by
someone else. You would feel that someone is touching
you or you are moving different objects. In addition,
the interesting thing is to combine static feedback with
virtual reality goggles; then, an additional sense can be
added – a smaller sense like texture – allowing you to
experience a completely different way of communicating.
The device can help the user to maintain balance. Thus,
if somebody needs someone else to assist him/her or it
is winter and he/she has to walk on snow, this device
will give him/her immediate assistance (e.g. if he/she is
about to fall), but when the device is not needed, it will
be passive. These devices also help with gait recovery if
you have been without activity for a long time due to a
leg break or, if you are a completely healthy person, it can
help you to correct form and posture in sports training,
and to correct your swing in golf or tennis, for example.
· Soft robotics for intuitive human robot interaction | Dr. Jamie Paik
Another level of performance is when the robot
acts as a mesh of sensations on your skin, such as a
robotic Braille. Instead of reading Braille only with
your fingertips, we can imagine that this Braille is
on any part of your body. They are pads with tactile
pixels that vibrate at different frequencies and different
levels of strength, allowing them to generate a huge
and very rich sensation. The pads have an inflatable
bubble embedded in soft and flexible sensors.
The sensor measures the inflation of the bubble. The
more inflated the bubble is, the greater the force of
interaction on  the skin a nd the better you can feel
any disturbance, whether it is strong or subtle, as if
someone was touching your skin; the great advantage
is that everything is integrated into a single device.How many of us read the manual before
In this way, you can have pads on the forearm and using the mobile phone or tablet?
understand the information without requiring vision;
even better, it can tell the user if a specific item is a red
apple, or a green book or a pencil, with only tactile
sensory information. In the future, this will mean that
you won’t have to read or listen to mobile or phone
messages, since you will be able to feel them. In my
opinion, this is how we will communicate in the future
and how doctors will be able to interact with their
patients.
«In conclusion, the tasks that
we can develop using these
“soft robots” interfaces are
much more varied than we had
ever imagined. We will be able
to interact very smoothly and
intuitively and without reading
manuals to control them.»
The intuitive robotic systems will allow a better
execution of portable communication devices and
medical robots in a collaborative robotic system. In my
laboratory we are starting to work with the European
Space Agency, so our robots are not just an idea for the
future, since we are working to send them to the space
station and, because it is not very spacious, not many
robots can be sent; thus, sending a single robot that
can perform multiple tasks is more convenient.
73
Potential of artificial intelligence/deep
learning methods to improve cancer care
Dr. Kara L. Davis
Pediatric Cancer and Blood Diseases Stanford Child Health Research Institute. Bass Center for Childhood
Cancer and Blood Disorders, Stanford University, Stanford, USA

I
n this cycle of lectures, we have found several
really exciting and challenging aspects on the
­
use of deep learning in various areas of our so-
ciety. This presentation describes the experience of the
application of artificial intelligence in the care of chil-
dren with leukaemia.
A hundred years ago, infant leukaemia was a
universally fatal disease, as stated by a report from
a US physician, which described the course of the
disease in these patients who succumbed to it within a
few months. But in the last fifty to sixty years, amazing
advances have been made in the care of children
with leukaemia and, in fact, it has almost become a
clear example of the importance of multidisciplinary
collaboration for cancer treatment. The progress
has been such that in the 1960s only around 20%
Dr. Kara L. Davis
of patients survived leukaemia and nowadays we
are curing more than 90% of the children with this
condition. However, the real problem of this disease
is the patient’s relapse because when the disease How do we clinically address relapse and
reappears after the initial treatment, it is very difficult its prediction when a patient comes to
to treat. the hospital?
These are studies of the 1980s and early 2000, and in When a patient arrives at the hospital it is important
a clinical trial in which Dr. Kara L. Davis participated to be able to inform his/her family of what the child’s
last year, genetic engineering of T cells was used in chances are. To do this, different types of information
patients who failed the initial treatment. The outcomes must be collected. The first information corresponds to
of all these studies show that more than half of those clinical data based on NCI Rome criteria determined
whose treatment failed die as a result of this disease. at the time of diagnosis according to the characteristics

75
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
of the patient upon hospital admission. The second
type of information analysed are general genetic
changes, and chromosomal changes in particular, the
results of which take between one and two weeks from
the date of the patient’s hospitalization.
Finally, the patient´s response to the initial
treatment is reviewed, one or two months after
starting  treatment. All this information constitutes
what it is called final risk assessment on the basis of
which the most appropriate treatment decisions will
be made for these patients. However, there are two
main limitations in this approach.
The first limitation is that there is some delay in
getting to know the risk, so I don’t know what the total
risk of my patients will be until a couple of months
after their hospitalization; the second limitation is
that it is not an informative prediction, so I know that
the patient has a high risk of relapse, but I don’t really
know which cells are not responding or what makes
them unresponsive as to be able to intelligently adapt
treatment.
This has been the goal of our studies. We try to
find clinically relevant cell populations within a single
tumour to be able to act as soon as possible. For
example, the current course of action in the diagnosis
of a patient with cancer is giving him/her a treatment
and evaluating its minimal residual disease or the
response to therapy in the course of the following
weeks, and then wait for its evolution. Today it is
«The paradigm of leukaemia
relapse is that cells that
cause relapse are already present
at the onset of the disease, but
hidden, and we should try to find
them in the early stages.»
known that in seven to ten years, 80% of patients will
be cured and 20% will relapse.
The questions we ask ourselves nowadays are, at
the  time of diagnosis when the patient is admitted
to the hospital for the first time, can I predict who
will relapse and who will not? Is it really possible
to  determine which cells are causing relapse and
how to treat the patient more effectively?
To answer these questions, we designed a study
with a cohort of sixty patients with leukaemia from
the time they were diagnosed and a control group
with healthy bone marrow, and we conducted a
high dimension isolated cells approach in which we
determined proteins of single cells in these patients.
To do this, we analysed the various types of proteins
in each of the cells extracted from the patients using
mass cytometry. The first problem we encountered in
this study of individual cells in cancer was the great
heterogeneity of tumour cells and the difficulty in
analysing them. Then, the objective was to organize
them into blocks and try to obtain a model.
How can I turn this conglomerate of
information into a learning model?
For this purpose, we applied the same approach, first
to healthy bone marrow B cells and analysed in detail
what their maturation process was. We assessed the
main components of normal cell populations and
how leukaemia cells are located in this phenotyping
space, confirming that both cancer and healthy B
cells overlapped. Starting from there, we developed a
single-cell developmental classifier, and in each of the
stages of healthy B cells we analysed the expression
of 11 main proteins. We also conducted this type of
analysis in patients with leukaemia by extracting a
total of around 600,000 cells from each patient and we
determined, based on the expression of these markers,
which populations were more similar to the healthy
population.
· Potential of artificial intelligence/deep learning methods to improve cancer care | Dr. Kara L. Davis

Finally, we organized our data normalizing them risk of having a relapse or not according to our model,
according to the normal development of B cells and we obtained a clear distinction between the patients
we could see that, compared to healthy cells, B cells who actually had relapsed and those who did not.
from patients with leukaemia expanded across the
pro-B to pre-B transition. We also analysed other cell How does the implementation of
features, such as the prognosis genetics, and we saw artificial intelligence/deep learning work
that there was not a great difference on how these cells in predicting the risk of relapse when
fell into this developmental classification according compared to what we usually do when a
to genetics. We also noted that the differences seen patient comes to the office?
in developmental classification was not enough to NCI Rome criteria have been used for decades to
predict relapse. predict the risk of relapse and we saw that when
At this point we used machine learning. We DDPR was added to these criteria, the distinction
had data from different parameters measured in between patients with a high or low risk of relapse
600,000  cells from each of the sixty patients. To do compared with the use of NCI Rome criteria alone
this, we extracted the characteristics of such data was improved. We reached the same conclusion when
(phenotypic proteins, basal signaling and induced we looked at the minimal residual disease to assess
signaling) at the time of diagnosis and entered them the remission rate for leukaemia after treatment had
in a machine learning algorithm. We divided our begun, confirming that the DDPR model statistically
cohort into two groups: a training group with 80% of significantly improves the prediction.
the samples and a test group with 20% of the samples.
We took it to the model performing a ten-fold cross- What does really happen at relapse?
validation, and obtained the selection of cellular Once the signaling features that can predict a future
features that could accurately predict a future relapse, relapse are identified, we wondered what could really
naming this model the developmentally dependent happen in the relapse. To this end we obtained a
predictor of relapse (DDPR). sample from each patient at the time of diagnosis and
The DDPR model identified six signaling features a matched sample at the time of relapse, and classified
present at the time of diagnosis that could predict a them as patients who do not relapse (diagnosis and
future relapse; these features were basically confined relapse sample) and patients who relapse (diagnosis
into two cells in particular (pre-B and pro-B cells), and time of relapse samples).
which were one after the other in the development When analysing prediction features, we saw that
process. The conclusion from these findings is that they were significantly increased at the time of relapse
patients who are going to relapse have high levels of and were already present, although without significant
signaling to start with and cannot continue activating increase, at the time of the diagnosis, which means
this signaling when we are trying to disturb such that in relapsing patients these prediction features had
activating signaling. We saw that we had excellent not substantially changed. Delving into biology we
predictive power based on the area under the curves in confirmed that a signaling within the same network
both the training and the validation groups. When we was occurring. Three of the proteins we identified were
checked the Kaplan-Meier curve, which assessed the signaling proteins that increased between the times

77
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
of diagnosis and relapse in some patients. We used
a different meter for measuring the strength of the
relationship among these three molecules and noted
that the strength of interaction becomes stronger in the
relapse, the population becomes more homogeneous
and the connection among these molecules is closer.
In this model of acute lymphoblastic leukaemia, some
cells are intended for survival, so when the patient
comes to the clinic for the first time, among the billions
of cells there are some that are responsible for relapse.
Perhaps all other measures of risk stratification we use
can be indicators of these features.
How do we think that the implementation
of the model will help in clinical practice?
We have mentioned the limitations of the measures
that we currently use for risk stratification at the
beginning of this presentation. The first is the delay (in
months) in assigning a risk, whereas we can determine
the risk within a week from the time the patient
arrives at the hospital using this model. In addition,
this model allows an informative prediction. We know
that someone is at risk of relapse and we can intensify
treatment or perform a bone marrow transplant.
«We have identified the cells
responsible for relapse and the
proteins involved, so now we
can target the treatment to any
molecule that acts as an inhibitor
of this signaling process.»
Some T cells can be synthesized by genetic
engineering that can attach to the surface of the cells
responsible for relapse and use the immune system to
eradicate them.
How does artificial intelligence/deep
learning work in the treatment of cancer?
In our case, the precision to identify patients at
risk of relapse and the possibility to approach them
clinically stood out. Using these types of techniques
can delve into biology and we can ask ourselves,
what do these cells have that makes them resistant?
Why did they survive chemotherapy? We can then
try to integrate all this knowledge with other types of
information. Sequencing, for example, is something
that is being done in lymphoblastic leukaemia in
order to acquire additional information and to be
able to better understand the biology of these cells
and how they relate to each other.
Clinically, it is important to consider how we
integrate this technique in hospitals so that any child
who is admitted in any hospital can have this test done
and his/her doctor can inform them of the results. We
must find a way to target these cells so we can learn
more about them, and to understand how they work
and what their weaknesses are in order to attack them
better; hopefully then, no child will relapse.
This is the approach we have used for this
particular disease, but it can be extended to many other
diseases. Specifically, in our Lab we are applying these
techniques to other types of leukaemia and to solid
tumours. The main objective is to manage the  most
important aspects of the disease to ensure the healing
of the patient.
discussion
Moderator:
Erika Pastrana

Round table:
Prof. José Hernández-Orallo, Dr. Tarek R. Besold,
Dr. Jamie Paik and Dr. Kara L. Davis

Artificial intelligence in biomedicine

79
Discussion
The specialist in artificial intelli-
gence, Prof. José Hernández-Orallo,
has affirmed that one of the limita-
tions of current deep neural networks
is that many times we do not unders-
tand how they reach certain conclu-
sions. Dr. Kara L. Davis has also
pointed out some really interesting
examples of how implementing these
algorithms can bring new informa-
tion to the traditional methods. To
start the debate, the first question to
ask to all the members of the panel
discussion is: If we consider these
limitations and many times the lack
of knowledge on how algorithms
reach those conclusions, how can
they be applied in biology? Are there
limitations in the way we ask new
questions in clinical medicine?
Dr. Davis: I think it is an excellent
question. I can give you an example.
While we were working on this
issue, a post-graduate student  who
was doing work on machine
lear­ning implemented many diffe-
rent  tools and employed many
different types of machine learning
models to get results. I told her that
I could not understand something
that has a hundred different featu-
res. I need something that can give
me a limited set of features that
are interpretable for me as a physi-
cian and a biologist. I think that is
something to consider. There may
be hundreds of informative featu-
res, and many different applica-
tions with different tools, but we
must think about focusing on the
data and the tools that can take us
to the answer we’re looking for. As
with most things, I can go fishing
and find many different answers
that may be supported by data,
but in our case we are looking for
clinically meaningful and inter-
pretable information. Therefore, I
am very grateful to have been able
to reach an answer from the data
we have handled in our research,
and I must add that the results are
consistent with those published by
other researchers. The features we
find make sense; however, it is a
problem when you are aware that
the data are in a black box and we
do get results, but do not know
how to interpret what happens.
This is a limitation in biology and
in the implementation in medicine
where transparent and interpreta-
ble methods are required.
Prof. Hernández-Orallo: I think
that’s basically the main idea: t­ here
is no solution for all problems.
Different problems require diffe-
rent tools, and deep learning is not
the solution to all problems. Even
with the same technique, different
results may be reached. But with ten
features or by adding more featu-
res and increasing the number of
data, more understandable models
may be obtained. However, there
is something we tend to forget,
which is that for many applications
there are many tests, but when we
ask why it has been classified as A
81
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
or B, even humans do not know
how to explain how this classifi-
cation was done. We have tools
that can interact with that person,
ask questions, and thanks to these
questions find explanations. There
are many ways of knowing what’s
inside the black box, but the main
one consists of turning the black
box into understandable rules.
Dr. Besol: In my opinion, there
are at least two dimensions in
the question. One has to do with the
­philosophy of science: What kind
of knowledge is currently being
produced? It is not a mechani-
cal knowledge, but presumably
it may be added to the current
human knowledge. There are many
sciences based on elementary
principles, particularly empirical
sciences that measure an effect and
try to predict the path to this effect.
And perhaps we are at one end
of the path, at a point where the
answer is somewhere and someone
may discover it eventually; but
meanwhile, this knowledge is good
enough to consider it valid and
to use it. However, there is a very
profound social questioning that
says that everything that is proven
is more scientific, but currently
states that it can be based on one of
these decision mechanisms. Which
patient is more likely to relapse and
which patient has a better chance
of being healthy for a longer time?
Given the limited resources, presu-
mably, the information will deter-
mine this difficult decision about
which patient can be treated; thus
those who have less chance of
survival may be at a disadvan-
tage. The question that we have to
ask society is not only regarding
treatments against cancer, but
also for organ transplantation or
for any decision between life and
death. Society will be happy if we
say that before implementing these
methods, mortality associated with
poor decisions was 10% and from
the time we implemented these
methods, it has come down to
2%. However, before implemen-
ting these methods we could ask
the physician why he/she recom-
mended an action that turned out
to be wrong. In the 2% scenario
we will have to tell people that we
don’t know why they are included
among the unfortunate individuals.
But there is an 8%, compared with
the previous situation, which is not
on the bad side. This is the current
debate: it’s about the effect, it’s
about being included or not. If you
ask a physician, why did you do
that? This is a post-rationalisation
analysis. He/she will do the best to
his/her knowledge and this can be
extended or not to machines.
I would like to ask your
opinion taking into account the
experience in Boston hospitals
where extensive data files were
used for each  patient. In this
experience, each physician had a
complete history for each patient,
but the collection of such a huge
amount of data proved to be
counterproductive since physi-
cians were not able to handle
that much information and they
stopped giving patient informa-
tion. In practice, do you believe
that the best way to help physi-
cians is by providing them with
such a large amount of data? Do
you think that it is positive to
gather so much information and,
in that case, would we have to
replace those physicians who do
not agree?
Dr. Davis: I hope we do not replace
physicians, although I totally
agree with that observation. In
most health systems that integrate
electronic medical records, there is
an enormous amount of data availa-
ble on each patient and I must say
that it tends to be poorly organised.
It is difficult to access, difficult  to
interpret, and thus, it is difficult
to give an answer to the patient.
Sometimes, so much information is
not the best option, although other
times it plays an important role, as

we have discussed today, and some
aspects may be developed to make
the system more intelligent and
able to “digest” data in such a way
that they can be added without the
physician entering them through
hundreds and hundreds of reports
and hundreds and hundreds of test
results. It should be done in such
a way that it allows the physician
to quickly and easily access and
retrieve the information he/she
needs without having to go back
and read all the patients’ reports,
which is something that would
take him/her forever.
I have worked in this area for
thirty-three years, I am a Doctor
of Medicine and Professor of
Artificial Intelligence. I’ve worked
with people who have been in this
area for fifty years, and what I have
heard here today regarding the
knowledge of limitations in this
field is something I’ve been liste-
ning to over the last few years. I
don’t know if people really know
the limitations of the people who
worked in this area in  the 1980s
to 1990s, particularly  in  the field
of medicine, which is different
from other areas. Medical data
are full of knowledge, and are
often useless, uninterpretable and
uncertain. Taking into account all
these problems and limitations, I
don’t know if artificial intelligence
will become a standstill process
once more.
Prof. Hernández-Orallo: Some of
the issues we currently contem-
plate have already been seen in
the past and, in this field there are
many bright young people who
think they are going to save the
world. All scientific areas have
their ups and downs and not only
technology, but also the context,
make something go faster or
slower. The development that has
occurred over the past five years is
not sustainable. I do not think that
the advances in computing applied
to artificial intelligence in recent
years will be maintained.
Dr. Besold: In recent years, techno-
logy has spread much more than
previously. The first driverless cars
appeared in the 1980s; they are
not an invention of the year 2012.
Medical expert systems have been
used since the 1980s and are now
in our environment. This shows the
limitations in their implementation
and incorporation into the market.
Most of the advances in techno-
logy of the 1980s and 1990s are
currently applied in deep learning.
What has really changed is that we
now have new advances in compu-
ting and memory.
One of the things we are
currently doing is going back to the
Discussion
1980s and reinvesting in techniques
that were never implemented. We
are talking about making commu-
nication networks interpretable
or applying methods to retrieve
decision trees from networks. I
think that nowadays we can conti-
nue in this progress and we have
tools to make it easier.
I want to make a small contri-
bution to the discussion on
deep networks as black boxes.
Deep learning is a part of artifi-
cial intelligence learning. One
of  the methods is the analysis of
the main components and the
decision tree. These methods
allow us to observe the most
rele­
vant features, and even in
deep networks there are investi-
gations that allow us to go back
and see what features are the most
important and have methods that
allow us to find these variables.
Dr. Besold: These are the sort of
things we are doing within the
explainable artificial intelligence.
These methods are still in their
early stages. Sometimes, if we try
to make deep networks exploita-
ble, they don’t work as well, and
surely a support vector machine
is a major component. All these
options are there, but many great
applications are currently unused.
83
ARTIFICIAL INTELLIGENCE IN BIOMEDICINE
One of the main problems, even
with these methods, is that they can
show what the factors were that in-
fluenced some classification or au-
tomation result, but a causal history
is not obtained and people usually
ask for an explanation that allows
them to understand such a connec-
tion, and to know how to reach it.
Dr. Paik, I was wondering if you
could give us a little more informa-
tion about the application of the
origami robot in surgery. Is it really
capable of replicating a biopsy? If
it knows how to puncture a tissue,
how would it do it and how would
it extract the tissue sample from
the body?
Dr. Paik: Such tools have already
been used in surgery. The novelty
of this tool, compared to the
others, is that the surgeon can
hold it directly in his/her hands
without  having to manage a
control  system separately, which
would prevent her/him from
having real haptic feedback. The
origami robot allows you to have
direct contact with tissues. The
main reason for its use is its size;
when performing biopsies and
suturing, the size of the diame-
ter of the puncture or suture is
smaller. This is because it has
controllable joints. The more
joints it has, the greater the degree
of freedom; having multiple
controllable joints means having
multiple motors, and other types
of tools require many wires. In our
case, by selectively modifying the
stiffness of the individual joints,
we can control the degrees of
freedom without having to embed
motors directly on a device that is
extremely small.
INTELIGENCIA ARTIFICIAL
APLICADA A LA BIOMEDICINA
Lo que nos depara el futuro
El campo de la inteligencia artificial, llamado deep learning o machine ­learning, ha
evolucionado de forma exponencial en los últimos años y está revolucionando el campo
de la ­ Biomedicina. La disponibilidad de cantidades enormes de información médica
(big data), en particular imágenes, y el desarrollo de algoritmos para extraer patrones
de información y tomar decisiones “inteligentes” a partir de los datos, están haciendo
avanzar de forma muy rápida el diagnóstico y la estratificación de pacientes. Estudios
recientes han demostrado la utilidad de aplicar inteligencia artificial para el diagnóstico
de enfermedades como el cáncer, las enfermedades cardiovasculares y las retinopatías.
En estos casos, los algoritmos han aportado resultados tan buenos o incluso mejores
que los estándares establecidos por expertos. En este sentido, la agencia reguladora
del medicamento americana (Food and Drug Administration, FDA) ha aprobado el uso
de la inteligencia artificial en varios campos de la Medicina y es de esperar que estas
técnicas tengan un efecto significativo en  la práctica de la Medicina en el siglo xxi.
En esta 11.ª edición del ciclo de conferencias y debates en ciencias se cubren aspectos
básicos de la inteligencia artificial y su aplicación a la Biomedicina. También se discute el
futuro potencial de esta técnica en el campo clínico y los aspectos socioeconómicos que esta
revolución tecnológica puede tener en la sociedad actual y futura.

ARTIFICIAL INTELLIGENCE
IN BIOMEDICINE
What the future holds for us
The field of artificial intelligence, called “deep learning” or “machine learning”, has evolved
exponentially in recent years and is revolutionizing the Biomedicine field. The availability
of  huge amounts of medical information (“big data”), in particular images, and the
development of algorithms to extract information patterns and make intelligent decisions
from data are rapidly advancing the diagnosis and stratification of patients. Recent studies
have demonstrated the usefulness of a­ rtificial intelligence for the diagnosis of diseases such
as cancer, cardiovascular disease and retinopathies. In these cases, the algorithms have
yielded results as good or even better than the standards set by experts. The US Food and
Drug Administration (FDA) has approved the use of artificial intelligence in several Medicine
fields; the hope is that these techniques will have a significant effect on the practice of
Medicine in the 21st century. The 11th edition of these conferences and debates describes
basic concepts in artificial  ­intelligence and  its application to Biomedicine, as well as
discussing its potential for the future of Medi­cine and the socio-economic consequences
that this technological revolution may have in ­current and future society.