Machine Translated by Google

A pesar de los desafíos prácticos, tenemos la esperanza REVISIÓN

de que las discusiones informadas entre los responsables de
la formulación de políticas y el público sobre los datos y las
capacidades del aprendizaje automático conduzcan a diseños
perspicaces de programas y políticas que puedan equilibrar
Aprendizaje automático:
los objetivos de proteger la privacidad y garantizar la equidad
con los de cosechar. los beneficios para la investigación tendencias, perspectivas y perspectivas
científica y para la salud individual y pública. Nuestros
compromisos con la privacidad y la equidad son perennes, MI Jordan1 * y TM Mitchell2 *
pero nuestras opciones de política deben adaptarse para
promoverlos y respaldar nuevas técnicas para profundizar nuestro conocimiento.
El aprendizaje automático aborda la cuestión de cómo construir computadoras que mejoren automáticamente a
través de la experiencia. Es uno de los campos técnicos de más rápido crecimiento en la actualidad, que se encuentra en
REFERENCIAS Y NOTAS
la intersección de la informática y la estadística, y en el núcleo de la inteligencia artificial y la ciencia de datos. El progreso
1. M. De Choudhury, S. Counts, E. Horvitz, A. Hoff, en Proceedings of
International Conference on Weblogs and Social Media [Asociación para reciente en el aprendizaje automático ha sido impulsado tanto por el desarrollo de nuevos algoritmos y teorías de
el Avance de la Inteligencia Artificial (AAAI), Palo Alto, CA, 2014]. aprendizaje como por la explosión en curso en la disponibilidad de datos en línea y computación de bajo costo. La adopción
de métodos de aprendizaje automático con uso intensivo de datos se puede encontrar en la ciencia, la tecnología y el
2. JS Brownstein, CC Freifeld, LC Madoff, N. Engl. J.Med. 360, 2153–2155
comercio, lo que lleva a una toma de decisiones más basada en evidencia en muchos ámbitos de la vida, incluida la
(2009).
3. G. Eysenbach, J. Med. Resolución de Internet 11, e11 (2009). atención médica, la fabricación, la educación, el modelado financiero, la vigilancia y el marketing. .
4. DA Broniatowski, MJ Paul, M. Dredze, PLOS UNO 8, e83672
(2013).
5. A. Sadilek, H. Kautz, V. Silenzio, en Actas de la Vigésima Sexta
El aprendizaje automático es una disciplina centrada ance a la hora de ejecutar alguna tarea, a través de algún tipo
Conferencia AAAI sobre Inteligencia Artificial (AAAI, Palo Alto,
CA, 2012).
en dos cuestiones interrelacionadas: ¿Cómo se de experiencia formativa. Por ejemplo, al aprender a detectar
6. M. De Choudhury, S. Counts, E. Horvitz, en Proceedings of the SIGCHI METRO pueden construir sistemas informáticos que mejoren el fraude con tarjetas de crédito, la tarea es asignar una
Conference on Human Factors in Computing Systems (Association automáticamente a través de la experiencia? y etiqueta de "fraude" o "no fraude" a cualquier transacción de
for Computing Machinery, Nueva York, 2013), págs. 3267–3276. ¿Cuáles son las estadísticas fundamentales? tarjeta de crédito determinada. La métrica de desempeño a
leyes teóricas de la información computacional que gobiernan mejorar podría ser la precisión de este clasificador de fraude,
7. RW White, R. Harpaz, NH Shah, W. DuMouchel, E. Horvitz, Clin. Farmacol.
El r. 96, 239–246 (2014). todos los sistemas de aprendizaje, incluidas las computadoras, y la experiencia de capacitación podría consistir en una
8. Radar Samaritanos; www.samaritans.org/how-we-can-help-you/supporting- los humanos y las organizaciones? El estudio del aprendizaje colección de transacciones históricas de tarjetas de crédito,
someone-online/samaritans-radar. automático es importante tanto para abordar estas cuestiones cada una etiquetada en retrospectiva como fraudulenta o no.
9. Apague el radar de samaritanos; http://bit.ly/Samaritans-after.
científicas y de ingeniería fundamentales como para el software Alternativamente, se podría definir una métrica de desempeño
10. Comisión de Igualdad de Oportunidades en el Empleo (EEOC) de EE.
informático altamente práctico que ha producido y aplicado en diferente que asigne una sanción más alta cuando "fraude" se
UU., 29 Código de Regulaciones Federales (CFR), 1630.2 (g) (2013).
11. EEOC, 29 CFR 1635.3 (c) (2013). muchas aplicaciones. etiqueta como "no fraude" que cuando "no fraude" se etiqueta
12. MA Rothstein, J. Ley Med. Ética 36, 837–840 (2008). incorrectamente como "fraude".
13. Oficina Ejecutiva del Presidente, Big Data: Aprovechando El aprendizaje automático ha progresado dramáticamente También se podría definir un tipo diferente de experiencia de
Oportunidades, Preservando Valores (Casa Blanca, Washington, DC,
en las últimas dos décadas, desde la curiosidad de laboratorio capacitación, por ejemplo, al incluir transacciones con tarjetas
2014); http://1.usa.gov/1TSOhiG.
14. Carta de Maneesha Mithal, FTC, a Reed Freeman, Morrison, & Foerster hasta una tecnología práctica de uso comercial generalizado. de crédito no etiquetadas junto con ejemplos etiquetados.
LLP, Abogado de Netflix, 2 [carta de cierre] (2010); http://1.usa.gov/ Dentro de la inteligencia artificial (IA), el aprendizaje automático
1GCFyXR. se ha convertido en el método elegido para desarrollar software Se ha desarrollado una amplia gama de algoritmos de
15. In re Facebook, Denuncia, FTC File No. 092 3184 (2012).
práctico para visión por computadora, reconocimiento de voz, aprendizaje automático para cubrir la amplia variedad de datos
science.sciencema
Descargado
enero
http://
2019
de
28
de
el 16. Informe del personal de la FTC, Divulgaciones de privacidad móvil: generar confianza
a través de la transparencia (FTC, Washington, DC, 2013); http://1.usa.gov/1eNz8zr.
17. FTC, Protección de la privacidad del consumidor en una era de cambios
rápidos: recomendaciones para empresas y legisladores (FTC,
Washington, DC, 2012).
procesamiento de lenguaje natural, control de robots y otras
aplicaciones. Muchos desarrolladores de sistemas de IA ahora
reconocen que, para muchas aplicaciones, puede ser mucho
más fácil entrenar un sistema mostrándole ejemplos del
y tipos de problemas que se presentan en los diferentes
problemas de aprendizaje automático (1, 2). Conceptualmente,
los algoritmos de aprendizaje automático pueden verse como
una búsqueda a través de un gran espacio de programas
18. Directiva 95/46/ec del Parlamento Europeo y del Consejo de Europa,
24 de octubre de 1995.
comportamiento de entrada-salida deseado que programarlo candidatos, guiados por la experiencia de capacitación, para
19. L. Sweeney, Los anuncios en línea tiran los dados [blog]; http://1.usa.gov/ manualmente anticipando la respuesta deseada para todas las encontrar un programa que optimice la métrica de rendimiento.
1KgEcYg. entradas posibles. El efecto del aprendizaje automático Los algoritmos de aprendizaje automático varían mucho, en
20. FTC, “Big data: ¿Una herramienta para la inclusión o la exclusión?” (taller,
también se ha sentido ampliamente en las ciencias de la parte por la forma en que representan programas candidatos
FTC, Washington, DC, 2014); http://1.usa.gov/1SR65cv 21. FTC, Agentes
de datos: un llamado a la transparencia y la responsabilidad (FTC, Washington,
computación y en una variedad de industrias relacionadas con (por ejemplo, árboles de decisión, funciones matemáticas y
DC, 2014); http://1.usa.gov/1GCFoj5. problemas de uso intensivo de datos, como los servicios al lenguajes de programación en general) y en parte por la forma
22. J. Podesta, “Big data y privacidad: 1 año fuera” [blog]; http://bit. ly/ consumidor, el diagnóstico de fallas en sistemas complejos y en que buscan a través de este espacio de programas (por
WHsePrivacy.
el control de cadenas logísticas. Ha habido una amplia gama ejemplo, , algoritmos de optimización con garantías de
23. Consejo de Asesores Económicos, Big Data y Precios Diferenciales de la
similar de efectos en las ciencias empíricas, desde la biología convergencia bien entendidas y métodos de búsqueda
Casa Blanca (Casa Blanca, Washington, DC, 2015).
24. Oficina Ejecutiva del Presidente, Big Data y Procesamiento Diferencial hasta la cosmología y las ciencias sociales, a medida que se evolutiva que evalúan generaciones sucesivas de programas
(Casa Blanca, Washington, DC, 2015); http://1.usa.gov/1eNy7qR. han desarrollado métodos de aprendizaje automático para mutados aleatoriamente). Aquí, nos enfocamos en enfoques
25. Oficina Ejecutiva del Presidente, Big Data: Aprovechando analizar datos experimentales de alto rendimiento de formas que han sido particularmente exitosos hasta la fecha.
Oportunidades, Preservando Valores (Casa Blanca, Washington, DC,
novedosas. Consulte la Fig. 1 para ver una descripción de
2014); http://1.usa.gov/1TSOhiG.
26. Consejo de Asesores del Presidente sobre Ciencia y Tecnología algunas áreas recientes de aplicación del aprendizaje Muchos algoritmos se centran en problemas de
(PCAST), Big Data and Privacy: A Technological Perspective (Casa automático. aproximación de funciones, donde la tarea se materializa en
Blanca, Washington, DC, 2014); http://1.usa.gov/1C5ewNv. una función (por ejemplo, dada una transacción de entrada,
27. Comisión Europea, Propuesta de Reglamento del Parlamento Europeo y
del Consejo relativo a la protección de las personas en lo que respecta al
Un problema de aprendizaje puede definirse como el se emite una etiqueta de "fraude" o "no fraude"), y el problema

tratamiento de datos personales y a la libre circulación de dichos datos
(Reglamento general de protección de datos), COM(2012) 11 definitiva
(2012); http://bit.ly/1Lu5POv.
28. M. Schrems contra Facebook Ireland Limited, §J. datos ilegítimos
transmisión a EE. UU. (“PRISM”), ¶166 y 167 (2013); www.europe-v-
facebook.org/sk/sk_en.pdf.
problema de mejorar alguna medida del desempeño de aprendizaje es mejorar la precisión de esa función, con
experiencia que consiste en una muestra de pares de entrada-
1
Departamento de Ingeniería Eléctrica y Ciencias de la Computación, Departamento salida conocidos de la función. En algunos casos, la función
de Estadística, Universidad de California, Berkeley, CA, EE. UU.
se representa explícitamente como una forma funcional
2
Departamento de aprendizaje automático, Carnegie
parametrizada; en otros casos, la función es implícita y se
Universidad de Mellon, Pittsburgh, Pensilvania, Estados Unidos.

*Autor correspondiente. Correo electrónico: jordan@cs.berkeley.edu (MIJ);

obtiene a través de un proceso de búsqueda, una factorización,
10.1126/ciencia.aac4520 tom.mitchell@cs.cmu.edu (TMM) una optimización

CIENCIA cienciamag.org 17 DE JULIO DE 2015 • VOL 349 NÚMERO 6245 255

Machine Translated by Google
INTELIGENCIA ARTIFICIAL

procedimiento, o un procedimiento basado en simulación.

Incluso cuando está implícita, la función generalmente
depende de parámetros u otros grados de libertad
ajustables, y el entrenamiento corresponde a encontrar
valores para estos parámetros que optimicen la métrica de
rendimiento.
Cualquiera que sea el algoritmo de aprendizaje, un
objetivo científico y práctico clave es caracterizar
teóricamente las capacidades de algoritmos de aprendizaje
específicos y la dificultad inherente de cualquier problema
de aprendizaje dado: ¿Con qué precisión puede aprender
el algoritmo de un tipo y volumen particular de datos de
entrenamiento? ¿Qué tan robusto es el algoritmo a errores
en sus supuestos de modelado oa errores en los datos de
entrenamiento? Dado un problema de aprendizaje con un
volumen dado de datos de entrenamiento, ¿es posible
diseñar un algoritmo exitoso o este problema de aprendizaje
es fundamentalmente intratable? Tales caracterizaciones
Caracteres Sintaxis teóricas de los algoritmos y problemas de aprendizaje
Visual Movimiento automático suelen hacer uso de los marcos familiares de la
Semántica teoría de la decisión estadística y la teoría de la complejidad
Diálogo
computacional. De hecho, los intentos de caracterizar los
algoritmos de aprendizaje automático teóricamente han
llevado a combinaciones de teoría estadística y
computacional en las que el objetivo es caracterizar
simultáneamente la complejidad de la muestra (cuántos
datos se requieren para aprender con precisión) y la
complejidad computacional (cuántos se requiere
computación) y especificar cómo estos dependen de las
características del algoritmo de aprendizaje, como la
representación que utiliza para lo que aprende (3–6). Una
forma específica de análisis computacional que ha resultado
particularmente útil en los últimos años ha sido la de la
lata de leche 1.00 teoría de la optimización, con límites superior e inferior en
persona 0.92 antílope 0.68 lata de leche 1.00
las tasas de convergencia de los procedimientos de
optimización que se fusionan bien con la formulación de
problemas de aprendizaje automático como la optimización

science.sciencema
Descargado
enero
http://
2019
de
28
de
el gafas de sol 0.52
de un rendimiento. métrica (7, 8).

Como campo de estudio, el aprendizaje automático se

encuentra en la encrucijada de la informática, la estadística
y una variedad de otras disciplinas relacionadas con la
mejora automática a lo largo del tiempo, y la inferencia y la
toma de decisiones en condiciones de incertidumbre. Las
disciplinas relacionadas incluyen el estudio psicológico del
aprendizaje humano, el estudio de la evolución, la teoría
del control adaptativo, el estudio de las prácticas educativas,
naranja 0.73 pájaro 0,69 la neurociencia, el comportamiento organizacional y la economía.
pájaro 0.95 Aunque la última década ha visto un aumento de la
isópodo 0,55
conversación cruzada con estos otros campos, apenas
pájaro 0.78 estamos comenzando a aprovechar las sinergias potenciales
y la diversidad de formalismos y métodos experimentales

limón 0.86 estrella de mar 0.67 utilizados en estos múltiples campos para estudiar sistemas
que mejoran con la experiencia.

Impulsores del progreso del aprendizaje automático

La última década ha visto un rápido crecimiento en la

capacidad de los sistemas informáticos móviles y en red
para recopilar y transportar grandes cantidades de datos,
un fenómeno que a menudo se denomina "Big Data". Los
científicos e ingenieros que recopilan dichos datos a
Fig. 1. Aplicaciones del aprendizaje automático. El aprendizaje automático está teniendo un efecto sustancial en menudo han recurrido al aprendizaje automático.
muchas áreas de la tecnología y la ciencia; ejemplos de historias de éxito aplicadas recientes incluyen robótica y Buscando soluciones al problema de obtener conocimientos,
control de vehículos autónomos (arriba a la izquierda), procesamiento del habla y procesamiento del lenguaje natural predicciones y decisiones útiles a partir de tales conjuntos
(arriba a la derecha), investigación en neurociencia (centro) y aplicaciones en visión por computadora (abajo). [El de datos. De hecho, el gran tamaño de los datos hace que
panel central está adaptado de (29). Las imágenes en el panel inferior son de la base de datos de ImageNet; la sea esencial desarrollar procedimientos escalables que
AKINBOSTANCI
CRÉDITO:
ISTOCK/

anotación de reconocimiento de objetos es de R. Girshick.] mezclen computacional y estadístico.

256 17 DE JULIO DE 2015 • VOL 349 NÚMERO 6245 cienciamag.org CIENCIA

Machine Translated by Google

consideraciones, pero el problema va más allá del mero
tamaño de los conjuntos de datos modernos; es la
naturaleza granular y personalizada de gran parte de estos
datos. Los dispositivos móviles y la computación integrada
permiten recopilar grandes cantidades de datos sobre
seres humanos individuales, y los algoritmos de aprendizaje los métodos de aprendizaje supervisado (1). Los sistemas
automático pueden aprender de estos datos para personalizarlos.
de aprendizaje supervisado, incluidos los clasificadores de
sus servicios a las necesidades y circunstancias
de cada individuo. Además, estos servicios personalizados
se pueden conectar, de modo que surge un servicio global
que aprovecha la riqueza y diversidad de datos de muchas
personas sin dejar de adaptarse a las necesidades y
circunstancias de cada uno. Se pueden encontrar instancias
de esta tendencia hacia la captura y extracción de grandes
cantidades de datos para mejorar los servicios y la
productividad en muchos campos del comercio, la ciencia
y el gobierno. Los registros médicos históricos se utilizan
para descubrir qué pacientes responderán mejor a qué
tratamientos; los datos de tráfico históricos se utilizan para
mejorar el control del tráfico y reducir la congestión; los
datos históricos de delitos se utilizan para ayudar a ubicar
a la policía local en lugares específicos en momentos
específicos; y se capturan y seleccionan grandes conjuntos
de datos experimentales para acelerar el progreso en
biología, astronomía, neurociencia y otras ciencias
empíricas intensivas en datos. Parece que estamos al
comienzo de una tendencia de décadas hacia la toma de
decisiones cada vez más intensiva en datos y basada en
evidencia en muchos aspectos de la ciencia, el comercio y
el gobierno.
Con la creciente importancia de los datos a gran escala
en todas las áreas del esfuerzo humano, ha surgido una
ola de nuevas demandas sobre los algoritmos de
aprendizaje automático subyacentes. Por ejemplo, grandes
conjuntos de datos requieren algoritmos computacionalmente
manejables, los datos altamente personales plantean la
trabajar en algoritmos de aprendizaje automático, teoría y
práctica.
Métodos básicos y avances recientes
Los métodos de aprendizaje automático más utilizados son
spam de correo electrónico, los reconocedores de rostros
sobre imágenes y los sistemas de diagnóstico médico para
pacientes, ejemplifican el problema de aproximación de
funciones discutido anteriormente, donde los datos de
entrenamiento toman la forma de una colección de (x, y)
pares y el objetivo es producir una predicción y* en
respuesta a una consulta x*. Las entradas x pueden ser
vectores clásicos o pueden ser objetos más complejos
como documentos, imágenes, secuencias de ADN o
gráficos. De manera similar, se han estudiado muchos tipos diferentes
Se ha avanzado mucho centrándose en el problema de
clasificación binaria simple en el que y toma uno de dos
valores (por ejemplo, "correo basura" o "no correo basura"),
pero también ha habido abundante investigación sobre
problemas como la clasificación multiclase. (donde y toma
una de las K etiquetas), clasificación multietiqueta (donde
y es etiquetada simultáneamente por varias de las K
etiquetas), problemas de clasificación (donde y proporciona
un orden parcial en algún conjunto) y problemas generales
de predicción estructurada (donde y es un objeto
combinatorio como un gráfico, cuyos componentes pueden
ser necesarios para satisfacer algún conjunto de
restricciones). Un ejemplo del último problema es el
etiquetado de parte del discurso, donde el objetivo es
etiquetar simultáneamente cada palabra en una oración de
entrada x como un sustantivo, verbo o alguna otra parte
del discurso. El aprendizaje supervisado también incluye
casos en los que y tiene componentes de valor real o una
mezcla de componentes discretos y de valor real.
árboles de decisión, bosques de decisión, regresión
logística, máquinas de vectores de soporte, redes
neuronales, máquinas kernel y clasificadores bayesianos
(1). Se ha propuesto una variedad de algoritmos de
aprendizaje para estimar estos diferentes tipos de mapeos,
y también existen procedimientos genéricos como boosting
y aprendizaje de múltiples núcleos que combinan los
resultados de múltiples algoritmos de aprendizaje.
Los procedimientos para aprender f de los datos a menudo
hacen uso de ideas de la teoría de la optimización o del
análisis numérico, con la forma específica de problemas
de aprendizaje automático (p. ej., que la función objetivo o
la función que se va a integrar es a menudo la suma de un
gran número de términos). impulsando innovaciones. Esta
diversidad de arquitecturas y algoritmos de aprendizaje
refleja las diversas necesidades de las aplicaciones, con
diferentes
arquitecturas
de salida y. que capturan diferentes tipos de
estructuras matemáticas, ofrecen diferentes niveles de
adaptabilidad a la visualización y explicación post-hoc, y
brindan diversas compensaciones entre la complejidad
computacional, la cantidad de datos y rendimiento.
Un área de progreso de alto impacto en el aprendizaje
supervisado en los últimos años involucra las redes
profundas, que son redes multicapa de unidades de umbral,
cada una de las cuales calcula alguna función parametrizada
simple de sus entradas (9, 10). Los sistemas de aprendizaje
profundo utilizan algoritmos de optimización basados en
gradientes para ajustar los parámetros a lo largo de una
red multicapa de este tipo en función de los errores en su
salida. Aprovechando las modernas arquitecturas de
cómputo en paralelo, como las unidades de procesamiento
de gráficos desarrolladas originalmente para videojuegos,
ha sido posible construir sistemas de aprendizaje profundo
que contienen miles de millones de parámetros y que
pueden entrenarse en las grandes colecciones de
imágenes, videos y voz. muestras disponibles en Internet.

science.sciencema
Descargado
enero
http://
2019
de
28
de
el necesidad de algoritmos que minimicen los efectos de
privacidad, y la disponibilidad de grandes cantidades de
datos sin etiquetar plantea el desafío de diseñar algoritmos
de aprendizaje para aprovecharlos. Las siguientes
Los sistemas de aprendizaje supervisado generalmente
forman sus predicciones a través de un mapeo aprendido
f(x), que produce una salida y para cada entrada x (o una
distribución de probabilidad sobre y dada x). Existen
Estos sistemas de aprendizaje profundo a gran escala han
tenido un efecto importante en los últimos años en la visión
por computadora (11) y el reconocimiento de voz (12),
donde han producido mejoras importantes en el rendimiento
secciones examinan algunos de los efectos de estas demandas muchas
en los últimos
formas diferentes de mapeo f, incluyendo con respecto a los enfoques anteriores.

Imagen de entrada Extracción de características convolucionales RNN con atención sobre la imagen Generación palabra
por palabra

pájaro

volador
LSTM sobre

un cuerpo
de
mapa de características de 14 x 14
agua

A pájaro volador sobre a cuerpo de agua .

Fig. 2. Generación automática de leyendas de texto para imágenes con redes profundas. Se entrena una red neuronal convolucional para interpretar imágenes, y su
salida luego es utilizada por una red neuronal recurrente entrenada para generar una leyenda de texto (arriba). La secuencia en la parte inferior muestra el enfoque
palabra por palabra de la red en diferentes partes de la imagen de entrada mientras genera el título palabra por palabra. [Adaptado con permiso de (30)] CRÉDITO:
ISTOCK/
CORR

CIENCIA cienciamag.org 17 DE JULIO DE 2015 • VOL 349 NÚMERO 6245 257

Machine Translated by Google
INTELIGENCIA ARTIFICIAL

Temas Documentos

gen 0,04
adn 0,02 Proporciones
genético 0,01 temáticas y asignaciones
.,,
genes organismo genes
¿sobrevivir?

vida 0,02 vida. genético

0,01 computadora números
0,01
evolucionar organismo genomas
organismos
.,,
genoma secuenciado
genes computacional

cerebro 0,04
neurona 0,02
nervio 0,01
.,,
predicciones

0,02 Análisis informático

0,02
0,01 de datos
computador numero
.,,

Figura 3. Modelos temáticos. El modelado de temas es una metodología para analizar documentos, donde un documento se ve como una colección de palabras, y
las palabras en el documento se ven como generadas por un conjunto subyacente de temas (indicados por los colores en la figura). Los temas son distribuciones de
probabilidad entre palabras (columna más a la izquierda), y cada documento se caracteriza por una distribución de probabilidad entre temas (histograma). Estas
distribuciones se infieren en función del análisis de una colección de documentos y se pueden ver para clasificar, indexar y resumir el contenido de los documentos. [De (31).
Copyright 2012, Association for Computing Machinery, Inc. Reimpreso con permiso]

(ver Fig. 2). Los métodos de redes profundas se están buscando
activamente en una variedad de aplicaciones adicionales, desde
la traducción del lenguaje natural hasta el filtrado colaborativo.
Se puede considerar que las capas internas de las redes
profundas proporcionan representaciones aprendidas de los
se desarrollan ritmos para optimizar el criterio.
Como otro ejemplo, el agrupamiento es el problema de encontrar
una partición de los datos observados (y una regla para predecir
datos futuros) en ausencia de etiquetas explícitas que indiquen
una partición deseada.
Se ha desarrollado una amplia gama de procedimientos de
La energía está entrenada para elegir acciones para cualquier
estado dado, con el objetivo de maximizar su recompensa
esperada con el tiempo. Los vínculos con la investigación en el control
la teoría y la investigación operativa han aumentado a lo largo
de los años, con formulaciones como los procesos de decisión
de Markov y los procesos de decisión de Markov parcialmente

science.sciencema
Descargado
enero
http://
2019
de
28
de
el datos de entrada. Si bien gran parte del éxito práctico en el
aprendizaje profundo proviene de los métodos de aprendizaje
supervisado para descubrir tales representaciones, también se
han hecho esfuerzos para desarrollar algoritmos de aprendizaje
profundo que descubren representaciones útiles de la entrada
sin necesidad de etiquetar los datos de entrenamiento (13). . El
problema general se conoce como aprendizaje no supervisado,
un segundo paradigma en la investigación del aprendizaje
automático (2).
En términos generales, el aprendizaje no supervisado
generalmente implica el análisis de datos no etiquetados bajo
suposiciones sobre las propiedades estructurales de los datos
(por ejemplo, algebraicas, combinatorias o probabilísticas). Por
ejemplo, se puede suponer que los datos se encuentran en una
variedad de baja dimensión y apuntar a identificar esa variedad
explícitamente a partir de los datos. Los métodos de reducción
de dimensiones, incluidos el análisis de componentes principales,
el aprendizaje múltiple, el análisis factorial, las proyecciones
aleatorias y los codificadores automáticos (1, 2), hacen
suposiciones específicas diferentes con respecto a la variedad
subyacente (por ejemplo, que es un subespacio lineal, un
subespacio suave). variedad no lineal, o una colección de
subvariedades). Otro ejemplo de reducción de dimensiones es
el marco de modelado de temas que se muestra en la figura 3.
Se define una función de criterio que incorpora
estos supuestos, a menudo haciendo uso de principios
estadísticos generales como la máxima verosimilitud, el método
de los momentos o la integración bayesiana, y algoritmos de
AKINBOSTANCI
CRÉDITO:
ISTOCK/
agrupamiento, todos basados en supuestos específicos
relacionados con la naturaleza de un “conglomerado”. Tanto en
el agrupamiento como en la reducción de dimensiones, la
preocupación por la complejidad computacional es primordial,
dado que el objetivo es explotar los conjuntos de datos
particularmente grandes que están disponibles si se prescinde
de las etiquetas supervisadas.
Un tercer paradigma importante de aprendizaje automático
es el aprendizaje por refuerzo (14, 15). Aquí, la información
disponible en los datos de entrenamiento es intermedia entre el
aprendizaje supervisado y no supervisado. En lugar de ejemplos
de entrenamiento que indiquen la salida correcta para una
entrada dada, se supone que los datos de entrenamiento en el
aprendizaje por refuerzo proporcionan solo una indicación de si
una acción es correcta o no; si una acción es incorrecta, queda
el problema de encontrar la acción correcta. Más generalmente,
en el establecimiento de secuencias de entradas, se supone
que las señales de recompensa se refieren a la secuencia
completa; la asignación de crédito o culpa a las acciones
individuales en la secuencia no se proporciona directamente. De
hecho, aunque se estudian versiones simplificadas del
aprendizaje por refuerzo conocidas como problemas de
bandidos, en las que se supone que se proporcionan
recompensas después de cada acción, los problemas de
aprendizaje por refuerzo suelen implicar un entorno teórico de
control general en el que la tarea de aprendizaje es aprender
una estrategia de control. (una "política") para un agente que
actúa en un entorno dinámico desconocido, donde esa estrategia
aprendida
observados que proporcionan puntos de contacto (15, 16). Los
algoritmos de aprendizaje por refuerzo generalmente hacen uso
de ideas que son familiares de la literatura de la teoría del
control, como la iteración de políticas, la iteración de valores, los
lanzamientos y la reducción de la varianza, con innovaciones
que surgen para abordar las necesidades específicas del
aprendizaje automático (por ejemplo, problemas a gran escala). ,
pocas suposiciones sobre el entorno dinámico desconocido y el
uso de arquitecturas de aprendizaje supervisado para representar
políticas). También vale la pena señalar los fuertes vínculos
entre el aprendizaje por refuerzo y muchas décadas de trabajo
sobre el aprendizaje en psicología y neurociencia, un ejemplo
notable es el uso de algoritmos de aprendizaje por refuerzo para
predecir la respuesta de las neuronas dopaminérgicas en monos
que aprenden a asociar un estímulo de luz. con posterior
recompensa de azúcar (17).
Aunque estos tres paradigmas de aprendizaje ayudan a
organizar ideas, gran parte de la investigación actual implica
combinaciones entre estas categorías. Por ejemplo, el
aprendizaje semisupervisado utiliza datos no etiquetados para
aumentar los datos etiquetados en un contexto de aprendizaje
supervisado, y el entrenamiento discriminativo combina
arquitecturas desarrolladas para el aprendizaje no supervisado
con formulaciones de optimización que utilizan etiquetas. La
selección de modelos es la actividad amplia de usar datos de
entrenamiento no solo para ajustar un modelo sino también para
seleccionar de una familia de modelos, y el hecho de que los

optimización o muestreo. datos de entrenamiento no indican directamente

258 17 DE JULIO DE 2015 • VOL 349 NÚMERO 6245 cienciamag.org CIENCIA

Machine Translated by Google
qué modelo usar conduce al uso de algoritmos desarrollados
para problemas de bandidos y a procedimientos de
optimización bayesianos. El aprendizaje activo surge
cuando al alumno se le permite elegir puntos de datos y
consultar al entrenador para solicitar información específica,
como la etiqueta de un ejemplo no etiquetado de otro modo.
El modelado causal es el esfuerzo por ir más allá del simple
descubrimiento de relaciones predictivas entre variables,
para distinguir qué variables influyen causalmente en otras
(p. ej., un recuento alto de glóbulos blancos puede predecir
la existencia de una infección, pero es la infección la que
causa el alto número de glóbulos blancos). recuento de
glóbulos blancos). Muchos problemas influyen en el diseño
de los algoritmos de aprendizaje en todos estos paradigmas,
incluido si los datos están disponibles en lotes o si llegan
secuencialmente a lo largo del tiempo, cómo se han
muestreado los datos, los requisitos de que los usuarios
puedan interpretar los modelos aprendidos y los problemas
de solidez que surgen cuando los datos. no se ajustan a las
suposiciones de modelos anteriores.
Tendencias emergentes
El campo del aprendizaje automático es lo suficientemente
joven como para expandirse rápidamente, a menudo
mediante la invención de nuevas formalizaciones de
problemas de aprendizaje automático impulsadas por
aplicaciones prácticas. (Un ejemplo es el desarrollo de
sistemas de recomendación, como se describe en la Fig.
4). Una tendencia importante que impulsa esta expansión
es una creciente preocupación por el entorno en el que
opera un algoritmo de aprendizaje automático. La palabra
"entorno" aquí se refiere en parte a la arquitectura
informática; Mientras que un sistema de aprendizaje
automático clásico implicaba un solo programa que se
ejecutaba en una sola máquina, ahora es común que los
sistemas de aprendizaje automático se implementen en
arquitecturas que incluyen muchos miles o decenas de miles
science.sciencema
Descargado
enero
http://
2019
de
28
de
el de procesadores, de modo que las limitaciones de
comunicación y las cuestiones de paralelismo y
procesamiento distribuido ocupan un lugar central. De
hecho, como se muestra en la figura 5, los sistemas de
aprendizaje automático adoptan cada vez más la forma de
colecciones complejas de software que se ejecutan en
plataformas informáticas paralelas y distribuidas a gran
escala y proporcionan una variedad de algoritmos y servicios a los analistas de datos.
La palabra "entorno" también se refiere a la fuente de los
datos, que va desde un conjunto de personas que pueden
tener preocupaciones sobre la privacidad o la propiedad,
hasta el analista o la persona que toma las decisiones, que
puede tener ciertos requisitos en un sistema de aprendizaje
automático (por ejemplo, ejemplo, que su salida sea
visualizable), y al marco social, legal o político que rodea el
despliegue de un sistema.
El entorno también puede incluir otros sistemas de
aprendizaje automático u otros agentes, y la colección
general de sistemas puede ser cooperativa o adversaria.
En términos generales, los entornos proporcionan varios
recursos a un algoritmo de aprendizaje y imponen
restricciones a esos recursos. Cada vez más, los
investigadores de aprendizaje automático están formalizando
estas relaciones, con el objetivo de diseñar algoritmos que
sean demostrablemente efectivos en varios entornos y
permitan explícitamente a los usuarios expresar y controlar
las compensaciones entre los recursos.
Como ejemplo de limitaciones de recursos, supongamos
que los datos son proporcionados por un conjunto de
personas que desean conservar un grado de privilegiado.
CIENCIA cienciamag.org
vacío La privacidad se puede formalizar a través de la
noción de "privacidad diferencial", que define un canal
probabilístico entre los datos y el mundo exterior, de modo
que un observador de la salida del canal no puede inferir de
forma fiable si determinados individuos han proporcionado
datos o no (18). . Las aplicaciones clásicas de la privacidad
diferencial implican asegurar que las consultas (p. ej., "¿cuál
es el saldo máximo en un conjunto de cuentas?") a una
base de datos privatizada arrojan una respuesta cercana a
la que arrojan los datos no privados.
Investigaciones recientes han puesto en contacto la
privacidad diferencial con el aprendizaje automático, donde
las consultas implican predicciones u otras afirmaciones
inferenciales (p. ej., "dados los datos que he visto hasta
ahora, ¿cuál es la probabilidad de que una nueva transacción
sea fraudulenta?") (19, 20). Situar el diseño general de un
sistema de aprendizaje automático que mejora la privacidad
dentro de un marco teórico de decisiones proporciona a los
usuarios una perilla de ajuste mediante la cual pueden elegir
el nivel deseado de privacidad que tiene en cuenta los tipos
de preguntas que se le harán a los datos y su propia utilidad
personal para las respuestas. Por ejemplo, una persona
puede estar dispuesta a
Fig. 4. Sistemas de recomendación. Un sistema de
recomendación es un sistema de aprendizaje automático
que se basa en datos que indican vínculos entre un
conjunto de usuarios (p. ej., personas) y un conjunto de
elementos (p. ej., productos). Un enlace entre un usuario
y un producto significa que el usuario ha mostrado interés en A pesar de sus éxitos prácticos y comerciales, el aprendizaje
el producto de alguna manera (quizás comprando ese
artículo en el pasado). El problema del aprendizaje
automático es sugerir otros artículos a un usuario
determinado que también le pueden interesar, según los
datos de todos los usuarios.
revelan la mayor parte de su genoma en el contexto de la
investigación de una enfermedad que corre en su familia,
pero pueden solicitar una protección más estricta si la
información sobre su genoma se utiliza para establecer las
tarifas del seguro.
La comunicación es otro recurso que necesita
ser administrado dentro del contexto general de un sistema
de aprendizaje distribuido. Por ejemplo, los datos pueden
estar distribuidos en distintas ubicaciones físicas porque su
tamaño no les permite
agregarse en un solo sitio o debido a los límites
administrativos. En tal entorno, es posible que deseemos
imponer una restricción de comunicación de tasa de bits en
el algoritmo de aprendizaje automático. Resolver el problema
de diseño bajo tal restricción generalmente mostrará cómo
se degrada el rendimiento del sistema de aprendizaje con
la disminución del ancho de banda de comunicación, pero
también puede revelar cómo mejora el rendimiento a medida
que aumenta el número de sitios distribuidos (p. ej.,
máquinas o procesadores). aumenta, compensando estas
cantidades con la cantidad de datos (21, 22). Al igual que
en la teoría clásica de la información, esta línea de
investigación tiene como objetivo los límites inferiores
fundamentales del rendimiento alcanzable y los algoritmos
específicos que logran esos límites inferiores.
Un objetivo principal de esta línea general de investigación
es poner en contacto los tipos de recursos estadísticos
estudiados en el aprendizaje automático (por ejemplo, la
cantidad de puntos de datos, la dimensión de un parámetro
y la complejidad de una clase de hipótesis) con los recursos
computacionales clásicos del tiempo. y espacio Tal puente
está presente en el marco de aprendizaje "probablemente
aproximadamente correcto" (PAC), que estudia el efecto de
agregar una restricción de cálculo de tiempo polinomial en
esta relación entre las tasas de error, el tamaño de los datos
de entrenamiento y otros parámetros del algoritmo de
aprendizaje ( 3). Los avances recientes en esta línea de
investigación incluyen varios límites inferiores que establecen
brechas fundamentales en el rendimiento alcanzable en
ciertos problemas de aprendizaje automático (p. ej.,
regresión dispersa y análisis de componentes principales
dispersas) a través de algoritmos de tiempo polinomial y
tiempo exponencial (23). El núcleo del problema, sin
embargo, involucra compensaciones de datos de tiempo
que están lejos del límite polinomial/exponencial. Los
grandes conjuntos de datos que son cada vez más la norma
requieren algoritmos cuyos requisitos de tiempo y espacio
sean lineales o sublineales en el tamaño del problema
(número de puntos de datos o número de dimensiones). Las
investigaciones recientes se centran en métodos como el
submuestreo, las proyecciones aleatorias y el debilitamiento
de algoritmos para lograr escalabilidad manteniendo el
control estadístico (24, 25).
El objetivo final es poder proporcionar presupuestos de
tiempo y espacio a los sistemas de aprendizaje automático
además de los requisitos de precisión, con el sistema
encontrando un punto operativo que permita cumplir dichos
requisitos.
Oportunidades y desafíos
automático sigue siendo un campo joven con muchas
oportunidades de investigación poco exploradas.
Algunas de estas oportunidades se pueden ver al contrastar
los enfoques actuales de aprendizaje automático con los
tipos de aprendizaje que observamos en forma natural. CRÉDITO:
ISTOCK/
CORR
17 DE JULIO DE 2015 • VOL 349 NÚMERO 6245 259
Machine Translated by Google
INTELIGENCIA ARTIFICIAL
Genómica del cáncer, depuración energética, edificios inteligentes
muestra limpia G-OLA
BlinkDB
SparkR
transmisión
chispas
de
SparkSQL
Núcleo de chispa
Sucinto
Taquión
mesos
AMPLab desarrollado Comunidad chispa
Fig. 5. Pila de análisis de datos. Los sistemas escalables de aprendizaje automático son arquitecturas en capas
que se crean en plataformas informáticas paralelas y distribuidas. La arquitectura que se muestra aquí, una pila de
análisis de datos de código abierto desarrollada en el Laboratorio de Algoritmos, Máquinas y Personas (AMP) de
la Universidad de California, Berkeley, incluye capas que interactúan con los sistemas operativos subyacentes;
capas que proporcionan almacenamiento distribuido, gestión y procesamiento de datos; y capas que brindan
competencias básicas de aprendizaje automático, como transmisión, submuestreo, canalizaciones, procesamiento
de gráficos y servicio de modelos.
sistemas que ocurren como humanos y otros animales,
organizaciones, economías y evolución biológica. Por
ejemplo, mientras que la mayoría de los algoritmos de
aprendizaje automático están destinados a aprender una
función específica o un modelo de datos de una sola
fuente de datos, los humanos claramente aprenden
muchas habilidades y tipos de conocimiento diferentes, a
partir de años de experiencia de capacitación diversa,
supervisada y no supervisada, de una manera simple.
Secuencia de -a-más-difícil (p. ej., aprender a gatear,
luego a caminar, luego a correr). Esto ha llevado a
science.sciencema
Descargado
enero
http://
2019
de
28
de
el algunos investigadores a comenzar a explorar la cuestión
de cómo construir una computadora con estudiantes
permanentes o interminables que operen sin parar durante
años, aprendiendo miles de habilidades o funciones
interrelacionadas dentro de una arquitectura general que
permita que el sistema mejore su capacidad. aprender
una habilidad basándose en haber aprendido otra (26–
28). Otro aspecto de la analogía con los sistemas de
aprendizaje natural sugiere la idea de un aprendizaje de
iniciativa mixta basado en equipos. Por ejemplo, mientras
que los sistemas de aprendizaje automático actuales
normalmente funcionan de forma aislada para analizar los
datos proporcionados, las personas a menudo trabajan
en equipos para recopilar y analizar datos (por ejemplo,
los biólogos han trabajado en equipos para recopilar y
analizar datos genómicos, reuniendo diversos experimentos
y perspectivas para avanzar en este difícil problema). Los
nuevos métodos de aprendizaje automático capaces de
trabajar en colaboración con humanos para analizar
conjuntamente conjuntos de datos complejos podrían unir
las habilidades de las máquinas para descubrir sutiles
regularidades estadísticas de conjuntos de datos masivos
con las habilidades de los humanos para aprovechar
diversos conocimientos previos para generar explicaciones
plausibles. y sugerir nuevas hipótesis. Muchos resultados
teóricos del aprendizaje automático se aplican a todos los
sistemas de aprendizaje, ya sean algoritmos informáticos,
animales, organizaciones o evolución natural. A medida
que avanza el campo, podemos ver que la teoría y los
algoritmos del aprendizaje automático proporcionan cada
leyes,
vez más modelos para comprender el aprendizaje en los sistemas
260 17 DE JULIO DE 2015 • VOL 349 NÚMERO 6245
Aplicaciones internas
ML Base
Acceso e
interfaces
GráficoX
Chapoteo
MLPiplines velox
MLIib
motor de
procesamiento
HDFS, S3, Ceph, … Almacenamiento
virtualización
Hilo Hadoop
de recursos
Tercera parte
organizaciones y la evolución biológica y ver el aprendizaje
automático beneficiarse de los estudios en curso de estos
otros tipos de sistemas de aprendizaje.
Al igual que con cualquier tecnología poderosa, el
aprendizaje automático plantea preguntas sobre cuáles
de sus usos potenciales la sociedad debería alentar y
desalentar. El impulso de los últimos años para recopilar
nuevos tipos de datos personales, motivado por su valor
económico, conduce a problemas de privacidad obvios,
como se mencionó anteriormente. El creciente valor de
los datos también plantea una segunda cuestión ética: ¿Quién tendrá
acceso y propiedad de los datos en línea, y quién
obtendrá sus beneficios? Actualmente, las corporaciones
recopilan muchos datos para usos específicos que
conducen a mejores ganancias, con poco o ningún motivo
para compartir datos. Sin embargo, los beneficios
potenciales que la sociedad podría obtener, incluso a
partir de los datos en línea existentes, serían considerables
si esos datos estuvieran disponibles para el bien público.
Para ilustrar, considere un ejemplo simple de cómo la
sociedad podría beneficiarse de los datos que ya están
en línea hoy en día mediante el uso de estos datos para
disminuir el riesgo de propagación de una pandemia
global a partir de enfermedades infecciosas. Al combinar
datos de ubicación de fuentes en línea (p. ej., datos de
ubicación de teléfonos celulares, de transacciones con
tarjeta de crédito en tiendas minoristas y de cámaras de
seguridad en lugares públicos y edificios privados) con
datos médicos en línea (p. ej., admisiones a la sala de
emergencias), sería Hoy sería factible implementar un
sistema simple para llamar a las personas de inmediato
si una persona con la que estuvieron en contacto cercano
ayer acaba de ingresar en la sala de emergencias con
una enfermedad infecciosa, alertándolas sobre los
síntomas que deben observar y las precauciones que
deben tomar. Aquí, claramente existe una tensión y una
compensación entre la privacidad personal y la salud
pública, y la sociedad en general debe tomar la decisión
sobre cómo hacer esta compensación. Sin embargo, el
punto más importante de este ejemplo es que, aunque los
datos ya están en línea, actualmente no tenemos las
costumbres, cultura o mecanismos para permitir
neuronales.
la sociedad se beneficie de ellos, si así lo desea.
De hecho, gran parte de estos datos son de propiedad
privada, a pesar de que son datos sobre cada uno de
nosotros. Consideraciones como estas sugieren que es
probable que el aprendizaje automático sea una de las
tecnologías más transformadoras del siglo XXI.
Aunque es imposible predecir el futuro, parece esencial
que la sociedad comience ahora a considerar cómo
maximizar sus beneficios.
REFERENCIAS
1. T. Hastie, R. Tibshirani, J. Friedman, Los elementos del aprendizaje
estadístico: minería de datos, inferencia y predicción (Springer, Nueva
York, 2011).
2. K. Murphy, Machine Learning: A Probabilistic Perspective (MIT Press,
Cambridge, MA, 2012).
3. L. Valiente, Comun. ACM 27, 1134–1142 (1984).
4. V. Chandrasekaran, MI Jordan, Proc. nacional Academia ciencia EE.UU
110, E1181–E1190 (2013).
5. S. Decatur, O. Goldreich, D. Ron, SIAM J. Comput. 29, 854–879
(2000).
6. S. Shalev-Shwartz, O. Shamir, E. Tromer, Using more data to speed up
training time, Proceedings of the Fifteenth Conference on Artificial
Intelligence and Statistics, Islas Canarias, España, 21 al 23 de abril de
2012.
7. S. Boyd, N. Parikh, E. Chu, B. Peleato, J. Eckstein, en
Foundations and Trends in Machine Learning 3 (Now
Publishers, Boston, 2011), págs. 1–122.
8. S. Sra, S. Nowozin, S. Wright, Optimización para el aprendizaje
automático (MIT Press, Cambridge, MA, 2011). 9.
J. Schmidhuber, Neural Netw. 61, 85–117 (2015).
10. Y. Bengio, en Fundamentos y tendencias del aprendizaje automático 2
(Now Publishers, Boston, 2009), págs. 1–127.
11. A. Krizhevsky, I. Sutskever, G. Hinton, Adv. Información neuronal Proceso.
sist. 25, 1097–1105 (2015).
12. G. Hinton et al., IEEE Signal Process. revista 29, 82–97
(2012).
13. GE Hinton, RR Salakhutdinov, Science 313, 504–507
(2006).
14. V. Mnih et al., Nature 518, 529–533 (2015).
15. RS Sutton, AG Barto, Aprendizaje por refuerzo: una
introducción (MIT Press, Cambridge, MA, 1998).
16. E. Yaylali, JS Ivy, MDP parcialmente observables (POMDP):
Introducción y ejemplos. Enciclopedia de Investigación de Operaciones
y Ciencias de la Gestión (John Wiley, Nueva York, 2011).
17. W. Schultz, P. Dayan, PR Montague, Science 275, 1593–1599
(1997).
18. C. Dwork, F. McSherry, K. Nissim, A. Smith, en Proceedings of the Third
Theory of Cryptography Conference, Nueva York, 4 a 7 de marzo de
2006, págs. 265–284.
19. A. Blum, K. Ligett, A. Roth, J. ACM 20, (2013).
20. J. Duchi, MI Jordan, J. Wainwright, J. ACM 61, 1–57
(2014).
21. L.-V. Balcan, A. Blum, S. Fine, Y. Mansour, Aprendizaje distribuido,
complejidad de la comunicación y privacidad. Actas de la 29.ª Conferencia
sobre Teoría del Aprendizaje Computacional, Edimburgo, Reino Unido,
del 26 de junio al 1 de julio de 2012.
22. Y. Zhang, J. Duchi, M. Jordan, M. Wainwright, en Avances en sistemas
de procesamiento de información neuronal 26, L. Bottou, C. Burges, Z.
Ghahramani, M. Welling, Eds. (Curran Associates, Red Hook, NY, 2014),
págs. 1–23.
23. Q. Berthet, P. Rigollet, Ann. Estadística 41, 1780–1815 (2013).
24. A. Kleiner, A. Talwalkar, P. Sarkar, MI Jordan, JR Stat. Soc.,
B 76, 795–816 (2014).
25. M. Mahoney, encontrado. Aprendizaje automático de tendencias. 3, 123–224
(2011).
26. T. Mitchell et al., Actas de la Vigésima Novena Conferencia sobre
Inteligencia Artificial (AAAI-15), 25 al 30 de enero de 2015, Austin, TX.
27. M. Taylor, P. Stone, J. Mach. Aprender. Res. 10, 1633–1685
(2009).
28. S. Thrun, L. Pratt, Aprendiendo a aprender (Kluwer Academic Press,
Boston, 1998).
29. L. Wehbe et al., PLOS ONE 9, e112575 (2014).
30. K. Xu et al., Actas de la 32.ª Conferencia Internacional sobre Aprendizaje
Automático, vol. 37, Lille, Francia, del 6 al 11 de julio de 2015, págs.
2048–2057.
31. D. Blei, Commun. ACM 55, 77–84 (2012).
AKINBOSTANCI
CRÉDITO:
ISTOCK/
10.1126/ciencia.aaa8415
cienciamag.org CIENCIA
Machine Translated by Google

Aprendizaje automático: tendencias, perspectivas y perspectivas

MI Jordan y TM Mitchell

Ciencia 349 (6245), 255-260.

DOI: 10.1126/ciencia.aaa8415

HERRAMIENTAS DE ARTÍCULO
http://science.sciencemag.org/content/349/6245/255

RELACIONADO
CONTENIDO http://science.sciencemag.org/content/sci/349/6245/248.full http://
science.sciencemag.org/content/sci/349/6252/1064.3.full

REFERENCIAS
Este artículo cita 17 artículos, 3 de los cuales puede acceder de forma gratuita
http://science.sciencemag.org/content/349/6245/255#BIBL

PERMISOS

www.science
permissions
reprints-
http://
help/
and-
science.sciencema
Descargado
enero
http://
2019
de
28
de
el

El uso de este artículo está sujeto a los Términos de servicio

Science (ISSN impreso 0036-8075; ISSN en línea 1095-9203) es una publicación de la Asociación Estadounidense para el Avance de la Ciencia, 1200 New
York Avenue NW, Washington, DC 20005. 2017 © Los autores, algunos derechos reservados; Licenciatario exclusivo Asociación Americana para el Avance
de la Ciencia. No se reclaman las obras originales del gobierno de EE. UU. El título Science es una marca registrada de AAAS.