MessageBox.

Show("hola mundo") //Caja de Mensaje

Robótica
Ir a la navegaciónIr a la búsqueda

El sistema de mano robótica Shadow.

La robótica es la rama de la ingeniería mecatrónica, de la ingeniería eléctrica, de la ingeniería

mecánica, de la ingeniería biomédica, y de las ciencias de la computación, que se ocupa
del diseño, construcción, operación, estructura, manufactura, y aplicación de los robots.12
La robótica combina diversas disciplinas como son: la mecánica, la electrónica, la informática,
la inteligencia artificial, la ingeniería de control y la física.3 Otras áreas importantes en robótica
son el álgebra, los autómatas programables, la animatrónica y las máquinas de estados.
El término robot se popularizó con el éxito de la obra R.U.R. (Robots Universales Rossum),
escrita por Karel Čapek en 1920. En la traducción al inglés de dicha obra la palabra
checa robota, que significa trabajos forzados o trabajador, fue traducida al inglés como robot.4

Índice

 1Historia de la robótica
 2Clasificación de los robots
o 2.1Según su cronología
o 2.2Según su estructura
 3Véase también
 4Referencias
 5Enlaces externos

Historia de la robótica[editar]
La robótica va unida a la construcción de "artefactos" que trataban de materializar el deseo
humano de crear seres a su semejanza y que al mismo tiempo lo descargasen de trabajos
tediosos. El ingeniero español Leonardo Torres Quevedo (que construyó el primer mando a
distancia para su automóvil mediante telegrafía, el ajedrecista automático, el
primer transbordador aéreo y otros muchos ingenios), acuñó el término "automática" en
relación con la teoría de la automatización de tareas tradicionalmente asociadas.
Karel Čapek, un escritor checo, acuñó en 1923 el término "robot" en su obra
dramática Rossum's Universal Robots / R.U.R., a partir de la palabra checa robota, que
significa servidumbre o trabajo forzado. El término robótica es acuñado por Isaac Asimov,
definiendo a la ciencia que estudia a los robots. Asimov creó también las tres leyes de la
robótica. En la ciencia ficción el hombre ha imaginado a los robots visitando nuevos mundos,
haciéndose con el poder o, simplemente, aliviando de las labores caseras.

Fecha Importancia Nombre del robot Inventor

Una de las primeras descripciones de autómatas

aparece en el texto Lie Zi, atribuido a Lie
Yukou (ca.350 a. C.), en el que describe el
Siglo
encuentro, ocurrido varios siglos antes, entre
III a.
el rey Mu de Zhou(1023-957 a. C.) y un Yan Shi
C.y
«artífice» conocido como Yan Shi. En este
antes
encuentro Shi presenta al rey una supuesta obra
mecánica: una figura humana de tamaño
natural.

Descripciones de más de 100 máquinas y Ctesibio de

autómatas, incluyendo un artefacto con fuego, Alejandría, Filón
Siglo I
un órgano de viento, una máquina operada de Bizancio,
a. C.y Autómata
mediante una moneda, una máquina de vapor, Herón de
antes
en Pneumática y Autómatade Herón de Alexandria, y
Alejandría. otros

420 a. Un pájaro de madera a vapor que fue capaz de Arquitas de

C. volar. Tarento

Banda de robots,
Primeros autómatas humanoides creados, banda autómata de lavado
1206 Al-Jazari
de autómata programable. de manos, pavos
reales automáticos

c.
Diseño de un robot humanoide. Caballero mecánico Leonardo da Vinci
1495
 Pato mecánico capaz de comer, agitar sus alas y Jacques de
1738 Digesting Duck
excretar. Vaucanson

Juguetes mecánicos japoneses que sirven té,

1800s Juguetes Karakuri Hisashige Tanaka
disparan flechas y pintan.

Aparece el primer autómata de ficción llamado Rossum's Universal

1921 Karel Čapek
"robot", aparece en R.U.R. Robots

Westinghouse
Se exhibe un robot humanoide en la Exposición
1930s Elektro Electric
Universal entre los años 1939 y 1940.
Corporation

La revista Astounding Science Fiction pública

"Círculo Vicioso" (Runaround en inglés). Una SPD-13 (apodado
1942 Isaac Asimov
historia de ciencia ficción donde se da a "Speedy")
conocer las tres leyes de la robótica.

Exhibición de un robot con comportamiento William Grey

1948 Elsie y Elmer
biológico simple.5 Walter

Primer robot comercial, de la compañía

1956 Unimation fundada por George Devol y Joseph Unimate George Devol
Engelberger, basada en una patente de Devol.6

1961 Se instala el primer robot industrial. Unimate George Devol

1963 Primer robot "palletizing."7

El primer robot soviético que aterriza

Mars 3, dentro
1971 exitosamente en la superficie de Marte pero se Unión Soviética
del programa Mars
perdió el contacto pocos segundos después.

KUKA Robot
1973 Primer robot con seis ejes electromecánicos. Famulus
Group
 Brazo manipulador programable universal, un
1975 PUMA Victor Scheinman
producto de Unimation.

1976 Primer robot estadounidense en Marte. Viking I NASA

El robot completo (The Complete Robot en

inglés). Una colección de cuentos de ciencia
Robbie, SPD-13
ficción de Isaac Asimov, escritos entre 1940 y
(Speedy), QT1
1976, previamente publicados en el libro Yo,
(Cutie), DV-5
robot y en otras antologías, volviendo a
(Dave), RB-34
1982 explicar las tres leyes de la robótica con más Isaac Asimov
(Herbie), NS-2
ahínco y complejidad moral. Incluso llega a
(Néstor), NDR
plantear la muerte de un ser humano por la
(Andrew), Daneel
mano de un robot con las tres leyes
Olivaw
programadas, por lo que decide incluir una
cuarta ley "la ley 0 (cero)."

Robot humanoide capaz de desplazarse de Honda Motor Co.

2011 ASIMO
forma bípeda e interactuar con las personas. Ltd

Robot humanoide capaz de reconocer, recordar Hanson Robotics

2015 Sophia
caras y simular expresiones. Co. Ltd

Clasificación de los robots[editar]

Este artículo o sección necesita referencias que aparezcan en una publicación
acreditada.
Este aviso fue puesto el 5 de noviembre de 2015.
Una pierna robótica potenciada por músculos de aire artificiales.

Según su cronología[editar]
La que a continuación se presenta es la clasificación más común:

 1.ª Generación.
Robots manipuladores. Son sistemas mecánicos multifuncionales con un sencillo sistema de
control, bien manual, de secuencia fija o de secuencia variable.

 2.ª Generación.
Robots de aprendizaje. Repiten una secuencia de movimientos que ha sido ejecutada
previamente por un operador humano. El modo de hacerlo es a través de un dispositivo
mecánico. El operador realiza los movimientos requeridos mientras el robot le sigue y los
memoriza.

 3.ª Generación.
Robots con control sensorizado. El controlador es un ordenador que ejecuta las órdenes de un
programa y las envía al manipulador o robot para que realice los movimientos necesarios.
Según su estructura[editar]
La estructura es definida por el tipo de configuración general del robot, puede ser metamórfica.
El concepto de metamorfismo, de reciente aparición, se ha introducido para incrementar la
flexibilidad funcional de un robot a través del cambio de su configuración por el propio robot. El
metamorfismo admite diversos niveles, desde los más elementales (cambio de herramienta o
de efecto terminal), hasta los más complejos como el cambio o alteración de algunos de sus
elementos o subsistemas estructurales. Los dispositivos y mecanismos que pueden agruparse
bajo la denominación genérica del robot, tal como se ha indicado, son muy diversos y es por
tanto difícil establecer una clasificación coherente de los mismos que resista un análisis crítico
y riguroso. La subdivisión de los robots, con base en su arquitectura, se hace en los siguientes
grupos: poliarticulados, móviles, androides, zoomórficos e híbridos.

 1. Poliarticulados8
En este grupo se encuentran los robots de muy diversa forma y configuración, cuya
característica común es la de ser básicamente sedentarios (aunque excepcionalmente pueden
ser guiados para efectuar desplazamientos limitados) y estar estructurados para mover sus
elementos terminales en un determinado espacio de trabajo según uno o más sistemas de
coordenadas, y con un número limitado de grados de libertad. En este grupo se encuentran
los robots manipuladores, los robots industriales y los robots cartesianos, que se emplean
cuando es preciso abarcar una zona de trabajo relativamente amplia o alargada, actuar sobre
objetos con un plano de simetría vertical o reducir el espacio ocupado en el suelo.

 2. Móviles
Son Robots con gran capacidad de desplazamiento, basados en carros o plataformas y
dotados de un sistema locomotor de tipo rodante. Siguen su camino por telemando o
guiándose por la información recibida de su entorno a través de sus sensores. Estos robots
aseguran el transporte de piezas de un punto a otro de una cadena de fabricación. Guiados
mediante pistas materializadas a través de la radiación electromagnética de circuitos
empotrados en el suelo, o a través de bandas detectadas fotoeléctricamente, pueden incluso
llegar a sortear obstáculos y están dotados de un nivel relativamente elevado de inteligencia.

 3. Androides
 Robot androide

Son los tipos de robots que intentan reproducir total o parcialmente la forma y el
comportamiento cinemático del ser humano. Actualmente, los androides son todavía
dispositivos muy poco evolucionados y sin utilidad práctica, y destinados, fundamentalmente,
al estudio y experimentación. Uno de los aspectos más complejos de estos robots, y sobre el
que se centra la mayoría de los trabajos, es el de la locomoción bípeda. En este caso, el
principal problema es controlar dinámica y coordinadamente en el tiempo real el proceso y
mantener simultáneamente el equilibrio del Robot. Vulgarmente se los suele llamar
"marionetas" cuando se les ven los cables que permiten ver cómo realiza sus procesos.

 4. Zoomórficos
Los robots zoomórficos, que considerados en sentido no restrictivo podrían incluir también a
los androides, constituyen una clase caracterizada principalmente por sus sistemas de
locomoción que imitan a los diversos seres vivos. A pesar de la disparidad morfológica de sus
posibles sistemas de locomoción es conveniente agrupar a los Robots zoomórficos en dos
categorías principales: caminadores y no caminadores. El grupo de los robots zoomórficos no
caminadores está muy poco evolucionado. Los experimentos efectuados en Japón basados
en segmentos cilíndricos biselados acoplados axialmente entre sí y dotados de un movimiento
relativo de rotación. Los Robots zoomórficos caminadores multípedos son muy numerosos y
están siendo objeto de experimentos en diversos laboratorios con vistas al desarrollo posterior
de verdaderos vehículos terrenos, pilotados o autónomos, capaces de evolucionar en
superficies muy accidentadas. Las aplicaciones de estos robots serán interesantes en el
campo de la exploración espacial y en el estudio de los volcanes.

 5. Híbridos
Estos robots corresponden a aquellos de difícil clasificación, cuya estructura se sitúa en
combinación con alguna de las anteriores ya expuestas, bien sea por conjunción o por
yuxtaposición. Por ejemplo, un dispositivo segmentado articulado y con ruedas es, al mismo
tiempo, uno de los atributos de los robots móviles y de los robots zoomórficos.

Cerebro artificial
Ir a la navegaciónIr a la búsqueda
Cerebro artificial es un término utilizado habitualmente en los medios de comunicación1 para
describir la investigación que pretende desarrollar software y hardwarecon habilidades
cognitivas similares al cerebro humano o animal.

Índice

 1Detalles
 2Recursos
 3Referencias
 4Véase también
 5Enlaces externos

Detalles[editar]
La investigación de «cerebros artificiales» desempeña tres papeles importantes para la
ciencia:

1. Un intento constante de los neurocientíficos para entender cómo funciona el cerebro

humano.
2. Un experimento mental en la filosofía de la inteligencia artificial(en), demostrando que
es posible, en teoría, crear una máquina que tenga todas las capacidades de un ser
humano.
3. Un proyecto serio a largo plazo para crear máquinas capaces de una acción general
inteligente o Inteligencia General Artificial. Esta idea ha sido popularizada por Ray
Kurzweil2 como IA fuerte (en el sentido de una máquina tan inteligente como un ser
humano).
Un ejemplo del primer objetivo es el proyecto informado por la Universidad de
Aston en Birmingham (Reino Unido)3 donde los investigadores están utilizando células
biológicas para crear «neuroesferas» (pequeños grupos de neuronas) con el fin de desarrollar
nuevos tratamientos para enfermedades como el mal de Alzheimer, la enfermedad de
Parkinson y la enfermedad de neurona motora.
El segundo objetivo es ejemplificado por la máquina de Turing y más recientemente en
el funcionalismo de estados de la máquina de Hilary Putnam.
El tercer objetivo es el que suele llamarse inteligencia general artificial por los investigadores.4
Sin embargo Kurzweil prefiere el término más memorable IA Fuerte. En su libro La
Singularidad está Cerca se centra en la emulación de todo el cerebro usando máquinas de
computación convencionales como forma de implementación de cerebros artificiales, y afirma
(por razón del poder de las computadoras que sigue una tendencia de crecimiento
exponencial) que esto podría pasar en 2025. Henry Markram, director del proyecto Blue
Brain (que pretende la emulación del cerebro), hizo una afirmación similar (2020) en
la conferencia TED de Oxford en 2009.1
A pesar de que la emulación directa del cerebro usando redes neuronales artificiales sobre
una máquina de computación de alto rendimiento es un enfoque común,5 existen otros
enfoques. Una implementación alternativa del cerebro artificial podría basarse en los principios
de coherencia/decoherencia de fase no lineal de la Tecnología Holográfica Neural (HNeT). La
analogía se ha hecho a los procesos cuánticos a través del algoritmo sináptico nuclear que
tiene grandes similitudes con la ecuación de onda QM.
Algunos críticos de la simulación cerebral6 creen que es más sencillo crear directamente una
acción inteligente general sin necesidad de imitar a la naturaleza. Algunos comentaristas7 han
usado la analogía de que en los primeros intentos de construir máquinas voladoras estas
fueron modeladas como las aves, y que sin embargo las aeronaves modernas no lucen como
aves. Un argumento computacional es usado en AI - What is this, donde se muestra que, si
tenemos una definición formal de la IA general, el programa correspondiente se pueden
encontrar mediante la enumeración de todos los programas posibles y luego probar cada uno
de ellos para ver si coincide con la definición. No existe una definición adecuada en la
actualidad. El EvBrain8v es una forma de software evolutivo que puede hacer evolucionar
redes neuronales similares al cerebro, tales como la red inmediatamente detrás de la retina.
Hay buenas razones para creer que, indistintamente de la estrategia de aplicación, las
predicciones sobre la realización de cerebros artificiales en un futuro próximo son optimistas.
En particular el cerebro (incluyendo el cerebro humano) y la cognición no son actualmente
bien entendidos, y la escala de computación requerida es desconocida. Además parece haber
limitaciones en la potencia. El cerebro consume unos 20 W de potencia, mientras que las
supercomputadoras pueden usar tanto como de 1 MW o sobre un orden de 100 mil más (nota:
el límite de Landauer(en) es de 3.5x1020 op/seg/watt a temperatura ambiente).
Además, hay cuestiones éticas que deben ser resueltas. La construcción y el mantenimiento
de un cerebro artificial plantea cuestiones morales, es decir, en relación con la personalidad,
la libertad y la muerte. ¿Un «cerebro en una caja» constituye una persona? ¿Qué derechos
tendría esa entidad, legales o de otro tipo? Una vez activado, ¿tendrían los seres humanos la
obligación de continuar con su operación? ¿Constituiría la desactivación de un cerebro
artificial muerte, sueño, inconsciencia, o algún otro estado para el que no existe ninguna
descripción humana? Después de todo, un cerebro artificial no está sujeto a la
descomposición celular post mórtem (y la consiguiente pérdida de su función) como lo están
los cerebros humanos, por lo que un cerebro artificial podría, teóricamente, reanudar su
funcionalidad exactamente como estaba antes de que fuese desactivado.

Red neuronal artificial

Ir a la navegaciónIr a la búsqueda
Este artículo trata sobre red neuronal artificial. Para otros usos de este término, véase red
neuronal biológica.

Este artículo o sección necesita referencias que aparezcan en una publicación

acreditada.
Este aviso fue puesto el 27 de febrero de 2017.

El texto que sigue es una traducción defectuosa.

Si quieres colaborar con Wikipedia, busca el artículo original y mejora esta traducción.

{{subst:Aviso mal
Copia y pega el siguiente código en la página de discusión del autor:
traducido|Red neuronal artificial}} ~~~~
 Una red neuronal artificial es un grupo interconectado de nodos similar a la vasta red de neuronas en un
cerebro biológico. Cada nodo circular representa una neurona artificial y cada flecha representa una
conexión desde la salida de una neurona a la entrada de otra.

Las redes neuronales artificiales (también conocidas como sistemas conexionistas) son
un modelo computacional vagamente inspirado en el comportamiento observado en su
homólogo biológico1. Consiste en un conjunto de unidades, llamadas neuronas artificiales,
conectadas entre sí para transmitirse señales. La información de entrada atraviesa la red
neuronal (donde se somete a diversas operaciones) produciendo unos valores de salida.
Cada neurona está conectada con otras a través de unos enlaces. En estos enlaces el valor
de salida de la neurona anterior es multiplicado por un valor de peso. Estos pesos en los
enlaces pueden incrementar o inhibir el estado de activación de las neuronas adyacentes. Del
mismo modo, a la salida de la neurona, puede existir una función limitadora o umbral, que
modifica el valor resultado o impone un límite que se debe sobrepasar antes de propagarse a
otra neurona. Esta función se conoce como función de activación.
Estos sistemas aprenden y se forman a sí mismos, en lugar de ser programados de forma
explícita, y sobresalen en áreas donde la detección de soluciones o características es difícil de
expresar con la programación convencional. Para realizar este aprendizaje automático,
normalmente, se intenta minimizar una función de pérdida que evalúa la red en su total. Los
valores de los pesos de las neuronas se van actualizando buscando reducir el valor de la
función de pérdida. Este proceso se realiza mediante la propagación hacia atrás.
El objetivo de la red neuronal es resolver los problemas de la misma manera que el cerebro
humano, aunque las redes neuronales son más abstractas. Las redes neuronales actuales
suelen contener desde unos miles a unos pocos millones de unidades neuronales.
Nuevas investigaciones sobre el cerebro a menudo estimulan la creación de nuevos patrones
en las redes neuronales. Un nuevo enfoque está utilizando conexiones que se extienden
mucho más allá y capas de procesamiento de enlace en lugar de estar siempre localizado en
las neuronas adyacentes. Otra investigación está estudiando los diferentes tipos de señal en
el tiempo que los axones se propagan, como el aprendizaje profundo, interpola una mayor
complejidad que un conjunto de variables booleanas que son simplemente encendido o
apagado.
Las redes neuronales se han utilizado para resolver una amplia variedad de tareas, como la
visión por computador y el reconocimiento de voz, que son difíciles de resolver usando la
ordinaria programación basado en reglas. Históricamente, el uso de modelos de redes
neuronales marcó un cambio de dirección a finales de los años ochenta de alto nivel, que se
caracteriza por sistemas expertos con conocimiento incorporado en si-entonces las reglas, a
bajo nivel de aprendizaje automático, caracterizado por el conocimiento incorporado en los
parámetros de un modelo cognitivo con algún sistema dinámico.

Índice

 1Historia
o 1.1Aprendizaje de Hebb
o 1.2Propagación hacia atrás y el resurgimiento
o 1.3Diseños basados en Hardware
 2Mejoras desde 2006
 3Modelos
o 3.1Función de red
 o 3.2El aprendizaje
o 3.3La elección de una función de coste
o 3.4Paradigmas de aprendizaje
 3.4.1El aprendizaje supervisado
 3.4.2Aprendizaje no supervisado
 3.4.3Aprendizaje por refuerzo
o 3.5Tipo de entrada
 4Algoritmos de aprendizaje
o 4.1Algoritmo recursivo convergente de aprendizaje
o 4.2El empleo de redes neuronales artificiales
 5Aplicaciones
o 5.1Aplicaciones de la vida real
o 5.2Las redes neuronales y la neurociencia
 6Potencia del cálculo
 7La crítica
o 7.1Cuestiones de capacitación
o 7.2Cuestiones teóricas
 8Las clases y tipos de RNAs
 9Ejemplos
o 9.1Quake II Neuralbot
o 9.2Clasificador No Sesgado de Proteínas
 10Galería
 11Herramientas de software
 12Véase también
 13Referencias
 14Enlaces externos

Historia[editar]
Warren McCulloch y Walter Pitts 2 (1943) crearon un modelo informático para redes
neuronales, que se llama lógica umbral, que se base en las matemáticas y los algoritmos. Este
modelo señaló el camino para que la investigación de redes neuronales se divida en dos
enfoques distintos. Un enfoque se centró en los procesos biológicos en el cerebro y el otro se
centró en la aplicación de redes neuronales para la inteligencia artificial.
Aprendizaje de Hebb[editar]
A finales de la década de 1940 el psicólogo Donald Hebb34 creó una hipótesis de aprendizaje
basado en el mecanismo de plasticidad neuronal que ahora se conoce como aprendizaje de
Hebb. Aprendizaje de Hebb se considera que es un "típico" de aprendizaje no supervisado y
sus variantes posteriores fueron los primeros modelos de la potenciación a largo plazo. Los
investigadores empezaron a aplicar estas ideas a los modelos computacionales en 1948 con
la sugerencia de Turing, que el córtex humano infantil es lo que llamaba "máquina
desorganizada" (también conocido como "máqina Turing Tipo B").56
Farley y Wesley A. Clark7 (1954) al principio utilizaron máquinas computacionales, que
entonces se llamaban "calculadoras", para simular una red de Hebb en el MIT. Otras
simulaciones de redes neuronales por computadora han sido creadas por Rochester, Holanda,
Hábito y Duda (1956).8
Frank Rosenblatt9 10 (1958) creó el perceptrón, un algoritmo de reconocimiento de patrones
basado en una red de aprendizaje de computadora de dos capas, que utilizaba adición y
sustracción simples. Con la notación matemática, Rosenblatt también describe circuitería que
no está en el perceptrón básico, tal como el circuito de o-exclusiva, un circuito que no se pudo
procesar por redes neuronales antes de la creación del algoritmo de propagación hacia
atrás por Paul Werbos (1975).11
En 1959, un modelo biológico propuesto por dos laureados de los Premios Nobel, David H.
Hubel y Torsten Wiesel, estaba basado en su descubrimiento de dos tipos de células en
la corteza visual primaria: células simples y células complejas.12
El primer reporte sobre redes funcionales multicapas fue publicado en 1965 por Ivakhnenko y
Lapa, y se conoce como el método de agrupamiento para el manejo de datos.131415
La investigación de redes neuronales se estancó después de la publicación de la investigación
de aprendizaje automático por Marvin Minsky y Seymour Papert(1969)16, que descubrió dos
cuestiones fundamentales con las máquinas computacionales que procesan las redes
neuronales. La primera fue que los perceptrones básicos eran incapaces de procesar el
circuito de o-exclusivo. La segunda cuestión importante era que los ordenadores no tenían
suficiente poder de procesamiento para manejar eficazmente el gran tiempo de ejecución
requerido por las grandes redes neuronales.
Propagación hacia atrás y el resurgimiento [editar]
Un avance clave posterior fue el algoritmo de propagación hacia atrás que resuelve
eficazmente el problema de o-exclusivo, y en general el problema del entrenamiento rápido de
redes neuronales de múltiples capas (Werbos 1975). El proceso de propagación hacia atrás
utiliza la diferencia entre el resultado producido y el resultado deseado para cambiar los
"pesos" de las conexiones entre las neuronas artificiales.11
A mediados de la década de 1980, el procesamiento distribuido en paralelo se hizo popular
con el nombre conexionismo. El libro de David E. Rumelhart y James McClelland (1986)
proporcionan una exposición completa de la utilización de conexionismo en los ordenadores
para simular procesos neuronales.17
Las redes neuronales, tal como se utilizan en la inteligencia artificial, han sido consideradas
tradicionalmente como modelos simplificados de procesamiento neuronal en el cerebro, a
pesar de que la relación entre este modelo y la arquitectura biológica del cerebro se debate;
no está claro en qué medida las redes neuronales artificiales reflejan el funcionamiento
cerebral.
Máquinas de soporte vectorial y otros métodos mucho más simples, tales como los
clasificadores lineales, alcanzaron gradualmente popularidad en el aprendizaje automático. No
obstante, el uso de redes neuronales ha cambiado algunos campos, tales como la predicción
de las estructuras de las proteínas.1819
En 1992, max-pooling (una forma de submuestreo, en la que se divide los datos en grupos de
tamaños iguales, que no tienen elementos en común, y se transmite solamente el valor
máximo de cada grupo) fue introducido para ayudar con el reconocimiento de objetos tri-
dimensionales.20 21 22
En 2010, el uso de max-pooling en el entrenamiento por propagación hacia atrás fue
acelerado por los GPUs, y se demostró que ofrece mejor rendimiento que otros tipos de
agrupamiento.23
El problema del desvanecimiento del gradiente afecta las redes neuronales prealimentadas de
múltiples capas, que usan la propagación hacia atrás, y también los redes neuronales
recurrentes (RNNs).2425 Aunque los errores se propagan de una capa a otra, disminuyen
exponencialmente con el número de capas, y eso impide el ajuste hacia atrás de los pesos de
las neuronas basado en esos errores. Las redes profundas se ven particularmente afectadas.
Para vencer este problema, Schmidhuber adoptaba una jerarquía multicapa de redes (1992)
pre entrenados, una capa a la vez, por aprendizaje no supervisado, y refinado por propagación
hacia atrás.26 Behnke (2003) contaba solamente con el signo del gradiente (Rprop)27
tratándose de problemas tales como la reconstrucción de imágenes y la localización de caras.
Como retos anteriores en redes neuronales profundas de capacitación se resolvieron con
métodos como pre-entrenamiento no supervisado y potencia de cálculo incrementada a través
del uso de las GPU y la computación distribuida, las redes neuronales se desplegaron de
nuevo a gran escala, sobre todo en problemas de procesamiento de imágenes y de
reconocimiento visual. Esto se conoció como "aprendizaje profundo", aunque el aprendizaje
profundo no es estrictamente sinónimo de redes neuronales profundas.
Diseños basados en Hardware[editar]
Se crearon en CMOS dispositivos de cómputo para la simulación biofísica al igual que para
la cómputo neuromórfico. Nanodispositivos28 para análisis de componentes principales de
escala muy grande y convolución pueden crear una clase nueva de cómputo neuronal, porque
son fundamentalmente analógicos en vez de digitales (aunque las primeras implementaciones
puedan utilizar dispositivos digitales).29 Ciresan y sus cólegos (2010)30 en el grupo de
Schmidhuber mostraron que, a pesar del problema del desvanecimiento del gradiente, los
GPUs hacen factible la propagación hacia atrás para las redes neuronales prealimentadas con
múltiples capas.

Mejoras desde 2006[editar]

Se han creado dispositivos computacionales en el CMOS, tanto para la simulación biofísica
como para computación neuromórfica. Los esfuerzos más recientes se muestran
prometedores para la creación de nanodispositivos31 para análisis de componentes
principales de gran escala. Si tiene éxito, se crearía una nueva clase de computación
neuronal, ya que depende de aprendizaje automático en lugar de la programación y porque es
fundamentalmente analógico en lugar de digital a pesar de que las primeras instancias pueden
ser de hecho con los dispositivos digitales CMOS.32
Entre 2009 y 2012, las redes neuronales recurrentes y redes neuronales profundas
feedforward desarrollados en el grupo de investigación de Jürgen Schmidhuber en el
laboratorio suizo de IA IDSIA han ganado ocho concursos internacionales de reconocimiento
de patrones y aprendizaje automático. Por ejemplo, la memoria bi-direccional y
multidimensional de largo a corto plazo (LSTM) de Alex Graves ha ganado tres competiciones
en el reconocimiento de escritura conectada en Conferencia Internacional sobre Análisis de
documentos y Reconocimiento (ICDAR) del 2009, sin ningún conocimiento previo acerca de
los tres idiomas diferentes que se pueden aprender.
Implementaciones de este método basadas en unidades de procesamiento gráfico rápidas,
hechos por Dan Ciresan y sus colegas de IDSIA han ganado varios concursos de
reconocimiento de patrones, incluyendo la Competición de Reconocimiento de Señales de
Tráfico del 2011,33 el desafío de ISBI 2012 de segmentación de estructuras neuronales en
series de imágenes de Microscopía Electrónica,34 y otros. Sus redes neuronales también
fueron las primeras reconocedoras artificiales de patrones en lograr un rendimiento superior al
humano en los puntos de referencia importantes, tales como el reconocimiento de señales de
tráfico (IJCNN 2012) o el problema de clasificación de dígitos escritos a mano.
Arquitecturas profundas altamente no lineales similares a las del
1980 Neocognitrón por Kunihiko Fukushima y la "arquitectura estándar de la visión",
inspirados en las células simples y complejas identificadas por David H. Hubel y Torsten
Wiesel en la corteza visual, pueden también ser pre-formados por métodos no supervisados
en el laboratorio de la universidad de Toronto. Un equipo de este laboratorio ganó un concurso
en 2012 patrocinado por Merck para el diseño de software para ayudar a encontrar moléculas
que podrían conducir a nuevos medicamentos.

Modelos[editar]
Los modelos de redes neuronales en la inteligencia artificial se refieren generalmente a las
redes neuronales artificiales (RNA); estos son modelos matemáticos esencialmente simples
que definen una función f:X→Y o una distribución más X o ambos X e Y. Pero a veces los
modelos también están íntimamente asociadas con un algoritmo de aprendizaje en particular o
regla de aprendizaje. Un uso común de la frase "modelo ANN" es en realidad la definición de
una clase de tales funciones (donde los miembros de la clase se obtiene variando parámetros,
los pesos de conexión, o específicos de la arquitectura, tales como el número de neuronas o
su conectividad).
Función de red[editar]
La palabra red en el término "red neuronal artificial" se refiere a las interconexiones entre las
neuronas en las diferentes capas de cada sistema. Un sistema ejemplar tiene tres capas. La
primera capa tiene neuronas de entrada que envían datos a través de las sinapsis a la
segunda capa de neuronas, y luego a través de más sinapsis a la tercera capa de neuronas
de salida. Los sistemas más complejos tendrán más capas, algunos aumentando las de
entrada y de salida de neuronas. Las sinapsis almacenan parámetros llamados "pesos" que
manipulan los datos en los cálculos.
Un RNA se define típicamente por tres tipos de parámetros:
1. El patrón de interconexión entre las diferentes capas de neuronas
2. El proceso de aprendizaje para la actualización de los pesos de las interconexiones
3. La función de activación que convierte las entradas ponderadas de una neurona a su
activación a la salida.

Matemáticamente, la función de red de una neurona se define como una composición de

otras funciones . Este se representa como una estructura de red, con flechas que
representan las dependencias entre variables.Un tipo ampliamente utilizado de la composición

es la suma ponderada no lineal , donde , dónde k (denominado comúnmente como

la función de activación35) es una función predefinida, como la tangente hiperbólica o función
sigmoide . La característica importante de la función de activación es que proporciona una
transición suave como valores de entrada de cambio, es decir, un pequeño cambio en la
entrada produce un pequeño cambio en la producción. Será conveniente para la siguiente

para referirse a una colección de funciones simplemente como un vector .

Esta cifra representa una descomposición de tales , Con las dependencias entre las
variables indicadas por las flechas. Estos pueden ser interpretados de dos maneras.

La primera vista es la vista funcional: la entrada se transforma en un vector de 3

dimensiones , Que se transforma a continuación en un vector de 2 dimensiones ,

Que es finalmente transformado en . Este punto de vista se encuentra más comúnmente
en el contexto de la optimización.

El segundo punto de vista es la vista probabilístico: la variable aleatoria depende de la

variable aleatoria , Que depende de , Que depende de la variable aleatoria .

Este punto de vista se encuentra más comúnmente en el contexto de modelos gráficos .

Grafo de dependencias ANN

Los dos puntos de vista son en gran medida equivalente. En cualquier caso, para esta
arquitectura de red en particular, los componentes de las capas individuales son

independientes entre sí (por ejemplo, los componentes de son independientes entre sí,

dada su aportación ). Esto permite, naturalmente, un grado de paralelismo en la

ejecución.
Las redes como la anterior se llaman comúnmente alimentación hacia delante , porque su
gráfica es un grafo dirigido acíclico . Las redes con ciclos se denominan
comúnmente recurrentes . Tales redes se representan comúnmente de la manera mostrada

en la parte superior de la figura, donde se muestra como dependiente sobre sí misma.

Sin embargo, no se muestra una dependencia temporal implícita.
El aprendizaje[editar]
Lo que ha atraído el mayor interés en las redes neuronales es la posibilidad de aprendizaje.

Dada una determinada tarea a resolver, y una clase de funciones , el aprendizaje

consiste en utilizar un conjunto de observaciones para encontrar la cual resuelve la tarea

de alguna forma óptima.
Esto implica la definición de una función de coste tal que, para la solución óptima .
Es decir, ninguna solución tiene un costo menor que el costo de la solución óptima.

La función de coste es un concepto importante en el aprendizaje, ya que representa lo

lejos que una solución particular se encuentra de la solución óptima al problema a resolver.
Los algoritmos de aprendizaje buscan a través del espacio de soluciones para encontrar una
función que tiene el menor costo posible.

Dos representaciones separadas del recurrente gráfico de dependencias ANN

Para aplicaciones en las que la solución es dependiente de algunos datos, el costo debe ser
necesariamente una función de las observaciones, de lo contrario no estaríamos modelando
todo lo relacionado con los datos. Con frecuencia se define como una estadística a la que se
pueden realizar sólo aproximaciones. Como un simple ejemplo, considere el problema de

encontrar el modelo , Lo que reduce al mínimo , Para pares de datos extraída

de alguna distribución . En situaciones prácticas sólo tendríamos muestras

de y, por tanto, para el ejemplo anterior, tendríamos solamente minimizar . Por lo

tanto, el coste se reduce al mínimo a través de una muestra de los datos en lugar de toda la
distribución de la generación de los datos.

Cuando alguna forma de aprendizaje automático en línea debe ser utilizada, donde el
costo se reduce al mínimo parcialmente como se ve cada nuevo ejemplo. Mientras que la

máquina de aprendizaje en línea se utiliza a menudo cuando se fija, es más útil en el

caso en el que la distribución cambia lentamente con el tiempo. En los métodos de redes
neuronales, alguna forma de aprendizaje en línea de la máquina se utiliza con frecuencia para
conjuntos de datos finitos.
La elección de una función de coste[editar]
Si bien es posible definir alguna función de coste, con frecuencia un coste particular, se
utilizará, ya sea porque tiene propiedades deseables (tales como convexidad) o porque surge
de forma natural a partir de una formulación particular del problema (por ejemplo, en una
formulación probabilística la probabilidad posterior del modelo puede ser utilizada como un
costo inverso). En última instancia, la función de coste dependerá de la tarea deseada.
Paradigmas de aprendizaje[editar]
Hay tres grandes paradigmas de aprendizaje, cada uno correspondiente a una tarea de
aprendizaje abstracto en particular. Estos son el aprendizaje supervisado ,elaprendizaje no
supervisado y el aprendizaje por refuerzo.
El aprendizaje supervisado[editar]

En el aprendizaje supervisado, se nos da una serie de ejemplos de pares y el objetivo es

encontrar una función en la clase permitido de funciones que corresponden con los
ejemplos. En otras palabras, deseamos inferir el mapeo derivado de los datos; la función de
coste está relacionado con la falta de coincidencia entre nuestro mapeo y los datos, y contiene
implícitamente el conocimiento previo sobre el dominio del problema.36
Un coste de uso común es el error cuadrático medio, que trata de minimizar el error cuadrático

medio entre las salidas de la red, y el valor objetivo sobre todos los pares
ejemplares. Cuando uno trata de minimizar este coste utilizando descenso de gradiente para
la clase de las redes neuronales llamadas perceptrones multicapas (MLP), se obtiene el
común y bien conocido algoritmo de propagación hacia atrás para la formación de redes
neuronales.
Tareas que caen dentro del paradigma de aprendizaje supervisado son el reconocimiento de
patrones (también conocido como clasificación) y regresión (también conocido como
aproximación de función). El paradigma de aprendizaje supervisado es aplicable también a los
datos secuenciales (por ejemplo, reconocimiento del habla, del manuscrito, y de gestos). Esto
se puede considerar como una forma de aprendizaje con un "maestro", en la forma de una
función que proporciona información continua sobre la calidad de las soluciones obtenidas
hasta el momento.
Aprendizaje no supervisado[editar]

En el aprendizaje no supervisado, algunos datos se da y la función de coste que se

reduce al mínimo, que puede ser cualquier función de los datos y la salida de la

red, .
La función de coste depende de la tarea (lo que estamos tratando de modelar) y nuestros a
priori suposiciones implícitas (las propiedades de nuestro modelo, sus parámetros y las
variables observadas).

Como un ejemplo trivial, considere el modelo donde es una constante y el

costo . Minimizar este coste nos dará un valor de que es igual a la media de los
datos. La función de coste puede ser mucho más complicado. Su forma depende de la
aplicación: por ejemplo, en la compresión de que podría estar relacionado con la información
mutua entre y , Mientras que en la modelización estadística, que podría estar
relacionado con la probabilidad posterior del modelo dados los datos (tenga en cuenta que en
estos dos ejemplos esas cantidades se maximizaría en lugar de reducirse al mínimo).
Tareas que caen dentro del paradigma de aprendizaje no supervisado están en generales de
estimación de problemas; las aplicaciones incluyen el agrupamiento, la estimación
de distribuciones estadísticas, la compresión de datos y el filtrado bayesiano de spam.
Aprendizaje por refuerzo[editar]

En el aprendizaje por refuerzo , los datos por lo general no se dan, pero generada por la

interacción de un agente con el medio ambiente. En cada punto en el tiempo , El agente

realiza una acción y el medio ambiente genera una observación y un costo

instantáneo , De acuerdo con algunas dinámicas (por lo general desconocidos). El

objetivo es descubrir una política para la selección de las acciones que minimiza una cierta
medida de un costo a largo plazo, por ejemplo, el coste acumulativo esperado. La dinámica
del medio ambiente y el coste a largo plazo para cada política general son desconocidos, pero
pueden ser estimados.
Más formalmente el medio ambiente se modela como un proceso de decisión de

Markov (MDP) con los estados y acciones con las siguientes distribuciones de

probabilidad: la distribución de costos instantánea ,La distribución de observación y

la transición Mientras que una política se define como la distribución condicional sobre
las acciones dadas las observaciones. Tomados en conjunto, los dos entonces definen
una cadena de Márkov (MC). El objetivo es descubrir la política (es decir, el MC) que minimice
el costo.
RNAs se utilizan con frecuencia en el aprendizaje de refuerzo como parte del algoritmo
general.3738 La programación dinámica se ha unido a las RNA (dando la programación
neurodinámica) por Bertsekas y Tsitsiklis39 y se aplicó problemas no lineales a la multi-
dimensionales, tales como los implicados en enrutamiento de vehículos , gestión de los
recursos naturales4041 o la medicina42 debido a la capacidad de RNAs para mitigar las
pérdidas de precisión incluso cuando la reducción de la densidad de la red de discretización
para aproximar numéricamente la solución de los problemas de control originales.
Tareas que caen dentro del paradigma de aprendizaje por refuerzo son problemas de
control, juegos y otras secuenciales tareas.
Tipo de entrada[editar]
Finalmente también se pueden clasificar las RNAs según sean capaces de procesar
información de distinto tipo en:

 Redes analógicas: procesan datos de entrada con valores continuos y, habitualmente,

acotados. Ejemplos de este tipo de redes son: Hopfield, Kohonen y las redes de
aprendizaje competitivo.
 Redes discretas: procesan datos de entrada de naturaleza discreta; habitualmente
valores lógicos booleanos. Ejemplos de este segundo tipo de redes son: las máquinas
de Boltzmann y Cauchy, y la red discreta de Hopfield.

Algoritmos de aprendizaje[editar]
El entrenamiento de un modelo de red neuronal en esencia significa seleccionar un modelo de
la serie de modelos permitidos (o, en un bayesiano marco, la determinación de una
distribución en el conjunto de modelos permitidos) que minimiza el criterio de costo. Hay
numerosos algoritmos disponibles para la formación de los modelos de redes neuronales; la
mayoría de ellos puede ser vista como una aplicación directa de la teoría de optimización y
la estimación estadística.
La mayoría de los algoritmos utilizados en las redes neuronales artificiales de formación
emplean alguna forma de descenso de gradiente, utilizando propagación hacia atrás para
calcular los gradientes reales. Esto se hace simplemente tomando la derivada de la función de
coste con respecto a los parámetros de la red y a continuación, cambiando los parámetros en
una dirección relacionada al gradiente. Los algoritmos de entrenamiento de propagación hacia
atrás generalmente se clasifican en tres categorías:

1. Descenso del gradiente (con tasa variable de aprendizaje y

momentum, retropropagación elástica (Rprop));
2. cuasi-Newton ( Broyden-Fletcher-Goldfarb-Shannon, Método de la secante );
3. Levenberg-Marquardt y gradiente conjugado (actualización Fletcher-Reeves,
actualizaación Polak-Ribiere, Powell-Beale reinicio, gradiente conjugado escalado).43
Métodos evolutivos,44 de programación de la expresión génica,45 de recocido simulado,46 de
esperanza-maximización, los métodos no paramétricos y la optimización por enjambre de
partículas47 son algunos otros métodos para la formación de redes neuronales.
Algoritmo recursivo convergente de aprendizaje[editar]
Este es un método de aprendizaje específicamente desegnado para redes neuronales
controladores de articulación (CMAC por sus siglas en inglés) de modelo cerebelosa. En 2004,
un algoritmo recursivo de mínimos cuadrados estaba introducido para formar en línea redes
neuronales CMAC. 48 Este algoritmo puede convergir en un solo paso, y actualizar todos los
pesos en un solo paso con cualquier dato nuevo de entrada. Al principio, este algoritmo
tenía complejidad computacional de O(N3). Basado en factorización QR, este algoritmo
recursivo de aprendizaje había sido simplificado para hacerlo O(N).49
El empleo de redes neuronales artificiales[editar]
Tal vez la mayor ventaja de las RNA es su capacidad de ser utilizado como un mecanismo de
función de aproximación arbitraria que "aprende" a partir de datos observados. Sin embargo,
su uso no es tan sencillo, y una relativamente buena comprensión de la teoría subyacente es
esencial.
Elección de modelo
Esto dependerá de la representación de datos y la aplicación. Excesivamente
complejos modelos tienden a conducir a problemas en el aprendizaje.
Algoritmo de aprendizaje
Existen numerosas soluciones de compromiso entre los algoritmos de aprendizaje.
Casi cualquier algoritmo va a funcionar bien con los hiperparámetros correctos para la
formación de un conjunto específico de datos fijos. Sin embargo, la selección y el
ajuste de un algoritmo para la formación en datos no previstos requieren una cantidad
significativa de experimentación.
Robustez
Si se seleccionan apropiadamente el modelo, la función de coste y el algoritmo de
aprendizaje, la RNA resultante puede ser extremadamente robusto.
Con la aplicación correcta, las RNA pueden ser utilizadas de forma natural en el
aprendizaje online y aplicaciones de grandes conjuntos de datos. Su aplicación
sencilla y la existencia de dependencias en su mayoría locales expuestos en la
estructura permiten implementaciones rápidas y paralelas en el hardware.

Aplicaciones[editar]
RNA las hacen bastante apropiadas para aplicaciones en las que no se dispone a
priori de un modelo identificable que pueda ser programado, pero se dispone de
un conjunto básico de ejemplos de entrada (previamente clasificados o no).
Asimismo, son altamente robustas tanto al ruido como a la disfunción de
elementos concretos y son fácilmente paralelizables.
Esto incluye problemas de clasificación y reconocimiento de patrones de voz,
imágenes, señales, etc. Asimismo se han utilizado para encontrar patrones de
fraude económico, hacer predicciones en el mercado financiero, hacer
predicciones de tiempo atmosférico, etc.
También se pueden utilizar cuando no existen modelos matemáticos precisos o
algoritmos con complejidad razonable, por ejemplo la red de Kohonen ha sido
aplicada con un éxito más que razonable al clásico problema del viajante (un
problema para el que no se conoce solución algorítmica de complejidad
polinómica).
Otro tipo especial de redes neuronales artificiales se ha aplicado en conjunción
con los algoritmos genéticos (AG) para crear controladores para robots. La
disciplina que trata la evolución de redes neuronales mediante algoritmos
genéticos se denomina Robótica Evolutiva. En este tipo de aplicación el genoma
del AG lo constituyen los parámetros de la red (topología, algoritmo de
aprendizaje, funciones de activación, etc.) y la adecuación de la red viene dada
por la adecuación del comportamiento exhibido por el robot controlado
(normalmente una simulación de dicho comportamiento).
Aplicaciones de la vida real[editar]
Las tareas se aplican a las redes neuronales artificiales tienden a caer dentro de
las siguientes categorías generales:

 Aproximación de funciones, o el análisis de regresión, incluyendo la

predicción de series temporales, funciónes de aptitud y el modelado.
 Clasificación, incluyendo el reconocimiento de patrones y la secuencia de
reconocimiento, detección y de la toma de decisiones secuenciales.
 Procesamiento de datos, incluyendo el filtrado, el agrupamiento, la separación
ciega de las señales y compresión.
 Robótica, incluyendo la dirección de manipuladores y prótesis.
 Ingeniería de control, incluyendo control numérico por computadora.
Las áreas de aplicación incluyen la identificación de sistemas y el control (control
del vehículo, predicción de trayectorias50, el control de procesos, manejo de
recursos naturales), la química cuántica, juegos y la toma de
decisiones (backgammon, ajedrez, póquer ), el reconocimiento de
patrones (sistemas radar, reconocimiento facial, clasificación de señales,51
reconocimiento de objetos y más), de reconocimiento de secuencia (gesto, voz,
reconocimiento de texto escrito a mano), diagnóstico médico , aplicaciones
financieras (por ejemplo, sistemas automatizados de comercio
(trading algorítmico) ), minería de datos (o descubrimiento de conocimiento en
bases de datos, "KDD"), la visualización, traducción automática, diferenciando
entre informes deseados y no deseados en redes sociales,52 prevención de spam
(correo basura) de correo electrónico.
Las redes neuronales artificiales se han utilizado también para el diagnóstico de
varios tipos de cáncer. Un sistema de detección de cáncer de pulmón híbrido
basado ANN llamado HLND mejora la precisión del diagnóstico y la velocidad de
la radiología cáncer de pulmón. Estas redes también se han utilizado para
diagnosticar el cáncer de próstata. Los diagnósticos se pueden utilizar para hacer
modelos específicos tomados de un gran grupo de pacientes en comparación con
la información de un paciente dado. Los modelos no dependen de suposiciones
acerca de las correlaciones de diferentes variables. El cáncer color rectal también
se ha previsto el uso de las redes neuronales. Las redes neuronales podrían
predecir el resultado de un paciente con cáncer color rectal con más precisión que
los métodos clínicos actuales. Después del entrenamiento, las redes podrían
predecir múltiples resultados de los pacientes de instituciones relacionadas.
Las redes neuronales y la neurociencia[editar]
La Neurociencia Teórica y computacional son el ámbito en que se trata del
análisis teórico y el modelado computacional de sistemas neuronales biológicos.
Dado que los sistemas neurales están íntimamente relacionados con los procesos
cognitivos y de comportamiento, el campo está muy relacionada con el modelado
cognitivo y conductual.
El objetivo del campo es la creación de modelos de sistemas neuronales
biológicas con el fin de comprender cómo funcionan los sistemas biológicos. Para
ganar este entendimiento, los neurólogos se esfuerzan por hacer un vínculo entre
los procesos biológicos observados (datos), biológicamente plausibles
mecanismos para el procesamiento neuronal y aprendizaje ( redes neuronales
biológicas modelos) y la teoría (la teoría del aprendizaje estadístico y la teoría de
la información ).
Tipos de modelos
Muchos modelos se utilizan en el campo, que se define en diferentes niveles de
abstracción y el modelado de diferentes aspectos de los sistemas neurales. Se
extienden desde modelos del comportamiento a corto plazo de las neuronas
individuales, tras los modelos del surgimiento de la dinámica de los circuitos
neuronales de la interacción entre las neuronas individuales hasta, finalmente, los
modelos del surgimiento del comportamiento de los módulos neuronales
abstractos que representan subsistemas completas. Estos incluyen modelos de
plasticidad de largo y corto plazo, y de los sistemas neuronales y sus relaciones
con el aprendizaje y la memoria de la neurona individual a nivel del sistema.
Las redes con memoria
La integración de los componentes de memoria externa con redes neuronales
artificiales tiene una larga historia que se remonta a las primeras investigaciones
en las representaciones distribuidas y mapas de auto-organización . Por ejemplo,
en memoria distribuida dispersa los patrones codificados por las redes neuronales
se utilizan como direcciones de memoria para la memoria de contenido
direccionable, con "neuronas" que sirven esencialmente como
dirección codificadores y decodificadores .
Más recientemente aprendizaje profundo ha demostrado ser útil enhashing
semántica , donde un profundo modelo gráfico de los vectores de palabra de
recuento de se obtiene a partir de un gran conjunto de documentos. Los
documentos se asignan a las direcciones de memoria de tal manera que los
documentos semánticamente similares se encuentran en direcciones cercanas.
Documentos similares a un documento de consulta a continuación, se pueden
encontrar simplemente accediendo a todas las direcciones que difieren por sólo
unos pocos bits de la dirección del documento de consulta.
Redes de memoria es otra extensión de las redes neuronales que incorporan la
memoria a largo plazo que fue desarrollado por Facebook investigación. La
memoria a largo plazo puede ser leído y escrito para, con el objetivo de utilizarlo
para la predicción. Estos modelos se han aplicado en el contexto de la búsqueda
de respuestas(QA), donde la memoria a largo plazo que de hecho actúa como un
(dinámico) base de conocimientos, y la salida es una respuesta textual.
Máquinas de Turing neuronales desarrollados por Google DeepMind permiten
ampliar las capacidades de las redes neuronales profundas mediante el
acoplamiento a los recursos de memoria externos, que pueden interactuar con los
procesos atencionales. El sistema combinado es análogo a una máquina de
Turing pero es diferenciable de extremo a extremo, lo que le permite ser
entrenado de manera eficiente con descenso del gradiente. Los resultados
preliminares demuestran que las máquinas de Turing neuronales puede deducir
algoritmos simples, tales como copiar, clasificar, y recuerdo asociativo a partir de
ejemplos de entrada y salida.

Computadoras neuronales diferenciables (DNC) son una extensión de las

máquinas de Turing neuronal, también de DeepMind. Se han realizado fuera de
las máquinas de Turing neuronales, la memoria de largo a corto plazo los
sistemas y redes de la memoria en las tareas de procesamiento de secuencia.
Software de red neuronal
Software de la red neuronal se utiliza para simular, investigación , desarrollo y
aplicación de redes neuronales artificiales, redes neuronales biológicas y, en
algunos casos, una gama más amplia de sistemas adaptativos.
Tipos de redes neuronales artificiales
Tipos de redes neuronales artificiales varían de aquellos con sólo una o dos
capas de lógica única dirección, para muchos bucles complejos multi-
direccionales de entrada de realimentación y capas. En general, estos sistemas
utilizan algoritmos en su programación para determinar el control y la organización
de sus funciones. La mayoría de los sistemas utilizan "pesos" para cambiar los
parámetros del rendimiento y las diferentes conexiones con las neuronas. Las
redes neuronales artificiales pueden ser autónomas y aprender mediante el aporte
de "maestros" externos o incluso auto-enseñanza de las reglas escritas de
entrada. Redes neuronales estilo Cubo Neural primera por primera vez por
Gianna Giavelli proporcionan un espacio dinámico en el que las redes se
recombinan dinámicamente información y enlaces a través de miles de millones
de nodos independientes que utilizan la adaptación neuronal darwinismo , una
técnica desarrollada por Gerald Edelman , que permite sistemas más modeladas
biológicamente.
Potencia del cálculo[editar]
El perceptrón multicapa es un aproximado de la función universal, como lo
demuestra el teorema de aproximación universal . Sin embargo, la prueba no es
constructivo sobre el número de neuronas es necesario, la topología de red, la
configuración de los pesos y los parámetros de aprendizaje.
El trabajo de Hava Siegelmann y Eduardo D. Sontag ha proporcionado una
prueba de que una arquitectura específica recurrente con los pesos valorados
racionales (en oposición a la precisión total número real -valued pesos) tiene toda
la potencia de una máquina universal de Turing [59]utilizando un número finito de
las neuronas y las conexiones lineales estándar. Además, se ha demostrado que
el uso de valores irracionales para resultados pesos en una máquina con super-
Turing poder.
Capacidad
Los modelos de redes neuronales artificiales tienen una propiedad denominada
"capacidad", que corresponde aproximadamente a su capacidad para modelar
cualquier función dada. Se relaciona con la cantidad de información que puede
ser almacenada en la red y a la noción de complejidad.
Convergencia
Nada se puede decir en general sobre la convergencia ya que depende de una
serie de factores. En primer lugar, pueden existir muchos mínimos locales. Esto
depende de la función de coste y el modelo. En segundo lugar, el método de
optimización utilizado no puede ser garantizado a converger cuando lejos de un
mínimo local. En tercer lugar, para una cantidad muy grande de datos o
parámetros, algunos métodos se vuelven poco práctico. En general, se ha
encontrado que las garantías teóricas sobre la convergencia son una guía fiable
para la aplicación práctica.
Generalización y estadísticas
En aplicaciones donde el objetivo es crear un sistema que generaliza bien en los
ejemplos que no se ven, ha surgido el problema de la formación excesiva. Esto
surge en los sistemas complicados o sobre especificadas cuando la capacidad de
la red supera significativamente los parámetros libres necesarios. Hay dos
escuelas de pensamiento para evitar este problema: La primera es utilizar la
validación cruzada técnicas similares y para comprobar la presencia de un exceso
de entrenamiento y de manera óptima seleccione hiper- tales que se minimice el
error de generalización. La segunda es utilizar algún tipo de regularización . Este
es un concepto que surge de manera natural en un marco probabilístico
(Bayesiano), donde la regularización puede realizarse mediante la selección de
una probabilidad a priori más grande sobre los modelos más simples; sino
también en la teoría estadística de aprendizaje, donde el objetivo es reducir al
mínimo más de dos cantidades: el "riesgo empírico" y el "riesgo estructural ', que
corresponde aproximadamente al error sobre el conjunto de entrenamiento y el
error de predicción en los datos que no se ven debido a sobreajuste. Redes
neuronales supervisadas que utilicen un error cuadrático medio (MSE) función de
coste se pueden utilizar métodos estadísticos formales para determinar la
confianza del modelo entrenado. El MSE en un conjunto de validación se puede
utilizar como una estimación de la varianza. Este valor puede ser utilizado para
calcular el intervalo de confianza de la salida de la red, suponiendo
una distribución normal . Un análisis de confianza realizado de esta manera es
estadísticamente válida siempre que la salida de distribución de
probabilidad sigue siendo el mismo y la red no es modificada.

Análisis de confianza de una red neuronal

Mediante la asignación de una función de activación softmax , una generalización

de la función logística , en la capa de salida de la red neuronal (o un componente
softmax en una red neuronal basada en componentes) para las variables
categóricas de destino, las salidas se pueden interpretar como las probabilidades.
Esto es muy útil en la clasificación, ya que da una medida de la seguridad en las
clasificaciones.

La función de activación softmax es:

La crítica[editar]
Cuestiones de capacitación[editar]
Una crítica común de las redes neuronales, en particular en la robótica, es que
requieren una gran diversidad de entrenamiento para el funcionamiento del
mundo real. Esto no es sorprendente, ya que cualquier máquina de aprendizaje
necesita suficientes ejemplos representativos con el fin de capturar la estructura
subyacente que le permite generalizar a nuevos casos. Dean A. Powerless, en su
investigación presentada en el documento "Formación basada en el conocimiento
de redes neuronales artificiales para la conducción autónoma del robot", utiliza
una red neuronal para entrenar a un vehículo robótico para conducir en múltiples
tipos de carreteras (de un solo carril, varios carriles, suciedad, etc.). Una gran
cantidad de su investigación está dedicada a (1) la extrapolación de múltiples
escenarios de entrenamiento a partir de una sola experiencia de formación, y (2)
la preservación de la diversidad de entrenamiento pasado para que el sistema no
se convierta en sobre entrenamiento (si, por ejemplo, se presenta con una serie
de giros a la derecha - no debe aprender a girar siempre a la derecha). Estos
problemas son comunes en las redes neuronales que debe decidir de entre una
amplia variedad de respuestas, pero se pueden tratar de varias maneras, por
ejemplo por revolver al azar los ejemplos de entrenamiento, mediante el uso de
un algoritmo de optimización numérica que no toma demasiado grandes pasos
cuando el cambio de las conexiones de red siguiendo un ejemplo, o mediante la
agrupación de ejemplos en los llamados mini-lotes.
Cuestiones teóricas[editar]
AK Dewdney , un científico matemático e informática de la Universidad de Ontario
Occidental y ex Scientific American columnista, escribió en 1997, "A pesar de que
las redes neurales hacen resolver algunos problemas de juguete, su poder de
computación son tan limitados que me sorprende que nadie los toma en serio
como una herramienta general de resolución de problemas ". No existe una red
neuronal nunca se ha demostrado que resuelve los problemas
computacionalmente difíciles, tales como la N-Queens problema, el problema del
viajante de comercio , o el problema de factorizar enteros grandes.
Aparte de su utilidad, una objeción fundamental a las redes neuronales artificiales
es que no logran reflejar cómo funcionan las neuronas reales. Propagación hacia
atrás está en el corazón de las redes neuronales artificiales y la mayoría no sólo
no hay evidencia de ningún mecanismo de este tipo de redes neuronales
naturales,53 parece contradecir el principio fundamental de las neuronas reales
que la información sólo puede fluir hacia adelante a lo largo del axón. Como la
información está codificada por las neuronas reales aún no se conoce. Lo que se
sabe es que las neuronas sensoriales disparan potenciales de acción con mayor
frecuencia con la activación del sensor y las células musculares tiran más
fuertemente cuando sus neuronas motoras asociadas reciben los potenciales de
acción con más frecuencia.54 Aparte del caso más simple de solo transmisión de
información de una neurona a un sensor de la neurona motora casi nada se
conoce de los principios generales subyacentes de cómo se maneja la
información por las redes neuronales reales.
La motivación detrás de las redes neuronales artificiales no es necesariamente
para replicar la función neural real, pero para utilizar redes neuronales naturales
como inspiración para un acercamiento a la computación que es inherentemente
paralelo y que proporciona soluciones a los problemas que tienen hasta ahora ha
considerado intratable. Por tanto, una afirmación central de las redes neuronales
artificiales es que encarna algún principio general nuevo y potente para el
procesamiento de la información. Por desgracia, estos principios generales están
mal definidos y que a menudo se afirma que son emergentes de la red neuronal
en sí. Esto permite la asociación estadística sencilla (la función básica de las
redes neuronales artificiales), que se describe como el aprendizaje o el
reconocimiento. Como resultado, las redes neuronales artificiales tienen, según
Dewdney, un "algo para nada la calidad, que imparte un aura peculiar de la
pereza y una clara falta de curiosidad acerca de lo bien que estos sistemas de
computación son Ninguna mano humana (o la mente) interviene; soluciones. Se
encuentran como por arte de magia, y nadie, al parecer, ha aprendido nada”.55
Los problemas de hardware
Para implementar el software de redes neuronales grandes y eficaces,
considerables recursos de procesamiento y almacenamiento deben estar
comprometidos. Mientras que el cerebro ha hardware adaptado a la tarea de
procesamiento de señales a través de un gráfico de las neuronas, simulando
incluso una forma más simplificada en la arquitectura von Neumann puede obligar
a un diseñador de la red neural para llenar muchos millones de bases de
datos filas por sus conexiones - que puede consumir grandes cantidades de
equipo de memoria y disco duro espacio. Además, el diseñador de sistemas de
redes neurales a menudo necesitará para simular la transmisión de señales a
través de muchas de estas conexiones y sus neuronas asociadas - que a menudo
deben coincidir con una increíble cantidad de CPU potencia de procesamiento y
tiempo.
Jürgen Schmidhuber toma nota de que el resurgimiento de las redes neuronales
en el siglo XXI, y su éxito renovado en tareas de reconocimiento de imagen es
atribuible en gran medida a los avances en el hardware: de 1991 a 2015, el poder
de computación, especialmente en lo entregado por GPGPUs (en las GPU ), ha
aumentado alrededor de un millón de veces, por lo que el algoritmo de
retropropagación estándar viable para las redes de formación que son varias
capas más profundas que antes (pero añade que esto no resuelve los problemas
algorítmicos tales como fuga gradientes "de una manera fundamental"). El uso de
la GPU en lugar de CPUs ordinarios puede traer los tiempos de entrenamiento
para algunas redes por debajo de los meses a meros días.
Potencia de cálculo sigue creciendo más o menos de acuerdo con la Ley de
Moore , que puede proporcionar recursos suficientes para llevar a cabo nuevas
tareas. Ingeniería neuromorphic aborda la dificultad de hardware directamente,
mediante la construcción de chips de no-von Neumann con circuitos diseñados
para implementar redes neuronales desde el principio. Google también ha
diseñado un chip optimizado para el procesamiento de red neural llamado Unidad
de Procesamiento Tensor o TPU.
Contraejemplos prácticas a las críticas
Argumentos en contra de la posición de Dewdney son que las redes neuronales
se han utilizado con éxito para resolver muchas tareas complejas y diversas, que
van desde aviones que vuelan de forma autónoma para la detección de fraude de
tarjetas de crédito.
Escritor de tecnología Roger Bridgman ha comentado las declaraciones de
DEWDNEY sobre redes neuronales:
Las redes neuronales, por ejemplo, están en el muelle no sólo porque han sido
promocionado al alto cielo, (lo que tiene, no?), sino también porque se puede
crear una red de éxito sin la comprensión de cómo funcionaba: el montón de
números que captura su comportamiento sería con toda probabilidad "una, mesa
ilegible opaca... sin valor como recurso científico".
A pesar de su enfática declaración de que la ciencia no es la tecnología, parece
Dewdney aquí para ridiculizar a las redes neuronales como mala ciencia cuando
la mayoría de los ideando ellos están tratando de ser buenos ingenieros. Una
tabla puede leer que una máquina útil podía leer todavía sería bien vale la pena
tener.
Si bien es cierto que el análisis de lo que se ha aprendido por una red neuronal
artificial es difícil, es mucho más fácil de hacerlo que analizar lo que se ha
aprendido por una red neuronal biológica. Por otra parte, los investigadores
involucrados en la exploración de algoritmos de aprendizaje para redes
neuronales están descubriendo gradualmente principios genéricos que permiten
que una máquina de aprendizaje tenga éxito. Por ejemplo, Bengio y LeCun (2007)
escribió un artículo sobre el aprendizaje locales vs. No locales, así como poco
profundas frente a la arquitectura de profundidad.
Enfoques híbridos
Algunas otras críticas que provienen de los defensores de los modelos híbridos
(combinación de redes neuronales y enfoques simbólicos), que creen que el
intermix de estos dos enfoques puede capturar mejor los mecanismos de la mente
humana.
Las clases y tipos de RNAs[editar]
 Red Neural dinámico
 Red neuronal feedforward (FNN)
 Red neuronal recurrente (RNN)
 Red de Hopfield
 Máquina de Boltzmann
 Redes recurrentes simples
 Red estatal de eco
 Memoria a largo plazo corto
 Bidireccional RNN
 Jerárquica RNN
 Redes neuronales estocásticos
 Mapas autoorganizados de Kohnen
 Autoencoder
 Red neuronal probabilística (PNN)
 Red neuronal de retardo de tiempo (TDNN)
 Red de realimentación reguladora (RFNN)
 Estática red neuronal
 Neocognitrón
 Neurona de McCulloch-Pitts
 Red de función de base radial (RBF)
 Aprender cuantificación vectorial
 perceptrón
 Modelo Adaline
 Red neuronal de convolución (CNN)
 redes neuronales modulares
 Comité de las máquinas (COM)
 Red neuronal asociativa (ASNN)
 Memoria Red
 Google / Google DeepMind
 Facebook / MemNN
 Memoria asociativa holográfica
 One-shot memoria asociativa
 Máquina de Turing neuronal
 Teoría de la resonancia adaptativa
 la memoria temporal jerárquica
 Otros tipos de redes
 Redes neuronales entrenadas instantáneamente (ITNN)
 Red neuronal de impulsos (SNN)
 Impulsión codificados Redes Neuronales (PCNN)
 En cascada redes neuronales
 Redes Neuro-Fuzzy
 Creciente de gas neural (GNG)
 Redes patrón productoras de composición
 Red de contrapropagación
 Red neuronal oscilante
 Red neural híbrida
 Red neuronal física
 Red neuronal óptica

Ejemplos[editar]
Quake II Neuralbot[editar]
Un bot es un programa que simula a un jugador humano. El Neuralbot es un bot
para el juego Quake II que utiliza una red neuronal artificial para decidir su
comportamiento y un algoritmo genético para el aprendizaje. Es muy fácil probarlo
para ver su evolución. Más información aquí [1]
Clasificador No Sesgado de Proteínas[editar]
Es un programa que combina diversas técnicas computacionales con el objetivo
de clasificar familias de proteínas. Un posible método consiste en
utilizar métricasadaptativas como por ejemplo: mapas
autoorganizados y algoritmos genéticos.
El problema de clasificación no sesgada basada en la expresión de las proteínas
en Aminoácidos puede reducirse, conceptualmente, a lo siguiente:

 La identificación de grupos de proteínas que compartan características

comunes.
 La determinación de las razones estructurales por las cuales las proteínas en
cuestión se agrupan de la manera indicada.
 Evitar la idea de establecer criterios de clasificación (“sesgados”)
fundamentados en ideas preconcebidas para lograr su clasificación. En este
sentido, hay dos asuntos que considerar:
o Cómo lograr la caracterización de las proteínas de manera no sesgada
o Cómo lograr lo anterior sin apelar a medidas de agrupamiento que, a su
vez, impliquen algún tipo de sesgo sobre dicho agrupamiento.
Las RNA han sido aplicadas a un número en aumento de problemas en la vida
real y de considerable complejidad, donde su mayor ventaja es en la solución de
problemas que son bastante complejos para la tecnología actual, tratándose de
problemas que no tienen una solución algorítmica o cuya solución algorítmica es
demasiado compleja para ser encontrada.
En general, debido a que son parecidas a las del cerebro humano, las RNA son
bien nombradas ya que son buenas para resolver problemas que el humano
puede resolver pero las computadoras no. Estos problemas incluyen el
reconocimiento de patrones y la predicción del tiempo. De cualquier forma, el
humano tiene capacidad para el reconocimiento de patrones, pero la capacidad
de las redes neuronales no se ve afectada por la fatiga, condiciones de trabajo,
estado emocional, y compensaciones.
Se conocen cinco aplicaciones tecnológicas extendidas:

1. Reconocimiento de textos manuscritos

2. Reconocimiento del habla
3. Simulación de centrales de producción de energía
4. Detección de explosivos
5. Identificación de blancos de radares