IPD 477 - Tarea #3: Neural Decoding

Bioingeniería Electrónica - 2019-2

Profesor: Maria Jose Escobar S.

Doctorado en Ingeniería Electrónica

Josue Daniel Martinez Hernández

IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 2

Introducción

En la siguiente tarea se aborda el tema de decodificación neuronal a través de diferentes técnicas

para poder estimar estímulos de entrada en las neuronas. Para lo cual se genera una población
de 20 neuronas con distribución de Poisson, las cuales tendrán una curva de selectividad
gaussiana:
𝑓 (𝑠) = exp (−(𝑠 − 𝑠 ) /2𝜎 ) (1)

Donde 𝑠 representa el estímulo de entrada 𝑥, 𝑠 representa la media 𝜇 de cada neurona, cuyo

valor es conocido también como estímulo preferido de la neurona, y 𝜎 representa la varianza la
curva de selectividad (tuning curve). Se realizarán dos experimentos en los cuales las medias se
distribuirán de forma uniforme y de forma aleatoria. Para cada uno se graficará las curvas de
selectividad de cada neurona y se obtendrá su vector de población, los cuales serán utilizados en
las técnicas de estimación winner take all decoding, center of mass decoding y máximum
likelihood (SML)/maximun a posteriori decoding (SMAP).

Para implementar estas técnicas, necesitamos conocer la densidad de probabilidad de la tasa de

disparo condicional que describe esta variabilidad. Suponemos que la velocidad de disparo 𝑟 de
la neurona 𝑎 se determina contando los 𝑛 picos durante un ensayo de duración 𝑇 (de modo que
𝑟 = 𝑛 /𝑇).

Métodos de decodificación

Winner take all decoding: Este método supone que cada neurona en la población tiene un valor
de estímulo preferido 𝑠 y luego estima el estímulo de entrada como el valor de estímulo preferido
de la neurona con la respuesta más alta, es decir [1] :

𝑠̂ = 𝑠 ; 𝑗 = 𝑎𝑟𝑔𝑚𝑎𝑥 𝑟 (2)

Este decodificador es sensible a la variabilidad neuronal y no puede retornar valores intermedios

entre los estímulos preferidos de las neuronas. Sin embargo, solo requiere conocer el estímulo
preferido de cada neurona, que puede medirse experimentalmente con muy pocos ensayos.

Maximum likelihood decoding (ML): Un método importante que toma en cuenta la variabilidad
neuronal es el decodificador de máxima verosimilitud. Este decodificador calcula la probabilidad
de que un valor de estímulo provoque una respuesta de población dada, y selecciona el valor de
estímulo para el cual esta probabilidad es más alta:
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 3

𝑠̂ = 𝑎𝑟𝑔𝑚𝑎𝑥 𝑝(𝒓|𝑠) (3)

Asumiendo una variabilidad homogénea Poisson y que cada neurona dispara de forma
independiente, podemos aplicar una sumatoria de logaritmos de dicha probabilidad:

𝑙𝑛 𝑃[𝑟|𝑠] = 𝑇 ∑ 𝑟 ln 𝑓 (𝑠) + ⋯ ⁄ (4)

Si las curvas de selectividad son gaussianas (1), y todas poseen el mismo ancho de curva dada por
su varianza, entonces la ecuación se simplifica:

∑
𝑆 = (5)
∑

La ecuación (5) es también llamada Center of mass decoding.[2]

Maximum a posteriori (MAP): El procedimiento de estimación MAP es similar al enfoque ML. El

algoritmo MAP nos permite incluir conocimientos previos sobre la distribución de los valores de
estímulo en la estimación, al cual llamaremos 𝑠 con una varianza 𝜎 [2]

𝑠̂ = 𝑎𝑟𝑔𝑚𝑎𝑥 𝑝(𝑠)𝑝(𝒓|𝑠) (6)

Asumiendo una variabilidad homogénea Poisson y que cada neurona dispara de forma
independiente, podemos aplicar una sumatoria de logaritmos de dicha probabilidad:

𝑙𝑛 𝑝[𝑠|𝑟] = 𝑇 𝑟 ln 𝑓 (𝑠) + ln 𝑝[𝑠] + ⋯ ⁄

Al maximizar esta función podemos estimar 𝑆

∑ ⁄ /
𝑆 = ∑ ⁄
(7)
/

Asumiendo varianza 𝜎 y una varianza priori 𝜎 del mismo valor, la ecuación se simplifica [2]

∑
𝑆 = (8)
∑
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 4

Descripción de la tarea

Simule una población de 20 neuronas de Poisson independientes entre sí con una curva de
selectividad Gaussiana 𝑓 ( ) que tiene una amplitud de 10 y varianza unitaria (𝜎 = 1).

Caso 1: Considerando los centros de las Gaussianas 𝜇 uniformemente distribuidos entre -10 y
10 en el eje 𝑥.

(a) Grafique las curvas de selectividad de las 20 neuronas en un solo gráfico.

Se grabó la tasa de disparo de cada neurona para una entrada 𝑥 que varia entre -10 a 10. Al
poseer cada neurona una curva de selectividad con una µ diferente, se dice que cada neurona
posee un valor de estimulo de entrada preferido. Para ejemplo se graficó inicialmente la curva
de selectividad de una neurona con una 𝜇 = 0.

Curvas de selectividad de 20 neuronas

10

0
-10 -5 0 5 10

Figura 1. Curva de selectividad gaussiana de una neurona con una 𝜇 = 0

Luego se graficó las 20 curvas de selectividad gaussiana de las 20 neuronas, figura 2, usando un
𝑓𝑜𝑟 que permitiera guardar cada tasa de disparo de cada neurona para 50 valores de x entradas
distribuidos entre -10 y 10.
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 5

Figura 2. Curvas de selectividad de una población de 20 neuronas con µ distribuidas uniformemente

entre [-10,10]

Se puede observar que cada curva de selectividad se centra en cada 𝜇 de cada neurona, siendo
así su valor de estimulo preferido para cada una.

(b) Sea 𝑥 una variable aleatoria que distribuye uniformemente en el intervalo [−5 , 5]. Tome 10
realizaciones de 𝑥, y para cada una de ellas estime el vector de respuesta de la población de
neuronas 𝑟. El vector poblacional se define como 𝑟 = 𝑟 , 𝑟 , … , 𝑟 , , donde 𝑟 representa la
respuesta de la 𝑖-esima neurona, con 𝑖 = 1, … , 𝑁.

Se tomo el vector de poblacion de cada neurona ante una entrada aleatorio 𝑥 el cual indica la
cantidad de spikes generados por cada neurona ante una entrada determinada. En la figura 3 se
muestra un ejemplo del conteo de spikes generados por la entrada aleatoria y su tasa de disparos.
Se puede observar que las neuronas cercanas a su media disparan spikes con menos intensidad,
el cual es determinado por la varianza de su curva.

La figura 4 muestra diferentes tasas de disparos ante diferentes entradas. Se realizaron 10 trial
almacenando en cada uno su vector de poblacion. Se puede observar que ante cada entrada,
muestra una alta tasa de disparo al valor de media más cercana.
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 6

Figura 3. Izquierda. Conteo de spike generados por una entrada aleatoria 𝑥 en el rango [-5,5] y de una
población de 20 neuronas con µ distribuidas uniformemente entre [-10,10]. Derecha. Curvas de
selectividad de una población de 20 neuronas

Figura 4. Izquierda. Conteo de spike generados por una entrada aleatoria 𝑥 en el rango [-5,5] y de una
población de 20 neuronas con µ distribuidas uniformemente entre [-10,10]. Derecha. Tasa de disparo de
una población de 20 neuronas
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 7

(c) Utilizando la información contenida en el vector 𝑟 del punto (b) estime el estímulo de entrada
𝑥 utilizando: winner-take-all decoding, center-of-mass decoding y maximum-
likelihood/maximun-a-posteriori decoding. Compare y comente.

Dados los 10 vectores de población generados en el punto anterior, se aplicaron los métodos de
dedoder SML, SMAP y Winner all take. Se demostró anteriormente que al aplicar curvas
gaussianas con misma varianza en el método SML y maximizando su valor, se puede deducir la
ecuación de center of mass, por lo que se tomó como el mismo análisis.

Se genero un vector de estímulos de entrada aleatorias en 10 trial diferentes en el rango de

[−5, −5], generando 𝑥 = [3, 4, 0, −2.5, 3.5, 1.76, −2.31, −4,76, 5, 0.5 ]. Cada valor fue
introducido a la población de 20 neuronas y se estimo dicho valor en cada una de las técnicas,
utilizando las ecuaciones (2), (5) y (8). De igual manera se obtuvo el porcentaje de error de cada
estimación y se obtuvo su promedio porcentual de error para cada método, de esta forma se
puede comparar cada método y ver cual es mas eficiente. Los resultados son mostrados en la
tabla 1.

SML (Center of Mass) SMAP Winner

Trial Xin Valor estimd %Error Valor estimd %Error Valor estimd %Error
1 3,0 3,00 0,00 2,90 3,33 3,0 0,0
2 4,0 4,00 0,00 3,95 1,25 4,0 0,0
3 0,0 0,00 0,00 -0,04 0,01 0,0 0,0
4 -2,5 -2,50 0,00 -2,47 1,20 [-3,-2] 16,6
5 3,5 3,50 0,00 3,47 0,86 [3,4] 14,3
6 1,8 1,76 2,22 1,82 1,11 2,0 11,1
7 -2,3 -2,31 0,43 -2,30 0,00 -2,0 13,0
8 -4,8 -4,76 0,83 -4,77 0,63 -5,0 4,2
9 5,0 5,00 0,00 4,96 0,80 5,0 0,0
10 0,5 0,50 0,00 0,47 6,00 [0,1] 18,0
%Error Promd. 0,35 1,52 7,72

Tabla 1. Tabla comparativa de la entrada estimada 𝑥 con los decoder SML, SMAP y Winner all take,
empleados en la población de 20 neurona con con µ distribuidas uniformemente entre [-10,10]

Se puede observar que el método SML es el que mejor estimación puede hacer dada una entrada
𝑥, ya que genero menor porcentaje de error de los tres métodos. Aun así el método SMAP mostro
una mejor estimación ante entradas mas precisas o valores intermedios entre los centros
gaussianos.
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 8

Caso 2: Considerando los centros de las Gaussianas 𝜇 aleatoriamente distribuidos entre -10 y 10
en el eje 𝑥.

(d) Grafique las curvas de selectividad de las 20 neuronas en un solo gráfico.

Tal como se hizo en el punto b se graban las tasas de disparo de cada neurona con la diferencia
que cada neurona posee su centro de Gaussiana en valores aleatorios en el rango [ -10, 10]. Luego
se graficó las 20 curvas de selectividad gaussiana de las 20 neuronas mostrado en la figura 5 para
50 valores de 𝑥

Figura 5. Curvas de selectividad de una población de 20 neuronas con µ distribuidas aleatoriamente

entre [-10,10].

Se puede observar que no todas las curvas de selectividad gaussianas aparecen. Esto debido a
que los centros es una variable aleatoria, este puede repetir sus valores, por lo cual hay valores
enteros en rango de [-10, 10] que no aparecen. Al ingresar valores de estímulos 𝑥 en los cuales
no existe un centro gaussiano, las tasas de disparos se distribuirán en las demás curvas gaussianas
que estén más cerca.

(e) Sea 𝑥 una variable aleatoria que distribuye uniformemente en el intervalo [−5 , 5]. Tome 10
realizaciones de 𝑥, y para cada una de ellas estime el vector de respuesta de la población de
neuronas 𝑟 similar al punto (b).
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 9
Se genero un vector aleatorio de medias para cada centro gaussiano de cada neurona. Luego se
utilizó el mismo vector aleatorio de entrada 𝑥 usado en el caso 1 y se almaceno cada uno de los
vectores de población generados. En la figura 6 se observan dos triales para dos entradas 𝑥 =
1 𝑦 𝑥 = −2. Debido a que en el vector de medias aleatorias el valor de 1 se encuentra
desplazado en el eje de su valor real, y aparece en la neurona con el valor de 5 en su centro
gaussiano, es en este valor que se muestra una alta tasa de disparo, así como en el valor de 0,
cuyo centro gaussiano se encuentra en el valor de -2, mostrando ahí una segunda tasa alta de
disparos. Lo mismo sucede en el segundo ejemplo en donde su entrada 𝑥 = −2 genera que las
neuronas con centros gaussianos en -2 y 7 una tasa alta de disparos.

Figura 6. Izquierda. Conteo de spike generados por una entrada aleatoria 𝑥 = 1 y de una población de 20
neuronas con µ distribuidas aleatoriamente entre [-10,10]. Derecho. Tasa de disparo de una población de
20 neuronas y entrada x = 1

Figura 7. Izquierda. Conteo de spike generados por una entrada aleatoria 𝑥 = -2 y de una población de 20
neuronas con µ distribuidas aleatoriamente entre [-10,10]. Derecho. Tasa de disparo de una población de
20 neuronas y entrada x = -2
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 10

(f) Utilizando la información contenida en el vector 𝑟 del punto (e) estime el estímulo de entrada
𝑥 utilizando: winner-take-all decoding, center-of-mass decoding y maximum-
likelihood/maximun-a-posteriori decoding. Compare y comente.

SML SMAP Winner

Trial Xin Valor estimd %Error Valor estimd %Error Valor estimd %Error
1 3,0 2,78 7,33 2,69 10,33 3,0 0,0
2 4,0 3,80 5,00 3,63 9,25 [5,3] 25,0
3 0,0 0,00 0,00 0,00 0,01 0,0 0,0
4 -2,5 -2,21 11,60 -2,10 16,00 -2,0 16,6
5 3,5 3,13 10,57 3,00 14,29 3,0 14,3
6 1,8 1,96 8,89 1,88 4,44 2,0 11,1
7 -2,3 -2,00 13,04 -1,87 18,70 -2,0 13,0
8 -4,8 -4,56 5,00 -4,29 10,63 -5,0 4,2
9 5,0 5,40 8,00 5,19 3,80 5,0 0,0
10 0,5 0,50 0,00 0,48 4,00 [0, 1] 18,0
%Error Promd. 6,94 9,14 10,22

Tabla 2. Tabla comparativa de la entrada estimada 𝑥 con los decoder SML, SMAP y Winner all take,
empleados en la población de 20 neurona con con µ distribuidas aleatoriamente entre [-10,10]

De la misma forma que en el punto c, dados los 10 vectores de población generados en el punto
anterior, se aplicaron los métodos de dedoder SML, SMAP y Winner all take. Usando el mimo
vector de entrada aleatorio, se generó un trial para cada valor y se estimó dicho valor en cada
una de las técnicas, utilizando las ecuaciones (2), (5) y (8). De igual manera se obtuvo el
porcentaje de error de cada estimación y se obtuvo su promedio porcentual de error para cada
método, para comparar cada método y ver cuál es más eficiente. Los resultados son mostrados
en la tabla 2.

A pesar de tener centros gaussianos distribuidos de forma aleatoria, se puede observar que el
método SML sigue siendo el que mejor estimación puede hacer dada una entrada 𝑥, ya que
genero menor porcentaje de error de los tres métodos. El método Winner all take, es el mas
básico de los 3, no pudiendo dar estimaciones ante valores intermedios, pero sigue siendo un
estimador simple eficiente ante entradas de valores enteros.
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 11

Conclusión

En base a los resultados obtenidos en la tabla 1 y 2 se puede observar que el método de estimación de
máxima verosimilitud es que menor error genera al momento de estimar su valor de entrada, aunque
no es tan eficiente ante valores de entradas racionales. También existe el problema de que si una
neurona con un valor de estímulo preferido 𝑆 es mucho mayor que el valor de estímulo real 𝑆, la tasa
de activación promedio de esta neurona es esencialmente cero, ya que 𝑆 > 𝑆,. Para una distribución
de Poisson, la tasa cero implica variabilidad cero y no habría problema, pero si esta neurona dispara uno
o más picos ante una fuente de variabilidad que no es de Poisson, esto causará un gran error en la
estimación debido al gran factor de ponderación que posee 𝑆 .

Se puede observar que el método de estimación MAP es similar al ML, pero la estimación MAP, puede
diferir de ML si la densidad de probabilidad 𝑃[𝑠] depende de s, además nos permite incluir valores
previos de estímulo en la estimación de decodificación, lo cual permite ser mas precisos ante valores de
entradas racionales.

Se puede determinar que un decodificado es eficiente por medio del sesgo y la desigualdad de Cramer-
Rao [1]. Estos dos valores permiten determinar la varianza y sesgo ante una estimación de un estímulo y
determinar si un decodificador es eficiente. En base a los resultados encontrados en la literatura y los
encontrados en este trabajo se puede concluir que la estimación de máxima verosimilitud (SML) es el
mejor decodificador en el sentido de que es imparcial y eficiente.
IPD477 – Bioingeniería Electrónica
Prof. María José Escobar S.
2do semestre del 2019 12

Bibliografía

[1] Quiroga, R. Q., & Panzeri, S. (2009). Extracting information from neuronal populations: information
theory and decoding approaches. Nature Reviews Neuroscience, 10(3), 173-185.

[2] Dayan, P., & Abbott, L. F. (2001). Theoretical neuroscience: computational and mathematical
modeling of neural systems. Capitulo 3.