Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Dialnet InformacionYEntropiaEnEconomia 3812950 PDF
Dialnet InformacionYEntropiaEnEconomia 3812950 PDF
ECONOMÍA
Álvaro Montenegro*
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
200 Álvaro Montenegro
Cuadro 1
Código Morse
A .– M –– Y –.– – 6 –....
B –... N –. Z – –.. 7 – –...
C –.–. O ––– Ä .–.– 8 – – –..
D –.. P .– –. Ö – – –. 9 – – – –.
E . Q – –.– Ü ..– – . .–.–.–
F ..–. R .–. Ch –––– , – –..– –
G – –. S ... 0 ––––– ? ..– –..
H .... T – 1 .– – – – ! .._ _.
I .. U ..– 2 ..– – – : – – –...
J .– – – V ...– 3 ...– – “ .–..–.
K –.– W .– – 4 ....– ‘ .– – – –.
L .–.. X –..– 5 ..... = –...–
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 201
MÉTRICA DE LA INFORMACIÓN
Gráfica 1
I
0 1 P
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
202 Álvaro Montenegro
ENFOQUE TÉCNICO
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 203
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
204 Álvaro Montenegro
ENTROPÍA
Ahora definimos:
n n
I (S)I (S) n= P log1 1 n
H =H = N = Pi logi 2 2=P = Pi log Pi log P
2 Pi 2 i
N i =1 i =1 Pi i i =1 i =1
limPlim
P0+loPg P
log=P0= 0
P 0+
Información y entropía en economía 205
LA ENTROPÍA EN LA FÍSICA
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
206 Álvaro Montenegro
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 207
ENTROPÍA MULTIVARIADA
igual a 0 si P(x/y) = 1 para algún x e igual a logL si P(x/y) = 1/L para todo
x.
Haciendo uso de P(x, y) = P(x)P(y/x) = P(y)P(x/y), la entropía conjunta
puede relacionarse con la entropía condicional a través de:
H(X, Y ) = H(X) + H(Y/X) = H(Y ) + H(X/Y )
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
208 P(x, y) Álvaro Montenegro
I (X ;Y) = H(X ) H(X / Y) = H(Y) H(Y / X ) = ΣΣP(x, y)log P(x)P( y)
x X y Y
Gráfica 2
H(X, Y)
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 209
H(X)==–∫ƒ
H(X) –∫ƒ (x)log
X(x)log
X
ƒX(x)dx
ƒX(x)dx
f X ,Y (x, y)
H(X / Y) = H(X ,Y) H(Y) = f X ,Y (x, y)log dx dy
f Y ( y)
f X ,Y (x, y)
I (X ;Y) = H(X ) + H(Y) H(X ,Y) = f X ,Y (x, y)log dx dy
f X (x) f Y ( y)
APUESTAS
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
210 Álvaro Montenegro
1 1 VNVN WW LL
G =Glim
= lim loglog
1 = NVlim
=Nlim log(1
W+ +) + )N+ log(1
log(1 L ) =) (1= (1p)log(1
log(1 + +) + )plog(1
p)log(1 + plog(1 ) )
N NN V N
N V
G = lim 0 log0 N N
= lim log(1 + N) + log(1 ) = (1 p)log(1 + ) + plog(1 )
N N V0 N N N
donde G es la ganancia por período en 2GN = VN/V0 (si en vez del lo-
garitmo en base 2 usamos el logaritmo natural, la expresión es eGN
= VN/V0). Esta expresión se maximiza con respecto a derivando e
igualando a 0, y se obtiene:
1 1p p p p
= 0=, 0de donde
, de donde = 1= 12 p 2 p
1 +1 + 1 1 p1 p = 0 , de donde = 1 2 p
1+ 1
Remplazando en G, obtenemos:
Gmax = (1 – p)log2(1 – p)+plog2p = 1 + (1 – p)log(1 – p)+plogp
Gmax
Gmax= (1 – p)log2(1
= (1 – p)+plog2p
– p)log2(1 = 1= +1 (1
– p)+plog2p – p)log(1
+ (1 – p)+plogp
– p)log(1 – p)+plogp
Gque
max = (1 – p)log2(1 – p)+plog2p = 1 + (1 – p)log(1 – p)+plogp
depende de la entropía de la transmisión. Nótese que, por ser una
entropía binaria, la cantidad (1 – p)log(1 – p)+plogp varía entre 0 y -1, con
lo cual 0 ≤ Gmax ≤ 1. Kelly muestra que, en el largo plazo, un apostador
que escoja la fracción así obtenida, superará a otro que invierta una
fracción diferente.
Generalizando, en el segundo caso Kelly supone varios mensajes
de entrada excluyentes, s, y no necesariamente equiprobables. La
información privilegiada –en el sentido de que al apostador se le
transmite el resultado (de una carrera de caballos, p. ej.) antes que el
público en general lo conozca– puede estar distorsionada por ruido
o porque el apostador no confía plenamente en su fuente. Por ello se
involucran probabilidades condicionales en el cálculo. Kelly supone
que el apostador mantiene invertido todo su capital:
ΣΣΣa(saa(s
/ r)/ r)
=1 1
r ) =/=
(s /a(s 1r) = 1
s
s Σ s
s
VN = Π [a(s / r ) ] V0
W
s
r ,s
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 211
G = lim
s log
= V P(s)log= P(s,r+)logP(s,r a(s / r )a(s / r )
N= NP(s)log
0 s +r ,s
P(s,r
s )logs a(s)log/ r)
= P(s)log s s +
s P(s,rr ,s)log a(s / r )
r ,s
s
= P(s)log sr ,s+ P(s,r )log a(s / r )
s r ,s
L =. LaP(s,r expresión
) log a(s / r )del(1lagrangiano L , sujetoa(s a / r) = 1 , es:
a(s/r) L a(s / r ) = 1
a(s / Lr ))
L = s P(s,r ) log a(s / r ) (1 L s
a(s / r )) a(s / rs ) = 1 s
L = P(s,r s
) log a(s / r ) (1 a(s
s
/ rL)) s
a(s / r ) = 1
s s s
L =
L = P(s,r ) log a(s / r ) (1 P(s,r ) log a(s / r ) (1
a(s / r ))a(s / r ))
L = P(s,rs ) log a(s s / r) (1 a(s / rs )) s
cuyas
s condiciones
L = P(s,r ) log a(s / r ) (1
de sprimer orden son:
a(s / r ))
Ls P(s,r ) s
L = P(s,r ) =0
a(s / r ) = a(s / r ) =0
La(s / r )P(s,r a(s) / r )
= =0
a(s / r )L a(s L/P(s,r r ) ) P(s,r )
=) = =0 =0
L L P(s,r
L ==/1r )a(sa(s
a(s /a(s
r )//=rr)a(s
0) = 0/ r )
a(s / r )L =a(s 1 /P(s,r
r ) a(s ) / r) = 0
L = ss =0
a(s= /1r ) a(s a(s//rr)) = 0
L s L
L = 1 = a(s 1 / r )a(s = 0/ r ) = 0
= 1De la a(sprimera
/ rs ) = 0 s condición se obtiene:
L
= 1s a(s / r ) = 0
s 1
a(s / r ) = 1 P(s,r )
a(s / r ) = P(s,r )
s
1 s
a(s
s
/ r) = P(s,r
s
)
s s1 1
a(s1/ r ) = a(s / r ) =P(s,r ) P(s,r )
a(s / rs ) = s P(s,rs ) s
s 1
a(s / r ) = s P(s,r )
= P(s,r )s
s
= s P(s,r
Revista de )Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
= P(s,r s
)
s
= P(s,r = ) P(s,r )
= P(s,rs ) s
s
= P(s,r )
1
a(s / r ) = P(s,r )
s s
212 Álvaro Montenegro
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 213
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
214 Álvaro Montenegro
Aplicaciones en finanzas
T greso:
= i
yi log Nyi
i
T= yi log Nyi
T= i yi log Nyi
i
H( y) = yi log yi
Para y) ello,
H(H( = i = en
y) y la
yi loglogyi fórmula
yi de la entropía remplazó la probabilidad por
yH( y) =proporción
i y logi y
,i la ii i del ingreso total correspondiente al individuo i. Con
H( y) = i
yi log yi
esta notación,
i
la entropía del ingreso es:
H( y) = yi log yi
H( y) = i yi log yi
i
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
216 Álvaro Montenegro
2
Ver Akaike (1974) o Anderson et al. (2000).
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 217
anterior se simplifica:
DKL = C – Ef[log g(x)]
Ejercicio econométrico
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
218 Álvaro Montenegro
Gráfica 3
Alcoa – variación porcentual del precio diario de cierre
(26 de septiembre de 2006-14 de septiembre de 2010)
0,3
0,2
0,1
0,0
-0,1
-0,2
250 500 750
Gráfica 4
Estimación Kernel de la distribución de probabilidad de la
variación porcentual del precio de Alcoa
0,016
0,012
0,008
0,004
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 219
Gráfica 5
Alcoa – contenido de información de la variación del precio vs. tiempo
12
11
10
9
8
7
Gráfica 6
Variable de información
-1
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
220 Álvaro Montenegro
CONCLUSIÓN
REFERENCIAS BIBLIOGRÁFICAS
1. Akaike, H. “A New Look at the Statistical Model Identification”, Tran-
sactions on Automatic Control 19, 1974, pp. 716-723.
2. Anderson D., K. Burnham y W. Thompson. “Null hypothesis testing:
Problems, prevalence and an alternative”, Journal of Wildlife Management
64, 4, 2000, pp. 912-923.
3. Brémaud, P. An introduction to probabilistic modeling, Springer-Verlag,
1988.
4. Burnham, K. “Multimodel inference: Understanding AIC and BIC in
model selection”, paper presented at the Amsterdam Workshop on Model
Selection, August 27-29, 2004.
5. Cameron C. y F. Windmeijer. “An R squared measure of goodness of fit
for some common nonlinear regression models”, Department of Econo-
mics, University of California, Davis, 1995.
6. Chen, J. “Information, entropy and evolutionary finance”, Working Paper,
School of Business, University of Northern British Columbia, 2002.
7. Chen P. y F. Alajaji. “Lecture notes on information theory”, Department
of Communications Engineering, National Chiao Tung University, and
Department of Mathematics & Statistics, Queen’s University, 2005.
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221
Información y entropía en economía 221
Revista de Economía Institucional, vol. 13, n.º 25, segundo semestre/2011, pp. 199-221