p (xi , y j ) H max ( x ) = log n

i (xi , y j ) = log
n
H ( X ) = −∑ p (xi ) log p (xi )
p (xi / y j ) =
p ( xi , y j )
i(xi ) = −λ log B p( xi ) p ( xi ) ⋅ p ( y j ) i =1
p( y j )
 
H (X )
( )
H X n = nH ( X ) Ht (X ) =
H (X )
τ
· Rs = H max ( X ) − H ( X ) ρ s = 1−
H max ( X )  

⎡ p( y1 / x1) p( y2 / x1)...... p( ym / x1)⎤ ⎡ p ( x1 / y1 ) ... p ( xn / y1 ) ⎤

H (X )
P[Y / X] =⎢⎢p(y1 / x2) p( y2 / x2)...... p( ym / x2)⎥⎥ ∑ p( y j / xi ) = 1 P[ X/Y ] = ⎢⎢ ... ⎥
∑ p(x / yj )=1
n
ηs = = 1 − ρs
m

H max ( X )
... ... ⎥ i

⎣⎢ p (x1 / ym ) ... p ( xn / ym )⎦⎥

i =1
⎢⎣ p( y1 / xn ) p( ym / xn )⎥⎦
j =1
...
⎡ p( x1 , y1 ) p( x1 , y 2 ) ... p( x1 , y m )⎤
n
H ( X ) = −∑ p( xi ) log p( xi )
H ( X , Y ) = H (Y ) + H ( X / Y )
⎢ p(x , y ) p( x 2 , y m )⎥⎥ H( X /Y) = −∑∑p(xi , yj )logp(xi / yj ) H ( X , Y ) = H ( X ) + H (Y / X )
m n
p(x2 , y 2 ) ... i =1
[P( X , Y )] = ⎢ 2 1 m
⎢ ... ... ... ... ⎥ H (Y ) = −∑ p( y j ) log p( y j ) j=1 i=1 I ( X , Y ) = − H ( X , Y ) + H ( X ) + H (Y )  
⎢ ⎥
H(Y / X ) = −∑∑p(xi , yj )logp( yj / xi )
n m

⎣ p( xn , y1 ) p(xn , y 2 ) p( x n , y m )⎦
...
j =1         = H ( X ) − H ( X / Y )  
 
H( X ,Y ) = −∑∑ p(x , y )log p(x y )
n m
i=1 j=1        = H (Y ) − H (Y / X )  
∑ p(x , y ) = p( y ) ,  ∑ p (xi , y j ) = p ( xi )  ,  ∑∑ p(x , y ) = 1
n m n m i j i j
i j j i j
i=1 j=1  
i =1 j =1 i =1 j =1
 
def
C = max{I ( X , Y )} = max[ H ( X ) − H ( X / Y )] = max[ H (Y ) − H (Y / X )]  
C max I ( X , Y ) I ( X ,Y ) Csim = log n + (1 − p) log(1 − p) + p log p − p log(n − 1)
Ct = = τ = ∑τ i poi I t =
τ τ    τ Cbinsim = 1 + [ p log p + (1 − p) log(1 − p)] = 1 − H ( p)
 
def
 
Rc = C − I ( X , Y )   ρc = Rc = 1− I ( X , Y ) ηc = I ( X , Y )  
C C   C
| | | |
| | | ·  
… … …   |
… … …
| | … | …  
  |
Λ  
| | | |
| | | Criteriul plauzibilitatii maxime:  1; 
… … …
 
   Criteriul observatorului   ideal: ; 
| | … |
      Criteriul probabilitatii a posteriori maxime: 
1
     p(xˆi / x j ) = ∑ p( yk / x j )p( xˆi / yk )  
m
|
| ·
|
1 1
1 
2
k =1
2
 
   
·   C max   log 1 
1
 
   
 
· log  
 
1 1