Optimizari(Regresii) – C6

Aceste metode urmaresc aproximarea unei functii pe care o cunoastem într-un numar dat de
puncte, astfel încat pe acel domeniu de definitie al functiei sa se poata determina o forma analitica a
acesteia.
Se dau (xi, yi), i=1..n si se cere forma analitica a functiei, ptr x din intervalul [x1, xn].
Problema este mai complexa si mai pretentioasa decat problema de interpolare, deoarece trebuie
gasita o functie dintr-un numar nedefinit de modele.

Expunem principiul de baza si facem apoi o discutie particulara pentru 5 cazuri de functii
simple.
Consideram modelele: liniar, hiperbolic, geometric, exponential, trigonometric.
REGRESIA LINIARĂ
m m m
m x i y i   x i  yi
i=1 i=1 i=1
a 2
m   m
m x i2    x i 
i=1  i=1 
m m m m
 xi2  yi   xi  xi yi
i=1 i=1 i=1 i=1
b 2
m   m
m x i2    x i 
i=1  i=1 
nm
E= (yi 1
i  axi  b) 2

REGRESIA HIPERBOLICĂ

m m m
1 x
( xi )( )  m i
i 1 i 1 yi i=1 y i
a 2
 m
 m
  xi   m xi2
 i=1  i=1
m
1 m 2 m
x m
( )( xi )  ( i )( xi )
y i i=1 i=1 y i
b i=1 i=1
2
m
 m 
m x    xi  2
i
i=1  i=1 
m
1
E=  (  axi  b) 2
i 1 y i

REGRESIA EXPONENŢIALĂ

 m 
 ( ln y )( x 2 ) ( x )( ln y x ) 
m m

  i  i  i 

i i
  i=1 i=1 i=1 
a  exp  
  m 2  m  
2

 m xi   xi   

  i=1  i=1   

 
 m x ln y  ( x )( ln y ) 
m m m

   i  i  i 

i
 
b  exp   i=1 i=1 i=1

  m 2  m  
2

 m xi   xi   

  i=1  i=1   

m
E= (y
i 1
i  ab xi ) 2
 REGRESIA GEOMETRICĂ

m  m 2  m  m 
  ln y i    ln  x i     ln  x i    ln  x i  ln y i 
 i=1   i=1   i=1   i=1 
a  exp 2
m  m 
m  ln 2  x i     ln  x i 
 i=1   i=1 
m  m  m 
m  ln y i  ln x i     ln  x i    ln y i 
 i=1   i=1   i=1 
b 2
m  m 
m  ln 2  x i     ln  x i 
 i=1   i=1 
m
E= (y
i 1
i  axib ) 2

REGRESIA TRIGONOMETRICĂ
 m  m  m  m 
  y i    cos  x i     cos  x i    y i cos  x i 
2
 i=1   i=1   i=1   i=1 
a 2
m  m 
m  cos 2  x i     cos  x i 
 i=1   i=1 
m  m  m 
m  y i cos  x i     cos  x i    y i 
 i=1   i=1   i=1 
b 2
m  m 
m  cos 2  x i     cos  x i 
 i=1   i=1 
m
E= (y
i 1
i  a  b * cos( wx i )) 2
2 
 = 2   f = unde f - frecvenţa,  - pulsaţia, iar T - perioada.
T
 se stabileşte funcţie de periodicitatea funcţiei numerice date.

Coeficientul de corelatie

Interpretarea erorilor de aproximaţie se poate face cu ajutorul coeficientului de corelaţie. Deşi se

calculează un minim al erorii pătratice medii, există şi o interpretare grafică, din punct de vedere geometric. În
final interesează cât de bună este potrivirea unei funcţii alese de noi peste porţiunea din graficul unei funcţii
analitici necunoscute, pentru care cunoaştem doar o evoluţie locală, dată de setul de perechi (xi, yj) de la
intrare.

Dacă avem o serie de n măsurători ale variabilelor X şi Y, sub forma xi si yi, cu i=1,2,…,n atunci
pentru estimarea corelaţiei dintre X şi Y se poate face pe baza coeficientului de corelaţie produs-
moment, cunoscut sub numele de coeficient Pearson. Acesta mai este denumit şi coeficientul de corelaţie
al eşantioanelor. Acest coeficient se scrie astfel:

𝑥∗𝑦̅ ∑ 𝑥𝑖 𝑦̅𝑖
𝑐𝑜𝑠𝜃 = ‖𝑥‖‖𝑦̅‖
=
√∑ 𝑥𝑖2 √∑ 𝑦̅𝑖 2
 Reamintim că valoarea absolută a coeficientului de corelaţie trebuie să fie mai mică sau egală cu 1.
Coeficientul de corelaţie poate fi privit şi drept cosinusul unghiului între doi vectori de eşantioane,
generaţi de două valori aleatoare.

Atenţie: această metodă funcţionează doar cu date centrate, adică acele date care au fost
deplasate cu media eşantioanelor, astfel încât au o medie aritmetică egală cu 0.

Daca considerăm pe x şi y ca fiind doi vectori ordonaţi, cu 5 elemente, conţinând datele exprimate
anterior: x = (1, 2, 3, 5, 8) şi y = (0.11, 0.12, 0.13, 0.15, 0.18)
Datele anterioare au fost alese astfel încât să existe o corelaţie foarte bună între ele:
y = 0.10 + 0.01 x Coeficientul de corelaţie Pearson va trebui să fie exact 1.

Centrând datele (deplasându-l pe x cu valoarea medie E(x) = 3.8 şi pe y cu valoarea medie E(y) = 0.138)
obţinem:
x = (-2.8, -1.8, -0.8, 1.2, 4.2)
şi
y = (-0.028, -0.018, -0.008, 0.012, 0.042),

de unde:

aşa cum ne aşteptam.

Exista mai multe interpretari ale coeficientului de corelatie, dar majoritatea autorilor au convenit sa înterpreteze
aceste rezultate astfel:

Corelaţia Valori negative Valori pozitive

Mic (slabă) −0.29 to −0.10 0.10 to 0.29

Mediu (normală) −0.49 to −0.30 0.30 to 0.49

Mare (puternică) −1.00 to −0.50 0.50 to 1.00

X 1 2 3 4 5
Y 3 5 7 9 11

( y=2x+1 )