Mnimos cuadrados no lineales

El mtodo de mnimos cuadrados no lineales busca calcular parmetros que determinan

un modelo a partir de datos reales, estos parmetros resultan a veces difciles de
calcular, por ejemplo, si se tiene un modelo Mx(z)=xzx se desea calcular el parmetro x
de tal manera que cierto conjunto de datos se ajuste de la mejor manera al modelo,
como x se encuentra como exponente y coeficiente el problema de mnimos cuadrados
a resolver tiene que ser no lineal.
Por ejemplo, si se tiene un modelo con la siguiente ecuacin:

El mtodo de mnimos cuadrados no lineales se debe minimizar la siguiente expresin:

Se tiene que derivar la expresin anterior (con respecto a B) para as poder obtener
condiciones de primer y segundo orden para poder calcular el mnimo.

Posteriormente se iguala a cero la expresin derivada parcial:

Cuando la expresin esta igualada a cero, se obtuvieron las ecuaciones normales del
modelo.
Existen distintos mtodos para la resolucin de mnimos cuadrados no lineales, por
ejemplo, el mtodo de Newton o el mtodo de Gauss-Newton.
El mtodo de Gauss-Newton slo necesita el clculo de las primeras derivadas para el
clculo del gradiente, consiste en que primero se debe minimizar la funcin f(x)

Posteriormente se calculan los componentes del gradiente :

Despus se calcula la matriz Hessiana, aunque muchas veces se dificulta calcularla o
incluso puede ser imposible calcularla, si esto ocurre se debern calcular n2 derivadas
parciales dobles, de lo cual se obtiene:

Se obtiene un sistema de ecuaciones algebraicas y solamente se tienen que resolver para obtener
la solucin:

Referencias

Hctor Martnez e Ivonne Rivas. (2014). El problema de mnimos cuadrados no lineales: mtodos
de solucin.14/09/2016, de Universidad de los Andes Sitio web:
http://www.unicauca.edu.co/matematicas/eventos/optimizacion/ponencias/H%C3%A9ctor-
Mart%C3%ADnez.pdf
Jose Luis de la Fuente O'Connor. (2015). Mnimos cuadrados no lineales. 14-09-2016, de
Universidad politcnica de Madrid Sitio web:
http://www.jldelafuenteoconnor.es/Clase_mincua_nolineal_2016.pdf