1. Distribución del Estimador MCO

En este apartado llegaremos a demostrar que, si se cumplen los supuestos sobre el Modelo Lineal General vistos en el Tema 2, entonces la distribución del vector de coeficientes estimados por MCO (Mínimos Cuadrados Ordinarios) es la siguiente:

A partir de la distribución del estimador del vector de coeficientes estimados por MCO, se obtendrá el estadístico pivote que nos servirá para construir intervalos de confianza del verdadero valor de los parámetros poblacionales (desconocidos). También demostraremos que, si se cumplen determinados supuestos, la matriz de varianzas y covarianzas (MVC de aquí en adelante) de los coeficientes estimados es la más pequeña de todas las MVC entre todos los estimadores lineales e insesgados de β. Así, debido a que:

Entonces se podrá decir que el vector de coeficientes estimados por MCO es el estimador lineal e insesgado óptimo de β, cuando se dan los supuestos en el Modelo Lineal General.

1ª Demostración: El vector de coeficientes tiene distribución normal

El estimador por MCO del vector de parámetros poblacionales β es:

W es una matriz de dimensión k × n y es no estocástica, porque uno de los supuestos del Modelo Lineal General es que las variables explicativas contenidas en la matriz X son no estocásticas. Cada uno de los elementos del vector de coeficientes estimados por MCO es una combinación lineal del vector y. Así, para j = 1, 2, …, k, se tiene que:

Donde wj,1, wj,2, …, wj,n son los elementos de la fila j-ésima de la matriz W e y1, y2, …, yn son los elementos del vector y. Puesto que el vector y se distribuye como una Normal (debido a que y = Xβ + ε, donde a ε se le supone una distribución Normal, y donde Xβ es un término no estocástico de y, por ser X no estocástica y β un vector de parámetros), entonces cada uno de los coeficientes estimados por MCO es una combinación lineal de Normales y, por lo tanto, es Normal.

2ª Demostración: El vector de coeficientes estimados es insesgado

El estimador por MCO del vector de parámetros poblacionales β es:

Si operamos en dicha expresión, se tiene que:

Si tomamos esperanzas en la expresión anterior, se llega a que:

Pero, por un lado, como el vector de parámetros poblacionales β es un vector de constantes y, por otro, X es una matriz de variables no estocásticas, entonces se cumple la insesgadez.

3ª Demostración: Obtención del MVC del vector de coeficientes

Vamos a demostrar que la MVC del vector de coeficientes estimados por MCO del vector de parámetros poblacionales β tiene la siguiente expresión:

Y, además, vamos a demostrar (a partir de la diapositiva 53) que es la mínima MVC de entre todas las MVC de los estimadores lineales e insesgados. Por definición, la MVC del vector de coeficientes estimados por MCO viene dada por:

Pero, como hemos visto en la demostración de la insesgadez del vector de coeficientes estimados, se tiene que:

• 1. El vector de coeficientes estimados es insesgado, es decir: E(b) = β.
• 2. El vector de coeficientes estimados se puede expresar en función del vector de parámetros poblacionales de la siguiente manera:

Por otro lado, dados los supuestos de no autocorrelación y de homocedasticidad del vector de perturbaciones del Modelo Lineal General, se tiene que E(εε´) = σ²I, por lo que se obtiene la expresión buscada.

4ª Demostración: Optimalidad del vector

Teorema de Gauss-Markov

Si se cumplen los supuestos del Modelo Lineal General, entonces el vector de coeficientes estimados por MCO es el estimador con menor matriz de varianzas y covarianzas de entre todos los estimadores lineales e insesgados del vector de parámetros poblacionales del modelo.

Sea b = Cy cualquier otro estimador lineal del vector de parámetros β. Para que b sea insesgado, se tiene que cumplir que CX sea igual a I. Si CX = I, entonces:

La MVC del estimador b es, por definición:

Pero, suponiendo que efectivamente CX = I, entonces E(b) = β y, además, se tiene que:

Puesto que C = W + D (esto sucede siempre), entonces se tiene que:

Vamos a demostrar, analizando cada matriz de la expresión (3.4), que la MVC del estimador lineal genérico b es mayor que el del vector de coeficientes estimados por MCO. Así:

• 1. En primer lugar, puesto que W = (X´X)⁻¹X´, entonces se derivan las propiedades de la matriz.
• 2. En segundo lugar: Como hemos supuesto que CX = I, entonces trasponiendo los dos lados de la igualdad, también se tendrá que X´C´ = I´. Además, sabemos que W = (X´X)⁻¹X´, por lo que se tiene la relación correspondiente.
• 3. En tercer lugar, puesto que σ²WD´ = 0, entonces si trasponemos esta expresión, se tiene que su traspuesta también es cero.
• 4. En cuarto lugar: La matriz resultante es una matriz semidefinida positiva.

Así, volviendo a la expresión (3.4), se tiene que:

Por lo tanto, podemos concluir que:

Es decir, el vector de coeficientes estimados por MCO tiene la menor MVC de los estimadores lineales e insesgados.