ОЦІНЮВАННЯ ПАРАМЕТРІВ МНОЖИННОЇ РЕГРЕСІЇ МЕТОДОМ НАЙМЕНШИХ КВАДРАТІВ

Процедура методу найменших квадратів для моделі (4.2) полягає у визначенні вектора оцінок невідомих параметрів

X

€ »= ^е ',

А,

що відповідає мінімальному значенню суми квадратів відхилень спостережуваних значень залежної змінної від значень, розрахованих за рівнянням регресії (принцип Лежандра [18]). Іншими словами, завдання полягає в мінімізації суми квадратів залишків або залишкової суми квадратів

де - вектор залишків.

З урахуванням раніше введених позначень можна записати:

Далі запишемо необхідна умова екстремуму для завдання (4.3):

Систему (4.4) можна перетворити до вигляду

Співвідношення (4.5) являє собою систему нормальних рівнянь моделі множинної регресії (4.2). Однозначне рішення системи нормальних рівнянь можливо тільки в тому випадку, якщо матриця Х'Х є невироджених. Дана вимога виконується за умови, що матриця X має повний столбцовую ранг. З огляду на це зауваження вектор оцінок невідомих параметрів може бути знайдений в такий спосіб:

Вираз (4.6) отримало назву формули Гаусса - Маркова. Неважко помітити, що оцінка (4.6) є лінійною по Y. Інтерпретація параметрів рівняння (4.2) проводиться аналогічно інтерпретації параметрів рівняння парної регресії.