Тема 3. Метод наименьших квадратов

Содержание

1. Тема 3. Метод наименьших квадратов
2. Суть регрессионного анализа1 вопрос
3. Цель регрессионного анализаТермин «регрессия» был введен Фрэнсисом Гальтоном в конце 19 века.
4. Виды регрессии
5. Простая (парная) регрессия представляет собой модель, где
6. Спецификация модели - формулирование вида модели, исходя
7. Спецификация линейной модели парной регрессииYi - фактическое
8. Эмпирическое уравнение линейной регрессииYxi - теоретическое (среднее)
9. Теоретическая линейная модель парной регрессииα – свободный
10. Типы ошибок в регрессии
11. Методы выбора типа уравнения регрессии
12. XYXY00
13. YXXY00
14. YXXY00
15. 2 вопрос
16. YX0YxiYiεi
17. Суть метода наименьших квадратов (МНК) - оценки
18. Оценка параметров регрессии
19. Оценка параметров регрессии
20. В силу несовпадения статистической базы для генеральной
21. Предпосылки МНКМатематическое ожидание случайного отклонения εi равно
22. Предпосылки МНК3. Случайные отклонения εi и εj
23. Свойства МНК-оценокТеорема Гаусса- Маркова. Если предпосылки МНК
24. Слайд 24
25. Предсказание среднего значения зависимой переменной4 вопросПо уравнению
26. Предсказание индивидуальных значений зависимой переменнойmyxp – стандартная
27. Доверительный интервал линии регрессииY0XXсрYсрXp Yp
28. Классы нелинейных регрессий5 вопросЕсли между экономическими явлениями
29. Регрессии, нелинейные относительно переменных
30. Регрессии, нелинейные по оцениваемым параметрам
31. Слайд 31
32. Скачать презентанцию

Суть регрессионного анализа1 вопрос

Главная
Разное
Тема 3. Метод наименьших квадратов

Слайды и текст этой презентации

Слайд 1Тема 3. Метод наименьших квадратов
Спецификация линейной модели парной регрессии.
2. Оценки

параметров линейной регрессии. Метод наименьших квадратов (МНК).
3. Предпосылки МНК и

свойства МНК-оценок.
4. Интервалы прогноза по линейному уравнению регрессии.
5. Нелинейная парная регрессия, ее линеаризация и применение.

Тема 3. Метод наименьших квадратовСпецификация линейной модели парной регрессии.2. Оценки параметров линейной регрессии. Метод наименьших квадратов (МНК).3.

Слайд 2Суть регрессионного анализа
1 вопрос

Слайд 3Цель регрессионного анализа
Термин «регрессия» был введен Фрэнсисом Гальтоном в конце

19 века.

Слайд 4Виды регрессии

Слайд 5Простая (парная) регрессия представляет собой модель, где среднее
значение зависимой

переменной Y рассматривается как функция
одной независимой переменной X:
Множественная регрессия

представляет собой модель, где среднее
значение зависимой переменной Y рассматривается как функция
нескольких независимых переменных X1, X2, …, :

Простая (парная) регрессия представляет собой модель, где среднее значение зависимой переменной Y рассматривается как функция одной независимой

Слайд 6Спецификация модели - формулирование вида модели, исходя из соответствующей теории

связи между переменными. Исследование начинается с теории, устанавливающей связь между

явлениями. (И. И. Елисеева)

Определяется состав переменных и математическая функция для отражения связи между ними.

Спецификация модели - формулирование вида модели, исходя из соответствующей теории связи между переменными. Исследование начинается с

Слайд 7Спецификация линейной модели парной регрессии
Yi - фактическое значение зависимой переменной

Y
Yxi - теоретическое (среднее) значение зависимой переменной Y, найденное из

уравнения регрессии
εi - случайная величина (остаток регрессии)

Спецификация линейной модели парной регрессииYi - фактическое значение зависимой переменной YYxi - теоретическое (среднее) значение зависимой переменной

Слайд 8Эмпирическое уравнение линейной регрессии
Yxi - теоретическое (среднее) значение зависимой переменной

Y, найденное из уравнения регрессии
b - эмпирический коэффициент регрессии
а-

эмпирический свободный коэффициент

В конкретном случае:

ei – оценка теоретического случайного отклонения ε

Эмпирическое уравнение линейной регрессииYxi - теоретическое (среднее) значение зависимой переменной Y, найденное из уравнения регрессии b -

Слайд 9Теоретическая линейная модель парной регрессии
α – свободный коэффициент
β - коэффициент

регрессии
εi – случайное отклонение (возмущение)
Случайное отклонение включает влияние не учтенных

в модели
факторов, случайных ошибок и особенностей измерения. Источники его
присутствия в модели: спецификация модели, выборочный характер
исходных данных, особенности измерения переменных.

Теоретическая линейная модель парной регрессииα – свободный коэффициентβ - коэффициент регрессииεi – случайное отклонение (возмущение)Случайное отклонение включает

Слайд 10 Типы ошибок в регрессии

Слайд 11Методы выбора типа уравнения регрессии

Слайд 152 вопрос

Слайд 16Y
X
0
Yxi
Yi
εi

Слайд 17Суть метода наименьших квадратов (МНК) - оценки параметров таковы, что

сумма квадратов отклонений фактических значений зависимой переменной Y от расчетных

(теоретических) Yx минимальна:

Суть метода наименьших квадратов (МНК) - оценки параметров таковы, что сумма квадратов отклонений фактических значений зависимой переменной

Слайд 18Оценка параметров регрессии

Слайд 19Оценка параметров регрессии

Слайд 20В силу несовпадения статистической базы
для генеральной совокупности и выборки

оценки
параметров регрессии а и b отличаются от теоретических
коэффициентов

α и β и не позволяют сделать вывод,
насколько точно эмпирическое уравнение регрессии
соответствует уравнению для всей генеральной
совокупности.

Доказано, что надежность оценок параметров регрессии
существенно зависит от свойств случайного отклонения ε.
Для получения наилучших МНК-оценок необходимо, чтобы
выполнялся ряд предпосылок относительно ε.

3 вопрос

В силу несовпадения статистической базы для генеральной совокупности и выборки оценки параметров регрессии а и b отличаются

Слайд 21Предпосылки МНК
Математическое ожидание случайного отклонения εi равно нулю
для всех

наблюдений.
2. Дисперсия случайных отклонений εi постоянна. Выполнение данной
предпосылки называется

гомоскедатичностью,
нарушение – гетероскедастичностью.

Предпосылки МНКМатематическое ожидание случайного отклонения εi равно нулю для всех наблюдений.2. Дисперсия случайных отклонений εi постоянна. Выполнение

Слайд 22Предпосылки МНК
3. Случайные отклонения εi и εj являются независимыми друг

от друга
для i ≠ j. Выполнение данной предпосылки говорит от

отсутствии
автокорреляции, нарушение – о присутствии автокорреляции.

4. Случайное отклонение должно быть независимо от объясняющих
переменных

5. Модель линейна относительно параметров

Предпосылки МНК3. Случайные отклонения εi и εj являются независимыми друг от другадля i ≠ j. Выполнение данной

Слайд 23Свойства МНК-оценок
Теорема Гаусса- Маркова. Если предпосылки МНК выполнены,
то МНК-оценки обладают

следующими свойствами:
3. Оценки эффективны, имеют наименьшую дисперсию по сравнению
с

другими оценками, линейными относительно зависимой переменной

1. Оценки являются несмещенными:

2. Оценки состоятельны, так как их дисперсия при увеличении объема
выборки стремится к нулю:

Свойства МНК-оценокТеорема Гаусса- Маркова. Если предпосылки МНК выполнены,то МНК-оценки обладают следующими свойствами:3. Оценки эффективны, имеют наименьшую дисперсию

Слайд 24

Слайд 25Предсказание среднего значения зависимой переменной
4 вопрос
По уравнению регрессии определяется прогнозное

значение зависимой
переменной Yx путем подстановки в уравнение прогнозного значения

Xp.
Точечный прогноз дополняется интервальной оценкой прогноза Yx.

Предсказание среднего значения зависимой переменной4 вопросПо уравнению регрессии определяется прогнозное значение зависимой переменной Yx путем подстановки в

Слайд 26Предсказание индивидуальных значений зависимой переменной
myxp – стандартная ошибка точечного прогноза
S2

– остаточная дисперсия на одну степень свободы
t – СВ, имеющая

распределение Стьюдента с заданной вероятностью.

Предсказание индивидуальных значений зависимой переменнойmyxp – стандартная ошибка точечного прогнозаS2 – остаточная дисперсия на одну степень свободыt

Слайд 27Доверительный интервал линии регрессии
Y
0
X
Xср
Yср
Xp
Yp

Слайд 28Классы нелинейных регрессий
5 вопрос
Если между экономическими явлениями существуют нелинейные
соотношения,

то они выражаются с помощью нелинейных функций

Классы нелинейных регрессий5 вопросЕсли между экономическими явлениями существуют нелинейные соотношения, то они выражаются с помощью нелинейных функций

Слайд 29 Регрессии, нелинейные относительно переменных

Слайд 30 Регрессии, нелинейные по оцениваемым параметрам

Слайд 31

Скачать презентацию

Разделы презентаций

Тема 3. Метод наименьших квадратов

Содержание

Слайды и текст этой презентации

Слайд 1Тема 3. Метод наименьших квадратовСпецификация линейной модели парной регрессии.2. Оценки

параметров линейной регрессии. Метод наименьших квадратов (МНК).3. Предпосылки МНК и

Слайд 2Суть регрессионного анализа1 вопрос

Слайд 3Цель регрессионного анализаТермин «регрессия» был введен Фрэнсисом Гальтоном в конце

19 века.

Слайд 4Виды регрессии

Слайд 5Простая (парная) регрессия представляет собой модель, где среднее значение зависимой

переменной Y рассматривается как функция одной независимой переменной X:Множественная регрессия

Слайд 6Спецификация модели - формулирование вида модели, исходя из соответствующей теории

связи между переменными. Исследование начинается с теории, устанавливающей связь между

Слайд 7Спецификация линейной модели парной регрессииYi - фактическое значение зависимой переменной

YYxi - теоретическое (среднее) значение зависимой переменной Y, найденное из

Слайд 8Эмпирическое уравнение линейной регрессииYxi - теоретическое (среднее) значение зависимой переменной

Y, найденное из уравнения регрессии b - эмпирический коэффициент регрессииа-

Слайд 9Теоретическая линейная модель парной регрессииα – свободный коэффициентβ - коэффициент

регрессииεi – случайное отклонение (возмущение)Случайное отклонение включает влияние не учтенных

Слайд 10 Типы ошибок в регрессии

Слайд 11Методы выбора типа уравнения регрессии

Слайд 12XYXY00

Слайд 13YXXY00

Слайд 14YXXY00

Слайд 152 вопрос

Слайд 16YX0YxiYiεi

Слайд 17Суть метода наименьших квадратов (МНК) - оценки параметров таковы, что

сумма квадратов отклонений фактических значений зависимой переменной Y от расчетных

Слайд 18Оценка параметров регрессии

Слайд 19Оценка параметров регрессии

Слайд 20В силу несовпадения статистической базы для генеральной совокупности и выборки

оценки параметров регрессии а и b отличаются от теоретических коэффициентов

Слайд 21Предпосылки МНКМатематическое ожидание случайного отклонения εi равно нулю для всех

наблюдений.2. Дисперсия случайных отклонений εi постоянна. Выполнение данной предпосылки называется

Слайд 22Предпосылки МНК3. Случайные отклонения εi и εj являются независимыми друг

от другадля i ≠ j. Выполнение данной предпосылки говорит от

Слайд 23Свойства МНК-оценокТеорема Гаусса- Маркова. Если предпосылки МНК выполнены,то МНК-оценки обладают

следующими свойствами:3. Оценки эффективны, имеют наименьшую дисперсию по сравнению с