Разделы презентаций


ЛИНЕЙНАЯ ПАРНАЯ РЕГРЕССИЯ презентация, доклад

Содержание

ПОСТАНОВКА ЗАДАЧИ

Слайды и текст этой презентации

Слайд 1ЛИНЕЙНАЯ ПАРНАЯ РЕГРЕССИЯ
Лекция №2

ЛИНЕЙНАЯ ПАРНАЯ РЕГРЕССИЯЛекция №2

Слайд 2ПОСТАНОВКА ЗАДАЧИ

ПОСТАНОВКА ЗАДАЧИ

Слайд 3МЕТОД НАИМЕНЬШИХ КВАДРАТОВ (МНК)

МЕТОД НАИМЕНЬШИХ КВАДРАТОВ (МНК)

Слайд 4МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
Параметры регрессии определяются из условия минимума остаточной суммы:

МЕТОД НАИМЕНЬШИХ КВАДРАТОВПараметры регрессии определяются из условия минимума  остаточной суммы:

Слайд 5МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

Слайд 6МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
(3)

МЕТОД НАИМЕНЬШИХ КВАДРАТОВ(3)

Слайд 8МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

Слайд 9МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

Слайд 10МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

Слайд 11КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ
Представим последнее соотношение в эквивалентном виде:
где sx, sy -

выборочные средние квадратичные отклонения x и y. Здесь используются нормированные

и центрированные значения x, y. Нормирование позволяет избежать зависимости от их единиц измерения. Центрирование позволяет работать с приращениями.
КОЭФФИЦИЕНТ КОРРЕЛЯЦИИПредставим последнее соотношение в эквивалентном виде:где sx, sy - выборочные средние квадратичные отклонения x и y.

Слайд 12Было определение коэффициента корреляции:
Выборочный коэффициент корреляции:

Было определение коэффициента корреляции:Выборочный коэффициент корреляции:

Слайд 13КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ
Обозначив
получим
r - выборочный коэффициент корреляции
Коэффициент корреляции показывает, насколько величин sy

в среднем изменится y, если x изменится на sx.
Коэффициент корреляции

характеризует тесноту связи X и Y.
КОЭФФИЦИЕНТ КОРРЕЛЯЦИИОбозначивполучимr - выборочный коэффициент корреляцииКоэффициент корреляции показывает, насколько величин sy  в среднем изменится y, если

Слайд 14КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ
С учетом (4) получаем:
Эта формула обычно используется как определение выборочного

коэффициента корреляции
Для расчетов по таблице наблюдений применяется формула:

КОЭФФИЦИЕНТ КОРРЕЛЯЦИИС учетом (4) получаем:Эта формула обычно используется как определение выборочного коэффициента корреляцииДля расчетов по таблице наблюдений

Слайд 15Свойства выборочный коэффициента корреляции
1. -1r1. Чем ближе r к 1,

тем теснее связь.
2. При r=1 корреляционная связь - линейная

(наблюдения располагаются на прямой)
3. При r=0 связь отсутствует, линия регрессии параллельна оси ОХ.

Свойства выборочный коэффициента корреляции1. -1r1. Чем ближе r к 1, тем теснее связь. 2. При r=1 корреляционная

Слайд 16Коэффициент корреляции характеризует тесноту связи

Коэффициент корреляции характеризует тесноту связи

Слайд 17Коэффициент корреляции характеризует тесноту связи

Коэффициент корреляции характеризует тесноту связи

Слайд 18МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ
Согласно методу максимального правдоподобия (ММП), оценки параметров m

и b уравнения регрессии следует искать как точку максимума функции

правдоподобия, т. е. условной плотности вероятности распределения X и Y при заданных m и b :

Для применения ММП необходимо иметь информацию о распределении X и Y.

МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯСогласно методу максимального правдоподобия (ММП), оценки параметров m и b уравнения регрессии следует искать как

Слайд 19Определения ТВ

Определения ТВ

Слайд 20По аналогии совместная плотность распределения двух случайныхз величин Х и

По аналогии совместная плотность распределения двух случайных величин Х и

Y
По аналогии совместная плотность распределения двух случайныхз величин Х и По аналогии совместная плотность распределения двух случайных

Слайд 21МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ
Предположим, что: X - детерминированная величина; 1, …, n-

независимые нормальные одинаково распределенные случайные величины: i~N(0,2).
В этих предположениях соотношение Y=mX+b+ называется

классической нормальной линейной регрессионной моделью (Classical Normal Linear Regression model).


МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯПредположим, что:  X - детерминированная величина; 1, …, n- независимые нормальные одинаково распределенные случайные

Слайд 22В условиях этой модели
МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

В условиях этой моделиМЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

Слайд 23МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ
Для упрощения выкладок можно вместо функции (5) максимизировать

ее логарифм (т. к. логарифм - монотонная функция):
Из (6) следует,

что при известной дисперсии 2 для нахождения оценок МП достаточно минимизировать Qe , и, следовательно, МП-оценка совпадает с НК-оценкой.
МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯДля упрощения выкладок можно вместо функции (5) максимизировать ее логарифм (т. к. логарифм - монотонная

Слайд 24Свойства оценок максимального правдоподобия
Состоятельность
Асимптотическая эффективность
Асимптотическая нормальность, для линейной регрессии -

нормальность
???При нормальном распределении возмущений независимость оценок b и m
(для центрированных

наблюдений)
Свойства оценок максимального правдоподобияСостоятельностьАсимптотическая эффективностьАсимптотическая нормальность, для линейной регрессии - нормальность???При нормальном распределении возмущений независимость оценок b

Слайд 25Свойства оценок: несмещенность
МП-оценки могут иметь смещение!

Свойства оценок: несмещенностьМП-оценки могут иметь смещение!

Слайд 26Свойства оценок: состоятельность
для состоятельной несмещенной оценки выполняется закон больших чисел

Свойства оценок: состоятельностьдля состоятельной несмещенной оценки выполняется закон больших чисел

Слайд 27Свойства оценок: состоятельность
Может использоваться для определения необходимого числа наблюдений, если

задано допустимое отклонение оценки от оцениваемого параметра и допустимая вероятность

отклонения.

Другая формулировка закона больших чисел - неравенство Чебышева:

Свойства оценок: состоятельностьМожет использоваться для определения необходимого числа  наблюдений, если задано допустимое отклонение оценки от

Слайд 28Свойства оценок: эффективность

Свойства оценок: эффективность

Слайд 29Несмещенность оценок параметров регрессии
формула (3)
Доказательство несмещенности параметра m:

Несмещенность оценок параметров регрессии формула (3)Доказательство несмещенности параметра m:

Слайд 30Несмещенность оценок параметров регрессии

Несмещенность оценок параметров регрессии

Слайд 31Несмещенность оценок параметров регрессии

Несмещенность оценок параметров регрессии

Слайд 32Несмещенность оценок параметров регрессии

Несмещенность оценок параметров регрессии

Слайд 33Теорема Гаусса-Маркова
В условиях классической нормальной регрессионной модели оценки (3) имеют

наименьшую дисперсию в классе всех линейных несмещенных оценок.
(3) -

самые эффективные оценки -
Best Linear Unbiased Estimates (BLUE)
Теорема Гаусса-МарковаВ условиях классической нормальной регрессионной модели оценки (3) имеют наименьшую дисперсию в классе всех линейных несмещенных

Слайд 34ОЦЕНИВАНИЕ ДИСПЕРСИИ ВОЗМУЩЕНИЙ
Число неизвестных параметров (m, b)
?для нормированных наблюдений

ОЦЕНИВАНИЕ ДИСПЕРСИИ ВОЗМУЩЕНИЙЧисло неизвестных параметров (m, b)?для нормированных наблюдений

Слайд 35ИНТЕРВАЛЬНЫЕ ОЦЕНКИ
Какие оценки бывают, кроме интервальных?
Что такое точечная оценка?
Как характеризуется

точность точечной оценки?

ИНТЕРВАЛЬНЫЕ ОЦЕНКИКакие оценки бывают, кроме интервальных?Что такое точечная оценка?Как характеризуется точность точечной оценки?

Слайд 36ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

Слайд 37ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ
=1-γ

ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ=1-γ

Слайд 38ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

Слайд 39ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

Слайд 40ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

Слайд 41Квантили T-распределения Стьюдента
Excel: t=СтьюдРаспОбр(, число степеней свободы)

Квантили T-распределения СтьюдентаExcel:   t=СтьюдРаспОбр(, число степеней свободы)

Слайд 42ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ
Выводы из (10), (11):
Точность оценивания

функции линейной регрессии зависит от значения объясняющей переменной х.
Экстраполяция

с использованием линейной регрессии может привести к существенным погрешностям.
ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИВыводы из (10), (11): Точность оценивания функции линейной регрессии зависит  от значения

Слайд 43ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

ИНТЕРВАЛЬНАЯ ОЦЕНКА ЗНАЧЕНИЙ ФУНКЦИИ РЕГРЕССИИ

Слайд 44Доверительный интервал для индивидуальных значений у

Доверительный интервал для индивидуальных значений у

Слайд 45ИНТЕРВАЛЬНАЯ ОЦЕНКА ПАРАМЕТРА ФУНКЦИИ РЕГРЕССИИ
()

ИНТЕРВАЛЬНАЯ ОЦЕНКА ПАРАМЕТРА ФУНКЦИИ РЕГРЕССИИ()

Слайд 46ИНТЕРВАЛЬНАЯ ОЦЕНКА ПАРАМЕТРА ДИСПЕРСИИ ВОЗМУЩЕНИЙ

ИНТЕРВАЛЬНАЯ ОЦЕНКА ПАРАМЕТРА ДИСПЕРСИИ ВОЗМУЩЕНИЙ

Слайд 47Квантили 2-распределения Пирсона
Excel: ,n=ХИ2Обр(, n)

Квантили 2-распределения ПирсонаExcel:   ,n=ХИ2Обр(, n)

Слайд 48Обозначим:
Qe- остаточная сумма
ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ

Обозначим:Qe- остаточная суммаОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ

Слайд 49ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ

ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ

Слайд 50Чем меньше остаточная сумма Qe, тем выше качество модели.
Чем больше

регрессионная сумма QR, тем выше качество модели.
Чем больше отношение QR/Qe,

тем выше качество модели.
Для перехода к стандартному распределению следует рассматривать не суммы, а средние квадраты.

ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ

Чем меньше остаточная сумма Qe, тем выше качество модели.Чем больше регрессионная сумма QR, тем выше качество модели.Чем

Слайд 51ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ
В условиях теоремы Гаусса-Маркова

ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИВ условиях теоремы Гаусса-Маркова

Слайд 52ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ
F показывает, в какой мере регрессия лучше

оценивает значение зависимой переменной по сравнению с ее средним значением
При
гипотеза

(предположение) о незначимости регрессии отклоняется с уровнем значимости .

(!)

Неравенство (!) - правило (критерий) проверки гипотезы о незначимости линейной регрессии, F,k1,k2 - критическое (пороговое) значение F,  - вероятность отклонения гипотезы при условии, что она верна - вероятность ошибки первого рода.

ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИF показывает, в какой мере регрессия лучше оценивает значение  зависимой переменной по сравнению

Слайд 53
Квантили F-распределения Фишера-Снедекора
Excel: F,k1,k2=FРаспОбр(, k1,k2)

Квантили F-распределения Фишера-СнедекораExcel:   F,k1,k2=FРаспОбр(, k1,k2)

Слайд 54ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ

ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ

Слайд 55ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ
Критерий (!) проверки гипотезы о незначимости регрессии может

использовать значение R2 :
В случае парной регрессии: R2=r2

ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИКритерий (!) проверки гипотезы о незначимости регрессии может использовать значение R2 :В случае парной

Слайд 56ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ
Другой способ оценки значимости уравнения регрессии -

проверка гипотезы m=0
Правило проверки гипотезы о незначимости уравнения регрессии: гипотеза

отклоняется при t>t,n-2, (!!) где  - заданная вероятность ошибки 1 рода (уровень значимости)
Для парной регрессии правила(!) и (!!) эквивалентны и F=t2

Для парной регрессии значимость уравнения регрессии эквивалентна значимости коэффициента регрессии

ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИДругой способ оценки значимости уравнения регрессии -  проверка гипотезы m=0Правило проверки гипотезы о

Слайд 57Квантили T-распределения Стьюдента
Excel: t=СтьюдРаспОбр(, число степеней свободы)

Квантили T-распределения СтьюдентаExcel:   t=СтьюдРаспОбр(, число степеней свободы)

Обратная связь

Если не удалось найти и скачать доклад-презентацию, Вы можете заказать его на нашем сайте. Мы постараемся найти нужный Вам материал и отправим по электронной почте. Не стесняйтесь обращаться к нам, если у вас возникли вопросы или пожелания:

Email: Нажмите что бы посмотреть 

Что такое TheSlide.ru?

Это сайт презентации, докладов, проектов в PowerPoint. Здесь удобно  хранить и делиться своими презентациями с другими пользователями.


Для правообладателей

Яндекс.Метрика