значений Y (TSS: общая сумма квадратов) может быть разложена на
сумму квадратов установленных значений (ESS: объясненная сумма квадратов) и сумма квадратов остатков.F-тест на качество оценивания
1
Модель Y = b1 + b2X + u
Разделы презентаций
- Разное
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Геометрия
- Детские презентации
- Информатика
- История
- Литература
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
В более ранней последовательности было показано, что сумма квадратов
Содержание
- 1. В более ранней последовательности было показано, что сумма квадратов
- 2. 2 R2, обычная мера критерия пригодности, тогда
- 3. 3Нулевая гипотеза, которую мы собираемся протестировать, заключается
- 4. 4Так как X является единственной объясняющей переменной
- 5. Гипотезы, касающиеся хорошего соответствия, проверяются по статистике
- 6. 6n - k, как и в t-статистике,
- 7. В качестве альтернативы F-статистика может быть записана
- 8. 8Теперь мы можем переписать статистику F, как
- 9. 9Легко продемонстрировано, что RSS / TSS равно 1 – R2.F КРИТЕРИЙ ПРИГОДНОСТИ
- 10. F - монотонно возрастающая функция R2. С
- 11. 11R2Здесь F изображается как функция R2 для
- 12. 12Если нулевая гипотеза верна, F будет иметь случайное распределение.F КРИТЕРИЙ ПРИГОДНОСТИ R2F
- 13. 13Будет некоторая критическая ценность, которая будет превалировать,
- 14. 14В случае F-теста критическое значение зависит от
- 15. 15Для одной объясняющей переменной и 18 степеней
- 16. 16F КРИТЕРИЙ ПРИГОДНОСТИ Если R2 выше 0,20,
- 17. Если бы мы выполняли 1-процентный тест с
- 18. 18Если R2 выше 0,32, F будет выше,
- 19. Почему мы проводим тест косвенно, через F,
- 20. 20Причина в том, что тест F может
- 21. Обратите внимание, что для простого регрессионного анализа
- 22. 22Ответ, конечно, нет. Мы продемонстрируем, что для
- 23. 23Начнем с замены ESS и RSS их
- 24. 24Знаменатель представляет собой выражение для su2, оценщика
- 25. 25Члены b1 в числителе отменяют. Остальные числители
- 26. 26Мы берем член b22 из суммирования как фактор.F КРИТЕРИЙ ПРИГОДНОСТИ Демонстрация того,что F = t2
- 27. 27We move the term involving X to the denominator.F КРИТЕРИЙ ПРИГОДНОСТИ Демонстрация того,что F = t2
- 28. 28Знаменатель представляет собой квадрат стандартной ошибки b2.F Критерий пригодности Демонстрация того,что F = t2
- 29. 29Отсюда получаем b22 деленный на квадрат стандартной
- 30. 30Можно также показать, что критическое значение F
- 31. 31Поскольку тест F эквивалентен двухстороннему t-критерию в
- 32. 32Тест F будет играть свою роль, когда
- 33. 33Вот результат для регрессии почасовых заработков по
- 34. Прибыль S Источник |
- 35. 35Остаточная сумма квадратов равна 92689.F КРИТЕРИЙ ПРИГОДНОСТИ
- 36. 36Число степеней свободы 540 – 2 =
- 37. 37Знаменатель выражения для F, следовательно, 172,28. Заметим,
- 38. 38Наш расчет F согласуется с тем, что
- 39. 39Мы также проверим статистику F, используя выражение
- 40. 40Мы также проверим связь между статистикой F
- 41. 41Очевидно, это тоже правильно.F КРИТЕРИЙ ПРИГОДНОСТИ ПРИБЫЛЬ
- 42. 42И критическое значение F является квадратом критического
- 43. 43Отношения показаны для уровня значимости 0,1%, но,
- 44. Скачать презентанцию
2 R2, обычная мера критерия пригодности, тогда определялось как отношение объясненной суммы квадратов к общей сумме квадратов.F КРИТЕРИЙ ПРИГОДНОСТИ Модель
Слайды и текст этой презентации
Слайд 1В более ранней последовательности было показано, что сумма квадратов фактических
Слайд 22
R2, обычная мера критерия пригодности, тогда определялось как отношение
объясненной суммы квадратов к общей сумме квадратов.
F КРИТЕРИЙ ПРИГОДНОСТИ
Модель Y = b1 + b2X + u
Слайд 33
Нулевая гипотеза, которую мы собираемся протестировать, заключается в том, что
модель не имеет объясняющей силы.
Модель
Y = b1 + b2X + uF КРИТЕРИЙ ПРИГОДНОСТИ
Слайд 44
Так как X является единственной объясняющей переменной на данный момент,
нулевая гипотеза состоит в том, что Y не определяется X.
Математически мы имеем H0: b2 = 0F КРИТЕРИЙ ПРИГОДНОСТИ
Модель Y = b1 + b2X + u
Нулевая гипотеза: : H0: b2 = 0
Альтернативная гипотеза : H1: b2 ≠ 0
Слайд 5Гипотезы, касающиеся хорошего соответствия, проверяются по статистике F, как показано.
k - количество параметров в уравнении регрессии, которое в настоящее
время составляет всего 25
F КРИТЕРИЙ ПРИГОДНОСТИ
Модель Y = b1 + b2X + u
Нулевая гипотеза : H0: b2 = 0
Альтернативная гипотеза : H1: b2 ≠ 0
Слайд 66
n - k, как и в t-статистике, число степеней свободы
(количество наблюдений за вычетом количества оцениваемых параметров). Для простого регрессионного
анализа это n -2.F КРИТЕРИЙ ПРИГОДНОСТИ
Модель Y = b1 + b2X + u
Нулевая гипотеза: H0: b2 = 0
Альтернативная гипотеза : H1: b2 ≠ 0
Слайд 7В качестве альтернативы F-статистика может быть записана в терминах R2.
Сначала разделите числитель и знаменатель на TSS
7
F КРИТЕРИЙ ПРИГОДНОСТИ
Модель Y = b1 + b2X + uНулевая гипотеза: H0: b2 = 0
Альтернативная гипотеза : H1: b2 ≠ 0
Слайд 88
Теперь мы можем переписать статистику F, как показано. R2 в
числителе прямо вытекает из определения R2.
F КРИТЕРИЙ ПРИГОДНОСТИ
Модель
Y = b1 + b2X + uНулевая гипотеза: H0: b2 = 0
Альтернативная гипотеза : H1: b2 ≠ 0
Слайд 10F - монотонно возрастающая функция R2. С ростом R2 числитель
увеличивается, а знаменатель уменьшается, поэтому по обеим причинам F увеличивается
10
F
КРИТЕРИЙ ПРИГОДНОСТИ Модель Y = b1 + b2X + u
Нулевая гипотеза: H0: b2 = 0
Альтернативная гипотеза: H1: b2 ≠ 0
Слайд 1111
R2
Здесь F изображается как функция R2 для случая, когда имеется
1 поясняющая переменная и 20 наблюдений. Поскольку k = 2,
n – k = 18. H0F КРИТЕРИЙ ПРИГОДНОСТИ
F
Слайд 1212
Если нулевая гипотеза верна, F будет иметь случайное распределение.
F КРИТЕРИЙ
ПРИГОДНОСТИ
R2
F
Слайд 1313
Будет некоторая критическая ценность, которая будет превалировать, как случайность, всего
в 5 процентах случаев. Если мы выполняем 5-процентный тест значимости,
мы отклоним H0 ,если статистика F больше этого критического значения.F КРИТЕРИЙ ПРИГОДНОСТИ
R2
F
Слайд 1414
В случае F-теста критическое значение зависит от количества объясняющих переменных,
а также от количества степеней свободы. Когда есть одна объясняющая
переменная и 18 степеней свободы, критическое значение F при 5-процентном значении уровня составляет 4,41.F КРИТЕРИЙ ПРИГОДНОСТИ
R2
F
4.41
Слайд 1515
Для одной объясняющей переменной и 18 степеней свободы F =
4,41, когда R2 = 0,20.
F КРИТЕРИЙ ПРИГОДНОСТИ
R2
F
4.41
Слайд 1616
F КРИТЕРИЙ ПРИГОДНОСТИ
Если R2 выше 0,20, F будет выше,
чем 4.41, и мы отклоним нулевую гипотезу на уровне 5
процентов.R2
F
4.41
Слайд 17Если бы мы выполняли 1-процентный тест с одной пояснительной переменной
и 18 степенями свободы, критическое значение F было бы 8.29.
F = 8,29, когда, R2 = 0.32.17
F КРИТЕРИЙ ПРИГОДНОСТИ
R2
F
8.29
0.32
Слайд 1818
Если R2 выше 0,32, F будет выше, чем 8.29, и
мы отклоним нулевую гипотезу на уровне 1 процента.
F КРИТЕРИЙ ПРИГОДНОСТИ
R2
F
8.29
0.32
Слайд 19Почему мы проводим тест косвенно, через F, а не напрямую
через R2 ? В конце концов, было бы легко вычислить
критические значения R2 от значений для F.19
F КРИТЕРИЙ ПРИГОДНОСТИ
R2
F
8.29
0.32
Слайд 2020
Причина в том, что тест F может использоваться для нескольких
тестов дисперсионного анализа. Вместо того, чтобы иметь специализированную таблицу для
каждого теста, удобнее иметь только один.F КРИТЕРИЙ ПРИГОДНОСТИ
R2
F
8.29
0.32
Слайд 21Обратите внимание, что для простого регрессионного анализа нулевые и альтернативные
гипотезы математически точно такие же, как для двухстороннего t-теста. Может
ли тест F прийти к другому выводу из t-теста?21
F КРИТЕРИЙ ПРИГОДНОСТИ
Модель Y = b1 + b2X + u
Нулевая гипотеза: H0: b2 = 0
Альтернативная гипотеза: H1: b2 ≠ 0
Слайд 2222
Ответ, конечно, нет. Мы продемонстрируем, что для простого регрессионного анализа
статистика F является квадратом статистики t.
F КРИТЕРИЙ ПРИГОДНОСТИ
Модель
Y = b1 + b2X + uНулевая гипотеза: H0: b2 = 0
Альтернативная гипотеза: H1: b2 ≠ 0
Слайд 2323
Начнем с замены ESS и RSS их математическими выражениями.
F КРИТЕРИЙ
ПРИГОДНОСТИ
Демонстрация того, что F = t2
Слайд 2424
Знаменатель представляет собой выражение для su2, оценщика su2, для простой
модели регрессии. Разбиваем числитель, используя выражение для установленного соотношения.
F КРИТЕРИЙ
ПРИГОДНОСТИ Демонстрация того, что F = t2
Слайд 2525
Члены b1 в числителе отменяют. Остальные числители могут быть сгруппированы,
как показано.
F КРИТЕРИЙ ПРИГОДНОСТИ
Демонстрация того,что F= t2
Слайд 2626
Мы берем член b22 из суммирования как фактор.
F КРИТЕРИЙ ПРИГОДНОСТИ
Демонстрация того,что F = t2
Слайд 2727
We move the term involving X to the denominator.
F КРИТЕРИЙ
ПРИГОДНОСТИ
Демонстрация того,что F = t2
Слайд 2828
Знаменатель представляет собой квадрат стандартной ошибки b2.
F Критерий пригодности
Демонстрация
того,что F = t2
Слайд 2929
Отсюда получаем b22 деленный на квадрат стандартной ошибки b2. Это
t статистика, квадрат.
F Критерий пригодности
Демонстрация того,что F = t2
Слайд 30
30
Можно также показать, что критическое значение F на любом уровне
значимости равно квадрату критического значения t. Мы не будем пытаться
это доказать H0F КРИТЕРИЙ ПРИГОДНОСТИ
Демонстрация того,что F = t2
Слайд 3131
Поскольку тест F эквивалентен двухстороннему t-критерию в простой модели регрессии,
нет смысла выполнять оба теста. Фактически, если это оправдано, односторонний
t-тест будет лучше, чем либо потому, что он более мощный (более низкий риск ошибки типа II, если H0 является ложным)F КРИТЕРИЙ ПРИГОДНОСТИ
Демонстрация того,что F = t2
Слайд 3232
Тест F будет играть свою роль, когда мы придем к
множественному регрессионному анализу.
F КРИТЕРИЙ ПРИГОДНОСТИ
Демонстрация того,чтоF = t2
Слайд 3333
Вот результат для регрессии почасовых заработков по годам обучения для
выборки из 540 респондентов из Национального продольного опроса молодежи.
ПРИБЫЛЬ
SИсточник | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
F КРИТЕРИЙ ПРИГОДНОСТИ
Слайд 34Прибыль S
Источник | SS
df MS
Number of obs = 540-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
Прибыль | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы| -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
34
Мы проверим, что статистика F была рассчитана правильно. Объясненная сумма квадратов (описанная в Stata как модельная сумма квадратов) является 19322.
F КРИТЕРИЙ ПРИГОДНОСТИ
Слайд 3535
Остаточная сумма квадратов равна 92689.
F КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник | SS df
MS Number of obs = 540-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы| -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
Слайд 3636
Число степеней свободы 540 – 2 = 538.
F КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник | SS
df MS Number of obs = 540-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
Слайд 3737
Знаменатель выражения для F, следовательно, 172,28. Заметим, что это оценка
su2. Его квадратный корень, обозначенный в Stata Root MSE, является
оценкой стандартного отклонения u.F КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
Слайд 3838
Наш расчет F согласуется с тем, что на выходе Stata.
F
КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник |
SS df MS Number of obs = 540-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
Слайд 3939
Мы также проверим статистику F, используя выражение для нее в
терминах R2. Мы снова видим, что он согласен.
F КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы| -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
Слайд 4040
Мы также проверим связь между статистикой F и статистикой t
для коэффициента наклона.
F КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник
| SS df MS Number of obs = 540-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы| -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
Слайд 4141
Очевидно, это тоже правильно.
F КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник
| SS df
MS Number of obs = 540-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
Слайд 4242
И критическое значение F является квадратом критического значения t. (Мы
используем значения для 500 степеней свободы, потому что те, для
538, не отображаются в таблице.)F КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
ПРИБЫЛЬ | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
Слайд 4343
Отношения показаны для уровня значимости 0,1%, но, очевидно, это верно
и для любого другого уровня значимости.
F КРИТЕРИЙ ПРИГОДНОСТИ
ПРИБЫЛЬ S
Источник | SS df MS Number of obs = 540-------------+------------------------------ F( 1, 538) = 112.15
Модель | 19321.5589 1 19321.5589 Prob > F = 0.0000
Остаточный | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Всего | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
Прибыль | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
Минусы | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
