Слайд 1Лекционный курс по дисциплине:
«Статистические методы обработки данных»
Что нужно знать, чтобы
получить на экзамене от 4 до 9 баллов.
Слайд 2Шкалы измерений
Номинальная шкала (шкала наименований). Эта шкала используется только для
того, чтобы отнести объект или индивидуум в определенный класс (Распределения
учащихся по классам, по половому признаку, по месту жительства, по видам спорта)
Порядковая шкала. Эта шкала в дополнение к функции отнесения объектов в определенный класс также упорядочивает классы по степени выраженности заданного свойства (учащихся ранжировать по количеству правильно выполненных тестовых заданий)
Интервальная шкала. Эта шкала позволяет не только классифицировать и упорядочивать объекты и индивидуумы, но и количественно оценивать различие между классами (Шкалы на большинстве физических приборов Шкала коэффициента интеллекта IQ)
Шкала отношений. Эта шкала отличается от интервальной шкалы лишь тем, что в ней задано абсолютное начало отсчета (отношений являются меры длины (м, см и т. д.) и массы (кг, г и т. д.). Предмет длиной 100 см вдвое длиннее предмета длиной 50 см.)
Слайд 3Математическое ожидание
Если совокупность случайных величин задана в виде набора дискретных
значений, то математическое ожидание случайной величины определяется как среднее значение
по выборке:
Слайд 4Дисперсия
Числовой характеристикой, показывающей степень разброса значений случайной величины относительно математического
ожидания, называется дисперсия
Слайд 5Среднеквадратическое отклонение
Поскольку дисперсия имеет размерность квадрата случайной величины, то для
характеристики меры рассеяния значений случайной величины относительно математического ожидания пользуются
среднеквадратическим отклонением σ, равным значению квадратного корня из дисперсии:
Слайд 6Выборочное среднее, дисперсия и среднеквадратическое отклонение
Выборочное среднее, представляющее собой оценку
математического ожидания генеральной совокупности:
Выборочная дисперсия, служащая несмещенной оценкой дисперсии генеральной
совокупности:
Выборочное среднеквадратическое (стандартное) отклонение:
Слайд 7Понятие закона распределения
Полное описание случайной величины дается законом распределения, который
устанавливает зависимость между возможными значениями случайной величины и их вероятностями
Слайд 8Задание закона распределения
Закон распределения случайной величины можно задать в виде
графика, таблицы или аналитического выражения:
P = f(x)
Слайд 9Нормальное распределение
оно симметрично относительно m
имеет максимум равный
монотонно убывает при возрастании
Характеристики распределения Гаусса:
Нормальное распределение величины x описывается следующей функцией:
Слайд 10Нормальное распределение
Функция распределения, показывающая вероятность случайной величине принять значение меньшее
x, определяется выражением
Слайд 14Доверительная вероятность при нормальном распределении
Если случайная величина распределена по нормальному
закону с математическим ожиданием и средним квадратическим отклонением ,
то вероятности ее попадания в интервалы между (s + s) и (s - s); между (s + 2s) и (s - 2s); между (s + 3s) и (s - 3s) равны соответственно: 0,683; 0,955; 0,997
Слайд 15Доверительная вероятность при нормальном распределении
Слайд 20Проверка статистических гипотез
Для того чтобы иметь основания принять или отвергнуть
рассматриваемую гипотезу необходимо выработать некоторый критерий, который называют критерием согласия
проверяемой гипотезы с результатами эксперимента
Слайд 21Здесь: m ─ число значений, принятых случайной величиной, n –
общее число наблюдений, pk ─ вероятность появления k-го значения в
теоретическом законе распределения
Критерий согласия 2 (хи-квадрат)
В качестве меры расхождения между эмпирическим и теоретическим законами распределения Пирсоном была предложена статистика
Слайд 22Непараметрический критерий Вилкоксона для проверки однородности двух независимых выборок
Большинство непараметрических
критериев основано на использовании рангов наблюдений.
Рангом наблюдения называют тот номер,
который получит это наблюдение в упорядоченной совокупности всех данных после их упорядочения по определенному правилу, например от меньших значений к большим или наоборот.
Слайд 23Ранги и ранжирование
Трудности в назначении рангов возникают, если среди элементов
выборки встречаются совпадающие. В этом случае обычно используют средние ранги.
Слайд 24Непараметрический критерий Вилкоксона
В критерии Вилкоксона в качестве в качестве статистики
используется случайная величина
Здесь Rj – ранги наблюдений второй выборки в
общей объединенной выборке.
Слайд 25Непараметрический критерий Вилкоксона
Для проверки с уровнем значимости α гипотезы H0
об однородности выборок при альтернативной гипотезе H1: Fx(x) > Fy(y)
по имеющимся таблицам находят верхнее критическое значение wв(α, m, n) статистики W, т. е. такое значение, для которого
Гипотезу об однородности выборок следует отвергнуть с уровнем значимости α, если рассчитанное значение статистики W больше критического значения.
Слайд 26Критерий Вилкоксона для проверки однородности двух зависимых выборок
Порядок применения критерия
следующий:
Вычисляются абсолютные разности наблюдений в паре:
Осуществляется ранжирование этих разностей в
порядке возрастания и каждому значению ранга присваивается знак его разности.
Слайд 27Критерий Вилкоксона для проверки однородности двух зависимых выборок
Вычисляется сумма значений
рангов, которая образует статистику T.
Проверяется, принадлежит ли вычисленное значение T
критической области, границы которой находятся по таблицам процентных точек распределения Вилкоксона для парных выборок.
Слайд 28Критерий Вилкоксона для проверки однородности двух зависимых выборок
Если вычисленное значение
статистики T
то гипотеза об однородности двух выборок отклоняется при уровне
значимости α в пользу альтернативной гипотезы H1: выборки неоднородны.
При альтернативной гипотезе H1: распределение разности смещено вправо относительно нуля, гипотеза об однородности отклоняется, если вычисленное значение статистики T превышает критическое значение
Слайд 29Однофакторный дисперсионный анализ. Проверка гипотезы о влиянии фактора на исследуемую
величину
Рассмотрим простейший случай дисперсионного анализа, когда изучается влияние на исследуемую
величину какого-либо одного фактора A. Будем считать, что фактор A изучается на k уровнях A1, A2, ..., Ak. Пусть для простоты рассмотрения на каждом уровне производится одинаковое число n наблюдений исследуемой величины.
Слайд 30Проверка гипотезы о влиянии фактора на исследуемую величину
Оценка генерального среднего
Несмещенная
оценка дисперсии генеральной совокупности
Слайд 31Проверка гипотезы о влиянии фактора на исследуемую величину
При справедливости нулевой
гипотезы любая из выборочных дисперсий дает одинаково хорошую оценку. Поэтому
в качестве оценки дисперсии генеральной совокупности возьмем среднее выборочных дисперсий. Эта оценка называется внутри групповой дисперсией:
Слайд 32Проверка гипотезы о влиянии фактора на исследуемую величину
Оценим теперь дисперсию
совокупности по выборочным средним. Поскольку мы предположили, что все выборки
извлечены из одной совокупности, то стандартное отклонение выборочных средних будет служить оценкой ошибки среднего:
Отсюда находим межгрупповую оценку дисперсии
Слайд 33Проверка гипотезы о влиянии фактора на исследуемую величину
В результате задача
проверки гипотезы H0 сводится к проверке гипотезы о равенстве дисперсий
sA2 и s02. При справедливости допущения о нормальном распределении случайных величин εij отношение
в случае справедливости нулевой гипотезы подчиняется F-распределению с l1 = k-1 и l2 = k(n-1) числом степеней свободы.
Слайд 34Проверка гипотезы о влиянии фактора на исследуемую величину
Влияние фактора A
на исследуемый признак считается значимым с уровнем значимости α, если
т.
е. когда расчетное значение статистики F превышает значение α-процентной точки распределения Фишера.
Слайд 35Проверка гипотезы о влиянии фактора на исследуемую величину
Результаты дисперсионного анализа
в общем случае обычно представляют в виде следующей таблицы
Слайд 36Двухфакторный дисперсионный анализ. Виды взаимосвязи между двумя факторами
Пусть на исследуемую
величину могут оказывать влияние два фактора A и B, каждый
из которых имеет конечное число уровней. При этом ставится вопрос, как влияют и влияют ли вообще эти факторы на исследуемую величину. Здесь уже необходимо уделить внимание способу взаимосвязи факторов. Для большинства практических задач достаточно ограничиться двумя способами: пересечением и группировкой.
Слайд 37Виды взаимосвязи между двумя факторами
Два фактора A и B называются
пересекающимися, если в плане эксперимента предусмотрены все возможные сочетания факторов.
Слайд 38Виды взаимосвязи между двумя факторами
Фактор B группируется фактором A, если
каждый уровень фактора B сочетается не более, чем с одним
уровнем фактора A.
Слайд 39Двухфакторный дисперсионный анализ с пересечением уровней
Рассматривая совокупность данных как одну
выборку из генеральной совокупности, получим оценку генерального среднего в виде
и
несмещенную оценку дисперсии генеральной совокупности
Слайд 40Двухфакторный дисперсионный анализ с пересечением уровней
Входящую в оценку дисперсии генеральной
совокупности сумму квадратов можно представить в виде суммы четырех отдельных
сумм квадратов СКA, СКB, СКAB, СК0:
характеризует разброс наблюдаемых значений между столбцами (уровнями фактора A) таблицы данных
характеризует разброс наблюдаемых значений между строками (уровнями фактора B) таблицы
Слайд 41Двухфакторный дисперсионный анализ с пересечением уровней
характеризует эффект взаимодействия факторов
остаточная сумма
квадратов
Слайд 42Двухфакторный дисперсионный анализ с пересечением уровней
С учетом числа степеней свободы
каждой суммы квадратов, получим следующие выражения для оценок дисперсий:
Слайд 43Двухфакторный дисперсионный анализ с пересечением уровней
Гипотеза H0 : α1 =
α2 = ... = αk = 0 проверяется с помощью
отношения
Гипотеза H0 : β1 = β2 = ... = βn = 0 проверяется с помощью отношения
Слайд 44Двухфакторный дисперсионный анализ с пересечением уровней
Гипотеза об отсутствии взаимодействия между
факторами (гипотеза об аддитивности) проверяется с помощью отношения
Слайд 45Двухфакторный дисперсионный анализ с пересечением уровней
Результаты дисперсионного анализа представляют следующей
таблицей
Слайд 46Фактор B группируется фактором A, если каждый уровень фактора B
сочетается не более, чем с одним уровнем фактора A.
Двухфакторный дисперсионный
анализ с группировкой уровней
Слайд 47Двухфакторный дисперсионный анализ с группировкой уровней
Результаты дисперсионного анализа оформляются в
виде следующей таблицы
Слайд 48Двухфакторный дисперсионный анализ с группировкой уровней
Статистики для проверки гипотез имеют
вид:
для гипотезы H0: σb(a) = 0
для гипотезы H0: все αi
= 0
Слайд 49Задачи корреляционного анализа
В математическом анализе зависимость между величинами x и
y выражается функцией y = f(x), где каждому значению x
соответствует одно и только одно значение y. Такая связь называется функциональной.
Для случайных величин X и Y такую зависимость можно установить не всегда. Связь между случайными величинами является не функциональной, а случайной (стохастической), при которой изменение переменной X влияет на значения переменной Y через изменение закона распределения случайной величины Y.
Слайд 50Задачи корреляционного анализа
Таким образом задача корреляционного анализа исследование наличия взаимосвязей
между отдельными группами переменных и установление тесноты (силы) связи между
ними.
Слайд 51Измерители парной статистической связи. Корреляционное отношение
Аналогично определяется квадрат корреляционного
отношения ρ2xy переменной X по Y. Однако между ρ2yx и
ρ2xy нет какой-либо простой зависимости.
Очевидно, что 0 ≤ ρ2yx ≤ 1. Стремление ρ2yx к нулю означает, что доля дисперсии, обусловленная функциональной связью, очень мала. Наоборот, стремление ρ2yx к единице показывает, что случайными изменениями Y можно пренебречь и вся дисперсия обусловлена функциональной зависимостью Y = ϕ(X).
Слайд 52Измерители парной статистической связи. Корреляционное отношение
Положительный корень из ρ2yx
носит название корреляционного отношения, которое является показателем статистической связи между
двумя случайными величинами X и Y для самой общей ситуации, когда закон распределения системы (X,Y) является произвольным.
Слайд 53Измерители парной статистической связи
В общем случае показатели ρ2xy и
r2 связаны неравенствами
При этом возможны следующие варианты:
r2 = ρ2yx=1 только
тогда, когда имеется строгая линейная функциональная зависимость Y от X
r2 < ρ2yx=1 только тогда, когда имеется строгая нелинейная функциональная зависимость Y от X
r2 = ρ2yx<1 только тогда, когда зависимость Y от X строго линейна, но нет функциональной зависимости
r2 < ρ2yx<1 указывает на то, что не существует функциональной зависимости, а некоторая нелинейная кривая “подходит” лучше, чем “наилучшая” прямая линия.
Слайд 54Измерители парной статистической связи
Таким образом, в качестве показателя статистической
связи между двумя случайными количественными переменными X и Y следует
выбрать корреляционное отношение ρyx (или ρxy) , если закон распределения системы (X,Y) вызывает сомнение. Если же можно с большой степенью уверенности считать закон распределения системы (X,Y) нормальным, то вместо корреляционного отношения следует использовать коэффициент корреляции r.
Слайд 56Основные понятия регрессионного анализа
Для математического описания статистических связей между изучаемыми
переменными величинами следует решить следующие задачи:
подобрать класс функций, в котором
целесообразно искать наилучшую (в определенном смысле) аппроксимацию интересующей зависимости;
найти оценки неизвестных значений параметров, входящих в уравнения искомой зависимости;
установить адекватность полученного уравнения искомой зависимости;
выявить наиболее информативные входные переменные.
Слайд 57Простая линейная регрессия
Простейшей моделью регрессии является простая (одномерная, однофакторная, парная)
линейная модель, имеющая следующий вид:
где εi – некоррелированные между собой
случайные величины (ошибки), имеющие нулевые математические ожидания и одинаковые дисперсии σ2, a и b – постоянные коэффициенты (параметры), которые необходимо оценить по измеренным значениям отклика yi.
Слайд 58Простая линейная регрессия
Для нахождения оценок параметров a и b линейной
регрессии, определяющих наиболее удовлетворяющую экспериментальным данным прямую линию:
применяется метод наименьших
квадратов.
Согласно методу наименьших квадратов оценки параметров a и b находят из условия минимизации суммы квадратов отклонений значений yi по вертикали от “истинной” линии регрессии:
Слайд 59Простая линейная регрессия
Для минимизации D приравняем к нулю частные производные
по a и b:
В результате получим следующую систему уравнений для
нахождения оценок a и b:
Слайд 60Простая линейная регрессия
Решение этих двух уравнений дает:
Слайд 61Выражения для оценок параметров a и b можно представить также
в виде:
Простая линейная регрессия
Слайд 62Простая линейная регрессия
Тогда эмпирическое уравнение регрессионной прямой Y на X
можно записать в виде:
Слайд 63Несмещенная оценка дисперсии σ2 отклонений значений yi oт подобранной прямой
линии регрессии дается выражением (остаточная дисперсия)
Простая линейная регрессия
Слайд 64Проверка значимости линии регрессии
Найденная оценка b ≠ 0 может быть
реализацией случайной величины, математическое ожидание которой равно нулю, т. е.
может оказаться, что никакой регрессионной зависимости на самом деле нет.
Чтобы разобраться с этой ситуацией, следует проверить гипотезу Н0: b = 0 при конкурирующей гипотезе Н1: b ≠ 0.
Проверку значимости линии регрессии можно провести с помощью дисперсионного анализа.
Слайд 65Проверка значимости линии регрессии
Вычисления по проверки значимости регрессии проводят в
следующей таблице дисперсионного анализа
Слайд 66Проверка адекватности линейной модели регрессии
Под адекватностью построенной регрессионной модели понимается
то, что никакая другая модель не дает значимого улучшения в
предсказании отклика.
Если все значения откликов получены при разных значениях x, т. е. нет нескольких значений отклика, полученных при одинаковых xi, то можно провести лишь ограниченную проверку адекватности линейной модели. Основой для такой проверки являются остатки:
- отклонения от установленной закономерности:
Слайд 67Коэффициент детерминации
Иногда для характеристики качества линии регрессии используют выборочный коэффициент
детерминации R2, показывающий, какую часть (долю) сумма квадратов, обусловленная регрессией
СКр, составляет в полной сумме квадратов СКп:
Чем ближе R2 к единице, тем лучше регрессия аппроксимирует экспериментальные данные, тем теснее наблюдения примыкают к линии регрессии. Если R2 = 0, то изменения отклика полностью обусловлены воздействием неучтенных факторов, и линия регрессии параллельна оси x-ов. В случае простой линейной регрессии коэффициент детерминации R2 равен квадрату коэффициента корреляции r2 .
Слайд 68 Максимальное значение R2 = 1 может быть
достигнуто только в случае, когда наблюдения проводились при различных значениях
x-ов. Если же в данных имеются повторяющиеся опыты, то величина R2 не может достичь единицы, как бы ни была хороша модель.
Вместо коэффициента детерминации R2 можно использовать статистику - нормированная (приведенная)
R2– статистика. Она имеет следующий вид:
где p – число параметров линейной модели регрессии.
Коэффициент детерминации
Слайд 69Применительно к простой линейной регрессии
Отметим, что коэффициент R2 имеет смысл
рассматривать только при наличии в уравнении регрессии свободного члена a,
так как лишь в этом случае верно равенство
СКп = СКр + СК0
Коэффициент детерминации
Слайд 70Сравнение двух линий регрессии
Часто требуется сравнить линии регрессии, рассчитанные по
двум выборкам. Это можно сделать тремя способами:
Сравнить коэффициенты наклона b
Сравнить
коэффициенты сдвига a
Сравнить линии в целом
Слайд 71Сравнение двух линий регрессии
Если нужно проверить, значимо ли различие в
наклоне двух прямых регрессии, критерий Стьюдента t вычисляется по формуле:
где
b1–b2 — разность коэффициентов наклона, a sb1–b2 — ее стандартная ошибка.
Затем вычисленное значение t сравнивают, с критическим значением, имеющим n1+n2–4 степени свободы.
Слайд 72Сравнение двух линий регрессии
Если обе регрессии оценены по одинаковому числу
наблюдений, то стандартная ошибка разности
Если же объемы выборок различны, следует
воспользоваться объединенной оценкой остаточной дисперсии
Тогда стандартная ошибка разности
Слайд 73Сравнение двух линий регрессии
Аналогично сравниваются и коэффициенты сдвига a1 и
а2. В этом случае
где a1–a2 — разность коэффициентов сдвига, a
sa1–a2 — стандартная ошибка разности коэффициентов сдвига
Затем вычисленное значение t сравнивают, с критическим значением, имеющим n1+n2–4 степени свободы.
Слайд 74Сравнение двух линий регрессии
Таким образом алгоритм сравнения двух линии регрессии
следующий:
Построить прямую регрессии для каждой из выборок.
По остаточным дисперсиям
и каждой из регрессий вычислить объединенную оценку остаточной дисперсии
Объединить обе выборки. Построить прямую регрессии для получившейся выборки и вычислить остаточную дисперсию
Слайд 75Множественная линейная регрессия
Модель множественной линейной регрессии имеет следующий вид:
Предположения относительно
множественной линейной регрессии аналогичны тем, которые применялись для простой линейной
регрессии. В частности, что все xi считаются фиксированными и для любого набора xi значения yi распределены по нормальному закону с постоянной дисперсией.
Слайд 76Множественная линейная регрессия
Для получения оценок параметров b0, b1, ...,bk методом
наименьших квадратов нужно минимизировать по этим параметрам выражение
Слайд 77Множественная линейная регрессия
Приравняв нулю частные производные
после упрощений получается следующая система
нормальных уравнений для нахождения оценок параметров:
Слайд 78Множественная линейная регрессия
Пусть b – вектор-столбец размера (k+ 1), состоящий
из коэффициентов b0 , b1, …, bk , y –
вектор-столбец из n наблюдений, ε – вектор-столбец из n ошибок и X – матрица наблюдений размером n(k+ 1) :
Слайд 79Множественная линейная регрессия
Тогда уравнение модели регрессии можно записать в виде:
Выражение
для D можно представить в матричном виде:
тогда вектор оценок b
получается из решения системы уравнений:
решение которой имеет вид:
Слайд 80Множественная линейная регрессия
Несмещенной оценкой дисперсии является:
Дисперсионный анализ множественной линейной регрессии
проводится в следующей таблице: