Методы обработки экспериментальных данных

решений.
Существует множество мат. пакетов: MatLab, Statistica, Statgraphics…

НО ЕСТЬ проблема…. понимание

НЕОБХОДИМО ЗНАТЬ И ПОНИМАТЬ КАК И ЧТО ПРОИСХОДИТ ВНУТРИ МАТ. ПАКЕТОВ!

1.1. Введение

Предварительное исследование данных

3. Оценка неизвестной величины
4. Построение моделей

признак, зарегистрированный для каждой элементарной единицы.
Двумерные наборы данных содержат

Наборы многомерных данных содержат информацию о трех или более признаках для каждого объекта. В дополнение к обобщению свойств каждой из этих переменных (рассматриваемых как отдельные наборы одномерных данных) и установлению зависимости между парами переменных (как при анализе набора двумерных данных)

на производстве
Поиск в Internet
Специальные издания и журналы
Покупка готовых данных у

что можно измерять, контролировать или чем можно манипулировать в исследованиях.

ПРИМЕРЫ: анкетные данные, систолическое давление пациентов, количество лейкоцитов в крови, цена акций, товаров, услуг, потребление, инвестиции, доход, государственные закупки товаров и услуг, инструмент государственного регулирования (в экономике); рейтинг программ, доля зрителей, количество посещений сайта (в рекламе); скорость, температура, объем, масса в (физике) и т. д.

научиться описывать их изменчивость.
Для этого придуманы описательные или дескриптивные статистики.
Минимум

Среднее — сумма значений переменной, деленная на n (число значений переменной).

Дисперсия и стандартное отклонение — наиболее часто используемые меры изменчивости переменной. Дисперсия меняется от нуля до бесконечности. Крайнее значение 0 означает отсутствие изменчивости, когда значения переменной постоянны.

Половина значений переменной лежит ниже медианы, половина — выше.
Медиана дает

Мода представляет собой максимально часто встречающееся значение переменной (иными словами, наиболее «модное" значение переменной), например популярная передача на телевидении, модный цвет платья или марка автомобиля и т. д.

А так же есть еще множество других статистик: квартили, коэффициент асимметрии, эксцесс, коэффициент корреляции и др.

случайных величин служат математическими моделями для реальных объектов и явлений,

особенно часто используется при анализе данных. Нормальное распределение дает хорошую

полезно при описании переменных, у которых каждое значение равновероятно, иными

Имеют место события, которые на обыденном языке можно назвать редкими.

или, как его еще называют, двойного экспоненциального, используется, например, для

h называется логарифмически нормальной, или логнормальной, если ее натуральный логарифм

иногда называют распределением редких событий. Примерами переменных, распределенных по закону

– это высокопроизводительный язык для технических расчетов. Он включает в

– программное средство, среда для выполнения на компьютере разнообразных математических

– это универсальная интегрированная система, предназначенная для статистического анализа и

платформа Deductor реализует практически все современные подходы к анализу структурированной

– это универсальный пакет для анализа и визуализации данных. Отличительной

Обучающая выборка и решающее правило для случая двух информативных признаков

(полную группу несовместных случайных событий) и один дискретный информативный признак

По формуле Байеса вычисляем апостериорные вероятности для всех рассматриваемых классов:

Выносим решение об истинности того класса (с номером ν), для которого апостериорная вероятность максимальная:

что имеются два информативных признака X и Y.
X принимает возможные

По формуле Байеса вычисляем апостериорные вероятности для всех рассматриваемых классов:

Выносим решение об истинности того класса (с номером ν), для которого апостериорная вероятность максимальная:

классов по формуле Байеса :
если
то принимается решение о 1-м

при двух классах:

для признаков:
Двумерный случай
Одномерный случай

известны не полностью, а с точностью до параметров:
Неизвестные параметры

Дальнейшая классификация проводится, как и в случае 1.

По обучающей выборке доопределяются и априорные вероятности:

известна обучающая выборка. Здесь возможны два варианта.
Вариант 1. Восстанавливается

Вариант 2. По обучающей выборке восстанавливаются условные плотности

выборки. Вернее, нет учителя, который мог бы измерения признаков разбить

По количеству максимумов определяем кол-во классов
Минимум позволяет разбить выборку на две части – точка c0 (нулевое приближение).
Далее строится процедура последовательного (итерационного) расчета порога c.
В итоге получаем случай 3.

- элементарный процессор, способный к простейшей обработке информации
Нейрон - элемент

кальмара имеет толщину 1 миллиметр и длину несколько метров
Потенциал, превышающий

любой
логической функции.
(неверное предположение)

нее добиваются.
Показав ребенку изображение буквы и получив неверный ответ, ему

Сети предъявляется входной образ xα, в результате формируется

планов вариации входных переменных, которые обеспечивают более быстрое и точное

Выход объекта состоит из неизвестного сигнала (функции от входов) и центрированной помехи

в науке, так и в промышленности, однако нередко с весьма

Обычно основная цель научного исследования состоит в том, чтобы показать статистическую значимость эффекта воздействия определенного фактора на изучаемую зависимую переменную.

В условиях промышленного эксперимента основная цель обычно заключается в извлечении максимального количества объективной информации о влиянии изучаемых факторов на производственный процесс с помощью наименьшего числа дорогостоящих наблюдений.

позволяет операторам изменять различные настройки, влияя на качество производимого продукта.

по производству некоторого красителя для ткани. В этом случае качество

многих химических реакций зависит от времени и температуры. К сожалению,

Формально цель эксперимента заключается в том, чтобы найти оптимальное положение на поверхности выхода, образованной двумя переменными: временем и температурой.

кристаллов. Производство надежных микропроцессоров требует высоко отлаженного производственного процесса. Отметим,

("+" означает, что тело положено на весы, "–" указывает на

Взвешивание трех тел с использованием планирования эксперимента.

Видно, что при новой схеме взвешивания дисперсия веса объектов получается вдвое меньше, чем при традиционном методе взвешивания, хотя в обоих случаях выполнялось по четыре опыта.

u1,…,um, а выходом y. Уравнение линейной статической модели объекта имеет

Необходимо на основе эксперимента (на основе нескольких измерений входов и выхода объекта) вычислить коэффициенты модели.

Экспериментальные точки для входных координат зададим в вершинах гиперпрямоугольника.

Интервалы покачивания относительно базовой точки задаются экспериментатором, и они определяют область изучения объекта.

планов, исследования их свойств, расчета параметров и исследования качества модели

Точки плана в вершинах прямоугольника в новых координатах оказываются в вершинах квадрата с единичными координатами. Центр плана переходит в начало координат.

В итоге получается план:

линейная модель также сохраняет линейный вид:
Параметры βi модели рассчитаем по

Предполагая, что измерения выхода некоррелированные и равноточные получаем систему линейных алгебраических уравнений:

называют уравнение связи выхода объекта с его входами.
В 1951

Коэффициенты αi линейной модели являются оценками составляющих градиента:

Далее движение осуществляется по поверхности отклика в направлении оценки градиента

, где k - величина шага.

реализуются все возможные сочетания уровней факторов. Если число факторов равно

При построении линейной модели объекта используется полный факторный эксперимент типа 2m. Условия эксперимента записываются в таблицы, в которых строки соответствуют различным опытам, а столбцы – значениям факторов. Такие таблицы называются матрицами планирования эксперимента.

не только коэффициенты βi, но и коэффициенты βij перед факторами

Например, при m=2 можно рассчитать и коэффициенты модели:

содержит большое число экспериментов. Можно этот план разбивать на блоки

Чтобы получить дробную реплику, необходимо за основу взять полный факторный эксперимент (например 23) и в качестве новой переменной взять один из столбцов (например x4), соответствующий фактору взаимодействия (например x4=x1x2). Для данного примера дробная реплика обозначается как 24-1.

Определяющий контраст (или определяющие контрасты, когда их несколько) позволяет установить разрешающую способность дробной реплики. Разрешающая способность будет максимальной, если линейные эффекты будут смешаны с эффектами взаимодействия наибольшего возможного порядка.

модели по планам, содержащим минимум точек (количество точек равно числу

Ортогональный план проводится в вершинах правильного симплекса. Правильным симплексом называется выпуклая правильная фигура в многомерном пространстве, число вершин которой превышает размерность этого пространства на единицу.

Эти планы центральные и ортогональные.

г. предложили способ построения насыщенных планов (с единичными координатами) при

Задаются базовые строки. Каждая следующая строка матрицы планирования образуется из исходной циклическим сдвигом вправо. Получается матрица размером m x m. Последняя (m+1) -я строка матрицы планирования состоит из минус единиц.

Пример базисных строк:

дрейфует. Если этот дрейф кусочно-постоянный, то его можно нейтрализовать, изменяя

В качестве примера рассмотрим ортогональный план 23 . Считаем, что выход объекта имеет аддитивный дрейф на величину Δ1 (когда проводятся эксперименты с номерами 1, 2, 3, 4) и на величину Δ2 (когда проводятся эксперименты № 5, 6, 7, 8). Этот дрейф приводит к смещению на величину (4Δ1-4 Δ2)/8 параметра β3.

объекта дрейфует.

порядок проведения эксперимента, разбив план на 2 блока.

ортогонального плана остается неизвестным, на самом ли деле дисперсии выходов

Проверка однородности дисперсий производится с помощью различных статистик. Простейшей из них является статистика Фишера, представляющая собой отношение наибольшей из оценок к наименьшей:

Так же можно выполнить проверку с использованием статистики Кочрена:

, делим ее на число степеней свободы n-m-1 и получаем

На основе дополнительного эксперимента объема n0 в одной из точек плана (например в центре плана) строим оценку для дисперсии выхода объекта. Число степеней свободы для оценки n0 -1. По статистике Фишера проверяем гипотезу о равенстве дисперсий, которая совпадает с гипотезой об адекватности модели.

Если статистика не превосходит порогового значения, то принимается гипотеза об адекватности модели. В противоположном случае эта гипотеза отвергается. Надо заново строить модель, например, усложняя ее за счет введения дополнительных факторов, либо отказываться от линейной модели и переходить к квадратичной модели.

гипотезы H: bj = 0 для каждого j=1,…,m.
Вычисляется статистика Стьюдента:
Если

полученной модели с реальными процессами объекта. При этом привлекается информация

Если характер связи между входами и выходом объекта на основе построенной модели не соответствует реальным связям (на базе информации от экспертов) в объекте, то такую модель надо поставить под сомнение либо полностью отказаться от нее.

в математическом отношении значительно более сложная, чем в случае построения

Для вычисления коэффициентов модели второго порядка необходимо варьировать переменные не менее чем на трех уровнях. Это вызывает необходимость постановки большого числа опытов. Полный факторный эксперимент содержит 3m точек.

предложили составлять композиционные планы. Число точек плана равно величине n=n1+2m+n0

Точки на осях координат называют звездными точками. Их количество равно удвоенному числу факторов. Расстояние от центра плана до звездной точки одинаково. Его обозначают буквой α и называют звездным плечом.

Композиционные планы имеют следующие положительные свойства: 1. Они могут быть получены в результате достройки планов первого порядка.
2. Дополнительные точки на осях координат и в центре плана не нарушают ортогональности для столбцов, соответствующих факторам xj и эффектам взаимодействия xixj .

xl’ получаем следующее уравнение модели (для случая m=2):

центра плана, то такой план называется ротатабельным.
Ортогональный план первого

Построение ротатабельного плана второго порядка из симплексных планов:

затухающий экспоненциальный вид:
В 1956 году Сатерзвайт предложил метод случайного баланса

Построение матрицы планирования осуществляют следующим образом. Все факторы разбивают на группы. Затем для каждой группы строят матрицы планирования, беря за основу полный факторный эксперимент или дробные реплики. План проведения эксперимента образуется путем случайного смешивания строк соответствующих базовых планов (для групп факторов). Полученный план реализуется на объекте, и результаты анализируются с помощью диаграмм рассеяния.

Эти точки разбиты на две группы. Одна из них соответствует

функционала
Рассмотрим некоторые примеры функционалов:
– дисперсия.
– приведенная энтропия.
– математическое

плотности вероятности fn(x), а затем она подставляется в функционал.
Основным

Оценка Фn параметра Ф называется несмещенной, если:

Требование состоятельности определяет практическую пригодность оценок, ибо в противоположном случае (при несостоятельности оценок) увеличение объема исходной выборки не будет приближать оценку к "истинной" величине. По этой причине свойство состоятельности должно проверяться в первую очередь.

Она является асимптотически несмещенной, если:

x1,…,xn случайной величины X построим оценку Fn(x) для функции распределения:
где

f(x) связана с функцией распределения F(x) через линейный оператор дифференцирования

Можно получить оценку для плотности распределения :

Здесь δ(x-xi) – дельта-функция Дирака. Она имеет "игольчатый" ("гребенчатый") вид: уходит до ∞ в точке xi , а при остальных значениях аргумента x равна нулю и обладает свойствами:

- площадь под дельта функцией единичная.

селектирующее свойство дельта-функции позволяет легко выполнять интегрирование. Интеграл оказывается равным подынтегральному выражению, стоящему перед дельта-функцией, в особой точке.

несмотря на экзотическое поведение дельта-функции, площадь под ней единичная.
Второе

Оценка плотности распределения является несмещенной, но несостоятельной. В явном виде её использовать нельзя. Ею удобно пользоваться при вычислении оценок моментов (математического ожидания, дисперсии и др.) для случайной величины или для аналитической функции случайной величины. Получаемые оценки являются состоятельными и часто несмещенными.

кратных измерениях значение x1 повторяется k1 раз, x2 – k2

функции плотности. Для этого надо повысить соответственно степень гладкости для

Она строится на выборочных интервалах, ограниченных выборочными значениями упорядоченной выборки x1,…,xn. Площадь каждого прямоугольника равна 1/(n-1)

порядков:

имеется n независимых наблюдений x1,…,xn. Зафиксируем некоторое целое положительное

Многомерный случай:

через оператор дифференцирования:

гладкости ядра. Заменим в оценке fn(x) прямоугольное ядро I(z) на

Здесь h – коэффициент размытости ядра. Примеры треугольного, параболического и кубического ядер приведены ниже:

входов) X и выход Y. Связь между случайными величинами характеризуют

количественная зависимость между выходом и входом объекта. Регрессия (4.7.1) удовлетворяет

Получим оценку регрессии:

от размерного параметра с к безразмерному β.
При β=0 ядро K(·)

Оценка регрессии равна среднему арифметическому выборочных значений выхода объекта для любых x.

регрессии проходит через экспериментальные точки и состоит из кусков линий,

Оптимальный параметр β лежит в интервале [0; 1].

основе использования рекуррентной схемы расчета получаем алгоритм адаптивного сглаживания:

одним выходом Y основной инверсной характеристикой является регрессия
и получаем

могут содержать аномальные измерения, называемые выбросами. Даже наличие малого процента

Кроме математического ожидания случайной величины Y есть другая характеристика среднего положения – медиана. Медиана – это среднее по вероятности значение. Состоятельная оценка медианы представляет собой среднее по номеру значение в упорядоченной выборке:

оценок. Более общий критерий имеет вид :
Некоторые виды функций F(v):

представляет собой приспособление к различным изменениям. Эти изменения происходят как

Свойством адаптации человек наделил и созданные им устройства. Управление в этих устройствах осуществляется таким образом, чтобы как можно быстрее и лучше нейтрализовать влияние непредвиденных изменений или приспособиться к ним.

от различных одновременно действующих факторов, с целью выбора наиболее значимых

Методами дисперсионного анализа устанавливается наличие влияния заданного фактора на изучаемый процесс (на выходную переменную процесса) за счёт статистической обработки наблюдаемой совокупности выборочных данных.

фактора A, изучаемого на k уровнях (A1, A2,…, Ak).

Расположим эксперимен-тальные данные в виде таблицы

результатов наблюдений. Для оценки дисперсии, характеризующей изменение данных на уровне

Из предпосылок дисперсионного анализа следует, что должно иметь место равенство всех дисперсий. При выполнении этого условия находим оценку дисперсии, характеризующей рассеяние значений xij вне влияния фактора A, по формуле:

Сравниваем и устанавливаем наличие влияния фактора A.

Однофакторный дисперсионный анализ

Для упрощения вычислений приведем алгоритм их выполнения. Вычисляем последовательно суммы:

большей, чем методы множественного сравнения средних. Информативность дисперсионного анализа возрастает

Рассмотрим случай, когда анализируется влияние одновременно двух факторов A и B.

, то влияние фактора A признается

Двухфакторный дисперсионный анализ

Дисперсионный анализ для двухфакторных таблиц проводится в следующей последовательности. Вычисляются суммы:

Далее находятся оценки дисперсий:

Если , то влияние фактора B признается значимым.

анализ
Приведенный анализ предполагает независимость факторов A и B. Если они

Далее анализ проводится, как и ранее, с той лишь разницей, что в клетках таблицы вместо отдельных значений используется их средние значения. Вычисляется оценка дисперсии и проверяется значимость взаимодействия факторов:

планированием эксперимента. Удачно спланированный эксперимент, выявляя все необходимые эффекты, оказывается

Если на результат эксперимента действуют одновременно несколько факторов, то наилучший эффект дает одновременный дисперсионный анализ всех этих факторов (многофакторный анализ).

Методы дисперсионного анализа позволяют исследовать и такой случай, когда некоторые сочетания уровней пропущены. Такой эксперимент называется дробным факторным экспериментом (ДФЭ). Планирование при ДФЭ приобретает особо важную роль, ибо пропущенные сочетания уровней не так-то просто нейтрализовать.

не единственные; согласно Фишеру их называют латинскими квадратами. Эти расположения

похожа на обычный двухфакторный анализ:
Находим сумму квадратов по столбцам, деленную

Находим сумму квадратов итогов по строкам, деленную на число наблюдений в строке:

Находим квадрат общего итога, деленный на число всех наблюдений:

Находим сумму квадратов итогов по уровням фактора C, деленную на число уровней:

значимости дисперсий:
Если отличие будет значимым, то
Если отличие будет значимым,

в том отношении, что в случае временных рядов сама последовательность

Теперь чтобы охарактеризовать совокупность данных в целом, уже недостаточно знать лишь типичное значение этих данных (среднее значение) или даже изменчивость этой совокупности данных (дисперсия). В этом случае желательно знать, что, скорее всего, произойдет дальше. НУЖЕН ПРОГНОЗ!

ожидаемого объема продаж. Этот прогноз послужит основой для прогнозирования других

интуитивный подход к оцениванию четырех базовых компонентов помесячных или поквартальных

среднее представляет собой новый ряд, полученный путем усреднения соседних наблюдений

среднему отражает сезонное поведение
Чтобы выделить сезонное поведение, прежде всего, следует

эти значения для каждого сезона. Сезонный компонент проявляется, поскольку он

индекс.
Поправка на сезонные колебания устраняет из результатов измерения ожидаемый сезонный

сезонные колебания: линия регрессии
Когда временной ряд демонстрирует долгосрочную линейную тенденцию

надо учесть сезонность в долгосрочном тренде, вернув ему ожидаемую сезонную

семейство линейных статистических моделей, основанных на нормальном распределении, которые позволяют

ARIMA - сокращение от Autoregressive Integrated Moving Average

обладает памятью: отправная точка
Процесс случайного шума состоит из случайной выборки

памятью о своем прошлом
Любое наблюдение процесса авторегрессии (часть "AR" названия

имеет ограниченную память
Любое наблюдение процесса скользящего среднего состоит из константы,

среднего (ARMA) сочетает в себе AR и МА
Любое наблюдение процесса

помнит, где он находился, и затем движется случайно
Каждое наблюдение чистого

среднего (ARIMA) помнит свои изменения
Процесс состоит из линейной функции предыдущего

Теория идентификации имеет в своем арсенале достаточно эффективные методы и

Модели делятся на статические и динамические. Первые из них описывают объекты в стационарных режимах их работы. Динамические модели описывают переходные процессы в объектах, например, возникающие при переходе с одного стационарного режима работы объекта на другой.

Процесс идентификации складывается из двух взаимосвязанных этапов: идентификации структуры моделей и идентификации параметров в моделях выбранной структуры. При построении структуры модели (или набора конкурирующих либо взаимодополняющих структур) используется априорная информация об объекте. Для каждого класса объектов формируются банки структур с сопутствующей информацией.

функции η(u, α). Основная задача теперь сводится к расчету параметров

Считаем, что выход объекта состоит из полезного сигнала η(u, a) и центрированной помехи ξ.
Сигнальная часть выхода представляет собой известную функцию от входа с неизвестными параметрами a. В структуру функции η(u, a) . Все, что не удается описать в объекте, относят к помехе.

информативность измерений, одинаковы. Тогда критерий имеет вид:
Считаем, что в каждый

cij матрицы, обратной корреляционной:
Если все помехи ξi коррелированны, т. е:
Это

виде линейной комбинации известных (базисных) функций φ1(u),…, φm(u):
Параметры α находим

Построим итерационную процедуру расчета параметров α модели в соответствии с критерием

Необходимое условие минимума приводит к системе линейных алгебраических уравнений:

на основе критерия наименьших квадратов, сильно реагируют на выбросы помех.

Так же существуют другие критерии вида:

Примеры функции ψ(e):

n и n-1, параметры модели находим из условия равенства выходов

Каждому уравнению в пространстве параметров соответствует своя линия

модель и приращения параметров отыскиваем из равенства выхода модели и

В итоге получаем алгоритм перестройки параметров нелинейной модели:

различными динамическими уравнениями: обыкновенными дифференциальными, интегральными, интегродифференциальными уравнениями; уравнениями с

Дискретные модели привязаны к номерам дискретных моментов времени и поэтому основным аргументом для входных u(t) и выходных x(t), y(t) переменных является номер дискреты t = 0, 1, 2,…
Например:

вид:

вид:

расчета параметров:
Линеаризуем модель относительно параметров α(t-1) , вычисленных в

Здесь y(t|α(t-1)) – выход модели в момент времени t при значениях параметров, полученных в предыдущий момент времени t-1

ω(t) – вектор-столбец функций чувствительности выхода модели к параметрам модели.

Каждое уравнение чувствительности получается дифференцированием уравнения модели по соответствующему параметру.
Для

моделей на основе простейшего адаптивного алгоритма.
Пример: Рассмотрим модель без обратной

Функциями чувствительности выхода модели к ее параметрам являются измеренные значения выхода и входа объекта:

на основе измерений x(t); x(t-1), u(t-1); x(t-2), u(t-2) параметры корректируем

перестройки параметров:
Получаем следующие выход модели и функции чувствительности:

управления происходит приспособление к изменяющимся условиям и неизвестным характеристикам объекта.

Синтезируем алгоритм расчета управления (алгоритм работы устройства управления) u(t) в

Считаем, что поведение объекта в динамическом режиме описывается разностным уравнением:

Обозначим через y(k|α(t)) выход модели в момент времени k при значении вектора параметров α(t), вычисленных в момент времени. Если шум – белый, то

1. Считаем, что объект описывается уравнением:
Находим параметры:
Из локального квадратичного

Рассчитываем оптимальное управление:

Объект описывается уравнением:
Параметры:
Находим управляющее воздействие :

уравнением:
Строим модель объекта:
Выход модели находим из критерия наименьших квадратов:
Решение

ванны одного из заводов при однопроцентном уровне помех приведены входная