Нелинейные решающие функции

пространства равна n, тогда можно построить:


k может быть любым:
,

- это полный набор ортогональных функций (это есть сложно)

часто сводят к параметрической задаче(это лучше):

, то есть

- это нелинейная функция

=

, n=k

- обобщенная линейная функция.

Нелинейные решающие функции

симметрическая матрица.

можно разложить по компонентам:

Можно взяь
как новую

решающая функция будет линейной функцией.

В пространстве с координатами

На рис. показаны классы, которые в исходном пространстве не делятся линейными решающими функциями, но можно сделать линейное разделение обобщенными линейными функциями, в пространстве с координатами , определяемыми коэффициентами квадратичной формы.

решающие функции нельзя, то при переходе в пространство размерности k>n

с помощью вероятностных методов
.
Существует 2 подхода:
1.априорно знаем статистические распределения данных
2.априорно

имеется генеральная совокупность
, соответствующая 1-ому и 2-ому классу.

Вероятностные распределения

Пусть

(может быть и такое)

Наша задача – разбиение исходного пространства X на области

так

мы требуем, чтобы

по классам функции распределения


-априорная вероятность появления объекта из соответствующего

Критерии качества, связанные с ошибками и стоимостями ошибок

Генеральная совокупность

; C(1/2)
C(1/1)=C(2/2)=0 - правильное решение;
На рис показаны условные плотности

X

Вероятность принятия неправильного решения определяются таким образом

Таким образом заданы:

генеральные совокупности;

Условные плотности и априорные вероятности

на классы множества X1 и X2, соответствующие заданным классам. Рассмотрим

Введем функционал качества как оценку среднего риска:

это общие средние потери при принятии решения.

Требуется найти такое разбиение пространства , которое дает

Эту величину нужно определить для решения нашей задачи.

Обозначим (*)=

Данное выражение необходимо минимизировать при помощи выбора области

Область

определяют таким образом, чтобы выражение (*) было

.

получаем, что
относится к
Генеральной
совокупности
Область

Это правило для полного байесовского риска

эта функция называется отношением правдоподобия.

Введем порог:

тогда решающее правило принимает вид:

Часто априорные вероятности неизвестны и их нужно как-то оценить.

Стоимость ошибки – величина субъективная

Когда ошибки не заданы, мы можем построить более простое решающее правило на основе теоремы Байеса

плотность распределения:

Из данного разложения мы можем получить:

это апостериорная вероятность

относится к

- априорная вероятность

Чтобы использовать данное правило необходимо вычислить безусловную плотность вероятности

она имеет вид

( это результат интегрирования)

Отсюда следует, что правило принятия решения сводится к нахождению:

То есть номер класса равен:

образом, мы получили отношение правдоподобия:


разница с предыдущим случаем в том,

Здесь ошибки находятся в следующем соотношении:

С(2/1) = C(1/2) - они равны.

Следовательно, нами получен метод принятия решений, основанный на вычислении

апостериорных вероятностей