Методы приобретения знаний

информационные системы



Извлечение знаний из эмпирических данных





2011

Методы
приобретения знаний
Знания и опыт экспертов Коммуникационные

Тексты Текстологические

Экспериментальные данные KDD

Обучение
Примеры Начальные

Решение
знания

Обучение
Примеры Начальные

Решение
знания


Измененные правила

Обучение
Примеры

Начальные Решение
знания
Накопленные
знания

Измененные правила

Обучение
Примеры

Начальные Решение
знания
Накопленные
знания

Измененные правила

Эффективность решения:
- более качественное, точное решение;
- уменьшение времени решения;
- расширение круга задач.

правилами
формирование обобщений

существуют подобные посылки
ИНДУКЦИЯ Вывод из имеющихся данных
объясняющего их правила

Обучение с учителем: поставляются гипотезы.
Обучение без учителя: гипотезы генерируются
автоматически

или

некоторого множества объектов О к
к рассмотрению множества объектов V:
o ∈ V или О ⊂ V
Понятие - результат обобщения
О = { о1, о2, . . . , оn } - объем понятия
Если оi ∈ О , оi – положительный пример,
оi ∈ О, оi – отрицательный пример.

Z = { Z1, Z2, . . . , Zk }
Zi - характеризуется множеством значений:
Zi = { zi1, zi2, . . . , zim } 1<= i <= k
Типы
признаков:- количественные,
- качественные с упорядоченными значениями,
- качественные с неструктурированными
значениями
Объект: oi = { zij }, zij ∈ Zi , 1<= j <= m, 1<= i <= k

V – множество положительных примеров,

W – множество отрицательных примеров.

Очевидно, R = V Ụ W V ∩ W = Ǿ

К – обучающая выборка К ⊂ R
К = К+ U К- К+ ⊂ V К- ⊂ W

Используется обучающая выборка.
Правильность обобщения проверяется на экзаменационной выборке. Экзаменационная выборка

не совпадает с обучающей !
При неудаче в п.2 экзаменационная выборка добавляется к обучающей выборке и повторяется п.1.

i-го признака
Каждому zij поставим в

соответствие булеву переменную hij :

1, если i-й признак имеет j–е значение
hij =
0, если i-й признак не имеет j–е значение

Конъюнктивное обобщение – выражение вида: & hij

Дизъюнктивное понятие: Uαk , где αk - к-ое конъюнктивное обобщение

a b

с d
1 1 1 1 1
2 1 0 1 0
3 1 0 1 1
4 1 1 1 1
5 0 1 0 1
- 6 0 1 1 1
- 7 1 0 0 1
- 8 0 0 1 0
- 9 0 0 1 1

b с

d
1 1 1 1 1 a 1 5/9
2 1 0 1 0 0 4/9
3 1 0 1 1 b 1 4/9
4 1 1 1 1 0 5/9
5 0 1 0 1 c 1 7/9
- 6 0 1 1 1 0 2/9
- 7 1 0 0 1 d 1 7/9
- 8 0 0 1 0 0 2/9
- 9 0 0 1 1

+{1,2,3,4,5}
a b с d - {6,7,8,9}
1 1 1 1 1
2 1 0 1 0 с с
3 1 0 1 1
4 1 1 1 1 +{1,2,3,4} +{5}
5 0 1 0 1 - {6,8,9} -{7}
- 6 0 1 1 1
- 7 1 0 0 1
- 8 0 0 1 0
- 9 0 0 1 1

+{1,2,3,4,5}
a b с d - {6,7,8,9}
1 1 1 1 1
2 1 0 1 0 с с
3 1 0 1 1
4 1 1 1 1 +{1,2,3,4} +{5}
5 0 1 0 1 - {6,8,9} -{7}
- 6 0 1 1 1
- 7 1 0 0 1 КО= а КО= а *b
- 8 0 0 1 0
- 9 0 0 1 1 ДО = а *с v а * b* с

нетривиальные
Знания должны быть практически полезны
Знания должны быть доступны

для
понимания
Средства представления знаний в DM – модели:
- правила
- деревья решений
- кластеры
- математические функции

Формулирование
задачи анализа

Подготовка
данных

Исходные Применение методов DM,
данные построение моделей

Проверка моделей

Интерпретация
моделей

Прогнозирование временных рядов
Ассоциации
Нейронные сети
Эволюционные алгоритмы