Лекция 6 РБФ-сети. НС Хопфилда. НС Кохонена

Содержание

1. Лекция 6 РБФ-сети. НС Хопфилда. НС Кохонена
2. НС – УНИВЕРСАЛЬНЫЙ АППРОКСИМАТОРТеорема (Колмогоров А.Н., 1957):
3. РБФ-СЕТЬУравнения НС:где– эталонныйвектор (центр i-го класса),
4. – обучающая выборка;
5. НС ХОПФИЛДА (J. Hopfield, 1982) = однослойная
6. Логическая функция активации:Число установившихся состояний НС:Достаточные условия устойчивости:Энергетическая функция НС: Состояния НС
7. Обучающая выборка НС: где Правило выбора
8. НС КОХОНЕНА (T. Kohonen, 1982) = самоорганизующаяся
9. Алгоритм обучения НС Кохонена:Инициализация (задание случайных значений
10. Вычисляются выходы НС:Определяется нейрон-победитель, имеющий максимальное значение
11. Скачать презентанцию

НС – УНИВЕРСАЛЬНЫЙ АППРОКСИМАТОРТеорема (Колмогоров А.Н., 1957): любую непрерывную функцию m переменных можно получить с помощью операций сложения, умножения и суперпозиции из непрерывных функций одного переменного:Теорема (Cybenko G., Funahashi K., Hornik

Главная
Разное
Лекция 6 РБФ-сети. НС Хопфилда. НС Кохонена

Слайды и текст этой презентации

Слайд 1Лекция 6

РБФ-сети.
НС Хопфилда.
НС Кохонена.

Слайд 2НС – УНИВЕРСАЛЬНЫЙ АППРОКСИМАТОР
Теорема (Колмогоров А.Н., 1957): любую непрерывную функцию

m переменных можно получить с помощью операций сложения, умножения и

суперпозиции из непрерывных функций одного переменного:

Теорема (Cybenko G., Funahashi K., Hornik K.M. и др. 1989): любую непрерывную функцию m переменных можно с любой степенью точности реализовать с помощью персептрона с одним скрытым слоем, имеющего достаточное количество нейронов в скрытом слое.

НС – УНИВЕРСАЛЬНЫЙ АППРОКСИМАТОРТеорема (Колмогоров А.Н., 1957): любую непрерывную функцию m переменных можно получить с помощью операций

Слайд 3РБФ-СЕТЬ
Уравнения НС:
где
– эталонный
вектор (центр i-го класса),

Слайд 4 – обучающая выборка;
где M –

число классов входных образов (векторов);
– эталонные входные векторы.
РАСПОЗНАВАНИЕ

ОБРАЗОВ С ПОМОЩЬЮ РБФ-СЕТИ

Дано:

Решение:

РБФ-сеть = «универсальный аппроксиматор»

СКО обучения НС:

Условия минимума СКО:

N∙n линейных уравнений относительно N∙n неизвестных (весов связей НС)

– обучающая выборка; где M – число классов входных образов (векторов); –

Слайд 5НС ХОПФИЛДА (J. Hopfield, 1982) = однослойная полносвязная динамическая НС
Матрица

весов:
Уравнения НС:
Модель динамического нейрона:
Ti – инерционность нейрона; F(∙) –

функция активации

НС ХОПФИЛДА (J. Hopfield, 1982) = однослойная полносвязная динамическая НСМатрица весов:Уравнения НС:Модель динамического нейрона: Ti – инерционность

Слайд 6Логическая функция активации:
Число установившихся состояний НС:
Достаточные условия устойчивости:
Энергетическая функция НС:

Состояния НС

Слайд 7Обучающая выборка НС: где
Правило выбора весов: т.е. обучение

за 1 шаг.
Решаемые задачи:
ассоциативная память (восстановление неполных или искаженных данных);
комбинаторная

оптимизация:

Обучающая выборка НС: где Правило выбора весов: т.е. обучение за 1 шаг.Решаемые задачи:ассоциативная память (восстановление неполных

Слайд 8НС КОХОНЕНА (T. Kohonen, 1982) = самоорганизующаяся НС (обучение без

учителя)
Задача кластеризации – разбить множество векторов на некоторое количество

классов (кластеров), число которых M заранее неизвестно.
Уравнения НС:

–

весовой вектор для i-го выходного нейрона.

НС КОХОНЕНА (T. Kohonen, 1982) = самоорганизующаяся НС (обучение без учителя)Задача кластеризации – разбить множество векторов

Слайд 9Алгоритм обучения НС Кохонена:
Инициализация (задание случайных значений весов):

Нормализация векторов X

и Wi,
До нормализации:
После нормализации:

Алгоритм обучения НС Кохонена:Инициализация (задание случайных значений весов):Нормализация векторов X и Wi, До нормализации: После нормализации:

Слайд 10Вычисляются выходы НС:

Определяется нейрон-победитель, имеющий максимальное значение yi, т.е. наименьшее

удаление вектора весов Wi от входного вектора X:

Настраиваются веса нейрона-победителя

по принципу «Победитель забирает все!» (The Winner Takes All, WTA):

Повторяются шаги 2-5 для различных входных векторов

количество «мертвых» нейронов

Результат кластеризации

Вычисляются выходы НС:Определяется нейрон-победитель, имеющий максимальное значение yi, т.е. наименьшее удаление вектора весов Wi от входного вектора

Скачать презентацию

Разделы презентаций

Лекция 6 РБФ-сети. НС Хопфилда. НС Кохонена

Содержание

Слайды и текст этой презентации

Слайд 1Лекция 6

РБФ-сети.
НС Хопфилда.
НС Кохонена.

Слайд 2НС – УНИВЕРСАЛЬНЫЙ АППРОКСИМАТОР
Теорема (Колмогоров А.Н., 1957): любую непрерывную функцию

m переменных можно получить с помощью операций сложения, умножения и

Слайд 3РБФ-СЕТЬ
Уравнения НС:
где
– эталонный
вектор (центр i-го класса),

Слайд 4 – обучающая выборка;
где M –

число классов входных образов (векторов);
– эталонные входные векторы.
РАСПОЗНАВАНИЕ

Слайд 5НС ХОПФИЛДА (J. Hopfield, 1982) = однослойная полносвязная динамическая НС
Матрица

весов:
Уравнения НС:
Модель динамического нейрона:
Ti – инерционность нейрона; F(∙) –

Слайд 6Логическая функция активации:
Число установившихся состояний НС:
Достаточные условия устойчивости:
Энергетическая функция НС:

Состояния НС

Слайд 7Обучающая выборка НС: где
Правило выбора весов: т.е. обучение

за 1 шаг.
Решаемые задачи:
ассоциативная память (восстановление неполных или искаженных данных);
комбинаторная

Слайд 8НС КОХОНЕНА (T. Kohonen, 1982) = самоорганизующаяся НС (обучение без

учителя)
Задача кластеризации – разбить множество векторов на некоторое количество

Слайд 9Алгоритм обучения НС Кохонена:
Инициализация (задание случайных значений весов):

Нормализация векторов X

и Wi,
До нормализации:
После нормализации:

Слайд 10Вычисляются выходы НС:

Определяется нейрон-победитель, имеющий максимальное значение yi, т.е. наименьшее

удаление вектора весов Wi от входного вектора X:

Настраиваются веса нейрона-победителя

Обратная связь

Что такое TheSlide.ru?

Разделы презентаций

Лекция 6 РБФ-сети. НС Хопфилда. НС Кохонена

Содержание

Слайды и текст этой презентации

Слайд 1Лекция 6РБФ-сети.НС Хопфилда.НС Кохонена.

Слайд 2НС – УНИВЕРСАЛЬНЫЙ АППРОКСИМАТОРТеорема (Колмогоров А.Н., 1957): любую непрерывную функцию

m переменных можно получить с помощью операций сложения, умножения и

Слайд 3РБФ-СЕТЬУравнения НС:где– эталонныйвектор (центр i-го класса),

Слайд 4 – обучающая выборка; где M –

число классов входных образов (векторов); – эталонные входные векторы.РАСПОЗНАВАНИЕ

Слайд 5НС ХОПФИЛДА (J. Hopfield, 1982) = однослойная полносвязная динамическая НСМатрица

весов:Уравнения НС:Модель динамического нейрона: Ti – инерционность нейрона; F(∙) –

Слайд 6Логическая функция активации:Число установившихся состояний НС:Достаточные условия устойчивости:Энергетическая функция НС:

Состояния НС

Слайд 7Обучающая выборка НС: где Правило выбора весов: т.е. обучение

за 1 шаг.Решаемые задачи:ассоциативная память (восстановление неполных или искаженных данных);комбинаторная

Слайд 8НС КОХОНЕНА (T. Kohonen, 1982) = самоорганизующаяся НС (обучение без

учителя)Задача кластеризации – разбить множество векторов на некоторое количество

Слайд 9Алгоритм обучения НС Кохонена:Инициализация (задание случайных значений весов):Нормализация векторов X

и Wi, До нормализации: После нормализации:

Слайд 10Вычисляются выходы НС:Определяется нейрон-победитель, имеющий максимальное значение yi, т.е. наименьшее

удаление вектора весов Wi от входного вектора X:Настраиваются веса нейрона-победителя

Похожие презентации

Обратная связь

Что такое TheSlide.ru?

Слайд 1Лекция 6

РБФ-сети.
НС Хопфилда.
НС Кохонена.

Слайд 2НС – УНИВЕРСАЛЬНЫЙ АППРОКСИМАТОР
Теорема (Колмогоров А.Н., 1957): любую непрерывную функцию

Слайд 3РБФ-СЕТЬ
Уравнения НС:
где
– эталонный
вектор (центр i-го класса),

Слайд 4 – обучающая выборка;
где M –

число классов входных образов (векторов);
– эталонные входные векторы.
РАСПОЗНАВАНИЕ

Слайд 5НС ХОПФИЛДА (J. Hopfield, 1982) = однослойная полносвязная динамическая НС
Матрица

весов:
Уравнения НС:
Модель динамического нейрона:
Ti – инерционность нейрона; F(∙) –

Слайд 6Логическая функция активации:
Число установившихся состояний НС:
Достаточные условия устойчивости:
Энергетическая функция НС:

Слайд 7Обучающая выборка НС: где
Правило выбора весов: т.е. обучение

за 1 шаг.
Решаемые задачи:
ассоциативная память (восстановление неполных или искаженных данных);
комбинаторная

учителя)
Задача кластеризации – разбить множество векторов на некоторое количество

Слайд 9Алгоритм обучения НС Кохонена:
Инициализация (задание случайных значений весов):

Нормализация векторов X

и Wi,
До нормализации:
После нормализации:

Слайд 10Вычисляются выходы НС:

Определяется нейрон-победитель, имеющий максимальное значение yi, т.е. наименьшее

удаление вектора весов Wi от входного вектора X:

Настраиваются веса нейрона-победителя