Главная страница
russian   english
16+
<< назад

Название статьи

ПРИМЕНЕНИЕ ТЕОРЕТИКО-ИНФОРМАЦИОННОГО ПОДХОДА ДЛЯ ОБУЧЕНИЯ МНОГОСЛОЙНОГО ПЕРСЕПТРОНА В ЗАДАЧЕ РАСПОЗНАВАНИЯ ФОНЕМ


Номер журнала
5
Дата выпуска
2010

Раздел
МЕТОДЫ МОДЕЛИРОВАНИЯ И ОБРАБОТКИ СИГНАЛОВ

Тип статьи
научная статья
Коды УДК
519.234: 681.841.3
Страницы
354-357
Ключевые слова
нейронные сети, обучение, энтропия Реньи, распознавание фонем

Авторы
Морозов Олег Александрович
Овчинников Павел Евгеньевич
Сёмин Юрий Анатольевич
Фидельман Владимир Романович

Место работы
Морозов Олег Александрович
Научно-исследовательский физико-технический институт Нижегородского госуниверситета им. Н.И. Лобачевского

Овчинников Павел Евгеньевич
Научно-исследовательский физико-технический институт Нижегородского госуниверситета им. Н.И. Лобачевского

Сёмин Юрий Анатольевич
Научно-исследовательский физико-технический институт Нижегородского госуниверситета им. Н.И. Лобачевского

Фидельман Владимир Романович
Научно-исследовательский физико-технический институт Нижегородского госуниверситета им. Н.И. Лобачевского


Аннотация
Предложен метод обучения, в основе которого лежит информационный критерий: энтропия в форме Реньи. Представлены результаты моделирования, показывающие, что предложенная схема позволяет повысить скорость обучения по сравнению со стандартным подходом.

Загрузить статью

Библиографический список
1 . Gupta M.M., Jin L., Homma N. Static and Dynamic Neural Networks. John Wiley & Sons, 2003.
2 . Hampshire J., Pearlmutter B. Equivalence Proofs for Multi-Layer Perceptron Classifiers and the Bayesian Discriminant Function // Proc. of the 1990 Connectionist Models Summer School. Morgan Kaufmann Publishers.
3 . Овчинников П.Е., Сёмин Ю.А. Влияние способа параметризации звукового сигнала на эффективность распознавания фонем персептроном // Известия вузов. Радиофизика. 2007. Том L, № 4. Стр. 350-356.
4 . Rumelhart D.E., Hinton C.E., Williams R.J. Learning Internal Representations by Error Propagation // Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Vol. 1: Foundations / D.E. Rumelhart & J.L. McClelland (Eds.) MIT Press, 1986.
5 . Erdogmus D., Principe J.C. Generalized Information Potential Criterion for Adaptive System Training // IEEE Transactions on Neural Networks. 2002. September. Vol. 13, no. 5. Pp. 1035-1044.
6 . Freeman J.A., Skapura D.M. Neural Networks: Algorithms, Applications, and Programming Techniques. Addison-Wesley Publishing Company, 1991.
7 . Cybenko G. Approximation by Superpositions of a Sigmoid Function // Mathematics of Control, Signals, and Systems. 1989. V. 2. P. 303.