ПРИМЕНЕНИЕ ТЕОРЕТИКО-ИНФОРМАЦИОННОГО ПОДХОДА ДЛЯ ОБУЧЕНИЯ МНОГОСЛОЙНОГО ПЕРСЕПТРОНА В ЗАДАЧЕ РАСПОЗНАВАНИЯ ФОНЕМ |
5 | |
2010 |
МЕТОДЫ МОДЕЛИРОВАНИЯ И ОБРАБОТКИ СИГНАЛОВ |
научная статья | 519.234: 681.841.3 | ||
354-357 | нейронные сети, обучение, энтропия Реньи, распознавание фонем |
Предложен метод обучения, в основе которого лежит информационный критерий: энтропия в форме Реньи. Представлены результаты моделирования, показывающие, что предложенная схема позволяет повысить скорость обучения по сравнению со стандартным подходом. |
1 . Gupta M.M., Jin L., Homma N. Static and Dynamic Neural Networks. John Wiley & Sons, 2003. 2 . Hampshire J., Pearlmutter B. Equivalence Proofs for Multi-Layer Perceptron Classifiers and the Bayesian Discriminant Function // Proc. of the 1990 Connectionist Models Summer School. Morgan Kaufmann Publishers. 3 . Овчинников П.Е., Сёмин Ю.А. Влияние способа параметризации звукового сигнала на эффективность распознавания фонем персептроном // Известия вузов. Радиофизика. 2007. Том L, № 4. Стр. 350-356. 4 . Rumelhart D.E., Hinton C.E., Williams R.J. Learning Internal Representations by Error Propagation // Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Vol. 1: Foundations / D.E. Rumelhart & J.L. McClelland (Eds.) MIT Press, 1986. 5 . Erdogmus D., Principe J.C. Generalized Information Potential Criterion for Adaptive System Training // IEEE Transactions on Neural Networks. 2002. September. Vol. 13, no. 5. Pp. 1035-1044. 6 . Freeman J.A., Skapura D.M. Neural Networks: Algorithms, Applications, and Programming Techniques. Addison-Wesley Publishing Company, 1991. 7 . Cybenko G. Approximation by Superpositions of a Sigmoid Function // Mathematics of Control, Signals, and Systems. 1989. V. 2. P. 303. |