【神经网络快速学习算法及其硬件实现研究】冯昭志.pdf

DissertationSubmitted toHuazhongUniversity ofScience andTechnologyfor theDegree ofDoctorofPhilosophyinEngineering ResearchesontheFastLearningAlgorithmsfor NeuralNetworksandTheirHardwareImplementation Ph.D.Candidate:Feng Zhaozhi Supervisor Prof.WanFaguan Prof.

ABSTRACT Oneofthemostimportantresearchareasinneuralnetworksnowadaysis algorithms.In this dissertation,a newapproachis made based on theprevious work,andsome further developments areachievedin this attractiveresearch field.

前言自80年代初人工神经网络(NN)的研究再次进入高潮,新的神经网络模型及神经网络产品陆续问世,从而促进了人工神经网络在语音识别、图像处理和自适应控制等领域的应用。随着神经网络研究从“艺术天堂”进入“现实世界”,必然要对神经网络的学习算法提出新的要求,以满足实时信号处理的需要。因此,研究快速的、有效的神经网络学习算法和对算法的VLSI实现就成为一个非常重要的和广泛引起人们重视的研究领域.目前,对前馈神经网络快速学习算法的研究主要有四种途径:自适应网络的学习率、平滑因子和激励函数斜率.采用混合、分层、结构简化、空间投影等学习策略.对激励函数进行逼近.