神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)方法與實(shí)例分析
定 價(jià):42 元
- 作者:施彥 ,韓力群 ,廉小親 著
- 出版時(shí)間:2009/12/1
- ISBN:9787563521029
- 出 版 社:北京郵電大學(xué)出版社
- 中圖法分類(lèi):TP183
- 頁(yè)碼:363
- 紙張:膠版紙
- 版次:1
- 開(kāi)本:16開(kāi)
《神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)方法與實(shí)例分析》從神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)和應(yīng)用實(shí)踐出發(fā),介紹了10種常見(jiàn)的人工神經(jīng)網(wǎng)絡(luò)的基本原理、設(shè)計(jì)方法,并從各個(gè)應(yīng)用領(lǐng)域精選了豐富的典型應(yīng)用實(shí)例進(jìn)行剖析,旨在使讀者對(duì)各類(lèi)常用的人工神經(jīng)網(wǎng)絡(luò)的基本原理和學(xué)習(xí)算法進(jìn)一步加深理解,熟悉其主要功能,掌握其設(shè)計(jì)方法,了解其主要應(yīng)用,為設(shè)計(jì)各類(lèi)神經(jīng)網(wǎng)絡(luò)和解決實(shí)際問(wèn)題打下基礎(chǔ)。主要內(nèi)容包括神經(jīng)網(wǎng)絡(luò)模型評(píng)估與選擇;10種典型網(wǎng)絡(luò)的設(shè)計(jì)與應(yīng)用,包括BP網(wǎng)絡(luò)、RBF網(wǎng)絡(luò)、SOFM網(wǎng)絡(luò)、LVQ網(wǎng)絡(luò)、CPN網(wǎng)絡(luò)、ART網(wǎng)鉻、Hopfield網(wǎng)絡(luò)、時(shí)序遞歸網(wǎng)絡(luò)、CMAC網(wǎng)絡(luò)、SVM網(wǎng)絡(luò);最后介紹了人工神經(jīng)元網(wǎng)絡(luò)設(shè)計(jì)開(kāi)發(fā)平臺(tái)。
《神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)方法與實(shí)例分析》可作為具有一定人工神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)的科技工作者解決實(shí)際問(wèn)題時(shí)的設(shè)計(jì)參考書(shū),也可作為相關(guān)專(zhuān)業(yè)研究生及本科專(zhuān)業(yè)高年級(jí)學(xué)生的參考教材。
人工神經(jīng)網(wǎng)絡(luò)自20世紀(jì)80年代復(fù)興以來(lái),已經(jīng)經(jīng)過(guò)了20余年。除了神經(jīng)網(wǎng)絡(luò)理論得到了進(jìn)一步的發(fā)展以外,神經(jīng)網(wǎng)絡(luò)的應(yīng)用成果也日益豐富。神經(jīng)網(wǎng)絡(luò)今后發(fā)展的一個(gè)方向是將其成功地應(yīng)用于生產(chǎn)、生活的各個(gè)方面,發(fā)揮其信息處理能力,擴(kuò)展其應(yīng)用范圍。作者在教學(xué)和科研中發(fā)現(xiàn),即便掌握了一些神經(jīng)網(wǎng)絡(luò)的基本理論,在設(shè)計(jì)和應(yīng)用中也需要一定的經(jīng)驗(yàn)和指導(dǎo)。特別是初涉此領(lǐng)域的學(xué)生和工程技術(shù)人員,面對(duì)需要解決的問(wèn)題,究竟選擇哪一種網(wǎng)絡(luò)和學(xué)習(xí)算法更為合適,如何進(jìn)行設(shè)計(jì)和模型選擇,都是比較困難的事情。本書(shū)編寫(xiě)的目的正是為已具有一定神經(jīng)網(wǎng)絡(luò)基礎(chǔ),希望應(yīng)用神經(jīng)網(wǎng)絡(luò)解決實(shí)際問(wèn)題的人員提供一定的指導(dǎo)和參考。
基于此目的,本書(shū)選擇了近年應(yīng)用較為普及的典型網(wǎng)絡(luò),其中包括靜態(tài)網(wǎng)絡(luò)和動(dòng)態(tài)網(wǎng)絡(luò);既有監(jiān)督式學(xué)習(xí)網(wǎng)絡(luò),也有無(wú)監(jiān)督式學(xué)習(xí)網(wǎng)絡(luò);既有前饋網(wǎng)絡(luò),也有反饋網(wǎng)絡(luò);既有單個(gè)網(wǎng)絡(luò)的應(yīng)用,也有多個(gè)網(wǎng)絡(luò)協(xié)同工作的應(yīng)用。全書(shū)共12章,第1章介紹了通用的神經(jīng)網(wǎng)絡(luò)選擇原則,常用的模型性能評(píng)價(jià)方法,樣本的選擇和使用等;第2、3章介紹了典型的前饋網(wǎng)絡(luò)BP網(wǎng)絡(luò)和RBF網(wǎng)絡(luò)的基本理論、設(shè)計(jì)方法和應(yīng)用實(shí)例;第4、5、6章分別介紹了基于競(jìng)爭(zhēng)學(xué)習(xí)的SOFM網(wǎng)絡(luò)、LVQ網(wǎng)絡(luò)以及CPN網(wǎng)絡(luò)的基本理論、設(shè)計(jì)方法和應(yīng)用實(shí)例;第7章介紹了自適應(yīng)共振ART、網(wǎng)絡(luò)的基本理論、設(shè)計(jì)方法和應(yīng)用實(shí)例;第8章介紹了具有聯(lián)想記憶和優(yōu)化計(jì)算功能的}topfield網(wǎng)絡(luò)的基本理論、設(shè)計(jì)方法和應(yīng)用實(shí)例;第9章側(cè)重介紹有反饋和時(shí)延環(huán)節(jié)的、適合處理時(shí)間序列問(wèn)題的時(shí)序遞歸網(wǎng)絡(luò)的基本理論、設(shè)計(jì)方法和應(yīng)用實(shí)例;第10章介紹了智能控制中常用的局部逼近網(wǎng)絡(luò)——CMAC網(wǎng)絡(luò)——的基本理論、設(shè)計(jì)方法和應(yīng)用實(shí)例;第11章介紹了善于處理小樣本問(wèn)題的支持向量機(jī)的基本理論、設(shè)計(jì)方法和應(yīng)用實(shí)例;第12章介紹了各種人工神經(jīng)元網(wǎng)絡(luò)設(shè)計(jì)開(kāi)發(fā)平臺(tái)。本書(shū)的3位作者分工如下:第1章及第2、3、4、5、6、8、9、11章的部分基本理論和實(shí)例分析由施彥撰寫(xiě);第7章及第2~11章的基本理論和部分實(shí)例分析由韓力群撰寫(xiě);第12章及第2、4章部分實(shí)例分析由廉小親撰寫(xiě)。
本書(shū)重點(diǎn)介紹人工神經(jīng)網(wǎng)絡(luò)的主要設(shè)計(jì)方法,從各個(gè)應(yīng)用領(lǐng)域精選了豐富的典型應(yīng)用實(shí)例進(jìn)行剖析,旨在使讀者對(duì)各類(lèi)常用人工神經(jīng)網(wǎng)絡(luò)的基本原理和學(xué)習(xí)算法進(jìn)一步加深理解,熟悉其主要功能,掌握其設(shè)計(jì)方法,了解其主要應(yīng)用,為設(shè)計(jì)各類(lèi)神經(jīng)網(wǎng)絡(luò)和解決實(shí)際問(wèn)題打下基礎(chǔ)。
第1章 神經(jīng)網(wǎng)絡(luò)模型評(píng)估及選擇
1.1 神經(jīng)網(wǎng)絡(luò)的泛化能力
1.2 神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型的一般描述
1.3 研究神經(jīng)網(wǎng)絡(luò)泛化能力的理論基礎(chǔ)
1.3.1 經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則
1.3.2 結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則
1.3.3 偏差一方差分解
1.4 影響神經(jīng)網(wǎng)絡(luò)的泛化能力的具體因素
1.4.1 神經(jīng)網(wǎng)絡(luò)具有泛化能力的基本必要條件
1.4.2 噪聲的影響
1.4.3 “欠擬合”和“過(guò)擬合”
1.5 提高神經(jīng)網(wǎng)絡(luò)的泛化能力的方法
1.5.1 模型結(jié)構(gòu)選擇
1.5.2 訓(xùn)練集擴(kuò)展方法
1.5.3 提前停止
1.5.4 權(quán)值衰減
1.5.5 貝葉斯學(xué)習(xí)
1.5.6 神經(jīng)網(wǎng)絡(luò)集成
1.6 神經(jīng)網(wǎng)絡(luò)模型的評(píng)估與選擇
1.6.1 神經(jīng)網(wǎng)絡(luò)模型的評(píng)估
1.6.2 神經(jīng)網(wǎng)絡(luò)模型的選擇
本章參考文獻(xiàn)
第2章 基于BP算法的多層感知器的設(shè)計(jì)與應(yīng)用
2.1 基于BP算法的多層感知器網(wǎng)絡(luò)工作原理與主要特點(diǎn)
2.1.1 基于BP算法的多層前饋網(wǎng)絡(luò)模型
2.1.2 BP學(xué)習(xí)算法
2.1.3 BP算法的程序?qū)崿F(xiàn)
2.1.4 標(biāo)準(zhǔn)BP算法的改進(jìn)
2.2 基于BP算法的多層前饋網(wǎng)絡(luò)設(shè)計(jì)基礎(chǔ)
2.2.1 網(wǎng)絡(luò)信息容量與訓(xùn)練樣本數(shù)
2.2.2 訓(xùn)練樣本集的準(zhǔn)備
2.2.3 初始權(quán)值的設(shè)計(jì)
2.2.4 多層前饋網(wǎng)結(jié)構(gòu)設(shè)計(jì)
2.2.5 網(wǎng)絡(luò)訓(xùn)練與測(cè)試
2.3 基于BP算法的多層前饋網(wǎng)絡(luò)應(yīng)用與設(shè)計(jì)實(shí)例
2.3.1 基于BP算法的多層前饋網(wǎng)絡(luò)在催化劑配方建模中的應(yīng)用
2.3.2 基于BP算法的多層前饋網(wǎng)絡(luò)在城市年用水量預(yù)測(cè)中的應(yīng)用
2.3.3 基于BP算法的多層前饋網(wǎng)絡(luò)在煤與瓦斯突出預(yù)測(cè)中的應(yīng)用
2.3.4 基于BP算法的多層前饋網(wǎng)絡(luò)在磨煤機(jī)料位監(jiān)測(cè)中的應(yīng)用
2.3.5 基于BP算法的多層前饋網(wǎng)絡(luò)在道路安全評(píng)價(jià)中的應(yīng)用
2.3.6 基于BP算法的多層前饋網(wǎng)絡(luò)在項(xiàng)目投資風(fēng)險(xiǎn)評(píng)價(jià)中的應(yīng)用
2.3.7 基于BP算法的多層前饋網(wǎng)絡(luò)在大氣環(huán)境質(zhì)量評(píng)價(jià)中的應(yīng)用
2.3.8 基于BP網(wǎng)絡(luò)集成的除草劑定量構(gòu)效關(guān)系模型
2.3.9 基于BP網(wǎng)絡(luò)集成的物流中心選址模型
本章參考文獻(xiàn)
第3章 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)與應(yīng)用
3.1 徑向基函數(shù)網(wǎng)絡(luò)原理與學(xué)習(xí)算法
3.1.1 正則化RBF網(wǎng)絡(luò)原理與學(xué)習(xí)算法
3.1.2 廣義RBF網(wǎng)絡(luò)原理與學(xué)習(xí)算法
3.2 RBF網(wǎng)絡(luò)的設(shè)計(jì)要點(diǎn)
3.2.1 隨機(jī)選取RBF中心
3.2.2 自組織學(xué)習(xí)選取RBF中心及網(wǎng)絡(luò)設(shè)計(jì)
3.2.3 有監(jiān)督學(xué)習(xí)選取RBF中心及網(wǎng)絡(luò)設(shè)計(jì)
3.2.4 正交最小二乘(0LS)法選取RBF中心及網(wǎng)絡(luò)設(shè)計(jì)
3.2.5 遞歸最小二乘(OLS)法選取RBF中心及網(wǎng)絡(luò)設(shè)計(jì)
3.2.6 其他方法
3.2.7 RBF網(wǎng)絡(luò)與多層感知器的特點(diǎn)與設(shè)計(jì)比較
3.3 RBF網(wǎng)絡(luò)的應(yīng)用實(shí)例
3.3.1 RBF網(wǎng)絡(luò)在液化氣銷(xiāo)售量預(yù)測(cè)中的應(yīng)用
3.3.2 RBF網(wǎng)絡(luò)在地表水質(zhì)評(píng)價(jià)中的應(yīng)用
3.3.3 RBF網(wǎng)絡(luò)在汽油干點(diǎn)軟測(cè)量中的應(yīng)用
3.3.4 RBF網(wǎng)絡(luò)在地下溫度預(yù)測(cè)中的應(yīng)用
3.3.5 RBF網(wǎng)絡(luò)在工程車(chē)輛自動(dòng)變速控制中的應(yīng)用
3.3.6 RBF網(wǎng)絡(luò)在人臉年齡估計(jì)中的應(yīng)用
3.3.7 RBF網(wǎng)絡(luò)在專(zhuān)利發(fā)展趨勢(shì)預(yù)測(cè)中的應(yīng)用
3.3.8 RBF網(wǎng)絡(luò)在圖像融合中的應(yīng)用
3.3.9 RBF網(wǎng)絡(luò)紅外光譜法用于中藥大黃樣品的真?zhèn)畏诸?lèi)
3.3.10 RBF網(wǎng)絡(luò)在船用柴油機(jī)智能診斷中的應(yīng)用
3.3.11 RBF網(wǎng)絡(luò)在多級(jí)入侵檢測(cè)中的應(yīng)用
本章參考文獻(xiàn)
第4章 SOFM網(wǎng)絡(luò)設(shè)計(jì)與應(yīng)用
4.1 SOFM網(wǎng)絡(luò)原理與學(xué)習(xí)算法
4.2 SOFM網(wǎng)絡(luò)的設(shè)計(jì)基礎(chǔ)
4.2.1 輸出層設(shè)計(jì)
4.2.2 權(quán)值初始化問(wèn)題
4.2.3 優(yōu)勝鄰域Nj*·(t)的設(shè)計(jì)
4.2.4 學(xué)習(xí)率n(t)的設(shè)計(jì)
4.3 應(yīng)用與設(shè)計(jì)實(shí)例
4.3.1 SOFM網(wǎng)絡(luò)用于皮革外觀效果分類(lèi)
4.3.2 SOFM網(wǎng)絡(luò)用于物流中心城市分類(lèi)評(píng)價(jià)
4.3.3 SOFM網(wǎng)絡(luò)用于遙感影像分類(lèi)
4.3.4 SOFM網(wǎng)絡(luò)用于火焰燃燒診斷
4.3.5 SOFM網(wǎng)絡(luò)在防火樹(shù)種分類(lèi)中的應(yīng)用
4.3.6 SOFM在基于漢字與部件聚類(lèi)的漢字認(rèn)知建模中的應(yīng)用
4.3.7 SOFM網(wǎng)絡(luò)在膨脹土分類(lèi)中的應(yīng)用
4.3.8 SOFM網(wǎng)絡(luò)在水電廠技術(shù)供水系統(tǒng)故障診斷中的應(yīng)用
4.3.9 SOFM網(wǎng)絡(luò)在不同地區(qū)人力資本構(gòu)成分析中的應(yīng)用
本章參考文獻(xiàn)
第5章 LVQ網(wǎng)絡(luò)設(shè)計(jì)與應(yīng)用
5.1 LVQ網(wǎng)絡(luò)原理與學(xué)習(xí)算法
5.1.1 LVQ網(wǎng)絡(luò)工作原理
5.1.2 LVQ網(wǎng)絡(luò)的學(xué)習(xí)算法
5.2 LVQ網(wǎng)絡(luò)設(shè)計(jì)要點(diǎn)
5.2.1 競(jìng)爭(zhēng)層設(shè)計(jì)
5.2.2 權(quán)值初始化問(wèn)題
5.2.3 學(xué)習(xí)率n(t)的設(shè)計(jì)
5.3 應(yīng)用與設(shè)計(jì)實(shí)例
5.3.1 LVQ網(wǎng)絡(luò)在證券投資基金分類(lèi)中的應(yīng)用
5.3.2 LVQ網(wǎng)絡(luò)在探地雷達(dá)探雷中的應(yīng)用
5.3.3 LVQ網(wǎng)絡(luò)在蘋(píng)果等級(jí)判別中的應(yīng)用
5.3.4 VQ網(wǎng)絡(luò)在胃癌組織樣品分類(lèi)識(shí)別中的應(yīng)用
5.3.5 LVQ網(wǎng)絡(luò)在液壓系統(tǒng)故障診斷中的應(yīng)用
5.3.6 LVQ網(wǎng)絡(luò)在汽車(chē)信貸客戶(hù)分類(lèi)中的應(yīng)用研究
5.3.7 LVQ網(wǎng)絡(luò)在土地利用/覆蓋變化探測(cè)中的應(yīng)用
5.3.8 LVQ網(wǎng)絡(luò)在周期信號(hào)識(shí)別方面的擴(kuò)展應(yīng)用
本章參考文獻(xiàn)
第6章 對(duì)偶傳播神經(jīng)網(wǎng)絡(luò)
6.1 網(wǎng)絡(luò)運(yùn)行原理及學(xué)習(xí)算法
6.1.1 網(wǎng)絡(luò)結(jié)構(gòu)及運(yùn)行原理
6.1.2 CPN的學(xué)習(xí)算法
6.2 CPN網(wǎng)的設(shè)計(jì)與改進(jìn)
6.2.1 CPN網(wǎng)的設(shè)計(jì)要點(diǎn)
6.2.2 改進(jìn)的CPN網(wǎng)
6.3 CPN網(wǎng)的應(yīng)用
6.3.1 CPN網(wǎng)在烤煙煙葉顏色模式分類(lèi)中的應(yīng)用
6.3.2 CPN網(wǎng)絡(luò)的水電機(jī)組振動(dòng)故障診斷中的應(yīng)用
6.3.3 CPN網(wǎng)絡(luò)在博士學(xué)位論文質(zhì)量評(píng)估中的應(yīng)用
6.3.4 CPN網(wǎng)在人臉識(shí)別中的應(yīng)用
6.3.5 CPN網(wǎng)絡(luò)在時(shí)間序列預(yù)測(cè)問(wèn)題中的應(yīng)用
6.3.6 CPN網(wǎng)絡(luò)在棉花異性纖維識(shí)別中的應(yīng)用
本章參考文獻(xiàn)
第7章 ART網(wǎng)絡(luò)設(shè)計(jì)及應(yīng)用
7.1 ART網(wǎng)絡(luò)原理與算法
7.1.1 ART網(wǎng)絡(luò)的主要特點(diǎn)
7.1.2 ARTI型網(wǎng)絡(luò)原理與算法
……
第8章 Hopfield網(wǎng)絡(luò)的設(shè)計(jì)與應(yīng)用
第9章 時(shí)序遞歸網(wǎng)絡(luò)的設(shè)計(jì)與應(yīng)用
第10章 CMAC網(wǎng)絡(luò)的設(shè)計(jì)與應(yīng)用
第11章 支持向量機(jī)的設(shè)計(jì)與應(yīng)用
第12章 人工神經(jīng)元網(wǎng)絡(luò)設(shè)計(jì)開(kāi)發(fā)平臺(tái)
第1章神經(jīng)網(wǎng)絡(luò)模型評(píng)估及選擇
神經(jīng)網(wǎng)絡(luò)的種類(lèi)很多,每一種類(lèi)型的網(wǎng)絡(luò)適合解決不同的問(wèn)題,無(wú)論對(duì)于哪一種網(wǎng)絡(luò),都需要在最終結(jié)束訓(xùn)練和設(shè)計(jì)時(shí)評(píng)估網(wǎng)絡(luò)的性能。以什么指標(biāo)作為評(píng)估網(wǎng)絡(luò)性能的主要指標(biāo),如何對(duì)該指標(biāo)進(jìn)行量化估計(jì),如何提高網(wǎng)絡(luò)的性能,這是每個(gè)設(shè)計(jì)者都要遇到和需要解決的問(wèn)題。即設(shè)計(jì)者在解決實(shí)際問(wèn)題時(shí),需要考慮以什么標(biāo)準(zhǔn)設(shè)置網(wǎng)絡(luò)的各項(xiàng)參數(shù),控制其訓(xùn)練過(guò)程,確定最終的模型等一系列問(wèn)題。大多數(shù)情況下,我們不僅要求神經(jīng)網(wǎng)絡(luò)對(duì)現(xiàn)有訓(xùn)練集具有較好的擬合能力,也要求它能夠?qū)τ?xùn)練集以外的同分布數(shù)據(jù)做出較好的預(yù)測(cè),這就與神經(jīng)網(wǎng)絡(luò)的泛化能力有關(guān)。本章從神經(jīng)網(wǎng)絡(luò)的泛化能力出發(fā),討論神經(jīng)網(wǎng)絡(luò)模型性能評(píng)估問(wèn)題,分析提高泛化能力的原理和途徑,給出估計(jì)泛化誤差的方法,關(guān)于模型選擇的問(wèn)題則貫穿在各節(jié)當(dāng)中。
1.1 神經(jīng)網(wǎng)絡(luò)的泛化能力
神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)常常需要滿(mǎn)足多種不同的要求。例如,具有較好的泛化(推廣)能力、易于硬件實(shí)現(xiàn)、訓(xùn)練速度快等。其中泛化能力最為重要,它是衡量神經(jīng)網(wǎng)絡(luò)性能優(yōu)劣的一個(gè)重要方面,這是因?yàn)榻⑸窠?jīng)網(wǎng)絡(luò)模型的一個(gè)重要目標(biāo)是通過(guò)對(duì)已知環(huán)境信息的學(xué)習(xí),掌握其中的規(guī)律,從而對(duì)新的環(huán)境信息做出正確的預(yù)測(cè)。
泛化能力的定義如下:它是指經(jīng)訓(xùn)練(學(xué)習(xí))后的預(yù)測(cè)模型對(duì)未在訓(xùn)練集中出現(xiàn)(但具有統(tǒng)一規(guī)律性)的樣本做出正確反映的能力,學(xué)習(xí)不是簡(jiǎn)單地記憶已經(jīng)學(xué)過(guò)的輸入,而是通過(guò)對(duì)有限個(gè)訓(xùn)練樣本的學(xué)習(xí),學(xué)到隱含在樣本中的有關(guān)環(huán)境本身的內(nèi)在規(guī)律性。例如,對(duì)有導(dǎo)師學(xué)習(xí)的網(wǎng)絡(luò),通過(guò)對(duì)已有樣本的學(xué)習(xí),將所提取的樣本對(duì)中的非線(xiàn)性映射關(guān)系存儲(chǔ)在權(quán)值矩陣中,在其后的工作階段,當(dāng)向網(wǎng)絡(luò)輸入訓(xùn)練時(shí)未曾見(jiàn)過(guò)的非樣本數(shù)據(jù)(與訓(xùn)練集同分布)時(shí),網(wǎng)絡(luò)也能完成由輸入空間向輸出空間的正確映射。
神經(jīng)網(wǎng)絡(luò)的泛化能力涉及其在獨(dú)立的檢驗(yàn)數(shù)據(jù)(Test Data)上的預(yù)測(cè)能力。