關(guān)于我們
書單推薦
新書推薦
|
現(xiàn)代機(jī)器學(xué)習(xí)
機(jī)器學(xué)習(xí)為信息類學(xué)科的重要分支。本書作為機(jī)器學(xué)習(xí)入門、進(jìn)階與本碩博一體式培養(yǎng)教材,系統(tǒng)論述了機(jī)器學(xué)習(xí)研究的基本內(nèi)容、概念、算法、應(yīng)用以及最新發(fā)展。
本書共18章,分為機(jī)器學(xué)習(xí)基礎(chǔ)、經(jīng)典機(jī)器學(xué)習(xí)方法與現(xiàn)代機(jī)器學(xué)習(xí)方法三大部分。機(jī)器學(xué)習(xí)基礎(chǔ)部分為第1、2章,內(nèi)容為機(jī)器學(xué)習(xí)概述和數(shù)學(xué)基礎(chǔ)知識(shí);經(jīng)典機(jī)器學(xué)習(xí)方法部分為第3~10章,內(nèi)容分別為線性回歸與分類模型、特征提取與選擇、決策樹與集成學(xué)習(xí)、支持向量機(jī)、貝葉斯決策理論、神經(jīng)網(wǎng)絡(luò)、聚類方法和半監(jiān)督學(xué)習(xí)等;現(xiàn)代機(jī)器學(xué)習(xí)方法部分為第11~18章,內(nèi)容涵蓋了近年來新興的與不斷發(fā)展的前沿算法,如深度學(xué)習(xí)、深度強(qiáng)化學(xué)習(xí)、生成對(duì)抗網(wǎng)絡(luò)、膠囊網(wǎng)絡(luò)、圖卷積神經(jīng)網(wǎng)絡(luò)、自監(jiān)督學(xué)習(xí)、遷移學(xué)習(xí)以及自動(dòng)機(jī)器學(xué)習(xí)等。
本書可作為高等院校通信、電子信息、計(jì)算機(jī)、信息科學(xué)、自動(dòng)化技術(shù)等相關(guān)專業(yè)本科生與研究生的教材與參考用書,也可作為人工智能、計(jì)算機(jī)科學(xué)、模式識(shí)別、控制科學(xué)、信息與通信工程、集成電路系統(tǒng)設(shè)計(jì)等領(lǐng)域研究人員的參考用書。
從20世紀(jì)50年代圖靈測(cè)試提出至今,人工智能在不斷發(fā)展的過程中,經(jīng)歷了高潮、低谷、再高潮的起伏,而人工智能領(lǐng)域研究的終極目標(biāo)是實(shí)現(xiàn)擁有知識(shí),具有認(rèn)知、判斷、推理能力的智慧機(jī)器。縱觀人類成長、進(jìn)化與發(fā)展的交互過程,這些能力的習(xí)得無不是通過對(duì)知識(shí)、經(jīng)驗(yàn)、環(huán)境等的不斷學(xué)習(xí)與總結(jié)來獲得的,因此,是否具有學(xué)習(xí)能力以及學(xué)習(xí)與感知能力的強(qiáng)弱已成為人工智能能否實(shí)現(xiàn)的決定因素。正因如此,機(jī)器學(xué)習(xí)作為研究如何模擬和實(shí)現(xiàn)人類學(xué)習(xí)行為,不斷獲取新知識(shí)與新技能,重新組織已有知識(shí)結(jié)構(gòu),設(shè)計(jì)并研究可實(shí)現(xiàn)算法,并不斷改善自身性能的一門學(xué)科,成為了信息與人工智能領(lǐng)域的重要組成部分,得到了越來越多研究者的關(guān)注。隨著人工智能領(lǐng)域與機(jī)器學(xué)習(xí)領(lǐng)域科技的不斷發(fā)展,除經(jīng)典機(jī)器學(xué)習(xí)理論外,結(jié)合傳統(tǒng)機(jī)器學(xué)習(xí)方法并融合現(xiàn)代機(jī)器學(xué)習(xí)發(fā)展新理論、新趨勢(shì)與新內(nèi)容的機(jī)器學(xué)習(xí)方法層出不窮,本書在介紹經(jīng)典機(jī)器學(xué)習(xí)方法的同時(shí),對(duì)近年來新興的現(xiàn)代機(jī)器學(xué)習(xí)方法的理論、發(fā)展與應(yīng)用進(jìn)行了較全面的介紹。使讀者在學(xué)習(xí)經(jīng)典機(jī)器學(xué)習(xí)方法的同時(shí)掌握最新的趨勢(shì)與發(fā)展,在了解機(jī)器學(xué)習(xí)基礎(chǔ)理論的基礎(chǔ)上,能夠持續(xù)關(guān)注機(jī)器學(xué)習(xí)領(lǐng)域的最新發(fā)展與趨勢(shì),是本書整體內(nèi)容安排與章節(jié)安排的目的和基礎(chǔ)。
本書共18章,分為機(jī)器學(xué)習(xí)基礎(chǔ)、經(jīng)典機(jī)器學(xué)習(xí)方法與現(xiàn)代機(jī)器學(xué)習(xí)方法三大部分。
機(jī)器學(xué)習(xí)基礎(chǔ)部分圍繞機(jī)器學(xué)習(xí)的定義、基本類別、常見評(píng)價(jià)指標(biāo)、近年來機(jī)器學(xué)習(xí)在各領(lǐng)域中的應(yīng)用發(fā)展,以及矩陣論、最優(yōu)化基礎(chǔ)與概率統(tǒng)計(jì)基礎(chǔ)等數(shù)學(xué)基礎(chǔ)內(nèi)容進(jìn)行了闡述與復(fù)習(xí)。
經(jīng)典機(jī)器學(xué)習(xí)方法主要有回歸與分類,因此在經(jīng)典機(jī)器學(xué)習(xí)方法部分重點(diǎn)介紹了當(dāng)數(shù)據(jù)具有線性特性時(shí)的線性回歸與分類方法。隨著數(shù)值類數(shù)據(jù)特征維度的增加與特征的多樣化,數(shù)據(jù)的特征降維、特征選擇以及具有學(xué)習(xí)與更新能力的特征工程方法對(duì)機(jī)器學(xué)習(xí)后續(xù)任務(wù)的實(shí)現(xiàn)產(chǎn)生了重要的影響。對(duì)于非數(shù)值類數(shù)據(jù)以及單一分類與學(xué)習(xí)模型不能應(yīng)對(duì)更復(fù)雜的數(shù)據(jù)分布的問題,經(jīng)典的決策樹方法以及基于集成學(xué)習(xí)的多個(gè)數(shù)據(jù)子集與多個(gè)基礎(chǔ)學(xué)習(xí)器的集成方法是有效的。對(duì)于更高維的非線性特性數(shù)據(jù),支持向量機(jī)方法在解決小樣本、非線性以及高維模式問題中均實(shí)現(xiàn)了較好的表現(xiàn)與應(yīng)用。除此之外,基于統(tǒng)計(jì)決策理論的方法與基于模仿動(dòng)物神經(jīng)網(wǎng)絡(luò)行為特征的神經(jīng)網(wǎng)絡(luò)方法的提出,均為后續(xù)基于深度學(xué)習(xí)的現(xiàn)代機(jī)器學(xué)習(xí)方法的發(fā)展奠定了基礎(chǔ)。除經(jīng)典的有監(jiān)督學(xué)習(xí)問題外,在機(jī)器學(xué)習(xí)研究中,實(shí)際上面臨著大量的無標(biāo)記數(shù)據(jù)的情況,以及在實(shí)際應(yīng)用中標(biāo)記樣本數(shù)十分有限的情況。針對(duì)這些情況,無監(jiān)督學(xué)習(xí)方法以及半監(jiān)督學(xué)習(xí)方法被提出。本部分重點(diǎn)介紹了有監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)方法等經(jīng)典的機(jī)器學(xué)習(xí)理論與方法以及具有代表性的經(jīng)典機(jī)器學(xué)習(xí)與特征工程方法。
近年來機(jī)器學(xué)習(xí)方法與應(yīng)用不斷發(fā)展,因此在現(xiàn)代機(jī)器學(xué)習(xí)方法部分主要介紹了不斷涌現(xiàn)的新興深度學(xué)習(xí)網(wǎng)絡(luò)技術(shù),如最常見的深度卷積神經(jīng)網(wǎng)絡(luò)、受限玻耳茲曼機(jī)、深度信念網(wǎng)絡(luò)、深度自編碼器,以及具有時(shí)序記憶功能的循環(huán)神經(jīng)網(wǎng)絡(luò)與長短期記憶網(wǎng)絡(luò);統(tǒng)一神經(jīng)網(wǎng)絡(luò)的感知能力和強(qiáng)化學(xué)習(xí)的決策能力的深度強(qiáng)化學(xué)習(xí); 利用結(jié)構(gòu)化概率模型,通過生成器與判別器兩個(gè)模型進(jìn)行博弈,實(shí)現(xiàn)真實(shí)數(shù)據(jù)分布的數(shù)據(jù)擴(kuò)充技術(shù)的生成對(duì)抗網(wǎng)絡(luò);以神經(jīng)元向量代替單個(gè)神經(jīng)元節(jié)點(diǎn)的方式,利用動(dòng)態(tài)路由方式進(jìn)行全新的網(wǎng)絡(luò)訓(xùn)練的膠囊網(wǎng)絡(luò);能夠?qū)W習(xí)具有非歐式圖數(shù)據(jù)的圖卷積神經(jīng)網(wǎng)絡(luò)。同時(shí),隨著深度神經(jīng)網(wǎng)絡(luò)應(yīng)用的不斷發(fā)展,新的問題與思想不斷涌現(xiàn),產(chǎn)生了如何從未標(biāo)記的數(shù)據(jù)中學(xué)習(xí)更有效的特征并快速應(yīng)用于實(shí)際任務(wù)的自監(jiān)督學(xué)習(xí)的思想與方法; 如何實(shí)現(xiàn)事半功倍的深度學(xué)習(xí),使深度學(xué)習(xí)網(wǎng)絡(luò)實(shí)現(xiàn)具有舉一反三功能的遷移學(xué)習(xí)的思想與方法。多種多樣的任務(wù)類型與多種多樣的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì),也為機(jī)器學(xué)習(xí)的發(fā)展帶來了設(shè)計(jì)挑戰(zhàn),因此對(duì)如何從諸多的方法、操作與網(wǎng)絡(luò)結(jié)構(gòu)中挑選與實(shí)現(xiàn)最能針對(duì)某項(xiàng)任務(wù)與數(shù)據(jù)特性的自動(dòng)機(jī)器學(xué)習(xí)方法與前沿發(fā)展也在該部分進(jìn)行了涵蓋與展望。
本書每章末都安排了相應(yīng)的習(xí)題,并提供了相關(guān)參考文獻(xiàn),供讀者(學(xué)生)課后練習(xí)、思考,以及為拓展學(xué)習(xí)提供便利及參考。
本書是西安電子科技大學(xué)人工智能學(xué)院多年來教學(xué)與研究內(nèi)容的總結(jié)與凝練,前半部分(前10章)可作為本科生教學(xué)過程中的重點(diǎn)講授內(nèi)容,后半部分(后8章)可作為本科生能力拓展與研究生教學(xué)過程中的重點(diǎn)講授與可延拓學(xué)習(xí)內(nèi)容。本書也是西安電子科技大學(xué)人工智能學(xué)院本碩博一體化培養(yǎng)建設(shè)工作的重要內(nèi)容之一。
本書的完成有賴于西安電子科技大學(xué)人工智能學(xué)院、智能感知與圖像理解教育部重點(diǎn)實(shí)驗(yàn)室、智能感知與計(jì)算國際合作聯(lián)合實(shí)驗(yàn)室、智能感知與計(jì)算國際聯(lián)合研究中心、國家“111”計(jì)劃創(chuàng)新引智基地、國家“2011”信息感知協(xié)同創(chuàng)新中心、“大數(shù)據(jù)智能感知與計(jì)算”陜西省2011協(xié)同創(chuàng)新中心每一位同仁的支持。本書第1、6、8章由李玲玲撰寫;第2章由李玲玲、毛莎莎、古晶與王佳寧共同撰寫;第3、4章由陳璞花撰寫;第7、9、10章由古晶撰寫;第5、11、12、17章由毛莎莎撰寫;第13~16及18章由王佳寧撰寫。本書的出版離不開團(tuán)隊(duì)多位老師和研究生的支持與幫助,感謝團(tuán)隊(duì)中侯彪、楊淑媛、王爽、劉靜、公茂果、張向榮、李陽陽、吳建設(shè)、緱水平、尚榮華、田小林、劉若辰、劉波、馬文萍、王晗丁、韓紅、朱虎明等老師對(duì)本書編寫與出版工作的關(guān)心支持與辛勤付出,感謝侯曉慧老師、李霞老師、田臻老師、屈嬌老師、路童老師、劉夢(mèng)琨博士、孫其功博士、孫龍博士,以及郭思穎、黃潤虎、楊攀泉、李林昊、石光輝、楊謹(jǐn)瑗、齊夢(mèng)男、閆丹丹、郭曉惠、梁普江、孫鈺凱、孫新凱等研究生在此書完成過程中的辛苦付出。
在本書出版之際,特別感謝鄭南寧院士、徐宗本院士、譚鐵牛院士、包為民院士、郝躍院士、韓崇昭教授、管曉宏院士、周志華教授、高新波教授、石光明教授、姚新教授、張青富教授、金耀初教授、屈嶸教授、張艷寧教授、李軍教授、陳莉教授等多年來的關(guān)懷、幫助與指導(dǎo)。同時(shí),本書的撰寫工作也得到了國家自然科學(xué)基金(61801353、61836009、61621005、 61871310)等科研項(xiàng)目的支持,以及西安電子科技大學(xué)研究生精品教材建設(shè)項(xiàng)目、西安電子科技大學(xué)教材建設(shè)基金的資助與支持,還要特別感謝西安電子科技大學(xué)出版社副總編毛紅兵、副社長高維岳以及相關(guān)編輯的辛勤勞動(dòng)與付出,同時(shí)感謝書中所有被引文獻(xiàn)作者以及為本書出版付出辛勤勞動(dòng)的其他工作人員。
人工智能領(lǐng)域與機(jī)器學(xué)習(xí)領(lǐng)域的發(fā)展日新月異,很多新概念與新知識(shí)本書也是第一次涉及,限于本書作者水平,書中難免存在不妥之處,殷切希望讀者在閱讀此書時(shí)不吝指正。
作 者
2021年12月
第1章 機(jī)器學(xué)習(xí)概述 1
1.1 機(jī)器學(xué)習(xí)的基本概念 1
1.2 機(jī)器學(xué)習(xí)的基本類別 1
1.2.1 經(jīng)典機(jī)器學(xué)習(xí) 1
1.2.2 現(xiàn)代機(jī)器學(xué)習(xí) 6
1.3 機(jī)器學(xué)習(xí)的評(píng)估指標(biāo) 7
1.3.1 機(jī)器學(xué)習(xí)三要素 8
1.3.2 評(píng)估方法 9
1.4 機(jī)器學(xué)習(xí)典型應(yīng)用 11
1.4.1 專家系統(tǒng) 11
1.4.2 語音識(shí)別 12
1.4.3 機(jī)器翻譯 12
1.4.4 自動(dòng)駕駛 13
1.4.5 人臉檢測(cè) 13
本章小結(jié) 14
習(xí)題 14
參考文獻(xiàn) 14
第2章 數(shù)學(xué)基礎(chǔ)知識(shí) 15
2.1 矩陣論基礎(chǔ) 15
2.1.1 矩陣代數(shù)基礎(chǔ) 15
2.1.2 矩陣方程求解 18
2.1.3 矩陣分析 19
2.2 最優(yōu)化基礎(chǔ) 21
2.2.1 最小二乘與線性規(guī)劃 21
2.2.2 凸優(yōu)化 22
2.2.3 非線性優(yōu)化 23
2.3 統(tǒng)計(jì)學(xué)習(xí)基礎(chǔ) 25
2.3.1 條件概率 25
2.3.2 期望與方差 25
2.3.3 最大似然估計(jì) 26
本章小結(jié) 27
習(xí)題 27
參考文獻(xiàn) 28
第3章 線性回歸與分類模型 29
3.1 線性回歸模型 29
3.1.1 線性函數(shù)模型 30
3.1.2 偏置與方差分解 37
3.2 貝葉斯線性回歸 38
3.2.1 問題定義 38
3.2.2 問題求解 39
3.3 正則化線性回歸 41
3.3.1 嶺回歸 42
3.3.2 Lasso回歸 44
3.3.3 邏輯回歸 45
3.4 線性分類模型 46
3.4.1 生成式模型與判別式模型 47
3.4.2 線性判別分析 47
3.4.3 廣義線性判別分析 48
本章小結(jié) 49
習(xí)題 49
參考文獻(xiàn) 49
第4章 特征提取與選擇 51
4.1 經(jīng)典特征提取方法 52
4.1.1 主成分分析法 52
4.1.2 線性判別方法 54
4.1.3 流形學(xué)習(xí)方法 55
4.2 經(jīng)典特征選擇算法 58
4.2.1 特征選擇基本步驟 58
4.2.2 特征選擇搜索策略 61
4.2.3 特征選擇評(píng)價(jià)準(zhǔn)則 65
4.3 稀疏表示與字典學(xué)習(xí) 68
4.3.1 稀疏表示 69
4.3.2 字典學(xué)習(xí) 70
本章小結(jié) 71
習(xí)題 71
參考文獻(xiàn) 72
第5章 決策樹與集成學(xué)習(xí) 73
5.1 決策樹 73
5.2 經(jīng)典決策樹算法 74
5.2.1 ID3算法 74
5.2.2 C4.5算法 75
5.2.3 CART算法 75
5.3 決策樹的剪枝 76
5.3.1 預(yù)剪枝 77
5.3.2 后剪枝 77
5.4 集成學(xué)習(xí) 78
5.4.1 Bagging 80
5.4.2 Boosting 81
5.4.4 Stacking 83
5.4.5 深度集成學(xué)習(xí) 83
本章小結(jié) 87
習(xí)題 87
參考文獻(xiàn) 89
第6章 支持向量機(jī) 91
6.1 支持向量機(jī)簡介 91
6.2 線性支持向量機(jī) 91
6.2.1 函數(shù)間隔與幾何間隔 92
6.2.2 線性可分問題 93
6.2.3 對(duì)偶問題 94
6.3 非線性支持向量機(jī) 96
6.3.1 核方法 97
6.3.2 常用核函數(shù) 98
6.3.3 非線性支持向量分類 99
6.4 支持向量機(jī)的應(yīng)用 99
本章小結(jié) 100
習(xí)題 100
參考文獻(xiàn) 100
第7章 貝葉斯決策理論 101
7.1 貝葉斯分類器 101
7.1.1 貝葉斯決策理論 101
7.1.2 最小風(fēng)險(xiǎn)貝葉斯決策規(guī)則 103
7.2 樸素貝葉斯分類器 105
7.3 貝葉斯網(wǎng)絡(luò) 106
7.4 EM算法 106
本章小結(jié) 107
習(xí)題 107
參考文獻(xiàn) 108
第8章 神經(jīng)網(wǎng)絡(luò) 109
8.1 神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 109
8.1.1 神經(jīng)網(wǎng)絡(luò)發(fā)展史 109
8.1.2 神經(jīng)元 110
8.1.3 感知器 110
8.2 卷積神經(jīng)網(wǎng)絡(luò) 111
8.3 前饋神經(jīng)網(wǎng)絡(luò) 113
8.4 反向傳播算法 114
8.5 其他常見神經(jīng)網(wǎng)絡(luò) 115
8.5.1 RBF網(wǎng)絡(luò) 115
8.5.2 SOM網(wǎng)絡(luò) 115
8.5.3 Hopfield網(wǎng)絡(luò) 116
本章小結(jié) 118
習(xí)題 119
參考文獻(xiàn) 119
第9章 聚類方法 121
9.1 聚類方法概述 121
9.2 K均值聚類 122
9.3 層次聚類 124
9.4 密度聚類 125
9.4.1 DBSCAN算法 126
9.4.2 OPTICS算法 126
9.4.3 Mean Shift算法 127
9.5 稀疏子空間聚類 128
本章小結(jié) 129
習(xí)題 129
參考文獻(xiàn) 130
第10章 半監(jiān)督學(xué)習(xí) 131
10.1 半監(jiān)督學(xué)習(xí)概述 131
10.2 半監(jiān)督分類方法 132
10.2.1 增量學(xué)習(xí) 132
10.2.2 生成式半監(jiān)督學(xué)習(xí) 132
10.2.3 半監(jiān)督支持向量機(jī) 133
10.2.4 基于圖的半監(jiān)督學(xué)習(xí) 134
10.2.5 基于分歧的半監(jiān)督學(xué)習(xí) 136
10.3 半監(jiān)督聚類方法 136
本章小結(jié) 137
習(xí)題 138
參考文獻(xiàn) 138
第11章 深度學(xué)習(xí) 139
11.1 深度學(xué)習(xí)簡介 139
11.2 深度卷積神經(jīng)網(wǎng)絡(luò) 141
11.2.1 卷積層 141
11.2.2 非線性激活層 143
11.2.3 池化層 143
11.2.4 全連接層 144
11.3 受限玻耳茲曼機(jī)(RBM)與
深度信念網(wǎng)絡(luò)(DBN) 146
11.3.1 玻耳茲曼機(jī) 146
11.3.2 受限玻耳茲曼機(jī) 147
11.3.3 深度信念網(wǎng)絡(luò) 148
11.4 深度自編碼器 151
11.4.1 欠完備自編碼器 152
11.4.2 正則自編碼器 153
11.4.3 自編碼器的應(yīng)用 154
11.5 循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)與
長短期記憶(LSTM)網(wǎng)絡(luò) 155
11.5.1 循環(huán)神經(jīng)網(wǎng)絡(luò) 155
11.5.2 長短期記憶網(wǎng)絡(luò) 157
本章小結(jié) 160
習(xí)題 161
參考文獻(xiàn) 161
第12章 深度強(qiáng)化學(xué)習(xí) 165
12.1 任務(wù)與獎(jiǎng)賞 166
12.2 多臂老虎機(jī) 167
12.2.1 守成與探索 167
12.2.2 多臂老虎機(jī)問題建模及
ε貪婪法 168
12.3 馬爾可夫決策過程(MDP) 169
12.3.1 引入MDP的原因 169
12.3.2 MDP的價(jià)值函數(shù) 170
12.3.3 狀態(tài)價(jià)值函數(shù)與動(dòng)作價(jià)值函數(shù)的
關(guān)系 170
12.3.4 最優(yōu)價(jià)值函數(shù) 171
12.4 動(dòng)態(tài)規(guī)劃 172
12.5 蒙特卡羅法 173
12.5.1 不基于模型的強(qiáng)化學(xué)習(xí) 173
12.5.2 預(yù)測(cè)問題 174
12.5.3 控制問題 174
本章小結(jié) 175
習(xí)題 175
參考文獻(xiàn) 176
第13章 生成對(duì)抗網(wǎng)絡(luò) 179
13.1 生成對(duì)抗網(wǎng)絡(luò)簡介 179
13.2 網(wǎng)絡(luò)結(jié)構(gòu) 180
13.3 訓(xùn)練過程 181
13.4 評(píng)價(jià)指標(biāo) 182
13.4.1 Inception Score(IS) 183
13.4.2 Mode Score(MS) 183
13.4.3 Fréchet Inception
Distance(FID) 184
13.5 訓(xùn)練生成對(duì)抗網(wǎng)絡(luò)面臨的
挑戰(zhàn) 184
13.5.1 模式崩潰 184
13.5.2 不收斂和不穩(wěn)定性 185
13.5.3 生成器梯度消失 185
13.6 生成對(duì)抗網(wǎng)絡(luò)經(jīng)典算法 185
13.6.1 InfoGAN 185
13.6.2 Conditional GAN(cGAN) 186
13.6.3 Deep Convolutional
GAN(DCGAN) 188
13.7 生成對(duì)抗網(wǎng)絡(luò)的應(yīng)用 190
13.7.1 圖像超分辨 190
13.7.2 人臉生成 192
13.7.3 紋理合成 192
13.7.4 視頻領(lǐng)域的應(yīng)用 192
13.7.5 應(yīng)用于自然語言處理 193
本章小結(jié) 193
習(xí)題 193
參考文獻(xiàn) 194
第14章 膠囊網(wǎng)絡(luò) 195
14.1 膠囊網(wǎng)絡(luò)簡介 195
14.2 膠囊的定義 196
14.3 膠囊網(wǎng)絡(luò)的結(jié)構(gòu) 196
14.4 動(dòng)態(tài)路由算法 198
14.5 膠囊網(wǎng)絡(luò)的損失函數(shù) 200
14.5.1 編碼器的損失函數(shù) 200
14.5.2 解碼器的損失函數(shù) 200
14.6 膠囊網(wǎng)絡(luò)典型算法 201
14.6.1 CapsuleGAN 201
14.6.2 DeepConvCapsule 202
14.6.3 Faster MSCapsNet 203
14.6.4 MSCapsNet 205
14.7 膠囊網(wǎng)絡(luò)的應(yīng)用 207
14.7.1 醫(yī)學(xué)圖像 207
14.7.2 關(guān)系抽取 208
14.7.3 對(duì)抗性攻擊 208
本章小結(jié) 208
習(xí)題 209
參考文獻(xiàn) 209
第15章 圖卷積神經(jīng)網(wǎng)絡(luò) 211
15.1 符號(hào)的定義 212
15.2 圖卷積和圖池化的構(gòu)建 213
15.2.1 圖卷積的構(gòu)建 213
15.2.2 圖池化的構(gòu)建 217
15.3 圖卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練 218
15.3.1 深層圖卷積神經(jīng)網(wǎng)絡(luò) 218
15.3.2 大規(guī)模網(wǎng)絡(luò)圖卷積技術(shù) 219
15.3.3 半監(jiān)督節(jié)點(diǎn)分類問題的
訓(xùn)練技術(shù) 220
15.4 圖卷積神經(jīng)網(wǎng)絡(luò)的典型算法 220
15.4.1 半監(jiān)督圖卷積網(wǎng)絡(luò) 220
15.4.2 HAGCN 222
15.4.3 GAT 224
15.5 圖卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用 225
15.5.1 網(wǎng)絡(luò)分析 225
15.5.2 社區(qū)發(fā)現(xiàn) 225
15.5.3 推薦系統(tǒng) 225
15.5.4 交通預(yù)測(cè) 226
15.5.5 生物化學(xué) 227
15.5.6 計(jì)算機(jī)視覺 228
15.5.7 自然語言處理 229
15.6 圖卷積神經(jīng)網(wǎng)絡(luò)的未來發(fā)展方向 229
15.6.1 深層的網(wǎng)絡(luò)結(jié)構(gòu) 229
15.6.2 大規(guī)模數(shù)據(jù) 230
15.6.3 多尺度的圖上任務(wù) 230
15.6.4 動(dòng)態(tài)變化的圖數(shù)據(jù) 230
15.6.5 圖神經(jīng)網(wǎng)絡(luò)的可解釋性 230
本章小結(jié) 231
習(xí)題 231
參考文獻(xiàn) 231
第16章 自監(jiān)督學(xué)習(xí) 233
16.1 自監(jiān)督學(xué)習(xí)概述 233
16.1.1 自監(jiān)督學(xué)習(xí)背景 233
16.1.2 術(shù)語解釋 235
16.1.3 自監(jiān)督學(xué)習(xí)前置任務(wù) 235
16.1.4 自監(jiān)督學(xué)習(xí)下游任務(wù) 238
16.1.5 自監(jiān)督學(xué)習(xí)數(shù)據(jù)集 240
16.2 自監(jiān)督學(xué)習(xí)方法 240
16.2.1 基于對(duì)比的自監(jiān)督學(xué)習(xí) 240
16.2.2 基于上下文的自監(jiān)督學(xué)習(xí) 245
16.2.3 基于時(shí)序的自監(jiān)督學(xué)習(xí) 248
16.3 自監(jiān)督學(xué)習(xí)的應(yīng)用拓展 249
16.3.1 自監(jiān)督學(xué)習(xí)輔助的知識(shí)蒸餾 249
16.3.2 自監(jiān)督半監(jiān)督學(xué)習(xí) 253
本章小結(jié) 255
習(xí)題 256
參考文獻(xiàn) 256
第17章 遷移學(xué)習(xí) 259
17.1 遷移學(xué)習(xí)概述 259
17.1.1 遷移學(xué)習(xí)的歷史 260
17.1.2 遷移學(xué)習(xí)的本質(zhì) 261
17.2 遷移學(xué)習(xí) 262
17.2.1 基于實(shí)例的遷移學(xué)習(xí) 263
17.2.2 基于特征的遷移學(xué)習(xí) 264
17.2.3 基于參數(shù)的遷移學(xué)習(xí) 266
17.2.4 基于關(guān)系的遷移學(xué)習(xí) 267
17.3 深度遷移學(xué)習(xí) 269
17.3.1 基于網(wǎng)絡(luò)的深度遷移學(xué)習(xí) 269
17.3.2 基于生成對(duì)抗網(wǎng)絡(luò)的
深度遷移學(xué)習(xí) 272
17.4 遷移學(xué)習(xí)的應(yīng)用 274
本章小結(jié) 277
習(xí)題 277
參考文獻(xiàn) 278
第18章 自動(dòng)機(jī)器學(xué)習(xí) 281
18.1 自動(dòng)機(jī)器學(xué)習(xí)基礎(chǔ) 281
18.1.1 初識(shí)自動(dòng)機(jī)器學(xué)習(xí) 281
18.1.2 自動(dòng)機(jī)器學(xué)習(xí)的構(gòu)成 282
18.2 數(shù)據(jù)準(zhǔn)備 283
18.2.1 數(shù)據(jù)收集 284
18.2.2 數(shù)據(jù)清理 284
18.2.3 數(shù)據(jù)增強(qiáng) 284
18.3 模型生成 285
18.3.1 傳統(tǒng)模型 285
18.3.2 NAS 286
18.3.3 模型優(yōu)化 293
18.4 模型評(píng)估 299
18.4.1 低保真 299
18.4.2 權(quán)重共享 300
18.4.3 代理模型 300
18.4.4 早停法 300
18.4.5 資源感知 300
18.5 經(jīng)典NAS算法 301
18.5.1 NASNet 301
18.5.2 PNAS 303
18.5.3 DARTS 304
本章小結(jié) 306
習(xí)題 307
參考文獻(xiàn) 307
你還可能感興趣
我要評(píng)論
|