第一篇 復(fù)雜影像內(nèi)容解譯 第1章 遙感腦 3 1.1 遙感數(shù)據(jù)的特點(diǎn) 3 1.2 遙感影像解譯存在的問(wèn)題 5 1.3 海量遙感數(shù)據(jù)在軌處理 9 1.4 類(lèi)腦計(jì)算理論 10 1.5 遙感腦 14 本章參考文獻(xiàn) 16 第2章 復(fù)雜影像語(yǔ)義分析 22 2.1 引言 22 2.2 研究現(xiàn)狀和研究動(dòng)機(jī) 22 2.3 高分辨SAR圖像的素描圖 24 2.3.1 Marr的視覺(jué)計(jì)算理論 24 2.3.2 光學(xué)圖像的初始素描模型 25 2.3.3 初始素描圖的提取方法 26 2.3.4 高分辨SAR圖像的素描模型 29 2.3.5 高分辨SAR圖像素描圖的提取方法 29 2.4 結(jié)構(gòu)區(qū)域圖及其在SAR圖像相干斑抑制中的應(yīng)用 39 2.4.1 高分辨SAR圖像的初級(jí)視覺(jué)語(yǔ)義層 39 2.4.2 抑制相干斑任務(wù)驅(qū)動(dòng)的結(jié)構(gòu)區(qū)域圖的產(chǎn)生 40 2.4.3 基于幾何核函數(shù)測(cè)度和勻質(zhì)區(qū)域搜索的SAR圖像相干斑抑制 41 2.5 語(yǔ)義素描圖及其在SAR圖像相干斑抑制中的應(yīng)用 48 2.5.1 研究動(dòng)機(jī) 48 2.5.2 語(yǔ)義素描圖中方向信息的傳遞 49 2.5.3 基于幾何結(jié)構(gòu)塊相似性測(cè)度的非局部均值濾波方法 50 2.5.4 基于像素分類(lèi)和自適應(yīng)鄰域搜索的SAR圖像相干斑抑制 51 本章參考文獻(xiàn) 63 第3章 壓縮表示學(xué)習(xí)與深度推斷 67 3.1 壓縮的采樣與感知理論基礎(chǔ) 68 3.1.1 壓縮采樣算子 71 3.1.2 稀疏化信號(hào)表示模型 74 3.1.3 信號(hào)感知算法 83 3.2 表示學(xué)習(xí)與深度認(rèn)知推斷 89 3.2.1 統(tǒng)計(jì)機(jī)器學(xué)習(xí)中的壓縮采樣 94 3.2.2 統(tǒng)計(jì)機(jī)器學(xué)習(xí)中的參數(shù)化模型 95 3.2.3 判別式模型學(xué)習(xí)與深度認(rèn)知推理 102 3.2.4 生成式模型學(xué)習(xí)與深度認(rèn)知推理 104 3.2.5 分析與討論 108 本章參考文獻(xiàn) 111 第4章 高分辨率遙感圖像理解 126 4.1 背景介紹 126 4.2 高分辨率遙感圖像目標(biāo)檢測(cè) 126 4.2.1 引言 126 4.2.2 目標(biāo)檢測(cè)方法綜述 126 4.2.3 目標(biāo)檢測(cè)數(shù)據(jù)庫(kù)綜述 132 4.2.4 評(píng)價(jià)指標(biāo) 134 4.2.5 方法對(duì)比 135 4.3 高分辨率遙感圖像場(chǎng)景分類(lèi) 136 4.3.1 引言 136 4.3.2 遙感圖像場(chǎng)景分類(lèi)方法綜述 137 4.3.3 場(chǎng)景分類(lèi)數(shù)據(jù)庫(kù)綜述 143 4.3.4 評(píng)價(jià)指標(biāo) 146 4.3.5 方法對(duì)比 146 本章參考文獻(xiàn) 148 第5章 基于圖像學(xué)習(xí)表征和重排序的遙感影像內(nèi)容檢索 157 5.1 基于內(nèi)容的遙感圖像檢索 157 5.2 基于內(nèi)容的遙感圖像檢索方法簡(jiǎn)介 158 5.2.1 綜合完備的RSIR系統(tǒng) 158 5.2.2 解決CBIR領(lǐng)域相關(guān)技術(shù)難題的RSIR方法 160 5.2.3 RSIR技術(shù)的多方面應(yīng)用 161 5.3 圖像重排序 162 5.4 圖像重排序方法介紹 163 5.4.1 相關(guān)反饋 164 5.4.2 不依賴(lài)樣本的重排序 164 5.5 基于內(nèi)容的遙感圖像檢索、重排序問(wèn)題的評(píng)價(jià)方式 165 5.6 基于內(nèi)容的遙感圖像檢索、重排序問(wèn)題的研究難點(diǎn) 166 本章參考文獻(xiàn) 167 第6章 基于稀疏特征學(xué)習(xí)的圖像分割與半監(jiān)督分類(lèi) 178 6.1 稀疏表示的基礎(chǔ)理論 178 6.2 幾種新的稀疏表示模型 178 6.2.1 多核聯(lián)合稀疏圖 179 6.2.2 基于隨機(jī)子空間的集成稀疏表示 183 6.2.3 基于稀疏學(xué)習(xí)的模糊C均值聚類(lèi)算法 185 6.2.4 基于稀疏自表示與模糊雙C均值聚類(lèi)算法 190 6.3 基于稀疏學(xué)習(xí)的圖像分割 194 6.3.1 圖像預(yù)處理 194 6.3.2 基于稀疏特征學(xué)習(xí)的圖像分割算法 195 6.4 基于稀疏學(xué)習(xí)的圖像半監(jiān)督分類(lèi) 195 6.4.1 基于人機(jī)交互的類(lèi)標(biāo)獲取方法 196 6.4.2 基于稀疏特征學(xué)習(xí)的圖像半監(jiān)督分類(lèi)方法 197 本章參考文獻(xiàn) 198 第二篇 高光譜數(shù)據(jù)解譯 第7章 空譜信息聯(lián)合的高光譜遙感圖像混合像元分解綜述 209 7.1 引言 209 7.2 空譜信息聯(lián)合的高光譜解混 210 7.2.1 空譜信息聯(lián)合的端元識(shí)別方法 211 7.2.2 基于空間預(yù)處理的端元識(shí)別 213 7.2.3 基于超像素的端元識(shí)別 214 7.3 空譜信息聯(lián)合的高光譜稀疏解混 217 7.3.1 稀疏解混模型 218 7.3.2 空譜信息聯(lián)合的稀疏解混模型 220 7.4 實(shí)驗(yàn)結(jié)果與分析 223 7.4.1 模擬數(shù)據(jù)實(shí)驗(yàn) 223 7.4.2 真實(shí)數(shù)據(jù)實(shí)驗(yàn) 225 7.5 總結(jié)與展望 229 本章參考文獻(xiàn) 229 第8章 不精確標(biāo)記數(shù)據(jù)的多示例目標(biāo)特性學(xué)習(xí) 234 8.1 背景介紹 234 8.1.1 高光譜圖像分析 235 8.1.2 高光譜圖像數(shù)據(jù) 235 8.1.3 高光譜解混 236 8.1.4 高光譜目標(biāo)檢測(cè) 236 8.1.5 心沖擊圖信號(hào)分析 237 8.1.6 液壓傳感器床墊系統(tǒng) 238 8.1.7 心沖擊圖中的多示例學(xué)習(xí)問(wèn)題 239 8.1.8 基于特征簽名的檢測(cè)器 239 8.1.9 頻譜匹配濾波器 240 8.1.10 自適應(yīng)一致/余弦估計(jì)器 240 8.1.11 混合檢測(cè)器 241 8.2 文獻(xiàn)綜述 242 8.2.1 多示例概念學(xué)習(xí) 242 8.2.2 多示例分類(lèi)器學(xué)習(xí) 246 本章參考文獻(xiàn) 250 第9章 稀疏圖在高光譜數(shù)據(jù)維數(shù)約減中的應(yīng)用 258 9.1 引言 258 9.2 常見(jiàn)的高光譜數(shù)據(jù)維數(shù)約減方法 260 9.2.1 基于譜帶選擇的維數(shù)約減方法介紹 261 9.2.2 基于特征提取的維數(shù)約減方法介紹 263 9.2.3 基于稀疏圖學(xué)習(xí)的高光譜維數(shù)約減方法 265 9.2.4 基于雙稀疏圖的高光譜半監(jiān)督維數(shù)約減方法 270 9.2.5 基于多圖集成的高光譜維數(shù)約減方法 275 9.2.6 基于空譜正則稀疏圖的高光譜譜帶選擇方法 278 9.3 本章小結(jié) 282 本章參考文獻(xiàn) 282 第10章 高光譜遙感圖像分類(lèi)技術(shù)概述與發(fā)展 288 10.1 高光譜遙感技術(shù)基礎(chǔ) 288 10.1.1 高光譜遙感技術(shù) 288 10.1.2 成像光譜儀發(fā)展現(xiàn)狀 289 10.1.3 高光譜遙感圖像的數(shù)據(jù)特點(diǎn) 292 10.2 高光譜圖像分類(lèi)及分類(lèi)評(píng)價(jià)指標(biāo) 294 10.2.1 高光譜遙感圖像數(shù)據(jù) 294 10.2.2 高光譜圖像分類(lèi)評(píng)價(jià)指標(biāo) 297 10.3 高光譜遙感圖像分類(lèi)技術(shù)基礎(chǔ) 299 10.3.1 高光譜圖像分類(lèi)中的特征提取 299 10.3.2 表示分類(lèi)算法 302 10.3.3 核變換及其屬性 304 10.4 高光譜遙感圖像分類(lèi)研究現(xiàn)狀 306 10.4.1 高光譜遙感分類(lèi)技術(shù)的現(xiàn)狀與挑戰(zhàn) 306 10.4.2 高光譜遙感空譜分類(lèi)方法的研究現(xiàn)狀 309 10.4.3 深度學(xué)習(xí)方法在高光譜圖像分類(lèi)中的研究現(xiàn)狀 310 本章參考文獻(xiàn) 314 第11章 空譜稀疏結(jié)構(gòu)學(xué)習(xí)下的高光譜數(shù)據(jù)降維與分類(lèi) 325 11.1 高光譜遙感信息處理前沿與挑戰(zhàn) 325 11.2 高光譜降維 328 11.3 高光譜分類(lèi) 332 11.4 稀疏結(jié)構(gòu)學(xué)習(xí) 335 11.5 高光譜解譯研究難點(diǎn)及未來(lái)研究方向 337 本章參考文獻(xiàn) 338 第三篇 計(jì)算智能與多目標(biāo)優(yōu)化 第12章 多目標(biāo)進(jìn)化優(yōu)化 349 12.1 多目標(biāo)優(yōu)化問(wèn)題 349 12.2 多目標(biāo)進(jìn)化算法簡(jiǎn)介 349 12.2.1 基于Pareto的多目標(biāo)進(jìn)化算法 350 12.2.2 基于指標(biāo)的多目標(biāo)進(jìn)化算法 351 12.2.3 基于分解的多目標(biāo)進(jìn)化算法 351 12.3 多目標(biāo)進(jìn)化算法的評(píng)價(jià)測(cè)度 352 12.3.1 收斂性 352 12.3.2 多樣性 353 12.3.3 均勻性 353 12.3.4 混合型 354 12.4 研究難點(diǎn)及現(xiàn)狀 354 12.4.1 決策空間復(fù)雜的多目標(biāo)優(yōu)化問(wèn)題 354 12.4.2 目標(biāo)空間復(fù)雜的多目標(biāo)優(yōu)化問(wèn)題 355 12.4.3 運(yùn)算代價(jià)昂貴的多目標(biāo)優(yōu)化問(wèn)題 357 本章參考文獻(xiàn) 357 第13章 高維多目標(biāo)粒子群優(yōu)化算法綜述 368 13.1 引言 368 13.2 高維多目標(biāo)粒子群優(yōu)化算法進(jìn)展 370 13.2.1 基于支配關(guān)系的高維多目標(biāo)粒子群優(yōu)化算法 371 13.2.2 基于分解方法的高維多目標(biāo)粒子群優(yōu)化算法 374 13.2.3 基于性能指標(biāo)的高維多目標(biāo)粒子群優(yōu)化算法 377 13.2.4 基于參考點(diǎn)引導(dǎo)的高維多目標(biāo)粒子群優(yōu)化算法 378 13.2.5 基于偏好的高維多目標(biāo)粒子群優(yōu)化算法 380 13.2.6 基于維數(shù)約減的高維多目標(biāo)粒子群優(yōu)化算法 382 13.3 總結(jié)與展望 383 本章參考文獻(xiàn) 385 第14章 進(jìn)化多目標(biāo)模糊聚類(lèi)圖像分割 394 14.1 圖像分割 394 14.1.1 研究背景及意義 394 14.1.2 傳統(tǒng)圖像分割方法 394 14.2 基于模糊C均值聚類(lèi)的圖像分割 397 14.3 多目標(biāo)進(jìn)化算法 401 14.3.1 進(jìn)化計(jì)算簡(jiǎn)述 401 14.3.2 多目標(biāo)優(yōu)化問(wèn)題 402 14.3.3 多目標(biāo)進(jìn)化算法簡(jiǎn)介 403 14.4 基于多目標(biāo)進(jìn)化算法與模糊聚類(lèi)的圖像分割 404 14.5 總結(jié)與展望 408 本章參考文獻(xiàn) 408 第15章 協(xié)同進(jìn)化計(jì)算與多智能體系統(tǒng) 413 15.1 從進(jìn)化論到進(jìn)化計(jì)算 413 15.1.1 現(xiàn)代進(jìn)化論 413 15.1.2 生物進(jìn)化與優(yōu)化 415 15.2 進(jìn)化計(jì)算 417 15.2.1 進(jìn)化計(jì)算的主要分支 418 15.2.2 進(jìn)化計(jì)算的數(shù)學(xué)基礎(chǔ) 420 15.2.3 進(jìn)化算法的收斂理論 422 15.2.4 進(jìn)化計(jì)算的應(yīng)用 427 15.3 協(xié)同進(jìn)化計(jì)算 428 15.3.1 協(xié)同進(jìn)化的生物學(xué)基礎(chǔ) 428 15.3.2 協(xié)同進(jìn)化的動(dòng)力學(xué)描述 432 15.3.3 協(xié)同進(jìn)化算法的發(fā)展現(xiàn)狀 434 15.4 復(fù)雜適應(yīng)系統(tǒng) 437 15.4.1 復(fù)雜適應(yīng)系統(tǒng) 437 15.4.2 復(fù)雜適應(yīng)系統(tǒng)的適應(yīng)性與生物進(jìn)化過(guò)程 439 15.4.3 生物進(jìn)化過(guò)程的數(shù)學(xué)模型 441 15.5 多智能體系統(tǒng) 444 15.5.1 智能體的基本概念 444 15.5.2 智能體形式化描述 447 15.5.3 多智能體系統(tǒng)的主要研究?jī)?nèi)容 451 15.5.4 面向問(wèn)題解決的多智能體系統(tǒng)研究現(xiàn)狀 453 15.5.5 多智能體系統(tǒng)與分布式人工智能 455 15.5.6 多智能體系統(tǒng)與人工生命 457 15.5.7 多智能體系統(tǒng)與進(jìn)化計(jì)算 459 本章參考文獻(xiàn) 461 第16章 量子計(jì)算智能前沿與進(jìn)展 471 16.1 量子計(jì)算 471 16.1.1 量子算法 471 16.1.2 量子系統(tǒng)中的疊加、相干與坍縮 472 16.1.3 量子態(tài)的干涉 473 16.1.4 量子態(tài)的糾纏 474 16.1.5 量子計(jì)算的并行性 475 16.2 量子搜索與優(yōu)化 476 16.2.1 Grover搜索算法 476 16.2.2 量子遺傳算法 477 16.2.3 量子粒子群智能算法 479 16.2.4 量子退火算法 482 16.2.5 量子免疫克隆算法 483 16.2.6 量子免疫克隆多目標(biāo)優(yōu)化算法 485 16.3 量子學(xué)習(xí) 486 16.3.1 量子聚類(lèi) 486 16.3.2 量子神經(jīng)網(wǎng)絡(luò) 487 16.3.3 量子貝葉斯網(wǎng)絡(luò) 488 16.3.4 量子小波變換 490 16.3.5 基于量子智能優(yōu)化的數(shù)據(jù)聚類(lèi) 491 16.3.6 基于量子智能優(yōu)化的數(shù)據(jù)分類(lèi) 494 16.3.7 基于量子智能優(yōu)化的網(wǎng)絡(luò)學(xué)習(xí) 496 16.4 基于量子智能優(yōu)化的應(yīng)用 500 16.4.1 量子進(jìn)化聚類(lèi)圖像分割 500 16.4.2 量子免疫克隆聚類(lèi)SAR圖像分割與變化檢測(cè) 502 16.4.3 量子粒子群醫(yī)學(xué)圖像分割 505 16.4.4 量子聚類(lèi)社區(qū)檢測(cè) 508 16.4.5 基于CMOQPSO的環(huán)境/經(jīng)濟(jì)調(diào)度優(yōu)化 509 本章參考文獻(xiàn) 511 第17章 人工免疫系統(tǒng) 516 17.1 從免疫系統(tǒng)到人工免疫系統(tǒng) 516 17.2 人工免疫系統(tǒng)的研究領(lǐng)域 518 17.2.1 人工免疫系統(tǒng)模型的研究 518 17.2.2 人工免疫系統(tǒng)算法的研究 520 17.2.3 人工免疫系統(tǒng)方法的應(yīng)用研究 525 17.3 人工免疫系統(tǒng)與其他方法的比較 528 17.3.1 人工免疫系統(tǒng)與進(jìn)化計(jì)算 528 17.3.2 人工免疫系統(tǒng)與人工神經(jīng)網(wǎng)絡(luò) 528 17.3.3 人工免疫系統(tǒng)與一般的確定性?xún)?yōu)化算法 530 17.4 免疫優(yōu)化計(jì)算研究的新進(jìn)展 531 17.4.1 免疫優(yōu)化算法研究的主要進(jìn)展 531 17.4.2 免疫優(yōu)化計(jì)算理論分析的主要進(jìn)展 536 17.5 問(wèn)題與挑戰(zhàn) 539 本章參考文獻(xiàn) 539 第18章 基于深度學(xué)習(xí)的個(gè)性化推薦系統(tǒng)研究綜述 547 18.1 引言 547 18.2 傳統(tǒng)的個(gè)性化推薦系統(tǒng)概述 547 18.2.1 基于內(nèi)容的推薦 548 18.2.2 協(xié)同過(guò)濾推薦 549 18.2.3 混合推薦 552 18.3 基于深度學(xué)習(xí)的個(gè)性化推薦 553 18.3.1 基于多層感知器的個(gè)性化推薦 554 18.3.2 基于自編碼器的個(gè)性化推薦 557 18.3.3 基于卷積神經(jīng)網(wǎng)絡(luò)的個(gè)性化推薦 558 18.3.4 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的個(gè)性化推薦 560 18.3.5 混合推薦 562 18.4 基于深度學(xué)習(xí)的個(gè)性化推薦系統(tǒng)研究與展望 563 18.4.1 深度學(xué)習(xí)與傳統(tǒng)推薦方法相結(jié)合的個(gè)性化推薦 564 18.4.2 基于深度學(xué)習(xí)的跨領(lǐng)域信息融合的推薦 564 18.4.3 基于深度學(xué)習(xí)的個(gè)性化推薦的新架構(gòu) 564 18.4.4 基于深度學(xué)習(xí)的推薦系統(tǒng)的可解釋性 565 本章參考文獻(xiàn) 565 第19章 復(fù)雜網(wǎng)絡(luò)的鏈路預(yù)測(cè)算法及其應(yīng)用研究 569 19.1 概述 569 19.2 問(wèn)題描述 570 19.2.1 鏈路預(yù)測(cè)問(wèn)題描述 570 19.2.2 社團(tuán)劃分問(wèn)題描述 571 19.3 發(fā)展現(xiàn)狀 572 19.3.1 鏈路預(yù)測(cè)發(fā)展現(xiàn)狀 572 19.3.2 社團(tuán)劃分發(fā)展現(xiàn)狀 577 19.4 展望未來(lái) 581 本章參考文獻(xiàn) 582 第20章 心理學(xué)與人工智能 587 20.1 概述 587 20.1.1 心理學(xué)對(duì)人工智能的影響 588 20.1.2 人工智能對(duì)心理學(xué)發(fā)展的影響 588 20.2 心理學(xué)簡(jiǎn)介 588 20.2.1 心理學(xué)的基本內(nèi)容 589 20.2.2 心理活動(dòng)的產(chǎn)生 590 20.2.3 認(rèn)知心理學(xué) 590 20.3 人工智能對(duì)心理學(xué)的影響和應(yīng)用 591 20.3.1 人工智能和認(rèn)知心理學(xué) 591 20.3.2 人工智能在心理測(cè)量方面的應(yīng)用 594 20.3.3 人工智能對(duì)心理實(shí)驗(yàn)范式的影響 595 20.3.4 研究前沿 597 20.4 總結(jié) 599 本章參考文獻(xiàn) 599 第四篇 稀疏認(rèn)知與神經(jīng)網(wǎng)絡(luò) 第21章 多尺度幾何逼近與分析 603 21.1 概念的產(chǎn)生 603 21.2 從傅里葉分析到小波分析 604 21.3 小波圖像逼近 606 21.4 人類(lèi)視覺(jué)模型 609 21.5 圖像的多尺度幾何分析 609 21.5.1 自適應(yīng)幾何逼近 610 21.5.2 Bandelet變換 611 21.5.3 脊波及單尺度脊波變換 614 21.5.4 Curvelet變換 616 21.5.5 Contourlet變換 618 21.6 問(wèn)題與展望 621 本章參考文獻(xiàn) 624 第22章 神經(jīng)網(wǎng)絡(luò)70年：從MP神經(jīng)元到深度學(xué)習(xí) 628 22.1 引言 628 22.2 神經(jīng)網(wǎng)絡(luò)發(fā)展回顧 630 22.3 深度學(xué)習(xí)研究進(jìn)展 640 22.4 總結(jié)和展望 646 本章參考文獻(xiàn) 648 第23章 稀疏認(rèn)知學(xué)習(xí)、計(jì)算與識(shí)別 660 23.1 引言 660 23.2 生物視覺(jué)稀疏認(rèn)知機(jī)理的研究進(jìn)展 661 23.2.1 生物視覺(jué)稀疏認(rèn)知機(jī)理的生理實(shí)驗(yàn)依據(jù) 661 23.2.2 生物視覺(jué)稀疏認(rèn)知機(jī)理的研究目的 663 23.2.3 生物視覺(jué)稀疏認(rèn)知機(jī)理的研究進(jìn)展 663 23.3 基于生物視覺(jué)稀疏認(rèn)知機(jī)理的學(xué)習(xí)與建模 664 23.3.1 V1區(qū)簡(jiǎn)單細(xì)胞的稀疏性學(xué)習(xí)與建模 664 23.3.2 V1區(qū)復(fù)雜細(xì)胞的稀疏性學(xué)習(xí)與建模 665 23.3.3 腹側(cè)視覺(jué)通路的稀疏性學(xué)習(xí)與建模 666 23.4 稀疏認(rèn)知計(jì)算模型的研究進(jìn)展 668 23.4.1 稀疏編碼模型 668 23.4.2 結(jié)構(gòu)化稀疏模型 670 23.4.3 層次化稀疏模型 671 23.4.4 三種模型之間的區(qū)別與聯(lián)系 675 23.5 基于稀疏認(rèn)知計(jì)算模型的目標(biāo)識(shí)別 676 23.5.1 稀疏認(rèn)知學(xué)習(xí)、計(jì)算與識(shí)別范式的脈絡(luò)結(jié)構(gòu) 676 23.5.2 稀疏認(rèn)知計(jì)算模型的應(yīng)用概述 677 23.5.3 稀疏認(rèn)知計(jì)算模型的目標(biāo)識(shí)別示例 678 23.6 存在的問(wèn)題及進(jìn)一步研究的方向 680 23.6.1 存在的問(wèn)題 680 23.6.2 進(jìn)一步研究的方向 682 本章參考文獻(xiàn) 683 第24章 隨機(jī)優(yōu)化應(yīng)用于大規(guī)模機(jī)器學(xué)習(xí) 689 24.1 基本定義 690 24.2 應(yīng)用于傳統(tǒng)機(jī)器學(xué)習(xí)問(wèn)題的隨機(jī)優(yōu)化 691 24.2.1 隨機(jī)梯度下降法(SGD) 692 24.2.2 隨機(jī)方差減少法 693 24.2.3 加速的隨機(jī)方差減少法 698 24.2.4 并行/分布式隨機(jī)優(yōu)化 704 24.3 應(yīng)用于深度學(xué)習(xí)問(wèn)題的隨機(jī)優(yōu)化 706 24.3.1 隨機(jī)梯度下降法 706 24.3.2 符號(hào)隨機(jī)優(yōu)化算法 709 24.3.3 自適應(yīng)學(xué)習(xí)率的隨機(jī)方法 711 24.3.4 優(yōu)化下降方向的隨機(jī)方法 714 24.3.5 并行和分布式的優(yōu)化算法 717 24.3.6 優(yōu)化SGD的技巧 725 本章參考文獻(xiàn) 727 第25章 深度神經(jīng)網(wǎng)絡(luò)并行化研究綜述 733 25.1 引言 733 25.2 神經(jīng)網(wǎng)絡(luò)發(fā)展概況 734 25.3 軟硬件發(fā)展概況 739 25.3.1 硬件架構(gòu) 739 25.3.2 并行編程框架 741 25.4 深度神經(jīng)網(wǎng)絡(luò)的模型并行和數(shù)據(jù)并行 743 25.5 深度神經(jīng)網(wǎng)絡(luò)開(kāi)源軟件系統(tǒng)并行化方法 748 25.6 深度神經(jīng)網(wǎng)絡(luò)并行化研究現(xiàn)狀 750 25.7 實(shí)驗(yàn)測(cè)試 754 25.8 深度神經(jīng)網(wǎng)絡(luò)并行化的挑戰(zhàn)和展望 758 25.9 總結(jié) 759 本章參考文獻(xiàn) 760 第26章 智能機(jī)器人 768 26.1 智能機(jī)器人 768 26.1.1 智能機(jī)器人的發(fā)展歷程與現(xiàn)狀 768 26.1.2 智能機(jī)器人的形式與類(lèi)別 769 26.1.3 智能機(jī)器人的系統(tǒng)組成框架 771 26.1.4 智能機(jī)器人的關(guān)鍵技術(shù) 772 26.2 應(yīng)用于智能機(jī)器人中的前饋神經(jīng)網(wǎng)絡(luò)算法 777 26.2.1 基于反向傳播的前饋神經(jīng)網(wǎng)絡(luò) 778 26.2.2 基于徑向基函數(shù)的前饋神經(jīng)網(wǎng)絡(luò) 778 26.3 應(yīng)用于智能機(jī)器人中的遞歸神經(jīng)網(wǎng)絡(luò)算法 779 26.3.1 零化遞歸神經(jīng)網(wǎng)絡(luò) 783 26.3.2 對(duì)偶遞歸神經(jīng)網(wǎng)絡(luò) 786 26.3.3 變參收斂遞歸神經(jīng)網(wǎng)絡(luò) 788 26.4 應(yīng)用于智能機(jī)器人中的學(xué)習(xí)算法 790 26.4.1 深度學(xué)習(xí) 791 26.4.2 強(qiáng)化學(xué)習(xí) 795 26.5 智能機(jī)器人領(lǐng)域未來(lái)發(fā)展方向以及前沿技術(shù) 798 26.5.1 腦機(jī)接口技術(shù) 798 26.5.2 類(lèi)腦型機(jī)器人控制與決策 800 26.5.3 遷移學(xué)習(xí)等高效智能學(xué)習(xí)算法 801 26.5.4 軟體仿生結(jié)構(gòu)智能機(jī)器人 801 26.5.5 分布式人工智能以及群體機(jī)器人智能控制 802 26.5.6 基于云計(jì)算和大數(shù)據(jù)的智能機(jī)器人 803 本章參考文獻(xiàn) 804