本書從數(shù)學優(yōu)化的角度對目前人工智能的代表技術機器學習進行分析,解決了目前這一領域偏向應用,數(shù)學理論較弱的問題,從原理、數(shù)學解析兩個方面對特征提取、分類、聚類、神經(jīng)網(wǎng)絡等進行了全面系統(tǒng)的剖析。解決了目前人工智能領域偏向應用,數(shù)學理論較弱的問題,從原理解析、數(shù)學解析兩個方面對機器學習進行剖析。
本書嘗試從計算流和信息流相結合的角度,從自組織網(wǎng)絡的角度,對計算科學與信息科學結合的原理、方法和意義進行闡述,從而形成一套融合數(shù)學思維和信息思維的理論體系。
人類對世界的認識是理論來源于實踐又服務于實踐的過程。作為對人類認知行為的近似,機器學習、深度學習和強化學習的過程也是認知來源于世界又服務于世界的過程。當離開人類的參與,這一行為完全由計算機自主實現(xiàn)時,這一過程表現(xiàn)為建立在機器學習、深度學習、強化學習(為表達方便,除非特別指出,采用機器學習代表三種學習形式,下同)基礎之上的自組織過程。
交換是經(jīng)濟社會中一種常見的基本的經(jīng)濟形式。現(xiàn)代交換經(jīng)濟中,物理世界的產(chǎn)品流通過與信息流結合,將現(xiàn)實世界映射到數(shù)字的世界。機器學習又將這個數(shù)字的世界映射到有限維或無限維的空間中,局部的或整體的空間中,呈現(xiàn)出結構與結構之間的關系。
人類最重要的兩個智能行為是學習和解決問題的能力。機器學習是讓計算機模擬和實現(xiàn)人類的學習,以獲取解決問題的知識。專家系統(tǒng)是基于經(jīng)驗的學習,也是機器學習的初級方式。專家系統(tǒng)利用專家的知識來解決實際問題,解決問題的能力達到了專家水平。但是專家系統(tǒng)在發(fā)展過程中遇到了不少的困難。一方面,從專家那里獲取知識是一項既費時又費力的困難工作。專家能在實際中有效地解決問題,但要專家整理出自己的知識和經(jīng)驗,他往往無從下手。這為知識獲取帶來了困難,形成了知識獲取的瓶頸現(xiàn)象。另一方面,基于經(jīng)驗的學習雖然在解決問題上具有一定功效,但是卻難以反映問題以及解決方法的本質(zhì)特征。機器學習是基于數(shù)據(jù)或樣本的學習,為解決知識獲取的問題提供了有效的途徑。它使得計算機可以從大量實例中自動歸納,產(chǎn)生描述和抽象這些實例的一般規(guī)則知識,從而在反復學習中不斷逼近問題以及解決方案的本質(zhì)。
機器學習被列為人工智能的核心技術,它以知識處理為主體,利用知識進行推理,完成人類定性分析的部分智能行為。人工智能技術融入決策支持系統(tǒng)后,使決策支持系統(tǒng)在模型技術和數(shù)據(jù)處理技術的基礎上,增加了知識推理技術,使決策支持系統(tǒng)的定量分析和AI的定性分析結合起來,從而提高輔助決策和支持決策的能力。
林強,北京信息科技大學教師,副研究員。在人工智能領域有著多年的實踐和教學經(jīng)驗,以第一作者身份發(fā)表科研論文15篇,其中SCI1篇,EI9篇,ISTP2篇;以第一發(fā)明人身份申請國內(nèi)外專利15項;其中13項已獲得授權,包括中國專利7項,美國專利4項,歐洲專利2項。
第一章
數(shù)據(jù)、數(shù)學與機器學習001
1.1 概述 / 003
1.2 數(shù)學與機器學習 / 005
1.3 數(shù)據(jù)與機器學習 / 008
1.4 深度學習與強化學習 / 014
1.5 本章小結 / 019
第二章
分類與回歸021
2.1 常用的分類方法 / 024
2.2 分類的數(shù)學解釋 / 032
2.3 回歸分析 / 038
2.4 回歸分析的數(shù)學解釋 / 041
2.5 本章小結 / 046
第三章
特征選取047
3.1 數(shù)據(jù)預處理的步驟 / 050
3.2 數(shù)據(jù)預處理與特征提取 / 057
3.3 主成分分析 / 059
3.4 因子分析 / 063
3.5 特征提取問題的數(shù)學解析 / 067
3.6 本章小結 / 072
第四章
聚 類075
4.1 基本概念 / 078
4.2 聚類的過程 / 082
4.3 分析方法 / 083
4.4 基于K-means算法的聚類規(guī)則 / 088
4.5 聚類問題的數(shù)學解釋 / 091
4.6 本章小結 / 094
第五章
深度學習097
5.1 概述 / 099
5.2 神經(jīng)網(wǎng)絡模型 / 101
5.3 神經(jīng)網(wǎng)絡學習方法 / 103
5.4 神經(jīng)網(wǎng)絡的數(shù)學解釋 / 106
5.5 本章小結 / 111
第六章
強化學習113
6.1 樸素貝葉斯 / 115
6.2 貝葉斯信念網(wǎng) / 118
6.3 動態(tài)貝葉斯網(wǎng)絡 / 120
6.4 一般時序模型 / 121
6.5 馬爾可夫模型 / 131
6.6 本章小結 / 138
第七章
計算流與自組織141
7.1 信息流與計算流的結合 / 143
7.2 學習中的自組織行為 / 144
7.3 神經(jīng)動力學與自組織 / 153
參考文獻157卷