目 錄
第1章 導(dǎo)論 1
1.1 模式識別的重要性 1
1.2 特征、特征向量和分類器 3
1.3 監(jiān)督、無監(jiān)督和半監(jiān)督學(xué)習(xí) 4
1.4 MATLAB程序 6
1.5 本書的章節(jié)安排 6
第2章 基于貝葉斯決策理論的分類器 8
2.1 引言 8
2.2 貝葉斯決策理論 8
2.3 判別函數(shù)和決策面 12
2.4 正態(tài)分布的貝葉斯分類 13
2.5 未知概率密度函數(shù)的估計 23
2.6 最近鄰準(zhǔn)則 41
2.7 貝葉斯網(wǎng)絡(luò) 44
習(xí)題 48
MATLAB編程與練習(xí) 54
參考文獻(xiàn) 58
第3章 線性分類器 61
3.1 引言 61
3.2 線性判別函數(shù)和決策超平面 61
3.3 感知器算法 62
3.4 最小二乘法 68
3.5 均方估計回顧 73
3.6 邏輯斯蒂判別 78
3.7 支持向量機(jī) 79
習(xí)題 94
MATLAB編程和練習(xí) 96
參考文獻(xiàn) 97
第4章 非線性分類器 101
4.1 引言 101
4.2 異或問題 101
4.3 兩層感知器 102
4.4 三層感知器 105
4.5 基于訓(xùn)練集準(zhǔn)確分類的算法 106
4.6 反向傳播算法 107
4.7 反向傳播算法的變體 112
4.8 代價函數(shù)的選擇 114
4.9 神經(jīng)網(wǎng)絡(luò)大小的選擇 116
4.10 仿真實(shí)例 119
4.11 共享權(quán)重的網(wǎng)絡(luò) 120
4.12 廣義線性分類器 121
4.13 線性二分分類器中l(wèi)維空間的容量 123
4.14 多項式分類器 124
4.15 徑向基函數(shù)網(wǎng)絡(luò) 125
4.16 通用逼近器 128
4.17 概率神經(jīng)網(wǎng)絡(luò) 129
4.18 支持向量機(jī)：非線性情形 130
4.19 其他SVM范式 134
4.20 決策樹 142
4.21 組合分類器 146
4.22 增強(qiáng)組合分類器的方法 151
4.23 類別不平衡問題 156
4.24 討論 157
習(xí)題 157
MATLAB編程和練習(xí) 160
參考文獻(xiàn) 163
第5章 特征選擇 173
5.1 引言 173
5.2 預(yù)處理 173
5.3 峰值現(xiàn)象 175
5.4 基于統(tǒng)計假設(shè)檢驗的特征選擇 177
5.5 接收機(jī)工作特性曲線 182
5.6 類別可分性判據(jù) 183
5.7 特征子集選擇 188
5.8 最優(yōu)特征生成 191
5.9 神經(jīng)網(wǎng)絡(luò)和特征生成/選擇 198
5.10 關(guān)于泛化理論的提示 199
5.11 貝葉斯信息準(zhǔn)則 205
習(xí)題 206
MATLAB編程和練習(xí) 208
參考文獻(xiàn) 211
第6章 特征生成I：數(shù)據(jù)變換和降維 216
6.1 引言 216
6.2 基向量和圖像 216
6.3 Karhunen-Loève變換 218
6.4 奇異值分解 224
6.5 獨(dú)立成分分析 229
6.6 非負(fù)矩陣因子分解 234
6.7 非線性降維 235
6.8 離散傅里葉變換 243
6.9 離散余弦和正弦變換 245
6.10 哈達(dá)瑪變換 246
6.11 哈爾變換 247
6.12 重新審視哈爾展開式 248
6.13 離散時間小波變換 251
6.14 多分辨率解釋 258
6.15 小波包 259
6.16 二維推廣簡介 260
6.17 應(yīng)用 262
習(xí)題 265
MATLAB編程和練習(xí) 267
參考文獻(xiàn) 269
第7章 特征生成II 276
7.1 引言 276
7.2 區(qū)域特征 276
7.3 形狀和尺寸特征 292
7.4 分形簡介 298
7.5 語音和聲音分類的典型特征 303
習(xí)題 313
MATLAB編程和練習(xí) 315
參考文獻(xiàn) 318
第8章 模板匹配 324
8.1 引言 324
8.2 基于最優(yōu)路徑搜索技術(shù)的度量 324
8.3 基于相關(guān)的度量 335
8.4 可變形模板模型 339
8.5 基于內(nèi)容的信息檢索：相關(guān)反饋 342
習(xí)題 345
MATLAB編程和練習(xí) 345
參考文獻(xiàn) 347
第9章 上下文相關(guān)分類 350
9.1 引言 350
9.2 貝葉斯分類器 350
9.3 馬爾可夫鏈模型 350
9.4 Viterbi算法 351
9.5 信道均衡 354
9.6 隱馬爾可夫模型 357
9.7 基于狀態(tài)持續(xù)時間建模的HMM 365
9.8 使用神經(jīng)網(wǎng)絡(luò)訓(xùn)練馬爾可夫模型 370
9.9 馬爾可夫隨機(jī)場的討論 371
習(xí)題 373
MATLAB編程和練習(xí) 373
參考文獻(xiàn) 375
第10章 監(jiān)督學(xué)習(xí)：尾聲 380
10.1 引言 380
10.2 錯誤計數(shù)法 380
10.3 利用有限大小的數(shù)據(jù)集 381
10.4 醫(yī)學(xué)成像實(shí)例研究 384
10.5 半監(jiān)督學(xué)習(xí) 386
習(xí)題 394
參考文獻(xiàn) 395
第11章 集聚：基本概念 399
11.1 引言 399
11.2 鄰近度 403
習(xí)題 417
參考文獻(xiàn) 418
第12章 集聚算法I：順序算法 420
12.1 引言 420
12.2 集聚算法的分類 421
12.3 順序集聚算法 423
12.4 改進(jìn)的BSAS 426
12.5 雙閾值順序算法 427
12.6 細(xì)化階段 429
12.7 神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn) 430
習(xí)題 432
MATLAB編程和練習(xí) 434
參考文獻(xiàn) 435
第13章 集聚算法II：層次算法 438
13.1 引言 438
13.2 合并算法 438
13.3 同型矩陣 455
13.4 分裂算法 456
13.5 用于大數(shù)據(jù)集的層次算法 457
13.6 選擇最優(yōu)的聚類數(shù) 462
習(xí)題 464
MATLAB編程和練習(xí) 465
參考文獻(xiàn) 466
第14章 集聚算法III：基于函數(shù)優(yōu)化的方法 469
14.1 引言 469
14.2 混合分解方法 470
14.3 模糊集聚算法 476
14.4 可能性聚類 491
14.5 硬集聚算法 495
14.6 向量量化 501
附錄 503
習(xí)題 503
MATLAB編程和練習(xí) 505
參考文獻(xiàn) 507
第15章 集聚算法IV 512
15.1 引言 512
15.2 基于圖論的集聚算法 512
15.3 競爭學(xué)習(xí)算法 522
15.4 二值形態(tài)學(xué)集聚算法 528
15.5 邊界檢測算法 534
15.6 尋谷集聚算法 536
15.7 代價優(yōu)化集聚回顧 538
15.8 核集聚算法 543
15.9 處理大數(shù)據(jù)集的基于密度的算法 546
15.10 高維數(shù)據(jù)集的集聚算法 550
15.11 其他集聚算法 560
15.12 組合集聚 561
習(xí)題 565
MATLAB編程和練習(xí) 567
參考文獻(xiàn) 569
第16章 聚類有效性 578
16.1 引言 578
16.2 假設(shè)檢驗回顧 578
16.3 聚類有效性中的假設(shè)檢驗 580
16.4 相對準(zhǔn)則 587
16.5 單個聚類的有效性 598
16.6 集聚趨勢 600
習(xí)題 606
參考文獻(xiàn) 608
附錄A 概率論與數(shù)理統(tǒng)計的相關(guān)知識 613
附錄B 線性代數(shù)基礎(chǔ) 622
附錄C 代價函數(shù)優(yōu)化 624
附錄D 線性系統(tǒng)理論的基本定義 636
詞匯表 638