機(jī)器學(xué)習(xí)與最優(yōu)化
本書主要包含以下內(nèi)如：最優(yōu)化問題的簡介，凸分析基礎(chǔ)，無約束優(yōu)化的理論及線搜索算法框架，信賴域算法，線搜索收斂性分析及收斂速度分析，半光滑牛頓算法，共軛梯度算法，約束優(yōu)化理論及延伸理論，罰方法，增廣拉格朗日算法及算法在實(shí)際問題(支持向量機(jī)模型、超圖匹配)中的應(yīng)用。本書對知識點(diǎn)的分析緊密結(jié)合當(dāng)前研究前沿問題，并通過對應(yīng)用問題使用優(yōu)化算法，讓學(xué)生看到優(yōu)化理論與實(shí)際數(shù)據(jù)的結(jié)合，將知識點(diǎn)以全方位的立體感呈現(xiàn)給學(xué)生。
更多科學(xué)出版社服務(wù)，請掃碼獲取。
目錄
前言
第1章 支持向量機(jī)1
1.1 分類問題與標(biāo)準(zhǔn)支持向量機(jī)1
1.1.1 分類問題1
1.1.2C-支持向量機(jī)1
1.1.3 最小二乘支持向量機(jī)4
1.2 超平面非平行的支持向量機(jī)6
1.2.1 雙子支持向量機(jī)6
1.2.2 非平行超平面支持向量機(jī)10
1.3 拓展閱讀14
1.3.1 二分類支持向量機(jī)及其拓展15
1.3.2 多分類支持向量機(jī)及其拓展19
參考文獻(xiàn)20
第2章 優(yōu)化算法26
2.1 確定型優(yōu)化算法26
2.1.1 序列最小最優(yōu)化算法26
2.1.2 交替方向乘子算法27
2.1.3 坐標(biāo)下降算法30
2.1.4 逐次超松弛迭代算法31
2.1.5 凸函數(shù)差分算法33
2.1.6 原始估計(jì)次梯度算法35
2.1.7 截?cái)嗯ｎD共軛梯度算法37
2.2 隨機(jī)型優(yōu)化算法39
2.2.1 梯度下降算法39
2.2.2 方差縮減算法41
2.2.3 加速算法43
2.2.4 自適應(yīng)學(xué)習(xí)速率算法45
2.2.5 高階算法47
2.2.6 鄰近算法50
2.3 拓展閱讀51
2.3.1 應(yīng)用領(lǐng)域51
2.3.2 隨機(jī)型優(yōu)化算法的拓展52
參考文獻(xiàn)52
第3章 損失函數(shù)58
3.1 分類問題的損失函數(shù)58
3.1.1 損失函數(shù)58
3.1.2 總結(jié)與分析66
3.2 回歸問題的損失函數(shù)67
3.2.1 損失函數(shù)68
3.2.2 總結(jié)與分析70
3.3 無監(jiān)督問題的損失函數(shù).71
3.3.1 損失函數(shù)71
3.3.2 總結(jié)與分析73
3.4 拓展閱讀73
3.4.1 目標(biāo)檢測中的損失函數(shù)73
3.4.2 人臉識別中的損失函數(shù)76
3.4.3 圖像分割中的損失函數(shù)78
參考文獻(xiàn)80
第4章 正則技術(shù)85
4.1 向量稀疏正則.85
4.1.1 應(yīng)用場景85
4.1.2 正則項(xiàng)86
4.1.3 總結(jié)與分析90
4.2 矩陣稀疏正則.91
4.2.1 應(yīng)用場景91
4.2.2 正則項(xiàng)92
4.2.3 總結(jié)與分析94
4.3 矩陣低秩正則.95
4.3.1 應(yīng)用場景95
4.3.2 正則項(xiàng)96
4.3.3 總結(jié)與分析98
4.4 拓展閱讀99
4.4.1 數(shù)據(jù)增強(qiáng)100
4.4.2 Dropout101
4.4.3 歸一化103
參考文獻(xiàn)105
第5章 多視角學(xué)習(xí).109
5.1 多視角學(xué)習(xí)問題與處理原則109
5.2 兩視角支持向量機(jī)SVM-2K111
5.3 基于特權(quán)信息學(xué)習(xí)理論的兩視角支持向量機(jī)113
5.3.1 模型構(gòu)建114
5.3.2 理論分析117
5.4 拓展閱讀119
5.4.1 協(xié)同訓(xùn)練119
5.4.2 多核學(xué)習(xí)121
5.4.3 子空間學(xué)習(xí)121
5.4.4 深度多視角學(xué)習(xí)124
參考文獻(xiàn)125
第6章 多標(biāo)簽學(xué)習(xí).131
6.1 多標(biāo)簽學(xué)習(xí)問題與評價(jià)指標(biāo)131
6.1.1 多標(biāo)簽分類問題131
6.1.2 多標(biāo)簽學(xué)習(xí)的評價(jià)指標(biāo)132
6.2 多標(biāo)簽學(xué)習(xí)的經(jīng)典算法133
6.2.1 二元關(guān)聯(lián)133
6.2.2 排序支持向量機(jī)134
6.3 考慮標(biāo)簽相關(guān)性的代價(jià)敏感多標(biāo)簽學(xué)習(xí)135
6.3.1 模型構(gòu)建136
6.3.2 模型求解138
6.3.3 理論分析140
6.4 拓展閱讀141
6.4.1 傳統(tǒng)多標(biāo)簽學(xué)習(xí)141
6.4.2 深度多標(biāo)簽學(xué)習(xí)142
參考文獻(xiàn)143
第7章 多示例學(xué)習(xí).146
7.1 多示例學(xué)習(xí)問題146
7.2 多示例支持向量機(jī)148
7.3 稀疏多示例支持向量機(jī)150
7.3.1 模型構(gòu)建151
7.3.2 模型求解152
7.4 拓展閱讀154
7.4.1 常見算法154
7.4.2 深度多示例學(xué)習(xí)算法156
7.4.3 與其他學(xué)習(xí)范式結(jié)合158
參考文獻(xiàn)160
第8章 多任務(wù)學(xué)習(xí).166
8.1 多任務(wù)學(xué)習(xí)問題166
8.2 多任務(wù)支持向量機(jī)167
8.3 多任務(wù)特征選擇168
8.3.1 模型構(gòu)建169
8.3.2 模型求解169
8.3.3 理論分析172
8.4 拓展閱讀172
8.4.1 傳統(tǒng)多任務(wù)學(xué)習(xí)173
8.4.2 深度多任務(wù)學(xué)習(xí)173
8.4.3 與其他學(xué)習(xí)范式結(jié)合176
參考文獻(xiàn)177
第9章 度量學(xué)習(xí)181
9.1 度量學(xué)習(xí)問題181
9.1.1 距離181
9.1.2 度量學(xué)習(xí)問題182
9.2 全局與局部度量學(xué)習(xí)183
9.2.1 全局度量學(xué)習(xí)183
9.2.2 局部度量學(xué)習(xí)184
9.3 基于特征分解的度量學(xué)習(xí)185
9.3.1 全局算法185
9.3.2 局部算法186
9.3.3 比較與分析188
9.4 拓展閱讀188
9.4.1 傳統(tǒng)度量學(xué)習(xí)188
9.4.2 深度度量學(xué)習(xí)190
參考文獻(xiàn)192
索引196
書單推薦
