目錄
1 深度計(jì)算——機(jī)器大腦的結(jié)構(gòu) 1
1.1 驚人的深度學(xué)習(xí) ................................................................................... 1
1.1.1 可以做酸奶的面包機(jī)：通用機(jī)器的概念 ................................ 2
1.1.2 連接主義 .................................................................................... 4
1.1.3 用機(jī)器設(shè)計(jì)機(jī)器 ........................................................................ 5
1.1.4 深度網(wǎng)絡(luò) .................................................................................... 6
1.1.5 深度學(xué)習(xí)的用武之地 ................................................................ 6
1.2 從人腦神經(jīng)元到人工神經(jīng)元 ............................................................... 8
1.2.1 生物神經(jīng)元中的計(jì)算靈感 ........................................................ 8
1.2.2 激活函數(shù) .................................................................................... 9
1.3 參數(shù)學(xué)習(xí) ............................................................................................. 10
1.3.1 模型的評(píng)價(jià) .............................................................................. 11
1.3.2 有監(jiān)督學(xué)習(xí) .............................................................................. 11
1.3.3 梯度下降法 .............................................................................. 12
1.4 多層前饋網(wǎng)絡(luò) ..................................................................................... 14
1.4.1 多層前饋網(wǎng)絡(luò) .......................................................................... 14
1.4.2 后向傳播算法計(jì)算梯度 .......................................................... 16
1.5 逐層預(yù)訓(xùn)練 ......................................................................................... 17
1.6 深度學(xué)習(xí)是終極神器嗎 ..................................................................... 20
1.6.1 深度學(xué)習(xí)帶來(lái)了什么 .............................................................. 20
1.6.2 深度學(xué)習(xí)尚未做到什么 .......................................................... 21
1.7 內(nèi)容回顧與推薦閱讀 ......................................................................... 22
1.8 參考文獻(xiàn) ............................................................................................. 23
2 知識(shí)圖譜——機(jī)器大腦中的知識(shí)庫(kù) 25
2.1 什么是知識(shí)圖譜 ................................................................................. 25
2.2 知識(shí)圖譜的構(gòu)建 ................................................................................. 28
2.2.1 大規(guī)模知識(shí)庫(kù) .......................................................................... 28
2.2.2 互聯(lián)網(wǎng)鏈接數(shù)據(jù) ...................................................................... 29
2.2.3 互聯(lián)網(wǎng)網(wǎng)頁(yè)文本數(shù)據(jù) .............................................................. 30
2.2.4 多數(shù)據(jù)源的知識(shí)融合 .............................................................. 31
2.3 知識(shí)圖譜的典型應(yīng)用 ......................................................................... 32
2.3.1 查詢(xún)理解 .................................................................................. 32
2.3.2 自動(dòng)問(wèn)答 .................................................................................. 34
2.3.3 文檔表示 .................................................................................. 35
2.4 知識(shí)圖譜的主要技術(shù) ......................................................................... 36
2.4.1 實(shí)體鏈指 .................................................................................. 36
2.4.2 關(guān)系抽取 .................................................................................. 37
2.4.3 知識(shí)推理 .................................................................................. 39
2.4.4 知識(shí)表示 .................................................................................. 40
2.5 前景與挑戰(zhàn) ......................................................................................... 42
2.6 內(nèi)容回顧與推薦閱讀 ......................................................................... 45
2.7 參考文獻(xiàn) ............................................................................................. 45
3 大數(shù)據(jù)系統(tǒng)——大數(shù)據(jù)背后的支撐技術(shù) 47
3.1 大數(shù)據(jù)有多大 ..................................................................................... 47
3.2 高性能計(jì)算技術(shù) ................................................................................. 49
3.2.1 超級(jí)計(jì)算機(jī)的組成 .................................................................. 49
3.2.2 并行計(jì)算的系統(tǒng)支持 .............................................................. 51
3.3 虛擬化和云計(jì)算技術(shù) ......................................................................... 55
3.3.1 虛擬化技術(shù) .............................................................................. 56
3.3.2 云計(jì)算服務(wù) .............................................................................. 58
3.4 基于分布式計(jì)算的大數(shù)據(jù)系統(tǒng) ......................................................... 59
3.4.1 Hadoop 生態(tài)系統(tǒng) .................................................................... 60
3.4.2 Spark ........................................................................................ 67
3.4.3 典型的大數(shù)據(jù)基礎(chǔ)架構(gòu) .......................................................... 68
3.5 大規(guī)模圖計(jì)算 ..................................................................................... 69
3.5.1 分布式圖計(jì)算框架 .................................................................. 70
3.5.2 高效的單機(jī)圖計(jì)算框架 .......................................................... 71
3.6 NoSQL ................................................................................................ 72
3.6.1 NoSQL 數(shù)據(jù)庫(kù)的類(lèi)別 ............................................................ 72
3.6.2 MongoDB 簡(jiǎn)介 ........................................................................ 74
3.7 內(nèi)容回顧與推薦閱讀 ......................................................................... 76
3.8 參考文獻(xiàn) ............................................................................................. 77
4 主題模型——機(jī)器的智能摘要利器 78
4.1 由文檔到主題 ..................................................................................... 78
4.2 主題模型出現(xiàn)的背景 ......................................................................... 80
4.3 第一個(gè)主題模型：潛在語(yǔ)義分析 ..................................................... 81
4.4 第一個(gè)正式的概率主題模型 ............................................................. 84
4.5 第一個(gè)正式的貝葉斯主題模型 ......................................................... 85
4.6 LDA 的概要介紹 ................................................................................ 86
4.6.1 LDA 的延伸理解：主題模型廣義理解 ................................. 90
4.6.2 模型求解 .................................................................................. 92
4.6.3 模型評(píng)估 .................................................................................. 93
4.6.4 模型選擇：主題數(shù)目的確定 .................................................. 94
4.7 主題模型的變形與應(yīng)用 ..................................................................... 95
4.7.1 基于 LDA 的變種模型 ............................................................ 95
4.7.2 基于 LDA 的典型應(yīng)用 ............................................................ 97
4.7.3 基于主題模型的新浪名人話(huà)題排行榜應(yīng)用 ........................ 100
4.8 內(nèi)容回顧與推薦閱讀 ....................................................................... 104
4.9 參考文獻(xiàn) ........................................................................................... 105
5 機(jī)器翻譯——機(jī)器如何跨越語(yǔ)言障礙 110
5.1 機(jī)器翻譯的意義 ............................................................................... 110
5.2 機(jī)器翻譯的發(fā)展歷史 ....................................................................... 111
5.2.1 基于規(guī)則的機(jī)器翻譯 ............................................................ 112
5.2.2 基于語(yǔ)料庫(kù)的機(jī)器翻譯 ........................................................ 112
5.2.3 基于神經(jīng)網(wǎng)絡(luò)的機(jī)器翻譯 .................................................... 114
5.3 經(jīng)典的神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯模型 ....................................................... 114
5.3.1 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯 ............................ 114
5.3.2 從卷積序列到序列模型 ........................................................ 117
5.3.3 基于自注意力機(jī)制的 Transformer 模型 .............................. 118
5.4 機(jī)器翻譯譯文質(zhì)量評(píng)價(jià) ................................................................... 120
5.5 機(jī)器翻譯面臨的挑戰(zhàn) ....................................................................... 121
5.6 參考文獻(xiàn) ........................................................................................... 123
6 情感分析與意見(jiàn)挖掘——機(jī)器如何了解人類(lèi)情感 125
6.1 情感可以計(jì)算嗎 ............................................................................... 125
6.2 哪里需要文本情感分析 ................................................................... 126
6.2.1 情感分析的宏觀反映 ............................................................ 127
6.2.2 情感分析的微觀特征 ............................................................ 128
6.3 情感分析的主要研究問(wèn)題 ............................................................... 129
6.4 情感分析的主要方法 ....................................................................... 132
6.4.1 構(gòu)成情感和觀點(diǎn)的基本元素 ................................................ 132
6.4.2 情感極性與情感詞典 ............................................................ 134
6.4.3 屬性－觀點(diǎn)對(duì) ........................................................................ 141
6.4.4 情感極性分析 ........................................................................ 143
6.5 主要的情感分析資源 ....................................................................... 148
6.6 前景與挑戰(zhàn) ....................................................................................... 149
6.7 內(nèi)容回顧與推薦閱讀 ....................................................................... 150
6.8 參考文獻(xiàn) ........................................................................................... 151
7 智能問(wèn)答與對(duì)話(huà)系統(tǒng)——智能助手是如何煉成的 154
7.1 問(wèn)答：圖靈測(cè)試的基本形式 ........................................................... 154
7.2 從問(wèn)答到對(duì)話(huà) ................................................................................... 155
7.2.1 對(duì)話(huà)系統(tǒng)的基本過(guò)程 ............................................................ 156
7.2.2 文本對(duì)話(huà)系統(tǒng)的常見(jiàn)場(chǎng)景 .................................................... 157
7.3 問(wèn)答系統(tǒng)的主要組成 ....................................................................... 159
7.4 文本問(wèn)答系統(tǒng) ................................................................................... 161
7.4.1 問(wèn)題理解 ................................................................................ 161
7.4.2 知識(shí)檢索 ................................................................................ 165
7.4.3 答案生成 ................................................................................ 169
7.5 端到端的閱讀理解問(wèn)答技術(shù) ........................................................... 169
7.5.1 什么是閱讀理解任務(wù) ............................................................ 170
7.5.2 閱讀理解任務(wù)的模型 ............................................................ 172
7.5.3 閱讀理解任務(wù)的其他工程技巧 ............................................ 173
7.6 社區(qū)問(wèn)答系統(tǒng) ................................................................................... 174
7.6.1 社區(qū)問(wèn)答系統(tǒng)的結(jié)構(gòu) ............................................................ 174
7.6.2 相似問(wèn)題檢索 ........................................................................ 175
7.6.3 答案過(guò)濾 ................................................................................ 177
7.6.4 社區(qū)問(wèn)答的應(yīng)用 .................................................................... 177
7.7 多媒體問(wèn)答系統(tǒng) ............................................................................... 179
7.8 大型問(wèn)答系統(tǒng)案例：IBM 沃森問(wèn)答系統(tǒng) ...................................... 181
7.8.1 沃森的總體結(jié)構(gòu) .................................................................... 182
7.8.2 問(wèn)題解析 ................................................................................ 182
7.8.3 知識(shí)儲(chǔ)備 ................................................................................ 183
7.8.4 檢索和候選答案生成 ............................................................ 184
7.8.5 可信答案確定 ........................................................................ 184
7.9 前景與挑戰(zhàn) ....................................................................................... 186
7.10 內(nèi)容回顧與推薦閱讀 ..................................................................... 186
7.11 參考文獻(xiàn) ......................................................................................... 187
8 個(gè)性化推薦系統(tǒng)——如何了解計(jì)算機(jī)背后的他 190
8.1 什么是推薦系統(tǒng) ............................................................................... 190
8.2 推薦系統(tǒng)的發(fā)展歷史 ....................................................................... 191
8.2.1 推薦無(wú)處不在 ........................................................................ 192
8.2.2 從千人一面到千人千面 ........................................................ 193
8.3 個(gè)性化推薦的基本問(wèn)題 ................................................................... 194
8.3.1 推薦系統(tǒng)的輸入 .................................................................... 194
8.3.2 推薦系統(tǒng)的輸出 .................................................................... 196
8.3.3 個(gè)性化推薦的基本形式 ........................................................ 197
8.3.4 推薦系統(tǒng)的三大核心問(wèn)題 .................................................... 198
8.4 典型推薦算法淺析 ........................................................................... 199
8.4.1 推薦算法的分類(lèi) .................................................................... 199
8.4.2 典型推薦算法介紹 ................................................................ 200
8.4.3 基于矩陣分解的打分預(yù)測(cè) .................................................... 207
8.4.4 基于神經(jīng)網(wǎng)絡(luò)的推薦算法 .................................................... 213
8.5 推薦的可解釋性 ............................................................................... 214
8.6 推薦算法的評(píng)價(jià) ............................................................................... 217
8.6.1 評(píng)分預(yù)測(cè)的評(píng)價(jià) .................................................................... 218
8.6.2 推薦列表的評(píng)價(jià) .................................................................... 219
8.6.3 推薦理由的評(píng)價(jià) .................................................................... 220
8.7 前景與挑戰(zhàn)：我們走了多遠(yuǎn) ........................................................... 221
8.7.1 推薦系統(tǒng)面臨的問(wèn)題 ............................................................ 221
8.7.2 推薦系統(tǒng)的新方向 ................................................................ 223
8.8 內(nèi)容回顧與推薦閱讀 ....................................................................... 225
8.9 參考文獻(xiàn) ........................................................................................... 226
9 機(jī)器寫(xiě)作——從分析到創(chuàng)造 228
9.1 什么是機(jī)器寫(xiě)作 ............................................................................... 228
9.2 藝術(shù)寫(xiě)作 ........................................................................................... 229
9.2.1 機(jī)器寫(xiě)詩(shī) ................................................................................ 229
9.2.2 AI 對(duì)聯(lián) ................................................................................... 233
9.3 當(dāng)代寫(xiě)作 ........................................................................................... 236
9.3.1 機(jī)器寫(xiě)稿 ................................................................................ 236
9.3.2 機(jī)器故事生成 ........................................................................ 239
9.4 內(nèi)容回顧 ........................................................................................... 241
9.5 參考文獻(xiàn) ........................................................................................... 242
10 社交商業(yè)數(shù)據(jù)挖掘——從用戶(hù)數(shù)據(jù)挖掘到商業(yè)智能應(yīng)用 243
10.1 社交媒體平臺(tái)中的數(shù)據(jù)寶藏 ......................................................... 243
10.2 打通網(wǎng)絡(luò)社區(qū)的束縛：用戶(hù)網(wǎng)絡(luò)社區(qū)身份的鏈指與融合 ......... 245
10.3 揭開(kāi)社交用戶(hù)的面紗：用戶(hù)畫(huà)像的構(gòu)建 ..................................... 247
10.3.1 基于顯式社交屬性的構(gòu)建方法 .......................................... 247
10.3.2 基于網(wǎng)絡(luò)表示學(xué)習(xí)的構(gòu)建方法 .......................................... 249
10.3.3 產(chǎn)品受眾畫(huà)像的構(gòu)建 .......................................................... 250
10.4 了解用戶(hù)的需求：用戶(hù)消費(fèi)意圖的識(shí)別 ..................................... 254
10.4.1 個(gè)體消費(fèi)意圖識(shí)別 .............................................................. 254
10.4.2 群體消費(fèi)意圖識(shí)別 .............................................................. 256
10.5 精準(zhǔn)的供需匹配：面向社交平臺(tái)的產(chǎn)品推薦算法 ..................... 258
10.5.1 候選產(chǎn)品列表生成 .............................................................. 258
10.5.2 基于學(xué)習(xí)排序算法的推薦框架 .......................................... 259
10.5.3 基于用戶(hù)屬性的排序特征構(gòu)建 .......................................... 260
10.5.4 推薦系統(tǒng)的整體設(shè)計(jì)概覽 .................................................. 261
10.6 前景與挑戰(zhàn) ..................................................................................... 262
10.7 內(nèi)容回顧與推薦閱讀 ..................................................................... 263
10.8 參考文獻(xiàn) ......................................................................................... 264
11 智慧醫(yī)療——信息技術(shù)在醫(yī)療領(lǐng)域應(yīng)用的結(jié)晶 265
11.1 智慧醫(yī)療的起源 ............................................................................. 265
11.2 智慧醫(yī)療的廬山真面目 ................................................................. 267
11.3 智慧醫(yī)療中的人工智能應(yīng)用 ......................................................... 268
11.3.1 醫(yī)療過(guò)程中的人工智能應(yīng)用 .............................................. 268
11.3.2 醫(yī)療研究中的人工智能應(yīng)用 .............................................. 272
11.4 前景與挑戰(zhàn) ..................................................................................... 273
11.5 內(nèi)容回顧與推薦閱讀 ..................................................................... 275
11.6 參考文獻(xiàn) ......................................................................................... 275
12 智慧司法——智能技術(shù)促進(jìn)司法公正 276
12.1 智能技術(shù)與法律的碰撞 ................................................................. 276
12.2 智慧司法相關(guān)研究 ......................................................................... 277
12.2.1 法律智能的早期研究 .......................................................... 278
12.2.2 判決預(yù)測(cè)：虛擬法官的誕生與未來(lái) .................................. 279
12.2.3 文書(shū)生成：司法過(guò)程簡(jiǎn)化 .................................................. 283
12.2.4 要素提�。核痉ńY(jié)構(gòu)化 ...................................................... 285
12.2.5 類(lèi)案匹配：解決一案多判 .................................................. 289
12.2.6 司法問(wèn)答：讓機(jī)器理解法律 .............................................. 292
12.3 智慧司法的期望偏差與應(yīng)用挑戰(zhàn) ................................................. 293
12.3.1 智慧司法的期望偏差 .......................................................... 293
12.3.2 智慧司法的應(yīng)用挑戰(zhàn) .......................................................... 294
12.4 內(nèi)容回顧與推薦閱讀 ..................................................................... 295
12.5 參考文獻(xiàn) ......................................................................................... 295
13 智能金融——機(jī)器金融大腦 298
13.1 智能金融正當(dāng)其時(shí) ......................................................................... 298
13.1.1 什么是智能金融 .................................................................. 298
13.1.2 智能金融與金融科技、互聯(lián)網(wǎng)金融的異同 ...................... 298
13.1.3 智能金融適時(shí)而生 .............................................................. 299
13.2 智能金融技術(shù) ................................................................................. 301
13.2.1 大數(shù)據(jù)的機(jī)遇與挑戰(zhàn) .......................................................... 301
13.2.2 智能金融中的自然語(yǔ)言處理 .............................................. 303
13.2.3 金融事理圖譜 ...................................................................... 307
13.2.4 智能金融中的深度學(xué)習(xí) ...................................................... 310
13.3 智能金融應(yīng)用 ................................................................................. 314
13.3.1 智能投顧 .............................................................................. 314
13.3.2 智能研報(bào) .............................................................................. 315
13.3.3 智能客服 .............................................................................. 316
13.4 前景與挑戰(zhàn) ..................................................................................... 317
13.5 內(nèi)容回顧與推薦閱讀 ..................................................................... 319
13.6 參考文獻(xiàn) ......................................................................................... 319
14 計(jì)算社會(huì)學(xué)——透過(guò)大數(shù)據(jù)了解人類(lèi)社會(huì) 320
14.1 透過(guò)數(shù)據(jù)了解人類(lèi)社會(huì) ................................................................. 320
14.2 面向社會(huì)媒體的自然語(yǔ)言使用分析 ............................................. 321
14.2.1 詞匯的時(shí)空傳播與演化 ...................................................... 322
14.2.2 語(yǔ)言使用與個(gè)體差異 .......................................................... 325
14.2.3 語(yǔ)言使用與社會(huì)地位 .......................................................... 326
14.2.4 語(yǔ)言使用與群體分析 .......................................................... 328
14.3 面向社會(huì)媒體的自然語(yǔ)言分析應(yīng)用 ............................................. 330
14.3.1 社會(huì)預(yù)測(cè) .............................................................................. 330
14.3.2 霸凌現(xiàn)象定量分析 .............................................................. 331
14.4 未來(lái)研究的挑戰(zhàn)與展望 ................................................................. 332
14.5 參考文獻(xiàn) ......................................................................................... 333
后記 334