【国产精品视频永久免费播放,高清特黄a大片

本書介紹終身學習這種高級機器學習范式，這種范式通過積累過去的知識持續(xù)地學習，并將學到的知識用于幫助在未來進行其他學習和解決問題。相比之下，當前主流的機器學習范式都是孤立學習，即給定一個訓練數據集，之后在這個數據集上運行機器學習算法以生成模型，然后再將該模型運用于預期的應用。這些范式不保留已經學到的知識，也不將其運用到后續(xù)的學習中。與孤立學習系統不同，人類只通過少量的樣例就能實現有效學習，這是因為人類的學習是知識驅動的，即只需少量的數據或付出，就能利用過去已經學到的知識去學習新事物。終身學習的目標就是模仿人類的這種學習能力，因為一個沒有持續(xù)學習能力的AI系統不能算作真正的智能。
自本書第1版出版以來，終身學習的研究在相對較短的時間內取得了顯著的進展。出版第2版是為了擴展終身學習的定義，更新部分章節(jié)的內容，并添加一個新的章節(jié)來介紹深度神經網絡中持續(xù)學習的內容，這部分內容在過去的兩三年里一直被積極研究。部分章節(jié)的內容也進行了修改，使得內容更有條理，方便讀者閱讀。此外，作者希望為這一研究領域提出一個統一的框架。目前，在機器學習中有幾個與終身學習密切相關的研究課題，特別是多任務學習、遷移學習以及元學習，因為它們也采用了知識共享和知識遷移的思想。本書之所以集中介紹這些技術并討論其異同，目的是在介紹終身機器學習的同時，對該領域的重要研究成果和新想法進行全面回顧。本書適用于對機器學習、數據挖掘、自然語言處理或模式識別感興趣的學生、研究人員和從業(yè)人員。

前　言

Lifelong Machine Learning,Second Edition

編寫第2版的目的是擴展終身學習的定義，更新部分章節(jié)的內容，并添加一個新的章節(jié)來介紹深度神經網絡中的持續(xù)學習(continual learning in deep neural networks），這部分內容在過去的兩三年里一直被積極研究。另外，還重新組織了部分章節(jié)，使得內容更有條理。

編寫本書的工作始于我們在2015年第24屆國際人工智能聯合會議（IJCAI）上關于終身機器學習(lifelong machine learning）的教程。當時，我們已經對終身機器學習這個主題做了一段時間的研究，并在ICML、KDD和ACL上發(fā)表了幾篇文章。當Morgan ＆ Claypool出版社聯系我們要出版關于該主題的圖書時，我們很興奮。我們堅信終身機器學習（或簡稱終身學習）對未來的機器學習和人工智能（AI）至關重要。值得注意的是，終身學習有時在文獻中也被稱為持續(xù)學習(continual learning）或連續(xù)學習(continuous learning）。我們對該主題的最初研究興趣源于幾年前在一個初創(chuàng)公司所做的關于情感分析（SA）的工作中所積累的廣泛應用經驗。（典型的SA項目始于客戶在社交媒體中對他們自己或競爭對手的產品或服務發(fā)表的消費者意見。）SA系統包含兩個主要的分析任務：（1）發(fā)現人們在評論文檔（如在線評論）中談到的實體（例如，iPhone）和實體屬性/特征（例如，電池壽命）；（2）確定關于每個實體或實體屬性的評論是正面的、負面的或中立的［Liu,2012,2015］。例如，從iPhone真的很酷，但它的電池壽命很糟糕這句話中，SA系統應該發(fā)現：（1）作者對iPhone的評論是正面的；（2）作者對iPhone的電池續(xù)航時間的評論是負面的。

在參與許多領域（產品或服務的類型）的許多項目之后，我們意識到跨領域和跨項目之間存在著大量可共享的信息。隨著我們經歷的項目越來越多，遇到的新事物卻越來越少。很容易看出，情感詞和短語（如好的、壞的、差的、糟糕的和昂貴的）是跨領域共享的，大量的實體和屬性也是共享的。例如，每個產品都有價格屬性，大量電子產品有電池，大多數還有屏幕。如果不使用這些可共享的信息來大幅度提高SA的準確度，而是單獨處理每個項目及其數據，是比較愚蠢的做法。經典的機器學習范式完全孤立地學習。在這種范式下，給定一個數據集，學習算法在這個數據集上運行并生成模型，算法沒有記憶，因此無法使用先前學習的知識。為了利用知識共享，SA系統必須保留和積累過去學到的知識，并將其用于未來的學習和問題的解決，這正是終身學習(lifelong learning）的目標。

不難想象，這種跨領域和跨任務的信息或知識共享在每個領域都是正確的。在自然語言處理中尤為明顯，因為單詞和短語的含義在不同領域和任務之間基本相同，句子語法也是如此。無論我們談論什么主題，都使用相同的語言，盡管每個主題可能只使用一種語言中的一小部分單詞和短語。如果情況并非如此，那么人類也不會形成自然語言。因此，終身學習可以廣泛應用，而不僅僅局限于情感分析。

本書的目的是提出這種新興的機器學習范式，并對該領域的重要研究成果和新想法進行全面的回顧。我們還想為該研究領域提出一個統一的框架。目前，機器學習中有幾個與終身學習密切相關的研究課題，特別值得注意的是多任務學習和遷移學習，因為它們也采用了知識共享和知識遷移的思想。本書將集中介紹這些主題，并討論它們之間的相同和差異。我們將終身學習視為這些相關范式的擴展。通過本書，我們還想激勵研究人員開展終身學習的研究。我們相信終身學習代表了未來幾年機器學習和人工智能的主要研究方向。如果不能保留和積累過去學到的知識，對知識進行推理，并利用已學到的知識幫助未來的學習和解決問題，那么實現通用人工智能（Artificial General Intelligence, AGI）是不可能的。

編寫本書遵循了兩個主要指導原則。首先，它應該包含開展終身學習研究的強大動機，以便鼓勵研究生和研究人員致力于研究終身學習的問題。其次，它的內容對于具有機器學習和數據挖掘基礎知識的從業(yè)者和高年級本科生應該是易于理解的。但是，對于計劃攻讀機器學習和數據挖掘領域博士學位的研究生來說，應該學習更加詳盡的資料。

因此，本書適用于對機器學習、數據挖掘、自然語言處理或模式識別感興趣的學生、研究人員和從業(yè)人員。

陳志源和劉兵

2018年8月

你還可能感興趣

我要評論