2016年3月，谷歌旗下DeepMind公司開(kāi)發(fā)的AlphaGo機(jī)器棋手以4:1戰(zhàn)勝世界圍棋冠軍李世石。雖然十多年前國(guó)際象棋專家穆勒就預(yù)計(jì)，頂尖圍棋棋手臣服于人工智能（Artificial Intelligence，AI）腳下并不遙遠(yuǎn)，但是這一天真的到來(lái)之時(shí)，還是讓人們不勝唏噓。AlphaGo的橫空出世在讓人們震驚的同時(shí)，也讓人工智能這一沉寂多年的技術(shù)術(shù)語(yǔ)又一次成為媒體熱詞，走進(jìn)大眾視野。無(wú)論是在國(guó)家政策規(guī)劃、行業(yè)發(fā)展戰(zhàn)略，亦或是企業(yè)投融資方案、消費(fèi)者分析報(bào)告中，都能夠看到人工智能“活躍”的身影。
當(dāng)下，人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，正在對(duì)國(guó)家經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步以及國(guó)際政治經(jīng)濟(jì)格局等產(chǎn)生重大深遠(yuǎn)的影響。美國(guó)、歐盟、英國(guó)等發(fā)達(dá)經(jīng)濟(jì)體紛紛出臺(tái)人工智能國(guó)家發(fā)展戰(zhàn)略，加大人才培養(yǎng)、研發(fā)投入和產(chǎn)業(yè)投資，構(gòu)建適合人工智能發(fā)展的政策環(huán)境和數(shù)據(jù)基礎(chǔ)，以期爭(zhēng)奪全球領(lǐng)先地位。日本、韓國(guó)、新加坡等亞太國(guó)家也制定出臺(tái)符合本國(guó)實(shí)際的人工智能發(fā)展行動(dòng)計(jì)劃，以推進(jìn)經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步。
我國(guó)2017年發(fā)布《新一代人工智能發(fā)展規(guī)劃》，將人工智能發(fā)展提升到國(guó)家戰(zhàn)略�！缎乱淮�人工智能發(fā)展規(guī)劃》將構(gòu)建開(kāi)放協(xié)同的人工智能科技創(chuàng)新體系、培育高端高效的智能經(jīng)濟(jì)、建設(shè)安全便捷的智能社會(huì)、構(gòu)建泛在安全高效的智能化基礎(chǔ)設(shè)施體系等作為重點(diǎn)任務(wù)，覆蓋了廣泛的人工智能研究方向和應(yīng)用領(lǐng)域，力圖實(shí)現(xiàn)人工智能產(chǎn)業(yè)的全面發(fā)展。經(jīng)過(guò)多年努力，我國(guó)已經(jīng)躋身全球人工智能領(lǐng)先國(guó)家，在人工智能研發(fā)和商用方面，逐步縮小和美國(guó)的差距。當(dāng)前，人工智能已廣泛應(yīng)用于醫(yī)療、交通、金融、制造、家居、安防等多個(gè)領(lǐng)域，推動(dòng)傳統(tǒng)行業(yè)的數(shù)字化轉(zhuǎn)型和智能化升級(jí)。特別是在新冠疫情期間，人工智能應(yīng)用和產(chǎn)品更是充分發(fā)揮自感知、無(wú)接觸、全天候、無(wú)人化等技術(shù)優(yōu)勢(shì)，為疫情防控和復(fù)工復(fù)產(chǎn)提供“硬核”支撐。2020年3月4日，中共中央政治局常務(wù)委員會(huì)召開(kāi)會(huì)議，提出要發(fā)力于科技端的新型基礎(chǔ)設(shè)施建設(shè)。作為“新基建”核心板塊，人工智能更加受到關(guān)注。人工智能借助其底層支撐技術(shù)的普遍適用性，基礎(chǔ)設(shè)施化特征更加明顯，將為經(jīng)濟(jì)社會(huì)的智能化轉(zhuǎn)型和高質(zhì)量發(fā)展賦能助力。
但是，當(dāng)人們?yōu)槿斯ぶ悄馨l(fā)展歡呼雀躍的時(shí)候，人工智能安全風(fēng)險(xiǎn)正在悄無(wú)聲息地潛入人們生產(chǎn)生活的各個(gè)方面：擺在客廳里的智能音箱，有可能成為黑客的竊聽(tīng)設(shè)備；廣泛部署的人臉識(shí)別設(shè)備，可能大量獲取公眾隱私；家人的語(yǔ)音通話，有可能是詐騙分子通過(guò)語(yǔ)音合成而來(lái)；行駛的自動(dòng)駕駛車輛，有可能“失控”而成為馬路殺手。不斷暴露的人工智能安全問(wèn)題，正在引發(fā)公眾的焦慮與擔(dān)心。同時(shí)，人工智能技術(shù)也會(huì)應(yīng)用于傳統(tǒng)安全領(lǐng)域，為網(wǎng)絡(luò)空間安全防護(hù)、國(guó)家社會(huì)安全治理等提供新的技術(shù)手段，大大提升傳統(tǒng)安全的自動(dòng)化和智能化水平。趨利避害，如何有效規(guī)避人工智能安全風(fēng)險(xiǎn)、加強(qiáng)人工智能安全應(yīng)用，成為推進(jìn)人工智能持續(xù)健康發(fā)展的重要保障。
目前關(guān)于人工智能的書籍大多是從發(fā)展的角度進(jìn)行闡述，關(guān)注人工智能發(fā)展對(duì)經(jīng)濟(jì)社會(huì)的促進(jìn)和變革作用，包括李彥宏的《智能革命》、吳軍的《智能時(shí)代》、李開(kāi)復(fù)的《AI·未來(lái)》等，以及從人工智能倫理角度介入，關(guān)注人類未來(lái)命運(yùn)的書籍，包括邁克斯·泰格馬克的《生命3.0》、尤瓦爾·赫拉利的《未來(lái)簡(jiǎn)史：從智人到神人》等。其中也不乏關(guān)注人工智能安全的章節(jié)，但更多是著眼于未來(lái)，擔(dān)心人工智能對(duì)未來(lái)社會(huì)就業(yè)的替代、人類隱私的掌控以及強(qiáng)人工智能對(duì)人類命運(yùn)的影響：是會(huì)像馬克·扎克伯格宣揚(yáng)的那樣造福人類生活？還是會(huì)像史蒂芬·霍金、埃隆·馬斯克警告的那樣威脅人類生存？
與以上書籍不同，本書更多是關(guān)注人工智能當(dāng)下技術(shù)發(fā)展和產(chǎn)業(yè)應(yīng)用中正在發(fā)生的安全問(wèn)題，包括現(xiàn)階段人工智能安全風(fēng)險(xiǎn)、人工智能在安全領(lǐng)域的應(yīng)用情況、國(guó)內(nèi)外人工智能的安全治理舉措、人工智能安全研究熱點(diǎn)等，期望對(duì)當(dāng)前人工智能健康發(fā)展具有一定的參考意義。本書的編寫團(tuán)隊(duì)長(zhǎng)期跟蹤人工智能安全態(tài)勢(shì)，進(jìn)行人工智能安全風(fēng)險(xiǎn)、安全應(yīng)用以及安全治理研究，在人工智能安全方面有較強(qiáng)的研究積累。
本書的編寫基于著者多年的研究，并凝聚最新的研究思考。本書各章節(jié)內(nèi)容簡(jiǎn)要介紹如下：第1章基于人工智能的發(fā)展歷程，著力理清現(xiàn)階段人工智能與安全的相互關(guān)系；第2章梳理總結(jié)人工智能安全挑戰(zhàn)，構(gòu)建涵蓋國(guó)家社會(huì)安全、物理世界安全和網(wǎng)絡(luò)空間安全的人工智能安全體系架構(gòu)；第3章選取人工智能在安全領(lǐng)域的熱點(diǎn)應(yīng)用，分析人工智能在網(wǎng)絡(luò)空間安全防護(hù)和社會(huì)公共安全治理領(lǐng)域的促進(jìn)作用；第4章分析國(guó)際人工智能安全治理進(jìn)展，包括世界主要國(guó)家的人工智能安全治理部署思路和具體舉措；第5章分析國(guó)內(nèi)人工智能安全治理情況，明晰取得的成果和存在的問(wèn)題；第6章圍繞人臉識(shí)別、智能網(wǎng)聯(lián)汽車、深度偽造等人工智能應(yīng)用先導(dǎo)和問(wèn)題突出領(lǐng)域，聚焦熱點(diǎn)，進(jìn)行有針對(duì)性的研究分析；第7章結(jié)合全書內(nèi)容提出人工智能安全發(fā)展的總體展望，希望能夠和廣大讀者產(chǎn)生共鳴。
本書既可供計(jì)算機(jī)、人工智能等相關(guān)領(lǐng)域?qū)�業(yè)人員作為人工智能安全開(kāi)發(fā)、應(yīng)用工作的參考，也可供不具備人工智能背景知識(shí)的人士閱讀，了解人工智能安全的相關(guān)問(wèn)題和理念，推進(jìn)全行業(yè)、全社會(huì)層面的人工智能安全治理工作。
由于水平有限，且人工智能及安全尚在不斷發(fā)展過(guò)程中，如果讀者發(fā)現(xiàn)書中存在不足之處，懇請(qǐng)?zhí)岢鰧氋F意見(jiàn)，在此表示衷心感謝。

著者
2020年4月