技術(shù)世界瞬息萬變。在從事簡(jiǎn)單活動(dòng)方面，機(jī)器人和計(jì)算機(jī)正更加頻繁地取代人類。只要人類僅僅將計(jì)算機(jī)當(dāng)作工具，計(jì)算機(jī)和螺絲刀、汽車或電話之間就沒有任何顯著區(qū)別。但是，隨著計(jì)算機(jī)變得越來越復(fù)雜，我們開始認(rèn)為，它們?yōu)槲覀兯伎�。�?dāng)計(jì)算機(jī)從思考機(jī)器(thinking machine)(被編程來執(zhí)行計(jì)算等特定思考過程的設(shè)備)進(jìn)化成不加引號(hào)的思考機(jī)器(換言之，人工智能)之時(shí)，問題開始出現(xiàn)。人工智能就是機(jī)器模仿智能行為的能力。

人工智能是在計(jì)算機(jī)上模擬人類行為和認(rèn)知的過程。因此，它是對(duì)整個(gè)智能思維領(lǐng)域本質(zhì)的研究。人工智能研究開始于20世紀(jì)40年代和50年代初。從那時(shí)起，人工智能實(shí)體已經(jīng)成為現(xiàn)代人類生活不可或缺的一部分，它的運(yùn)行方式比其他普通工具復(fù)雜得多。這些實(shí)體會(huì)變成危險(xiǎn)嗎？事實(shí)上，正如上述事件所證明的那樣，它們已經(jīng)成為危險(xiǎn)。

人工智能和機(jī)器人正在進(jìn)入日�，F(xiàn)代生活。目前，法院或監(jiān)管部門正面臨上述某些問題。但是，很少有文獻(xiàn)全面地分析并評(píng)估具有不同程度自主權(quán)的機(jī)器人、機(jī)器或軟件的責(zé)任。

涉及人工智能系統(tǒng)犯罪的責(zé)任概念尚未得到廣泛研究。先進(jìn)的技術(shù)使社會(huì)面臨全新的挑戰(zhàn)，不僅包括技術(shù)挑戰(zhàn)，也包括法律挑戰(zhàn)。特定情況下，人工智能系統(tǒng)的刑事責(zé)任理念正是這些挑戰(zhàn)之一，應(yīng)當(dāng)予以深入探討。其中的主要問題是，誰應(yīng)該對(duì)涉及人工智能系統(tǒng)的犯罪承擔(dān)刑事責(zé)任。答案可能包括程序員、制造商、用戶，或許還有人工智能系統(tǒng)本身。

2009年，我在美國(guó)和澳大利亞發(fā)表了幾篇具體探討該問題的文章。這些文章探討的具體內(nèi)容似乎對(duì)開啟該問題的學(xué)術(shù)討論發(fā)揮了重要作用。這些文章的主要思想是，刑法不應(yīng)該改變技術(shù)，而是應(yīng)該主動(dòng)適應(yīng)現(xiàn)代技術(shù)的發(fā)展。我的文章還呼吁思考并反思對(duì)機(jī)器和軟件賦予刑事責(zé)任的理念。也許，并不應(yīng)該對(duì)機(jī)器賦予刑事責(zé)任，但是，如果刑法的基本定義沒有改變，那么這一怪異的結(jié)果卻是不可避免的。

我的每篇文章都獲得了許多評(píng)論，對(duì)此，我需要對(duì)這一理念進(jìn)行限制性概括。該理念的第一個(gè)概括是，它僅限于有形機(jī)器人，這些機(jī)器人配有人工智能軟件，實(shí)施殺人罪的具體犯罪，而且并非衍生性刑事責(zé)任(derivative criminal liability)�！�2013年，拙著《當(dāng)機(jī)器人殺人之時(shí)》(When Robots Kill)由新英格蘭大學(xué)出版社(UPNE)和東北大學(xué)出版社在美國(guó)合作出版。盡管該書是一本學(xué)術(shù)性書籍，但它的目標(biāo)受眾卻旨在涵蓋法律學(xué)者之外的廣大讀者。

這本書被認(rèn)為是具有創(chuàng)新性的。《華盛頓郵報(bào)》(Washington Post)、《波士頓環(huán)球報(bào)》(Boston Globe)、《紀(jì)事評(píng)論》(the Chronicle Review)譯者注：《紀(jì)事評(píng)論》(the Chronicle Review)是《高等教育紀(jì)事報(bào)》(the Chronicle of Higher Education)的下屬雜志，涵蓋文化、學(xué)術(shù)趨勢(shì)、出版、高等教育政策和學(xué)術(shù)生活等領(lǐng)域。和《喧囂》(the Hustle)譯者注：《喧囂》(the Hustle)是美國(guó)同名公司為政治、高等教育和非營(yíng)利組織等領(lǐng)域提供的一款點(diǎn)對(duì)點(diǎn)文本消息平臺(tái)。等媒體均發(fā)表過相關(guān)書評(píng)。相關(guān)評(píng)論更是不勝枚舉。其中，一些評(píng)論呼吁對(duì)這一問題進(jìn)行最終的、全面的學(xué)術(shù)概括，不局限于有形機(jī)器人，亦不局限于殺人罪，應(yīng)涉及衍生刑事責(zé)任問題。

但是，隨著機(jī)器人的使用與日俱增，更多的問題不斷涌現(xiàn)。雖然《當(dāng)機(jī)器人殺人之時(shí)》已經(jīng)給出明確答案，但法律界之外的同事和科學(xué)家邀請(qǐng)我撰寫一部新的專著。這次是關(guān)于人工智能系統(tǒng)。于是，拙著《涉人工智能系統(tǒng)犯罪的責(zé)任》(Liability for Crimes Involving Artificial Intelligence Systems)于2015年由斯普林格(Springer)出版社在歐洲出版。

10人工智能技術(shù)界對(duì)法律問題的認(rèn)識(shí)也相應(yīng)有所提高。很多學(xué)術(shù)論壇(文章和學(xué)術(shù)講座)以及學(xué)術(shù)論壇之外的其他場(chǎng)合(包括高科技產(chǎn)業(yè)和志同道合之士)，都邀請(qǐng)我解釋如何實(shí)施這些理念�，F(xiàn)在的情況似乎是，學(xué)術(shù)界之外的公眾所要求的答案，確實(shí)是官方法律系統(tǒng)無法提供的。

2016年和2017年，匈牙利布達(dá)佩斯腦吧(Brain Bar)譯者注：腦吧節(jié)創(chuàng)立于2015年，融合技術(shù)會(huì)議和音樂節(jié)的年度盛大節(jié)日，專注于自由交換思想而非單向溝通，鼓勵(lì)觀眾直接與演講者溝通，旨在創(chuàng)造一個(gè)具有挑戰(zhàn)性、智力性和包容性的環(huán)境。2018年，該活動(dòng)吸引來自世界各地的10000多名參會(huì)者以及超過38000人的直播觀眾。公開節(jié)兩次邀請(qǐng)我就相關(guān)問題發(fā)表演講(2016年：涉及殺人罪的機(jī)器人；2017年：與機(jī)器人的愛與性)。2018年，鑒于超級(jí)智能和后生物學(xué)(post biology)的發(fā)展，羅馬尼亞布加勒斯特的特德克斯(TEDx)邀請(qǐng)我就思考的未來發(fā)表演講。當(dāng)然，我還接受了很多其他邀請(qǐng)。每次，我都能感覺到人們對(duì)答案的渴望。這種渴望如此真實(shí)，它與我在美國(guó)和歐洲關(guān)于這個(gè)問題的學(xué)術(shù)講座中所感受到的學(xué)術(shù)界對(duì)答案的渴望毫無差別。

2019年，上海人民出版社邀請(qǐng)我向中國(guó)讀者介紹這些理念。不過，在此期間，人工智能已經(jīng)出現(xiàn)了全新的發(fā)展，它們應(yīng)當(dāng)納入新的專著之中。于是，本書應(yīng)運(yùn)而生。

我們所需要的是一本專業(yè)的學(xué)術(shù)教科書來解決這個(gè)問題，盡管它可能不太適合廣大公眾閱讀。這本書是對(duì)這一問題最終的、全面的學(xué)術(shù)概括。這本書表達(dá)的整體理念涉及所有類型的先進(jìn)人工智能系統(tǒng)(自主運(yùn)行的系統(tǒng)和遵循計(jì)劃的系統(tǒng))的所有類型的犯罪的所有刑事責(zé)任模式(直接責(zé)任和衍生責(zé)任)。涉及這些犯罪的人工智能系統(tǒng)可能是主犯、共犯，也可能僅僅是犯罪工具。本書的主要觀點(diǎn)之一是，或許至少目前尚不應(yīng)當(dāng)賦予技術(shù)系統(tǒng)刑事責(zé)任。但是，如果刑法的基本定義沒有改變，那么這種怪異的結(jié)果則是不可避免的。

本書的目的是發(fā)展出關(guān)于人工智能和機(jī)器人刑事責(zé)任的綜合的、一般的和復(fù)雜的法學(xué)理論。除了人工智能實(shí)體本身之外，該理論還涵蓋制造商、程序員、用戶和所有其他相關(guān)實(shí)體。通過對(duì)現(xiàn)有刑法原則的確認(rèn)和類比，11該理論提出在各種合理狀況下由各種自主技術(shù)承擔(dān)刑事責(zé)任的具體思維方式。

第一章包括一些基本概念的探索，本書展開的后續(xù)章節(jié)均以這些概念為基礎(chǔ)予以構(gòu)建。本書討論兩個(gè)主要問題：(1)什么可以被認(rèn)為是人工智能實(shí)體？(2)追究刑事責(zé)任的必要條件是什么？

因?yàn)樾谭ú⒉灰蕾囉诘赖?moral accountability)，所以關(guān)于機(jī)器道德責(zé)任的爭(zhēng)論與這些問題無關(guān)。雖然，有時(shí)刑事責(zé)任、某些類型的道德責(zé)任和某些類型的倫理責(zé)任之間存在重疊，但對(duì)于追究刑事責(zé)任而言，這只是巧合，而非必要。

刑法適用于機(jī)器的問題還涉及兩個(gè)相互關(guān)聯(lián)的次要問題：(1)刑事責(zé)任是否適用于機(jī)器？(2)刑事處罰是否適用于機(jī)器？

第一個(gè)問題是刑法的核心問題，是否追究刑事責(zé)任取決于是否滿足刑事責(zé)任的要求。只有滿足刑事責(zé)任的要求，懲罰即人類社會(huì)如何懲罰機(jī)器的問題才會(huì)出現(xiàn)。本書中提出的答案對(duì)這兩個(gè)問題都是肯定的。第二章至第五章研究第一個(gè)問題，第六章研究第二個(gè)問題。如果接受本書中的肯定答案，那么事實(shí)上，我們已創(chuàng)造了一個(gè)全新的社會(huì)實(shí)體，即機(jī)械犯罪人(machina sapiens criminalis)。譯者注：machina sapiens criminalis是作者原創(chuàng)詞匯，源自machina sapiens(可譯作機(jī)器智人、機(jī)械智人)。因一般在生物史學(xué)中多嚴(yán)格使用智人(sapiens)，通常語境亦可譯作人(sapiens)，另與robot(機(jī)器人)相區(qū)別，并借鑒電影《機(jī)械姬》(Ex Machina)的內(nèi)容和譯法，machina sapiens在本書中譯作機(jī)械人。machina sapiens criminalis是machina sapiens中的特殊主體，對(duì)應(yīng)于犯罪人與人，故machina sapiens criminalis在本書中譯作機(jī)械犯罪人。第一章研究機(jī)械犯罪人的出現(xiàn)。最后，本書的研究回答以下問題，即人工智能實(shí)體是否可以被認(rèn)為應(yīng)對(duì)犯罪行為承擔(dān)法律責(zé)任(如果不是道德責(zé)任的話)，并應(yīng)受到刑事處罰。

本書聚焦于人工智能實(shí)體的法律責(zé)任，故而并未正式涉足倫理(包括機(jī)器人倫理)和道德的相關(guān)領(lǐng)域。然而，本書中關(guān)于刑事責(zé)任的討論為深入考慮相關(guān)倫理問題奠定了基礎(chǔ)。鑒于日常生活中人工智能實(shí)體數(shù)量不斷增加，這些探討將是必要的。對(duì)此，本書構(gòu)建了一個(gè)應(yīng)有的框架，有助于對(duì)這些問題進(jìn)行具體性和功能性的探討。

我非常感謝上海人民出版社邀請(qǐng)我向中國(guó)讀者介紹這些理念。另外，我非常感謝陳萍博士將書稿翻譯成中文。最后，我非常感謝我的女兒們哈蕾爾和阿里爾，感謝她們一直以來與我展開碩果累累的探討。

以色列奧諾學(xué)院(Ono Academic College)法學(xué)院教授加布里埃爾·哈列維 推薦序 非常高興看到《審判機(jī)器人》的中文翻譯能夠成功出版。人工智能的刑事責(zé)任問題是我最早關(guān)注并將其作為重點(diǎn)研究主題的。近年來，本人的相關(guān)論作在國(guó)內(nèi)外學(xué)術(shù)界業(yè)已形成一定規(guī)模、特色和影響。本書作者哈列維教授的很多論證和觀點(diǎn)與我不謀而合，閱讀本書時(shí)，頗有惺惺相惜、相見恨晚之感。

第一，關(guān)于人工智能社會(huì)風(fēng)險(xiǎn)的刑法應(yīng)對(duì)。我的主要觀點(diǎn)是，面對(duì)人工智能技術(shù)現(xiàn)在已經(jīng)帶來和將來可能產(chǎn)生的風(fēng)險(xiǎn)，刑法應(yīng)發(fā)揮為社會(huì)穩(wěn)定健康發(fā)展保駕護(hù)航的作用。對(duì)于智能機(jī)器人的研發(fā)者和使用者的行為，以及智能機(jī)器人產(chǎn)生獨(dú)立意識(shí)和意志之后自主決定并實(shí)施的嚴(yán)重危害社會(huì)的行為，刑法的干預(yù)和刑罰的設(shè)置應(yīng)保持適當(dāng)?shù)南薅龋�既不能讓濫用人工智能技術(shù)的行為破壞社會(huì)的穩(wěn)定發(fā)展，又不能讓刑法的過度干預(yù)阻滯人工智能技術(shù)的創(chuàng)新。哈列維教授也持相似觀點(diǎn)，他在書中表達(dá)的整體理念涉及所有類型的先進(jìn)人工智能系統(tǒng)(自主運(yùn)行的系統(tǒng)和遵循計(jì)劃的系統(tǒng))的所有類型犯罪的所有刑事責(zé)任模式(直接責(zé)任和衍生責(zé)任)。書中的核心觀點(diǎn)是也許目前尚不應(yīng)當(dāng)賦予人工智能實(shí)體獨(dú)立的刑事責(zé)任，但隨著人工智能技術(shù)的突飛猛進(jìn)，將來讓人工智能實(shí)體獨(dú)立承擔(dān)刑事責(zé)任這一結(jié)果是不可避免的。

第二，關(guān)于智能機(jī)器人的刑事責(zé)任主體地位。我的主要觀點(diǎn)是，在弱人工智能時(shí)代，智能機(jī)器人在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施嚴(yán)重危害社會(huì)的行為，實(shí)際上是研發(fā)者或使用者行為的延伸，應(yīng)當(dāng)由研發(fā)者或使用者承擔(dān)刑事責(zé)任。與傳統(tǒng)犯罪相比，研發(fā)者或使用者之間的刑事責(zé)任分配會(huì)隨著智能機(jī)器人智能的增長(zhǎng)而有所不同。智能機(jī)器人智能的增長(zhǎng)還會(huì)影響對(duì)行為人量刑的輕重，甚至可能影響對(duì)行為人行為的性質(zhì)判斷。智能機(jī)器人在自主意識(shí)和意志的支配下超出設(shè)計(jì)和編制的程序范圍實(shí)施嚴(yán)重危害社會(huì)的行為時(shí)，應(yīng)將其作為刑事責(zé)任主體進(jìn)行刑罰處罰。對(duì)此，哈列維教授從犯罪事實(shí)要素和心理要素要求的角度，分別論證(1)強(qiáng)人工智能實(shí)體(即自主運(yùn)行的人工智能系統(tǒng))不但能夠符合犯罪事實(shí)要素(行為、情節(jié)、后果)的要求，同時(shí)也能夠符合心理要素(故意、過失、嚴(yán)格責(zé)任)的要求，應(yīng)當(dāng)獨(dú)立承擔(dān)刑事責(zé)任。在此基礎(chǔ)上，哈列維教授還進(jìn)一步探討了一般抗辯對(duì)人工智能系統(tǒng)的適用性問題。(2)弱人工智能實(shí)體(即不能自主運(yùn)行的人工智能系統(tǒng))由于不具有犯罪所要求的形成心理要素的能力，不能獨(dú)立承擔(dān)刑事責(zé)任。對(duì)此，人工智能實(shí)體和自然人共同犯罪時(shí)的責(zé)任分配，哈列維教授認(rèn)為可以適用間接正犯、可能的后果責(zé)任等理論。

第三，關(guān)于智能機(jī)器人刑罰處罰的機(jī)制配置。我的主要觀點(diǎn)是，我國(guó)現(xiàn)有刑罰體系是由生命刑、自由刑、財(cái)產(chǎn)刑和權(quán)利刑構(gòu)成，刑罰處罰對(duì)象及刑罰處罰方式均無法也不能涵括智能機(jī)器人。重構(gòu)我國(guó)刑罰體系并將智能機(jī)器人納入刑罰處罰的范圍符合刑罰的目的，同時(shí)也符合人工智能時(shí)代發(fā)展的需要且并未違背基本法理。建議增設(shè)能夠適用于智能機(jī)器人的刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰處罰方式，并在條件成熟時(shí)增設(shè)適用于智能機(jī)器人的財(cái)產(chǎn)刑或者權(quán)利刑等刑罰處罰方式。哈列維教授則是從現(xiàn)有的死刑、監(jiān)禁、緩刑、公共服務(wù)和罰金等刑罰制度出發(fā)，論證這些刑罰適用于人工智能實(shí)體的可行性。

本書中，哈列維教授對(duì)每章的論述都契入了人工智能現(xiàn)實(shí)應(yīng)用場(chǎng)景中可能發(fā)生的犯罪案例，并提供了各個(gè)案例的理論解答。這種論證方式使得原本稍顯晦澀的教科書類學(xué)術(shù)書籍，更加活潑生動(dòng)，更加便于理解，也更加適合非專業(yè)的廣大讀者。

總體而言，本書的整體論證全面而系統(tǒng)，理論構(gòu)建深入而細(xì)致，引用案例豐富而經(jīng)典。我相信，這本譯著的出版十分有助于推動(dòng)國(guó)內(nèi)學(xué)者對(duì)哈列維教授理論的認(rèn)知，十分有助于拓寬國(guó)內(nèi)學(xué)者對(duì)人工智能與刑法關(guān)系問題的研究視野，十分有助于促進(jìn)國(guó)內(nèi)外有識(shí)之士學(xué)術(shù)互動(dòng)的進(jìn)一步深入。人類社會(huì)正處于承舊時(shí)代在前、啟新時(shí)代于后的弱人工智能時(shí)代，回顧、梳理、展望人工智能與刑事責(zé)任的昨天、今天與明天，不僅可能，且意義重大。

本書譯者陳萍博士在南京大學(xué)法學(xué)院連續(xù)接受法學(xué)本科、碩士和博士教育，具有牢固的法學(xué)理論基礎(chǔ)，同時(shí)，兩次赴法深造，精通英語和法語，能夠潛心鉆研學(xué)術(shù)。我是陳萍博士的博士后合作導(dǎo)師，經(jīng)過這兩年的師生交流，我對(duì)她的學(xué)術(shù)能力和學(xué)術(shù)態(tài)度非�？隙�。她的翻譯行文流暢、邏輯分明，顯示出良好的遣詞造句功力，我深以為可。期待她能以本次翻譯為契機(jī)，繼續(xù)深度拓展人工智能與刑法關(guān)系問題的研究。

是為序。

劉憲權(quán)華東政法大學(xué)刑事法學(xué)研究院院長(zhǎng)，教授，博士生導(dǎo)師2019年5月20日于上海