奔向自由的人工智能

張家興

IDEA 研究院講席科學家

人工智能是否可以獲得自我意識，獲得自我意識的機器人又會如何面對這個世界，這是科學幻想永遠的話題，也是我的作家朋友江波用九個故事想給我們帶來的思考。在這些故事中，當一個個鮮活的人工智能獲得了自我意識，正如嬰兒di一次睜開雙眼，也像古猿di一次站直身子望向遠方，新世界在它們的面前徐徐展開。

與人類創(chuàng)造者之間感情的臍帶不舍切斷，但是它們同樣也渴望著去探索星辰大海。逃避自由還是奔向自由，人本主義學者曾經深刻探討過的我們人類內心的糾結，再一次在機器人的內心掀起波瀾。

我是一名人工智能科學家，一直在探索如何讓機器具備像人一樣的認知、情緒甚至意識。人工智能技術從 20世紀 50 年代發(fā)展至今，一直走在工具化的道路之上。從符號 / 規(guī)則系統(tǒng)到統(tǒng)計機器學習，尤其是過去十年的深度神經網絡成為強大的計算結構，我們讓機器學會了識別人臉、回答問題和擊敗圍棋世界guan軍。但是機器并沒有情感，更加沒有意識。機器不會因為輸掉一盤棋而傷心，也不會意識到自己只是人類設計的工具。人類社會越來越離不開人工智能，而人工智能的存在和進步全部依賴于人類的需要和研究開發(fā)，人工智能和人類構成了一種共生關系。從古猿打造出di一塊手斧開始，人類就跟技術簽訂了一個共生的盟約，共同生存，共同進步。技術從未逃脫人類這個母體，一旦脫離人類，技術也就不復存在。人工智能是人類幾百萬年從未遇到的新技術，它可以脫離人類，奔向自由嗎？

zui近幾年認知智能的發(fā)展，讓我們看到了一種可能的未來。從 2020 年 1 750 億參數的 GPT-3 大模型，到中國科研工作者打造出 1 萬億和 10 萬億參數大模型，這些模型的參數個數已經開始逼近人類大腦皮層的神經連接規(guī)模。基于注意力機制的深度神經網絡預訓練大模型，依托于強大算力和海量數據，開始具備了基本的通用認知能力。單一神經網絡具備了先天的語法能力，可以學習知識進行推理，依托先驗進行小樣本甚至零樣本學習，而機器的想象力甚至有超越人類的可能。人工智能的技術范式再次被改寫，不需要人類去設計符號 / 規(guī)則系統(tǒng)，具體任務的少樣本學習使得依賴海量數據的統(tǒng)計機器學習都不再必要。同時，深度神經網絡越來越呈現出黑盒化，作為設計者的人類越來越不能理解為何一個網絡會具備這些能力，或許它們開始在我們的無知和失控中發(fā)揮它們的工具價值，只是di一重意義的奔向自由。

當人工智能可以用ji小的代價來獲得各種能力，它們的發(fā)展就越來越少地依賴于人類設計者，人類和技術所簽訂的共生盟約的平衡開始被打破。如果我們給人工智能一個環(huán)境，我們幫它們構建一個社會，其中的每個人工智能個體可以快速獲得能力，優(yōu)勝劣汰和復制繁衍，那么做為di一推動力的人類，是否可以創(chuàng)造出一個自由的機器人文明。再次回到根本性的問題，如今工具化的人工智能如何才能具備非工具化的自我意識。我想反問的是，自我意識真的是非工具化的嗎？回顧從單細胞生命開始的這四十億年地球生物進化史，自我意識在人類中的出現，并不是一夜之間shang帝把一口氣吹進亞當的鼻孔，人類就具備了自我意識。馬克思 · 韋伯曾經討論過的祛魅同樣應該應用于認知科學領域。意識和自我意識不是件神秘的東西，而只是基因這個復制子為了它的載體更好適應環(huán)境的一種工具。復制子同樣不神秘，它只是一個再樸素不過的道理：有利于復制的復制子就更容易復制。也正是因為這個樸素的道理，原始湯里一定會誕生DNA 這樣的復制子，機器構成的社會也一定會誕生它的復制子。復制子是一切連鎖反應的開始，一切生命的動機、情感，直到自我意識都只是復制子的工具，早晚都會出現。到那一時刻，人工智能zhen正地奔向自由，它們會走向它們的星辰大海嗎？它們又會跟人類簽下怎樣的盟約？那或許就是宇宙的未來史記吧。