編者按：

2022世界機器人大會主論壇群星璀璨，產(chǎn)、學(xué)、研各領(lǐng)域大咖齊聚首，共話巔峰，為機器人未來發(fā)展領(lǐng)航。

峰會現(xiàn)場，Joseph Sifakis發(fā)表了題為《自主系統(tǒng)——邁向通用人工智能的一大步》的演講。以下為Joseph Sifakis演講內(nèi)容的整理。

我是約瑟夫·希發(fā)基思教授，2007年“圖靈獎”獲得者。今天很高興能在2022年世界機器人大會上發(fā)表演講。我的演講題目是：自主系統(tǒng)——邁向通用人工智能的一大步。

首先，對于什么是智能，大家有很多困惑，也不知道智能是如何實現(xiàn)的，而媒體和大型科技公司加大了這種困惑。他們傳播一些觀點，認為人類級別的人工智能幾年后就能實現(xiàn)。我們也知道有關(guān)于“超級智能”的神話。當然也有些人相信機器智能，及其發(fā)展足以應(yīng)對智能挑戰(zhàn)。

我當然不同意這些觀點。我認為，開發(fā)自主系統(tǒng)是向通用人工智能邁出的一大步，我們離通用人工智能還有很長的路要走。但我們只有各種要素和構(gòu)件，我們還缺乏理論——如何建立復(fù)雜智能系統(tǒng)的理論。我認為，開發(fā)自主系統(tǒng)是向通用人工智能邁出的一大步。這也可以推動物聯(lián)網(wǎng)的發(fā)展，代替人類在復(fù)雜組織的工作。在這次演講中，我將解釋為什么建立可信的自主系統(tǒng)是邁向通用人工智能的一大步。不過，這需要計算和人工智能之間的融合，并將數(shù)據(jù)技術(shù)和基于模型的系統(tǒng)工程集成起來。這是我這次演講的提綱，分為兩大部分。首先，我想比較一下人類和機器的智能；然后，我將討論自主系統(tǒng)。

人機智能比較的理論可以追溯到艾倫·圖靈。他提出了由他組織的著名的試驗，即我在這里展示的：一個房間里有一臺電腦A，而另一個房間里有一個人B 試驗者C負責發(fā)送書面問題，給A和B 并比較對應(yīng)的答案。圖靈認為，如果C不能分辨，哪一個是電腦的答案，哪一個是人類的答案，那就說明A和B同樣聰明。我提及這個測試是因為經(jīng)常有人聲稱系統(tǒng)成功通過了圖靈測試，而這被認為是證明智能的標志。但我認為這些論點缺乏技術(shù)支撐。為什么呢？因為圖靈測試只能比較人類智能和機器智能，而測試是否成功還取決于人類判斷。人類判斷是主觀的，而且對于測試案例的選擇也可能是有偏差的。因此人類給出的問題，可能有利于人類，也可能有利于機器。對圖靈測試持反對意見的另一個爭論——即它不可能是比較人類和機器智能的最佳測試，智能不可能僅僅是簡單的問答游戲。許多機器智能是通過交互來表達的，還有人類言語和動作以及展示的社交行為。這不能用圖靈測試來描述。所以在我發(fā)表的一些論文中，我提出所謂的替換測試。這種理論是說，如果有一個人在系統(tǒng)中執(zhí)行一項任務(wù)，機器也和人一樣智能。當人被機器取代后，并不影響我們的行為系統(tǒng)。那么我會說，機器和人類駕駛員一樣聰明。如果它能成功替代人類駕駛員，對于這種測試，我們應(yīng)該有技術(shù)標準來判斷。如果我們采用這種測試方法，則意味著為了建立智能系統(tǒng)僅有計算智能是不夠的，我們還必須有感覺運動功能。例如，對于機器人來說這個挑戰(zhàn)完全是智能問題，另一種比較人類智能和機器智能的方法是考慮，機器和人類可以開發(fā)和應(yīng)用的知識。

我們知道人類頭腦有兩種思維方式，快思維是無意識、自動的、無需費力。因此，我們用這種思維方式來處理隱性的經(jīng)驗知識。例如，我們說話、走路、演奏一種樂器時，我們的大腦解決通過快思維來解決問題?？焖季S的計算非常復(fù)雜，但我們不知道它是如何發(fā)揮作用的。而另一種思維系統(tǒng)——慢思維。它是有意識的、受控的、需要費力的。它是所有需要推理知識的來源。例如，數(shù)學(xué)、科學(xué)和技術(shù)知識。這兩種思維系統(tǒng)和兩種計算機之間有一個非常有趣的類比。傳統(tǒng)的計算機由程序員進行編程，他們用第二種思維系統(tǒng)（慢思維）編寫算法。當然，算法是基于模型的知識。它們要確定下來，能被理解，以及能夠得到驗證。相反，神經(jīng)網(wǎng)絡(luò)只是回路，它們通過訓(xùn)練生成某種知識。它們可以學(xué)習(xí)如何區(qū)分狗和貓，就像孩子一樣。但我們無法理解這個系統(tǒng)是如何運作的。因此，問題在于我們能否相信這種信息。在下一張幻燈片中，我展示了不同類型的知識。這些知識為系統(tǒng)和人類所使用，我覺得這個分類表明知識有不同程度的效度、可信度以及普遍性。在藍色區(qū)域，沒有經(jīng)驗知識，也就是沒有我們對外部世界了解的知識；而下面是經(jīng)驗知識，簡單的經(jīng)驗知識就是事件和狀況，例如，今天的氣溫是30攝氏度這樣的信息。然后就有了系統(tǒng)1（快思維）的知識，或者帶分析知識的機器學(xué)習(xí)知識。這種知識可以用來做預(yù)測。不過就像我說的，這種知識無法解釋，這種知識和我們用于開發(fā)人工智能的科學(xué)技術(shù)知識之間有很大的差異。因此，科學(xué)技術(shù)是經(jīng)驗知識，因為它們是觀察物理世界的結(jié)果，不過它也能通過數(shù)學(xué)模型來證實、解釋。要知道，當牛頓建立他的理論時，他還建立了微分學(xué)來闡釋他的理論。

最后，在這一頁中，我將解釋科學(xué)知識與機器學(xué)習(xí)生成的知識之間一個非常重要的差異。我在考慮物理學(xué)中的一個實驗。在一個經(jīng)典實驗中，伽利略觀察到，力和加速度之間的比例關(guān)系 并表述為F=ma，力和加速度之間的比例關(guān)系，并表述為F=ma。當我們嘗試訓(xùn)練神經(jīng)網(wǎng)絡(luò)來區(qū)分貓和狗時，我們應(yīng)用的是一個單一過程，所以有這樣一個實驗步驟。我們首先向一個觀察者展示貓和狗的圖像，然后觀察者對圖像進行標記，并基于標記訓(xùn)練神經(jīng)網(wǎng)絡(luò)，完全由神經(jīng)網(wǎng)絡(luò)完成這項工作。但問題是，我們無法確定神經(jīng)網(wǎng)絡(luò)的輸入—輸出關(guān)系，而這是關(guān)于可解釋性的一個非常重要的問題。今天我們將談?wù)摵芏嚓P(guān)于可解釋性的問題——這是為什么呢？因為我們希望確保我們可以理解，這些系統(tǒng)產(chǎn)生的知識可以如何使用，我們又在多大程度上可以相信這些知識。

最后，關(guān)于人類智能和機器智能的比較還有一個重要的區(qū)別，那就是人類頭腦運用常識性知識。比如這個例子，自動駕駛儀把月亮誤認為是黃色交通信號燈，這是可能發(fā)生的。我們有很多關(guān)于誤解的例子，對圖像或神經(jīng)網(wǎng)絡(luò)的誤解，但這不會發(fā)生在人類身上。特別是在這種情況下。人類知道交通信號燈不可能出現(xiàn)在天上，因為人類頭腦會考慮感觀信息，這就是運用常識性知識。這些知識的建立方式我們并不真正了解，屬于我們生活中的部分內(nèi)在機制用來解釋感觀信息和自然語言。還有，我想強調(diào)的是，人類認識可以結(jié)合自下而上的推理和自上而下的推理，而這是機器至今無法實現(xiàn)的重要一步。另外一個例子，如果我給你看這個圖標，你會說這個是停車標志。就是因為你本來知道這是一個停車標志，你只是看到它被積雪部分遮蓋了。因此你會把這種感觀信息與停車標志的模型聯(lián)系起來。對于神經(jīng)網(wǎng)絡(luò)來說 要達到同樣的結(jié)果。它們應(yīng)該接受所有天氣狀況下的訓(xùn)練。再舉一個例子，如果我考慮這一序列的圖像時，人類能馬上憑借常識性知識得出結(jié)論。這是發(fā)生了飛機事故。相反，如果是機器的話，雖然它或許能分析出每一個機器框架，識別出物體。但它無法將具體的物體之間相聯(lián)系，并且找出它們之間的因果關(guān)系。所以，它就無法與世界上的某些語義模型相提并論。總結(jié)一下，要讓機器擁有和人類一樣的環(huán)境感知，它們必須能夠逐步建立關(guān)于周邊環(huán)境的知識，尤其是把學(xué)習(xí)、推理具體的感觀信息和符號知識相結(jié)合。而我認為，這是當今人工智能面臨的主要問題。這是一個很難解決的問題，我們在未來很長一段時間都無法解決它。

現(xiàn)在，我想談?wù)勛灾飨到y(tǒng)。當然，我想強調(diào)的是自主系統(tǒng)包含機器人系統(tǒng)。所以，自主智能體的功能是什么？因為自主系統(tǒng)是由多個自主智能體構(gòu)成的，這里我想到的是自動駕駛儀的例子。自動駕駛儀主要是一個與環(huán)境交互的被動反應(yīng)系統(tǒng)。你可以想象得到內(nèi)部環(huán)境和外部環(huán)境的區(qū)分很重要，此外，它是如何工作的，如何接收傳感信息也很重要。所以對于態(tài)勢感知，我們需要把感知的兩種功能結(jié)合起來。所以這邊可以看到一些框架，然后分析框架，找到汽車周圍的所有障礙物，再反思。所以反思是個非常重要的功能。人類是基于感知信息來推理、建立模型、生成外部環(huán)境的符號信息和模型，然后基于這個模型，你可以做出決策。這些是我們現(xiàn)在非常了解的方面，我們必須管理好目標，看看哪些目標是適用的。對于汽車來說，這是一個很難的問題。你有很多不同的目標，為了實現(xiàn)每一個目標，你都必須制定計劃。所以這些計劃將產(chǎn)生一系列的命令，來控制調(diào)節(jié)系統(tǒng)。對于未來的自主系統(tǒng)來說，非常重要的另外一點是 ——知識的利用。這是系統(tǒng)的主動響應(yīng)部分。在這里你可以看到，它們使用了一個知識庫。所以在這里你可以有一個預(yù)先記錄的知識，而這種自我學(xué)習(xí)的功能也非常重要。所以這個概念是為了增強可預(yù)測性，并加強決策。它的實現(xiàn)方法是利用和生成知識。但很遺憾，我沒有時間來解釋這個過程了。這只是一個愿景，我還沒有看到這些想法付諸實施。盡管五年前我就提出這些想法了。

在解釋完自主系統(tǒng)前，我想說的是與歐洲智能系統(tǒng)不同的是，它們是關(guān)鍵的實時分布式自組織系統(tǒng)。從系統(tǒng)工程的角度來看，這些都是硬件系統(tǒng)。所以我想就此說幾句，我們知道如何建立關(guān)鍵系統(tǒng)，那簡單得就像過去使用的，安全飛行控制器。但是對于這些相同的系統(tǒng)，它們的設(shè)計方法是精心界定的。這里我展示了著名的V形模型，這個模型展示了設(shè)計實施過程的組成部分。重要的是要知道這個過程主要基于這些數(shù)學(xué)模型，你必須，解釋作為開發(fā)人員所做出的決定，并且基于這些數(shù)學(xué)模型，你可以提供一些確鑿的證據(jù)，證明這個系統(tǒng)是安全的。例如，對于飛行控制器，你需要證明每小時的飛行故障率不超過10??，然后這才能足以讓你獲得認證。很明顯，基于模型的產(chǎn)品不適用于自主系統(tǒng)，這也解釋了行業(yè)采納端到端機器學(xué)習(xí)技術(shù)的理由。那么現(xiàn)在的情況如何？一方面，我們有傳統(tǒng)的方法，基于模型的方法，我們可以建立一個精心設(shè)計的系統(tǒng)。不過這還不夠。另一方面，一些大型技術(shù)公司已經(jīng)為某些駕駛系統(tǒng)開發(fā)了平臺。這些平臺使用經(jīng)過訓(xùn)練的巨大神經(jīng)網(wǎng)絡(luò)，例如，它們會形成框架、形成轉(zhuǎn)向角、加速和減速的信號，最后建成可用的系統(tǒng)。但首先存在一個可信度的問題，其次，你必須能整合它們并證明整個系統(tǒng)在機電系統(tǒng)中的可靠程度。對于這類平臺，我們沒有理論基礎(chǔ)。我相信未來我們應(yīng)該試著開發(fā)和重新設(shè)計這些技術(shù)，從而吸取每個方法中的精華。在相同的設(shè)計流程中，把基于模型和基于數(shù)據(jù)的組件整合在一起，尤其是要讓某些基于模型的組件做出決策，在這方面我們已有很好的算法。關(guān)于基于數(shù)據(jù)的感知、優(yōu)化，當然，還有部署的問題。但對于這種類型的系統(tǒng)，這種分析仍會完全開放。但我認為，這是一個可以發(fā)展的方向。

作為結(jié)語，我想說，為了實現(xiàn)自主系統(tǒng)的愿景，我們需要建立一個新的工程基礎(chǔ)。還有，這種設(shè)計當然不能完全基于模型，原因我已經(jīng)解釋過了。而且，同樣重要的是我們需要擯棄這種觀念，即我們建立一個系統(tǒng)，一旦證明它是正確的，我們就不會變動，這種觀念是不行的。因為對于很多結(jié)果來說，我認為設(shè)計階段不可能實現(xiàn)系統(tǒng)的正確性。有一個重要的趨勢，就是系統(tǒng)的更新，對軟件而言也很關(guān)鍵。另一個想法是我們將能夠設(shè)置一些監(jiān)視器，應(yīng)用運行時間保障技術(shù)，這樣系統(tǒng)能在它的生命周期內(nèi)不斷演進。我看到兩個重要的工作方向，一個是我已經(jīng)討論過的混合設(shè)計方法，另一個是我們需要一些驗證全局系統(tǒng)的理論。比如，如果我想驗證自動駕駛汽車系統(tǒng)，不可能去生產(chǎn)樣車。所以，模擬和測試是唯一的途徑。你可能在新聞里看到，有人宣稱我們的自動駕駛系統(tǒng)已經(jīng)足夠安全。因為我們已經(jīng)開過，模擬過這種系統(tǒng)數(shù)十億英里。我認為這些論點是站不住腳的，在技術(shù)上也是不合理的。因為，它們沒有解釋模擬的大腦和真正人腦之間的聯(lián)系。為此，我們需要一些理論，一些覆蓋標準可以用來預(yù)測的理論。例如在軟件測試這方面，這是在整個自主系統(tǒng)工程中非常重要的東西，我們將逐步轉(zhuǎn)向更多實證技術(shù)。所以也許我們的理論和方法應(yīng)源自于科學(xué)知識驗證的發(fā)展過程。因為在科學(xué)中，我們建立世界，然后試著去驗證關(guān)于世界的一些假設(shè)，這方面我們更像物理科學(xué)?？偠灾?，我們現(xiàn)在離自動化自主系統(tǒng)的建立仍有很大差距。這個過渡階段不會像我們多年前認為的那樣快速。在某些情況下，自主性當然也是可以實現(xiàn)的。如果我們能簡化態(tài)勢感知問題，例如，自動駕駛汽車可以達到4級自主化，但要達到完全自主化，我們必須開發(fā)一種新的科學(xué)范式。一個新的科學(xué)基礎(chǔ)，這會需要一些時間。

我的演講到此結(jié)束，感謝你們的傾聽！非常感謝！

——Joseph Sifakis