編者按：

2022世界機器人大會主論壇群星璀璨，產(chǎn)、學(xué)、研各領(lǐng)域大咖齊聚首，共話巔峰，為機器人未來發(fā)展領(lǐng)航。

峰會現(xiàn)場，Raja Chatila發(fā)表了題為《為機器人和人工智能的應(yīng)用發(fā)展承擔(dān)責(zé)任》的演講。以下為Raja Chatila演講內(nèi)容的整理。

大家好，我是Raja Chatila，我現(xiàn)在在巴黎索邦大學(xué)。今天我想談?wù)勜撠?zé)任的人工智能和機器人。什么是負責(zé)任的人工智能和機器人？其實應(yīng)該說是負責(zé)任的機器人技術(shù)和人工智能開發(fā)、使用和管理。這些技術(shù)現(xiàn)在非常普遍，應(yīng)用于我們生活方方面面，改變了我們的生活。它們對經(jīng)濟和社會有很大的影響，在許多行業(yè)都可以看到這些技術(shù)，例如交通。有了自動駕駛汽車，還有其他交通工具，在醫(yī)療衛(wèi)生和制造業(yè)方面也有應(yīng)用。當(dāng)然了，在農(nóng)業(yè)方面它們用于個人服務(wù)，幫助人們。它們用于安保，應(yīng)用于社交媒體的推薦系統(tǒng)，從而進行定推廣，還應(yīng)用于招聘篩選候選人，也應(yīng)用于計算保險單級別，用于與司法相關(guān)的應(yīng)用中。例如分析人們的情況也被應(yīng)用于慈善當(dāng)中，我們需要了解這些系統(tǒng)也有局限。

首先，它們需要進行運算，這意味著什么？，意味著它們不能真正理解真實世界尤其是當(dāng)這些系統(tǒng)基于機器學(xué)習(xí)。加工大量數(shù)據(jù)，優(yōu)化大量參數(shù)，從而調(diào)整預(yù)期產(chǎn)出時，由于這種復(fù)雜性和嵌入式計算，所以有一個“黑盒子”效應(yīng)。機器學(xué)習(xí)也是，自從誕生以來就是基于數(shù)據(jù)的統(tǒng)計相關(guān)性，不是系統(tǒng)來解釋因果關(guān)系，所以不構(gòu)成相關(guān)性，會產(chǎn)生完全錯誤的結(jié)果。雖然精確度很高，它們在驗證軟件系統(tǒng)方面挑戰(zhàn)了傳統(tǒng)方法，沒有真正的驗證過程，可以保證產(chǎn)生結(jié)果的質(zhì)量水平。由于大量的數(shù)據(jù)運算系統(tǒng)耗能很大。這些都是系統(tǒng)要解決的現(xiàn)實問題，為什么我們要解決？因為這是我們的責(zé)任，如果是我們開發(fā)了這些程序，運算系統(tǒng)，程序和人工智能算法都是由人類開發(fā)設(shè)計的直接編程或以間接方式，因為這些程序被用來建立統(tǒng)計模型，然后再應(yīng)用。因此，人類的責(zé)任很重要，要銘記于心，這也是我想說的。當(dāng)我們談?wù)撠撠?zé)任的人工智能時，我們實際是談?wù)撠撠?zé)任的人工智能和機器人技術(shù)開發(fā)、使用和管理。這意味著我們必須解決我前面提到的系統(tǒng)的局限性問題，必須減少負面效應(yīng)。例如，在可持續(xù)性氣候等方面產(chǎn)生的負面效應(yīng)，負面效應(yīng)也可能存在于所做的決定。我們必須開發(fā)、設(shè)計，基于道德考量和治理框架的方法。這些方法適用于設(shè)計和應(yīng)用程序，負責(zé)任也意味著我們要探索人工智能系統(tǒng)的發(fā)展前景，為人類謀福利。例如致力于實現(xiàn)聯(lián)合國可持續(xù)發(fā)展目標(biāo)。

在2016年，在國際上提出了針對這些問題的第一個提議，IEEE作為最大的獨立專業(yè)技術(shù)學(xué)會。它組織會議，在著名期刊上發(fā)表技術(shù)論文。IEEE首先就自主和自適應(yīng)系統(tǒng)的道德問題發(fā)起了全球倡議，因為他們發(fā)現(xiàn)在這些系統(tǒng)開發(fā)中有問題需要解決，這項倡議的使命是確保每一個利益攸關(guān)方，意味著每一個參與設(shè)計和開發(fā)人工智能系統(tǒng)的個人和組織，必須受過教育培訓(xùn)。因為人們沒有真正意識到問題，他們要接受培訓(xùn)，在開發(fā)時首先考慮道德問題，從而讓這些技術(shù)為人類謀福利，這個倡議已經(jīng)促成了很多文件，其中我想談?wù)劇度斯ぶ悄茉O(shè)計的倫理準(zhǔn)則》。大家可以從網(wǎng)上下載，這份文件有大約300頁，確定了人工智能系統(tǒng)開發(fā)的問題，并給予相關(guān)建議。我說的人工智能系統(tǒng)也包括機器人技術(shù)，這份倡議是自動和智能系統(tǒng)。另外，該倡議已經(jīng)產(chǎn)生了相關(guān)標(biāo)準(zhǔn)。大家知道，在行業(yè)中遵循設(shè)計標(biāo)準(zhǔn)非常重要，這樣系統(tǒng)才能互相配合。也有工具進行系統(tǒng)開發(fā)，從而使系統(tǒng)符合一定要求和標(biāo)準(zhǔn)，我想指出這個P7000標(biāo)準(zhǔn)。它是解決系統(tǒng)設(shè)計道德問題的第一個標(biāo)準(zhǔn)流程，為基于價值、道德的系統(tǒng)設(shè)計提供了方法論。第二個標(biāo)準(zhǔn)是關(guān)于自動系統(tǒng)的透明度，透明度很重要。我稍后會說這個，IEEE的P7010標(biāo)準(zhǔn)是關(guān)于人類福祉的標(biāo)準(zhǔn)，因為我們希望開發(fā)那些系統(tǒng)為人類謀福利。那么就目前的重大舉措而言，這到底是什么意思呢？其他標(biāo)準(zhǔn)還在制定中，這需要些時間，我們也編寫出一個道德認(rèn)證程序，基于測試它們是否符合提出的要求。2016年提出且仍在持續(xù)的這個倡議激勵了全世界，并產(chǎn)生了新的倡議和治理框架。

我想談?wù)剼W洲的進展，為制定人工智能策略，歐洲組建了高水平人工智能專家團隊。而這個團隊確定了人工智能技術(shù)的四個主要原則，人類自主，也就是人類應(yīng)該控制人工智能，不是人工智能系統(tǒng)主宰人類的決定，而始終是人類控制、人類自主。第二個原則是不傷害，也就是不做壞事，意味著系統(tǒng)必須是穩(wěn)健的、有韌性的、不會加劇傷害。公平原則是指人工智能必須要公平，大家知道很多案例，在學(xué)習(xí)系統(tǒng)中有偏差問題，所以偏差問題要解決不僅僅是個人，更是要在社會層面上解決。最后是可解釋性原則，大家可能注意到，前三個原則和生物醫(yī)學(xué)倫理學(xué)的原則相似，特別的是最后一個可解釋性原則，我們需要透明的系統(tǒng)，可解釋、可溯源的。這樣，系統(tǒng)作出的任何影響人類的決定和運算才可以被理解。但這些是原則，我們需要更準(zhǔn)確地說明如何實施這些原則，從原則到實踐有七個要求，這七個要求已經(jīng)得到公認(rèn)，更具體地解釋了四大原則。人類代理和監(jiān)督，監(jiān)督系統(tǒng)的技術(shù)穩(wěn)健性和安全性，大家看到這些自主原則，還有不傷害以及也要解決數(shù)據(jù)和個人資料的使用問題，加強個人隱私、數(shù)據(jù)管理、系統(tǒng)透明度、可追溯性、可解釋性、多樣性、無差別和公平性、社會和環(huán)境福祉，這點非常重要。因為這些系統(tǒng)對環(huán)境有很大影響，我稍后會談。因此，環(huán)境問題也要解決，人類要負起責(zé)任。因為這些系統(tǒng)是由人類，組織開發(fā)的。所以人類和組織必須對系統(tǒng)的產(chǎn)出結(jié)果負責(zé)，而系統(tǒng)不對產(chǎn)出結(jié)果負責(zé)，那么，人類和組織負責(zé)如何實現(xiàn)呢？

讓我們進一步深入到實際執(zhí)行中，我們必須設(shè)計系統(tǒng)架構(gòu)，讓技術(shù)設(shè)計符合四大原則。我們已有既定標(biāo)準(zhǔn)可以使用，必須通過設(shè)計使系統(tǒng)部署。符合法律和道德規(guī)定，系統(tǒng)必須是穩(wěn)健的。我們有設(shè)計可靠系統(tǒng)的方法，讓我們進行可持續(xù)開發(fā)，我們有設(shè)計可靠系統(tǒng)的方法，讓我們進行可持續(xù)開發(fā)。例如學(xué)習(xí)系統(tǒng)，相當(dāng)于測試、驗證、解釋方法，關(guān)于人工智能的可解釋性以及服務(wù)質(zhì)量指標(biāo)，還有大量研究在進行。因為那些學(xué)習(xí)系統(tǒng)的服務(wù)質(zhì)量隨著時間而變化，我們需要服務(wù)質(zhì)量指標(biāo)。還有一些非技術(shù)方面，例如規(guī)定如何應(yīng)用這些要求的框架，參與系統(tǒng)工作的設(shè)計人員，開發(fā)人員以及組織的行為準(zhǔn)則。我提到的作為推動行業(yè)發(fā)展，優(yōu)化系統(tǒng)開發(fā)工具的標(biāo)準(zhǔn)，認(rèn)證機制，從而確保系統(tǒng)符合標(biāo)準(zhǔn)和規(guī)定，通過治理框架的問責(zé)制——這是人類的責(zé)任。當(dāng)然，通過教育宣傳提高人們的道德觀念，人們參與設(shè)計很重要，多樣性也很重要，包容的設(shè)計團隊會考慮人類參與的多樣性。

最后，我想給大家展示人工智能系統(tǒng)為人類謀福利的一個案例?？沙掷m(xù)發(fā)展目標(biāo)的其中一項是解決氣候變化問題和應(yīng)對環(huán)境挑戰(zhàn)，這是一篇論文節(jié)選，大家可以查閱。這里是具體信息，縱向列出的這些技術(shù)應(yīng)用到人工智能系統(tǒng)后，可以優(yōu)化低碳發(fā)電，系統(tǒng)通過優(yōu)化配電。根據(jù)需求產(chǎn)生電力，也可以用來打造智能城市，通過城市規(guī)劃優(yōu)化建筑布局、優(yōu)化交通、改善產(chǎn)業(yè)自動供應(yīng)鏈、改善農(nóng)場和森林管理；通過強大的人工智能技術(shù)，我們可以減少系統(tǒng)的負面影響，解決氣候變化等問題，負責(zé)任地運用人工智能系統(tǒng)也可以減少負面效應(yīng)。正如我所說的，人工智能競爭和硬件開發(fā)有其使命，有資源的使用等。當(dāng)開發(fā)應(yīng)用程序，開展氣候行動時，我們也需要提出如何減少人工智能系統(tǒng)的負面影響，這是負責(zé)任的一部分。為此，推動人工智能技術(shù)的發(fā)展時，人們可以將應(yīng)對氣候變化作為主要考量因素。因為開發(fā)會帶來碳排放，必須采取相應(yīng)措施減少排放。例如，可以為生命周期排放設(shè)定要求。這有另一篇引用的論文，大家可以去了解更多細節(jié)。

最后，人工智能和機器人系統(tǒng)是非常強大的技術(shù)，對經(jīng)濟和社會的影響深遠。但這些技術(shù)也有局限性，會產(chǎn)生負面影響。因此我們需要適當(dāng)?shù)脑O(shè)計倫理準(zhǔn)則和管理框架，負責(zé)任地開發(fā)系統(tǒng)，發(fā)揮人工智能系統(tǒng)的潛能，為社會謀福祉。非常感謝大家的傾聽！

—— Raja Chatila