在京舉行的世界機器人大會上，人工智能的倫理法律話題引熱議

　　機器與人 怎樣當好“合伙人”

　　15日，2018世界機器人大會在北京亦創(chuàng)國際會展中心開幕，展示全世界機器人產(chǎn)業(yè)的最新成果。為期3天的論壇上，由機器人發(fā)展引發(fā)的人工智能倫理和法律話題就是議題之一。

　　應(yīng)當建立規(guī)范機器人及其使用行為的法律框架

　　在國際人工智能界，不少人認為人工智能會對人類產(chǎn)生巨大威脅，呼吁不要開發(fā)“人工智能自主武器”，警惕人工智能的潛在風(fēng)險。他們討論的人工智能，通常指的是未來能自主進化、有類人意識的“強人工智能”，而當前應(yīng)用的多是擅長單項任務(wù)、完成人類指令的“弱人工智能”。即便如此，人工智能的迅速發(fā)展帶來的挑戰(zhàn)已經(jīng)逐漸顯現(xiàn)。

　　為保護隱私，人們發(fā)布照片或視頻時，會打上馬賽克覆蓋人臉，但美國一個研究小組開發(fā)了一套機器學(xué)習(xí)算法，通過訓(xùn)練，神經(jīng)網(wǎng)絡(luò)可以識別圖像或視頻中隱藏的信息。

　　時下，一些機器人應(yīng)用到兒童和老人陪護中。中國社會科學(xué)院哲學(xué)研究所研究員段偉文認為，機器人與兒童對答、給老人喂飯等行為看似簡單，長期相處可能使人類對機器傾注感情、產(chǎn)生依賴，有必要設(shè)置防止過度依賴機器人的原則。此外，無人駕駛汽車發(fā)生交通事故怎么界定責(zé)任，醫(yī)療外科手術(shù)機器人出現(xiàn)意外怎樣處置……隨著智能機器人深入?yún)⑴c人類生活，專家認為，如何建立規(guī)范機器人及其使用行為的法律框架，成為人工智能和機器人產(chǎn)業(yè)發(fā)展無法回避的重要問題。

　　清華大學(xué)人工智能研究院院長、中科院院士張鈸曾表示，當前的人工智能與人類智能本質(zhì)上是不同的。與人類相比，人工智能系統(tǒng)抗干擾能力差，推廣能力弱，甚至可能犯大錯。因此使用這樣的人工智能系統(tǒng)需要小心。

　　思考與智能機器的相處模式，控制不良影響

　　人工智能的發(fā)展幾經(jīng)波折，也在不斷進化。

　　“人工智能及其智能化自動系統(tǒng)的普遍應(yīng)用，不僅僅是一場結(jié)果未知的科技創(chuàng)新，更可能是人類文明史上影響深遠的社會倫理試驗。”段偉文說。

　　北京師范大學(xué)哲學(xué)學(xué)院教授田海平表示，機器深度學(xué)習(xí)和算法體系，使得智能體具有了一種準人格或擬主體的特性。當前，“阿爾法狗”、醫(yī)療機器人“沃森”和智能伴侶虛擬機器人微軟“小冰”仍屬于“弱人工智能”，離真正的智能主體還比較遠。即便如此，它們也已經(jīng)呈現(xiàn)改變?nèi)祟愋螒B(tài)的發(fā)展趨勢。未來假若“強人工智能”出現(xiàn)，并深度介入人類事務(wù)，那么，“我們必須提前思考人類如何與之相處的問題，控制它的不良影響。”田海平說：“人工智能是否以及如何為自己的行為負責(zé)，這仍然且始終是技術(shù)難題。”

　　近年來，國際人工智能界日益重視人工智能中的倫理與法律問題，并推動相關(guān)技術(shù)標準及社會規(guī)范的研討和制定。2017年1月，一個國際學(xué)術(shù)會議制定并發(fā)布了人工智能23條倫理原則，其中包括，人工智能研究的目標應(yīng)該建立有益的智能，而不是無向的智能；人工智能系統(tǒng)的設(shè)計和運作應(yīng)符合人類尊嚴，權(quán)利，自由和文化多樣性的理念等。電氣和電子工程師協(xié)會（IEEE）也頒布了《人工智能設(shè)計的倫理準則》，試圖從工程設(shè)計和生產(chǎn)的角度，提出人工智能的倫理標準。

　　我國人工智能研究及實踐走在世界前列，但在相關(guān)機器倫理、立法研究和安全標準等方面起步相對較晚，近些年正在積極加強這些方面的研究。

　　有專家表示，人工智能倫理法律等涉及科學(xué)界、企業(yè)界、哲學(xué)、法學(xué)等多個領(lǐng)域，有必要成立應(yīng)對人工智能發(fā)展的聯(lián)盟組織，吸納各方面的力量，共同推進相關(guān)研究。

　　運用算法，將人類道德規(guī)范體系嵌入智能機器

　　段偉文說，人工智能系統(tǒng)的“擬主體性”，使得它們的行為可以看作是與人類倫理行為類似的擬倫理行為。因此，人工智能界在探討能不能運用智能算法，將人類的價值觀和道德規(guī)范體系嵌入到智能機器中。有專家認為，這既是人工智能未來愿景，也是當前面臨的最大挑戰(zhàn)。

　　田海平說，把道德代碼嵌入機器，是人工智能發(fā)展的必然趨勢。缺少這一步，自動駕駛、無人機、助理機器人等智能體就不可能進入人類生活。機器在自主性上達到了人類高度后，它在做決策時，只有遵循道德算法，才能發(fā)展各種各樣的功能。

　　段偉文介紹，讓機器符合人類道德規(guī)范，學(xué)界大體有3種設(shè)想：一是自上而下，即在智能體中預(yù)設(shè)一套倫理規(guī)范，如自動駕駛汽車應(yīng)將撞車對他人造成的傷害降到最低；二是自下而上，即機器通過數(shù)據(jù)驅(qū)動，學(xué)習(xí)人類的倫理德道規(guī)范；三是人機交互，即讓智能體用自然語言解釋其決策，使人類能把握其復(fù)雜的邏輯并及時糾正可能存在的問題。

　　“人工智能倫理研究目前沒有一套普遍原則，因此可以從應(yīng)用中遇到的實例出發(fā)，找到價值沖突點，討論需要作哪些倫理考慮。”段偉文說，比如針對偏見，有必要追溯到機器學(xué)習(xí)的數(shù)據(jù)中，完善數(shù)據(jù)信息，并改進算法，讓人工智能判斷盡量客觀公正，符合人類的價值觀。

　　盡管人工智能發(fā)展存在許多潛在問題，但更多人對技術(shù)應(yīng)用的前景表示樂觀。他們認為，人工智能能提供更安全、更智能的生活體驗，不能因為技術(shù)潛在的不足而因噎廢食，在提前布局，防范可能出現(xiàn)的挑戰(zhàn)的同時，也要利用新技術(shù)來應(yīng)對風(fēng)險。

　　以隱私安全為例，人工智能并不是隱私的天敵。北京大學(xué)信息科學(xué)技術(shù)學(xué)院教授郭耀說，利用人工智能技術(shù)能夠應(yīng)對一些常規(guī)方法難以應(yīng)對的安全問題。比如，基于行為分析，人工智能可以快速檢測出惡意軟件，通過機器學(xué)習(xí)還能及時檢測異常網(wǎng)絡(luò)流量行為，預(yù)警黑客入侵，從而提升網(wǎng)絡(luò)安全防御水平。

　　張鈸說，不管人工智能如何發(fā)展，基本理念應(yīng)該不是用智能機器代替人，而是要協(xié)助人做好工作。人和機器各有優(yōu)勢，要互相了解才能實現(xiàn)人機協(xié)作，但人還是人機關(guān)系的主導(dǎo)者。如此，才可能將人工智能引向人機合作的發(fā)展道路。

　　喻思南

【糾錯】

責(zé)任編輯： 郝多