機器人與人工智能

機器人，特別是未來的智能機器人不應僅是信息、控制、生物、材料、機械等科學技術的融合與結晶，更可能是集科技、人文、藝術和哲學為一體的“有機化合物”，是各種“有限理性”與“有限感性”疊加和激蕩的結果。未來智能機器人的發展與人工智能密不可分，同時人工智能也是制約當前機器人科技發展的一大瓶頸。

和機器人一樣，人工智能也“有一個漫長的過去，但只有短暫的歷史”。它的起源可以追溯到文藝復興，17世紀，萊布尼茲、托馬斯·霍布斯和笛卡兒等人開始嘗試將理性的思考系統化為代數學或幾何學那樣的體系。這些哲學家已經開始明確提出形式符號系統的假設，而這也成為后來人工智能研究的指導思想。19世紀，劍橋大學的查爾斯·巴貝奇（Charles Babbage）建造差分機開始嘗試用機器來自動進行數學運算。第一、二次世界大戰大大加快了人工智能發展的進程，圖靈機的提出激發了科學家們探討讓機器人思考的可能。1956年達特茅斯會議第一次提出以“人工智能（Artificial Intelligence）”一詞作為本領域的名稱，并斷言“學習的每一方面或智能的任何其他特性都能被精確地加以描述，使得機器可以對其進行模擬”。這把人工智能領域的研究范圍擴展到了人類學習、生活、工作的方方面面。目前人工智能不但包括生理、心理、物理、數理等自然科學技術領域的知識，而且涉及到哲學、倫理、藝術、教理等人文藝術宗教領域的道理。

1997年5月11日，IBM“深藍”的電腦擊敗了國際象棋世界冠軍卡斯帕羅夫的人腦，證明了在有限的時空里“計算”可以戰勝“算計”，進而論證了現代人工智能的基石條件（假設）：物理符號系統具有產生智能行為的充分必要條件（Newell and Simon,1976）是成立的。2016年3月，Google AlphaGo在首爾以4:1的比分戰勝了圍棋世界冠軍李世石九段，更是引發了人工智能將如何改變人類社會生活形態的話題。當前人工智能的概念似乎有些過熱，雖然過去幾十年中人工智能已經取得了令人矚目的成就，但實際上我們發現人工智能都還僅能應用在諸如語音識別、圖像識別、自然語言處理等單一領域，當前人工智能水平的提升還只是量變，遠遠沒有達到質變的標準。

人工智能是人類發展到一定階段自然產生的一門學科，包括人、機與環境三部分，所以人工智能也可以說成人機環境系統交互方面的一種學問。飽含變數的人機環境交互系統內，存在的邏輯不是主客觀的必然性和確定性，而是與各種可能性保持互動的同步性，是一種可能更適合人類各種復雜的藝術過程的隨機應變的能力，而這種能力恰恰是當前人工智能所欠缺的地方。

當前人工智能研究的難點不僅在具體的技術實現上，更多的是在深層次對認知的解釋與構建方面，而研究認知的關鍵則在于自主和情感等意識現象的破解。然而由于意識的主觀隨意和難以捉摸等特點，與講求邏輯實證與感覺經驗驗證判斷的科學技術有較大偏差，使其長期以來難以獲得科技界的關注。但現在情況正逐漸發生轉變：研究飄忽不定的意識固然不符合科技的尺度，但把意識限制在一定情境之下呢？人在大時空環境中的意識是很難確定的，但在小尺度時空情境下的意識卻可能是有一定規律的。

實際上，目前以符號表征、計算的計算機虛擬建構體系是很難逼真反映真實世界的（數學本身并不完備），而認知科學的及時出現不自覺地把真實世界和機器建構之間的對立統一了起來，圍繞是（Being）、應（Should）、要（Want）、能（Can）、變（Change）等節點展開融合進而形成一套新的人機環境系統交互體系。

機器人與莫拉維克悖論

制約當前機器人發展的另一瓶頸是莫拉維克悖論。

在機器人的發展中出現了一個與人們常識相佐的現象：讓計算機在智力測試或者下棋中展現出一個成年人的水平是相對容易的，但是要讓計算機有如一歲小孩般的感知和行動能力卻是相當困難甚至是不可能的（It is comparatively easy to make computers exhibit adult levelperformance on intelligence tests or playing checkers, and difficult orimpossible to give them the skills of a one-year-old when it comes toperception and mobility.）。這便是在機器人領域著名的莫拉維克悖論。

莫拉維克悖論（Moravec's paradox）由漢斯·莫拉維克（Hans Moravec）、羅德尼·布魯克斯（Rodney Brooks）、馬文·閔斯基（Marvin Minsky）等人于20世紀80年代提出。莫拉維克悖論指出：和傳統假設不同，對計算機而言，實現邏輯推理等人類高級智慧只需要相對很少的計算能力，而實現感知、運動等低等級智慧卻需要巨大的計算資源。

語言學家和認知科學家史迪芬·平克（Steven Pinker）認為這是人工智能研究者的最重要發現，在“TheLanguage Instinct”這本書里，他寫道：經過35年人工智能的研究，人們學到的主要內容是“困難的問題是簡單的，簡單的問題是困難的”。四歲小孩具有的本能——辨識人臉、舉起鉛筆、在房間內走動、回答問題等，事實上是工程領域內目前為止最難解的問題。隨著新一代智慧設備的出現，股票分析師、石化工程師和假釋委員會都要小心他們的位置被取代，但是園丁、接待員和廚師至少十年內都不用有這種擔心。

與之相似，馬文·閔斯基強調，對技術人員來說，最難以復刻的人類技能是那些無意識的技能。總體上，應該認識到，一些看起來簡單的動作比那些看起來復雜的動作要更加難以實現。

在早期人工智能的研究里，當時的研究學者預測在數十年內他們就可以造出思考機器。他們的樂觀部分來自于一個事實，他們已經成功地使用邏輯來創造寫作程序，并且解決了代數和幾何的問題以及可以像人類棋士般下國際象棋。正因為邏輯和代數對于人們來說通常是比較困難的，所以被視為一種智慧象征。他們認為，當幾乎解決了“困難”的問題時，“容易”的問題也會很快被解決，例如環境識別和常識推理。但事實證明他們錯了，一個原因是這些問題是其實是難解的，而且是令人難以置信的困難。事實上，他們已經解決的邏輯問題是無關緊要的，因為這些問題是非常容易用機器來解決的。

根據當時的研究，智慧最重要的特征是那些困難到連高學歷的人都會覺得有挑戰性的任務，例如象棋、抽象符號的統合、數學定理證明和解決復雜的代數問題。至于四五歲的小孩就可以解決的事情，例如用眼睛區分咖啡杯和一張椅子，或者用腿自由行走，又或是發現一條可以從臥室走到客廳的路徑，這些都被認為是不需要智慧的。

在發現莫拉維克悖論后，一部分人開始在人工智能和機器人的研究上追求新的方向，研究思路不再僅僅局限于模仿人類認知學習和邏輯推理能力，而是轉向從模仿人類感覺與反應等與物理世界接觸的思路設計研發機器人。莫拉維克悖論的發現者之一RodneyBrooks便在其中，他決定建造一種沒有辨識能力而只有感知和行動能力的機器，并稱之為Nouvelle AI。雖然他的研究早在1990年代就開始了，但是直到2011年其Baxter機器人還是不能像裝配工人那樣自如地拿起細小的物件。

莫拉維克悖論對應的是機器人的運動控制和感知系統，而人工智能則對應于機器人的控制和信息處理中樞。如果把人工智能對應于機器人的大腦，那么莫拉維克悖論對應的運動控制和感知系統則對應于機器人的小腦。只有大腦小腦系統發展，機器人才能更好的服務人類。

機器人的社會問題

安全問題。機器人作為一個設備為人類工作服務有一個前提，那就是安全。在工業機器人領域已經有了相對完善、成熟的安全標準體系。在服務機器人領域各國都缺乏相應的安全標準，國際標準化組織于2014年2月正式發布了ISO13482安全標準，這是服務機器人領域的第一個國際安全標準，是一個良好的開端，ISO13482包含移動仆從機器人、載人機器人、身體輔助機器人三大類服務機器人的基本安全要求。

服務機器人的安全不僅包括傳統的硬件安全如電氣安全等，還包括軟件安全，機器人的軟件安全與人們熟悉的計算機軟件安全還有不同，雖然計算機軟件失控或遭受攻擊后也會導致嚴重的損失，但它僅存在于虛擬空間，不直接對物理世界產生作用。但機器人系統的軟件安全則不同，機器人的軟件系統可以控制其硬件作出各種動作，會對真實物理空間產生直接影響，一旦自身失控或遭受攻擊被人控制，可能就會對使用者造成直接的人身傷害。目前機器人軟件安全研究還比較少，也沒有機器人專用的安全防護軟件或方案，這可能會導致極大的安全隱患，應引起人們的重視。

恐怖谷理論。1970年，日本機器人專家森正弘（MasahiroMori）提出了機器人領域一個著名的理論——恐怖谷理論（The Uncanny valley），“恐怖谷”一詞最早由ErnstJentsch于1906年在其論文《恐怖心理學》中提出，后又于1919年被弗洛伊德在論文《恐怖谷》中闡述，成為心理學領域一個著名的理論。森正弘的恐怖谷理論是一個關于人類對機器人和非人類物體感覺的假設。森正弘的假設指出，隨著機器人在外表、動作上與人類越來越像，人類會對機器人產生正面的情感；但若到了某一特定程度，人類對機器人的反應會變得極為負面。哪怕僅僅是很小的一點差別，都會使人覺得非常刺眼，甚至使整個機器人顯得非常僵硬恐怖，使人有面對行尸走肉的感覺。但當機器人與人類的相似度繼續上升時，直至達到普通人之間的相似度時，人類對機器人的情感反應會再度回到正面。“恐怖谷”一詞用以形容人類對跟他們相似到特定程度之機器人的排斥反應。而“谷”就是指在研究里“好感度對相似度”的關系圖中，在相似度臨近100%前，好感度突然墜至反感水平，回升至好感前的那段范圍。

機器人威脅論。“機器人威脅論”伴隨著機器人發展的始終，其歷史甚至比現代機器人還要長。早在1921年，卡雷爾·恰佩克提出“機器人（Robot）”一詞的那部劇本的結局就是機器人反抗并消滅了人類。后來，“機器人威脅論”更是成為科幻小說或科幻電影永恒的題材之一。最近幾年，科技圈的一些大佬們也紛紛警告機器人或人工智能將會帶來的威脅，著名企業家艾倫·馬斯克認為人工智能的危險性甚至大于核武器。物理學家霍金則警告說，人工智能可能會招致人類末日。就連比爾·蓋茨也建議要小心管理數碼形態的“超級智能”。

但現實是，目前的機器人技術距離真正的“智慧”還差的很遠，已有的所謂“智能機器人”幾乎都是表面性的，主要還是以科研或娛樂為主。目前大規模產業化的基本只有工廠里的機械臂和家里爬行的吸塵器。如果把機器人智能水平分成四個等級：功能、智能、智力、智慧。那么目前的機器人大部分都處在功能階段，有少部分實驗室產品可能達到智能。終結者（Terminator）們還只不過是好萊塢電影里面的角色而已。

現在，無論是小說還是電影中科幻世界還是我們所在的物理世界，機器人都越來越聰明了，越來越有“人性”了，在一些方面逐漸接近人類，在另一些方面則逐漸超越人類。于是人們越來越擔心科幻電影中的世界有一天會變成事實，但拋去所有的幻想與浮躁，真實的情況到底是怎樣的？縱觀歷史，每次新技術的出現都會引起人們的恐慌與反對，但我們不是每次都安然度過并開始享受這些技術帶來的便利了嗎？從遠古的刀、箭到現在的汽車、飛機、核能，這些都是工具，其本身并沒有善惡屬性，真正能決定其用途或善惡的，是背后的使用者。一項新的技術，如果對人們的幫助遠大于危害，那我們就應該正面、積極的對待它，防范可能的不當使用，然后繼續向前進。

結束語

有人說，機器人是個哲學問題，這在某種程度上是有道理的，因為“我們能否在機器身上再現人類的智能”和“我們能否與真正的智能機器人和平相處”，在某些意義上不僅是技術問題，也是哲學問題。當今乃至可見的未來，人與機器人之間的關系不應該是取代而是共存，未來的世界可能是人與機器人共在：相互按力分配、相互取長補短，共同進步，相互激發喚醒，有科有幻，有情有義，相得益彰……

Reflections onSome Important Issues about Robots

Liu Wei

Abstract:It has been onlya few decades since robot was first referred to as a proper noun, yet it hasbeen about three thousand years since the idea of robot existed in humanimagination. In recent years, robot research and application has achievedunprecedented development, and the robot age is drawing near. The robotindustry has great significance in improving innovation ability, enhancingcomprehensive national strength, and promoting the overall economicdevelopment, so robotic technology and its application has become the“battleground” for nurturing new advantages in innovation and development.Artificial intelligence and Moravec's paradox are the two major bottlenecksrestricting the current development of robots. At present, the difficulty ofartificial intelligence research is not only in the realization of the specifictechnology, but m·ore importantly, in theinterpretation and construction of cognition in the deep level. Moravec'sparadox shows that human skills that are most difficult to be replicated arethose unconscious ones. Robot development has also caused some concerns,including security issues, the Uncanny Valley Theory, and the threat of robotsand so on. Today and until the foreseeable future, the relationship between thehumans and the robots should be coexistence rather than replacement, they maycoexist in the future world.

Keywords:robot,artificial intelligence, Moravec's paradox, the Uncanny Valley Theory,cognitive science

作者簡介：

劉偉，北京郵電大學自動化學院教授、北京郵電大學人機交互與認知工程實驗室主任，國家自然科學基金評議專家、國家工效標準化技術委員會委員。研究方向為人機交互、認知工程、用戶體驗、人機環境系統工程、分析哲學、未來態勢感知模式與行為分析/預測技術。主要著作有《人機交互設計與評價》《人機交互中情境認知的理論與應用》《人機界面技術》《人—機—環境系統工程計算機仿真》等。