【摘要】人工智能是引領未來的戰略性技術，主要發達國家都將其作為提升國家競爭力、維護國家安全、占據前沿科技主導權的重大戰略。中國推動人工智能發展戰略，是中國作為全球性大國提升綜合實力和順應國際形勢發展的產物。然而，人工智能又是一種顛覆性的技術，我們要對人工智能的負面影響和沖擊充分預估，構筑人工智能多層次治理體系。人工智能治理既是其技術和運用發展到一定階段的必然結果，又是對其研究、開發、生產和運用過程中可能會出現的公共安全、道德倫理等問題進行協調、處理、監管和規范的過程。中國作為人工智能大國，應抓住未來發展機遇，積極參與國際人工智能規則和標準設計，為人工智能全球治理貢獻中國智慧，以“善治”謀求人工智能的“善智”而造福于人類。

【關鍵詞】人工智能  道德倫理  規則標準  全球治理

【中圖分類號】TP18                       【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2017.20.006

前言

人工智能是人類科技文明發展到一定階段的產物，是研究、開發用于模擬、延伸和擴展人類智能的技術科學。作為一種快速發展的并具有劃時代意義的高科技，其廣泛應用必將對現代人類社會發展產生全面而又深刻的影響。人工智能將極大地促進全要素生產率提升，據埃森哲發布的報告預測，2035年人工智能預期可以為12個發達經濟體帶來兩倍的經濟增長速度，中國的經濟增長率將從6.3%提速至7.9%。①軍事上，人工智能和機器人有可能大規模投入未來戰場，或將改變戰爭模式乃至國際軍事格局。人工智能在極大地解放生產力的同時，也將深刻地改變人類的生產方式、工作方式和生活方式。然而，作為一種顛覆性的技術，我們要對人工智能的負面影響和沖擊充分預估，理性思考人工智能的安全治理問題。實際上，一些科學家、有識之士以及社會各界也開始認識到這一問題的重要性。一般來說，安全性評估和審慎監管原則適合于任何一項科學技術革命，但由于人類利益動機、預估不足、外部性和道德風險等問題的存在，往往導致治理滯后、治理赤字和治理失靈等現象，如工業革命以來走過的“先污染，后治理”的教訓以及溫室氣體排放與氣候談判的曲折等，都是這一問題的表現。人工智能由于其技術復雜性、擴展性、不可控性和不可預知性，可能更需要做好風險預估和防范，引導其健康、有序、安全發展，以規范人工智能研發、生產和消費秩序，通過對人工智能的“善治”謀求人工智能造福于人類的“善智”。②

人工智能引發的治理問題

人類社會需要面對人工智能正在發生的問題，也需要預估、評判和預防未來人工智能發展可能引發的問題。應該說，從問題的嚴重性來講，人們最擔心的是未來人工智能對人類生存的挑戰。從科學家霍金的“人類最后的文明”到人工智能預測家庫茲韋爾全面超越人類智慧的“奇點”論，都表現為對人工智能未來的“超人類性”、“另人類性”以及“非可控性”的擔憂。在霍金看來，人工智能的廣泛使用具有極高的風險性，一方面人工智能帶來的收益是巨大的，人類或許可以借助這一強大的工具，減少工業化對自然的傷害。但是“我們不確定我們是會被智能無限地幫助，還是被無限地邊緣化，甚至毀滅”，人工智能的崛起可能是人類文明的終結。因此，人類必須建立有效機制盡早識別威脅所在，防止人工智能對人類帶來的威脅進一步上升。③