4. 歐美、韓國相繼出臺AI治理新規，嚴格限制、甚至禁用相關人工智能技術在某些場景的發展和應用

得票率：49.73%

案例描述：

歐盟委員會發布《人工智能白皮書》，希望通過不斷實現科學突破，維護歐盟的技術領先地位并確保新技術在尊重人權的基礎上，改善人們生活。當前歐洲采取了一致的方法來應對AI對人類和社會道德的影響，并思考了如何利用大數據進行創新。歐盟正在考慮禁止在公共場所使用人臉識別技術長達五年，以便有時間研究如何防止這種技術被濫用。歐盟委員會表示，在為期3至5年的禁令期間，“可以確定和制定評估這一技術的影響和可能的風險管理措施的健全方法”。歐盟文件稱，對于安全項目以及科技研發活動，禁令可能會有例外。該文件還建議，對人工智能的開發者和用戶都施加一些義務，歐盟國家的政府應該指定監管機構來監管新規則。

韓國科學技術信息通信部2020年11月27日與情報通信政策研究院（KISDI）共同發布“國家人工智能倫理標準”，提出理想的人工智能開發和運用方向，指出人工智能需以人為中心。在開發和運用人工智能的過程中，需遵守維護人的尊嚴、社會公益和技術合乎目的這3大原則。

此外，美國東海岸城市波士頓通過了禁止面部識別技術用于市政用途的投票。這是自2019年5月舊金山頒布此項禁令以來，采用此項禁令的第二大美國城市。該法令獲得一致通過，這條法令將阻止城市使用面部識別技術或獲得使用該技術進行監視的軟件。此后，俄勒岡州波特蘭、緬因州波特蘭也均通過了類似禁令以限制該技術在政府部門的應用。（來源：綜合鳳凰網等）

專家點評：

薛瀾 清華大學人工智能國際治理研究院院長

人工智能治理的核心要素中基本價值觀、治理體系、參與者、治理對象以及效果評價五個方面至關重要。很多治理問題可以通過技術本身來解決，目前人工智能發展面臨的最大挑戰是：人工智能技術發展太快，而治理準則作為一種社會體系，其發展有其程序，又是緩慢的，因此，我們需要“敏捷治理”。

人工智能可以學習已有的國際機制，未來不斷加強AI領域的國際合作，我們可以在合作過程中找到各方的共同點，并不斷探討、溝通，一同尋找人工智能共同的準則和規則，引導人工智能的健康發展，為人類造福。

徐云程 曠視首席發展官、曠視 AI 治理研究院院長

這個案例非常重要。2020年談到人臉識別技術，大多是負面消息，AI治理似乎不是一個“為善”問題，而是帶有風險的問題。隨著技術的發展，人們逐漸意識到了技術的一些風險。但值得注意的是，當輿論一邊倒時，對于技術的一刀切其實有待考慮，也要思考歐盟和美國所做決定的合理性以及是否應該仿效。對于在全世界范圍內人臉識別技術的應用場景與其背后的人類福祉、安全隱私等問題，大家在沒有進行深入探討的情況下，不應過分否定。同時也應考慮，人臉識別技術只是深度學習相對成型和商業應用比較廣泛的一類技術，在新技術不斷成熟的過程中，我們應該用怎樣的方法來解決不斷涌現出的新問題。個人希望，人臉識別技術能夠為人工智能時代打造一個樣本，即在面對新出現的倫理問題時，不因噎廢食，同時又能建設性地解決問題。中國的人臉識別技術如果能走出這條路，對于我們在全球范圍內提出“中國觀點”是很有幫助的。

孫明 俊中關村智用人工智能研究院執行院長、中視科技CEO

面部識別作為自動化分析的代表性應用，在政府部門的應用中與現有的發達國家的法律制度有很大的不兼容性。首先，公眾“棱鏡門”丑聞再次出現的警惕。2007年美國國家安全局啟動的網絡監控計劃“棱鏡（PRISM）”將任何涉外通訊列為監聽對象。2013年該項目由美國特工愛德華斯諾登曝出。“棱鏡門”直接使得歐洲美國之間的個人數據流通協議作廢，并增加了美國公民對政府的不信任。其次，隱私權，即公權力無權侵入私人生活，是美國公民和歐盟公民最重要的憲法權利。面部識別，結合云計算，具備的強大分析功能，可能會使公權力完整記錄私人行蹤的軌跡成為可能。歐盟法院曾經在“數字權利愛爾蘭”一案中，將政府的大范圍數據分析裁定為非法。最后，面部識別在公權力的應用是否符合人類中心原則是模糊的。歐盟、日本、韓國和電氣電子工程師學會（美國）的人工智能文件中都提到了人工智能開發的人類中心原則，人工智能開發應以增進人類福祉為目的。但基于統計方法的面部識別技術在公權力，尤其是行政機關，的應用很可能將機器凌駕于人之上。