日前舉行的中央經濟工作會議指出，2024年要“加快推動人工智能發展”。當前，人工智能（AI）已廣泛滲透到各行各業，從醫療保健、交通運輸，到教育培訓、娛樂休閑等。那么AI技術有哪些新趨勢，未來該如何更安全地發展？2023年12月27日，AI發展與治理創新研討會在北京舉行，與會專家與相關從業者圍繞AI技術創新發展進行了分享與討論。

新模式新業態不斷涌現

“人工智能已成為引領產業發展、驅動經濟增長、連接全球合作的重要新興技術方向。”中國電子技術標準化研究院信息技術研究中心主任范科峰認為，當前，AI技術新模式新業態不斷涌現，產品和服務逐漸完善，在經濟社會各領域廣泛應用，與實體經濟融合持續深化，正深刻改變著人類的生產生活方式。

在研討會上，多項AI技術在各領域實際應用的案例令人眼前一亮。

AI技術能幫人更好地做生意。對從事家具外貿電商業務的黃凱來說，他的日常工作就離不開AI技術的幫助。“過去，要上架一款家具，我們得先完成設計、做出樣品，再進行產品拍攝。這個過程不僅時間長，而且花費的成本也很高。但現在，有了AI技術的幫助，只需要輸入數據，就能很簡單地做出產品圖，并且能隨意模擬產品在客廳、商場等不同場景下擺放的效果，效率得到了極大提升。”此外，AI技術還幫助黃凱的公司降低了招聘運營人員的難度。據黃凱介紹，以前，從事外貿生意對運營人員的外語水平、工作經驗要求較高，但有了AI工具做輔助，新員工也可以很快上手完成工作了。

在醫療領域，AI技術大有用武之地。胰腺癌是一種生存率較低的惡性腫瘤，并且早期篩查容易出現漏診或誤診。現在，來自浙大醫學院附屬第一醫院、復旦大學附屬腫瘤醫院的醫學團隊，已開始采用“平掃CT+AI”的方法，進行大規模胰腺癌早期篩查。在2萬多人的真實病例試驗中，發現了31例臨床漏診病變，其中2例早期病患很快就完成了手術。該項研究成果也已發表在國際醫學期刊上。

在影視制作領域，AI技術未來可期。阿里大文娛團隊借助AI技術，在虛擬拍攝、數字人、超高清視聽體驗等領域取得了創新突破。相對傳統制作方式，借助虛擬拍攝，制作效率可以提升40%。“很多過去想到但做不到、甚至創作者也沒想到的場景，都在AI的助力下呈現在我們的面前。可以預見，AI技術將全面提升中國影視制作的水平。”阿里巴巴科技倫理治理委員會委員薛暉說。

風險與挑戰不容忽視

隨著AI技術的快速發展，技術風險、隱私保護等安全問題也愈加受到關注。在研討會上，阿里巴巴集團與中國電子技術標準化研究院聯合發布了《生成式人工智能（AIGC）治理與實踐白皮書》，系統分析大模型和AIGC主要風險，并從應用角度提出針對性治理建議和可操作性實踐方案。

所謂生成式人工智能是指基于人工智能的技術方法，通過對已有數據的學習和識別，生成相關內容的技術。中國科學院信息工程研究所技術副總師韓冀中認為，這項技術最主要的特點，是改變了信息的生成方式和信息的獲取方式。“每一次信息獲取方式的變化，都會帶來整個信息產業的變革。比如我們早期獲取信息可能通過黃頁，后來是搜索引擎，現在有了更新的渠道，即ChatGPT這樣的技術，會讓整個信息產業產生巨大變化。”

阿里巴巴人工智能治理和可持續發展研究中心首席科學家何源認為，生成式人工智能技術應用中，可能存在的安全風險與每個人息息相關。據何源介紹，生成式人工智能可以通過交互的方式低成本、快速地生產內容，比如可以很容易地生成并傳播謠言，這給內容安全的防控帶來了新挑戰。在隱私和版權方面，大模型應用的海量互聯網數據，很難逐一確認樣本授權，容易造成隱私泄露和侵權問題。另外，生成式人工智能還降低了很多專業領域的技術門檻，有可能被濫用于黑客攻擊、網絡犯罪等。因此，業內專家認為，建立相關安全治理體系十分必要。

“多元協同、開放共治”

為規范生成式人工智能技術發展，2023年7月，國家網信辦聯合多部委公布了《生成式人工智能服務管理暫行辦法》。

該《辦法》一方面明確鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。同時，也明確“生成式人工智能服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動，使用具有合法來源的數據和基礎模型；涉及知識產權的，不得侵害他人依法享有的知識產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性”等。

在研討會上，多位專家就生成式人工智能的安全治理提出自己的觀點。

中國電子技術標準化研究院信息技術研究中心副主任董建提到，當前，國內外都在推動研發生成式人工智能的治理工具，但如何通過技術深層次解決治理問題，尚需進一步探索。

中國人工智能產業聯盟安全治理委員會專委會副主委潘恩榮認為，生成式人工智能對人類的經濟社會發展觀念帶來了巨大沖擊，規范其發展“宜疏不宜堵”。一方面，必須克服各種恐懼和臆想，克制“堵”的沖動；另一方面，要在實踐中，小步快跑地迭代出各種“疏”的方式。

復旦大學計算機科學技術學院教授張謐指出，科技行業應該負責任地發展AI，兼顧AI發展和風險管控。現在全球范圍內有AI競賽的氛圍，各方應該立足長遠，攜手營造有序競爭，保障AI技術發展處于安全區域。

“關于AI，我們不知道的比知道的多，難以想象的比可以預測的多。”薛暉表示，生成式人工智能帶來了前所未有的挑戰，需要前瞻性地應對，“多元協同、開放共治”是AI發展和治理的必經之路。

原標題：

擁抱機遇 迎接挑戰

加快推動人工智能發展（AI前沿觀察）