【摘要】數據以安全、可信且可控的方式構筑人類美好生活，這是對數據進行倫理治理的出發點與落腳點。然而，日益加速的全球數字化轉型與數據倫理問題的復雜性正在引發關于倫理治理的有效性、邏輯基礎與核心要義等的不斷追問。從倫理治理的緣起來看，技術價值論是其得以產生的理論基礎；從倫理治理的構成來看，價值觀是其核心要義；從對倫理治理的反思來看，價值觀是其元理論。就數字化未來而言，關于數據倫理與倫理治理的討論最終將進入到價值觀的領域，價值觀是數字治理的一條基準線，價值觀安全是倫理治理的重要基石與數字化未來的一個必選項，應重視價值觀安全的戰略意義，以價值觀安全為第一原則，規范數據安全，且必須是以對人類價值觀的守護為基礎來規范技術安全。

【關鍵詞】數智 數據 倫理治理 價值觀安全

【中圖分類號】N02 【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2024.22.010

【作者簡介】閆宏秀，上海交通大學科學史與科學文化研究院教授、博導。研究方向為技術哲學、設計哲學、數據倫理、技術社會學。主要著作有《技術過程的價值選擇研究》、《哲學何以解碼技術：技術哲學的未來路向》（論文）、《數據賦能的倫理基質》（論文）、《數字福祉：數智時代的技術廣角與哲學實踐》（論文）、《數據挖掘與技術倫理學的內在路徑構建》（論文）等。

數據作為一種新型生產要素，是我國的基礎性戰略資源，其在各領域的重要性使得維護數據安全成為守護國家安全的重要保障之一。伴隨數據與智能的融合，生成性、自主性、交互性、涌現性、不透明性等技術特質使得其比傳統生產要素更具活力，但也更為復雜。我國對數據安全的高度重視一方面說明了數據的重要性，另一方面也意味著保護數據安全的艱巨性?！吨泄仓醒腙P于進一步全面深化改革、推進中國式現代化的決定》明確指出，要“推進國家安全體系和能力現代化”“提升數據安全治理監管能力”“加強科技倫理治理”。[1]倫理治理作為數智時代倫理問題與倫理難題的應對之策，就是旨在切實維護好數據安全的前提下，充分激活和釋放數據要素的潛能，確保技術向善。

數據以安全、可信且可控的方式構筑人類美好生活，這是對數據進行倫理治理的出發點與落腳點。然而，日益加速的全球數字化轉型與數據倫理問題的復雜性正在引發關于倫理治理的有效性、邏輯基礎與核心要義等的不斷追問。這種追問雖然是以倫理治理是否可以有效應對由技術帶來的相關問題為緣起，但事實上直接指向了數據安全的第一原則應當是什么的問題。從總體國家安全觀的視角來看，無論是維護科技安全、文化安全，還是維護網絡、人工智能、數據安全等，都離不開技術與價值觀的深度關聯。因此，價值觀安全作為意識形態安全、國家安全的重要組成部分，是數字中國建設必須密切關注的問題。

價值觀作為倫理治理的一種根基性力量

有鑒于理性在人類發展史中的重要作用，如何看待理性成為一個關鍵性的議題。由工具理性的泛濫與價值理性的缺位導致的異化現象被視為20世紀以來備受關注的問題之一。當赫伯特·西蒙（Herbert A. Simon）發出“我們完全工具地看待理性，它不能告訴我們到哪里去，最多只能告訴我們如何去。它就像職業殺手，不管我們的目標是什么，也不論其好壞，都可以雇它來達到目標”[2]的警示時，這種危險的破解方法也隨之而至，即必須高度重視價值觀在人類社會中的重大意義。

技術價值論作為倫理治理產生的理論基礎。回顧人類歷史，伴隨技術在人類社會中所產生作用的日益顯著，人類關于工具理性的批判性反思也愈發迫切與深刻。與此同步的是，關于價值理性的深切呼吁也愈發高漲與普遍。20世紀以來技術哲學領域的倫理轉向、治理理論與實踐中的倫理轉向等在充分說明了工具理性有限性的同時，再次引發了社會各界關于價值理性的關注，關于技術價值論的認同也日益提升，甚至在某種意義上，技術在價值觀的形成中獲得了本體論的地位，即技術作為人類社會構成的必要條件之一，為價值觀提供了存在的場域，形塑著人類的價值觀，且價值觀可以以技術的方式體現。也正是基于此，對價值觀的觀照成了技術發展的一項根本任務。

近年來出現的價值敏感性設計、負責任創新、將技術道德化、倫理輔助設計、可信人工智能、數字福祉、智能向善、技術向善等倡導，不斷顯示著技術價值論進入實踐的有效性。凱蒂·希爾頓（Katie Shilton）將幫助工程師們就對設計非常重要的社會價值觀達成一致的活動稱為“價值觀杠桿”[3]。在關于設計的倫理反思與實踐中，價值觀杠桿是促成設計倫理共識的有效方式。因此，當諸如信任、公平、正義、福祉等觀念以反思性、前瞻性、自上而下、自下而上等路徑進入技術的全生命周期之中時，一方面說明，技術價值論具有破解技術工具論有限性的潛能，而這種潛能正在被日益釋放出來；另一方面則說明，技術工具論在人類社會中的長久影響使得技術價值論必須積極探尋更為有效的概念框架與行動綱領，才能確保其有效性。

倫理治理就是這種探尋的一種。易言之，從倫理治理的產生來看，技術價值論對技術與價值關系的確認為其提供了有效的理論基礎。例如，歐盟的《新興技術倫理治理——將倫理融合技術發展和應用的新治理視角》（The Ethical Governance of Emerging Technologies-New Governance Perspectives for Integrating Ethics into Technical Development Projects and Applications，簡稱EGAIS）項目旨在對倫理治理進行完整的界定并將其融入歐盟的信息與通信技術研究計劃中，進而使得倫理考量成為技術研發過程中固有的組成要素，確保其有效實施；[4]我國的《關于加強科技倫理治理的意見》《中國關于加強人工智能倫理治理的立場文件》《人工智能倫理治理標準化指南》等政策文件從宏觀即作為整體的科學技術和微觀即針對某項具體科學技術兩個層級指導倫理治理。

價值觀作為倫理治理構成的核心要義。倫理治理作為“一套旨在確保行為符合最高標準的流程、程序、文化和價值觀”[5]，至少包含倫理作為一種治理的方式和需要對倫理治理進行反思兩個維度。其中，前者側重以倫理進行治理，后者側重對倫理及倫理治理進行反思，后者是確保前者有效性的必要條件。

在具體的倫理治理實踐中，費爾南·多利多（Fernand Doridot）將“1.如何識別與納米技術發展相關的倫理問題”“2.我們應該根據哪些原則、規范、價值觀、倫理理論等找到并確定與納米技術發展有關的倫理問題的答案”和“3.如何實施已有的解決方案以解決與納米技術發展相關的問題”[6]3個問題視為納米技術倫理治理的核心議題。依據倫理治理構成的兩個維度，可將問題1和問題2視為主要是對倫理即倫理治理的反思，其中，問題1主要聚焦于對倫理問題及判定依據的思考；問題2主要聚焦于對倫理治理原則的思考；將問題3視為主要是探討如何以倫理進行治理。

與上述每個問題相對應，費爾南區分了保守模型（conservative model）、探究模型（inquiry model）和解釋模型（interpretative model）三種倫理治理模型。[7]保守模型因其僅用已有的解決方案應對當下的倫理問題而遭遇質疑；探究模型因其是從技術預期中識別倫理挑戰而面臨與保守模型同樣的問題，此外，探究方式在確定倫理原則和價值觀方面的復雜性、探究過程中敘事之間的矛盾性等問題同樣使得該模型遭遇質疑?；诖耍M爾南認為必須厘清敘事之間、倫理規范之間發生沖突的原因，且要想超越這種沖突就必須解釋其背后的價值觀，即應走向解釋模型。事實上，“倫理規范之間的沖突可被視為敘事之間的沖突，最終被視為價值觀的沖突”[8]，因此，價值觀既是破解保守模型與探究模型局限性的利器，也是判定解釋模型是否有效的重要依據。

價值觀作為對倫理治理進行反思的元理論。皮爾遜·布魯姆（Pearson A. Broome）關于“倫理支配著治理全過程”[9]的判斷揭示了倫理在治理中的優先級與不可或缺性。然而，對在人工智能、大數據等技術倫理治理中出現的“倫理傾銷”“倫理洗地”等的指責則強烈凸顯了對倫理治理進行反思的緊迫性與必要性。事實上，倫理治理作為一個長期性的全域戰略，需要以對倫理治理的基準準則、問題劃定的依據、實施方式的合理性等的不斷追問來確保其有效性。因此，對倫理治理的反思是倫理治理的一個不可或缺的環節。

然而，該如何去反思才是有效的呢？“就價值認定對倫理學的本源意義而言，價值論似乎構成了倫理學或道德哲學的元理論（meta-theory）”[10]，那么，價值觀是如何成為反思倫理治理的元理論的呢？關于此，可以從倫理治理的屬性與功能兩方面進行詮釋。其中，屬性指向了倫理治理的本質；功能指向了倫理治理的意義。

就其屬性而言，倫理治理是一種人類行動。價值觀對人類行動的影響雖然不能以量化的形式進行明晰的檢測，但“從一定意義上說，價值觀念之所以重要，正在于它對人的思想、感情、言論和行動起著普遍的整合和驅動作用。而這一功能，最重要的就在于價值觀念構成了人們內心深處的評價標準系統”[11]。價值觀作為經過長期積淀才形成的觀念體系，一直以潛意識或者貌似無意識的方式引導與支配著人類的行動。與此相映成趣的是，對行動展開反思也常常會深入到價值觀之中?；诖?，對倫理治理的反思也必將需要深入價值觀之中。就倫理治理的功能而言，其是作為一種規范來展開對技術的?？?，而“規范系統的建構總是以價值的確認為前提：人們首先是根據價值形態來規定行為的規范和評價的準則”[12]。因此，價值形態是建構規范形態的前提條件。這也就是說，對倫理治理的反思若沒有進入對價值形態反思的階段，就意味著反思是不徹底的。

因此，從倫理治理的緣起來看，技術價值論是其得以產生的理論基礎；從倫理治理的構成來看，價值觀是其核心要義；從對倫理治理的反思來看，價值觀是其元理論。基于此，當價值觀作為一種根基性的力量貫穿倫理治理的全過程時，意味著就倫理治理而言，價值觀本身的安全將是確保其有效性的基礎；就對某項技術的倫理治理而言，特別是面對新興技術對人類的存在語境、認知方式等的全范圍變革，價值觀安全必將是守護技術與人性融合的基礎。但這并不意味著價值觀是靜態的，恰恰相反，是對價值觀安全提出了更高的要求。

數字化未來中的倫理治理與價值觀安全意蘊

伴隨全球的數字化轉型，數字人、數據自我、數據世界、數據權力、數字殖民、數字鴻溝等由數智技術帶來的新現象與新問題使得倫理治理成為關于數字未來規劃的重要議程。數字化未來作為基于技術驅動的構想與實踐，代表著人類對于技術在未來生活中產生積極意義的期冀，同時也意味著數字化轉型將會對經濟、社會、文化等各個方面產生深遠影響。因此，數字化未來不僅立足當下，更關切未來的選擇。

關于數據倫理與倫理治理的討論最終將進入價值觀領域。在歐盟、美國、中國等關于數字化未來的相關部署中充分體現出了倫理的重要性，關于數據倫理的討論在諸多領域展開，[13]牽引著公共政策制定，數據使用必須合乎倫理被視為數據戰略規劃的基本要求之一。特別是在與數據相關的法律法規出臺之前，數據倫理與倫理治理的“居間”作用極為關鍵。例如，在近幾年的《通用數據保護條例》（General Data Protection Regulation，簡稱GDRP）談判中，數據倫理自身通過建立一系列直接涉及數據和／或數字倫理的舉措使其在泛歐洲（pan-European）政治中的勢頭越來越猛。[14]進一步來看，就數據立法而言，格里·哈塞爾巴赫（Gry Hasselbalch）認為，新數據保護立法的技術性問題被轉化為關于大數據時代的規范和價值觀的一般性討論。[15]

從廣義來看，規范是價值觀的一種表征。因此，上述討論的本質是關于價值觀的討論。易言之，關于數據倫理與倫理治理的討論最終將進入價值觀的領域。歐盟委員會2021年發布了《2030 數字羅盤：歐洲數字十年之路》（2030 Digital Compass: the European way for the Digital Decade），這是一項旨在為未來十年歐洲數字化轉型指明方向的計劃，在注重技術倫理的同時，還特別強調對于歐洲價值觀的尊重。例如，人工智能倫理、以人為中心的算法倫理原則等被納入其中，該計劃明確要求歐盟的數字化合作應促進歐盟關于數據保護、隱私、數據流、人工智能的倫理使用等與歐盟規制和標準對齊，應構建一個安全、值得信賴的數字空間，且任何數字化政策都不是價值中立的。[16]就美國而言，數據倫理是美國數字科技倫理監管的重要議題之一。例如，美國政府的《聯邦數據戰略2020行動計劃》（Federal Data Strategy: 2020 Action Plan）以數據、問責和透明性為關鍵詞，將政府使用數據時要保護安全、隱私和私密性作為其十年愿景，并明確將“倫理治理”（ethical governance）置于聯邦數據戰略原則的首位，且將數據倫理治理作為一種組織原則和文化融入數據戰略中，強調與美國價值觀的一致性。[17]

習近平總書記強調，要“保障數據安全，加快建設數字中國，更好服務我國經濟社會發展和人民生活改善”[18]，這為我國的數字化未來規劃提供了根本遵循和行動指南。在《中華人民共和國國民經濟和社會發展第十四個五年規劃和 2035年遠景目標綱要》《數字中國建設整體布局規劃》《中共中央關于進一步全面深化改革、推進中國式現代化的決定》等一系列的重要文件中，國家安全、數據安全、治理、倫理、民生福祉、美好生活等均為高頻詞匯。近年來，我國圍繞數字化未來所發布的《網絡信息內容生態治理規定》《中華人民共和國數據安全法》《生成式人工智能服務管理暫行辦法》《網絡暴力信息治理規定》等一系列與技術治理相關的法律法規，都高度重視技術倫理問題與倫理治理，始終強調堅持與弘揚社會主義核心價值觀的必要性與重要性。

價值觀是數字治理的一條基準線，價值觀安全是倫理治理的重要基石。在當下，“數字領域的潛在危害有可能蓋過其益處。我們面臨嚴重而緊迫的倫理、社會和監管問題”[19]已經成為全球性的共識，一些行業、組織、機構以及國家等正在逐漸將倫理的因素和數字化未來的政策、規劃與戰略相融合，以此指導技術發展和治理。

例如，國際互聯網協會（Internet Society，簡稱ISOC）2017年發布了《通往數字化未來之路（2017）》（Paths to Our Digital Future），報告明確指出，伴隨技術的加速創新及其對人類生活的影響，倫理將愈發重要，在技術的設計、發展和部署每個階段都必須優先考慮倫理，數據安全、治理、人類價值觀對技術發展的驅動作用、技術與人類價值觀的契合等是通向數字化未來必須思考的問題，報告將人類價值觀必須驅動技術發展和使用作為對網絡未來所給出的前十條建議之首。[20]在這里，倫理治理已經以校準技術發展的方式進入到數字化未來的規劃之中。

但當技術與人類價值觀相契合成為通往數字化未來之路的基本要求時，一方面說明了能夠對數智技術進行倫理治理的本質原因恰恰在于技術與價值觀的關聯性；另一方面則意味著價值觀安全成為通往數字化未來的重要保障。因此，在數字化未來中，數智技術的技術特性意味著，以正確的價值觀進行引導與規范，才能走向技術為人類帶來福祉的目標；作為一種思想，價值觀以理想、信念與信仰的方式呈現，對于技術的設計者、使用者以及相關技術政策、規范、規劃等的制定者來說，價值觀念和價值原則是其行動的判據。易言之，價值觀安全是倫理治理的重要基石。

價值觀安全是數字化未來的一個必選項。就關于數字化未來的規劃而言，如聯合國于2023年所發布的《我們的共同議程》政策簡報5中就明確建議制定一項《全球數字契約》，為推進開放、自由、安全、以人為本的數字未來制定原則、目標和行動，這種未來以普遍人權為基礎，使實現可持續發展目標成為可能。其中，對于全球數字公域而言，確保數字治理與我們的共同價值觀持續保持一致是該議程的建議之一。[21]此時，若價值觀是錯誤的、錯位的或者不安全的，則將導致數字治理的方向性錯誤。

如歷史所示，“核心價值觀在一定的社會文化中是起中軸作用的”[22]。因此，在國家政策、規劃與戰略等的制定中，價值觀安全也一直是一個極為重要的議題。例如，英國政府2021年發布了《競爭時代的“全球化英國”：安全、國防、發展和外交政策綜合評估》（Global Britain in a Competitive Age: the Integrated Review of Security, Defence, Development and Foreign Policy），文件明確指出，在國際秩序中，各國在價值觀方面的競爭不斷加劇，要在開放社會和民主價值觀受到破壞的地方加大保護力度，在國際合作中確保其國家安全和價值觀免受他方的侵害等。[23]特別是在全球數字化轉型的進程中，當數據共享共治為價值觀的傳播與融合提供了更為便捷且高效的技術路徑的同時，也意味著價值觀的安全更易受到沖擊。因此，價值觀安全是數字化未來的一個必選項。

數智時代的價值觀安全維護

在數智時代，數智技術以一種無形充斥的方式造設著人類的生存空間，被數據環繞的人類在數據的生產與流通中呈現出自身的生命軌跡與意義，悄然開啟了人的本質的數智化之旅。在某種意義上，可以說數智技術以隱匿的方式通向并完成著人自身的根本規定。這種現象可以稱之為技術的“隱匿性”?；仡櫲祟惏l展的歷史，技術之力的巨大作用毋庸置疑。雖然技術作為一種基礎設施，是構成數智時代必不可少的要素，但人類的特質恰恰在于人具有價值屬性，而并非僅僅是技術，即，人是“技術性與價值性二重本質的共在”[24]。價值觀作為一種根基性的力量扎根于人類深處，即價值觀的“深層性”。也正是這種深層性使其不安全問題易被遮蔽，一旦出現問題，危害極大。因此，必須高度重視數智時代的價值觀安全。

重視價值觀安全的戰略意義：從倫理治理到價值話語體系的競爭。就全球數字化轉型而言，數據倫理作為數字時代的行動指南，是人類適應數字化轉型的生存法則。該指南既可源自學界關于現實問題的關注和學科自身發展的內在需求，也可源自行業或企業自身發展的需求、用戶對自身權利的保障、政府對數字化轉型戰略與規劃的部署等?；诖?，數據倫理治理作為數據倫理的一部分已經成為一種競爭力；就國際治理而言，倫理治理是其重要的組成部分；就人類發展而言，對技術的倫理治理是確保人類通向美好生活的目標得以實現的基本保障，而價值觀作為倫理治理的一種根基性力量，其安全性問題是確保倫理治理有效性的關鍵。

“掌握價值觀念領域的主動權、主導權、話語權，是我們必須解決好的重大問題。”[25]數字化作為當下全球各國角逐的重要領域，構建面向數智時代的價值話語體系是我國參與國際治理的一條有效途徑，而這種構建必須基于對數智時代價值觀安全問題的研究，且必須以維護價值觀安全為底線。

因此，數智時代的價值觀安全作為數字化發展轉型中的非傳統安全觀與維護社會穩定的新要素，既是數智技術發展的錨定樁與哲學對時代問題的應有之思、對人類本質及其未來探究的必要條件，更是我國在全球數字化轉型中應對復雜安全形勢、保有自身特色與為全球數據治理貢獻中國智慧的根本保障。那么，該如何維護數智時代的價值觀安全呢？關于此問題的回答，可以通過對數據安全與價值觀安全關系的厘清、數智時代價值觀安全問題的解碼來展開。

厘清數據安全與價值觀安全的邏輯關系，筑牢數智時代的價值觀安全意識。厘清數據安全與價值觀安全的邏輯關系是有效落實《數字中國建設整體布局規劃》與總體國家安全觀的應有之義。毫無疑問，沒有數據安全就沒有國家安全。在20世紀末，尼古拉斯·尼葛洛龐帝（Nicholas Negroponte）在其關于數字化的分析中強調，“正是因為數字化的本質，數字世界應該比模擬世界安全得多，但是前提是我們必須把它變得安全，我們必須有意識地塑造一個安全的數字化環境”[26]。易言之，安全意識是數字化生存的第一要務。在我國出臺的一系列文件與規劃中，“確保公共數據安全”[27]“加強數據安全評估，推動數據跨境安全有序流動”[28]“加強數據安全保障”[29]“提高網絡、數據等安全保障能力”[30]“提升數據安全治理監管能力”[31]等要求充分說明了我國對數據安全的高度重視。然而，更值得注意的是，“歷史和現實都表明：核心價值觀是一個國家的重要穩定器”[32]。因此，必須走出關于技術中立論與技術工具論的認知誤區，在充分理解技術價值論的基礎上，確立數智時代的價值觀安全意識，確保技術向善。

事實上，技術向善至少蘊含了如下三層思想。其一，技術應該向善。在現實生活中，技術“為惡”的可能性已經暴露出來，特別是數智技術作為數據與智能的匯聚，其所產生的效應將會放大技術產生的結果。在這種情形中，技術中立論無法成立，技術工具論因技術結果的惡而被質疑。其二，技術可能也可以向善。但這需要以在關于技術的頂層設計中摒棄技術中立論與技術工具論、并堅持技術價值論為前提條件。特別是技術工具論，因為技術被人類認可的首要原因是其工具屬性。然而，數智技術的特點恰恰又在于技術作為工具之外的價值導向。例如，當今智能手機以技術化的方式引導著人類的行為、潛移默化地影響著人類的價值觀與對自我的認知等；算法推薦，信息繭房等以隱匿的形式完成了對人類行為的規范、引導、勸說甚或預設。其三，就數智時代而言，技術向善本身并非僅僅是指善意地采集與使用數據，還需數據提供者或生產者提供高質量的數據，即如何確保數據來源的“善”。價值觀安全意識必須貫穿數據的全生命周期。

依據技術價值論，技術與價值觀的交匯與交融通過兩種方式得以實現，一是對技術進行價值審視；二是價值觀本身作為一個要素被納入技術發展的全過程之中。就數智技術而言，當價值觀出現錯位時，數智技術的高效率將放大技術結果。同理，價值觀作為人類行動的指南針，與數智技術相關群體的價值觀塑造將以強化數據安全意識的方式完成，進而確保技術層面的數據安全。對技術的負面效應進行技術防范、控制以及制度層面的規約，只能解決表層問題，更為深層的解決方案則在于價值觀的轉換。因此，應以價值觀安全為第一原則，規范數據安全。

解碼數智時代價值觀安全問題的緣起及其表征，探尋維護價值觀安全的著力點。從數據智能對人類的思維模式、認知路徑、評價基準與存在方式等的全范圍深度滲透來看，人類的價值觀在形成與存在場域、價值主體、價值選擇的多樣性、形成機制與形成理路[33]四個方面出現了巨大的變化。場域的數字化、價值主體思考的數據化、數智技術及其產品的準主體化、數據智能生成與涌現的超預期化等將價值觀安全置于一種全新的境遇之中?；诖?，數智時代的價值觀安全問題可從如下三個方面進行剖析。

其一，價值觀與數智技術的不兼容性帶來的價值觀安全問題。長期以來，關于價值觀與新興技術之間的關系一直是學界關注的重要問題。特別是傳統價值觀如何與新興技術有效融入的問題，該問題是跨越時間、跨越學科的對話與碰撞，極具挑戰性。新技術的出現常常會引發價值觀的更新迭代。在這種更新迭代中的價值觀真空、價值觀撕裂甚或斷裂、價值觀混亂等現象均為價值觀不安全的現實反映。關于技術、現代性與價值觀問題的熱議就是一個典型的案例。數智技術也是如此，且因數據在人類社會中的重要作用而使得維護價值觀安全的任務更為復雜與艱巨。2023年6月，在我國召開的世界互聯網大會數字文明尼山對話就是旨在解決中國傳統智慧與新興技術的碰撞與交融問題。事實上，在尚未形成與數字化轉型相契合的價值觀之前，中國傳統價值觀和現有價值觀體系如何應對數智技術的風險、促進數智技術健康發展是我國數字化轉型的必答題。此外，還有一種兼容性問題是基于技術有自主性的觀點而產生的，如在數智技術將人類智能與機器智能進行融合的過程中，人類價值觀與技術（機器）價值觀之間的對齊、數據智能價值對齊的頂層邏輯與底層邏輯之間的融貫性等問題。

其二，數智技術對價值觀影響的認知不足引發的價值觀安全問題。恰如梅格·麗塔·瓊斯（Meg Leta Jones）所分析的那樣，“全球的政策制定者正在被敦促對數字化記憶的危險給出一個系統的回應，這種危險是將技術進步的不確定性、混亂的規則和有分歧的價值觀包含在內的一種復雜危險”[34]。上述危險僅圍繞數字化記憶展開，當今數智技術的泛在性更是敦促著社會各界對數智技術產生的影響進行系統回應。這種回應需要以對該技術所產生影響的充分認知為基礎。就對價值觀的影響而言，從價值觀的存在場域來看，數字化轉型的虛實交融改變著人類的生存空間、生存方式與交往方式等，進而使價值觀安全從物理場域走向虛實融合的場域，如元宇宙場景、數字孿生等。易言之，維護價值觀安全需要基于虛與實兩個場域。從價值觀的生成方式來看，傳統價值觀安全問題主要是在人與人、人與自然之間的實體性交互過程，但在數字化未來之中，人人交互、人機交互、機機交互三種方式共在，特別是人與人之間的實體性交互將因存在場域與世界構成方式的變換而走向實體變相“隱退”的多元生成式交互，進而帶來生成過程中的技術性隱匿與人類主體的“隱退”現象。這種“隱退”恰恰既是數智技術對價值觀影響極為關鍵且與以往技術極為不同的方面，也是價值觀安全問題最容易被忽略且極難被察覺的原因所在。因此，需要繼續深究數智技術對價值觀的影響才能有效維護數智時代的價值觀安全。

其三，價值觀安全在數智時代的呈現新方式、新表征與面臨的新問題。以技術的方式呈現價值觀的方式并非僅僅出現在數智時代，但諸如大模型的“幻覺”“越獄”等則以更為獨特的方式引發了價值觀安全問題?；乜?023年3月，斯坦福大學米哈爾·科辛斯基（Michal Kosinski）曝光的GPT-4“逃跑計劃”、英偉達科學家吉姆·范（Jim Fan）所經歷的“TweetStorm行動”[35]等雖然確實是因技術的安全隱患造成了價值觀的不安全，但在這些事件的背后卻暗含了價值觀安全表征形式的轉換，即價值觀的安全問題不再囿于思想觀念的形式，而是以技術形成機制的形式予以呈現，雖然諸如預訓練、精調、提示詞等可以以價值觀前置的形式實現技術全生命周期中的初次價值觀安全，但機機對齊的邏輯并不一定能確保價值觀的持續安全。即，數據智能化的自主性趨勢使得價值觀安全逐漸走向被技術包裹。例如，當生成對抗網絡（Generative Adversarial Network，簡稱GAN）將生成器與判別器集于一體時，雖然存在穩定性與收斂性方面的問題，這種“左右互搏術”卻極有可能以技術的閉環走向價值對齊。那么此時，人處于技術環路之外，價值觀安全又該如何維護呢？

回望米歇爾·?？拢∕ichel Foucault）在《詞與物：人文科學的考古學》一書中最后一句話的預判，“人將被抹去，如同大海邊沙地上的一張臉”[36]，在數智時代，伴隨數據的日趨智能化與技術的擬人化或曰準主體性，人的地位、人的價值、人的本質等不僅僅是經典的哲學問題，更是當下人類的現實困惑。關于技術安全的高度關注與關于人類未來的深深擔憂如影隨形。因此，價值觀安全的維護必須以對人類價值觀的守護為基礎來規范技術安全。若不如此，必將引發人類自身最大的不安全。

（本文系教育部哲學社會科學研究重大課題攻關項目“數字化未來與數據倫理的哲學基礎研究”和上海市哲學社會科學規劃項目“數智時代的價值對齊研究”的階段性研究成果，項目編號分別為：23JZD005、2023BZX001）

注釋

[1][31]《中共中央關于進一步全面深化改革 推進中國式現代化的決定》，2024年7月21日，http://www.qstheory.cn/yaowen/2024-07/21/c_1130182461.htm。

[2]赫伯特·西蒙：《人類活動中的理性》，胡懷國、馮科譯，桂林：廣西人民出版社，2016年，第9頁。

[3]K. Shilton, “Values Levers: Building Ethics into Design,“ Science, Technology, & Human Values, 2013, 38(3).

[4]EU, “The Ethical Governance of Emerging Technologies-New Governance Perspectives for Integrating Ethics into Technical Development Projects and Applications,“ 29 February 2012, https://cordis.europa.eu/project/id/230291/reporting.

[5]A. F. T. Winfield and M. Jirotka, "Ethical Governance Is Essential to Building Trust in Robotics and Artificial Intelligence Systems," Philosophica Transactions of the Royal Society a Mathematical, Physical and Engineeering Sciences, 2018, 376(2133).

[6][8]F. Doridot, "Three Models for Ethical Governance of Nanotechnology and Position of EGAIS' Ideas Within the Field," in Ethical Governance of Emerging Technologies Development, edited by F. Doridot et al., Hershey, PA: IGI Global, 2013, p. 102, 112.

[7]保守模型將納米技術所引發的有關倫理問題視為并非新的問題，即使是新的，已有的一系列原則、規范和倫理價值觀也足以解決這些問題。即，以保守的方式識別與應對新興技術倫理問題；探究模型則認為傳統的研究已經不再能有效應對當下的問題，需要以更加具體的方式——探究技術倫理問題的識別、探尋解決倫理問題的原則、規范和價值觀；解釋模型是前兩個模型在另一種模式上的延續。See F. Doridot, "Three Models for Ethical Governance of Nanotechnology and Position of EGAIS' Ideas within the Field," in Ethical Governance of Emerging Technologies Development, edited by F. Doridot et al., Hershey, PA: IGI Global, 2013, pp. 101-119.

[9]P. A. Broome, An Ethical Turn in Governance: The Call for a New Development Narrative, Lanham: Lexington Books, 2021, p. 59.

[10][12]楊國榮：《倫理與存在：道德哲學研究》，北京大學出版社，2020年，第83、83頁。

[11]李德順：《價值論》，北京：中國人民大學出版社，2007年，第222頁。

[13]依據伊娃·埃爾曼和馬庫斯福·倫達爾關于人工智能倫理與人工智能治理關系的解讀，從人工智能治理與規范問題相關的視角將人工智能治理視為廣義人工智能倫理的一個子領域。See E. Erman and M. Furendal, “Artificial Intelligence and the Political Legitimacy of Global Governance,“ Political Studies, 2024, 72(2). 因此，可將數據倫理治理視為數據倫理的一部分。

[14][15]G. Hasselbalch, “Making sense of data ethics. The powers behind the data ethics debate in European policymaking,“ Internet Policy Review, 2019, 8(2).

[16]EU, “2030 Digital Compass: The European Way for the Digital Decade,“ 9 March 2021, https://eufordigital.eu/library/2030-digital-compass-the-european-way-for-the-digital-decade/.

[17]Federal CDO Council, President's Management Agenda: Federal Data Strategy 2020 Action Plan, 14 May 2020, https://strategy.data.gov/assets/docs/2020-federal-data-strategy-action-plan.pdf.

[18]習近平：《論科技自立自強》，北京：中央文獻出版社，2023年，第178頁。

[19]聯合國：《我們的共同議程》，2021年9月10日，https://www.un.org/zh/content/common-agenda-report/assets/pdf/common_agenda_report_zh.pdf。

[20]Internet Society, Paths to Our Digital Future, 20 December 2022, https://www.internetsociety.org/wp-content/uploads/2022/12/2017-Internet-Society-Global-Internet-Report-Paths-to-Our-Digital-Future.pdf.

[21]聯合國：《〈我們共同的議程〉政策簡報5：全球數字契約——為所有人創造開放、自由、安全的數字未來》，2023年5月15日，https://www.un.org/sites/un2.un.org/files/our-common-agenda-policy-brief-gobal-digi-compact-zh.pdf。

[22]《習近平總書記系列重要講話讀本（2016年版）》，北京：學習出版社、人民出版社，2016年，第189頁。

[23]《競爭時代的“全球化英國”：安全、國防、發展和外交政策綜合評估》，2021年3月16日，https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/999098/03335-CO-Integrated-Review-Foreword-and-Overview-FINAL-CHINESE-WEB-DISPLAYABLE-PDF.pdf。

[24]閆宏秀：《技術過程的價值選擇研究》，上海人民出版社，2015年，第94頁。

[25][32]習近平：《論黨的宣傳思想工作》，北京：中央文獻出版社，2020年，第54、54頁。

[26]尼古拉斯·尼葛洛龐帝：《數字化生存》，胡泳、范海燕譯，北京：電子工業出版社，2017年，第234頁。

[27][28]《中華人民共和國國民經濟和社會發展第十四個五年規劃和2035年遠景目標綱要》，北京：人民出版社，2021年，第50、52頁。

[29]《十七部門關于印發〈“數據要素×”三年行動計劃（2024—2026年）〉的通知》，2024年1月5日，https://www.cac.gov.cn/2024-01/05/c_1706119078060945.htm。

[30]《政府工作報告——2024年3月5日在第十四屆全國人民代表大會第二次會議上》，2024年3月12日，http://www.qstheory.cn/yaowen/2024-03/12/c_1130088523.htm。

[33]參見閆宏秀：《數字中國的三重價值意蘊及其彰顯路徑》，《人民論壇·學術前沿》，2022年第22期。

[34]M. L. Jones, Ctrl + Z : The Right to Be Forgotten, New York University Press, 2016, p. 2.

[35]參見錢童心：《GPT“逃跑計劃”曝光還想接管推特？創始人稱AI仍非常受控》，2023年3月20日，https://m.yicai.com/news/101706070.html。

[36]米歇爾·福柯：《詞與物：人文科學的考古學》，莫偉民譯，上海三聯書店，2016年，第392頁。

責 編∕李思琪 美 編∕梁麗琛

Values Security in the Age of Digital Intelligence: An Investigation Based on Ethical Governance

Yan Hongxiu

Abstract: Data builds a better life for human beings in a safe, reliable and controllable way, which is the starting point and end point of data ethical governance. However, the acceleration of global digital transformation and the complexity of data ethical issues are leading to continuous questioning about the effectiveness, logical basis and core meaning of ethical governance. From the origin of ethical governance, the theory of technical value is its theoretical basis; From the perspective of the composition of ethical governance, values are its core; From the reflection of ethical governance, values are its meta-theory. As far as the digital future is concerned, the discussion on data ethics and ethical governance will eventually enter the field of values. Values are a baseline of digital governance, and values security is an important cornerstone of ethical governance and a necessary option in the digital future. It is necessary to attach importance to the strategic significance of values security, take values security as the first principle, and regulate data security. And technological security must be regulated on the basis of safeguarding human values.

Keywords: digital intelligence, data, ethical governance, values security