【摘要】快速迭代的數(shù)字智能技術(shù)正將人類社會帶入一個充滿張力和不確定性的時代，傳統(tǒng)社會數(shù)字化轉(zhuǎn)型的進程不斷提速。數(shù)智社會的良性發(fā)展既要充分利用數(shù)字技術(shù)優(yōu)勢，也要警惕技術(shù)賦能可能存在的各種異化風險。要辯證理性地看待數(shù)字技術(shù)及其運用，處理好治理目的和治理手段、數(shù)字權(quán)力和公民權(quán)利、個體利益和公共利益、技術(shù)賦能和制度創(chuàng)新之間的關(guān)系。在充分發(fā)揮數(shù)智技術(shù)正面效用的同時，最大限度地預(yù)防、控制和消除其潛在風險以及負面效應(yīng)，通過數(shù)智善治創(chuàng)造新時代人民美好生活。
【關(guān)鍵詞】數(shù)智治理 異化風險 防控 【中圖分類號】D63 【文獻標識碼】A
數(shù)字智能技術(shù)的快速迭代和深入運用正引發(fā)全球性變革。隨著第四次科技革命的深入推進，全球生產(chǎn)、生活和治理系統(tǒng)都將面臨深刻轉(zhuǎn)型。對于公共治理而言，其數(shù)字化轉(zhuǎn)型帶有明顯的兩面性：一方面，基于數(shù)字智能技術(shù)的敏捷化重塑已經(jīng)成為當前公共部門創(chuàng)新發(fā)展的重要趨勢之一，這個過程不僅顯著提高了政府內(nèi)部的運行效率，也快速提升了市場監(jiān)管和社會治理效能；另一方面，智能技術(shù)無邊界、無規(guī)則、無制約的運用也可能給社會和民眾帶來各類風險甚至危機，如數(shù)據(jù)泄漏、“數(shù)字禁足”等。對于技術(shù)賦能治理可能產(chǎn)生的風險要做好警惕和防范，努力實現(xiàn)數(shù)智善治。
技術(shù)賦能治理中的異化風險
首先是只見數(shù)字不見人。數(shù)字技術(shù)在推進社會治理智能化過程中起著強有力的支撐作用，利用城市體征、數(shù)據(jù)畫像等技術(shù)能夠靈敏感知風險、快捷響應(yīng)公眾訴求、拓寬治理溝通渠道。但盲目依賴數(shù)字技術(shù)而忽視人的價值，則會出現(xiàn)本末倒置、價值缺失等系列問題。一方面，現(xiàn)實生活的豐富性不能完全被有限的數(shù)字所反映。社會是高度復(fù)雜、多元的系統(tǒng)，人也是豐滿、多面和立體的社會存在，而數(shù)字是個體或集體的某類特征的抽象性表達。單純依賴數(shù)據(jù)進行決策和治理往往容易遺漏很多關(guān)鍵信息，產(chǎn)生“測量失靈”“畫像偏差”等問題，導(dǎo)致“簡單化”“一刀切”式的管理。另一方面，單純的技術(shù)維度極容易產(chǎn)生倫理問題，如將人機器化、工具化等。數(shù)字技術(shù)作為治理工具，能夠有效提升組織效率，但技術(shù)的誤用濫用則會壓制組織活性，使內(nèi)部成員成為數(shù)字技術(shù)的傀儡。“數(shù)字官僚”“數(shù)字執(zhí)法”在單純強調(diào)數(shù)字技術(shù)的同時，容易抹殺社會主體和社會事務(wù)的豐富性、多樣性和復(fù)雜性，不能準確把握治理對象的本質(zhì)特征。片面強調(diào)數(shù)字技術(shù)的工具價值而漠視人文關(guān)懷，會偏離數(shù)智治理增進社會福祉的價值起點。
其次是數(shù)字失能問題亟需關(guān)注。一般來說，數(shù)字化轉(zhuǎn)型會給社會帶來越來越便捷的溝通、交流和連接，但在某些特定情景中也會出現(xiàn)相反甚至相悖的現(xiàn)象。例如，數(shù)智治理對于老年人等社會群體往往產(chǎn)生“擠出效應(yīng)”。由于年齡增大、環(huán)境變化和服務(wù)不足等因素，老年人等社會群體難以適應(yīng)日新月異的技術(shù)變遷，老年群體消費不便、出行受阻、數(shù)字歧視等現(xiàn)象頻頻發(fā)生，老年群體的數(shù)字失能問題顯得更加突出。又如，基層治理數(shù)字化轉(zhuǎn)型對于基層工作人員的專業(yè)化、數(shù)字化素養(yǎng)要求越來越高，而技術(shù)要求與數(shù)字能力之間的差距也會進一步增強他們對于技術(shù)運用的排斥心理。碎片化、重復(fù)化和重疊化的數(shù)字系統(tǒng)和平臺建設(shè)不僅沒有減輕基層負擔，還可能在短期內(nèi)增加基層工作量，進而影響該群體的工作效率。
再次是權(quán)力濫用侵害正當權(quán)益。在數(shù)字技術(shù)持續(xù)賦能政府治理和賦權(quán)社會個體的進程中，既要警惕數(shù)字權(quán)力濫用，也要防范算法權(quán)力的破壞效應(yīng)。一是公共領(lǐng)域的數(shù)字能力發(fā)展不平衡。數(shù)字政府建設(shè)中增強政府控制力的技術(shù)通常能夠迅速推進，如網(wǎng)格化管理、視頻監(jiān)控等，而那些改進政府自身管理、加強政民互動、強化政府監(jiān)督的措施則相對滯后。為追求部門或個人利益，少數(shù)公職人員將權(quán)力凌駕于制度規(guī)則之上，損害部分群眾的正當權(quán)益，嚴重破壞了政府的公信力。二是商業(yè)數(shù)字平臺亟需有效監(jiān)管。企業(yè)通過“用戶畫像”分析用戶消費模式，精準投放商品鏈接，實施差異化定價，違背市場公平原則。受資本利益驅(qū)動，算法在工廠流水線、外賣平臺的無限制使用已經(jīng)使部分勞動者陷入“算法困境”。在虛擬交互平臺，互聯(lián)網(wǎng)巨頭根據(jù)個人偏好使用私權(quán)，對未觸犯法律規(guī)范的用戶實施禁言、封號，實質(zhì)上侵害了公眾在數(shù)字公共空間的生存權(quán)利。
最后是數(shù)字形式主義增加基層負擔。數(shù)字手段雖然得到了推廣和運用，但求真務(wù)實的數(shù)智治理理念在一些地方尚未形成。一是數(shù)字政務(wù)平臺建設(shè)可能被部分地方政府視為政府治理創(chuàng)新的“政績”，重投入輕運用，重硬件輕軟件，重建設(shè)輕運營，最后沒有真正發(fā)揮數(shù)字平臺在優(yōu)化治理體系、提升治理效能重的功能和作用。新型“面子工程”生產(chǎn)成本高昂而效能低下，導(dǎo)致資源嚴重浪費，創(chuàng)造公共價值的能力不足。二是條塊分割、行政壁壘、以鄰為壑等傳統(tǒng)管理問題在數(shù)字化轉(zhuǎn)型過程中依然存在，這就制約了信息的跨部門整合和使用，以及公共服務(wù)體系的集成和優(yōu)化。三是在一些地方，由于缺乏科學的頂層設(shè)計和高位統(tǒng)籌，各自為政的數(shù)字平臺和系統(tǒng)建設(shè)往往迫使基層忙于填報各類報表，甚至玩起了數(shù)字游戲，產(chǎn)生新型數(shù)字形式主義。同時，“痕跡主義”的管理方式，如網(wǎng)絡(luò)留痕、上傳照片、系統(tǒng)定位簽到等考核形式，加大了基層工作的機械勞動和情緒勞動，降低工作效率，催生虛假政績。
技術(shù)賦能要以實現(xiàn)數(shù)智善治為目的
數(shù)智善治是指運用數(shù)字智能技術(shù)優(yōu)化重塑公共治理的流程、方式和形態(tài)，全面提升公共服務(wù)和管理的效率、效能和效果，降低社會交易成本，增進社會公共福祉，最終實現(xiàn)社會良善治理的狀態(tài)和目的。數(shù)智善治意味著在充分發(fā)揮數(shù)智技術(shù)正面效用的同時，最大限度地預(yù)防、控制和消除其風險以及負面效應(yīng)。實現(xiàn)數(shù)智善治需要處理好以下幾對關(guān)系：
一是治理目的和治理手段的關(guān)系。在技術(shù)狂飆突進和大行其道的時代，更應(yīng)警惕技術(shù)的負面效應(yīng)和異化風險，克服單純的技術(shù)主義和工具主義傾向。要區(qū)分和明晰技術(shù)賦能過程的“體”和“用”。“體”是目的、價值和主干；“用”是手段、方法和枝節(jié)。具體來說，“體”就是堅持以人為本，保證程序正義，提升公共利益和個體權(quán)益，助力人民群眾美好生活的實現(xiàn)；“用”就是技術(shù)對治理行為、過程的嵌入，包括大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)等技術(shù)的開發(fā)利用，數(shù)字治理平臺的建設(shè)和運行，以及數(shù)字治理場景的構(gòu)建和具體實施。現(xiàn)代化的治理體系不能只有目的而缺乏手段，更不能將手段替換目的，本末倒置。
二是數(shù)字權(quán)力和公民權(quán)利的關(guān)系。在現(xiàn)代社會的運行和治理過程中，權(quán)力和權(quán)利是一對重要的概念范疇，也是社會規(guī)制和法治中要處理的一對重要關(guān)系。某種程度上說，權(quán)利的保護需要權(quán)力的行使，缺乏公正的權(quán)力行使，正當權(quán)利可能無法得到保證；但另一方面，權(quán)力的濫用也會危害正當?shù)臋?quán)利。在法律層面，人們達成的一個基本共識是，行政權(quán)力的行使應(yīng)兼顧行政目標的實現(xiàn)和保護相對人的權(quán)益。如果行政目標的實現(xiàn)可能對相對人的權(quán)益造成不利影響，則這種不利影響應(yīng)被限制在盡可能小的范圍和限度之內(nèi)，二者應(yīng)有適當?shù)谋壤?shù)字權(quán)力本質(zhì)上就是影響力，在現(xiàn)實中，這種權(quán)力的背后往往有著行政權(quán)力的身影，甚至行政權(quán)力借數(shù)字權(quán)力達到自身目的。因此，數(shù)字權(quán)力的行使也需要兼顧規(guī)范目標的實現(xiàn)和相對人的合法權(quán)益，更不能直接、粗暴損害相對人的合法權(quán)益。
三是個體利益和公共利益的關(guān)系。公共利益與個體利益本質(zhì)上是融通的，二者發(fā)生沖突時個體利益需讓步于公共利益，同時個體利益的實現(xiàn)也離不開公共利益的指導(dǎo)。因此，維持公共利益和個人利益之間的張力，需要平衡調(diào)和二者關(guān)系，不能忽視任意一方。籠統(tǒng)來說，提升公共利益依賴于公民能夠通過數(shù)字化應(yīng)用廣泛參與公共事務(wù)，樹立規(guī)則意識和責任意識，維護政府權(quán)威，涵養(yǎng)公共精神。面對突發(fā)公共事件時，公共利益在先，個人利益在后。但另一方面，在捍衛(wèi)公共利益的前提下也要盡可能保障公民個體利益，要切實尊重和保護公民信息安全，或者提供一定的救濟渠道。如果單純強調(diào)個體利益無條件服從公共利益，也難以實現(xiàn)公共利益最大化，通常只有切實保護好每個成員的個體利益，才能實現(xiàn)共贏。
四是技術(shù)賦能和制度創(chuàng)新的關(guān)系。推動數(shù)智社會治理的關(guān)鍵因素，究竟是技術(shù)賦能還是制度創(chuàng)新？技術(shù)決定論認為蓬勃發(fā)展的數(shù)字技術(shù)能夠為數(shù)智社會提供前所未有的可能；反對者則認為數(shù)字技術(shù)只是為組織提供硬件保障，提升治理效能進而實現(xiàn)善治還需要制度創(chuàng)新加以支撐。總體來說，技術(shù)賦能無法脫離制度保障，制度創(chuàng)新也不能脫離技術(shù)作用。一方面，數(shù)智治理要實現(xiàn)技術(shù)真正賦能公共部門，還需要制度支撐。在公共管理實踐中，政府在技術(shù)層面引入大數(shù)據(jù)分析等應(yīng)用，但條塊分割的弊病阻礙部門數(shù)據(jù)共享，而部門壁壘需要從制度層面才能加以解決。只有通過有效的制度規(guī)范和制度激勵，為部門間數(shù)據(jù)共享提供良好的政策環(huán)境，破解治理碎片化困境，才能發(fā)展鞏固技術(shù)的改革成效。另一方面，技術(shù)的常態(tài)化使用需要制度的規(guī)范和約束。平衡技術(shù)賦能和制度創(chuàng)新的關(guān)系，需要認識到技術(shù)只是“賦能者”，關(guān)鍵在于制度的創(chuàng)新動力，破除“數(shù)字替代一切”“技術(shù)解決一切問題”等片面思維，通過探索體制機制優(yōu)化，開辟現(xiàn)代化、精細化治理之路。
技術(shù)賦能異化風險的防控機制
實現(xiàn)數(shù)智善治，需要人們辯證理性地看待數(shù)字技術(shù)，對于數(shù)字技術(shù)的應(yīng)用，要興利除弊、揚長避短，特別是秉持社會公正、平等正義的原則和立場，切實通過技術(shù)賦能創(chuàng)造新時代人民美好生活。
第一，堅持以人民為中心的數(shù)智治理理念。加強數(shù)字政府建設(shè)是推進國家治理體系和治理能力現(xiàn)代化的重要舉措。因此，需要從政治的高度看待數(shù)智治理，以現(xiàn)實需求為核心，將滿足人民對美好生活的向往作為數(shù)智治理的出發(fā)點和落腳點，著力破解企業(yè)和人民群眾反映強烈的辦事難、辦事慢、辦事繁等問題，堅持數(shù)字普惠，打破數(shù)字壟斷，消除數(shù)字鴻溝，全面提升公共服務(wù)和社會治理的效率和效能。對地方政府和部門來說，不能將數(shù)智治理簡單理解為冷冰的數(shù)字化、數(shù)目化管理，更不能以“數(shù)字官僚”“人工智能”完全取代傳統(tǒng)的、行之有效的群眾工作方式方法。要以“實戰(zhàn)中管用、基層干部愛用、群眾感到受用”為衡量技術(shù)賦能成功與否、合理與否的標準。同時，還需要向全社會特別是數(shù)字弱勢群體提供更加豐富、全面的數(shù)字信息服務(wù)，加強技術(shù)教育培訓(xùn)，不斷提升公民數(shù)字素養(yǎng)。
第二，健全完善數(shù)智治理重大決策機制。黨的十八屆四中全會提出，健全依法決策機制，把公眾參與、專家論證、風險評估、合法性審查、集體討論決定確定為重大行政決策法定程序。這為提高決策科學化、民主化、法治化水平提供了保障。應(yīng)該看到，隨著數(shù)據(jù)化和智能化程度不斷提高，數(shù)據(jù)分析和算法決策開始在公共政策制定和執(zhí)行中發(fā)揮越來越多的作用，算法和電腦程序開始代替人工進行情勢判斷和管理決策。從現(xiàn)代法治精神來說，如同其他行政權(quán)力應(yīng)被“關(guān)進制度的籠子”一樣，這些基于數(shù)智的決策和數(shù)智決策本身也需要受到監(jiān)督、審查與控制。特別是應(yīng)考慮將可能普遍限制公民自由權(quán)利的技術(shù)運用納入重大行政決策范圍，不僅完善其相關(guān)決策程序，同時建立合法性審查機制，確保其合法、合規(guī)。同時，要及時主動向社會公開數(shù)據(jù)治理過程，接受社會監(jiān)督。要建立責任追究制度和責任倒查機制，對于故意、明顯危害正當公民權(quán)利和公共利益的數(shù)字決策行為以及相關(guān)人員嚴肅追究責任。
第三，建立健全權(quán)利救濟制度。公民權(quán)利受到侵害后能否得到及時、有效的救濟，是衡量一個國家法治水平實現(xiàn)程度的重要標尺。在大數(shù)據(jù)時代，如何防止數(shù)字權(quán)力對公眾的負面影響，維護公眾正當權(quán)益的問題應(yīng)納入政府議程。一是推進申訴程序法制化。這就需要細化查詢機制、申辯機制、更正機制等方面的具體規(guī)定，通過法制化建設(shè)保障公民陳述、申訴或?qū)沟臋C會，保障權(quán)利救濟有法可依。優(yōu)化申訴程序，允許算法決策和人工決策相結(jié)合，引入利益相關(guān)者參與，確保公共政策的公平性、公正性，防范和化解權(quán)力異化風險。二是完善部門的數(shù)字責任機制。明確有關(guān)責任單位或個人在執(zhí)法過程中使用數(shù)字技術(shù)應(yīng)承擔的法定義務(wù)和責任，制定數(shù)字治理過程中的“負面清單”，包括非法篡改、刪除、使用個人信息等行為。針對公民查詢、申訴等需求，責任單位設(shè)立專職負責小組進行反饋與跟進，建立申訴案例數(shù)據(jù)庫，提升同類案件的處置效率。三是完善公益訴訟制度。結(jié)合數(shù)智時代出現(xiàn)的新情況和新問題，進一步完善公益訴訟制度，更新公益訴訟類型。特別是將利用數(shù)字權(quán)力產(chǎn)生公害的違法失職行為納入公益訴訟范圍，通過法律的方式保障社會公眾的正當權(quán)益。
第四，加強數(shù)據(jù)保護和安全制度建設(shè)。某種意義上說，數(shù)據(jù)安全問題制約著新興科技應(yīng)用于數(shù)智治理體系的深度和廣度。在機制優(yōu)化層面，要加強數(shù)據(jù)安全全過程管理。依托大數(shù)據(jù)資源平臺，實現(xiàn)數(shù)據(jù)歸集、治理、共享、應(yīng)用等全過程的統(tǒng)一管理。明確數(shù)據(jù)收集范圍和使用范圍，加強數(shù)據(jù)匿名管理意識，分層分類制定數(shù)據(jù)共享機制和刪除機制，完善數(shù)據(jù)運營服務(wù)機制，以此形成良性循環(huán)、螺旋上升的數(shù)據(jù)應(yīng)用體系。在技術(shù)保障層面，落實數(shù)據(jù)安全保障措施。利用物理防火墻、虛擬防火墻、日志審計等安全設(shè)施，賦能數(shù)據(jù)安全運維工作。開展日常數(shù)據(jù)安全監(jiān)測，加強數(shù)據(jù)安全事件、信息泄密事件的預(yù)警和發(fā)現(xiàn)能力。制定應(yīng)急預(yù)案及演練，建立關(guān)于數(shù)據(jù)安全與應(yīng)急管理相關(guān)工作規(guī)范，針對演練過程更新應(yīng)急預(yù)案。在人員管理層面，建立問責機制，提高權(quán)責匹配意識。對數(shù)據(jù)管理部門人員采用背景審查、簽署保密協(xié)議、開展安全培訓(xùn)等措施實現(xiàn)對人員的安全管理。開展數(shù)據(jù)安全與信息保護的法律宣傳和教育，提高管理人員數(shù)字法治素養(yǎng)和水平。
第五，構(gòu)建共建共治共享的數(shù)智治理格局。移動互聯(lián)網(wǎng)的全面普及大大提升了社會大眾的公共參與能力，包括對公共信息的獲取、公共討論的參與和意見的充分表達。但另一方面，由于專業(yè)門檻的客觀存在，數(shù)智技術(shù)的研發(fā)、平臺建設(shè)和系統(tǒng)運行往往由政府部門和專業(yè)化企業(yè)主導(dǎo)，某些情況下甚至根據(jù)管理者的主觀偏好進行閉門造車，缺少對社會需求和民眾訴求的吸納。黨的十九屆四中全會提出，完善黨委領(lǐng)導(dǎo)、政府負責、民主協(xié)商、社會協(xié)同、公眾參與、法治保障、科技支撐的社會治理體系。社會治理是多元主體協(xié)同合作的過程，技術(shù)嵌入只有在這個框架下或者說能夠促進治理框架發(fā)展，才能提升社會治理的現(xiàn)代化水平，真正造福于社會和民眾。因此，應(yīng)提升數(shù)智治理的開放度和包容性，有序引導(dǎo)社會組織、公眾參與到數(shù)智治理過程中來。一是有關(guān)部門應(yīng)定期發(fā)布公共數(shù)據(jù)運用情況報告，及時公開公共數(shù)據(jù)采集、儲存、使用和監(jiān)管流程。二是吸納專家和公眾代表到算法開發(fā)、運行監(jiān)管中來，評估數(shù)智技術(shù)運用的合理性與合法性。三是探索公民驅(qū)動的數(shù)智合作治理和數(shù)據(jù)管理模式，進一步促進數(shù)據(jù)公開和共享，推動醫(yī)療、養(yǎng)老、教育和交通等民生領(lǐng)域公共研究創(chuàng)新。四是拓展和開發(fā)公共事務(wù)電子協(xié)商、網(wǎng)絡(luò)協(xié)商的新形式和新路徑，及時反映社情民意，提升公共治理對社會需求的靈敏度和回應(yīng)度。
（作者為武漢大學政治與公共管理學院教授、博導(dǎo)；上海師范大學哲學與法政學院研究助理李婕對本文亦有貢獻）
【參考文獻】
①曾盛聰、董沁昕：《“賦能”與“擠出”雙效應(yīng)下數(shù)字治理的“補丁”策略——基于代際發(fā)展權(quán)的分析框架》，《人文雜志》，2022年第6期。
②張會平：《推動基層治理數(shù)字化轉(zhuǎn)型的三重整合邏輯》，《國家治理》，2020年第38期。
③鄭磊：《數(shù)字治理的效度、溫度和尺度》，《治理研究》，2021年第2期。
④張凌寒：《算法權(quán)力的興起、異化及法律規(guī)制》，《法商研究》，2019年第4期。
⑤馬長山：《數(shù)智治理的法治悖論》，《東方法學》，2022年第4期。
⑥郭華、李紅霞：《刑事電子數(shù)據(jù)收集中的公民權(quán)利救濟》，《廣西社會科學》，2019年第11期。
⑦吳晶晶：《從數(shù)字治理走向數(shù)字善治的路徑探索》，《山東行政學院學報》，2022年第2期。
⑧高志宏：《個人信息保護的公共利益考量——以應(yīng)對突發(fā)公共衛(wèi)生事件為視角》，《東方法學》，2022年第3期
責編/于洪清 美編/楊玲玲
聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復(fù)本微信號獲得授權(quán)，轉(zhuǎn)載時務(wù)必標明來源及作者，否則追究法律責任。
