摘 要: 隨著人工智能技術的蓬勃發展，“人工智能+政務”應用路徑，將呈現從“人工智能+單個政務事項”向“人工智能+一類政務事項”，再向“人工智能+絕大多數政務事項”發展的階段性演進；并逐步實現“人工智能+政務”橫縱貫通、條塊聯動，重構政府政務的行政邏輯，提升政務服務效率和質量。這一過程伴隨著數據風險、人工智能技術風險、政務事項樣本集復雜性風險、經濟風險和倫理風險等多重挑戰。為確保穩妥有序推進“人工智能+政務”建設，建議構建準備度評估體系、制定指引性建設指南、開展極端情境壓力測試，并全面夯實數據治理、綜合技術能力、標準體系等應用根基，實現技術效率、行政規范與公共價值的最佳平衡。
關鍵詞:人工智能 政務服務 數字政府
【中圖分類號】C916 【文獻標識碼】A
黨的二十屆四中全會通過的《中共中央關于制定國民經濟和社會發展第十五個五年規劃的建議》提出：“全面實施‘人工智能+’行動，以人工智能引領科研范式變革，加強人工智能同產業發展、文化建設、民生保障、社會治理相結合，搶占人工智能產業應用制高點，全方位賦能千行百業。加強人工智能治理，完善相關法律法規、政策制度、應用規范、倫理準則。完善監管，推動平臺經濟創新和健康發展。”[1]隨著人工智能技術在全球范圍內的蓬勃發展，“人工智能+政務”的強大應用潛力，成為廣泛關注的焦點。近年來，北京、上海、杭州、深圳等城市，圍繞智能問答、智能引導、智能預填、智能幫辦、智能輔助審批等“人工智能+政務”應用進行了積極的探索[2]，為人工智能賦能政務積累了寶貴的實踐經驗，同時暴露出“人工智能+政務”中的諸多風險隱患。面向方興未艾的“人工智能+政務”，本文將從發展的視角就其應用路徑、風險與應對展開討論。
“人工智能+政務”應用路徑的階段性特征
從人工智能技術演進的角度看，按照技術能力的差異，將人工智能技術劃分為弱人工智能、強人工智能、超人工智能三個階段。從“人工智能+政務”持續與長遠發展的角度看，筆者認為可按照“人工智能+政務”應用的范圍，將其劃分為三個階段：“人工智能+單個政務事項”階段、“人工智能+一類政務事項”階段、“人工智能+絕大多數政務事項”階段。
“人工智能+單個政務事項”，是指人工智能技術運用于單一的政務事項。這類事項的特點是業務結構相對清晰，但對個人而言重復性或疲勞性較高，運用人工智能技術后可提升政務效率、降低勞動負荷等。目前各地探索的“人工智能+政務”應用大多在此層面，主要分為兩類：一類是政府與社會互動的簡易外部事務，如“高效辦成一件事”；另一類是結構清晰的政府內部管理事務，如公文寫作、匯報材料、簡單的環評、社會救助等。
“人工智能+一類政務事項”中的“一類”，是相較于第一階段“單個”而言，指多個政務事項橫向或縱向聯辦，所形成的一類政務事項集成辦理。與之相對應的，“人工智能+一類政務事項”應用，是由“人工智能+單個政務事項”應用橫向或縱向集成而形成。這一應用的建設，主要立足于兩個支點：一類政務事項縱向或橫向的聯辦（集成辦）能力，以及“人工智能+政務”應用的系統集成能力。前者包括一類政務事項業務流程的打通與重構、數據共享與共治以及責權劃分等，后者包括跨區域、跨行業、跨系統的人工智能技術應用集成、多模態數據的整體性治理、復雜技術倫理機制等。一些實踐案例表明，采取由“人工智能+一件事”逐步集成至“人工智能+一類事”的建設路徑，在實踐中更為穩健可行。
“人工智能+絕大多數政務事項”中的“絕大多數政務事項”，是指除因安全等特殊原因不適宜開展“人工智能+”的事項之外的所有政務事項。“人工智能+絕大多數政務事項”應用，是在“人工智能+一類政務事項”應用基礎上的進一步集成，將形成各級各類政務事項橫縱貫通，條塊聯動，跨行業、跨部門、跨地區協同的“人工智能+政務”應用體系，實現更高水平、更深層次、更寬領域的“人工智能+全國一體化在線政務服務平臺”。在這個階段，人工智能將縱到底、橫到邊，打破科層制結構及跨部門協同的壁壘，重塑政府政務運行的行政邏輯，從而實現技術效率、行政規范與公共價值三者的最優平衡。
“人工智能+政務”應用的風險研判
數據質量與安全。高質量的政務數據集，是保障“人工智能+政務”應用得以正確、高效運行的基礎。我國在持續提升數據治理水平的同時，面臨著數據安全這一關鍵瓶頸。在同一政務系統內，存在數據缺漏不完整、部分數據失實、數據來源缺失、敏感數據缺乏必要標注、數據使用范圍缺乏明確界定、數據使用權模糊、數據分級分類制度不完善、數據時效性差異等風險。跨政務系統間政務數據協同，存在著數據標準不統一、數據內容不一致、數據時間屬性不匹配、數據違規匯聚、協同后數據集產生敏感內容、數據責任主體模糊、協同機制不完善、數據沖突等風險。
算法“黑箱”的不可解釋性。當前，人工智能算法的“黑箱”問題尚未得到有效解決。將人工智能運用到政務領域后，其算法“黑箱”的不可解釋性，可能會滋生一系列公共信任與安全風險，如算法偏見、模糊行政責任邊界、削弱公共行政的權威性、影響政府決策的合法性等。生成式人工智能技術存在先天的技術模型缺陷，使其不可控且必然地會出現編造虛假信息的“AI（人工智能）幻覺”[3]。非開源算法的人工智能技術會進一步放大算法“黑箱”的風險，而開源算法的人工智能技術，又容易遭致模型竊取、模型投毒等針對性攻擊，且這類風險威脅的隱蔽性較強，往往難以提前識別與化解。
政務事項樣本集的復雜性。訓練樣本集的質量，將顯著影響人工智能輸出結果的質量。各級各類政府部門多年所積累的政務事項案例，匯集成為“人工智能+政務”應用的訓練樣本集。由于政務事項本身具有高度復雜性，地域差異、行業特色以及自由裁量權等因素，均會影響其具體辦理過程，導致大量基礎條件相似的事項，在流程與結果上出現顯著差異。例如，即便是同一類部門處理的同類事項，也可能因地域、時間或經辦人員的不同而產生不一致的結果。同時應注意到，“高效辦成一件事”場景之外的政務事項顯然更多，隨著“人工智能+政務”事項范圍的增加，其使用的事項案例集必然隨之擴大，此時案例之間的不一致性風險也將會隨之增加。
投入回報的不確定性。相較于傳統政務信息化項目，“人工智能+政務”投入成本更高。然而，由于其所涉數據、技術和業務的復雜性，其項目成功率卻低于傳統政務信息化項目。高投入與低成功率，使得政府必須審慎把握其經濟風險。“人工智能+政務”直接投入的系統建設成本并不低。如深度求索的大參數版本模型對硬件和算力資源要求較高，使用時仍需針對具體場景進行模型優化、知識庫構建，若考慮人工智能模型技術進步躍遷后的系統升級，則所需持續投入的成本更為巨大。為推廣并保障“人工智能+政務”應用良好運行，其間接成本可能顯著高于直接成本。
倫理風險。相較于工程、科學等領域中客觀明晰的數據，與倫理相關的數據邊界往往模糊不清，致使人工智能難以通過數據訓練準確掌握倫理規則。這種規則偏差將直接導致其推理結果失準，引發倫理風險。人工智能技術以效率為導向，而政務行政的核心在于維護公平正義。因此，“人工智能+政務”既需高效服務多數群體，也要保障少數群體權益，必須在全周期中妥善處理效率與公平、人機協同行政與決策的關系，稍有不慎即可能引發倫理問題。由于涉及技術、行政及使用場景的復雜性，倫理風險遍布于訓練數據、算法、場景、系統及具體事項等諸多環節。這要求匯聚數據科學、人工智能、公共行政、倫理學、技術哲學及文化等領域專家學者，共同圍繞上述環節與風險點，設計審查內容、流程、標準與規則。然而，這一領域倫理審查研究尚處起步階段，對實踐中的風險防范指導仍顯不足。
“人工智能+政務”應用的風險應對
重視“人工智能+政務”建設前論證工作，建設“人工智能+政務”準備度評估體系。國務院文件提出，“在確保安全的前提下穩妥有序推進人工智能大模型等新技術在政務服務領域應用”[4]。以“人工智能+政務”準備度評估為抓手，開展“人工智能+政務”建設論證工作，既是“確保安全的前提下”要求的具體落實，也是指導實踐的有效切入點。“人工智能+政務”準備度評估，是在“人工智能+政務”應用建設前，圍繞政府“人工智能+政務”相關數據、技術、政務系統、政務事項、倫理等維度的當前基礎和發展趨勢，展開準備度評估，評價政府開展“人工智能+政務”應用各方面條件的成熟程度，為穩妥有序推進“人工智能+政務”應用提供科學決策支撐。
準備度評估體系的指標，可考慮但不限于：一級指標數據準備度，二級指標含數據質量，如完整性、一致性、合規性、準確性、及時性；數據治理能力，包括數據分類分級制度、全生命周期管理流程、數據治理工具；數據共享基礎，包括共享目錄、共享接口、安全機制等。一級指標人工智能技術準備度，二級指標含模型適用性，如包括模型與政務事項適配性、模型與政務系統環境適配性、模型評估和優化能力、“模型+政務事項”效果的評估和預測能力；技術支撐能力，包括本地人工智能算力中心、云服務支撐、技術團隊等；技術安全性，如對抗性測試、可解釋機制。一級指標政務系統準備度，二級指標含系統兼容性、安全防護能力、運維保障水平等。一級指標政務事項準備度，二級指標含政務事項規范性、標準性、業務流程協同性等。一級指標倫理規制準備度，二級指標含法規適配性、倫理審查機制、責任追溯體系等。
面向省市各級行政單位和各類政務事項，繼續分級分類推出并不斷完善“人工智能+政務”應用指引性建設指南。在“人工智能+政務”的發展過程中，僅有宏觀層面的方向指引仍不足以應對具體實踐中的挑戰。從短期來看，當前各地政府在推進“人工智能+政務”應用過程中，仍面臨以下幾方面實踐困境：在建設廣度上，難以把握覆蓋范圍，如是否所有政務服務應用或網頁，都需配備人工智能問答功能；在技術應用深度上，缺乏明確標準，難以界定系統應定位于智能輔助還是智能決策層級；在經驗借鑒方面，對北京、杭州、上海、深圳等地區的成功做法的學習借鑒，尚未形成系統化的本地化應用指導方案。從長期來看，由于缺乏統一標準與整體規劃，各地自行探索建立的具有地域或行業特色的“人工智能+政務”應用雖然多樣，卻不利于未來同級政府間各類政務事項的橫向集成，以及各級政府在同類事項上的縱向貫通，這將顯著增加“人工智能+一類政務事項”應用在后續建設中的難度與成本。
“人工智能+政務”應用指引性建設指南，應依據政府行政級別和政務事項類型進行分級分類，逐步形成矩陣結構的指引性建設指南體系。在單份指引性建設指南中，應就本級本類“人工智能+政務”事項建設的先后順序給出建議，指出相應政務事項匹配的人工智能技術路線、數據治理方案、政務事項業務流程規范、經濟成本平衡方法、倫理規則措施、風險處置策略、預估效果等。同時，為同級不同類型的“人工智能+政務”事項如何橫向聯辦，同類但不同級的“人工智能+政務”事項如何縱向聯辦，給出后續集成路徑。“人工智能+政務”應用指引性建設指南的起草，可考慮制定分級分類標準，構建建設指南體系框架，同時將各地探索的優秀建設案例歸納、總結、提煉成對應級別和類型的建設指南，并根據不斷涌現的先進經驗和做法，持續完善建設指南。通過制定規范化的指引性建設指南，將各地創新經驗推廣普及，以落實國務院“一地創新、多地復用”的要求。
開展極端情境下的壓力測試，確保“人工智能+政務”應用在復雜條件下仍能保持穩健運行。國務院文件提出，“加強保密管理和系統防護，強化算法合規監管和人工審核把關，確保人工智能應用安全可靠”[5]。覆蓋面不斷擴展、條塊聯動更為緊密、復雜度不斷提升、開放性日益增加的“人工智能+政務”應用體系，是典型的開放復雜巨系統。在這個開放復雜巨系統中，單個要素風險、要素間關聯關系的風險、參與主體的風險、外部環境風險等，都可能引起蝴蝶效應，進而造成整個系統的風險或坍塌。具體而言，單個要素風險，如數據失實、算法偏見、業務流程不一致、倫理失范等；要素間關聯關系的風險，如“數據—算法”間的數據投毒風險，“算法—業務”間的不匹配風險等；參與主體的風險，如工作人員的泄密或誤操作風險，大量人員同時辦理業務的并發沖擊風險等；外部環境風險，如敵對勢力攻擊、芯片后門等。上述風險又常常以串聯、并聯、混聯的方式彼此疊加，涌現出更為復雜的系統性風險。
面對如此復雜的風險形勢，應積極主動開展極端情境下的壓力測試，找出風險隱患，并前瞻性地設計和部署相應的防范化解措施。全國一體化在線政務服務平臺的“人工智能+政務”應用體系，可組織相應壓力測試。地方重要政務服務平臺的“人工智能+政務”應用體系，應在中央相關機構的指導下開展壓力測試。壓力測試，主要圍繞敏感性測試和假設情景測試兩個方面展開。敏感性測試，通過極端變動單個或關聯風險要素，來評估其對系統安全的影響，并定位可能引發“黑天鵝”事件的關鍵點，以便進行針對性防護。假設情景測試，可依托錢學森綜合集成研討廳的方式，由專家研討、設計可能面對的極端假設情景，重點分析此情景下不同風險間的相互作用，以及對“人工智能+政務”應用體系安全的綜合影響，找出可能引發系統性風險的高危情景，繼而有針對性地對“人工智能+政務”應用體系的系統設計和結構進行優化，并建立和完善相應的應急預案體系。
夯實“人工智能+政務”應用根基，為“人工智能+政務”應用體系建設提供有力支撐。一是全面提升政務數據治理水平。持續推進數據分類分級管理，數據跨行業跨部門互聯互通，數據采集、處理等相關標準規范建設，立足“人工智能+政務”場景，加快建設高質量數據集。二是不斷提升“人工智能+政務”涉及的綜合技術能力。包括：對模型基礎能力的把握，模型和政務適配性的分析，模型優化效果的預測，“模型+政務事項”效果的評估和優化，算力和云服務支撐，主動性安全技術，可解釋機制等。三是完善政務事項標準體系建設。提升政務事項標準化、規范化、結構化水平，實現同行業同領域的“一件事”標準統一、業務協同。四是加強“人工智能+政務”倫理審查機制建設。圍繞“人工智能+政務”倫理研究，設立相應的研究項目，成立相關的學術研究組織、智庫等，面向“人工智能+政務”倫理審查中的重點問題和重大倫理風險展開深入研究，不斷完善倫理審查機制。五是加強“人工智能+政務”綜合績效評估。從公眾滿意度、業務規范、業務協同、服務優化、經濟投入、綜合成本、風險防控等角度，開展“人工智能+政務”綜合績效評估，以評促建，不斷提升“人工智能+政務”建設水平。
【本文作者為華中科技大學非傳統安全研究中心主任、公共管理學院教授、博導；本文系教育部哲學社會科學研究重大攻關項目“面向新一代人工智能的網絡空間風險與防范機制研究”（項目編號：23JZD016）、國家社科基金重點項目“政治安全視角下數據要素流動的風險識別與評估研究”（項目編號：21AZZ013）、華中科技大學文科“雙一流”建設項目基金資助（項目編號：2025ZKIJD05）的階段性成果】
注釋略
責編：賈 娜／美編：石 玉