不止于數字系統：不同組織背景中AI技術如何改變官僚的角色

摘要:

通過探索不同組織背景中由AI技術所做的公共決策，如何影響官僚角色定義中的創新因素，本文強調了AI的應用對公共部門創新的影響。我們研究了荷蘭育兒津貼和美國綜合數據自動化系統這兩個案例，主要關注其中組織、機構和個人層面的因素。在這兩個案例中，我們觀察到了行政過程的創新，即組織結構和官僚的任務都發生了轉變；而在美國的案例中，我們發現了概念創新，即通過取代全部的官僚來解決福利欺詐問題。

關鍵詞：

公共決策；人工智能；數字福利體系；官僚；公共部門創新

作者簡介:

Sarah N. Giest

Bram Klievink

萊頓大學公共管理學院

編譯來源:

Sarah N. Giest & Bram Klievink (2022): More than a digital system: how AI is changing the role of bureaucrats in different organizational contexts, Public Management Review.

本文作者：Sarah N. Giest

本文二作：Bram Klievink

引言

數字時代的決策在朝向自動化發展，公共服務的提供方式也在與時俱進。但這一主題下的大部分研究都集中關注街頭官僚的自由裁量權、有限的面對面互動，以及數字系統本身，而很少涉及到，機構的變化如何通過影響公共決策和服務提供預期來塑造官僚的角色。

隨著當前使用數字系統和算法應用的不斷增長，一種新的服務提供機制已經粗具規模。各種AI技術不僅改變了技術領域，而且還影響了通信渠道、決策功能和相應機制，以及實施控制和自由裁量權的水平。本文認為，這些變化都是由如何設計技術，以及如何將技術融入現有的組織架構中引起的。本研究關注的正是技術與組織環境的融合。

本研究的案例選擇遵循Kuipers等人（2014）公共部門創新的基本原理，區分了多數主義系統和基于共識的系統。本研究以它們之間的差異以及它們表現出的變化類型作為起點。在此基礎上，我們研究了屬于這兩類的兩個案例：密歇根州的案例（美國，多數主義系統）和荷蘭育兒津貼案例（基于共識的系統）。在密歇根州的案例中，AI系統的實施導致失業管理局員工的下崗潮，在經歷了危機后，則創建新的職位，對整個系統及與之相關的數據進行監管。在荷蘭的案例中，我們發現漸進式的變化影響了組織結構，而官僚們的工作卻發生了根本性的變化，導致了關于育兒津貼的錯誤決定?；谶@些觀察，我們看到了這兩種情況下新的組織結構和人力資源的協調，即行政過程創新。而在密歇根州，我們也看到了一種概念創新，即運用AI從而更精準、迅速、有效地解決欺詐問題。

理論

公共部門創新

組織設置和技術系統的交叉領域，已經涌現了大量不同的研究和理論，而本文關注官僚所使用的技術系統與組織背景的融合，正是這二者的關系為創新的發生創造了環境。新興技術、組織和服務設置，以及那些實現系統技術動態變化的交叉融合，創造了增量創新或激進創新。所謂增量創新，指的是對現有產品或服務的微小改變，而激進創新，則指的是“通過引入新服務或實施新的交付方法”取代現有產品或服務。

DeVries、Bekkers和Tummers（2014）定義了公共部門創新的四種類別：

過程創新，指的是注重提高內部和外部過程的質量和效率。過程創新又包括兩類：行政過程創新，包括組織實踐、新的組織結構和人力資源的協調；技術過程創新，將新元素引入組織生產或服務操作系統；

產品或服務創新，指的是創造新的公共服務或生產創新；

治理創新，指的是解決特定社會問題的新形式和過程；

概念創新，它們涉及到新的概念，甚至是新的模式，以重新定義一個特定問題的本質及其可能的解決方案。

組織層面和個人層面的特征，對于公共部門創新的出現，都是具有影響力的。其中包括政府支持的長期規劃和頂層設計，以及通過教育和培訓來投資人力資本，提高勞動者技能。

公共部門的專業人員的行為和態度可能會因為AI系統的引入和運用而發生改變。轉變的內容會因AI系統所在的背景和結構的不同而有區別，轉變的結果包括AI系統的引入和運用如何影響官僚的行為。但這一轉變可能是按照預期實現的，即達成創新的目標，但也可能出現預期之外的結果。研究表明，技術設施與機構變化會相互影響。新技術的運用提高了公共組織的能力，但其結果往往不按事先的預期展開。

AI技術往往被認為能從根本上改變公共服務或政策。盡管在環境層面上，AI被認為帶來了根本性的變化，但在特定應用程序的層面上，它可能只是持續性變化的一部分。這一方面是公共組織所采取的漸進式變革的后果，另一方面是這類技術的引入所帶來的變化，與根本性變化之間還存在差距。

管理結構中官僚的角色和功能

在日益數字化和自動化的時代，官僚的角色正在發生變化。過去的研究表明，這不僅是先進技術或數字系統本身帶來的，還可能源自官僚群體所處的組織和監管結構，官僚們為應對這些背景而長期積累形成了一定的經驗和文化。本文側重于探究，由于機構層面的特征所造成的官僚角色的轉變，這些特征可能影響官僚的縱向和橫向關系。一般來說，這些因素可以分為機構層面的因素和協同作用的個人層面的因素。

在機構層面上，公共組織內部的管理活動與管理者，通過體現于勞動并參與到決策過程，而對機構的表現產生重要的作用。此外，政治上的注意力也會影響到政策重點。簡而言之，“機構通過賦予身份，即通過選擇那些被認為與決策相關的因素，來塑造社會行為者的認知?！?/p>

在個人層面上，已有研究大多討論在一個日益自動化的環境中街頭官僚發揮了怎樣的作用。最近的研究強調，盡管街頭官僚所能提供的公共服務正在被自動化和數字化淘汰，但官僚個人仍在影響與公民相關的政策決策和執行。總得來說，官僚個人仍然在決策過程中扮演著角色，只不過他們的角色，特別是自由裁量權部分發生了微妙的變化。這是因為他們不負責處理有關公民的常規決策，而只是負責例外情況，通常基于可能得到上級官員或數字系統確認的預期來做出決定。因此可以說，“信息化并沒有摧毀自由裁量權，而是模糊了自由裁量權”。

許多研究將機構層面和個人層面的動態變化分開處理，從而忽略了更大的組織變化對官僚個體角色的影響。但本文指出，真正對官僚角色帶來挑戰的并非信息和數據技術本身，而是它們所嵌入的組織背景，以及需要工作于其中的更新了的協調和管理過程。

將算法程序融入當前管理結構中

最近關于公共部門數字化轉型的研究，大都提到數字化會改變官僚和組織文化，此外，在與政府運用信息通信技術相關的其他文獻中，也可以找到系統性或整體性分析的思路。本文沿著這一思路，在解釋研究對象時尋求更具整合性的觀點。

技術的應用雖能引起社會性變化，但這并不是說，組織慣例和專業實踐的變化是技術引入的預期結果。信息和通信技術可能有助于加強現有的做法，并使之獲益，或者強化使用了新系統的官僚環境；但這可能不符合AI的應用情況。相反，雖然在管理過程中的特定階段使用了AI技術，但它們可能超出專業人員的能力范圍，往往導致系統的實際角色和功能與設計之初大相徑庭。

結合這兩者，本文提出，AI不僅影響官僚的工作，而且還影響工作的內容和完成工作的環境。這種影響既有按照預期實現的，也有預期之外的。

公共部門的創新指的是，通過新的知識、新的組織、新的管理或過程，將新的元素引入到公共服務中，這代表了與過去的某種斷裂。組織背景會影響管理的實施過程，并最終影響公共部門所發生的變化。此外，機構層面和個人層面的因素也起著一定的作用。

圖1

圖1描繪了早期研究中技術的實施與其對公共部門變化的影響，以及二者之間的關系。

研究進路

本文基本上遵循Kuipers等人（2014）的論點來選擇案例，即多數主義系統可能表現出更多自上而下的改革，這可能導致更激進的變化，而基于共識的系統更愿意顯示更多自下而上和漸進的變化。

本文選擇了兩個案例進行探索性分析：一個是荷蘭育兒津貼，另一個是密歇根州的集成數據自動化系統。荷蘭的案例所發生的背景，通常被認為是一個基于共識的系統；密歇根州的案例所發生的背景，則是相對多數主義的。這兩起案件的相似之處在于，它們都得到了公共機構的廣泛宣傳和審查，比如密歇根州案例的審計報告和荷蘭案例的議會聽證。在這兩種情況下，一系列與公共部門創新有關的問題都可以追溯到AI系統及其在福利政策背景中的運用。

荷蘭育兒津貼案例的數據收集主要基于官方報告和聽證會。這一案例的相關情況已被媒體廣泛報道，并由監督機構和荷蘭議會通過對該案件的正式調查進行了廣泛的記錄和分析。對此案的分析主要基于公開的報告和19起與此案例有關的荷蘭的公開議會聽證，其中一些聽證會是由參與此案的高級官員舉行的。這部分資料的來源不一定限于在聽證會上受到詢問的官員，也可能包括詢問者，他們當中有些人是國會議員，會介紹他們所能提供的相關資料。

密歇根州的集成數據自動化系統(MiDAS)， 不僅在媒體上，而且在法律訴訟、審計報告和新的立法活動中也被廣泛討論。對此案的分析是基于這些不同的、且可公開獲得的文件，包括立法文件、一份集體訴訟、兩份審計總報告和一份AI研究所的報告。

案例分析

荷蘭育兒津貼

荷蘭政府設立有一項育兒津貼，由荷蘭稅務和海關管理局的一個名為“Toeslagen”的部門管理。這項津貼的補助對象包括部分專業日托所和幼兒園。承保的金額取決于父母的收入。父母必須申請才能得到這些福利，而該機構可以直接支付給父母或日托所。2019年時人們發現，在這一系統中，成千上萬的父母不公平地被歸類為潛在詐騙犯。細小的管理錯誤致使兒童父母的工作和生活遭受重大損失。后來，一個議會委員開始調查這一丑聞，并最終導致荷蘭內閣辭職。

數字系統在這一案例中扮演著重要的角色。負責育兒津貼的機構原本為征稅而建立，但必須在緊縮時期支付每個家庭的福利。數字系統就為提高該部門的效率發揮了重要作用。在實際處理過程中，該部門引入和使用了一種風險分類模式，該模式是由一個特定的團隊(CAF)引入的，最初目的是解決系統性欺詐問題。這個模型是一個基于一套算法的AI學習模型，該算法提供了正確和不正確的申請者的例子，幫助AI學習“識別”危險。該模型根據算法給出每一申請者的風險評分，并選擇了最高風險評分的申請者，再交由專業人員進行處理。

該系統原本是一種創新，不僅是為了行政機構的辦公效率，而且是為了滿足阻止欺詐的政治需要。但在實施的過程中，這套AI系統的用途也發生了變化：從幫助尋找欺詐者，變為對公民產生實際的負面結果。之所以造成這一后果，是因為這套被設計用來感知特定目標和收益的系統，被用在了一個與原有設計不同的環境中，導致實際運行效果與預期作用失調，扭曲了創新過程。

而官僚的角色，在預期的正式角色與由創新引起的角色轉變之間，同樣存在差異。在整個系統運行中，有兩個團隊的作用很重要：首先是負責調查欺詐的CAF團隊，但它不負責調查父母本人的情況，也不決定是否支付津貼；其次是負責發放津貼的團隊，決定是否向個別申請者發放津貼。因此，該套系統實際上賦予了CAF團隊一個更重要的角色，部分原因是發放津貼的團隊開始以不同的方式看待系統識別的案件，以及公共部門的專業人士開始以不同的方式看待這些人，從一開始就假定這些人犯了欺詐，并深入搜索相關證據。

正式使用該系統的過程，也就是檢測可能存在的欺詐的過程，而它的影響，也就是被該系統接收的所有申請人都被視為潛在的欺詐犯。發放津貼團隊中的個別官僚們在決定如何處理潛在的欺詐案件方面發揮著穩定的作用。然而，即使沒有確定欺詐行為，高風險評分本身還是會對現行津貼支付有潛在的影響。官僚們不可能仔細審查后再決定，一項被判定為欺詐的案例在多大程度真的是高風險的，因為他們無法獲知究竟是什么因素導致了風險評分。此外，發放津貼的官僚們也不具備必要的信息，使他們能夠重新調整自己在新形勢中的角色。相反，當CAF團隊提出一個風險評估分數時，發放津貼的團隊會基于（潛在）欺詐的假定而進一步運作，并由此撤銷了前一階段團隊的舉證責任。因此即使這套系統沒有直接作用于申請者，也會對服務過程產生重大影響。

就官僚的自由裁量空間而言，這在發放津貼的團隊中正式存在，但要使用這一自由裁量權，例如，根據官僚的觀點或印象進行溝通或行動，認為個別高風險只是錯誤而非欺詐，卻受到系統評估結果的抑制。然而，由于正式的制度環境沒有改變，公共部門一開始就沒有意識到，隨著AI系統的作用變得更大，它對官僚們非正式的反饋渠道和機制都產生了重大抑制作用。

事實上，相關訪談顯示，AI的使用只是被視為實施這項政策的工具選項，整套系統也是倉促設立的。關于它的程序、工作說明和歸檔缺乏適應性調整，各級官僚對其專業知識也太少。而且，官僚們在這個議題上的考慮與高層政策存在著很大的不同。在中央部門的政治考慮中，嚴控打擊欺詐非常重要，因此創設了這一方面的考核指標。但在實際運行中，專業人員需要隨時準備兌現成果，因而面臨著很高的工作壓力，但同時，糟糕的信息質量和通信系統保障，又使得官僚們難以精準識別各類情況并及時做出調整。在這樣的制度模式下，官僚們的角色發生了意料之外的轉變，卻沒有明確的與新角色相適應的政策和技能培訓。

密歇根州的集成數據自動化系統(MiDAS)

密歇根州的案例最終證明，徹底的自動化是不可靠的。

密歇根州實施了一個自動失業保險系統，目的是降低運營成本，并有針對地打擊失業保險索賠中的欺詐行為。由于密歇根州長期以來的財政問題，和UIA (失業保險機構)糟糕的運行狀況，導致失業人員的福利無法得到保障，因此該系統的實施最初是為了使UIA實現現代化，并簡化相關審核程序。

這種完全自動化的獲取失業申請和識別欺詐行為的方式，導致了針對失業保險申請者的大約4.8萬項欺詐指控。這些被懷疑者收到了一份預設答案的在線問卷，如果收件人沒有在10天內回復問卷，或者MiDAS系統自動判定他們的回答不令人滿意，那么會自動被判定為存在欺詐行為。被懷疑為欺詐者只得上訴，一些人則轉向法律援助。處理這些案件的律師很快就發現了一個令人不安的趨勢：該州政府其實無法提供證據，證明MiDAS針對大多數申請者的欺詐指控。根據2016年進行的審計，只有8%的索賠發現存在實際欺詐行徑。

關于官僚們在UIA實施MiDAS系統過程中的角色，有幾點值得說明。首先，隨著MiDAS的實施，UIA員工總數的三分之一被解雇。2015年10月，眾議院通過(HB)4982號法案，禁止UIA僅通過計算機程序做出欺詐決定，由此結束了在不需要人工干預的情況下發布欺詐索賠這一進程。其次，審計強調“需要為UIA的員工及其合作伙伴進行針對MiDAS數據的定期安全培訓”。這意味著，對于MiDAS系統，UIA需要雇傭額外的員工來執行這一系統的新功能。最后，最近的一份報告顯示，自從COVID-19爆發以來，UIA不僅雇傭額外的官僚來填補由監控MiDAS系統帶來的新任務，而且還讓承包商自己來承擔回應索賠電話，進行事實調查，解決簡單的審判等任務。

討論

這兩個案例的情況非常相似，即簡化審核過程，使其更有效率，并更可靠地識別欺詐行徑。

在密歇根州的案例中，實現AI和自動化被描述為一種在沒有人工干預的情況下監測欺詐索賠的手段。從數據分析到向（潛在的）索賠人發出信件，這些決定都是完全自動化的。這導致三分之一的機構工作人員被解雇，并缺乏對個別個案決定的監督和審查。事實上，隨著批評的增加，UIA雇傭了新的官僚，其新職能主要圍繞監控系統來滿足創新的需求。在荷蘭的案例中，官僚們在判定是否欺詐的決策方面仍然扮演著相對穩定的角色。然而，AI系統的應用創設了一種不同類型的工作，而各自部門所需的人員配備卻并不齊全。盡管官僚工作的內容從根本上發生了變化，但該組織只是將其當作一項政策工具，而不承認戰略性轉變。

基于這些觀察結果，我們提出了這兩種情況下新的組織結構和人力資源的協調，即本文所說行政過程創新。在密歇根州，我們還看到了一種概念上的創新，即提出一種解決欺詐問題的新方法，因為使用AI系統能夠比人類更準確、更快、更有效地處理欺詐案件。這些案例進一步表明，基于AI提供的公共服務，并沒有帶來大規模的政府組織重建。在這兩個案例中，AI的引入仍然以完成任務為重點，并受到效率或有效性考慮的約束。

正如已有研究指出的，我們發現系統創新可以替代某些任務。然而，引入AI來補充或支持人類智能，從而導致官僚角色的轉變，而組織背景并沒有隨之改變，這一點卻極少被已有研究注意。但是這些變化趨勢，確實對官僚的非正式自由裁量空間產生了負面影響，因為專業人員之間只是共享了基于AI的信息，而不包括與此相伴的不確定性（例如那些源自模型、數據質量和對此所作理解的不確定性）。這不僅模糊了裁量自由的空間，而且也為組織的進一步學習造成障礙。這留給我們的兩方面啟示，一方面，構建一套有關AI所帶來的根本轉變的理論敘述是至關重要的，包括警示人們只在功能性層面定義AI的價值是何其有害的。另一方面，這些案例表明，當AI被嵌入到常規管理過程中，而專業人員卻沒有完全理解他們在利用艱深晦澀的算法進行決策的真正意涵，這種情況盡管不那么明顯，卻仍有可能發生。這一點在荷蘭的案例中體現得很明顯：組織內的專家通常能感受到應用AI系統所帶來的深刻影響，也能感到由管理、組織和決策者所設目標的限制；而且，公共部門內的專業人員也沒有真正用到裁量自由，也沒有找到對這套系統所造成的影響進行內部反饋的有效機制。而且，制度性壓力會使得人們更難以在一定組織背景下發展出創新。例如，組織結構仍停留在對外界做出反應的階段，而未能緊追由數字化進程所帶來的工作進程的轉變。這意味著，全系統性的深刻變革，顯然已經超出了仍處于上一階段水平的組織自身的能力范圍。

綜上所述，這些發現都限定在將AI系統整合到一個公共組織中，并特別關注官僚角色定義的變化。這在本質上是社會和技術體系之間的互動的過程。

結語

本文探討了在不同的組織背景下，應用AI技術會如何影響官僚角色定義中的創新問題。我們首次運用比較研究方法，探索在公共部門創新這一領域應用AI系統的影響。兩個案例都表明，當一套新的數字系統被用于滿足復雜的組織任務，而這套組織中又包含了機構和個人層面的動態變化時，相關決定就會被視為是在清除了官僚之間縱向與橫向的關系后自動做出的。在荷蘭的案例中，過程創新主要發生在官僚的任務中；而在美國的案例中，圍繞官僚工作的轉變發生在更為廣闊的領域。然而，未來的研究還需要在這兩種不同的系統背景中展開，理清各自轉變中所涉及的因素以及它們之間如何相互影響。我們還發現，僅僅是決心要應用AI系統，就足以對官僚角色的定義產生影響。本研究圍繞AI的設計特征與應用過程的潛在影響提出了進一步值得研究的問題：這些潛在影響在最初設計時可能并未考慮到，卻可能在系統的調適與融合中發揮作用。

編譯｜安安

審核｜查皓

終審｜Mono

?Political理論志

前沿追蹤/理論方法/專家評論

ID: ThePoliticalReview

原標題：《頂刊編譯｜不止于數字系統：不同組織背景中AI技術如何改變官僚的角色》

閱讀原文