不止于數(shù)字系統(tǒng)：不同組織背景中AI技術(shù)如何改變官僚的角色

摘要:

通過(guò)探索不同組織背景中由AI技術(shù)所做的公共決策，如何影響官僚角色定義中的創(chuàng)新因素，本文強(qiáng)調(diào)了AI的應(yīng)用對(duì)公共部門創(chuàng)新的影響。我們研究了荷蘭育兒津貼和美國(guó)綜合數(shù)據(jù)自動(dòng)化系統(tǒng)這兩個(gè)案例，主要關(guān)注其中組織、機(jī)構(gòu)和個(gè)人層面的因素。在這兩個(gè)案例中，我們觀察到了行政過(guò)程的創(chuàng)新，即組織結(jié)構(gòu)和官僚的任務(wù)都發(fā)生了轉(zhuǎn)變；而在美國(guó)的案例中，我們發(fā)現(xiàn)了概念創(chuàng)新，即通過(guò)取代全部的官僚來(lái)解決福利欺詐問(wèn)題。

關(guān)鍵詞：

公共決策；人工智能；數(shù)字福利體系；官僚；公共部門創(chuàng)新

作者簡(jiǎn)介:

Sarah N. Giest

Bram Klievink

萊頓大學(xué)公共管理學(xué)院

編譯來(lái)源:

Sarah N. Giest & Bram Klievink (2022): More than a digital system: how AI is changing the role of bureaucrats in different organizational contexts, Public Management Review.

本文作者：Sarah N. Giest

本文二作：Bram Klievink

引言

數(shù)字時(shí)代的決策在朝向自動(dòng)化發(fā)展，公共服務(wù)的提供方式也在與時(shí)俱進(jìn)。但這一主題下的大部分研究都集中關(guān)注街頭官僚的自由裁量權(quán)、有限的面對(duì)面互動(dòng)，以及數(shù)字系統(tǒng)本身，而很少涉及到，機(jī)構(gòu)的變化如何通過(guò)影響公共決策和服務(wù)提供預(yù)期來(lái)塑造官僚的角色。

隨著當(dāng)前使用數(shù)字系統(tǒng)和算法應(yīng)用的不斷增長(zhǎng)，一種新的服務(wù)提供機(jī)制已經(jīng)粗具規(guī)模。各種AI技術(shù)不僅改變了技術(shù)領(lǐng)域，而且還影響了通信渠道、決策功能和相應(yīng)機(jī)制，以及實(shí)施控制和自由裁量權(quán)的水平。本文認(rèn)為，這些變化都是由如何設(shè)計(jì)技術(shù)，以及如何將技術(shù)融入現(xiàn)有的組織架構(gòu)中引起的。本研究關(guān)注的正是技術(shù)與組織環(huán)境的融合。

本研究的案例選擇遵循Kuipers等人（2014）公共部門創(chuàng)新的基本原理，區(qū)分了多數(shù)主義系統(tǒng)和基于共識(shí)的系統(tǒng)。本研究以它們之間的差異以及它們表現(xiàn)出的變化類型作為起點(diǎn)。在此基礎(chǔ)上，我們研究了屬于這兩類的兩個(gè)案例：密歇根州的案例（美國(guó)，多數(shù)主義系統(tǒng)）和荷蘭育兒津貼案例（基于共識(shí)的系統(tǒng)）。在密歇根州的案例中，AI系統(tǒng)的實(shí)施導(dǎo)致失業(yè)管理局員工的下崗潮，在經(jīng)歷了危機(jī)后，則創(chuàng)建新的職位，對(duì)整個(gè)系統(tǒng)及與之相關(guān)的數(shù)據(jù)進(jìn)行監(jiān)管。在荷蘭的案例中，我們發(fā)現(xiàn)漸進(jìn)式的變化影響了組織結(jié)構(gòu)，而官僚們的工作卻發(fā)生了根本性的變化，導(dǎo)致了關(guān)于育兒津貼的錯(cuò)誤決定?；谶@些觀察，我們看到了這兩種情況下新的組織結(jié)構(gòu)和人力資源的協(xié)調(diào)，即行政過(guò)程創(chuàng)新。而在密歇根州，我們也看到了一種概念創(chuàng)新，即運(yùn)用AI從而更精準(zhǔn)、迅速、有效地解決欺詐問(wèn)題。

理論

公共部門創(chuàng)新

組織設(shè)置和技術(shù)系統(tǒng)的交叉領(lǐng)域，已經(jīng)涌現(xiàn)了大量不同的研究和理論，而本文關(guān)注官僚所使用的技術(shù)系統(tǒng)與組織背景的融合，正是這二者的關(guān)系為創(chuàng)新的發(fā)生創(chuàng)造了環(huán)境。新興技術(shù)、組織和服務(wù)設(shè)置，以及那些實(shí)現(xiàn)系統(tǒng)技術(shù)動(dòng)態(tài)變化的交叉融合，創(chuàng)造了增量創(chuàng)新或激進(jìn)創(chuàng)新。所謂增量創(chuàng)新，指的是對(duì)現(xiàn)有產(chǎn)品或服務(wù)的微小改變，而激進(jìn)創(chuàng)新，則指的是“通過(guò)引入新服務(wù)或?qū)嵤┬碌慕桓斗椒ā比〈F(xiàn)有產(chǎn)品或服務(wù)。

DeVries、Bekkers和Tummers（2014）定義了公共部門創(chuàng)新的四種類別：

過(guò)程創(chuàng)新，指的是注重提高內(nèi)部和外部過(guò)程的質(zhì)量和效率。過(guò)程創(chuàng)新又包括兩類：行政過(guò)程創(chuàng)新，包括組織實(shí)踐、新的組織結(jié)構(gòu)和人力資源的協(xié)調(diào)；技術(shù)過(guò)程創(chuàng)新，將新元素引入組織生產(chǎn)或服務(wù)操作系統(tǒng)；

產(chǎn)品或服務(wù)創(chuàng)新，指的是創(chuàng)造新的公共服務(wù)或生產(chǎn)創(chuàng)新；

治理創(chuàng)新，指的是解決特定社會(huì)問(wèn)題的新形式和過(guò)程；

概念創(chuàng)新，它們涉及到新的概念，甚至是新的模式，以重新定義一個(gè)特定問(wèn)題的本質(zhì)及其可能的解決方案。

組織層面和個(gè)人層面的特征，對(duì)于公共部門創(chuàng)新的出現(xiàn)，都是具有影響力的。其中包括政府支持的長(zhǎng)期規(guī)劃和頂層設(shè)計(jì)，以及通過(guò)教育和培訓(xùn)來(lái)投資人力資本，提高勞動(dòng)者技能。

公共部門的專業(yè)人員的行為和態(tài)度可能會(huì)因?yàn)锳I系統(tǒng)的引入和運(yùn)用而發(fā)生改變。轉(zhuǎn)變的內(nèi)容會(huì)因AI系統(tǒng)所在的背景和結(jié)構(gòu)的不同而有區(qū)別，轉(zhuǎn)變的結(jié)果包括AI系統(tǒng)的引入和運(yùn)用如何影響官僚的行為。但這一轉(zhuǎn)變可能是按照預(yù)期實(shí)現(xiàn)的，即達(dá)成創(chuàng)新的目標(biāo)，但也可能出現(xiàn)預(yù)期之外的結(jié)果。研究表明，技術(shù)設(shè)施與機(jī)構(gòu)變化會(huì)相互影響。新技術(shù)的運(yùn)用提高了公共組織的能力，但其結(jié)果往往不按事先的預(yù)期展開(kāi)。

AI技術(shù)往往被認(rèn)為能從根本上改變公共服務(wù)或政策。盡管在環(huán)境層面上，AI被認(rèn)為帶來(lái)了根本性的變化，但在特定應(yīng)用程序的層面上，它可能只是持續(xù)性變化的一部分。這一方面是公共組織所采取的漸進(jìn)式變革的后果，另一方面是這類技術(shù)的引入所帶來(lái)的變化，與根本性變化之間還存在差距。

管理結(jié)構(gòu)中官僚的角色和功能

在日益數(shù)字化和自動(dòng)化的時(shí)代，官僚的角色正在發(fā)生變化。過(guò)去的研究表明，這不僅是先進(jìn)技術(shù)或數(shù)字系統(tǒng)本身帶來(lái)的，還可能源自官僚群體所處的組織和監(jiān)管結(jié)構(gòu)，官僚們?yōu)閼?yīng)對(duì)這些背景而長(zhǎng)期積累形成了一定的經(jīng)驗(yàn)和文化。本文側(cè)重于探究，由于機(jī)構(gòu)層面的特征所造成的官僚角色的轉(zhuǎn)變，這些特征可能影響官僚的縱向和橫向關(guān)系。一般來(lái)說(shuō)，這些因素可以分為機(jī)構(gòu)層面的因素和協(xié)同作用的個(gè)人層面的因素。

在機(jī)構(gòu)層面上，公共組織內(nèi)部的管理活動(dòng)與管理者，通過(guò)體現(xiàn)于勞動(dòng)并參與到?jīng)Q策過(guò)程，而對(duì)機(jī)構(gòu)的表現(xiàn)產(chǎn)生重要的作用。此外，政治上的注意力也會(huì)影響到政策重點(diǎn)。簡(jiǎn)而言之，“機(jī)構(gòu)通過(guò)賦予身份，即通過(guò)選擇那些被認(rèn)為與決策相關(guān)的因素，來(lái)塑造社會(huì)行為者的認(rèn)知?！?/p>

在個(gè)人層面上，已有研究大多討論在一個(gè)日益自動(dòng)化的環(huán)境中街頭官僚發(fā)揮了怎樣的作用。最近的研究強(qiáng)調(diào)，盡管街頭官僚所能提供的公共服務(wù)正在被自動(dòng)化和數(shù)字化淘汰，但官僚個(gè)人仍在影響與公民相關(guān)的政策決策和執(zhí)行?？偟脕?lái)說(shuō)，官僚個(gè)人仍然在決策過(guò)程中扮演著角色，只不過(guò)他們的角色，特別是自由裁量權(quán)部分發(fā)生了微妙的變化。這是因?yàn)樗麄儾回?fù)責(zé)處理有關(guān)公民的常規(guī)決策，而只是負(fù)責(zé)例外情況，通?；诳赡艿玫缴霞?jí)官員或數(shù)字系統(tǒng)確認(rèn)的預(yù)期來(lái)做出決定。因此可以說(shuō)，“信息化并沒(méi)有摧毀自由裁量權(quán)，而是模糊了自由裁量權(quán)”。

許多研究將機(jī)構(gòu)層面和個(gè)人層面的動(dòng)態(tài)變化分開(kāi)處理，從而忽略了更大的組織變化對(duì)官僚個(gè)體角色的影響。但本文指出，真正對(duì)官僚角色帶來(lái)挑戰(zhàn)的并非信息和數(shù)據(jù)技術(shù)本身，而是它們所嵌入的組織背景，以及需要工作于其中的更新了的協(xié)調(diào)和管理過(guò)程。

將算法程序融入當(dāng)前管理結(jié)構(gòu)中

最近關(guān)于公共部門數(shù)字化轉(zhuǎn)型的研究，大都提到數(shù)字化會(huì)改變官僚和組織文化，此外，在與政府運(yùn)用信息通信技術(shù)相關(guān)的其他文獻(xiàn)中，也可以找到系統(tǒng)性或整體性分析的思路。本文沿著這一思路，在解釋研究對(duì)象時(shí)尋求更具整合性的觀點(diǎn)。

技術(shù)的應(yīng)用雖能引起社會(huì)性變化，但這并不是說(shuō)，組織慣例和專業(yè)實(shí)踐的變化是技術(shù)引入的預(yù)期結(jié)果。信息和通信技術(shù)可能有助于加強(qiáng)現(xiàn)有的做法，并使之獲益，或者強(qiáng)化使用了新系統(tǒng)的官僚環(huán)境；但這可能不符合AI的應(yīng)用情況。相反，雖然在管理過(guò)程中的特定階段使用了AI技術(shù)，但它們可能超出專業(yè)人員的能力范圍，往往導(dǎo)致系統(tǒng)的實(shí)際角色和功能與設(shè)計(jì)之初大相徑庭。

結(jié)合這兩者，本文提出，AI不僅影響官僚的工作，而且還影響工作的內(nèi)容和完成工作的環(huán)境。這種影響既有按照預(yù)期實(shí)現(xiàn)的，也有預(yù)期之外的。

公共部門的創(chuàng)新指的是，通過(guò)新的知識(shí)、新的組織、新的管理或過(guò)程，將新的元素引入到公共服務(wù)中，這代表了與過(guò)去的某種斷裂。組織背景會(huì)影響管理的實(shí)施過(guò)程，并最終影響公共部門所發(fā)生的變化。此外，機(jī)構(gòu)層面和個(gè)人層面的因素也起著一定的作用。

圖1

圖1描繪了早期研究中技術(shù)的實(shí)施與其對(duì)公共部門變化的影響，以及二者之間的關(guān)系。

研究進(jìn)路

本文基本上遵循Kuipers等人（2014）的論點(diǎn)來(lái)選擇案例，即多數(shù)主義系統(tǒng)可能表現(xiàn)出更多自上而下的改革，這可能導(dǎo)致更激進(jìn)的變化，而基于共識(shí)的系統(tǒng)更愿意顯示更多自下而上和漸進(jìn)的變化。

本文選擇了兩個(gè)案例進(jìn)行探索性分析：一個(gè)是荷蘭育兒津貼，另一個(gè)是密歇根州的集成數(shù)據(jù)自動(dòng)化系統(tǒng)。荷蘭的案例所發(fā)生的背景，通常被認(rèn)為是一個(gè)基于共識(shí)的系統(tǒng)；密歇根州的案例所發(fā)生的背景，則是相對(duì)多數(shù)主義的。這兩起案件的相似之處在于，它們都得到了公共機(jī)構(gòu)的廣泛宣傳和審查，比如密歇根州案例的審計(jì)報(bào)告和荷蘭案例的議會(huì)聽(tīng)證。在這兩種情況下，一系列與公共部門創(chuàng)新有關(guān)的問(wèn)題都可以追溯到AI系統(tǒng)及其在福利政策背景中的運(yùn)用。

荷蘭育兒津貼案例的數(shù)據(jù)收集主要基于官方報(bào)告和聽(tīng)證會(huì)。這一案例的相關(guān)情況已被媒體廣泛報(bào)道，并由監(jiān)督機(jī)構(gòu)和荷蘭議會(huì)通過(guò)對(duì)該案件的正式調(diào)查進(jìn)行了廣泛的記錄和分析。對(duì)此案的分析主要基于公開(kāi)的報(bào)告和19起與此案例有關(guān)的荷蘭的公開(kāi)議會(huì)聽(tīng)證，其中一些聽(tīng)證會(huì)是由參與此案的高級(jí)官員舉行的。這部分資料的來(lái)源不一定限于在聽(tīng)證會(huì)上受到詢問(wèn)的官員，也可能包括詢問(wèn)者，他們當(dāng)中有些人是國(guó)會(huì)議員，會(huì)介紹他們所能提供的相關(guān)資料。

密歇根州的集成數(shù)據(jù)自動(dòng)化系統(tǒng)(MiDAS)， 不僅在媒體上，而且在法律訴訟、審計(jì)報(bào)告和新的立法活動(dòng)中也被廣泛討論。對(duì)此案的分析是基于這些不同的、且可公開(kāi)獲得的文件，包括立法文件、一份集體訴訟、兩份審計(jì)總報(bào)告和一份AI研究所的報(bào)告。

案例分析

荷蘭育兒津貼

荷蘭政府設(shè)立有一項(xiàng)育兒津貼，由荷蘭稅務(wù)和海關(guān)管理局的一個(gè)名為“Toeslagen”的部門管理。這項(xiàng)津貼的補(bǔ)助對(duì)象包括部分專業(yè)日托所和幼兒園。承保的金額取決于父母的收入。父母必須申請(qǐng)才能得到這些福利，而該機(jī)構(gòu)可以直接支付給父母或日托所。2019年時(shí)人們發(fā)現(xiàn)，在這一系統(tǒng)中，成千上萬(wàn)的父母不公平地被歸類為潛在詐騙犯。細(xì)小的管理錯(cuò)誤致使兒童父母的工作和生活遭受重大損失。后來(lái)，一個(gè)議會(huì)委員開(kāi)始調(diào)查這一丑聞，并最終導(dǎo)致荷蘭內(nèi)閣辭職。

數(shù)字系統(tǒng)在這一案例中扮演著重要的角色。負(fù)責(zé)育兒津貼的機(jī)構(gòu)原本為征稅而建立，但必須在緊縮時(shí)期支付每個(gè)家庭的福利。數(shù)字系統(tǒng)就為提高該部門的效率發(fā)揮了重要作用。在實(shí)際處理過(guò)程中，該部門引入和使用了一種風(fēng)險(xiǎn)分類模式，該模式是由一個(gè)特定的團(tuán)隊(duì)(CAF)引入的，最初目的是解決系統(tǒng)性欺詐問(wèn)題。這個(gè)模型是一個(gè)基于一套算法的AI學(xué)習(xí)模型，該算法提供了正確和不正確的申請(qǐng)者的例子，幫助AI學(xué)習(xí)“識(shí)別”危險(xiǎn)。該模型根據(jù)算法給出每一申請(qǐng)者的風(fēng)險(xiǎn)評(píng)分，并選擇了最高風(fēng)險(xiǎn)評(píng)分的申請(qǐng)者，再交由專業(yè)人員進(jìn)行處理。

該系統(tǒng)原本是一種創(chuàng)新，不僅是為了行政機(jī)構(gòu)的辦公效率，而且是為了滿足阻止欺詐的政治需要。但在實(shí)施的過(guò)程中，這套AI系統(tǒng)的用途也發(fā)生了變化：從幫助尋找欺詐者，變?yōu)閷?duì)公民產(chǎn)生實(shí)際的負(fù)面結(jié)果。之所以造成這一后果，是因?yàn)檫@套被設(shè)計(jì)用來(lái)感知特定目標(biāo)和收益的系統(tǒng)，被用在了一個(gè)與原有設(shè)計(jì)不同的環(huán)境中，導(dǎo)致實(shí)際運(yùn)行效果與預(yù)期作用失調(diào)，扭曲了創(chuàng)新過(guò)程。

而官僚的角色，在預(yù)期的正式角色與由創(chuàng)新引起的角色轉(zhuǎn)變之間，同樣存在差異。在整個(gè)系統(tǒng)運(yùn)行中，有兩個(gè)團(tuán)隊(duì)的作用很重要：首先是負(fù)責(zé)調(diào)查欺詐的CAF團(tuán)隊(duì)，但它不負(fù)責(zé)調(diào)查父母本人的情況，也不決定是否支付津貼；其次是負(fù)責(zé)發(fā)放津貼的團(tuán)隊(duì)，決定是否向個(gè)別申請(qǐng)者發(fā)放津貼。因此，該套系統(tǒng)實(shí)際上賦予了CAF團(tuán)隊(duì)一個(gè)更重要的角色，部分原因是發(fā)放津貼的團(tuán)隊(duì)開(kāi)始以不同的方式看待系統(tǒng)識(shí)別的案件，以及公共部門的專業(yè)人士開(kāi)始以不同的方式看待這些人，從一開(kāi)始就假定這些人犯了欺詐，并深入搜索相關(guān)證據(jù)。

正式使用該系統(tǒng)的過(guò)程，也就是檢測(cè)可能存在的欺詐的過(guò)程，而它的影響，也就是被該系統(tǒng)接收的所有申請(qǐng)人都被視為潛在的欺詐犯。發(fā)放津貼團(tuán)隊(duì)中的個(gè)別官僚們?cè)跊Q定如何處理潛在的欺詐案件方面發(fā)揮著穩(wěn)定的作用。然而，即使沒(méi)有確定欺詐行為，高風(fēng)險(xiǎn)評(píng)分本身還是會(huì)對(duì)現(xiàn)行津貼支付有潛在的影響。官僚們不可能仔細(xì)審查后再?zèng)Q定，一項(xiàng)被判定為欺詐的案例在多大程度真的是高風(fēng)險(xiǎn)的，因?yàn)樗麄儫o(wú)法獲知究竟是什么因素導(dǎo)致了風(fēng)險(xiǎn)評(píng)分。此外，發(fā)放津貼的官僚們也不具備必要的信息，使他們能夠重新調(diào)整自己在新形勢(shì)中的角色。相反，當(dāng)CAF團(tuán)隊(duì)提出一個(gè)風(fēng)險(xiǎn)評(píng)估分?jǐn)?shù)時(shí)，發(fā)放津貼的團(tuán)隊(duì)會(huì)基于（潛在）欺詐的假定而進(jìn)一步運(yùn)作，并由此撤銷了前一階段團(tuán)隊(duì)的舉證責(zé)任。因此即使這套系統(tǒng)沒(méi)有直接作用于申請(qǐng)者，也會(huì)對(duì)服務(wù)過(guò)程產(chǎn)生重大影響。

就官僚的自由裁量空間而言，這在發(fā)放津貼的團(tuán)隊(duì)中正式存在，但要使用這一自由裁量權(quán)，例如，根據(jù)官僚的觀點(diǎn)或印象進(jìn)行溝通或行動(dòng)，認(rèn)為個(gè)別高風(fēng)險(xiǎn)只是錯(cuò)誤而非欺詐，卻受到系統(tǒng)評(píng)估結(jié)果的抑制。然而，由于正式的制度環(huán)境沒(méi)有改變，公共部門一開(kāi)始就沒(méi)有意識(shí)到，隨著AI系統(tǒng)的作用變得更大，它對(duì)官僚們非正式的反饋渠道和機(jī)制都產(chǎn)生了重大抑制作用。

事實(shí)上，相關(guān)訪談顯示，AI的使用只是被視為實(shí)施這項(xiàng)政策的工具選項(xiàng)，整套系統(tǒng)也是倉(cāng)促設(shè)立的。關(guān)于它的程序、工作說(shuō)明和歸檔缺乏適應(yīng)性調(diào)整，各級(jí)官僚對(duì)其專業(yè)知識(shí)也太少。而且，官僚們?cè)谶@個(gè)議題上的考慮與高層政策存在著很大的不同。在中央部門的政治考慮中，嚴(yán)控打擊欺詐非常重要，因此創(chuàng)設(shè)了這一方面的考核指標(biāo)。但在實(shí)際運(yùn)行中，專業(yè)人員需要隨時(shí)準(zhǔn)備兌現(xiàn)成果，因而面臨著很高的工作壓力，但同時(shí)，糟糕的信息質(zhì)量和通信系統(tǒng)保障，又使得官僚們難以精準(zhǔn)識(shí)別各類情況并及時(shí)做出調(diào)整。在這樣的制度模式下，官僚們的角色發(fā)生了意料之外的轉(zhuǎn)變，卻沒(méi)有明確的與新角色相適應(yīng)的政策和技能培訓(xùn)。

密歇根州的集成數(shù)據(jù)自動(dòng)化系統(tǒng)(MiDAS)

密歇根州的案例最終證明，徹底的自動(dòng)化是不可靠的。

密歇根州實(shí)施了一個(gè)自動(dòng)失業(yè)保險(xiǎn)系統(tǒng)，目的是降低運(yùn)營(yíng)成本，并有針對(duì)地打擊失業(yè)保險(xiǎn)索賠中的欺詐行為。由于密歇根州長(zhǎng)期以來(lái)的財(cái)政問(wèn)題，和UIA (失業(yè)保險(xiǎn)機(jī)構(gòu))糟糕的運(yùn)行狀況，導(dǎo)致失業(yè)人員的福利無(wú)法得到保障，因此該系統(tǒng)的實(shí)施最初是為了使UIA實(shí)現(xiàn)現(xiàn)代化，并簡(jiǎn)化相關(guān)審核程序。

這種完全自動(dòng)化的獲取失業(yè)申請(qǐng)和識(shí)別欺詐行為的方式，導(dǎo)致了針對(duì)失業(yè)保險(xiǎn)申請(qǐng)者的大約4.8萬(wàn)項(xiàng)欺詐指控。這些被懷疑者收到了一份預(yù)設(shè)答案的在線問(wèn)卷，如果收件人沒(méi)有在10天內(nèi)回復(fù)問(wèn)卷，或者M(jìn)iDAS系統(tǒng)自動(dòng)判定他們的回答不令人滿意，那么會(huì)自動(dòng)被判定為存在欺詐行為。被懷疑為欺詐者只得上訴，一些人則轉(zhuǎn)向法律援助。處理這些案件的律師很快就發(fā)現(xiàn)了一個(gè)令人不安的趨勢(shì)：該州政府其實(shí)無(wú)法提供證據(jù)，證明MiDAS針對(duì)大多數(shù)申請(qǐng)者的欺詐指控。根據(jù)2016年進(jìn)行的審計(jì)，只有8%的索賠發(fā)現(xiàn)存在實(shí)際欺詐行徑。

關(guān)于官僚們?cè)赨IA實(shí)施MiDAS系統(tǒng)過(guò)程中的角色，有幾點(diǎn)值得說(shuō)明。首先，隨著MiDAS的實(shí)施，UIA員工總數(shù)的三分之一被解雇。2015年10月，眾議院通過(guò)(HB)4982號(hào)法案，禁止UIA僅通過(guò)計(jì)算機(jī)程序做出欺詐決定，由此結(jié)束了在不需要人工干預(yù)的情況下發(fā)布欺詐索賠這一進(jìn)程。其次，審計(jì)強(qiáng)調(diào)“需要為UIA的員工及其合作伙伴進(jìn)行針對(duì)MiDAS數(shù)據(jù)的定期安全培訓(xùn)”。這意味著，對(duì)于MiDAS系統(tǒng)，UIA需要雇傭額外的員工來(lái)執(zhí)行這一系統(tǒng)的新功能。最后，最近的一份報(bào)告顯示，自從COVID-19爆發(fā)以來(lái)，UIA不僅雇傭額外的官僚來(lái)填補(bǔ)由監(jiān)控MiDAS系統(tǒng)帶來(lái)的新任務(wù)，而且還讓承包商自己來(lái)承擔(dān)回應(yīng)索賠電話，進(jìn)行事實(shí)調(diào)查，解決簡(jiǎn)單的審判等任務(wù)。

討論

這兩個(gè)案例的情況非常相似，即簡(jiǎn)化審核過(guò)程，使其更有效率，并更可靠地識(shí)別欺詐行徑。

在密歇根州的案例中，實(shí)現(xiàn)AI和自動(dòng)化被描述為一種在沒(méi)有人工干預(yù)的情況下監(jiān)測(cè)欺詐索賠的手段。從數(shù)據(jù)分析到向（潛在的）索賠人發(fā)出信件，這些決定都是完全自動(dòng)化的。這導(dǎo)致三分之一的機(jī)構(gòu)工作人員被解雇，并缺乏對(duì)個(gè)別個(gè)案決定的監(jiān)督和審查。事實(shí)上，隨著批評(píng)的增加，UIA雇傭了新的官僚，其新職能主要圍繞監(jiān)控系統(tǒng)來(lái)滿足創(chuàng)新的需求。在荷蘭的案例中，官僚們?cè)谂卸ㄊ欠衿墼p的決策方面仍然扮演著相對(duì)穩(wěn)定的角色。然而，AI系統(tǒng)的應(yīng)用創(chuàng)設(shè)了一種不同類型的工作，而各自部門所需的人員配備卻并不齊全。盡管官僚工作的內(nèi)容從根本上發(fā)生了變化，但該組織只是將其當(dāng)作一項(xiàng)政策工具，而不承認(rèn)戰(zhàn)略性轉(zhuǎn)變。

基于這些觀察結(jié)果，我們提出了這兩種情況下新的組織結(jié)構(gòu)和人力資源的協(xié)調(diào)，即本文所說(shuō)行政過(guò)程創(chuàng)新。在密歇根州，我們還看到了一種概念上的創(chuàng)新，即提出一種解決欺詐問(wèn)題的新方法，因?yàn)槭褂肁I系統(tǒng)能夠比人類更準(zhǔn)確、更快、更有效地處理欺詐案件。這些案例進(jìn)一步表明，基于AI提供的公共服務(wù)，并沒(méi)有帶來(lái)大規(guī)模的政府組織重建。在這兩個(gè)案例中，AI的引入仍然以完成任務(wù)為重點(diǎn)，并受到效率或有效性考慮的約束。

正如已有研究指出的，我們發(fā)現(xiàn)系統(tǒng)創(chuàng)新可以替代某些任務(wù)。然而，引入AI來(lái)補(bǔ)充或支持人類智能，從而導(dǎo)致官僚角色的轉(zhuǎn)變，而組織背景并沒(méi)有隨之改變，這一點(diǎn)卻極少被已有研究注意。但是這些變化趨勢(shì)，確實(shí)對(duì)官僚的非正式自由裁量空間產(chǎn)生了負(fù)面影響，因?yàn)閷I(yè)人員之間只是共享了基于AI的信息，而不包括與此相伴的不確定性（例如那些源自模型、數(shù)據(jù)質(zhì)量和對(duì)此所作理解的不確定性）。這不僅模糊了裁量自由的空間，而且也為組織的進(jìn)一步學(xué)習(xí)造成障礙。這留給我們的兩方面啟示，一方面，構(gòu)建一套有關(guān)AI所帶來(lái)的根本轉(zhuǎn)變的理論敘述是至關(guān)重要的，包括警示人們只在功能性層面定義AI的價(jià)值是何其有害的。另一方面，這些案例表明，當(dāng)AI被嵌入到常規(guī)管理過(guò)程中，而專業(yè)人員卻沒(méi)有完全理解他們?cè)诶闷D深晦澀的算法進(jìn)行決策的真正意涵，這種情況盡管不那么明顯，卻仍有可能發(fā)生。這一點(diǎn)在荷蘭的案例中體現(xiàn)得很明顯：組織內(nèi)的專家通常能感受到應(yīng)用AI系統(tǒng)所帶來(lái)的深刻影響，也能感到由管理、組織和決策者所設(shè)目標(biāo)的限制；而且，公共部門內(nèi)的專業(yè)人員也沒(méi)有真正用到裁量自由，也沒(méi)有找到對(duì)這套系統(tǒng)所造成的影響進(jìn)行內(nèi)部反饋的有效機(jī)制。而且，制度性壓力會(huì)使得人們更難以在一定組織背景下發(fā)展出創(chuàng)新。例如，組織結(jié)構(gòu)仍停留在對(duì)外界做出反應(yīng)的階段，而未能緊追由數(shù)字化進(jìn)程所帶來(lái)的工作進(jìn)程的轉(zhuǎn)變。這意味著，全系統(tǒng)性的深刻變革，顯然已經(jīng)超出了仍處于上一階段水平的組織自身的能力范圍。

綜上所述，這些發(fā)現(xiàn)都限定在將AI系統(tǒng)整合到一個(gè)公共組織中，并特別關(guān)注官僚角色定義的變化。這在本質(zhì)上是社會(huì)和技術(shù)體系之間的互動(dòng)的過(guò)程。

結(jié)語(yǔ)

本文探討了在不同的組織背景下，應(yīng)用AI技術(shù)會(huì)如何影響官僚角色定義中的創(chuàng)新問(wèn)題。我們首次運(yùn)用比較研究方法，探索在公共部門創(chuàng)新這一領(lǐng)域應(yīng)用AI系統(tǒng)的影響。兩個(gè)案例都表明，當(dāng)一套新的數(shù)字系統(tǒng)被用于滿足復(fù)雜的組織任務(wù)，而這套組織中又包含了機(jī)構(gòu)和個(gè)人層面的動(dòng)態(tài)變化時(shí)，相關(guān)決定就會(huì)被視為是在清除了官僚之間縱向與橫向的關(guān)系后自動(dòng)做出的。在荷蘭的案例中，過(guò)程創(chuàng)新主要發(fā)生在官僚的任務(wù)中；而在美國(guó)的案例中，圍繞官僚工作的轉(zhuǎn)變發(fā)生在更為廣闊的領(lǐng)域。然而，未來(lái)的研究還需要在這兩種不同的系統(tǒng)背景中展開(kāi)，理清各自轉(zhuǎn)變中所涉及的因素以及它們之間如何相互影響。我們還發(fā)現(xiàn)，僅僅是決心要應(yīng)用AI系統(tǒng)，就足以對(duì)官僚角色的定義產(chǎn)生影響。本研究圍繞AI的設(shè)計(jì)特征與應(yīng)用過(guò)程的潛在影響提出了進(jìn)一步值得研究的問(wèn)題：這些潛在影響在最初設(shè)計(jì)時(shí)可能并未考慮到，卻可能在系統(tǒng)的調(diào)適與融合中發(fā)揮作用。

編譯｜安安

審核｜查皓

終審｜Mono

?Political理論志

前沿追蹤/理論方法/專家評(píng)論

ID: ThePoliticalReview

原標(biāo)題：《頂刊編譯｜不止于數(shù)字系統(tǒng)：不同組織背景中AI技術(shù)如何改變官僚的角色》

閱讀原文