AI專家表示，如果沒有人工監(jiān)督，由技術(shù)官僚主導(dǎo)的將AI工具引入政府的計劃，可能會錯誤地拒絕公民福利申請，使公民陷入申訴的“endless loops/無盡循環(huán)”。
圖源：David Everett Strickler / Unsplash
億萬富翁Elon Musk（埃隆·馬斯克）削減2萬億美元美國政府開支的計劃顯然包括用AI取代數(shù)萬名聯(lián)邦工作人員，但幾位AI專家表示，此舉可能會產(chǎn)生災(zāi)難性的后果。
在Musk（馬斯克）和新成立的Department of Government Efficiency/DOGE/政府效率部門獲取各機構(gòu)內(nèi)部信息后，Donald Trump（唐納德·特朗普）總統(tǒng)的政府已經(jīng)解雇了大約1萬名聯(lián)邦工作人員。Musk（馬斯克）在沒有充分證據(jù)的情況下聲稱，他發(fā)現(xiàn)了大量欺詐行為和政府浪費現(xiàn)象。
一名負(fù)責(zé)監(jiān)督此次削減成本行動的美國官員表示，Musk（馬斯克）和DOGE的最終目標(biāo)是“用機器取代人力”。該官員告訴《the Washington Post/華盛頓郵報》：“任何能夠?qū)崿F(xiàn)機器自動化的工作都將被自動化。技術(shù)官僚將取代官僚?！?/span>
然而，IT專家表示，至少在短期內(nèi)，該計劃存在缺陷。他們稱，AI現(xiàn)在或許能夠取代一些聯(lián)邦政府工作人員，未來可能取代更多，但這項技術(shù)還無法對福利發(fā)放及其他復(fù)雜決策做出判斷。
“AI大規(guī)模取代政府工作人員，是一個誘人卻危險的幻想，這暴露出對政府實際運作方式的根本誤解，”專注于AI和未來工作的咨詢公司W(wǎng)ork3 Institute的聯(lián)合創(chuàng)始人兼首席執(zhí)行官Deborah Perry Piscione（德博拉·佩里·皮西奧內(nèi)）說，“雖然AI肯定可以簡化一些繁瑣的文書工作，但用算法取代數(shù)萬名公務(wù)員的想法卻暴露了一種硅谷式的技術(shù)萬能論，可能會對公共服務(wù)造成嚴(yán)重破壞?！?/span>
Piscione（皮西奧內(nèi)）可以想象這樣的場景：一名申請福利的退伍軍人或面臨驅(qū)逐的移民，因AI誤解其文件資料，而遭遇AI聊天機器人無法理解其特殊情況的問題。
“這些并非假設(shè)性的情景——而是將政府服務(wù)僅僅視為數(shù)據(jù)處理問題的必然結(jié)果，”Piscione（皮西奧內(nèi)）說，她是新書《Employment Is Dead: How Disruptive Technologies Are Revolutionizing the Way We Work/就業(yè)已死：顛覆性技術(shù)如何徹底改變我們的工作方式》的作者。
一、目前可行的部分替代
專注于人工智能和其他新興技術(shù)的數(shù)字轉(zhuǎn)型公司TetraNoodle Technologies的創(chuàng)始人兼首席信息官Manuj Aggarwal（馬努杰·阿加瓦爾）表示，目前，AI可以取代一些數(shù)據(jù)處理、合規(guī)檢查和客戶服務(wù)崗位。
然而，政府還有許多其他類型的工作。“政府工作不僅僅是關(guān)于效率。還關(guān)乎理解民眾、做出判斷和建立信任，”他說，“AI可以處理數(shù)據(jù)，但它無法產(chǎn)生同理心、進(jìn)行談判或與公民建立真正的聯(lián)系。”
專注于人工智能領(lǐng)域的風(fēng)險投資公司InVitro Capital創(chuàng)始人兼執(zhí)行合伙人Amir Barsoum（阿米爾·巴蘇姆）補充道，除了數(shù)據(jù)處理和客戶服務(wù)崗位，如今AI還可以通過自動檢測欺詐行為和處理索賠申請，為美國政府節(jié)省大量資金。
Barsoum（巴蘇姆）認(rèn)為Musk（馬斯克）用AI取代聯(lián)邦工作人員的計劃是可行的?！熬喌恼ㄟ^減少官僚機構(gòu)，迫使各機構(gòu)在資源減少的情況下提高效率，從而提升效率、靈活性和決策速度，最終提高服務(wù)質(zhì)量，”他說。
然而，他補充說，政府工作人員的替代過程應(yīng)該循序漸進(jìn)，首先從那些不涉及關(guān)鍵決策的簡單行政崗位入手。
“這里需要評估的關(guān)鍵問題是AI是否會比人類犯更少的錯誤，”Barsoum（巴蘇姆）說，“除非這些系統(tǒng)能證明其準(zhǔn)確性遠(yuǎn)高于我們現(xiàn)有的方式，否則不應(yīng)部署?！?/span>
二、誰來監(jiān)督？
Aggarwal（阿加瓦爾）補充說，政府最終會意識到AI的局限性，他們將招聘新人，重點關(guān)注人際溝通而非文書工作。對于被AI取代的工作崗位，各機構(gòu)仍然需要提供監(jiān)督和問責(zé)。
“我們需要確保人類始終參與其中，”他補充說，“AI雖然很智能，但并非萬無一失。AI的錯誤可能會破壞基本服務(wù)，如果沒有適當(dāng)?shù)谋O(jiān)督，后果可能會很嚴(yán)重?！?/span>
IT Monks的業(yè)務(wù)發(fā)展主管Nick Spivak（尼克·斯皮瓦克）表示，目前尚不清楚特朗普政府將如何監(jiān)管那些取代工作崗位的AI工具。當(dāng)算法做出錯誤決策時，似乎并沒有相應(yīng)的應(yīng)對方案。
“AI可以提高政府效率，但用自動化系統(tǒng)取代數(shù)萬名員工，就好比用尚未通過路測的自動駕駛汽車來取代高速公路的交通管制，”他說，“理論上這或許可行，但一旦出現(xiàn)問題，后果將極為嚴(yán)重?！?/span>
Spivak（斯皮瓦克）指出，當(dāng)AI不再局限于數(shù)據(jù)處理等重復(fù)性任務(wù)，而開始進(jìn)行決策判斷時，就極有可能出現(xiàn)問題。當(dāng)政府AI系統(tǒng)出現(xiàn)錯誤時，民眾在對非人工做出的決策進(jìn)行申訴時，將會陷入“endless loops/無休止的循環(huán)”。
“政府決策影響著人們的真實生活，而AI并不具備人類的推理能力、對背景情況的理解能力，也無法承擔(dān)責(zé)任，”他說，“處理貸款申請時出現(xiàn)錯誤會讓人感到沮喪，但在處理殘疾福利或移民身份問題時出現(xiàn)錯誤，則可能會改變一個人的一生?！?/span>
盡管如此，Work3的Piscione（皮西奧內(nèi)）表示，從長遠(yuǎn)來看，用AI大規(guī)模取代政府工作人員“inevitable/不可避免的”。大約20%的聯(lián)邦雇員從事的是文員或行政工作，如今的AI已經(jīng)能夠勝任這些工作，而且AI還可以消除困擾許多政府部門的積壓工作。
“人們對AI取代政府工作人員這一現(xiàn)象本能地抵觸，源于一種美好卻過時的政府工作觀念，”她補充說，“批評者描繪出弱勢群體與沒有感情的機器艱難周旋的場景，但他們卻忽略了一個現(xiàn)實，即許多公民已經(jīng)在與過度勞累、工作質(zhì)量參差不齊的人類官僚機構(gòu)打交道時困難重重?！?/span>
她說，目前，社會保障管理員“mechanically/機械地”套用福利計算公式，IRS的工作人員無數(shù)次回答相同的問題，大量辦事員按照預(yù)先設(shè)定的流程處理文件。
“盡管批評者將這描繪成一場反烏托邦式的幻想，但他們忽略了困擾我們官僚體系的嚴(yán)重低效率問題，以及當(dāng)前AI技術(shù)驚人的能力，”Piscione（皮西奧內(nèi)）說，“坦率地說，大約30%的政府工作崗位不過是人類計算機，處理表格并遵循死板的規(guī)則，而機器可以更高效地完成這些工作?！?/span>
作者：Grant Gross（格蘭特·格羅斯）
Grant Gross（格蘭特·格羅斯）是CIO的資深撰稿人，是一名長期的科技記者。他曾擔(dān)任華盛頓記者，后來擔(dān)任IDG新聞服務(wù)的高級編輯。在他職業(yè)生涯的早期，他曾擔(dān)任Linux.com的總編輯和科技職業(yè)網(wǎng)站Techies.com的新聞編輯。在遙遠(yuǎn)的過去，他曾在明尼蘇達(dá)州和達(dá)科他州的報紙擔(dān)任記者和編輯。
譯者：寶藍(lán)
【睿觀：本文探討了億萬富翁埃隆·馬斯克削減美國政府開支的計劃，其中一個重要內(nèi)容是利用AI取代數(shù)萬名聯(lián)邦工作人員。雖然AI專家們承認(rèn)AI在數(shù)據(jù)處理、合規(guī)檢查和客戶服務(wù)等方面具有潛力，但他們也警告說，如果沒有人工監(jiān)督，由技術(shù)官僚主導(dǎo)的將AI工具引入政府的計劃可能會帶來災(zāi)難性的后果。
文章中，專家們強調(diào)了AI在理解人類情感、做出復(fù)雜判斷和建立信任方面的局限性。他們擔(dān)心AI可能會錯誤地拒絕公民福利申請，使公民陷入申訴的“無盡循環(huán)”。此外，他們還對政府如何監(jiān)管取代工作崗位的AI工具以及如何應(yīng)對AI做出錯誤決策的問題表示擔(dān)憂。
文章還提到，AI在自動檢測欺詐行為和處理索賠申請方面具有潛力，可以為政府節(jié)省大量資金。然而，專家們強調(diào)，AI的部署應(yīng)該循序漸進(jìn)，首先從那些不涉及關(guān)鍵決策的簡單行政崗位入手。他們還強調(diào)，需要對AI系統(tǒng)的準(zhǔn)確性進(jìn)行評估，以確保其性能優(yōu)于現(xiàn)有的人工方式。
這篇文章對馬斯克用AI取代聯(lián)邦雇員的計劃提出了質(zhì)疑，強調(diào)了AI在政府工作中的局限性以及可能存在的風(fēng)險。文章呼吁政府在引入AI工具時保持謹(jǐn)慎，并確保人類始終參與其中，以避免對公共服務(wù)造成嚴(yán)重破壞。
馬斯克計劃用AI取代數(shù)萬名聯(lián)邦雇員以削減政府開支。
AI專家承認(rèn)AI在某些方面的潛力，但警告其在理解人類情感、做出復(fù)雜判斷和建立信任方面的局限性。
專家們擔(dān)心AI可能錯誤拒絕福利申請，導(dǎo)致公民陷入申訴困境。
他們還對AI監(jiān)管和AI錯誤決策的應(yīng)對機制表示擔(dān)憂。
文章建議AI部署應(yīng)循序漸進(jìn)，并評估其準(zhǔn)確性。
文章強調(diào)人類參與的必要性，以避免AI對公共服務(wù)造成破壞?！?/span>
