服務(wù)級別協(xié)議（SLA）的執(zhí)行，可通過實(shí)時(shí)告警標(biāo)記違約和危險(xiǎn)行為而獲得“超能力”。但生成式人工智能革新第三方協(xié)議的潛力也有邊界。
圖源：Rob Schultz / Shutterstock ?
通過外包業(yè)務(wù)職能，CIO們可以節(jié)省成本，有時(shí)還能獲得專業(yè)能力，但同時(shí)也將風(fēng)險(xiǎn)從內(nèi)部員工轉(zhuǎn)移到幾乎不受自己監(jiān)管的第三方員工身上。
服務(wù)級別協(xié)議（SLA）能為CIO們提供針對這種風(fēng)險(xiǎn)轉(zhuǎn)移的保障，但傳統(tǒng)的SLA指標(biāo)和條款往往存在漏洞和報(bào)告滯后，無法實(shí)時(shí)捕捉運(yùn)營風(fēng)險(xiǎn)或威脅，直到為時(shí)已晚。
以Clorox（高樂氏）最近對Cognizant（高知特）的訴訟為例。這家跨國消費(fèi)品巨頭將其服務(wù)臺業(yè)務(wù)外包給高知特，指控高知特幫助臺員工在未使用強(qiáng)制身份驗(yàn)證流程的情況下泄露了高樂氏系統(tǒng)的密碼，導(dǎo)致2023年被“Scattered Spider”組織入侵。
高樂氏的訴訟援引了幫助臺通話錄音作為高知特疏忽的證據(jù)，但如果這些通話能被實(shí)時(shí)捕捉、轉(zhuǎn)錄并分析，并向高樂氏管理層發(fā)出即時(shí)告警呢？這種危險(xiǎn)行為是否就能被及早發(fā)現(xiàn)，從而阻止入侵？
在這里，生成式人工智能可能產(chǎn)生重大影響——它能從各種溝通渠道（甚至通過視頻捕捉行為）獲取信息，并分析其是否偏離了合同約定的服務(wù)標(biāo)準(zhǔn)。這將帶來近乎實(shí)時(shí)的危險(xiǎn)行為告警，從而促使人們重新思考現(xiàn)行?SLA?的做法。
擁有?12.9?萬名會員、遍布威斯康星與明尼蘇達(dá)的?Westconsin?信用社?CIO Kevin Hall?（凱文·霍爾）表示，“這正在顛覆?SLA?的整個(gè)概念，你現(xiàn)在可以追求服務(wù)質(zhì)量，而不僅僅是績效指標(biāo)。”
當(dāng)然，Hall（霍爾）也提醒，在這種場景下，CIO?若要對第三方施加?SLA?處罰，必須準(zhǔn)備迎接一場激烈拉鋸。
Hall（霍爾）說，“我最大的擔(dān)憂是執(zhí)行。要認(rèn)定一次?SLA?違約，你可能得做大量功課。第三方會拼命尋找每一個(gè)免責(zé)例子，真到索賠時(shí)，過程會非常痛苦，是一場艱苦的攻堅(jiān)戰(zhàn)。”
從實(shí)操角度，Hall（霍爾）建議?CIO?們可能只會追究重大違約。“必須是大額損失，才能讓你有清晰的論據(jù)去爭取。”
圣路易斯擁有?160?年歷史的健康科學(xué)與藥科大學(xué)?CIO Zachary Lewis?（扎卡里·劉易斯）也認(rèn)為，這種?SLA?執(zhí)法方式的轉(zhuǎn)變潛力巨大。
Lewis（劉易斯）說，“采用這種方式，我們可以牢牢掌握內(nèi)部威脅。系統(tǒng)可以立即觸發(fā)對潛在內(nèi)部威脅的警報(bào)，如果他們嘲笑自己的安全措施不足，或者貶低他們的客戶，我們可以立刻收到提醒。”
技術(shù)律師Cameron Powell（卡梅倫·鮑威爾）來自格雷戈?duì)枴啬帷ぐ⒛崧蓭熓聞?wù)所，他也認(rèn)為這種方法在應(yīng)對法律與合規(guī)風(fēng)險(xiǎn)方面大有裨益。
Powell（鮑威爾）舉例說，“你將能夠掃描Zoom會議，尋找風(fēng)險(xiǎn)問題。它可以識別諸如‘我們別發(fā)郵件說這事’之類的短語，這只是該方案可應(yīng)用的若干溝通渠道之一，為什么不在第三方起訴你或舉報(bào)人舉報(bào)你之前，就實(shí)時(shí)發(fā)現(xiàn)這些問題呢？”
一、摩擦與額外風(fēng)險(xiǎn)
盡管生成式人工智能以這種方式強(qiáng)化SLA?執(zhí)行，但圣路易斯?UHSP?的Lewis（劉易斯）也指出，它在落地時(shí)會遭遇巨大阻力。
“我們是否需要再養(yǎng)一個(gè)AI，去監(jiān)控第一個(gè)?AI?的所有數(shù)據(jù)監(jiān)控？如果是這樣，生成式?AI?本身就變成了新的第三方風(fēng)險(xiǎn)?！?/span>Lewis（劉易斯）問，“第三方公司會不會通過‘與客戶沙箱隔離’來逃避這種新型監(jiān)控？”
他還質(zhì)疑這種做法要持續(xù)多久：“難道我們要無限期地這樣干下去？”
Westconsin?信用社的?Hall?（霍爾）認(rèn)為，在呼叫中心場景里存在明顯收益——客戶有時(shí)會投訴并要求“正式記錄”。
Hall（霍爾）說，“如果我就在呼叫中心，客戶在抱怨我，我主動去上報(bào)的幾率很低，這套技術(shù)會改變這一現(xiàn)狀。”
然而，這種監(jiān)控方式也帶來隱私與合規(guī)風(fēng)險(xiǎn)，尤其是對醫(yī)療和金融機(jī)構(gòu)。Hall（霍爾）表示，第一步必須對實(shí)時(shí)轉(zhuǎn)錄內(nèi)容進(jìn)行“脫敏”，剔除任何受保護(hù)信息，如健康記錄或支付詳情。
“這簡直是（合規(guī)）噩夢，因?yàn)槊撁糌?zé)任落在我們身上。你怎樣才能‘信任并驗(yàn)證’生成式?AI?做得沒錯(cuò)？除非你不間斷地審計(jì)，”Hall（霍爾）反問，“它可能到處都是泄露（敏感數(shù)據(jù)）的小洞，讓我很難向董事會開口。他們會問：‘你承擔(dān)了多少風(fēng)險(xiǎn)？回報(bào)又是什么？’”
不過，Hall（霍爾）認(rèn)為仍可向董事會論證：該方法有望大幅提升第三方合規(guī)水平，從而強(qiáng)化公司整體合規(guī)姿態(tài)。
“如果我能用戰(zhàn)略與文化層面的理由說服他們，方案仍有希望獲得董事會支持?！?/span>
但律師Powell?（鮑威爾）及其他專家強(qiáng)調(diào)，生成式?AI?遠(yuǎn)非完美。標(biāo)記問題與拿到足夠可靠的證據(jù)去采取行動之間，存在鴻溝。
例如，生成式AI“不懂共情”，也分辨不出哪些話只是“為了安撫客戶或拉近關(guān)系”，Powell（鮑威爾）說。
他還舉出其他用例：通過視頻捕捉分析司機(jī)送貨的每個(gè)環(huán)節(jié)——包裹是否真的在時(shí)間戳那一刻送達(dá)？司機(jī)送完貨后是否順走了什么東西？
“這會把今天的?SLA?從‘服務(wù)級別協(xié)議’變成‘監(jiān)控級別協(xié)議’?！?Powell?（鮑威爾）說道。
二、隱私怎么辦？
專攻科技法律的前聯(lián)邦檢察官Mark Rasch（馬克·拉施）認(rèn)為，企業(yè)必須想辦法利用這股“無處不在的數(shù)據(jù)洪流”。
現(xiàn)任喬治·華盛頓大學(xué)法學(xué)院講師、Unit 221B?數(shù)據(jù)隱私與合規(guī)咨詢公司法律顧問的拉施說，“如今你能做到的事，兩年前幾乎不可能。過去最多只能做點(diǎn)抽檢，但‘能做到’與‘合理去做’完全是兩碼事。”
Rasch（拉施）及其他受訪律師指出，法律也在慢慢學(xué)著與生成式?AI?共處，法院最終會允許多大程度的分析，尚無定論。
他提到2011?年美國最高法院的“索雷爾案”，該判決探討醫(yī)生對隱私的期待值，結(jié)論：期待值極低。
LexisNexis Risk Solutions?集團(tuán)?CISO Flavio Villanustre（弗拉維奧·維拉努斯特雷）則指出另一風(fēng)險(xiǎn)。
他建議高管們可以掃描轉(zhuǎn)錄文本，但更應(yīng)信賴原始音頻——因?yàn)樯墒?AI?常在轉(zhuǎn)錄里“幻覺”。
當(dāng)然，Villanustre（維拉努斯特雷）提醒，生成式?AI?同樣可能偽造音頻；經(jīng)其處理的音視頻能否被采信仍是未知數(shù)，迫使?CIO?必須保留一份“不可被?Gen-AI?篡改”的原始錄音備份。
他說，“在復(fù)雜場景下，生成式?AI?可能誤導(dǎo)你”。
醫(yī)療領(lǐng)域更是如此。律師Powell?（鮑威爾）指出：“每段錄音都在產(chǎn)生新的?PHI（受保護(hù)健康信息）。誰能訪問？你可能得為這批錄音再造一整套?HIPAA?審計(jì)鏈?！?/span>
金融、能源、交通、制藥等所有高度監(jiān)管行業(yè)都會面臨類似難題。
若音視頻被實(shí)時(shí)分析并告警，執(zhí)法或其他政府部門會否要求接入？能否下達(dá)指令，一旦識別某人的聲音就立即向當(dāng)局報(bào)告？
三、超越SLA
IllumineX?首席執(zhí)行官Gary Longsine（加里·朗斯恩）認(rèn)為，隱私擔(dān)憂可能多余，“客戶自己也在錄音，這船早就開了?！?/span>
此外，原本用來追蹤第三方SLA?的生成式?AI?能力，同樣可用于企業(yè)內(nèi)部員工。
想想梅西百貨一名會計(jì)師成功隱瞞1.54?億美元、連續(xù)三年未被發(fā)現(xiàn)，最終迫使零售商推遲并重述財(cái)報(bào)。IDC?總裁Crawford Del Prete（克勞福德·德爾·普雷特）說，若用生成式?AI?審計(jì)，“第一時(shí)間就會報(bào)警?！?/span>
人力資源也能受益，Powell?（鮑威爾）補(bǔ)充：提前發(fā)現(xiàn)誰打算離職。?
他說，“你可以把內(nèi)部聊天記錄喂給系統(tǒng)，看誰準(zhǔn)備走人。員工在真正離職前早已‘語言脫鉤’——用詞和語氣都會變，生成式?AI?是第一個(gè)能快速捕捉到這些信號、并留給你反應(yīng)時(shí)間的系統(tǒng)。”
作者：Evan Schuman（埃文·舒曼）
零售科技媒體StorefrontBacktalk?的創(chuàng)始主編，曾任?CBSNews.com、RetailWeek、Computerworld、eWeek?專欄作家，文章散見于?BusinessWeek、VentureBeat、Fortune、《紐約時(shí)報(bào)》、USA Today、路透社、《費(fèi)城問詢報(bào)》、《巴爾的摩太陽報(bào)》、《底特律新聞報(bào)》與《亞特蘭大憲法報(bào)》等。Evan?也是?CIO、CSO、Network World?和?InfoWorld?的?？汀?/span>
憑借報(bào)道《設(shè)計(jì)缺陷導(dǎo)致Microsoft Authenticator?覆蓋?MFA?賬戶，用戶被鎖》榮獲?2025?年度?AZBEE?企業(yè)新聞?lì)惤皙?jiǎng)。
睿觀：
生成式AI（人工智能）正為傳統(tǒng)的服務(wù)級別協(xié)議（SLA）執(zhí)行帶來顛覆性變革。通過對通話、視頻等多種渠道進(jìn)行近乎實(shí)時(shí)的分析，AI能夠即時(shí)告警第三方供應(yīng)商的危險(xiǎn)行為（如泄露密碼）或違規(guī)言論，從而將滯后的、被動的SLA審計(jì)，轉(zhuǎn)變?yōu)?strong>主動的、預(yù)測性的風(fēng)險(xiǎn)管控。然而，這項(xiàng)“超能力”也伴隨著巨大的風(fēng)險(xiǎn)與邊界。在實(shí)踐層面，供應(yīng)商的激烈抵制將使違約認(rèn)定的執(zhí)行變得極其困難；在合規(guī)層面，對實(shí)時(shí)通信的監(jiān)控會產(chǎn)生海量的、需要“脫敏”的隱私數(shù)據(jù)（如受保護(hù)的健康信息），帶來噩夢般的合規(guī)與審計(jì)負(fù)擔(dān)；在技術(shù)層面，AI自身的幻覺、缺乏共情能力，以及其分析結(jié)果的法律效力，都使其難以成為可靠的執(zhí)法依據(jù)。因此，盡管潛力巨大，但利用AI革新SLA并非簡單的技術(shù)問題，而是一場復(fù)雜的法律、倫理與信任博弈。在相關(guān)法律框架成熟之前，CIO（首席信息官）必須謹(jǐn)慎權(quán)衡其帶來的主動風(fēng)控收益，與可能引入的隱私泄露、合規(guī)噩夢和新型第三方風(fēng)險(xiǎn)，避免將SLA從“服務(wù)級別協(xié)議”變成“監(jiān)控級別協(xié)議”。
當(dāng)AI開始監(jiān)控外包員工的每一句話時(shí)，你首先需要擔(dān)心的，可能不是他們的違規(guī)，而是你自己的合規(guī)。
