CIO（首席信息官）們應(yīng)該做好準(zhǔn)備，因?yàn)檫@項(xiàng)責(zé)任很可能會(huì)落在信息技術(shù)部門身上，以下是他們現(xiàn)在可以采取的10個(gè)步驟。
圖源：Scharfsinn via Alamy Stock
人工智能是大多數(shù)組織的首要技術(shù)項(xiàng)目，并且正通過多種部門以BYOT（自帶技術(shù)）、供應(yīng)商提供以及自主開發(fā)等多種形式進(jìn)入企業(yè)。為了管理這種新興技術(shù)，必須定義、實(shí)施和管理人工智能的信任、風(fēng)險(xiǎn)和安全措施。誰來負(fù)責(zé)這項(xiàng)工作呢？大多數(shù)公司都不確定，但首席信息官們應(yīng)該做好準(zhǔn)備，因?yàn)檫@項(xiàng)責(zé)任很可能會(huì)落在信息技術(shù)部門身上，以下是首席信息官們現(xiàn)在可以采取的一些步驟。
一、與高層管理和董事會(huì)會(huì)面
人工智能的采用仍處于早期階段，但我們已經(jīng)看到了一系列令人尷尬的失敗案例，這些案例包括違反聯(lián)邦法規(guī)的就業(yè)歧視、偽造法庭文件、自動(dòng)駕駛車輛未能識(shí)別交通危險(xiǎn)，以及向消費(fèi)者提供的虛假零售承諾，這些承諾導(dǎo)致公司不得不支付賠償金。這些災(zāi)難大多是無意的，它們?cè)从谟脩魶]有檢查數(shù)據(jù)和算法的真實(shí)性，或者使用了錯(cuò)誤或不完整的數(shù)據(jù)而具有誤導(dǎo)性。最終結(jié)果是對(duì)公司聲譽(yù)和品牌的損害，這是任何首席執(zhí)行官或董事會(huì)都不想面對(duì)的。
首席信息官現(xiàn)在就應(yīng)該與首席執(zhí)行官和董事會(huì)進(jìn)行這樣的對(duì)話，即使用戶部門（以及信息技術(shù)部門）可能已經(jīng)在人工智能實(shí)施階段。討論的結(jié)果應(yīng)該是公司需要一種正式的方法來實(shí)施、審查和維護(hù)人工智能，并且人工智能是一個(gè)新的風(fēng)險(xiǎn)因素，應(yīng)該納入企業(yè)的公司風(fēng)險(xiǎn)管理計(jì)劃。
二、更新公司風(fēng)險(xiǎn)管理計(jì)劃
公司風(fēng)險(xiǎn)管理計(jì)劃應(yīng)該更新，將人工智能作為一個(gè)新的風(fēng)險(xiǎn)領(lǐng)域納入其中，必須積極管理。
三、與采購部門合作
Gartner預(yù)測，70%的新應(yīng)用開發(fā)將來自用戶部門。用戶正在使用低代碼或無代碼工具，這些工具都具備人工智能功能。公民開發(fā)的興起直接源于信息技術(shù)部門滿足用戶請(qǐng)求的速度太慢，這也導(dǎo)致用戶部門出現(xiàn)了許多小型信息技術(shù)預(yù)算，這些預(yù)算繞過信息技術(shù)部門，直接通過公司的采購功能進(jìn)行。
風(fēng)險(xiǎn)在于，用戶可能會(huì)購買未經(jīng)適當(dāng)審查的人工智能解決方案，這可能會(huì)給公司帶來風(fēng)險(xiǎn)。
首席信息官們可以通過與采購建立積極協(xié)作的關(guān)系來幫助，使信息技術(shù)部門能夠在訂單下達(dá)之前對(duì)人工智能產(chǎn)品進(jìn)行盡職調(diào)查。
四、參與用戶針對(duì)信息技術(shù)產(chǎn)品的招標(biāo)流程
盡管許多用戶在購買信息技術(shù)產(chǎn)品時(shí)會(huì)自行其是，但信息技術(shù)部門仍有空間通過定期與用戶互動(dòng)、了解用戶想要解決的問題，并在產(chǎn)品購買之前幫助用戶解決問題從而介入這一流程。業(yè)務(wù)分析師最適合做這項(xiàng)工作，因?yàn)樗麄兘?jīng)常與用戶互動(dòng)——而首席信息官們應(yīng)該鼓勵(lì)這種互動(dòng)。
五、升級(jí)信息技術(shù)安全實(shí)踐
企業(yè)已經(jīng)為交易系統(tǒng)升級(jí)了邊界和網(wǎng)絡(luò)內(nèi)的安全工具與方法，但人工智能應(yīng)用和數(shù)據(jù)帶來了獨(dú)特的安全挑戰(zhàn)。網(wǎng)站上的人工智能聊天功能可能會(huì)被重復(fù)的用戶或客戶提示所破壞，從而誘使聊天功能采取錯(cuò)誤的行動(dòng)。人工智能所操作的數(shù)據(jù)可能會(huì)被污染，從而提供虛假的結(jié)果，而公司可能會(huì)據(jù)此采取錯(cuò)誤的行動(dòng)。隨著時(shí)間的推移，人工智能模型也可能會(huì)變得過時(shí)，產(chǎn)生虛假的結(jié)果。
無論人工智能系統(tǒng)是由信息技術(shù)部門還是終端用戶托管，都可以通過修改質(zhì)量保證流程來加以改進(jìn)，使系統(tǒng)經(jīng)受用戶或信息技術(shù)部門的測試。后者試圖想象黑客會(huì)嘗試破壞系統(tǒng)的每一種可能方式，然后嘗試這些方式，看看系統(tǒng)是否會(huì)被破壞。另一種被稱為“紅隊(duì)測試”的方法是，公司請(qǐng)外部機(jī)構(gòu)來進(jìn)行質(zhì)量保證，通過嘗試破壞系統(tǒng)來進(jìn)行測試。
信息技術(shù)部門可以為人工智能安裝這種新的質(zhì)量保證方法，將其推銷給高層管理，并將其作為公司要求，用于任何新的由信息技術(shù)部門或終端用戶購買的人工智能解決方案的預(yù)發(fā)布測試。
六、提升信息技術(shù)員工的技能
在將人工智能解決方案發(fā)布到生產(chǎn)環(huán)境之前，通過黑客測試來檢驗(yàn)它們；或者在數(shù)據(jù)被授權(quán)用于人工智能之前，使用新工具來審查和清理數(shù)據(jù)；或者檢查人工智能模型和算法的“可靠性”——這些技能都是信息技術(shù)部門實(shí)現(xiàn)人工智能能力所必需的。員工技能提升是一項(xiàng)重要的指令，因?yàn)椴坏剿姆种坏墓菊J(rèn)為自己已經(jīng)為人工智能做好了準(zhǔn)備。用戶準(zhǔn)備得更不充分，因此很可能會(huì)歡迎與具備人工智能技能的信息技術(shù)部門建立積極的合作伙伴關(guān)系。
七、每月報(bào)告人工智能情況
人工智能管理的負(fù)擔(dān)很可能會(huì)落在信息技術(shù)部門身上，所以首席信息官們最好從上到下積極地?fù)肀斯ぶ悄堋?/span>這意味著在每月向董事會(huì)提交的信息技術(shù)報(bào)告中，把人工智能管理作為一個(gè)固定話題，并且定期向董事會(huì)匯報(bào)人工智能情況。一些首席信息官可能會(huì)猶豫是否承擔(dān)這一角色，但它也有其優(yōu)勢(shì)。這明確地將信息技術(shù)部門確立為企業(yè)的人工智能焦點(diǎn)，使信息技術(shù)部門更容易為企業(yè)的人工智能投資和部署制定指導(dǎo)方針。
八、清理數(shù)據(jù)并審查數(shù)據(jù)供應(yīng)商
信息技術(shù)部門是企業(yè)的數(shù)據(jù)管理者。它負(fù)責(zé)確保數(shù)據(jù)的最高質(zhì)量，通過使用數(shù)據(jù)轉(zhuǎn)換工具來清理和規(guī)范化數(shù)據(jù)。信息技術(shù)部門還有著審查外部數(shù)據(jù)供應(yīng)商質(zhì)量的長期歷史，高質(zhì)量的數(shù)據(jù)對(duì)人工智能至關(guān)重要。
九、與審計(jì)人員和監(jiān)管人員合作
外部審計(jì)人員和監(jiān)管人員在為信息技術(shù)部門識(shí)別人工智能最佳實(shí)踐方面，以及要求企業(yè)采用人工智能實(shí)踐方面（這些實(shí)踐隨后可以呈現(xiàn)給董事會(huì)和用戶）可以提供極大的幫助。外部審計(jì)公司可以在紅隊(duì)演練中提供幫助，以黑客利用者會(huì)采用的多種方式來測試新人工智能系統(tǒng)的性能，目的是找出系統(tǒng)的所有漏洞，以便將這些漏洞堵上。
十、開發(fā)人工智能生命周期方法論
到目前為止，大多數(shù)公司都專注于構(gòu)建或購買人工智能系統(tǒng)并將其投入使用。對(duì)于系統(tǒng)的維護(hù)或可持續(xù)性沒有給予太多考慮。因此，應(yīng)該定義AI系統(tǒng)的生命周期，而IT部門是負(fù)責(zé)執(zhí)行這一任務(wù)的。
作為這一生命周期方法論的一部分，應(yīng)該定期根據(jù)預(yù)先設(shè)定的指標(biāo)來監(jiān)測生產(chǎn)中的人工智能系統(tǒng)的準(zhǔn)確性。如果一個(gè)天氣預(yù)測系統(tǒng)一開始的準(zhǔn)確率為95%，但在接下來的九個(gè)月里下降到80%，就應(yīng)該對(duì)系統(tǒng)的算法、數(shù)據(jù)或兩者都進(jìn)行調(diào)整，直到其準(zhǔn)確率恢復(fù)到95%的水平。
作者：Mary E. Shacklett（瑪麗·E·沙克利特）
譯者：木青
睿觀：AI風(fēng)險(xiǎn)即企業(yè)風(fēng)險(xiǎn)；CIO須攜董事會(huì)定規(guī)、聯(lián)合采購審案、紅隊(duì)測試保安全，每月向董事會(huì)報(bào)告，建立全生命周期治理，以可信數(shù)據(jù)與人才為基，讓IT成為AI信任的守門人，驅(qū)動(dòng)業(yè)務(wù)安全增長并贏得長久競爭優(yōu)勢(shì)。
