你好，歡迎您來(lái)到福建信息主管(CIO)網(wǎng)! 設(shè)為首頁(yè)|加入收藏|會(huì)員中心
在工作場(chǎng)所使用未經(jīng)授權(quán)的人工智能正在將公司數(shù)據(jù)、系統(tǒng)和商業(yè)關(guān)系置于風(fēng)險(xiǎn)之中。以下是如何將員工對(duì)人工智能的好奇心轉(zhuǎn)向可接受的使用方式——以及組織價(jià)值。
圖源：ALEX FROM THE ROCK（圖片上傳者，可以譯為用戶ALEX FROM THE ROCK，或者ALEX FROM THE ROCK）?/?SHUTTERSTOCK
就像所有與技術(shù)相關(guān)的東西一樣，shadow IT（影子IT，也稱為Stealth IT、Client IT、Fake IT，是組織中的信息技術(shù)/IT系統(tǒng)是由組織內(nèi)部建立并且使用，但沒(méi)有正式的組織核可，而系統(tǒng)是由IT部門以外的部門訂定規(guī)格并且布署。有些人認(rèn)為影子IT是重要的創(chuàng)新來(lái)源，這些系統(tǒng)可做為是未來(lái)核可IT方案的原型。）也在發(fā)展。
影子IT不再只是一個(gè)處理一些員工特殊需求的SaaS（一般指軟件運(yùn)營(yíng)服務(wù)。是指用戶獲取軟件服務(wù)的一種新形式。它不需要用戶將軟件產(chǎn)品安裝在自己的電腦或服務(wù)器上。）應(yīng)用程序，或者銷售團(tuán)隊(duì)偷偷帶入的幾部移動(dòng)手機(jī)，以便在外出時(shí)訪問(wèn)工作文件，今天的影子IT更有可能涉及人工智能，因?yàn)閱T工在未經(jīng)IT部門知情或批準(zhǔn)的情況下嘗試各種人工智能工具。
根據(jù)數(shù)據(jù)保護(hù)軟件制造商Cyberhaven（是一家總部位于美國(guó)的數(shù)據(jù)分析服務(wù)商，允許公司檢測(cè)并阻止對(duì)其最重要數(shù)據(jù)的最關(guān)鍵內(nèi)部威脅，保護(hù)傳統(tǒng)數(shù)據(jù)丟失防護(hù)/DLP、內(nèi)部風(fēng)險(xiǎn)和數(shù)據(jù)安全態(tài)勢(shì)管理/DSPM工具無(wú)法識(shí)別和保護(hù)的知識(shí)產(chǎn)權(quán)，例如源代碼、產(chǎn)品設(shè)計(jì)和客戶記錄等數(shù)據(jù)。）的研究，shadow AI（影子人工智能，是指在沒(méi)有IT部門明確知識(shí)或監(jiān)督的情況下在組織內(nèi)使用人工智能應(yīng)用程序和工具。）的體量驚人。根據(jù)其春季2024 AI Adoption and Risk Report/2024年人工智能采用和風(fēng)險(xiǎn)報(bào)告，74%的工作場(chǎng)所ChatGPT（是人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具，它能夠通過(guò)理解和學(xué)習(xí)人類的語(yǔ)言來(lái)進(jìn)行對(duì)話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類一樣來(lái)聊天交流，甚至能完成撰寫(xiě)郵件、視頻腳本、文案、翻譯、代碼，寫(xiě)論文等任務(wù)）使用是通過(guò)非公司賬戶，Google Gemini（是谷歌公司發(fā)布的人工智能大模型，能夠在從數(shù)據(jù)中心到移動(dòng)設(shè)備等不同平臺(tái)上運(yùn)行。包括一套三種不同規(guī)模的模型：Gemini Ultra是最大、功能最強(qiáng)大的類別，被定位為GPT-4的競(jìng)爭(zhēng)對(duì)手；Gemini Pro是一款中端型號(hào)，能夠擊敗GPT-3.5，可擴(kuò)展多種任務(wù)；Gemini Nano用于特定任務(wù)和移動(dòng)設(shè)備?！半p子座”Ultra版本是首個(gè)在“MMLU/大規(guī)模多任務(wù)語(yǔ)言理解”領(lǐng)域超越人類專家的模型。2023年12月6日，Gemini 的初始版本已在Bard中提供，開(kāi)發(fā)人員版本將于12月13日通過(guò) Google Cloud的API提供。）的使用有94%是通過(guò)非公司賬戶，而Bard（是谷歌在一個(gè)大型語(yǔ)言模型基礎(chǔ)上，推出的聊天機(jī)器人。其背后的力量是Google的對(duì)話應(yīng)用語(yǔ)言模型，又名LaMDA。Bard是基于LaMDA的輕量級(jí)版本，使用更少的計(jì)算能力，使其能夠擴(kuò)展到更多的人，并提供額外的反饋。）的非公司賬號(hào)使用率則高達(dá)96%。結(jié)果就是，未授權(quán)的人工智能正在吞噬您的公司數(shù)據(jù)，這都要感謝那些將法律文件、人力資源數(shù)據(jù)、源代碼和其他敏感公司信息輸入到未經(jīng)IT部門批準(zhǔn)使用的人工智能工具中的員工。
研究公司Gartner（高德納，Gartner Group公司成立于1979年，它是第一家信息技術(shù)研究和分析的公司。它為有需要的技術(shù)用戶來(lái)提供專門的服務(wù)。Gartner已經(jīng)成為了一家獨(dú)立的咨詢公司，Gartner公司的服務(wù)主要是迎合中型公司的需要，它希望使自己的業(yè)務(wù)覆蓋到IT行業(yè)的所有領(lǐng)域，從而讓自己成為每一位用戶的一站式信息技術(shù)服務(wù)公司。）的杰出副總裁分析師Arun Chandrasekaran（阿倫·錢德拉斯卡蘭）表示，影子人工智能幾乎是不可避免的。員工們對(duì)人工智能工具很好奇，認(rèn)為它們是減輕繁忙工作、提高生產(chǎn)力的一種方式。其他人想要精通這些工具的使用，認(rèn)為這是防止被技術(shù)取代的方法。還有一些人已經(jīng)習(xí)慣了為個(gè)人任務(wù)使用人工智能，現(xiàn)在他們希望在工作中也能使用這項(xiàng)技術(shù)。
一、可能會(huì)出什么問(wèn)題？
Chandrasekaran（錢德拉斯卡蘭）承認(rèn)，這些原因似乎是有道理的，但它們并不能證明人工智能給該組織帶來(lái)的陰影風(fēng)險(xiǎn)是合理的。
他說(shuō)：“大多數(shù)組織都希望避免使用影子人工智能，因?yàn)槠滹L(fēng)險(xiǎn)是巨大的。”
例如，Chandrasekaran（錢德拉斯卡蘭）說(shuō)，敏感數(shù)據(jù)很有可能被暴露出來(lái)，專有數(shù)據(jù)可以幫助人工智能模型（尤其是開(kāi)源模型）變得更智能，從而幫助可能使用相同模型的競(jìng)爭(zhēng)對(duì)手。
與此同時(shí)，許多員工缺乏有效使用人工智能所需的技能，這進(jìn)一步提高了風(fēng)險(xiǎn)水平。他們可能不夠熟練，無(wú)法向人工智能模型提供正確的數(shù)據(jù)來(lái)生成高質(zhì)量的輸出；用正確的輸入提示模型產(chǎn)生最優(yōu)輸出；并驗(yàn)證輸出的準(zhǔn)確性。例如，員工可以使用生成式人工智能來(lái)創(chuàng)建計(jì)算機(jī)代碼，但如果他們不理解代碼的語(yǔ)法或邏輯，他們就不能有效地檢查代碼中的問(wèn)題?！斑@可能是相當(dāng)有害的，”Chandrasekaran（錢德拉斯卡蘭）說(shuō)。
同時(shí)，他表示，影子人工智能可能會(huì)對(duì)勞動(dòng)力造成干擾，因?yàn)槊孛苁褂萌斯ぶ悄艿膯T工可能比那些沒(méi)有使用此類工具的員工擁有不公平的優(yōu)勢(shì)。Chandrasekaran（錢德拉斯卡蘭）說(shuō)：“現(xiàn)在這還不是一個(gè)主導(dǎo)趨勢(shì)，但這是我們?cè)冢ㄅc組織領(lǐng)導(dǎo)人）討論中聽(tīng)到的一個(gè)擔(dān)憂。”
影子人工智能也可能引入法律問(wèn)題。例如，未經(jīng)批準(zhǔn)的人工智能可能非法訪問(wèn)了他人的知識(shí)產(chǎn)權(quán)，讓該組織對(duì)侵權(quán)行為負(fù)責(zé)。它可能會(huì)帶來(lái)有偏見(jiàn)的結(jié)果，與反歧視法律和公司政策相沖突?；蛘?，它可能會(huì)產(chǎn)生錯(cuò)誤的輸出，并將其傳遞給客戶和客戶。所有這些情況都可能給該組織帶來(lái)責(zé)任，該組織將因此受到任何違規(guī)行為或損害。
事實(shí)上，當(dāng)人工智能系統(tǒng)出現(xiàn)故障時(shí)，組織已經(jīng)面臨后果。舉個(gè)例子：加拿大法庭于2024年2月裁定，加拿大航空公司應(yīng)對(duì)其人工智能聊天機(jī)器人向消費(fèi)者提供的錯(cuò)誤信息負(fù)責(zé)。
在這種情況下，聊天機(jī)器人是經(jīng)過(guò)授權(quán)的技術(shù)組件，IT領(lǐng)導(dǎo)人表示，這正好說(shuō)明即使是官方技術(shù)也存在足夠高的風(fēng)險(xiǎn)，為什么還要通過(guò)放任影子IT未經(jīng)檢查來(lái)增加更多風(fēng)險(xiǎn)呢？
二、防止災(zāi)難發(fā)生的10種方法
就像過(guò)去的影子IT一樣，沒(méi)有一個(gè)現(xiàn)成的解決方案可以阻止未經(jīng)批準(zhǔn)的人工智能技術(shù)的使用或其使用的可能后果。
然而，首席信息官可以采取各種策略來(lái)幫助消除未經(jīng)批準(zhǔn)的人工智能的使用，預(yù)防災(zāi)難，并在出現(xiàn)問(wèn)題時(shí)限制暴雷半徑。在這里，IT領(lǐng)導(dǎo)者分享了首席信息官可以做到這一點(diǎn)的10種方法。
1.為人工智能設(shè)置可接受的使用策略
Wells Fargo（美國(guó)富國(guó)銀行，創(chuàng)立于1852年，總部設(shè)在舊金山，是美國(guó)唯一一家獲得AAA評(píng)級(jí)的銀行。創(chuàng)始人是HENRY WELLS和WILLIAM FARGO，全球市值最高銀行。美國(guó)富國(guó)銀行是一家提供全能服務(wù)的銀行，業(yè)務(wù)范圍包括社區(qū)銀行、投資和保險(xiǎn)、抵押貸款、專門借款、公司貸款、個(gè)人貸款和房地產(chǎn)貸款等。）隱私合規(guī)執(zhí)行董事、非營(yíng)利治理協(xié)會(huì)ISACA（國(guó)際信息系統(tǒng)審計(jì)協(xié)會(huì)，是全球公認(rèn)的IT治理、網(wǎng)絡(luò)安全、審計(jì)與鑒證、風(fēng)險(xiǎn)控制、數(shù)據(jù)隱私保護(hù)以及標(biāo)準(zhǔn)合規(guī)的領(lǐng)導(dǎo)組織，會(huì)員遍布逾180多個(gè)國(guó)家，總數(shù)超過(guò)150，000人。）新興趨勢(shì)工作組成員David Kuo（大衛(wèi)·郭）表示，重要的第一步是與其他高管合作，制定一個(gè)可接受的使用政策，明確人工智能何時(shí)、何地以及如何使用，并重申該組織全面禁止使用未經(jīng)IT批準(zhǔn)的技術(shù)。這聽(tīng)起來(lái)很明顯，但大多數(shù)組織還沒(méi)有動(dòng)作。2024年3月，ISACA對(duì)3270名數(shù)字信托專業(yè)人士進(jìn)行的一項(xiàng)民意調(diào)查發(fā)現(xiàn)，只有15%的組織制定了人工智能政策（盡管70%的受訪者表示他們的員工使用人工智能，60%的受訪者表示員工使用生成式人工智能）。
2.建立對(duì)風(fēng)險(xiǎn)和后果的認(rèn)識(shí)
Kuo（郭）承認(rèn)第一步的局限性：“您可以制定一個(gè)可接受的使用政策，但人們會(huì)違反規(guī)則?！?/span>所以要警告他們可能發(fā)生的事情。
全球?qū)I(yè)服務(wù)和解決方案公司Genpact（簡(jiǎn)柏特，簡(jiǎn)柏特全球集團(tuán)是由美國(guó)通用電氣/GE和另外兩家美國(guó)投資公司共同出資成立的一家從事業(yè)務(wù)流程外包/BPO的專業(yè)集團(tuán)公司，它在全球范圍內(nèi)為客戶提供高質(zhì)量的業(yè)務(wù)和技術(shù)服務(wù)，通過(guò)卓越的實(shí)踐經(jīng)驗(yàn)，協(xié)助全球客戶增加收入，降低成本，提高企業(yè)綜合競(jìng)爭(zhēng)力。公司共有員工65，000余人，分布于美國(guó)，墨西哥、印度，中國(guó)、匈牙利、羅馬尼亞的30多家分支機(jī)構(gòu)。）的人工智能/機(jī)器學(xué)習(xí)服務(wù)全球負(fù)責(zé)人Sreekanth Menon（斯里坎斯·梅農(nóng)）表示：“整個(gè)組織都必須提高對(duì)人工智能風(fēng)險(xiǎn)的認(rèn)識(shí)，首席信息官需要更積極地解釋風(fēng)險(xiǎn)，并在整個(gè)組織中傳播對(duì)風(fēng)險(xiǎn)的認(rèn)識(shí)?！备攀雠c人工智能相關(guān)的總體風(fēng)險(xiǎn)，以及未經(jīng)批準(zhǔn)使用該技術(shù)所帶來(lái)的更高風(fēng)險(xiǎn)。
Kuo（郭）補(bǔ)充道：“這不能是一次性的培訓(xùn)，也不能只是說(shuō)‘不要這樣做’?！蹦仨毥逃膯T工。告訴他們其在（影子人工智能）方面可能遇到的問(wèn)題以及他們不良行為的后果。”
3.管理期望
領(lǐng)導(dǎo)力咨詢公司Russell Reynolds Associates（羅盛咨詢，是一家全球性人才搜尋與領(lǐng)導(dǎo)力咨詢公司。該公司擁有超過(guò)520名顧問(wèn)，分布在47個(gè)辦事處，與各個(gè)行業(yè)的公共、私人和非營(yíng)利組織合作。提供的服務(wù)包括董事會(huì)和高管咨詢、多元化和包容性、高管人才搜尋、繼任規(guī)劃、家族企業(yè)咨詢、領(lǐng)導(dǎo)力評(píng)估、企業(yè)文化咨詢和數(shù)字化轉(zhuǎn)型等。此外，該公司還與專業(yè)領(lǐng)導(dǎo)力測(cè)評(píng)工具霍根測(cè)評(píng)/Hogan Assessments合作，共同引入了領(lǐng)導(dǎo)力跨度模型，以提升高管選擇、繼任和培養(yǎng)決策的精度。）的全球人工智能實(shí)踐負(fù)責(zé)人Fawad Bajwa（法瓦德·巴杰瓦）表示，盡管人工智能的應(yīng)用率正在迅速上升，但研究表明，高管們對(duì)利用智能技術(shù)力量的信心已經(jīng)下降。Bajwa（巴杰瓦）認(rèn)為，這種下降的部分原因是對(duì)人工智能的期望與其實(shí)際交付能力之間的不匹配。
他建議首席信息官就人工智能在何處、何時(shí)、如何以及在多大程度上提供價(jià)值進(jìn)行教育。
他說(shuō)：“在整個(gè)組織中對(duì)您想要實(shí)現(xiàn)的目標(biāo)保持一致，有助于您校準(zhǔn)信心。”這反過(guò)來(lái)可能會(huì)阻止工人們自己尋找人工智能解決方案，希望找到解決所有問(wèn)題的靈丹妙藥。
4.審查，加強(qiáng)訪問(wèn)控制
數(shù)字化轉(zhuǎn)型解決方案公司UST（前身為UST Global，是一家數(shù)字技術(shù)和轉(zhuǎn)型、信息技術(shù)和服務(wù)提供商，總部位于美國(guó)加州亞里索維耶荷，致力于為全球大型私有和公有企業(yè)提供先進(jìn)的計(jì)算和數(shù)字服務(wù)。UST在25個(gè)國(guó)家和地區(qū)設(shè)有35個(gè)辦事處，其業(yè)務(wù)涉及銀行和金融服務(wù)、醫(yī)療保健、保險(xiǎn)、零售、技術(shù)、制造、航運(yùn)和電信。）的首席戰(zhàn)略官兼首席信息官Krishna Prasad（克里希納·普拉薩德）表示，人工智能的最大風(fēng)險(xiǎn)之一是數(shù)據(jù)泄露。
當(dāng)然，這種風(fēng)險(xiǎn)存在于計(jì)劃中的人工智能部署中，但在這種情況下，首席信息官可以與業(yè)務(wù)、數(shù)據(jù)和安全同事合作來(lái)降低風(fēng)險(xiǎn)。但當(dāng)工人在沒(méi)有他們參與的情況下部署人工智能時(shí)，他們就沒(méi)有同樣的風(fēng)險(xiǎn)審查和緩解機(jī)會(huì)，從而增加了敏感數(shù)據(jù)暴露的機(jī)會(huì)。
為了防止這種情況發(fā)生，Prasad（普拉薩德）建議技術(shù)、數(shù)據(jù)和安全團(tuán)隊(duì)審查他們的數(shù)據(jù)訪問(wèn)策略和控制措施，以及他們的整體數(shù)據(jù)丟失預(yù)防計(jì)劃和數(shù)據(jù)監(jiān)控能力，以確保它們足夠強(qiáng)大，可以通過(guò)未經(jīng)批準(zhǔn)的人工智能部署防止泄漏。
5.阻止訪問(wèn)人工智能工具
Kuo（郭）說(shuō)，另一個(gè)可以幫助的步驟是：將人工智能工具列入黑名單，如OpenAI的ChatGPT，并使用防火墻規(guī)則阻止員工使用公司系統(tǒng)進(jìn)行訪問(wèn)。制定防火墻規(guī)則，防止公司系統(tǒng)訪問(wèn)這些工具。
6.爭(zhēng)取盟友參與
Kuo（郭）說(shuō)，首席信息官不應(yīng)該是唯一致力于防止影子人工智能的人。他們應(yīng)該招募他們的高管同事——他們都與保護(hù)組織免受任何負(fù)面后果有利害關(guān)系——并讓他們參與教育員工使用人工智能工具的風(fēng)險(xiǎn)，這些工具違反了官方的IT采購(gòu)和人工智能使用政策。
“Better protection takes a village（要實(shí)現(xiàn)更好的保護(hù)，需要團(tuán)隊(duì)中每個(gè)人的共同努力和參與，類似“眾人拾柴火焰高”或“團(tuán)結(jié)就是力量”），”Kuo（郭）補(bǔ)充道。
7.創(chuàng)建一個(gè)IT AI路線圖，以推動(dòng)組織的優(yōu)先事項(xiàng)和戰(zhàn)略
員工通常會(huì)引入他們認(rèn)為可以幫助他們更好地完成工作的技術(shù)，而不是因?yàn)樗麄冊(cè)噲D傷害雇主。因此，首席信息官可以通過(guò)提供人工智能功能來(lái)減少對(duì)未經(jīng)批準(zhǔn)的人工智能的需求，這些功能最有助于員工實(shí)現(xiàn)為其角色設(shè)定的優(yōu)先事項(xiàng)。
Bajwa（巴杰瓦）表示，首席信息官們應(yīng)該將此視為一個(gè)機(jī)會(huì)，通過(guò)設(shè)計(jì)不僅與業(yè)務(wù)重點(diǎn)保持一致，而且實(shí)際制定戰(zhàn)略的人工智能路線圖，帶領(lǐng)他們的組織走向未來(lái)的成功。“這是一個(gè)重新定義業(yè)務(wù)的時(shí)刻，”Bajwa（巴杰瓦）說(shuō)。
8.不要成為“禁止部門”
執(zhí)行顧問(wèn)表示，首席信息官（及其高管同事）不能在采用人工智能方面拖拖拉拉，因?yàn)檫@會(huì)損害組織的競(jìng)爭(zhēng)力，并增加影子人工智能的機(jī)會(huì)。然而，根據(jù)Genpact和HFS Research（是一家知名的全球研究機(jī)構(gòu)，專注于提供對(duì)業(yè)務(wù)和IT服務(wù)行業(yè)的深入分析和研究。該機(jī)構(gòu)以其獨(dú)特的研究方法和對(duì)行業(yè)趨勢(shì)的洞察而聞名，幫助客戶在快速變化的市場(chǎng)中做出明智的決策。HFS Research 提供的服務(wù)包括市場(chǎng)調(diào)研、競(jìng)爭(zhēng)分析、戰(zhàn)略咨詢等，覆蓋了多個(gè)領(lǐng)域，如云計(jì)算、人工智能、自動(dòng)化和數(shù)字化轉(zhuǎn)型等。）研究，在某種程度上許多地方都在發(fā)生這種情況。他們2024年5月的報(bào)告顯示，45%的組織對(duì)生成式人工智能采取了“觀望”立場(chǎng)，23%的組織是對(duì)生成式人工智能持懷疑態(tài)度的“懷疑論者”。
Prasad（普拉薩德）說(shuō)：“如今，限制人工智能的使用完全適得其反?！彼硎?，首席信息官必須啟用企業(yè)已在使用的平臺(tái)內(nèi)提供的人工智能功能，培訓(xùn)員工使用和優(yōu)化這些功能，并加快采用人工智能工具，以提供最佳ROI（投資回報(bào)率，是指通過(guò)投資而應(yīng)返回的價(jià)值，即企業(yè)從一項(xiàng)投資活動(dòng)中得到的經(jīng)濟(jì)回報(bào)。它涵蓋了企業(yè)的獲利目標(biāo)。利潤(rùn)和投入經(jīng)營(yíng)所必備的財(cái)產(chǎn)相關(guān)，因?yàn)楣芾砣藛T必須通過(guò)投資和現(xiàn)有財(cái)產(chǎn)獲得利潤(rùn)。），讓各級(jí)員工放心，IT部門致力于實(shí)現(xiàn)人工智能的未來(lái)。
9.提供工具和培訓(xùn)，讓員工使用人工智能
ISACA3月份的調(diào)查發(fā)現(xiàn)，80%的人認(rèn)為，許多工作崗位將會(huì)因?yàn)槿斯ぶ悄芏桓淖儭?/span>EY Consulting（安永，成立于1989年，是一家總部位于英國(guó)倫敦的跨國(guó)性專業(yè)服務(wù)公司，全稱是安永會(huì)計(jì)師事務(wù)所，為國(guó)際四大會(huì)計(jì)師事務(wù)所之一。）的全球數(shù)據(jù)和人工智能的領(lǐng)導(dǎo)者Beatriz Sanz sáiz（貝亞特麗茲·桑斯·賽斯）表示，如果是這樣的話，就給員工提供使用人工智能的工具來(lái)進(jìn)行修改，以改善他們的工作。
她建議首席信息官為整個(gè)組織（不僅僅是IT部門）的員工提供工具和培訓(xùn)，讓他們創(chuàng)建或與IT部門共同創(chuàng)建一些自己的智能助理。她還建議首席信息官建立一個(gè)靈活的技術(shù)堆棧，以便他們能夠快速支持和實(shí)現(xiàn)這些工作，并在員工需求出現(xiàn)時(shí)轉(zhuǎn)向新的large language models（大型語(yǔ)言模型。是使用深度學(xué)習(xí)算法處理和理解自然語(yǔ)言的基礎(chǔ)機(jī)器學(xué)習(xí)模型。這些模型在大量文本數(shù)據(jù)上進(jìn)行訓(xùn)練，以學(xué)習(xí)語(yǔ)言中的模式和實(shí)體關(guān)系。LLM可以執(zhí)行多種類型的語(yǔ)言任務(wù)，例如翻譯語(yǔ)言、分析情緒、聊天機(jī)器人對(duì)話等。）和其他智能組件，從而使員工更有可能求助于IT（而非外部來(lái)源）來(lái)構(gòu)建解決方案。
10.對(duì)新的、創(chuàng)新的用途保持開(kāi)放態(tài)度
人工智能并不是什么新鮮事，但快速上升的應(yīng)用率正在顯示出更多的問(wèn)題和潛力。想要幫助組織利用潛力（且遠(yuǎn)離所有問(wèn)題）的首席信息官應(yīng)該對(duì)使用人工智能的新方法持開(kāi)放態(tài)度，這樣員工就不需要獨(dú)自行動(dòng)。
Bajwa（巴杰瓦）提供了一個(gè)關(guān)于人工智能hallucinations（幻覺(jué)，指模型生成不基于實(shí)際數(shù)據(jù)或與現(xiàn)實(shí)顯著不同的內(nèi)容的現(xiàn)象。）的例子：是的，幻覺(jué)幾近聲名狼藉，但是Bajwa（巴杰瓦）指出，幻覺(jué)在營(yíng)銷等創(chuàng)意領(lǐng)域可能很有用。
他說(shuō)：“幻覺(jué)可以產(chǎn)生我們以前從未想過(guò)的想法?！?/span>
首席信息官們對(duì)這些潛力持開(kāi)放態(tài)度，然后制定正確的防護(hù)措施，例如關(guān)于需要何種程度的人力監(jiān)督的規(guī)則，他們將更有可能邀請(qǐng)IT參與此類人工智能創(chuàng)新，而不是將其排除在外。這難道不是應(yīng)用AI的目標(biāo)嗎？
作者：Mary K. Pratt（瑪麗·K·普拉特）
Mary K. Pratt（瑪麗·K·普拉特）是馬薩諸塞州的一名自由撰稿人。
譯者：寶藍(lán)
【睿觀：未經(jīng)授權(quán)的人工智能正在吞噬您的公司數(shù)據(jù)
員工在未經(jīng)IT部門批準(zhǔn)的情況下使用各種人工智能工具，將公司數(shù)據(jù)、系統(tǒng)和商業(yè)關(guān)系置于風(fēng)險(xiǎn)之中。
這被稱為“影子人工智能”。
影子人工智能的風(fēng)險(xiǎn)包括數(shù)據(jù)泄露、偏見(jiàn)結(jié)果和法律問(wèn)題。
如何防止影子人工智能
制定可接受的使用策略
提高對(duì)風(fēng)險(xiǎn)和后果的認(rèn)識(shí)
管理期望
審查并加強(qiáng)訪問(wèn)控制
阻止訪問(wèn)人工智能工具
爭(zhēng)取盟友參與
創(chuàng)建一個(gè)IT AI路線圖
不要成為“禁止部門”
提供工具和培訓(xùn)，讓員工使用人工智能
對(duì)新的、創(chuàng)新的用途保持開(kāi)放態(tài)度
結(jié)論
首席信息官可以采取各種策略來(lái)幫助消除未經(jīng)批準(zhǔn)的人工智能的使用，預(yù)防災(zāi)難，并在出現(xiàn)問(wèn)題時(shí)限制暴雷半徑。
目標(biāo)是利用人工智能的潛力，同時(shí)避免所有風(fēng)險(xiǎn)?！?/span>
