雖然一些IT領(lǐng)導(dǎo)者對新興技術(shù)措手不及，但其他人則有遠(yuǎn)見地建立了AI治理框架來控制事情。在這里，一些人分享了他們的積極策略和經(jīng)驗教訓(xùn)。【睿觀：AI治理行動路線圖：1.建立共識： 召集相關(guān)方討論組織的風(fēng)險承受能力和目標(biāo)。2.制定策略： 涵蓋技術(shù)、數(shù)據(jù)、倫理等方面策略。3.實施策略： 將策略傳達(dá)給全體員工并提供必要的培訓(xùn)和支持。4.監(jiān)控和改進(jìn)： 定期評估有效性并進(jìn)行調(diào)整?！?/span>
奧斯汀based軟件公司Planview（Planview是一家總部位于美國德克薩斯州奧斯汀的軟件公司，專注于提供項目管理和資源優(yōu)化解決方案。該公司成立于1989年，提供多種基于云的管理平臺，適用于不同規(guī)模的企業(yè)。Planview的產(chǎn)品和服務(wù)旨在幫助組織更有效地管理項目、資源和戰(zhàn)略計劃，以提高效率和成效。近期，Planview推出了一些新的平臺創(chuàng)新，包括Universal Connector，這是一項使企業(yè)能夠?qū)⑵涞谌交蜃灾栖浖_發(fā)工具直接自動化并無縫集成到Planview平臺中的功能。此外，Planview還推出了Planview.Me?，這是一個易于使用的個性化平臺體驗，旨在將數(shù)據(jù)、洞察和工作整合到單一視圖中，以提高用戶體驗和工作效率。Planview還利用人工智能技術(shù)，如Planview Copilot，提供可操作的人工智能洞察和專家指導(dǎo)，以提高工作效率。這些創(chuàng)新實現(xiàn)了雙向可見性和治理，使戰(zhàn)略和團(tuán)隊之間更加緊密地保持一致，利用人工智能提高可預(yù)測性和戰(zhàn)略決策，并提供個性化的用戶體驗以提高生產(chǎn)力）在大約18個月前開始使用生成式AI來提高生產(chǎn)力。在同一時期，他們開始將生成式AI【生成式AI，即生成式人工智能（Generative Artificial Intelligence），是一種專注于創(chuàng)造新的內(nèi)容、圖像、文本、音頻或視頻的人工智能技術(shù)。與傳統(tǒng)的、專注于識別和分析現(xiàn)有數(shù)據(jù)的AI不同，生成式AI能夠基于學(xué)習(xí)到的模式和特征來創(chuàng)建全新的數(shù)據(jù)實例。】整合到他們的產(chǎn)品中，構(gòu)建了一個用戶可以與之互動的co-pilot（Planview Co-Pilot利用了其他人工智能助手無法訪問的大量操作數(shù)據(jù)源，包括來自Planview的產(chǎn)品組合規(guī)劃、企業(yè)敏捷規(guī)劃和交付解決方案的獨(dú)家戰(zhàn)略到交付數(shù)據(jù)，以及通過Flow Fabric中的60多個Planview連接器整合的來自各種團(tuán)隊工具的更廣泛數(shù)據(jù)。此外，它還能訪問組織過去和現(xiàn)在的計劃數(shù)據(jù)，并通過將這些數(shù)據(jù)與Planview的流程方法和敏捷原則等方法相結(jié)合，指導(dǎo)用戶，幫助其識別和解決整個戰(zhàn)略到執(zhí)行過程中的瓶頸），以進(jìn)行戰(zhàn)略投資組合管理和價值流管理。該co-pilot創(chuàng)建計劃場景，幫助經(jīng)理實現(xiàn)產(chǎn)品發(fā)布目標(biāo)，并建議在路線圖中移動可交付成果，在團(tuán)隊之間共享工作以及重新分配投資的方法。
作為早期采用者，Planview很早就意識到，如果他們真的想向AI靠攏，他們需要制定政策和治理，以涵蓋他們在內(nèi)部所做的工作，以及他們?yōu)樵鰪?qiáng)產(chǎn)品供應(yīng)所做的工作。根據(jù)公司和其他首席信息官的經(jīng)驗，可以總結(jié)出四個經(jīng)驗教訓(xùn)，以幫助組織開發(fā)自己的人工智能治理方法。
一、利用現(xiàn)有框架
人工智能治理與任何其他治理沒有太大區(qū)別。事實上，根據(jù)Planview首席技術(shù)官Mik Kersten（米克·克爾斯滕）的說法，由于大多數(shù)AI策略都是關(guān)于數(shù)據(jù)的，因此利用現(xiàn)有框架應(yīng)該很容易。Planview采用了他們已經(jīng)用于開源和云的指南，并根據(jù)AI治理的需求對其進(jìn)行了調(diào)整。
Mik Kersten（米克·克爾斯滕），Planview?首席技術(shù)官
佛羅里達(dá)州立大學(xué)（FSU）【佛羅里達(dá)州立大學(xué)（FSU）是位于美國佛羅里達(dá)州塔拉哈西的一所公立研究型大學(xué)，是佛羅里達(dá)大學(xué)系統(tǒng)的一部分。FSU提供廣泛的本科和研究生課程，并在藝術(shù)、人文、社會科學(xué)、自然科學(xué)、工程和醫(yī)學(xué)等多個領(lǐng)域進(jìn)行研究。該校以其學(xué)術(shù)卓越、研究貢獻(xiàn)和校園生活而聞名?！?/span>是一個非常不同的組織，它從現(xiàn)有的IT治理委員會中發(fā)展出AI治理，該委員會定期召開會議，確定投資和風(fēng)險的優(yōu)先級?！拔覀儗ν顿Y進(jìn)行排名，包括財務(wù)和價值以及整個校園的影響，”該大學(xué)的首席信息官Jonathan Fozard（喬納森·福扎德）說?！叭斯ぶ悄茼椖砍蔀橛懻摰囊徊糠?，這就是我們建立人工智能治理的方式?！?/span>
佛羅里達(dá)州立大學(xué)（FSU）的用例范圍從科學(xué)研究到辦公生產(chǎn)力——他們將人工智能作為課程的一部分來教授，從工程和法律到所有其他專業(yè)，學(xué)生在加入勞動力市場時可能會使用人工智能。Fozard（福扎德）說，平衡成本和風(fēng)險與潛在附加值的行為就像一種搖搖欲墜的方法。在第一輪討論中，某些項目名列前茅。然后，理事會開始關(guān)注這些高優(yōu)先級項目，以確保它們能夠保護(hù)大學(xué)需要保護(hù)的一切，包括知識產(chǎn)權(quán)、研究愿望、用戶隱私和敏感數(shù)據(jù)。
Jonathan Fozard（喬納森·福扎德），佛羅里達(dá)州立大學(xué)（FSU）首席信息官
Fozard（福扎德）說道：“無論是在高等教育領(lǐng)域還是在企業(yè)環(huán)境中，首先要關(guān)注生產(chǎn)力。超越表面的華麗，思考你試圖實現(xiàn)的目標(biāo)。探索如何利用技術(shù)在整個組織各個層面上推動創(chuàng)新。然后要保護(hù)好你的數(shù)據(jù)和人員。”
二、明確內(nèi)部工作以及您的合作伙伴在哪里
“我們必須制定一個非常明確的政策，規(guī)定我們建造什么和購買什么，”Kersten（克爾斯滕）說。“我有相當(dāng)大的人工智能和數(shù)據(jù)科學(xué)團(tuán)隊，我們的客戶成功組織希望這些團(tuán)隊建立客戶支持能力。但我們需要這些專家來開發(fā)產(chǎn)品功能。為了讓他們繼續(xù)從事核心工作，我們的政策明確了我們建造什么和購買什么。”
Kersten（克爾斯滕）認(rèn)為，制定明確的開源政策也很重要。Planview選擇僅將開源模型集成到研究和內(nèi)部用例中。至于他們銷售的功能，該公司建立在具有明確使用條款的LLM（"LLM"?通常是指?"Large Language Model"，即大型語言模型。這些模型是在大規(guī)模數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練的，能夠理解和生成人類語言。它們在多種任務(wù)上表現(xiàn)出色，如文本生成、翻譯、摘要、問答等。隨著人工智能技術(shù)的發(fā)展，越來越多的企業(yè)和研究機(jī)構(gòu)開發(fā)了自己的大型語言模型，以推動自然語言處理領(lǐng)域的進(jìn)步。）之上。“我們政策的一部分是確保大型語言模型提供商的使用條款滿足我們的隱私和合規(guī)性需求。”他說。
在完全不同的行業(yè)中，位于香港的華爾街英語（Wall Street English）【華爾街英語（Wall Street English）是一家全球性的英語教育機(jī)構(gòu)，成立于1972年，總部位于英國。該機(jī)構(gòu)在全球多個國家和地區(qū)設(shè)有分中心和學(xué)習(xí)中心，為成人提供英語學(xué)習(xí)服務(wù)。華爾街英語采用沉浸式教學(xué)方法，通過個性化課程和多媒體教學(xué)材料幫助學(xué)生提高英語水平。該公司在香港設(shè)有分中心和學(xué)習(xí)中心，為當(dāng)?shù)氐挠⒄Z學(xué)習(xí)者提供服務(wù)?！?/span>，這所國際英語語言學(xué)院開發(fā)了自己的AI技術(shù)棧，以實現(xiàn)對其業(yè)務(wù)至關(guān)重要的技術(shù)的精通。“我們追求更快的創(chuàng)新，更好的成果以及完美匹配學(xué)生和教師需求的定制解決方案，”公司首席產(chǎn)品和技術(shù)官Roberto Hortal（羅伯托·霍爾塔爾）表示。“我們保持積極的態(tài)度。我們的政策之一就是緊跟最新發(fā)展、最佳實踐以及潛在風(fēng)險?！?/span>
Roberto Hortal（羅伯托·霍爾塔爾），華爾街英語首席產(chǎn)品和技術(shù)官
作為一家教育機(jī)構(gòu)，華爾街英語將人工智能整合到他們的自學(xué)計劃中。他們將其用于語音識別，以提供有關(guān)發(fā)音的反饋，以及對話代理的基礎(chǔ)，讓學(xué)生通過模仿現(xiàn)實生活中的場景來練習(xí)對話技巧。該公司建立了一個治理框架，不僅包括技術(shù)、財務(wù)和法律方面的考慮，還包括多元文化環(huán)境中的道德規(guī)范。
三、在整個價值鏈中保護(hù)正確的事物
由于Planview使用代碼生成工具，因此Planview的AI治理包括確保它們不侵犯版權(quán)的規(guī)則和指南。它還保護(hù)自己的軟件，因此沒有一個代碼生成工具會選擇它并在其他地方重用它。Kersten（克爾斯滕）表示，該公司的AI治理不僅明確了這些要點(diǎn)，還告訴用戶如何配置工具。
“GitHub Copilot（GitHub Copilot?是由?GitHub?開發(fā)的一個基于機(jī)器學(xué)習(xí)的代碼補(bǔ)全工具，它能夠提供編程建議來幫助開發(fā)者更快地編寫代碼。GitHub Copilot?利用了深度學(xué)習(xí)技術(shù)，特別是自然語言處理和機(jī)器學(xué)習(xí)模型，來分析大量的開源代碼倉庫，學(xué)習(xí)編程語言的語法和常用的代碼模式。GitHub Copilot?的主要功能是在開發(fā)者編寫代碼時提供智能提示。它可以預(yù)測開發(fā)者可能要輸入的代碼，并顯示相關(guān)的代碼建議。這些建議可以幫助開發(fā)者減少打字時間，減少錯誤，提高編程效率。GitHub Copilot?還能夠根據(jù)項目中的上下文提供代碼建議，這意味著它能夠理解開發(fā)者的工作流和項目的特定需求。）有一個設(shè)置，可以檢查以確保它不會給你提供受版權(quán)保護(hù)的代碼，”Kersten（克爾斯滕）說。“然后，另一個設(shè)置會讓它檢查你的最終代碼，以確保它不會太接近其存儲庫中的某些內(nèi)容。還有一個設(shè)置可以告訴GitHub Copilot不要保留你的代碼?！?/span>
當(dāng)然，需要保護(hù)的內(nèi)容取決于業(yè)務(wù)范圍。Planview關(guān)注的是保護(hù)知識產(chǎn)權(quán)，而華爾街英語則關(guān)注文化敏感性。他們調(diào)整課程內(nèi)容以避免冒犯學(xué)生，他們的人工智能工具也需要這樣做。Hortal（霍爾塔爾）說：“正如我們通過培訓(xùn)教師來保證線上課程的安全，確保不會說出任何不適當(dāng)?shù)脑捯粯樱覀儽仨毚_保AI不會表達(dá)出無意的觀點(diǎn)或不適當(dāng)?shù)膬?nèi)容。我們采用諸如輸入凈化、上下文跟蹤和內(nèi)容過濾等技術(shù)來降低風(fēng)險和漏洞。所有這些都是我們AI治理的一部分。”
無論您正在保護(hù)什么，規(guī)則都不應(yīng)該只停留在您自己的組織內(nèi)部。應(yīng)努力確保在外包工作時能夠保證同樣的保護(hù)。“世界上一些最復(fù)雜的公司內(nèi)部擁有驚人的人工智能治理結(jié)構(gòu)，”LogicGate（LogicGate?是一家專注于治理、風(fēng)險管理和合規(guī)程序管理的平臺，它提供了無代碼界面、圖數(shù)據(jù)庫和實時可見性等功能。這個平臺旨在幫助企業(yè)簡化和自動化其內(nèi)部控制流程，確保符合各種法規(guī)要求，并提高整體運(yùn)營效率）的首席執(zhí)行官Matt Kunkel（馬特·昆克爾）說，LogicGate是一家提供整體治理、風(fēng)險和合規(guī)性（GRC）平臺的軟件公司?！暗S后他們將所有數(shù)據(jù)發(fā)送給第三方，這些第三方將這些數(shù)據(jù)用于他們的大型語言模型。如果你的第三方不同意你的人工智能使用政策，那么在這一點(diǎn)上，你就失去了對人工智能治理的控制?！?/span>
四、立即開始
來自已經(jīng)實施AI治理的IT領(lǐng)導(dǎo)者最常見的建議是立即開始。從IT領(lǐng)導(dǎo)層開始致力于AI治理到他們在整個組織中傳達(dá)規(guī)則可能需要幾個月的時間。舉個例子，Planview從他們開始考慮他們的政策到他們在學(xué)習(xí)管理系統(tǒng)中向整個公司提供它，大約花了六個月的時間。
作為AI的早期采用者之一，Kersten（克爾斯滕）經(jīng)常公開談?wù)揚(yáng)lanview的經(jīng)驗?！暗却慕M織將落后，”他說?！艾F(xiàn)在就把你的政策拿出來。這并不像你想象的那么難。一旦它們在那里，它將真正幫助你如何在內(nèi)部構(gòu)建東西，以及你如何為外部市場提供什么?！?/span>
Matt Kunkel（馬特·昆克爾），LogicGate?首席執(zhí)行官
Kunkel（昆克爾）對此表示贊同。“影子使用案例（AI影子通常指的是在沒有組織監(jiān)督的情況下部署或使用人工智能系統(tǒng)的現(xiàn)象，這種做法可能會給企業(yè)帶來風(fēng)險。）已經(jīng)形成，因此首席信息官必須盡快掌握人工智能政策，”他說。“開始的一個方法是圍繞組織對人工智能的風(fēng)險承受能力建立共識。人們需要就他們在快速行動和保護(hù)客戶數(shù)據(jù)之間想要達(dá)到的平衡進(jìn)行坦率對話?！?/span>
一旦您制定了治理策略并將其傳達(dá)給整個組織，人們就可以自由地專注于增加價值。
作者：Pat Brans（帕特·布蘭斯），自由撰稿人、作家
Pat Brans（帕特·布蘭斯）是Grenoble Ecole de Management【格勒諾布爾高等商學(xué)院（Grenoble Ecole de Management），簡稱GEM，是歐洲知名的商學(xué)院之一，位于法國格勒諾布爾市中心，被譽(yù)為歐洲“硅谷”。該校是法國精英教育系統(tǒng)大學(xué)校（Grandes écoles）的成員，由高等商業(yè)學(xué)院（ESC Grenoble）、商業(yè)研究生院（GGSB）、信息管理學(xué)院（EMSI）和博士生院（Doctoral School）組成?！?/span>的副教授，也是《掌握當(dāng)下：五十位CEO教你時間管理的秘密》一書的作者。Brans（布蘭斯）是公認(rèn)的技術(shù)和生產(chǎn)力專家，曾在Computer Sciences?Corporation【Computer Sciences Corporation (CSC)?是一家成立于1959年的全球信息技術(shù)服務(wù)公司，提供外包服務(wù)、系統(tǒng)整合和咨詢等服務(wù)。CSC?曾是全球領(lǐng)先的?IT?服務(wù)公司之一，但在?2017?年與?Hewlett Packard Enterprise?(HPE)?的?Enterprise Services?業(yè)務(wù)合并，成立了?DXC Technology Company?！?/span>、HP【Hewlett Packard (HP)?是一家知名的全球信息技術(shù)公司，提供廣泛的硬件產(chǎn)品和服務(wù)，包括個人電腦、打印機(jī)、服務(wù)器、存儲設(shè)備以及?IT?服務(wù)。HP?在個人電腦市場中占有重要地位，并且在企業(yè)級解決方案方面也有顯著的市場份額?！?/span>和Sybase（Sybase?是一家專注于數(shù)據(jù)庫管理系統(tǒng)和中間件軟件的公司，曾經(jīng)是全球領(lǐng)先的數(shù)據(jù)庫解決方案提供商之一。Sybase?的產(chǎn)品被廣泛用于企業(yè)級數(shù)據(jù)倉庫平臺，并在金融服務(wù)、電信和政府等行業(yè)中有廣泛的應(yīng)用。不過，需要注意的是，Sybase?在?2010?年被?SAP AG?收購，因此目前是?SAP?的一部分）擔(dān)任高級職位。他的大部分企業(yè)經(jīng)驗都集中在應(yīng)用技術(shù)來提高員工效率上?，F(xiàn)在，他通過寫作和教學(xué)將同樣的想法帶給更多的觀眾。
譯者：小知 ?@lex
【睿觀：本文介紹了CIO如何利用人工智能提高生產(chǎn)力，并從四個方面總結(jié)了司制定人工智能治理策略的經(jīng)驗教訓(xùn)：
利用現(xiàn)有框架：可以參考現(xiàn)有的IT治理框架或其他組織的經(jīng)驗，制定適合自身情況的人工智能治理策略。
明確內(nèi)部工作以及您的合作伙伴在哪里：要明確哪些人工智能技術(shù)由內(nèi)部團(tuán)隊開發(fā)，哪些由外部合作伙伴提供，并制定相應(yīng)的策略和指南。
在整個價值鏈中保護(hù)正確的事物：要制定措施保護(hù)知識產(chǎn)權(quán)、數(shù)據(jù)隱私和文化敏感性等重要事項。
立即開始：不要等到擁有完善的策略后再開始實施，要從現(xiàn)在就開始積累經(jīng)驗并逐步完善。
建立共識：?召集來自不同部門的利益相關(guān)者，討論組織對人工智能的風(fēng)險承受能力和目標(biāo)。
制定策略：?根據(jù)組織的具體情況，制定涵蓋技術(shù)、數(shù)據(jù)、倫理等方面的人工智能治理策略。
實施策略：?將策略傳達(dá)給全體員工，并提供必要的培訓(xùn)和支持。
監(jiān)控和改進(jìn)：?定期評估人工智能治理策略的有效性，并根據(jù)需要進(jìn)行調(diào)整。
關(guān)注人工智能技術(shù)的最新發(fā)展，并及時更新治理策略。
建立透明和問責(zé)的治理機(jī)制，確保所有利益相關(guān)者都能參與其中。
將人工智能治理納入組織的整體風(fēng)險管理和合規(guī)框架。
通過采取這些措施，組織可以確保人工智能技術(shù)以安全、合乎道德和負(fù)責(zé)任的方式得到開發(fā)和使用?！?/span>
