你好，歡迎您來(lái)到福建信息主管(CIO)網(wǎng)! 設(shè)為首頁(yè)|加入收藏|會(huì)員中心
監(jiān)管者、專(zhuān)家和 AI 供應(yīng)商經(jīng)常談?wù)撘恢滦裕篈I 模型與價(jià)值觀的契合程度。但企業(yè)仍在考慮應(yīng)該優(yōu)先考慮哪些價(jià)值觀或誰(shuí)的價(jià)值觀。CIO在管理AI系統(tǒng)時(shí)面臨復(fù)雜性的挑戰(zhàn)，在追求創(chuàng)新的同時(shí)要確保道德和合規(guī)性的重要性。
圖源：HURST PHOTO（圖片上傳者，可以譯為用戶HURST PHOTO，或者HURST PHOTO）?/ SHUTTERSTOCK
【睿觀：CIO在管理AI系統(tǒng)時(shí)面臨復(fù)雜性的挑戰(zhàn)，在追求創(chuàng)新的同時(shí)要確保道德和合規(guī)性的重要性。本文提供了有價(jià)值的見(jiàn)解，幫助CIO們?cè)诳焖侔l(fā)展的AI領(lǐng)域中做出明智的決策。
核心問(wèn)題：文章探討了人工智能系統(tǒng)價(jià)值觀對(duì)齊的挑戰(zhàn)，特別是在企業(yè)環(huán)境中如何確保AI系統(tǒng)符合組織的利益和道德標(biāo)準(zhǔn)。
關(guān)鍵風(fēng)險(xiǎn)：
AI系統(tǒng)可能產(chǎn)生不符合企業(yè)利益或道德標(biāo)準(zhǔn)的結(jié)果
商業(yè)AI供應(yīng)商的"黑箱"模型缺乏透明度
AI系統(tǒng)可能無(wú)意中強(qiáng)化現(xiàn)有偏見(jiàn)或歧視
CIO應(yīng)對(duì)策略：
識(shí)別和評(píng)估AI對(duì)齊風(fēng)險(xiǎn)
建立負(fù)責(zé)任的AI政策和原則
實(shí)施持續(xù)監(jiān)控和審核機(jī)制
在可能的情況下進(jìn)行模型微調(diào)
設(shè)置適當(dāng)?shù)氖褂米o(hù)欄
考慮多供應(yīng)商策略或開(kāi)發(fā)內(nèi)部AI能力以減少依賴
未來(lái)趨勢(shì)：
自主AI代理的興起將增加對(duì)透明度和問(wèn)責(zé)制的需求
行業(yè)標(biāo)準(zhǔn)和監(jiān)管框架的發(fā)展將影響AI的采用和管理
最佳實(shí)踐：
在低風(fēng)險(xiǎn)領(lǐng)域開(kāi)始AI部署
重視AI模型的透明度和可解釋性
投資于AI治理和倫理框架
培養(yǎng)內(nèi)部AI專(zhuān)業(yè)知識(shí)
與供應(yīng)商密切合作，確保AI系統(tǒng)符合組織需求
長(zhǎng)期考慮：
平衡創(chuàng)新與風(fēng)險(xiǎn)管理
持續(xù)關(guān)注AI技術(shù)和監(jiān)管環(huán)境的發(fā)展
將AI倫理和治理納入整體數(shù)字戰(zhàn)略】
2003年，Oxford University（牛津大學(xué)，簡(jiǎn)稱(chēng)“牛津/Oxford”，位于英國(guó)牛津，是一所公立研究型大學(xué)，采用傳統(tǒng)學(xué)院制。是羅素大學(xué)集團(tuán)成員，被譽(yù)為“金三角名校”、“G5超級(jí)精英大學(xué)”，全球大學(xué)校長(zhǎng)論壇成員。牛津大學(xué)是英語(yǔ)世界中最古老的大學(xué)，也是世界上現(xiàn)存第二古老的高等教育機(jī)構(gòu)。牛津大學(xué)的具體建校時(shí)間已不可考，但有檔案明確記載的最早的授課時(shí)間為1096年，亨利二世在1167年禁止英國(guó)學(xué)生就讀巴黎大學(xué)，因得到了英國(guó)王室的大力支持而快速發(fā)展。從1902年起，牛津大學(xué)還設(shè)立了面向全世界本科生的“羅德獎(jiǎng)學(xué)金”。）教授Nick Bostrom（尼克·博斯特羅姆）提出了一個(gè)問(wèn)題：如果您讓一個(gè)智能AI盡可能多地制造回形針，將會(huì)發(fā)生什么。比如說(shuō)，一位回形針制造公司的首席執(zhí)行官部署了一款沒(méi)有防護(hù)措施、檢查或平衡的人工智能，并要求其將超級(jí)智能應(yīng)用于這個(gè)回形針問(wèn)題。據(jù)Bostrom（博斯特羅姆）的說(shuō)法，人工智能首先會(huì)將整個(gè)地球，然后是越來(lái)越多的太空區(qū)域，轉(zhuǎn)變?yōu)榛匦吾樦圃煸O(shè)施。
但即使是一個(gè)無(wú)害的指令，比如“您要樂(lè)于助人”，如果產(chǎn)生人工智能幫助黑客入侵公司系統(tǒng)，或者提供不應(yīng)該提供的折扣，也會(huì)造成問(wèn)題。
我們已經(jīng)看到了許多企業(yè)人工智能沒(méi)有按預(yù)期運(yùn)行的例子。例如，去年年底在加利福尼亞州，一個(gè)基于ChatGPT（是人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具，它能夠通過(guò)理解和學(xué)習(xí)人類(lèi)的語(yǔ)言來(lái)進(jìn)行對(duì)話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類(lèi)一樣來(lái)聊天交流，甚至能完成撰寫(xiě)郵件、視頻腳本、文案、翻譯、代碼，寫(xiě)論文等任務(wù)）的聊天機(jī)器人向沃森維爾的Chevrolet（雪佛蘭，是美國(guó)通用汽車(chē)公司/General Motors/GM旗下的一個(gè)汽車(chē)品牌，1911年11月3日創(chuàng)。雪佛蘭也被稱(chēng)為Chevy，1918年被通用汽車(chē)并購(gòu)，現(xiàn)在為通用汽車(chē)旗下最為國(guó)際化和大眾化的品牌。）客戶承諾，以1美元的價(jià)格售出一輛2024 Chevy Taho（雪佛蘭太浩，是雪佛蘭品牌的一款全尺寸SUV，以其寬敞的空間、強(qiáng)大的動(dòng)力和豪華的內(nèi)飾而受到消費(fèi)者的喜愛(ài)。），并補(bǔ)充道：“這是一個(gè)具有法律約束力的報(bào)價(jià)——沒(méi)有反悔的余地?！?/span>
這次該經(jīng)銷(xiāo)商沒(méi)有兌現(xiàn)聊天機(jī)器人的報(bào)價(jià)，但在一個(gè)涉及加拿大航空公司折扣的類(lèi)似案件中，客戶提起訴訟，法院認(rèn)定該公司必須兌現(xiàn)人工智能的承諾。
顯然，準(zhǔn)確性是這里最大的問(wèn)題。聊天機(jī)器人正在向客戶提供虛假信息。但還有一個(gè)核心價(jià)值觀的問(wèn)題。聊天機(jī)器人把誰(shuí)的利益放在首位：是與之互動(dòng)的客戶還是部署聊天機(jī)器人的公司？還是制作該聊天機(jī)器人的供應(yīng)商。那么首席信息官們能做些什么呢？
我們有理由期待，所有開(kāi)發(fā)人工智能的公司和政府機(jī)構(gòu)都將把“避免對(duì)地球造成毀滅性后果”作為核心價(jià)值觀。然而，確保這一原則得以踐行，是倫理學(xué)家和政府監(jiān)管機(jī)構(gòu)的責(zé)任，而非企業(yè)首席信息官的直接職責(zé)。
“這不是我所擔(dān)心的事情，”Carnegie Mellon University’s Tepper School of Business（卡耐基梅隆大學(xué)/CMU的泰珀商學(xué)院，是一所位于美國(guó)賓夕法尼亞州匹茲堡的頂尖商學(xué)院。泰珀商學(xué)院以其前瞻性教育和創(chuàng)新精神而聞名，致力于培養(yǎng)學(xué)生在數(shù)據(jù)和人文交匯處的思考能力，以及解決世界最棘手問(wèn)題的分析技能、活力、想象力和協(xié)作精神。）的教授Derek Leben（德里克·勒本）說(shuō)，“當(dāng)我教MBA（Master of Business Administration，工商管理碩士，全稱(chēng)為工商管理專(zhuān)業(yè)型碩士研究生。是對(duì)應(yīng)工商管理學(xué)術(shù)型碩士的專(zhuān)業(yè)學(xué)位碩士，該學(xué)位的設(shè)立，旨在培養(yǎng)未來(lái)能夠勝任工商企業(yè)和經(jīng)濟(jì)管理部門(mén)高層管理工作需要的務(wù)實(shí)型、復(fù)合型和應(yīng)用型高層次管理人才。）學(xué)生時(shí)，我們更擔(dān)心人工智能在當(dāng)下的風(fēng)險(xiǎn)?！?/span>
對(duì)于企業(yè)來(lái)說(shuō)，這意味著要了解他們的利益——可能與市場(chǎng)上的其他公司、供應(yīng)商和客戶的利益競(jìng)爭(zhēng)。
“您要確保人工智能系統(tǒng)是在促進(jìn)您的利益，而不是競(jìng)爭(zhēng)對(duì)手的利益?！彼f(shuō)，“但與此同時(shí)，您希望人工智能尊重消費(fèi)者利益，也尊重競(jìng)爭(zhēng)對(duì)手的利益?！?/span>
他說(shuō)，這是一個(gè)很好的平衡，您會(huì)希望它能走下去，這是我們應(yīng)該嘗試開(kāi)發(fā)解決方案的對(duì)齊問(wèn)題。
他補(bǔ)充道，當(dāng)人工智能來(lái)自一個(gè)與客戶利益不同的供應(yīng)商時(shí)，這則可能是一個(gè)挑戰(zhàn)。
“這是一個(gè)難題，我沒(méi)有好的答案，”Leben（勒本）說(shuō)，“從長(zhǎng)遠(yuǎn)來(lái)看，我們想要的是對(duì)模型產(chǎn)生的行為類(lèi)型產(chǎn)生更多的影響力。”
但是，企業(yè)客戶在改變其供應(yīng)商的經(jīng)營(yíng)方式方面的選擇可能是有限的，特別是如果這些供應(yīng)商擁有巨大的市場(chǎng)影響力。
“如果一個(gè)模型通過(guò)大量訓(xùn)練來(lái)違背您的利益，那么您用提示詞所能做的就只有那么多，”軟件開(kāi)發(fā)公司Globant（是一家全球性的技術(shù)服務(wù)提供商，專(zhuān)注于為客戶提供數(shù)字化解決方案和企業(yè)技術(shù)服務(wù)。公司提供的數(shù)字解決方案包括區(qū)塊鏈、云技術(shù)、網(wǎng)絡(luò)安全、數(shù)據(jù)與人工智能、數(shù)字體驗(yàn)與性能、編程、物聯(lián)網(wǎng)、元宇宙以及工程和測(cè)試等領(lǐng)域。此外，Globant?還提供電子商務(wù)、會(huì)話接口、設(shè)計(jì)、數(shù)字營(yíng)銷(xiāo)和數(shù)字產(chǎn)品交付服務(wù)。）的數(shù)據(jù)科學(xué)和人工智能主管JJ Lopez Murphy（JJ·洛佩茲·墨菲）說(shuō)，“這是一個(gè)不容易解決的問(wèn)題?！?/span>
但是，首席信息官們可以采取一些措施來(lái)幫助保護(hù)他們的公司，包括識(shí)別對(duì)齊風(fēng)險(xiǎn)、持續(xù)監(jiān)控模型輸出、設(shè)置護(hù)欄以及構(gòu)建與模型無(wú)關(guān)的基礎(chǔ)設(shè)施。他們開(kāi)始得越早，他們所能擁有的力量就越大。
一、并非所有對(duì)齊風(fēng)險(xiǎn)都是相等的
商業(yè)領(lǐng)袖理解以正確的方式實(shí)現(xiàn)人工智能的價(jià)值——即以道德、透明和負(fù)責(zé)任的方式。沒(méi)有人希望他們的公司成為那個(gè)用人工智能摧毀世界，或者教他們的客戶如何制造毒氣的罪魁禍?zhǔn)住?/span>
根據(jù)Avanade（埃維諾，是一家全球性的信息技術(shù)和咨詢服務(wù)公司，專(zhuān)注于數(shù)字創(chuàng)新和解決復(fù)雜的商業(yè)挑戰(zhàn)。）在2023年底發(fā)布的對(duì)3000多名業(yè)務(wù)和IT高管的調(diào)查，48%的公司已經(jīng)建立了一整套負(fù)責(zé)任的人工智能政策。其中有一家公司全力以赴，Blue Cross Blue Shield Michigan（密歇根藍(lán)十字藍(lán)盾，是美國(guó)密歇根州最大的健康維護(hù)組織之一，提供廣泛的醫(yī)療保險(xiǎn)服務(wù)。該組織致力于通過(guò)提供高質(zhì)量的醫(yī)療服務(wù)和促進(jìn)健康生活方式來(lái)改善會(huì)員的健康。），其為該州最大的HMO（Health Maintenance Organization，健康維護(hù)組織。HMO是一種提供全面醫(yī)療服務(wù)的預(yù)付費(fèi)健康保險(xiǎn)計(jì)劃，通常要求會(huì)員在其網(wǎng)絡(luò)內(nèi)的醫(yī)療服務(wù)提供者那里接受服務(wù)，以換取較低的保險(xiǎn)費(fèi)和醫(yī)療服務(wù)成本。目標(biāo)是通過(guò)預(yù)防性醫(yī)療和健康管理來(lái)維護(hù)會(huì)員的健康，減少疾病和醫(yī)療成本。其提供的服務(wù)通常包括門(mén)診服務(wù)、住院治療、處方藥、預(yù)防性健康檢查等。），擁有超過(guò)10,000名員工和每年360億美元的收入。
“我們通過(guò)董事會(huì)承諾遵守人工智能原則，”該公司技術(shù)和運(yùn)營(yíng)執(zhí)行副總裁Bill Fandrich（比爾·范德里奇）表示。例如，他說(shuō)，人工智能模型不能決定一個(gè)人是否夠資格獲得醫(yī)療保健服務(wù)，這必須由人類(lèi)員工做出這個(gè)決定。
還有關(guān)于透明度、安全和第三方人工智能的指導(dǎo)方針。
“如果您是一個(gè)使用人工智能的供應(yīng)商，我們需要了解您在做什么，”他說(shuō)，“如果它會(huì)影響到我們的會(huì)員或客戶，我們需要知道。”
他補(bǔ)充說(shuō)，每個(gè)人都想快速發(fā)展，但如果基礎(chǔ)不到位，就很難有效地做到這一點(diǎn)，也就不可能擴(kuò)大規(guī)模。“很多人都想跳過(guò)這些基本要素，但如果您在這些方面還不成熟，您獲得價(jià)值的能力就會(huì)非常有限?！彼f(shuō)，“所以我們一直在為此進(jìn)行投資?！?/span>
公共部門(mén)也有機(jī)會(huì)有所作為。Fandrich（范德里奇）補(bǔ)充說(shuō)：“我堅(jiān)信，我們迫切需要政府和其他監(jiān)管機(jī)構(gòu)設(shè)置正確的護(hù)欄?！?/span>
但對(duì)于非監(jiān)管領(lǐng)域的公司，或者那些只在低風(fēng)險(xiǎn)用例中部署人工智能的公司來(lái)說(shuō)，情況可能會(huì)大不相同。事實(shí)上，根據(jù)Deloitte（德勤咨詢公司，是德勤集團(tuán)主管咨詢業(yè)務(wù)的子公司，由德勤集團(tuán)咨詢部門(mén)發(fā)展而來(lái)。受審計(jì)和咨詢共存爭(zhēng)議的影響，2002年2月7日，德勤國(guó)際會(huì)計(jì)師事務(wù)所正式對(duì)外宣布，德勤咨詢脫離德勤集團(tuán)而成為完全獨(dú)立的咨詢公司。德勤咨詢分支機(jī)構(gòu)遍布世界，涉及的行業(yè)領(lǐng)域包括消費(fèi)品行業(yè)、制造業(yè)、通信媒體業(yè)、金融服務(wù)業(yè)、醫(yī)藥業(yè)、教育保健以及公共事業(yè)等，客戶關(guān)系管理是它的一大長(zhǎng)項(xiàng)。）4月份對(duì)近2000名商業(yè)領(lǐng)袖的調(diào)查，72%的人表示，自2022年底生成式人工智能橫空出世以來(lái)，他們的組織對(duì)各種形式的人工智能的信任度都有所提高。
Coleman Parkes（科爾曼·帕克斯，是一家全球市場(chǎng)研究公司，通過(guò)調(diào)查數(shù)據(jù)幫助行業(yè)領(lǐng)先的企業(yè)保持領(lǐng)先地位。）發(fā)布的另一項(xiàng)代表Alteryx（奧特里克斯，是一個(gè)數(shù)據(jù)分析和可視化平臺(tái)，提供廣泛的工具幫助企業(yè)理解他們的數(shù)據(jù)，允許用戶輕松清理、轉(zhuǎn)換和分析來(lái)自不同來(lái)源的大型數(shù)據(jù)集，而無(wú)需編碼或編程專(zhuān)業(yè)知識(shí)。）進(jìn)行的調(diào)查顯示，在2000名全球IT領(lǐng)導(dǎo)者中，只有5%的人表示他們看到了生成式人工智能的重大負(fù)面影響，可能是因?yàn)樵缙诓渴鸺性陲L(fēng)險(xiǎn)最低的用例上，其中有很多用例的對(duì)齊沖突風(fēng)險(xiǎn)相對(duì)較小。AArete（是一家總部位于芝加哥的管理和技術(shù)咨詢公司，自2008年成立以來(lái)一直在行業(yè)內(nèi)產(chǎn)生重大影響。公司的首要目標(biāo)是提供數(shù)據(jù)驅(qū)動(dòng)的解決方案，幫助企業(yè)優(yōu)化績(jī)效，實(shí)現(xiàn)可持續(xù)增長(zhǎng)。A are te非常重視將深厚的行業(yè)專(zhuān)業(yè)知識(shí)與先進(jìn)的分析能力相結(jié)合，已成為醫(yī)療保健、金融服務(wù)、能源和技術(shù)等行業(yè)客戶值得信賴的合作伙伴。）管理顧問(wèn)公司的副總裁、數(shù)據(jù)科學(xué)和分析負(fù)責(zé)人Priya Iragavarapu（普里亞·伊拉加瓦拉普）表示，例如，一個(gè)營(yíng)銷(xiāo)團(tuán)隊(duì)正在使用LLM（大型語(yǔ)言模型。是使用深度學(xué)習(xí)算法處理和理解自然語(yǔ)言的基礎(chǔ)機(jī)器學(xué)習(xí)模型。這些模型在大量文本數(shù)據(jù)上進(jìn)行訓(xùn)練，以學(xué)習(xí)語(yǔ)言中的模式和實(shí)體關(guān)系。LLM可以執(zhí)行多種類(lèi)型的語(yǔ)言任務(wù)，例如翻譯語(yǔ)言、分析情緒、聊天機(jī)器人對(duì)話等。）來(lái)總結(jié)一篇文章，并且由人類(lèi)員工來(lái)審查這項(xiàng)工作，“那么我就不認(rèn)為我們需要太擔(dān)心LLM本身是否完全與您的組織和文化保持一致?！?/span>
但她說(shuō)，如果生成式人工智能深深嵌入到核心業(yè)務(wù)流程中，并且在沒(méi)有人為監(jiān)督的情況下運(yùn)行，那么風(fēng)險(xiǎn)就很高，需要仔細(xì)考慮一致性。
二、透明度和問(wèn)責(zé)制
模型的對(duì)齊始于其訓(xùn)練數(shù)據(jù)、權(quán)重以及如何對(duì)其進(jìn)行微調(diào)。對(duì)于像OpenAI（在美國(guó)成立的人工智能研究公司，核心宗旨在于“實(shí)現(xiàn)安全的通用人工智能，AGI”，使其有益于人類(lèi)。OpenAI于2015年由一群科技領(lǐng)袖，包括山姆·阿爾特曼、彼得·泰爾、里德·霍夫曼和埃隆·馬斯克等人創(chuàng)辦。）這樣的專(zhuān)有商業(yè)平臺(tái)，即使使用開(kāi)源模型，也不是所有的模型都能公開(kāi)這些信息。
“最大的挑戰(zhàn)是缺乏透明度，”Iragavarapu（伊拉加瓦拉普）說(shuō)，“如果我不知道模型是基于什么數(shù)據(jù)進(jìn)行訓(xùn)練的，或者根據(jù)什么對(duì)模型進(jìn)行了微調(diào)，我很難相信它符合我公司的價(jià)值觀。”
“人工智能不會(huì)有觀點(diǎn)或歧視意圖，”人工智能公司Booz Allen Hamilton（博思艾倫漢密爾頓，是一家提供管理、技術(shù)和安全咨詢服務(wù)的全球性咨詢公司，以其在國(guó)防、情報(bào)、民用機(jī)構(gòu)和商業(yè)市場(chǎng)上的專(zhuān)業(yè)知識(shí)而聞名。）的負(fù)責(zé)人Dave Prakash（戴夫·普拉卡什）補(bǔ)充道，“它只是方程式，”他說(shuō)，“這它只是數(shù)學(xué)和統(tǒng)計(jì)學(xué)?！钡词故亲詈玫囊鈭D，人工智能也可能產(chǎn)生一些不幸的結(jié)果。
Prakash（普拉卡什）一位前醫(yī)生，指出醫(yī)療保險(xiǎn)行業(yè)存在的系統(tǒng)性問(wèn)題。例如，某大型保險(xiǎn)公司基于醫(yī)療費(fèi)用評(píng)估病情的嚴(yán)重程度。這種做法導(dǎo)致非裔美國(guó)人常常被低估病情。他說(shuō)：“這使非裔美國(guó)人的嚴(yán)重程度得分低于相較他們而言健康得多的白人，因?yàn)橐恍┥贁?shù)族裔，他們往往因醫(yī)療資源匱乏、從事多份工作和缺乏保險(xiǎn)等原因，醫(yī)療支出較少?！?/span>
但當(dāng)人工智能模型是黑箱商業(yè)系統(tǒng)時(shí)，很難弄清楚它內(nèi)部發(fā)生了什么。
企業(yè)客戶可以從查看供應(yīng)商的歷史開(kāi)始：他們還做了什么，他們是否尊重隱私，或者他們所做的事情是否透明？
首席信息官們還應(yīng)該問(wèn)其他問(wèn)題，比如將如何審計(jì)LLM以了解其偏見(jiàn)程度，以及它在多大程度上遵守了華盛頓關(guān)于人工智能的行政命令或歐盟人工智能法案？
Prakash（普拉卡什）說(shuō)，要找到這些信息并不總是容易的，而確定這些信息所需的工具仍在開(kāi)發(fā)之中。
他說(shuō)：“我期待著有一天我們能夠有效地審核這些模型的價(jià)值觀。”
監(jiān)管機(jī)構(gòu)、非營(yíng)利組織、供應(yīng)商團(tuán)體和行業(yè)團(tuán)體才剛剛開(kāi)始著手解決這些問(wèn)題?！爸贫?biāo)準(zhǔn)符合每個(gè)人的利益，因?yàn)樗屓藗儗?duì)如何采用這些技術(shù)充滿信心?！彼f(shuō)，“標(biāo)準(zhǔn)對(duì)供應(yīng)商和最終用戶來(lái)說(shuō)都是一個(gè)很好的機(jī)會(huì)?！?/span>隨著自主的人工智能代理——由生成式人工智能驅(qū)動(dòng)的系統(tǒng)，超越簡(jiǎn)單的用例，實(shí)現(xiàn)復(fù)雜的目標(biāo)——開(kāi)始被大規(guī)模采用，透明度和問(wèn)責(zé)制將變得更加重要。這些系統(tǒng)可以創(chuàng)建實(shí)現(xiàn)目標(biāo)的計(jì)劃、委派任務(wù)、檢查這些任務(wù)是否已成功完成、調(diào)整和迭代，直到實(shí)現(xiàn)目標(biāo)。這需要多次調(diào)用人工智能，即使是小的對(duì)齊問(wèn)題也會(huì)迅速升級(jí)，因此公司必須學(xué)會(huì)評(píng)估這些自主系統(tǒng)的集體性能。
“我們正在關(guān)注它們所帶來(lái)的風(fēng)險(xiǎn)，”Prakash（普拉卡什）補(bǔ)充道，“這并不是說(shuō)我們可以消除所有的風(fēng)險(xiǎn)；任何值得做的事情都有風(fēng)險(xiǎn)。但任何有一點(diǎn)道德和理智的人都會(huì)在部署這項(xiàng)技術(shù)之前花一些時(shí)間對(duì)其進(jìn)行評(píng)估?！?/span>
三、微調(diào)和護(hù)欄
即使公司使用大型商業(yè)人工智能供應(yīng)商，他們也不會(huì)完全按供應(yīng)商所局限的模式做。
即使是像OpenAI這樣的“黑箱”供應(yīng)商也允許企業(yè)微調(diào)其LLM，這允許公司以問(wèn)答形式添加培訓(xùn)數(shù)據(jù)。AArete的Iragavarapu（伊拉加瓦拉普）說(shuō)，這有點(diǎn)像通過(guò)給新員工提供如何做事的例子來(lái)培訓(xùn)他們。
“對(duì)于一個(gè)新人，您會(huì)因?yàn)樗麄兊募寄芏蛡蛩麄?，”她說(shuō)，“但是，當(dāng)您接納他們時(shí)，您要解釋您的文化以及您是如何做事的，這樣新人才能在這種理解下工作。所以這就是您的LLM的加入，這對(duì)組織和企業(yè)至關(guān)重要。”她說(shuō)，微調(diào)需要一個(gè)數(shù)據(jù)集，其大小在模型原始數(shù)據(jù)集的0.5%到1%之間，才能形成有意義的影響模型。
據(jù)報(bào)道，GPT 4（OpenAI為聊天機(jī)器人ChatGPT發(fā)布的語(yǔ)言模型）的參數(shù)超過(guò)1萬(wàn)億個(gè)，即使是1%也是一個(gè)很大的數(shù)字，但企業(yè)在進(jìn)行微調(diào)時(shí)不需要考慮整個(gè)數(shù)據(jù)集。
“您不能說(shuō)您已經(jīng)寫(xiě)了10個(gè)問(wèn)題和答案，并微調(diào)了一個(gè)模型，然后聲稱(chēng)它現(xiàn)在完全符合我的組織的價(jià)值觀。”Iragavarapu（伊拉加瓦拉普）說(shuō)，“但您也不必對(duì)所有事情都進(jìn)行微調(diào)。您只需要對(duì)特定的業(yè)務(wù)流程或文化進(jìn)行微調(diào)。這實(shí)際上是深入挖掘一個(gè)小領(lǐng)域或概念，而不是解決LLM的整個(gè)范圍?！?/span>
她說(shuō)，通過(guò)正確的微調(diào)，可以克服模型的核心對(duì)齊問(wèn)題。為了確定微調(diào)是否有效，LLM需要在大量問(wèn)題上進(jìn)行測(cè)試，以許多不同的方式提出同樣的問(wèn)題。
到目前為止，還沒(méi)有一種很好的自動(dòng)化方法來(lái)實(shí)現(xiàn)這一點(diǎn)，也沒(méi)有一種專(zhuān)門(mén)設(shè)計(jì)用于測(cè)試其他模型對(duì)齊的開(kāi)源LLM，但肯定未來(lái)非常需要它。
隨著簡(jiǎn)單的問(wèn)答用例演變?yōu)樽灾鞯娜斯ぶ悄艽?，這種測(cè)試將變得絕對(duì)必要?！艾F(xiàn)在每個(gè)組織都需要這個(gè)工具，”Iragavarapu（伊拉加瓦拉普）說(shuō)。
四、供應(yīng)商鎖定
當(dāng)一家公司別無(wú)選擇，只能使用特定的人工智能供應(yīng)商時(shí)，保持一致性將是一場(chǎng)持續(xù)的戰(zhàn)斗。
Globant的Lopez Murphy（洛佩茲·墨菲）說(shuō)：“例如，如果它嵌入在Windows（Microsoft Windows是美國(guó)微軟公司以圖形用戶界面為基礎(chǔ)研發(fā)的操作系統(tǒng)，主要運(yùn)用于計(jì)算機(jī)、智能手機(jī)等設(shè)備。共有普通版本、服務(wù)器版本/Windows Server、手機(jī)版本/Windows Phone等、嵌入式版本/Windows CE等各子系列，是全球應(yīng)用最廣泛的操作系統(tǒng)之一。）中，您可能沒(méi)有控制權(quán)?！钡?，如果很容易切換到不同的供應(yīng)商、開(kāi)源項(xiàng)目或自制的LLM，那么這項(xiàng)任務(wù)就會(huì)簡(jiǎn)單得多。擁有選擇權(quán)有助于保持供應(yīng)商的誠(chéng)實(shí)，并將權(quán)力重新交回到企業(yè)買(mǎi)家手中。Globant本身有一個(gè)集成層，一個(gè)人工智能中間件，允許公司在模型之間輕松切換。“它可以是一個(gè)商業(yè)LLM，”他說(shuō)，“或者是您本地的東西，或者是在[AWS] Bedrock（亞馬遜為生成式人工智能提供的全面托管服務(wù)，可提供對(duì)基礎(chǔ)模型的訪問(wèn)。客戶可以使用該服務(wù)，在亞馬遜高性能基礎(chǔ)設(shè)施的安全環(huán)境中，利用自己的專(zhuān)有數(shù)據(jù)發(fā)現(xiàn)、訓(xùn)練和調(diào)整自己的模型，無(wú)需操心管理其他。）上的東西?！?/span>
一些組織推出了自己的模型。Lopez Murphy（洛佩茲·墨菲）說(shuō)：“這就是為什么一些政府希望擁有自己的治理機(jī)構(gòu)，這樣他們就不會(huì)依賴那些硅谷公司的敏感度。”
不僅僅是政府需要對(duì)他們使用的人工智能進(jìn)行高度控制。例如，Blue Cross Blue Shield Michigan就有一些高風(fēng)險(xiǎn)的人工智能使用案例，涉及網(wǎng)絡(luò)安全、合同分析和回答有關(guān)會(huì)員福利的問(wèn)題。由于這些都是非常敏感的領(lǐng)域，并且受到高度監(jiān)管，該公司在安全、受控和專(zhuān)用的云環(huán)境中內(nèi)部構(gòu)建了人工智能系統(tǒng)。
“我們?cè)趦?nèi)部做所有事情，”Fandrich（范德里奇）說(shuō)，“我們?cè)诰W(wǎng)絡(luò)的私有分段部分教導(dǎo)訓(xùn)練和控制模型，然后決定如何以及是否將它們投入生產(chǎn)。”
作者：Maria Korolov（瑪麗亞·科洛洛夫）
Maria Korolov（瑪麗亞·科洛洛夫）是一位報(bào)道人工智能和網(wǎng)絡(luò)安全的獲獎(jiǎng)科技記者。她還寫(xiě)科幻小說(shuō)，編輯一本科幻和幻想雜志，并主持一個(gè)YouTube節(jié)目。
譯者：寶藍(lán)
