你好，歡迎您來(lái)到福建信息主管(CIO)網(wǎng)! 設(shè)為首頁(yè)|加入收藏|會(huì)員中心
美國(guó)頂級(jí)政府機(jī)構(gòu)的非營(yíng)利性研發(fā)中心構(gòu)建了自己的流行genAI?工具版本，以通過(guò)設(shè)計(jì)安全地提供強(qiáng)大的生產(chǎn)力增強(qiáng)功能。
黛博拉·尤曼斯（Deborah Youmans），來(lái)源：MITRE
【睿觀：麻省理工學(xué)院林肯實(shí)驗(yàn)室（MIT Lincoln Laboratory），又稱 麻省理工學(xué)院研究實(shí)驗(yàn)室（MITRE），是一家由美國(guó)聯(lián)邦政府資助的非營(yíng)利性研究和開(kāi)發(fā)機(jī)構(gòu)，總部位于美國(guó)馬薩諸塞州列克星敦。該機(jī)構(gòu)成立于?1958?年，最初是麻省理工學(xué)院林肯實(shí)驗(yàn)室的一部分，旨在支持美國(guó)空軍進(jìn)行彈道導(dǎo)彈防御研究。1966?年，MITRE?從麻省理工學(xué)院分離出來(lái)，成為獨(dú)立的非營(yíng)利性機(jī)構(gòu)。
（一）MITRE的主要工作領(lǐng)域包括：
1.國(guó)家安全和國(guó)防: MITRE開(kāi)發(fā)了廣泛的國(guó)家安全和國(guó)防技術(shù)，包括導(dǎo)彈防御系統(tǒng)、指揮控制系統(tǒng)和網(wǎng)絡(luò)安全系統(tǒng)。
2.航空航天: MITRE為?NASA?和其他航空航天機(jī)構(gòu)開(kāi)發(fā)了各種技術(shù)，包括太空探索系統(tǒng)和航空交通管制系統(tǒng)。
3.民用應(yīng)用: MITRE的技術(shù)也用于各種民用應(yīng)用，包括醫(yī)療保健、交通運(yùn)輸和能源。
（二）MITRE涉及的著名項(xiàng)目包括：
1.美國(guó)國(guó)家導(dǎo)彈防御系統(tǒng)(NMD): MITRE?是美國(guó)國(guó)家導(dǎo)彈防御系統(tǒng)的主要開(kāi)發(fā)人員。NMD?旨在保護(hù)美國(guó)免受彈道導(dǎo)彈襲擊。
2.美國(guó)空軍指揮控制系統(tǒng)(C3): MITRE?開(kāi)發(fā)了美國(guó)空軍的各種指揮控制系統(tǒng)，包括北美防空司令部?(NORAD)?和空軍全球指揮和控制系統(tǒng)?(AFGCCS)。
3.美國(guó)聯(lián)邦航空局(FAA)?空中交通管制系統(tǒng): MITRE?為?FAA?開(kāi)發(fā)了各種空中交通管制系統(tǒng)，包括國(guó)家空中交通管制系統(tǒng)?(NAS)?和終端區(qū)域空中交通管制系統(tǒng)?(TRACON)。
MITRE是美國(guó)政府和私營(yíng)部門(mén)的重要合作伙伴，為國(guó)家安全、國(guó)防和民用領(lǐng)域做出了重大貢獻(xiàn)。
（三）MITRE?的其它：
MITRE的名字來(lái)源于拉丁語(yǔ)“mittere”，意思是“派遣”。
MITRE的第一個(gè)項(xiàng)目是為美國(guó)空軍開(kāi)發(fā)彈道導(dǎo)彈防御系統(tǒng)。
MITRE開(kāi)發(fā)了世界上第一個(gè)實(shí)時(shí)圖形用戶界面。
MITRE開(kāi)發(fā)了第一個(gè)用于商業(yè)用途的衛(wèi)星導(dǎo)航系統(tǒng)。
MITRE開(kāi)發(fā)了第一個(gè)用于互聯(lián)網(wǎng)通信的協(xié)議?！?/span>
作為美國(guó)政府的非營(yíng)利研發(fā)中心，MITRE對(duì)人工智能并不陌生。其研究人員長(zhǎng)期以來(lái)一直在研究?IBM?的?Watson AI?技術(shù)，因此毫不奇怪，當(dāng)?OpenAI?于?2022?年?11?月下旬發(fā)布基于?GPT 3.5?的?ChatGPT?時(shí)，MITRE?將成為首批希望利用該技術(shù)的組織之一，并在一個(gè)月后推出?MITREChatGPT。
MITREChatGPT是微軟?OpenAI GPT 4?的內(nèi)部開(kāi)發(fā)的安全版本，也是該組織首個(gè)重要的生成式?AI?工具。該項(xiàng)目于?2023?年?5?月發(fā)布，為?MITRE?贏得了2024?年?CIO 100 IT?領(lǐng)導(dǎo)力和創(chuàng)新獎(jiǎng)。該項(xiàng)目與?MITRE?已有?65?年歷史的知識(shí)庫(kù)和工具集成在一起，其?10,000?名員工中有?60%?以上已將其投入生產(chǎn)。
該工具是對(duì)R&D?與微軟密切合作的補(bǔ)充，現(xiàn)已得到增強(qiáng)，可滿足美國(guó)六個(gè)聯(lián)邦資助機(jī)構(gòu)的信息請(qǐng)求，包括國(guó)防部、聯(lián)邦航空管理局和國(guó)土安全部。它使研究團(tuán)隊(duì)能夠以創(chuàng)紀(jì)錄的速度分析立法和政策文件，在一天內(nèi)（而不是數(shù)周）向這些重要機(jī)構(gòu)提供擬議的變更計(jì)劃。
MITRE最突出的項(xiàng)目包括開(kāi)發(fā)?FAA?空中交通管制系統(tǒng)和?MITRE ATT&CK?框架網(wǎng)絡(luò)犯罪攻擊技術(shù)集合。
最近，MITRE在弗吉尼亞州投資了一臺(tái)?Nvidia DGX SuperPod，這將加速其在氣候科學(xué)、醫(yī)療保健和網(wǎng)絡(luò)安全方面的研究。該?AI?數(shù)據(jù)中心艙還將用于支持?MITRE?的聯(lián)邦?AI?沙箱和測(cè)試平臺(tái)實(shí)驗(yàn)，以進(jìn)行支持?AI?的應(yīng)用程序和大型語(yǔ)言模型?(LLM)。
一、邁向“AI原生”運(yùn)營(yíng)
MITRE首席信息官?Deborah Youmans?和?MITRE?創(chuàng)新與實(shí)驗(yàn)總監(jiān)?Michal Cenkl?旨在利用這個(gè)不斷發(fā)展的平臺(tái)，將位于弗吉尼亞州麥克萊恩的研究機(jī)構(gòu)轉(zhuǎn)變?yōu)橐粋€(gè)“AI?原生組織”，為政府機(jī)構(gòu)提供最高效、最智能、最關(guān)鍵的數(shù)據(jù)。
“人工智能是我們未來(lái)的重要組成部分，”尤曼斯說(shuō)，他在博思艾倫漢密爾頓公司工作了17?年，最近擔(dān)任副首席信息官，于?2023?年?8?月被任命為首席信息官?！敖衲辏覀兊娜斯ぶ悄軕?zhàn)略和政策由首席信息官辦公室和首席技術(shù)官共同主導(dǎo)，我們未來(lái)的重點(diǎn)是讓?MITRE?成為一個(gè)人工智能原生組織?！?/span>
作為這項(xiàng)努力的一部分，MITRE將在其龐大的數(shù)據(jù)內(nèi)聯(lián)網(wǎng)中利用?LLM?來(lái)創(chuàng)造差異化價(jià)值，長(zhǎng)期擔(dān)任?MITRE IT?領(lǐng)導(dǎo)者的?Cenkl?表示。自?MITREChatGPT?首次發(fā)布以來(lái)，該非營(yíng)利組織通過(guò)將該工具集成到其知識(shí)和項(xiàng)目存儲(chǔ)庫(kù)中，并建立了一個(gè)全機(jī)構(gòu)用戶組來(lái)培訓(xùn)和共享用例，從而增強(qiáng)了其功能。
Cenkl表示，到?2024?年?6?月，MITREChatGPT?已對(duì)數(shù)千份文檔進(jìn)行了文檔分析和推理，提供了一個(gè)企業(yè)提示庫(kù)，并向項(xiàng)目提供了?GPT 3.5 API。他補(bǔ)充說(shuō)，此后，MITRE?已使用?GPT-4?和檢索增強(qiáng)生成?(RAG)?部署了處理超大文檔的功能。
【睿觀：檢索增強(qiáng)生成?(RAG)?是一種用于優(yōu)化大型語(yǔ)言模型?(LLM)?輸出的技術(shù)，使其能夠在生成響應(yīng)之前引用訓(xùn)練數(shù)據(jù)之外的權(quán)威知識(shí)庫(kù)。?LLM?通常使用大量數(shù)據(jù)進(jìn)行訓(xùn)練，并使用數(shù)十億個(gè)參數(shù)來(lái)執(zhí)行諸如回答問(wèn)題、翻譯語(yǔ)言和完成句子等任務(wù)。
RAG通過(guò)為?LLM?提供經(jīng)過(guò)篩選的知識(shí)庫(kù)來(lái)幫助解決這些問(wèn)題，確保生成的文本以事實(shí)信息為基礎(chǔ)。 這使得?RAG?對(duì)于準(zhǔn)確性至關(guān)重要的應(yīng)用（例如新聞報(bào)道、科學(xué)寫(xiě)作或客戶服務(wù)）特別有價(jià)值。
RAG的工作原理是首先使用檢索模型來(lái)識(shí)別與用戶查詢相關(guān)的文檔或文本片段。 然后，將這些相關(guān)部分傳遞給?LLM，以生成響應(yīng)。?LLM?可以使用這些信息來(lái)創(chuàng)建更準(zhǔn)確、更相關(guān)和更有信息的響應(yīng)。
（一）RAG的一些優(yōu)點(diǎn)包括：
提高準(zhǔn)確性: RAG可以幫助確保?LLM?生成的文本以事實(shí)信息為基礎(chǔ)，這對(duì)于需要準(zhǔn)確信息的應(yīng)用非常重要。
提高相關(guān)性: RAG可以幫助?LLM?生成與用戶查詢更相關(guān)的響應(yīng)。
提高信息量: RAG可以幫助?LLM?生成包含更多信息的響應(yīng)。
（二）RAG的一些缺點(diǎn)包括：
增加的復(fù)雜性: RAG比傳統(tǒng)的?LLM?架構(gòu)更復(fù)雜，因?yàn)樗枰~外的檢索模型。
增加的計(jì)算成本: RAG比傳統(tǒng)的?LLM?架構(gòu)更昂貴，因?yàn)樗枰獙?duì)檢索模型和?LLM?進(jìn)行額外的計(jì)算。
總體而言，RAG是一種有前途的技術(shù)，可用于提高?LLM?的性能。 隨著?RAG?技術(shù)的不斷發(fā)展，我們可以預(yù)期它將在越來(lái)越多的應(yīng)用程序中得到使用。
（三）RAG可用于各種應(yīng)用程序，包括：
問(wèn)答: RAG可用于提高?LLM?對(duì)問(wèn)題答案的準(zhǔn)確性。
摘要: RAG可用于幫助?LLM?生成更準(zhǔn)確和更相關(guān)的文本摘要。
機(jī)器翻譯: RAG可用于幫助?LLM?生成更準(zhǔn)確和更流暢的翻譯。
聊天機(jī)器人: RAG可用于幫助聊天機(jī)器人生成更具信息量和吸引力的響應(yīng)。
（四）RAG的未來(lái)
RAG是一項(xiàng)仍在快速發(fā)展的技術(shù)。 隨著研究人員繼續(xù)開(kāi)發(fā)新方法來(lái)改進(jìn)?RAG?架構(gòu)，我們可以預(yù)期它將在未來(lái)幾年中變得更加準(zhǔn)確、高效和通用。
以下是一些可能的未來(lái)RAG?研究方向：
改進(jìn)檢索模型:開(kāi)發(fā)新的檢索模型可以提高?RAG?識(shí)別相關(guān)文本片段的能力。
改進(jìn)LLM:?開(kāi)發(fā)新的?LLM?可以提高?RAG?生成響應(yīng)的能力。
開(kāi)發(fā)新的RAG?架構(gòu):?開(kāi)發(fā)新的?RAG?架構(gòu)可以提高?RAG?的整體性能和效率。
RAG有可能徹底改變?LLM?的工作方式。 隨著?RAG?技術(shù)的不斷發(fā)展，我們可以預(yù)期它將在越來(lái)越多的應(yīng)用程序中得到使用，并對(duì)我們與計(jì)算機(jī)交互的方式產(chǎn)生重大影響?！?/span>
“我們冒了風(fēng)險(xiǎn)。我們很早就開(kāi)始在整個(gè)組織內(nèi)安全地部署生成式人工智能，”Cenkl?表示，并解釋說(shuō)，MITRE?在使用基于人工智能的系統(tǒng)（如?IBM?的?Watson）方面的經(jīng)驗(yàn)使他們能夠快速部署?OpenAI?的?GPT-4，這些系統(tǒng)可以根據(jù)其實(shí)驗(yàn)室和研究中心生成的信息回答問(wèn)題。這意味著研究人員不必從頭開(kāi)始處理?MITRE?資助的聯(lián)邦機(jī)構(gòu)的每一次信息請(qǐng)求。
尤曼斯表示，MITRE積極擁抱?ChatGPT，不僅可以幫助員工減輕工作量、更快地生成報(bào)告，而且由于?MITRE?在對(duì)非營(yíng)利組織海量數(shù)據(jù)存儲(chǔ)庫(kù)進(jìn)行數(shù)據(jù)挖掘方面投入了大量硬件，它還將提升分析水平。
“自從我們宣布為MITRE?的聯(lián)邦?AI?沙箱收購(gòu)?NVIDIA DGX SuperPod?以來(lái)，我們的聯(lián)邦贊助商就提出了許多信息請(qǐng)求，”Youmans?說(shuō)道。“將?MITREChatGPT?集成到我們的內(nèi)聯(lián)網(wǎng)中，并訪問(wèn)我們的知識(shí)資產(chǎn)，有助于我們所有員工與?MITRE?的相關(guān)數(shù)據(jù)建立聯(lián)系。”
二、必須安全
鑒于MITRE?手頭數(shù)據(jù)的敏感性，該項(xiàng)目的第一步是確保?MITRE?版本的?ChatGPT?是安全的并且不提供對(duì)機(jī)密信息的訪問(wèn)權(quán)限。
為此，使用Azure?中的?OpenAI?服務(wù)的?MITRE?與微軟協(xié)商，減少日志記錄并增加安全控制，以滿足其嚴(yán)格的安全要求，該首席信息官表示。
Youmans表示：“在我們管理的安全?Microsoft Azure?租戶中擁有?OpenAI ChatGPT?實(shí)例，而不是依賴一般的公共版本，這樣信息才能保持私密，這對(duì)于確保安全至關(guān)重要。對(duì)于在這種環(huán)境中可以共享哪些類(lèi)型的信息，我們有指導(dǎo)方針。”
據(jù)該公司稱，除了節(jié)省研究和撰寫(xiě)報(bào)告的時(shí)間外，MITREChatGPT還提供編碼協(xié)助、創(chuàng)意生成和解決問(wèn)題的能力，以及減少錯(cuò)誤的質(zhì)量保證改進(jìn)。
據(jù)?MITRE?稱，平均而言，完成關(guān)鍵任務(wù)的時(shí)間減少了?10%?至?30%，該公司還在馬薩諸塞州貝德福德設(shè)有一個(gè)大型研發(fā)中心。
MITRE每月都會(huì)與員工舉辦?AI?研討會(huì)，指導(dǎo)如何有效地進(jìn)行聊天提示，并幫助員工了解提示工程的細(xì)微差別。此外，Youmans?表示，MITRE?最近在公司范圍內(nèi)舉行了第二次技術(shù)交流會(huì)議，以分享?MITREChatGPT?創(chuàng)新并強(qiáng)化有關(guān)安全要求的指導(dǎo)方針。
MITRE首席信息安全官?Bill Hill?向?Youmans?匯報(bào)工作，他一直致力于確保?MITREChatGPT?符合該組織信息安全團(tuán)隊(duì)的審核。
“我們的CISO?與組織的其他部門(mén)緊密合作，我們正在經(jīng)歷一場(chǎng)大規(guī)模的轉(zhuǎn)型，以確保從?[MITRE?的?genAI?活動(dòng)]?開(kāi)始，我們就遵循?[CISA]?的安全設(shè)計(jì)原則，”Youmans?說(shuō)?！拔覀儚囊婚_(kāi)始就擁有安全性，并與我們的開(kāi)發(fā)團(tuán)隊(duì)緊密相連。我們正在從底層開(kāi)發(fā)安全性?！?/span>
Gartner副總裁兼?AI?分析師?Chirag Dekate?表示，對(duì)?MITRE?的?genAI?平臺(tái)、強(qiáng)大的?AI?硬件和龐大存儲(chǔ)庫(kù)的需求可能會(huì)增加。
“政府機(jī)構(gòu)正在考慮如何利用生成式人工智能作為能力倍增器，并內(nèi)置所有護(hù)欄。在我們的合作中，我們看到政府機(jī)構(gòu)使用生成式人工智能創(chuàng)新，包括來(lái)自谷歌和?OpenAI?等創(chuàng)新者的多模態(tài)技術(shù)，來(lái)構(gòu)建變革性試點(diǎn)，旨在提高一線人員的生產(chǎn)力和效率，并簡(jiǎn)化復(fù)雜而錯(cuò)綜復(fù)雜的流程，”Dekate?說(shuō)道?！?span style="font-size: 16px; padding: 0px; outline: 0px; max-width: 100%; font-family: Calibri;">MITRE?的生成式人工智能創(chuàng)新是政府機(jī)構(gòu)在構(gòu)建以價(jià)值為中心的解決方案的過(guò)程中可以探索的工具集的核心部分?！?/span>
