以下文章來源于CIOCDO?，作者CIO.com
更小的模型，更好的芯片和可再生能源的幫助。只有在你需要的時候使用人工智能也是如此。
圖源：GORODENKOFF（圖片上傳者，可以譯為用戶GORODENKOFF，或者GORDENKOFF）?/ SHUTTERSTOCK
監(jiān)管機構(gòu)、投資者、客戶甚至是員工，都在推動企業(yè)盡量減少其人工智能舉措對氣候的影響。從地熱數(shù)據(jù)中心到更高效的graphic processing units/圖形處理器(GPUs)?，一切都能有所幫助。但是，如果人工智能用戶真的想要應(yīng)對氣候變化，他們必須克服使用最大、最糟糕的人工智能模型來解決所有問題的沖動。
對人工智能導致全球變暖的擔憂，源于用于開發(fā)和保持人工智能模型運行的GPU消耗的能源是傳統(tǒng)云應(yīng)用程序的四倍，人工智能的耗電量可能和愛爾蘭一樣多。
作為回應(yīng)，歐洲和美國的監(jiān)管機構(gòu)正在采取行動，要求人工智能的大用戶報告其對環(huán)境的影響。全球基礎(chǔ)設(shè)施服務(wù)提供商Kyndryl（勤達睿，于?2021?年從?IBM IT?基礎(chǔ)架構(gòu)服務(wù)中剝離出來。其全球客戶群包括財富?100?強公司中的?75?家。依靠分布于?100?多個國家或地區(qū)的?90,000?多名高技能專業(yè)人士，全心全意幫助客戶取得成功，與客戶展開合作并幫助他們施展抱負。依靠分布于?100?多個國家/地區(qū)的?90,000?多名高技能專業(yè)人士，設(shè)計、構(gòu)建并管理著全球日常運轉(zhuǎn)不可或缺的技術(shù)系統(tǒng)，同時推動此類系統(tǒng)的現(xiàn)代化轉(zhuǎn)型。）的全球可持續(xù)發(fā)展副總裁Faith Taylor（費思·泰勒）說，信用評級機構(gòu)和客戶正在密切關(guān)注碳排放等環(huán)境、社會和治理(ESG）問題。此外，她說，“員工，尤其是年輕一代，說他們不會在一家沒有特定環(huán)境目標的公司工作。我們認為這是一個招聘和留住人才的因素。”
隨著可持續(xù)的努力成為更重要的事情，企業(yè)精簡其人工智能工作的四種路徑。
一、使用更高效的流程和體系結(jié)構(gòu)
SaaS（一般指軟件運營服務(wù)。?軟件運營服務(wù)是Software as a Service的中文翻譯。是指用戶獲取軟件服務(wù)的一種新形式。它不需要用戶將軟件產(chǎn)品安裝在自己的電腦或服務(wù)器上。）提供商Salesforce（創(chuàng)建于1999年3月的一家客戶關(guān)系管理/CRM?軟件服務(wù)提供商，總部設(shè)于美國舊金山，可提供隨需應(yīng)用的客戶關(guān)系管理平臺）的減排高級經(jīng)理Boris Gamazaychikov（鮑里斯·賈馬扎奇科夫）建議使用專門的人工智能模型來減少訓練它們所需的能源?！坝斜匾屢粋€也能寫十四行詩的模型為我們寫代碼嗎？”他問道，“我們的判斷是否定的。我們的方法是為特定的用例創(chuàng)建特定的模型，而不是一個通用模型?！?/span>
他還建議利用開源社區(qū)來獲取可以對各種任務(wù)進行預(yù)訓練的模型。有一個例子，他引用了Meta（Meta Platform Inc，美國互聯(lián)網(wǎng)公司，原名Facebook，創(chuàng)立于2004年2月4日，總部位于美國加利福尼亞州門洛帕克?！癕eta”，來源于“元宇宙”，Metaverse，意思是包涵萬物無所不聯(lián)。Facebook堅定地希望甩掉問世以來就牢牢被貼在身上的標簽——社交媒體，要跳出發(fā)家領(lǐng)域社交媒體的“舒適圈”，著力開拓元宇宙e。）的Llama-2（2023年7月19日，Meta AI已正式發(fā)布最新一代開源大模型。訓練所用的token翻了一倍至2萬億，同時對于使用大模型最重要的上下文長度限制，Llama 2也翻了一倍。Llama 2包含了70億、130億和700億參數(shù)的模型。Meta宣布將與微軟Azure進行合作，向其全球開發(fā)者提供基于Llama 2模型的云服務(wù)。同時Meta還將聯(lián)手高通，讓Llama 2能夠在高通芯片上運行。），他說其已經(jīng)創(chuàng)造了超過13000種變種?！八羞@13000款新模型都不需要任何預(yù)訓練?！彼f，“想想這節(jié)省了多少計算量和碳排放?！彼a充說，Salesforce的人工智能研究團隊還開發(fā)了最大并行度等方法，這些方法可以有效地劃分計算密集型任務(wù)，以減少能源使用和碳排放。
Salesforce不是同時在所有訓練數(shù)據(jù)上訓練模型，而是在多個“時期”中訓練模型，在每個時期中，根據(jù)早期訓練的結(jié)果對部分數(shù)據(jù)進行輕微修改。他說，這樣也可以減少電力消耗。
一些超級計算器提供了關(guān)于使人工智能更可持續(xù)發(fā)展的工具和建議，比如Amazon Web Services（亞馬遜云計算服務(wù)，是亞馬遜提供的是全球最全面、應(yīng)用最廣泛的云平臺，從全球數(shù)據(jù)中心提供超過?200?項功能齊全的服務(wù)。），它提供了關(guān)于使用無服務(wù)器技術(shù)來消除閑置資源、數(shù)據(jù)管理工具和數(shù)據(jù)集的提示。AWS還擁有減少數(shù)據(jù)處理和存儲的模型，以及為人工智能應(yīng)用提供“適當規(guī)?！被A(chǔ)設(shè)施的工具。如果使用得當，這些工具可以幫助最大限度地減少人工智能所需的計算資源，從而減少其對環(huán)境的影響。
二、使用更少的數(shù)據(jù)
減少用于訓練模型的數(shù)據(jù)集的大小是最大限度地減少人工智能所涉及的能源使用和碳排放的最有效方法之一。Colby College（科爾比學院。是一所位于緬因州沃特維爾的文理學院。創(chuàng)建于1813年，于1871年成為全美第一所接受女性學生的男子學院。在2023年U.S. News美國最佳文理學院排名中，科爾比學院位列第24位。）的Davis Institute for Artificial Intelligence（戴維斯人工智能研究所。是文理學院第一個跨學科的AI研究所。該研究所利用具有現(xiàn)實世界影響的豐富數(shù)據(jù)集，促進了教師和學生的重要研究，并為人工智能正在改變行業(yè)、職業(yè)以及發(fā)現(xiàn)、創(chuàng)造力和學術(shù)模式的未來做好了準備。）所長Amanda Stent（阿曼達·斯滕特）教授說：“你可以將許多人工智能模型的規(guī)?？s小一個數(shù)量級，只會損失2%到3%的準確性。這些技術(shù)眾所周知，但并沒有得到應(yīng)有的廣泛應(yīng)用，因為人們迷戀規(guī)模的概念?！边€有媒體對大型模型的關(guān)注。
Gamazaychikov（賈馬扎奇科夫）說，Salesforce的CodeGen模型（是一個開源的大語言模型，旨在解決程序合成問題。程序合成是指根據(jù)給定的問題規(guī)范生成計算機程序的過程，可以通過輸入輸出示例或自然語言描述來表達。其實現(xiàn)的會話式AI編程，能夠?qū)⒑唵蔚挠⑽奶崾巨D(zhuǎn)化為可執(zhí)行的代碼。無需親自編寫任何代碼，而是用自然語言的方式來描述代碼應(yīng)該完成的任務(wù)，?CodeGen?就會為用戶自動生成代碼。）的最新版本允許用戶使用自然語言生成可執(zhí)行代碼，其性能與兩倍于其大小的模型一樣好。他說，根據(jù)粗略的經(jīng)驗，大約50%的規(guī)模下降意味著碳排放量也相應(yīng)下降。
在視頻和音樂流媒體服務(wù)公司Plex（是一個VR流媒體內(nèi)容共享平臺，通過兼容Daydream的安卓智能手機和頭顯，用戶就可以在VR中連接Plex賬戶的媒體服務(wù)器上觀看電影或電視節(jié)目。Plex有多種交互式的觀看環(huán)境可供選擇，用戶還可以邀請好友一同觀看并進行互動。），數(shù)據(jù)科學主管Scott Weston（斯科特·韋斯頓）通過專注于特定需求來減少訓練數(shù)據(jù)的規(guī)模。他說：“我們不僅想找到要訂閱或離開平臺的用戶，還想找到那些應(yīng)該訂閱的用戶以及如何確保他們訂閱。”他補充說，模型訓練更簡單，因為數(shù)據(jù)集更集中，因為數(shù)據(jù)集更專注于它試圖解決的特定業(yè)務(wù)問題?！爸缶蜁铆h(huán)境，因為我們沒有使用所有這些額外的計算來訓練模型，”他說。
Weston（韋斯頓）使用提升建模，運行一系列A/B tests（是用于測試特定用戶群，對不同版本的產(chǎn)品特征反應(yīng)的線上實驗方法?；驹瓌t：1.盡快得到實驗結(jié)論，盡快決策；2.收益最大化，用戶體驗影響最小。）來確定潛在客戶對不同報價的反應(yīng)，然后使用這些測試的結(jié)果來構(gòu)建模型。數(shù)據(jù)集的大小受到業(yè)務(wù)問題的限制。“我們在進行大規(guī)模測試時非常謹慎，因為我們不想中斷與客戶的常規(guī)通信?！?/span>
三、使用可再生能源
在使用可再生能源的數(shù)據(jù)中心托管人工智能業(yè)務(wù)是減少碳排放的直接途徑，但也并非沒有權(quán)衡。
在線翻譯服務(wù)公司Deepl（是一家致力于為語言發(fā)展人工智能的深度學習公司，自2009年成立起，就一直保持著領(lǐng)先地位。起初，這家公司名為Linguee，后來更名為DeepL，以更好地展示其核心業(yè)務(wù)——翻譯服務(wù)。如今，DeepL已經(jīng)推出了一款用于翻譯的互聯(lián)網(wǎng)搜索引擎，為用戶提供了更加便捷的語言轉(zhuǎn)換服務(wù)。）在四個主機托管設(shè)施中運行其人工智能功能：兩個在冰島，一個在瑞典，另一個在芬蘭。冰島的數(shù)據(jù)中心使用100%可再生的地熱和水力發(fā)電。Deepl的工程總監(jiān)Guido Simon（圭多·西蒙）說，寒冷的氣候也削減了40%或更多的數(shù)據(jù)中心冷卻服務(wù)器所需的總功率，因為可以開窗，而不是使用空調(diào)。他說，成本是另一個主要好處，其價格為每千瓦/小時5美分，而德國的價格約為30美分或更多。
Stent（斯滕特）說，用戶和可持續(xù)數(shù)據(jù)中心之間的網(wǎng)絡(luò)延遲對于時間敏感的應(yīng)用程序來說可能是一個問題，但僅限于推理階段，即應(yīng)用程序向用戶提供答案，而不是初步訓練階段。
總部位于德國科隆的Deepl公司發(fā)現(xiàn)，它可以通過遠程協(xié)同辦公設(shè)施中進行訓練和推理?！芭c更靠近我們的數(shù)據(jù)中心相比，我們看到的延遲增加了大約20毫秒?！盨imon（西蒙）說，“在推理過程中，與人工智能引擎的初始連接可能需要10次往返，由于距離的原因，導致大約200到300毫秒的延遲，但您可以優(yōu)化應(yīng)用程序以減少初始時間?！?/span>
當然，與遠程站點的互聯(lián)網(wǎng)連接速度可以緩解延遲問題。Deepl的冰島供應(yīng)商之一Verne Global（是一家總部位于冰島雷克雅未克的領(lǐng)先服務(wù)器主機商。他們提供高性能的云計算和數(shù)據(jù)中心解決方案,客戶包括金融、科技和能源行業(yè)等。他們的數(shù)據(jù)中心基于100%可再生能源,并且使用冷卻技術(shù)來最大程度地提高能源效率。）聲稱是所有往返冰島的海底電纜系統(tǒng)的互連站點，并與歐洲和美國提供冗余、高容量的光纖連接。
Stent（斯滕特）說，另一個考慮因素是“可再生”數(shù)據(jù)中心是否運行最新、最高效的GPU或tensor processing units/張量處理單元（TPU，是一款為機器學習而定制的芯片，經(jīng)過了專門深度機器學習方面的訓練，它有更高效能，即每瓦計算能力。）如果不是這樣，它最終可能會比傳統(tǒng)供電但更現(xiàn)代化的數(shù)據(jù)中心消耗更多的電力。Simon（西蒙）說，這對Deepl來說不是問題，因為它在同一地點的設(shè)施中擁有自己的“超級先進”服務(wù)器。
四、根本不使用人工智能
雖然人工智能在員工和客戶中引起轟動，但如果其他方法更容易實施，對環(huán)境的影響更小，那么它可能會被高估。AWS在其可持續(xù)發(fā)展指南中建議：“一定要問AI/ML是否匹配你的工作量。當一種更簡單、更可持續(xù)的方法也可能成功時，沒有必要使用計算密集型人工智能。例如，使用ML(機器學習，Machine Learning，是研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能。)來路由物聯(lián)網(wǎng)消息可能是沒有根據(jù)的；你可以用一個規(guī)則引擎來表達這個邏輯?！?/span>
除了環(huán)境方面的考慮，Plex無法投入數(shù)百萬美元的計算來訓練最大的模型。Weston（韋斯頓）說：“這一切都錯綜復雜，確保你仔細考慮每件事，而不僅僅是在問題上砸錢?！?/span>
在線游戲公司Mino Games（全稱Mino Games,Mino Games是一家移動游戲開發(fā)商,總部位于加利福尼亞州舊金山和QC蒙特利爾。）使用DataGPT（是一家總部位于加利福尼亞州的初創(chuàng)公司，致力于簡化企業(yè)從數(shù)據(jù)中使用見解的方式，今天推出了新的AI Analyst，這是一種對話聊天機器人，可幫助團隊通過自然語言交流來了解其數(shù)據(jù)集的內(nèi)容和原因。），它集成了分析、緩存數(shù)據(jù)庫，以及提取、翻譯和加載(ETL)進程來加快查詢速度，例如為玩家提供哪些新功能。數(shù)據(jù)分析部門的負責人Diego Cáceres（迭戈·卡塞雷斯）敦促人們謹慎使用人工智能。他說：“仔細表述商業(yè)問題，并確定簡單的數(shù)學方法是否足夠好?！?/span>
五、持續(xù)的挑戰(zhàn)
咨詢公司Everest Group（埃弗萊斯集團成立于1991年，其業(yè)務(wù)網(wǎng)絡(luò)遍布全球5大洲，為“世界1000強”企業(yè)長期提供分析、咨詢、獵頭等服務(wù)，是全球知名信息咨詢機構(gòu)。PEAK Matrix?評估報告是其主打產(chǎn)品之一，Everest Group已連續(xù)6年發(fā)布RPA領(lǐng)域的PEAK Matrix?評估報告。）的合伙人Yugal Joshi（尤加·喬希）說，除了在基于分布式云的工作負載中實現(xiàn)可持續(xù)人工智能的成本外，找出哪種工作負載消耗電力也是一個問題。因此，他說，大多數(shù)公司首先關(guān)注人工智能的商業(yè)成果，然后才關(guān)注可持續(xù)性。
Salesforce的Gamazaychikov（賈馬扎奇科夫）說，另一個挑戰(zhàn)是從開發(fā)者那里獲得有關(guān)其基礎(chǔ)人工智能模型碳足跡的信息。隨著歐盟和美國證券交易委員會等機構(gòu)的進一步監(jiān)管，“如果公司還不披露數(shù)據(jù)，他們也必須盡快開始?！?/span>
另一個是人工智能驅(qū)動的巨大突破的誘惑，無論對環(huán)境造成什么代價。
Colby College（科爾比學院）的Stent（斯滕特）說：“有些公司說‘我想保持可持續(xù)發(fā)展’，但他們也希望以其卓越的人工智能而聞名，他們的員工希望做一些轉(zhuǎn)型的事情。除非財政壓力迫使他們的人工智能努力變得更有效率，”她說，“否則其他事情會讓他們遠離可持續(xù)性?！?/span>
作者：Robert Scheier（羅伯特·謝爾）
