以下文章來(lái)源于CIOCDO?,作者zdnet&睿信咨詢
神經(jīng)網(wǎng)絡(luò)處理器(NPU)的崛起正在改變個(gè)人電腦(PC)行業(yè)的游戲規(guī)則,這主要得益于其專為處理人工智能(AI)任務(wù)而設(shè)計(jì)的架構(gòu),特別是那些涉及到大量多媒體數(shù)據(jù)如視頻和圖像的任務(wù)。NPU優(yōu)化了處理這些數(shù)據(jù)的方式,提高了性能,同時(shí)也在一定程度上有助于保護(hù)數(shù)據(jù)隱私和安全。Neural Processing Unit(神經(jīng)網(wǎng)絡(luò)處理器。神經(jīng)網(wǎng)絡(luò)處理器NPU采用“數(shù)據(jù)驅(qū)動(dòng)并行計(jì)算”的架構(gòu),是專門為人工智能應(yīng)用開發(fā)的處理器,尤其擅長(zhǎng)進(jìn)行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理計(jì)算,特別是處理視頻、圖像類的海量多媒體數(shù)據(jù)。)可能會(huì)改變游戲規(guī)則,但我們?cè)诋a(chǎn)品設(shè)計(jì)中需要保持平衡以滿足消費(fèi)者的需求。
圖源:June Wan/ZDNET
【睿觀:隨著工作場(chǎng)所對(duì)生成式人工智能(GenAI)工具的需要不斷增長(zhǎng),芯片和設(shè)備制造商需要確保其產(chǎn)品支持這一趨勢(shì),這包括將AI工作負(fù)載從云端轉(zhuǎn)移到本地設(shè)備上。
在滿足企業(yè)和個(gè)人消費(fèi)者的需求時(shí),如何在產(chǎn)品設(shè)計(jì)中找到正確的平衡成為一個(gè)重要議題。需求仍然集中在提升攝像頭和視頻會(huì)議的能力、筆記本的性能以及電池壽命上。隨著人工智能PC的興起,市場(chǎng)參與者考慮將特定工作負(fù)載,例如噪音消除和背景模糊功能,轉(zhuǎn)移到NPU上,從而提高整體性能。
此外,Lenovo、AMD、和Asus等行業(yè)巨頭已經(jīng)開始在其產(chǎn)品中集成NPU,以應(yīng)對(duì)這些變化。他們的目標(biāo)不僅僅是提供硬件,還包括為開發(fā)者和最終用戶提供必要的軟件工具,讓他們能夠更好地利用這些AI能力。
市場(chǎng)研究公司如Forrester和IDC預(yù)測(cè),到2024年,有大量企業(yè)和消費(fèi)級(jí)產(chǎn)品將采納使用生成式AI技術(shù),這將極大推動(dòng)人工智能PC的出貨量。IDC更是預(yù)測(cè),到2027年,人工智能PC的出貨量將占個(gè)人電腦總出貨量的近60%。
總體來(lái)看,NPU的加入不僅可被視為PC技術(shù)的一次重大進(jìn)化,還為未來(lái)個(gè)人電腦的功能和應(yīng)用開辟了新的可能性,盡管在追求更高的性能和更長(zhǎng)的電池壽命之間尋找平衡仍是一個(gè)挑戰(zhàn)。隨著技術(shù)的不斷進(jìn)步和市場(chǎng)的適應(yīng),高級(jí)的人工智能PC正在成為現(xiàn)實(shí),并將為個(gè)人用戶和企業(yè)提供前所未有的計(jì)算能力和效率?!?/em>
神經(jīng)網(wǎng)絡(luò)處理器(NPU)的出現(xiàn)可能被譽(yù)為個(gè)人電腦(PC)的游戲規(guī)則改變者,但在產(chǎn)品設(shè)計(jì)中找到正確的平衡對(duì)于滿足消費(fèi)者的需求仍然至關(guān)重要。
工作場(chǎng)所對(duì)人工智能(AI)工具的需求不斷增長(zhǎng),包括生成式人工智能(GenAI),促使芯片制造商和設(shè)備制造商等行業(yè)參與者確保他們的產(chǎn)品能夠支持這一轉(zhuǎn)變。
特別是,隨著公司將人工智能工作負(fù)載從云轉(zhuǎn)移到客戶端設(shè)備,個(gè)人電腦將需要跟上步伐。這種轉(zhuǎn)變可以通過(guò)減少發(fā)送人工智能工作負(fù)載到云和返回到用戶的設(shè)備的(信息交互)需要來(lái)提高性能。公司還可以通過(guò)將數(shù)據(jù)保留在設(shè)備上,而不是將數(shù)據(jù)轉(zhuǎn)移到云上或從云上轉(zhuǎn)移下來(lái)以加強(qiáng)數(shù)據(jù)隱私和安全。
因?yàn)樵赑C本地運(yùn)行的人工智能任務(wù)通常由CPU(中央處理器)、GPU(圖形處理器)單獨(dú)執(zhí)行或二者協(xié)同執(zhí)行,所以設(shè)備的性能和電池壽命可能會(huì)降低,因?yàn)閮烧叨紱](méi)有針對(duì)處理人工智能任務(wù)進(jìn)行優(yōu)化。這就是人工智能專用芯片(即NPU)的用武之地。
一、用戶的需求仍然集中在混合工作上
在全球新冠疫情期間,用戶需求開始轉(zhuǎn)向圍繞遠(yuǎn)程工作并支持地理上分散勞動(dòng)力的能力。Lenovo(聯(lián)想集團(tuán),是一家成立于中國(guó)、業(yè)務(wù)遍及180個(gè)市場(chǎng)的全球化科技公司。作為全球智能設(shè)備的領(lǐng)導(dǎo)廠商,聯(lián)想每年為全球用戶提供數(shù)以億計(jì)的智能終端設(shè)備,包括電腦、平板、智能手機(jī)等。作為企業(yè)數(shù)字化和智能化解決方案的全球頂級(jí)供應(yīng)商,聯(lián)想積極推動(dòng)全行業(yè)“設(shè)備+云”和“基礎(chǔ)設(shè)施+云”的發(fā)展,以及智能化解決方案的落地。)負(fù)責(zé)商業(yè)筆記本產(chǎn)品組合和產(chǎn)品管理的執(zhí)行董事Tom Butler(湯姆·巴特勒)表示,這推動(dòng)了內(nèi)置攝像頭和視頻會(huì)議能力的改進(jìn)。
這促使聯(lián)想將精力集中于提高攝像頭和視頻質(zhì)量,以及制造支持噪聲分離的麥克風(fēng)。Butler(巴特勒)告訴作者,用戶還期望有良好的筆記本電腦性能,包括長(zhǎng)壽命電池。
由于世界各地的勞動(dòng)力仍然大多是遠(yuǎn)程的或混合的,用戶需求仍集中在性能、電池壽命和視頻會(huì)議功能上。人工智能個(gè)人電腦的興起促使市場(chǎng)參與者考慮將一些工作負(fù)載(如噪聲消除和背景模糊功能)轉(zhuǎn)移到NPU上。
Butler(巴特勒)指出,既然個(gè)人電腦有三個(gè)核心引擎,實(shí)現(xiàn)分配工作負(fù)載的最佳方式是找到一個(gè)關(guān)鍵目標(biāo)。他補(bǔ)充說(shuō),聯(lián)想所有的新商用筆記本電腦都配備了NPU。“我們正在有效地進(jìn)入人工智能個(gè)人電腦時(shí)代,”他說(shuō)。
AMD(美國(guó)超威半導(dǎo)體公司,專門為計(jì)算機(jī)、通信和消費(fèi)電子行業(yè)設(shè)計(jì)和制造各種創(chuàng)新的微處理器,如CPU、GPU、主板芯片組、電視卡芯片等,以及提供閃存和低功率處理器解決方案,公司成立于1969年。AMD致力為技術(shù)用戶——從企業(yè)、政府機(jī)構(gòu)到個(gè)人消費(fèi)者——提供基于標(biāo)準(zhǔn)的、以客戶為中心的解決方案。)本周在SXSW(South by Southwest,直譯可稱西南偏南,看起來(lái)是因?yàn)槠渑e辦地點(diǎn)之故而得名,始于1987年,是每年三月都會(huì)在美國(guó)西南地區(qū)開幕的盛會(huì),它集音樂(lè)、電影、多媒體互動(dòng)等為一體,可以說(shuō)是娛樂(lè)圈、文化節(jié)、科技圈融合的盛會(huì) ,共分音樂(lè)節(jié)、電影節(jié)和互動(dòng)節(jié)三個(gè)主會(huì)場(chǎng)。其中穿插了許多論壇會(huì)議,三個(gè)領(lǐng)域各自獨(dú)立舉行,有著不同的起始與結(jié)束日。)上的主題演講中說(shuō)首席執(zhí)行官Lisa Su(麗莎·蘇)將人工智能描述為“PC時(shí)代的進(jìn)化”。
“這是讓我們變得更有效率的開始,”Su(蘇)說(shuō),并補(bǔ)充說(shuō),人工智能個(gè)人電腦時(shí)代已經(jīng)到來(lái),產(chǎn)品已然上市。她還表示,AMD正在努力優(yōu)化其人工智能芯片,包括構(gòu)建提高生產(chǎn)力的“更好的軟件”。
Asus(華碩。中國(guó)臺(tái)灣華碩電腦股份有限公司是當(dāng)前全球第一大主板生產(chǎn)商、全球第三大顯卡生產(chǎn)商,同時(shí)也是全球領(lǐng)先的3C解決方案提供商之一,致力于為個(gè)人和企業(yè)用戶提供最具創(chuàng)新價(jià)值的產(chǎn)品及應(yīng)用方案。華碩的產(chǎn)品線完整覆蓋至筆記本電腦、主板、顯卡、服務(wù)器、光存儲(chǔ)、有線/無(wú)線網(wǎng)絡(luò)通訊產(chǎn)品、LCD、掌上電腦、智能手機(jī)等全線3C產(chǎn)品。其中顯卡和主板以及筆記本電腦三大產(chǎn)品已經(jīng)成為華碩的主要競(jìng)爭(zhēng)實(shí)力。)首席運(yùn)營(yíng)官Joe Hsieh(謝祖墀)在接受作者采訪時(shí)表示,2024年是用戶將開始詢問(wèn)他們的設(shè)備是否支持人工智能的一年。
與聯(lián)想一樣,華碩也在努力確保其新產(chǎn)品搭載用于人工智能工作負(fù)載的NPU或核心芯片組件。
Hsieh(祖墀)說(shuō),華碩還專注于開發(fā)必要的軟件引擎和工具,以幫助用戶訓(xùn)練自己的人工智能模型。他指出,目前大多數(shù)大型語(yǔ)言模型都只在公共數(shù)據(jù)上進(jìn)行訓(xùn)練。隨著個(gè)人設(shè)備處理人工智能工作負(fù)載,華碩相信用戶會(huì)希望這些應(yīng)用程序使用他們的數(shù)據(jù),而不是公共數(shù)據(jù)。
二、優(yōu)化人工智能的硬件和軟件
當(dāng)被問(wèn)及隨著對(duì)人工智能個(gè)人電腦需求的增長(zhǎng),哪些需求最難平衡時(shí),Butler(巴特勒)指出了對(duì)更薄和更輕設(shè)備的需求,以及更長(zhǎng)的電池壽命和更好的性能之間的通常權(quán)衡。
他說(shuō),提高性能將不可避免地影響電池的壽命,反之亦然。他指出:“不過(guò),由于NPU現(xiàn)在可用,它讓我們可以卸載一些傳統(tǒng)上會(huì)耗費(fèi)GPU或CPU的工作負(fù)載。”例如,降噪功能可以移動(dòng)到NPU。Butler(巴特勒)指出,軟件供應(yīng)商正在研究如何優(yōu)化代碼以利用NPU。
與此同時(shí),華碩副總裁兼AIoT(AIoT/人工智能物聯(lián)網(wǎng)=AI/人工智能+IoT/物聯(lián)網(wǎng)。AIoT融合AI技術(shù)和IoT技術(shù),通過(guò)物聯(lián)網(wǎng)產(chǎn)生、收集來(lái)自不同維度的、海量的數(shù)據(jù)存儲(chǔ)于云端、邊緣端,再通過(guò)大數(shù)據(jù)分析,以及更高形式的人工智能,實(shí)現(xiàn)萬(wàn)物數(shù)據(jù)化、萬(wàn)物智聯(lián)化。物聯(lián)網(wǎng)技術(shù)與人工智能相融合,最終追求的是形成一個(gè)智能化生態(tài)體系,在該體系內(nèi),實(shí)現(xiàn)了不同智能終端設(shè)備之間、不同系統(tǒng)平臺(tái)之間、不同應(yīng)用場(chǎng)景之間的互融互通,萬(wàn)物互融。除了在技術(shù)上需要不斷革新外,與AIoT相關(guān)的技術(shù)標(biāo)準(zhǔn)、測(cè)試標(biāo)準(zhǔn)的研發(fā)、相關(guān)技術(shù)的落地與典型案例的推廣和規(guī)模應(yīng)用也是現(xiàn)階段物聯(lián)網(wǎng)與人工智能領(lǐng)域亟待突破的重要問(wèn)題。)業(yè)務(wù)集團(tuán)聯(lián)席主管Albert Chang(阿爾伯特·昌)表示,華碩希望提供工具,幫助開發(fā)者選擇正確的計(jì)算資源。Chang(昌)說(shuō),應(yīng)用程序開發(fā)者應(yīng)該能夠確定是否需要使用CPU、NPU或集成GPU來(lái)驅(qū)動(dòng)他們的人工智能工具。
三、即將到來(lái)的人工智能PC浪潮
Forrester(弗雷斯特市場(chǎng)咨詢,是一家獨(dú)立的技術(shù)和市場(chǎng)研究公司,針對(duì)技術(shù)給業(yè)務(wù)和客戶所帶來(lái)的影響提供務(wù)實(shí)和具有前瞻性的建議。公司已經(jīng)被公認(rèn)為思想的領(lǐng)導(dǎo)者和可信賴的咨詢商,通過(guò)所從事的研究、咨詢、市場(chǎng)活動(dòng)和高層對(duì)等交流計(jì)劃,幫助那些全球性的企業(yè)用戶建立起市場(chǎng)領(lǐng)導(dǎo)地位。)預(yù)測(cè),到2024年,60%的企業(yè)將提供生成式人工智能驅(qū)動(dòng)的應(yīng)用程序,為員工和客戶提供服務(wù)。
研究公司還預(yù)計(jì),人工智能將推動(dòng)對(duì)個(gè)人電腦的需求。IDC(International Data Corporation,國(guó)際數(shù)據(jù)公司,是國(guó)際數(shù)據(jù)集團(tuán)旗下全資子公司。是信息技術(shù)、電信行業(yè)和消費(fèi)科技市場(chǎng)咨詢、顧問(wèn)和活動(dòng)服務(wù)專業(yè)提供商。經(jīng)常發(fā)布的市場(chǎng)資訊、預(yù)測(cè)和資深分析師關(guān)于業(yè)內(nèi)熱點(diǎn)話題的觀點(diǎn)性文章。)預(yù)計(jì)人工智能個(gè)人電腦的出貨量將從2024年的5000萬(wàn)臺(tái)攀升到2027年的1.67億臺(tái),這將占個(gè)人電腦總出貨量的近60%。IDC將人工智能個(gè)人電腦定義為具有芯片上的系統(tǒng)功能,可以在該設(shè)備上運(yùn)行生成式人工智能任務(wù)的個(gè)人電腦。
IDC還預(yù)測(cè),2024年全球PC出貨量將達(dá)到2.654億臺(tái),比2023年增長(zhǎng)2%,這得益于人工智能PC的引入。這些系統(tǒng)將在2028年將出貨量推高至2.922億臺(tái),2024至2028年間的復(fù)合年增長(zhǎng)率為2.4%。IDC全球移動(dòng)和消費(fèi)設(shè)備跟蹤器研究經(jīng)理Jitesh Ubrani(吉提什·烏布拉尼)表示:“設(shè)備上人工智能功能的存在不太可能導(dǎo)致PC安裝量的增加,但肯定會(huì)導(dǎo)致平均售價(jià)的增長(zhǎng)。”
Gartner(高德納,Gartner Group公司成立于1979年,它是第一家信息技術(shù)研究和分析的公司。它為有需要的技術(shù)用戶來(lái)提供專門的服務(wù)。Gartner已經(jīng)成為了一家獨(dú)立的咨詢公司,Gartner公司的服務(wù)主要是迎合中型公司的需要,它希望使自己的業(yè)務(wù)覆蓋到IT行業(yè)的所有領(lǐng)域,從而讓自己成為每一位用戶的一站式信息技術(shù)服務(wù)公司。)預(yù)計(jì)到年底將出貨5450萬(wàn)臺(tái)人工智能PC,而生成式人工智能手機(jī)的數(shù)量將達(dá)到2.4億臺(tái)。到2024年,這些人工智能設(shè)備將占所有個(gè)人電腦市場(chǎng)的22%,占基礎(chǔ)智能手機(jī)和高端智能手機(jī)市場(chǎng)的22%。該研究公司將人工智能PC定義為具有專用人工智能加速器或核心、NPU、accelerated processing units/APU(加速處理器,是AMD“融聚未來(lái)”理念的產(chǎn)品,它第一次將中央處理器和獨(dú)顯核心做在一個(gè)晶片上,它同時(shí)具有高性能處理器和最新獨(dú)立顯卡的處理性能,支持DX11游戲和最新應(yīng)用的“加速運(yùn)算”,大幅提升了電腦運(yùn)行效率。)或張量處理單元tensor processing units/TPU(是谷歌專門為神經(jīng)網(wǎng)絡(luò)機(jī)器學(xué)習(xí)開發(fā)的人工智能加速器 專用集成電路/ASIC,特別是使用谷歌自己的TensorFlow軟件。)的PC,旨在優(yōu)化和加速設(shè)備上的人工智能任務(wù)。
IDC將人工智能PC分為三類:
第一款具有NPU的PC,其時(shí)鐘高達(dá)40 TOPS/tera operations per second(主要算力單位,代表處理器每秒鐘可進(jìn)行一萬(wàn)億次/10^12次操作。),并在設(shè)備上本地運(yùn)行的應(yīng)用程序中啟用特定的人工智能功能。AMD、英特爾、蘋果和高通等芯片制造商如今都在生產(chǎn)此類NPU。
第二類包括配備NPU的下一代人工智能PC,NPU提供40至60個(gè)TOPS,并具有支持“持久和普遍”人工智能功能的“人工智能優(yōu)先”操作系統(tǒng)。AMD、英特爾和高通預(yù)計(jì)將于2024年開始發(fā)布這些芯片,而微軟預(yù)計(jì)將推出Windows 11的更新,以利用這些NPU。
第三類高級(jí)人工智能PC提供超過(guò)60種NPU性能,目前還不在任何供應(yīng)商宣布的產(chǎn)品線中。
作者:Eileen Yu(玲·余)
譯者:寶藍(lán)