優(yōu)化是最好的“綠色”
|
由于對高性能計(jì)算的旺盛需求以及對電力的高需求，如何同時(shí)提高設(shè)備的利用率和電能利用最大化，是東方地球物理公司考慮的問題。 |
|
被稱為中國“找油先鋒”的高性能計(jì)算領(lǐng)域的老牌用戶——東方地球物理公司（簡稱“東方公司”）利用高性能的計(jì)算能力，在油氣勘探新的領(lǐng)域，進(jìn)一步提升自己的競爭水平，帶來更多的效益，為地震勘探繪出“黑金”的藏寶圖。
“目前我們每天的電費(fèi)大約3萬多元?！毖芯吭焊笨偣こ處?、處理中心總工、教授級高工賴能和說。從2002年到2007年，BGP所擁有的CPU數(shù)量、總體運(yùn)算能力、總存儲容量分別增長了40倍、7354倍和300倍。“我們現(xiàn)在擁有超過1.5萬顆CPU、2.6萬多個(gè)核、2000T存儲規(guī)模的數(shù)據(jù)中心，每年光電費(fèi)成本就超過1000多萬元?！辟嚹芎驼f。
由于對高性能計(jì)算的旺盛需求以及對電力的高需求，如何同時(shí)提高設(shè)備的利用率和電能利用最大化，是東方地球物理公司考慮的問題。
開展軟硬件優(yōu)化技術(shù)
2005年，東方公司歷時(shí)3年開展了“地震處理系統(tǒng)硬件資源優(yōu)化技術(shù)研究”項(xiàng)目。該項(xiàng)目主要是針對大規(guī)模PCCluster集群環(huán)境下，地震數(shù)據(jù)處理系統(tǒng)中，硬件資源應(yīng)用中存在的存儲I/O數(shù)據(jù)傳輸瓶頸,導(dǎo)致軟硬件資源運(yùn)營效率低,特別是CPU利用率低的疑難問題，而開展的軟硬件資源優(yōu)化技術(shù)研究。研究內(nèi)容包括網(wǎng)絡(luò)技術(shù)及與PCCluster優(yōu)化集成，SAN光纖存儲系統(tǒng)技術(shù)及集成，存儲接口、FC-SATA盤陣與SAN光纖存儲系統(tǒng)的整合、應(yīng)用科學(xué)計(jì)算數(shù)學(xué)庫MKL優(yōu)化模塊等技術(shù)。
而這項(xiàng)研究要達(dá)到的主要技術(shù)指標(biāo)，為PCCluster高性能并行地震資料常規(guī)處理系統(tǒng)CPU的年平均利用率，由目前的17%～23%提高到35%～40%，形成地震處理系統(tǒng)軟硬件集成與優(yōu)化配套技術(shù)，形成PCCluster并行地震資料處理系統(tǒng)優(yōu)化配置方案，及PCCluster并行處理系統(tǒng)安裝集成與優(yōu)化配置技術(shù)規(guī)程，形成CPU、存儲、網(wǎng)絡(luò)資源異構(gòu)平臺集中管理監(jiān)控軟件。
CPU利用率提高顯著
據(jù)賴能和介紹，該研究為PCCluster的升級改造、存儲架構(gòu)設(shè)計(jì)、文件系統(tǒng)參數(shù)、硬件集成等優(yōu)化工作提供了指導(dǎo)方案，使PCCluster的I/O瓶頸得到明顯改善，有效提高了CPU的利用率。
開發(fā)應(yīng)用Luster、GPFS、SNFS并行文件系統(tǒng)技術(shù)，實(shí)現(xiàn)了I/O負(fù)載均衡與數(shù)據(jù)共享，并發(fā)讀寫性能大幅度提高。已在配置GeoEast、GeoCluster、GeoDepth的近4000CPU集群環(huán)境中應(yīng)用，提高了地震數(shù)據(jù)常規(guī)處理、疊前偏移的CPU運(yùn)行效率。
該研究開發(fā)形成CPU、網(wǎng)絡(luò)、存儲資源管理監(jiān)控軟件，實(shí)現(xiàn)了對近10000CPU、1600TB存儲資源的實(shí)時(shí)監(jiān)控、集中管理，為提高設(shè)備利用率提供了有效平臺。開展單核與多核CPU、不同CPU芯片、不同存儲架構(gòu)、并行作業(yè)時(shí)CPU數(shù)對運(yùn)行效率影響的深入研究分析，為優(yōu)化疊前偏移作業(yè)、提高CPU利用率提供了參考。形成PCCluster并行處理系統(tǒng)安裝集成與優(yōu)化配置技術(shù)規(guī)程，為軟硬件資源安裝、優(yōu)化集成提供了技術(shù)方案。
大膽自主創(chuàng)新
在該項(xiàng)目中，采用了Trunking鏈路聚合技術(shù)、基于共享存儲機(jī)制的SAN光纖存儲技術(shù)、線速無堵塞交換和計(jì)算資源與存儲資源分離技術(shù)、開發(fā)網(wǎng)絡(luò)化資源管理軟件平臺、MKL優(yōu)化技術(shù)、分布式數(shù)據(jù)存取等關(guān)鍵技術(shù)。據(jù)賴能和介紹，該項(xiàng)目的創(chuàng)新點(diǎn)在于：形成了PCCluster并行處理系統(tǒng)安裝集成與優(yōu)化配置技術(shù)規(guī)程，為軟硬件資源優(yōu)化集成提供了指導(dǎo)建議方案。自主開發(fā)的CPU、網(wǎng)絡(luò)、存儲資源集中管理平臺監(jiān)控軟件開發(fā)與應(yīng)用，實(shí)現(xiàn)了上萬CPU、2000TB規(guī)模的處理中心數(shù)字化管理。利用Trunking鏈路聚合網(wǎng)絡(luò)技術(shù)，實(shí)現(xiàn)PCCluster的集成優(yōu)化、升級、改造，有效提升了節(jié)點(diǎn)之間網(wǎng)絡(luò)傳輸速度，提高了CPU利用率。
開發(fā)應(yīng)用Luster、GPFS、SNFS并行文件系統(tǒng)技術(shù)，實(shí)現(xiàn)了I/O負(fù)載均衡、數(shù)據(jù)共享,讀寫性能大幅度提高。目前已在GeoEast、GeoCluster、GeoDepth近4000CPU上廣泛應(yīng)用，大大提高了常規(guī)處理、疊前偏移的效率。形成了光纖存儲系統(tǒng)的優(yōu)化集成技術(shù)，為SAN存儲架構(gòu)設(shè)計(jì)、文件系統(tǒng)參數(shù)優(yōu)化等提供了很好的指導(dǎo)方案，對提高CPU利用率產(chǎn)生很大的影響。實(shí)現(xiàn)普通FC-SATA盤陣與SAN光纖存儲系統(tǒng)整合技術(shù)開發(fā)，實(shí)現(xiàn)了多個(gè)I/O共享不同的小盤陣，SATA-FC盤陣的讀寫性能提高56.25%，已經(jīng)在3000平方公里的大港岐口3D連片疊前偏移處理、赤道幾內(nèi)亞海洋資料等項(xiàng)目中應(yīng)用。
系統(tǒng)地開展接口技術(shù)對CPU利用率的影響研究，為硬件優(yōu)化集成提供了很好的參考。系統(tǒng)地開展單核、雙核CPU、處理芯片、架構(gòu)、并行作業(yè)CPU數(shù)對CPU時(shí)效率影響的深入研究分析，為優(yōu)化疊前偏移作業(yè)，提供了很好的參考。
多處推廣，極具價(jià)值
據(jù)了解，該技術(shù)已經(jīng)在1萬多顆CPU的生產(chǎn)中得到廣泛實(shí)際應(yīng)用和推廣，解決了生產(chǎn)實(shí)際問題，及時(shí)為大慶、冀東、新疆、龍崗、大港等超大三維地震海量數(shù)據(jù)的常規(guī)和疊前偏移處理任務(wù)提供了應(yīng)用平臺，取得很好的經(jīng)濟(jì)和市場效益。為冀東南堡油田、新疆和四川特大油氣龍崗田的發(fā)現(xiàn)起到重要作用。形成的優(yōu)化集成技術(shù)將對今后的PCCluster優(yōu)化配置、集成提供很好的技術(shù)參考方案。
軟硬件的配置大大提高，PCCluster的I/O瓶頸明顯改善，I/O存取能力提升3-8倍，CPU等資源的利用率得到大幅度提高，常規(guī)處理的平均利用率（1184CPU）達(dá)到39.88%，疊前偏移處理的平均利用率（5334CPU）達(dá)到62.29%；降低了投資成本，大大提高了軟硬件資源運(yùn)營效率。
該項(xiàng)目經(jīng)東方地球物理公司組織有關(guān)專家對“地震處理系統(tǒng)硬件資源優(yōu)化技術(shù)研究”項(xiàng)目進(jìn)行了驗(yàn)收。驗(yàn)收組認(rèn)為：該項(xiàng)目完成了合同規(guī)定的任務(wù)，達(dá)到了合同要求的考核指標(biāo)，同意通過驗(yàn)收。 |
|
由于對高性能計(jì)算的旺盛需求以及對電力的高需求，如何同時(shí)提高設(shè)備的利用率和電能利用最大化，是東方地球物理公司考慮的問題。 |
|
被稱為中國“找油先鋒”的高性能計(jì)算領(lǐng)域的老牌用戶——東方地球物理公司（簡稱“東方公司”）利用高性能的計(jì)算能力，在油氣勘探新的領(lǐng)域，進(jìn)一步提升自己的競爭水平，帶來更多的效益，為地震勘探繪出“黑金”的藏寶圖。
“目前我們每天的電費(fèi)大約3萬多元。”研究院副總工程師、處理中心總工、教授級高工賴能和說。從2002年到2007年，BGP所擁有的CPU數(shù)量、總體運(yùn)算能力、總存儲容量分別增長了40倍、7354倍和300倍?！拔覀儸F(xiàn)在擁有超過1.5萬顆CPU、2.6萬多個(gè)核、2000T存儲規(guī)模的數(shù)據(jù)中心，每年光電費(fèi)成本就超過1000多萬元?！辟嚹芎驼f。
由于對高性能計(jì)算的旺盛需求以及對電力的高需求，如何同時(shí)提高設(shè)備的利用率和電能利用最大化，是東方地球物理公司考慮的問題。
開展軟硬件優(yōu)化技術(shù)
2005年，東方公司歷時(shí)3年開展了“地震處理系統(tǒng)硬件資源優(yōu)化技術(shù)研究”項(xiàng)目。該項(xiàng)目主要是針對大規(guī)模PCCluster集群環(huán)境下，地震數(shù)據(jù)處理系統(tǒng)中，硬件資源應(yīng)用中存在的存儲I/O數(shù)據(jù)傳輸瓶頸,導(dǎo)致軟硬件資源運(yùn)營效率低,特別是CPU利用率低的疑難問題，而開展的軟硬件資源優(yōu)化技術(shù)研究。研究內(nèi)容包括網(wǎng)絡(luò)技術(shù)及與PCCluster優(yōu)化集成，SAN光纖存儲系統(tǒng)技術(shù)及集成，存儲接口、FC-SATA盤陣與SAN光纖存儲系統(tǒng)的整合、應(yīng)用科學(xué)計(jì)算數(shù)學(xué)庫MKL優(yōu)化模塊等技術(shù)。
而這項(xiàng)研究要達(dá)到的主要技術(shù)指標(biāo)，為PCCluster高性能并行地震資料常規(guī)處理系統(tǒng)CPU的年平均利用率，由目前的17%～23%提高到35%～40%，形成地震處理系統(tǒng)軟硬件集成與優(yōu)化配套技術(shù)，形成PCCluster并行地震資料處理系統(tǒng)優(yōu)化配置方案，及PCCluster并行處理系統(tǒng)安裝集成與優(yōu)化配置技術(shù)規(guī)程，形成CPU、存儲、網(wǎng)絡(luò)資源異構(gòu)平臺集中管理監(jiān)控軟件。
CPU利用率提高顯著
據(jù)賴能和介紹，該研究為PCCluster的升級改造、存儲架構(gòu)設(shè)計(jì)、文件系統(tǒng)參數(shù)、硬件集成等優(yōu)化工作提供了指導(dǎo)方案，使PCCluster的I/O瓶頸得到明顯改善，有效提高了CPU的利用率。
開發(fā)應(yīng)用Luster、GPFS、SNFS并行文件系統(tǒng)技術(shù)，實(shí)現(xiàn)了I/O負(fù)載均衡與數(shù)據(jù)共享，并發(fā)讀寫性能大幅度提高。已在配置GeoEast、GeoCluster、GeoDepth的近4000CPU集群環(huán)境中應(yīng)用，提高了地震數(shù)據(jù)常規(guī)處理、疊前偏移的CPU運(yùn)行效率。
該研究開發(fā)形成CPU、網(wǎng)絡(luò)、存儲資源管理監(jiān)控軟件，實(shí)現(xiàn)了對近10000CPU、1600TB存儲資源的實(shí)時(shí)監(jiān)控、集中管理，為提高設(shè)備利用率提供了有效平臺。開展單核與多核CPU、不同CPU芯片、不同存儲架構(gòu)、并行作業(yè)時(shí)CPU數(shù)對運(yùn)行效率影響的深入研究分析，為優(yōu)化疊前偏移作業(yè)、提高CPU利用率提供了參考。形成PCCluster并行處理系統(tǒng)安裝集成與優(yōu)化配置技術(shù)規(guī)程，為軟硬件資源安裝、優(yōu)化集成提供了技術(shù)方案。
大膽自主創(chuàng)新
在該項(xiàng)目中，采用了Trunking鏈路聚合技術(shù)、基于共享存儲機(jī)制的SAN光纖存儲技術(shù)、線速無堵塞交換和計(jì)算資源與存儲資源分離技術(shù)、開發(fā)網(wǎng)絡(luò)化資源管理軟件平臺、MKL優(yōu)化技術(shù)、分布式數(shù)據(jù)存取等關(guān)鍵技術(shù)。據(jù)賴能和介紹，該項(xiàng)目的創(chuàng)新點(diǎn)在于：形成了PCCluster并行處理系統(tǒng)安裝集成與優(yōu)化配置技術(shù)規(guī)程，為軟硬件資源優(yōu)化集成提供了指導(dǎo)建議方案。自主開發(fā)的CPU、網(wǎng)絡(luò)、存儲資源集中管理平臺監(jiān)控軟件開發(fā)與應(yīng)用，實(shí)現(xiàn)了上萬CPU、2000TB規(guī)模的處理中心數(shù)字化管理。利用Trunking鏈路聚合網(wǎng)絡(luò)技術(shù)，實(shí)現(xiàn)PCCluster的集成優(yōu)化、升級、改造，有效提升了節(jié)點(diǎn)之間網(wǎng)絡(luò)傳輸速度，提高了CPU利用率。
開發(fā)應(yīng)用Luster、GPFS、SNFS并行文件系統(tǒng)技術(shù)，實(shí)現(xiàn)了I/O負(fù)載均衡、數(shù)據(jù)共享,讀寫性能大幅度提高。目前已在GeoEast、GeoCluster、GeoDepth近4000CPU上廣泛應(yīng)用，大大提高了常規(guī)處理、疊前偏移的效率。形成了光纖存儲系統(tǒng)的優(yōu)化集成技術(shù)，為SAN存儲架構(gòu)設(shè)計(jì)、文件系統(tǒng)參數(shù)優(yōu)化等提供了很好的指導(dǎo)方案，對提高CPU利用率產(chǎn)生很大的影響。實(shí)現(xiàn)普通FC-SATA盤陣與SAN光纖存儲系統(tǒng)整合技術(shù)開發(fā)，實(shí)現(xiàn)了多個(gè)I/O共享不同的小盤陣，SATA-FC盤陣的讀寫性能提高56.25%，已經(jīng)在3000平方公里的大港岐口3D連片疊前偏移處理、赤道幾內(nèi)亞海洋資料等項(xiàng)目中應(yīng)用。
系統(tǒng)地開展接口技術(shù)對CPU利用率的影響研究，為硬件優(yōu)化集成提供了很好的參考。系統(tǒng)地開展單核、雙核CPU、處理芯片、架構(gòu)、并行作業(yè)CPU數(shù)對CPU時(shí)效率影響的深入研究分析，為優(yōu)化疊前偏移作業(yè)，提供了很好的參考。
多處推廣，極具價(jià)值
據(jù)了解，該技術(shù)已經(jīng)在1萬多顆CPU的生產(chǎn)中得到廣泛實(shí)際應(yīng)用和推廣，解決了生產(chǎn)實(shí)際問題，及時(shí)為大慶、冀東、新疆、龍崗、大港等超大三維地震海量數(shù)據(jù)的常規(guī)和疊前偏移處理任務(wù)提供了應(yīng)用平臺，取得很好的經(jīng)濟(jì)和市場效益。為冀東南堡油田、新疆和四川特大油氣龍崗田的發(fā)現(xiàn)起到重要作用。形成的優(yōu)化集成技術(shù)將對今后的PCCluster優(yōu)化配置、集成提供很好的技術(shù)參考方案。
軟硬件的配置大大提高，PCCluster的I/O瓶頸明顯改善，I/O存取能力提升3-8倍，CPU等資源的利用率得到大幅度提高，常規(guī)處理的平均利用率（1184CPU）達(dá)到39.88%，疊前偏移處理的平均利用率（5334CPU）達(dá)到62.29%；降低了投資成本，大大提高了軟硬件資源運(yùn)營效率。
該項(xiàng)目經(jīng)東方地球物理公司組織有關(guān)專家對“地震處理系統(tǒng)硬件資源優(yōu)化技術(shù)研究”項(xiàng)目進(jìn)行了驗(yàn)收。驗(yàn)收組認(rèn)為：該項(xiàng)目完成了合同規(guī)定的任務(wù)，達(dá)到了合同要求的考核指標(biāo)，同意通過驗(yàn)收。 |
