神經(jīng)網(wǎng)絡(luò)的IaaS云資源需求預(yù)測(cè)

《神經(jīng)網(wǎng)絡(luò)的IaaS云資源需求預(yù)測(cè)》由會(huì)員分享，可在線(xiàn)閱讀，更多相關(guān)《神經(jīng)網(wǎng)絡(luò)的IaaS云資源需求預(yù)測(cè)（3頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

1、神經(jīng)網(wǎng)絡(luò)的IaaS云資源需求預(yù)測(cè) 神經(jīng)網(wǎng)絡(luò)的IaaS云資源需求預(yù)測(cè) 2016/02/02 摘要 為保證基礎(chǔ)設(shè)施即服務(wù)（ＩａａＳ）模式云環(huán)境中資源的有效分配與高效調(diào)度，提出了一種基于集成模型－優(yōu)化神經(jīng)網(wǎng)絡(luò)的資源需求預(yù)測(cè)方法（ＥＭＯＮＮ）．分析了用戶(hù)偏好以及資源配置需求，根據(jù)需求變化采用閾值法確定波動(dòng)期與平緩期，通過(guò)基本預(yù)測(cè)器集成模型實(shí)現(xiàn)不同時(shí)期、不同需求的預(yù)處理．預(yù)處理結(jié)果經(jīng)過(guò)加權(quán)，與歷史數(shù)據(jù)共同作為神經(jīng)網(wǎng)絡(luò)（ＮＮ）的訓(xùn)練數(shù)據(jù)，保證預(yù)測(cè)結(jié)果精度．為改善神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)率

2、與穩(wěn)定性，采用自適應(yīng)學(xué)習(xí)率以及動(dòng)量方法對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化．采用統(tǒng)計(jì)指標(biāo)對(duì)系統(tǒng)有效性進(jìn)行驗(yàn)證，結(jié)果表明所提方法可以精確有效實(shí)現(xiàn)用戶(hù)需求預(yù)測(cè)． 關(guān)鍵詞 基礎(chǔ)設(shè)施即服務(wù)（ＩａａＳ）；資源需求預(yù)測(cè)；集成模型；神經(jīng)網(wǎng)絡(luò)；自適應(yīng)學(xué)習(xí)率；統(tǒng)計(jì)驗(yàn)證 在ＩａａＳ模式云計(jì)算［１］中，高效精確地為用戶(hù)分配資源是效益最大化的重要保證．云中心根據(jù)請(qǐng)求以虛擬機(jī)（ＶＭ）形式為其分配資源，為保證服務(wù)質(zhì)量，有必要根據(jù)虛擬機(jī)運(yùn)行狀態(tài)實(shí)現(xiàn)資源動(dòng)態(tài)調(diào)整．然而，準(zhǔn)備和初始化實(shí)例需要一定時(shí)間，使得資源無(wú)法根據(jù)用戶(hù)需求動(dòng)態(tài)調(diào)度，導(dǎo)致無(wú)法有效地為用戶(hù)提供彈性的資源管理［２］，降低了云計(jì)算的服務(wù)質(zhì)量，因而需求預(yù)測(cè)為資源動(dòng)態(tài)管

3、理與供給提供了重要參考［３］．對(duì)資源需求和工作負(fù)載的預(yù)測(cè)已有許多研究工作，為了優(yōu)化資源管理和任務(wù)調(diào)度，部分學(xué)者采用常規(guī)預(yù)測(cè)方法，例如基于移動(dòng)平均線(xiàn)的長(zhǎng)期趨勢(shì)預(yù)測(cè)算法［４］、基于ＦＵＳＤ的指數(shù)加權(quán)移動(dòng)平均算法［５］等實(shí)現(xiàn)云計(jì)算環(huán)境下的負(fù)載預(yù)測(cè)，有學(xué)者將模糊系統(tǒng)引入虛擬機(jī)負(fù)載和資源預(yù)測(cè)中［６－７］，提升了系統(tǒng)魯棒性，但是預(yù)測(cè)精度不夠高．針對(duì)云環(huán)境工作負(fù)載的非線(xiàn)性特性，有學(xué)者引入神經(jīng)網(wǎng)絡(luò)并結(jié)合典型預(yù)測(cè)方法［８－１０］．上述預(yù)測(cè)方法難以對(duì)不斷變化的情況進(jìn)行自適應(yīng)預(yù)測(cè)，其精確性和實(shí)時(shí)性有待提升．本研究提出一種基于集成模型－優(yōu)化神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法，采用基本預(yù)測(cè)器集成模型對(duì)需求情況進(jìn)行預(yù)處理，并分別從以下三

4、個(gè)方面對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行了優(yōu)化：利用集成模型的輸出數(shù)據(jù)優(yōu)化訓(xùn)練數(shù)據(jù)結(jié)構(gòu)；通過(guò)優(yōu)化神經(jīng)網(wǎng)絡(luò)傳遞函數(shù)改善網(wǎng)絡(luò)權(quán)重更新過(guò)程；通過(guò)自適應(yīng)學(xué)習(xí)率優(yōu)化學(xué)習(xí)過(guò)程． １預(yù)測(cè)系統(tǒng)結(jié)構(gòu)與資源需求情況 １．１預(yù)測(cè)系統(tǒng)云計(jì)算資源預(yù)測(cè)系統(tǒng)結(jié)構(gòu)如圖１所示，圖中ＶＭ為虛擬機(jī)．資源需求預(yù)測(cè)之前，首先分析歷史數(shù)據(jù)庫(kù)中的用戶(hù)請(qǐng)求，包括數(shù)據(jù)結(jié)構(gòu)、內(nèi)容和數(shù)量，得到用戶(hù)偏好性選擇、需求描述等．為了實(shí)現(xiàn)精確有效的預(yù)測(cè)，對(duì)不同的資源需求情況進(jìn)行分析，包括長(zhǎng)期需求、短期需求和需求抖動(dòng)情況，并給出了區(qū)分不同情況的方法準(zhǔn)則．對(duì)資源需求采用基本預(yù)測(cè)器集成模型進(jìn)行預(yù)處理，對(duì)集成模型預(yù)測(cè)結(jié)果進(jìn)行加權(quán)后，輸入至神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)器中．神經(jīng)網(wǎng)絡(luò)同時(shí)采用

5、歷史數(shù)據(jù)序列和集成模型預(yù)測(cè)結(jié)果作為訓(xùn)練數(shù)據(jù)，以提升結(jié)果的精確性．引入自適應(yīng)學(xué)習(xí)率以及動(dòng)量法改善神經(jīng)網(wǎng)絡(luò)的收斂速度和穩(wěn)定性．預(yù)測(cè)輸出值用來(lái)指導(dǎo)ＩａａＳ云計(jì)算數(shù)據(jù)中心的資源分配．采用不同統(tǒng)計(jì)指標(biāo)對(duì)預(yù)測(cè)效果進(jìn)行評(píng)估，并將結(jié)果反饋至歷史數(shù)據(jù)庫(kù)中，為后續(xù)資源預(yù)測(cè)調(diào)度提供參考． １．２需求平緩期基于平緩期的特點(diǎn)，采用二次移動(dòng)平均法（ＳＭＡ）［１１］進(jìn)行資源需求的預(yù)測(cè)，提高預(yù)測(cè)精度．圖２所示為長(zhǎng)度為Ｌ的滑動(dòng)窗模型。 １．３需求波動(dòng)期指數(shù)移動(dòng)平均法（ＥＭＡ）［１２］是一種短期預(yù)測(cè)的有效方法，由于其響應(yīng)的快速性，因此適用于非周期性的快速變化時(shí)間序列預(yù)測(cè)．ＥＭＡ對(duì)當(dāng)前測(cè)量值給予較大權(quán)重，而對(duì)于較早時(shí)刻

6、的測(cè)量值給予較小權(quán)重，可以對(duì)短期資源需求以及需求抖動(dòng)作出快速反應(yīng)． １．４波動(dòng)期和平緩期確定進(jìn)行需求預(yù)測(cè)時(shí)，須明確當(dāng)前需求所處時(shí)期，定義波動(dòng)閾值（ｈｕ）和平緩閾值（ｈａ）界定平緩期與波動(dòng)期． ２集成模型－優(yōu)化神經(jīng)網(wǎng)絡(luò)資源需求預(yù)測(cè) ２．１總體結(jié)構(gòu)通過(guò)集成預(yù)測(cè)模型可以對(duì)不同的需求情況進(jìn)行預(yù)處理，而神經(jīng)網(wǎng)絡(luò)良好的非線(xiàn)性逼近能力和自組織特性可以提升預(yù)測(cè)結(jié)果的精度．將集成模型結(jié)果輸入至神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)二者有效結(jié)合，是提升系統(tǒng)預(yù)測(cè)性能的有效方法．集成模型－優(yōu)化神經(jīng)網(wǎng)絡(luò)資源需求預(yù)測(cè)方法核心是采用兩層結(jié)構(gòu)，如圖３所示．第一層為基本預(yù)測(cè)器集成模型，第一層的輸出值與歷史數(shù)據(jù)共同作為第二層神經(jīng)網(wǎng)絡(luò)訓(xùn)

7、練值，以?xún)?yōu)化預(yù)測(cè)結(jié)果． ２．２基本預(yù)測(cè)器集成模型在預(yù)測(cè)器基礎(chǔ)上，集成模型引入自動(dòng)回歸模型（ＡＲ）和移動(dòng)平均法（ＭＡ）．設(shè)在時(shí)刻ｔ預(yù)測(cè)器ｉ的預(yù)測(cè)值為ｘ（ｉ）ｔ，其對(duì)應(yīng)權(quán)重為ｗ（ｉ）ｔ，通過(guò)對(duì)上述預(yù)測(cè)結(jié)果進(jìn)行加權(quán)，則集成模型輸出值。 ３實(shí)驗(yàn)與結(jié)果分析 ３．１統(tǒng)計(jì)指標(biāo)為了評(píng)估預(yù)測(cè)系統(tǒng)的性能，采用系列指標(biāo)［１３］包括平均絕對(duì)誤差（ＭＡＥ）和均方誤差（ＭＳＥ），誤差區(qū)間數(shù)量統(tǒng)計(jì)值（ＰＲＥＤ（ｘ））對(duì)系統(tǒng)進(jìn)行分析．ＭＡＥ是測(cè)量預(yù)測(cè)值和真實(shí)值之間誤差均值的指標(biāo)。 ３．２預(yù)測(cè)效果對(duì)比與分析基于集成模型－優(yōu)化神經(jīng)網(wǎng)絡(luò)的資源需求預(yù)測(cè)方法ＥＭＯＮＮ的預(yù)測(cè)結(jié)果如圖４所示，圖中Ｑ為訪(fǎng)問(wèn)流量．由圖

8、可見(jiàn)預(yù)測(cè)值與實(shí)際值符合較好，誤差較小.根據(jù)指標(biāo)（１１）～（１３），對(duì)多種預(yù)測(cè)方法進(jìn)行對(duì)比實(shí)驗(yàn)，結(jié)果如表１所示．可知：對(duì)于平均歸一化誤差值和最大誤差，ＥＭＯＮＮ均達(dá)到最小，ＥＭＡ和ＳＭＡ的預(yù)測(cè)結(jié)果與ＥＭＯＮＮ較接近，而僅采用神經(jīng)網(wǎng)絡(luò)時(shí)，預(yù)測(cè)效果較差；ＥＭＯＮＮ在誤差能量方面低于其他方法，約為ＡＲ模型的１／４；ＥＭＯＮＮ方法處于５％的誤差點(diǎn)數(shù)最多，預(yù)測(cè)誤差較小，預(yù)測(cè)性能優(yōu)于其他預(yù)測(cè)方法． ３．３預(yù)測(cè)方法學(xué)習(xí)過(guò)程優(yōu)化僅采用神經(jīng)網(wǎng)絡(luò)時(shí)預(yù)測(cè)性能不理想，原因主要是學(xué)習(xí)率不夠優(yōu)化，本節(jié)討論自適應(yīng)學(xué)習(xí)率對(duì)神經(jīng)網(wǎng)絡(luò)的影響．圖５為不同學(xué)習(xí)策略下的神經(jīng)網(wǎng)絡(luò)性能對(duì)比，ｍ為迭代次數(shù)．不采用自適應(yīng)學(xué)習(xí)率的神經(jīng)網(wǎng)絡(luò)經(jīng)

9、過(guò)２０００個(gè)學(xué)習(xí)周期，均方誤差（Ｐａ）接近８．６６１０－３，采用自適應(yīng)學(xué)習(xí)率后，經(jīng)過(guò)相同訓(xùn)練周期后，誤差為３．１１０－３，二者比率達(dá)到２．８．因此，采用自適應(yīng)學(xué)習(xí)率后，神經(jīng)網(wǎng)絡(luò)的收斂速度有大幅提升，預(yù)測(cè)結(jié)果更加精確． ３．４集成模型對(duì)預(yù)測(cè)效果的影響圖６所示為將集成模型預(yù)處理結(jié)果引入訓(xùn)練數(shù)據(jù)進(jìn)行優(yōu)化后的學(xué)習(xí)過(guò)程曲線(xiàn)．與圖５相比，學(xué)習(xí)速度得到進(jìn)一步提升，經(jīng)過(guò)１６００個(gè)訓(xùn)練周期即達(dá)到訓(xùn)練目標(biāo)值０．００１，遠(yuǎn)小于僅采用歷史數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)的預(yù)測(cè)方法，網(wǎng)絡(luò)收斂速度得到有效提升，而且其訓(xùn)練誤差值達(dá)到了０．００１，性能得到進(jìn)一步提升．采用不同訓(xùn)練數(shù)據(jù)結(jié)構(gòu)的性能對(duì)比如表２所示．引入集成模型后，預(yù)測(cè)性能得

10、到有效提升，盡管絕對(duì)誤差僅僅降低了０．００３１，但是提升了１３．９％；優(yōu)化前后的ｅＭＳＥ值分別為０．００１２和０．００１０，ＰＰＲＥＤ（５）值分別為３０２∶３２０，預(yù)測(cè)誤差較表１有進(jìn)一步降低． ４結(jié)論 為了提升云計(jì)算資源供給效率和精確性，提出了一種基于集成模型－優(yōu)化神經(jīng)網(wǎng)絡(luò)的資源需求預(yù)測(cè)方法（ＥＭＯＮＮ）．在分析了用戶(hù)資源需求特點(diǎn)的基礎(chǔ)上引入基本預(yù)測(cè)器集成模型對(duì)上述不同情況進(jìn)行處理，并將預(yù)測(cè)結(jié)果發(fā)送至神經(jīng)網(wǎng)絡(luò)作為訓(xùn)練數(shù)據(jù)．采用自適應(yīng)學(xué)習(xí)率和帶有動(dòng)量的權(quán)重對(duì)學(xué)習(xí)過(guò)程進(jìn)行優(yōu)化．通過(guò)統(tǒng)計(jì)指標(biāo)對(duì)預(yù)測(cè)方法進(jìn)行有效性驗(yàn)證．結(jié)果表明ＥＭＯＮＮ可以有效精確地實(shí)現(xiàn)用戶(hù)資源需求的預(yù)測(cè)，對(duì)于云中心資源調(diào)度提供了有效的參考，但是對(duì)于多人次多種資源預(yù)測(cè)，若采用順序處理，則會(huì)降低預(yù)測(cè)的實(shí)時(shí)性，下一步工作重點(diǎn)在于采用多線(xiàn)程實(shí)現(xiàn)多人次多資源同時(shí)的預(yù)測(cè)．