趙飛 劉寧 秦敏
摘 要:動態優化指的是計算機系統與計算機網絡中對資源進行合理的分配和任務調度的理論工具。當前隨著計算機系統與計算機網絡的高速發展,關于動態優化的研究也得到非常大的進步,本文主要從馬爾可夫決策來進行具體分析。
關鍵詞:計算機系統;計算機網絡;動態優化;模型;求解;應用
DOI:10.16640/j.cnki.37-1222/t.2016.06.137
0 引言
當前計算機系統與計算機網絡得到非常快速的發展,在人們生活中使用得也越來越廣泛,但是隨著人們在使用過程中對有限的計算機網絡資源要求越來越高,怎樣進行合理的分配使計算機網絡達到最大的使用效率成為人們研究的重要目標。馬爾可夫決策的過程是計算機系統與計算機網絡中動態優化的基礎模型,因此本文以馬爾可夫決策來具體分析模型、求解以及應用。
1 馬爾可夫決策過程動態模型的建立
在計算機系統與計算機網絡中的動態優化時,其中最為關鍵的地方就在于動態模型的建立,模型建立的好壞直接影響到此次決策所能起到的作用。
(1)馬爾可夫的決策過程。馬爾科夫的決策過程一般分為幾個重要的步驟:第一步,先建立一個狀態集合S,此集合需要具有描述性,決策者能夠使用這個集合做出相關的行為。第二步,將決策者在這個S集合內所做的所有行為歸納為一個集合A。第三步,決策者在S集合內所作出的行為即集合A所產生的收益,可以用R來表示該收益函數。第四步,在整個馬爾可夫決策過程中,在集合S中記錄決策者的行為會發生一定程度的轉移,將此可以總結為狀態轉移關系SM。這就是馬爾科夫的決策過程。而在實際中的馬爾可夫決策過程往往只需要決策者觀察決策環境狀態S,并根據狀態確定決策者的行為屬于隨機的馬爾可夫行為還是確定的馬爾可夫行為。接下來就是將該行為在整個系統中進行轉換,重復做前面的事情,就可以完成整個馬爾可夫決策過程。
(2)馬爾可夫決策過程建模與分析。馬爾可夫決策在實際運用之中的建模需要根據實際的情況,結合馬爾可夫決策的理論進行分析、總結,建立符合實際情況和實際要求的模型。其具體的操作方法可以從以下幾個方面進行:第一,分析實際研究情況,確定馬爾可夫決策建模的目標。在馬爾可夫決策的過程中,往往會出現其中的某一個變量發生變化,而導致最后的目標發生變化的現象,如:馬爾可夫決策中的收益目標、運行系統發生變化,都會導致最后的目標不同。因此,在馬爾可夫決策開始之初就需要先確定建模的目標,再根據這一目標去限定相應的變量。第二,在系統運行的過程中,可以根據建模目標的函數與其它各級函數的關系,將各級函數進行最大值和最小值的調節,并將目標函數和相關數據完整的記錄下來,最后分析這一系列數據,對馬爾可夫決策做出適當的調整。第三,根據該系統運行空間所處的狀態進一步確定此次做出的決策行為是否有問題,若發現問題及時的對其進行優化。在馬爾可夫決策的過程當中,系統所處于的狀態和根據決策所作出的行為有可能處于空置的狀態,形成一種游離的狀態,這種狀態在一定程度上仍舊會占用系統中的使用空間,造成資源的浪費現象。第四,對馬爾可夫決策過程進行相應的評價措施,爭取在馬爾可夫決策系統中的每個實施過程都能夠達到效率最大化,使此次計算機系統和計算機網絡的動態優化效果能夠最佳,對計算機網絡中的資源和任務調度極為合理。
2 馬爾可夫決策過程中的求解
馬爾可夫決策過程在實際運用之中,其求解方法大致可以分為兩類:精確求解算法和近似求解算法。利用精確算法,可以算得計算機網絡動態優化的最有利的方法,但是其實際計算過程極為麻煩。利用近似求解算法則是通過對該系統中的相關數據進行具體的分析,然后將計算機網絡中的相關資源進行適當的調整,并且記錄下相應的調整數據,找出一種適合計算機網絡相關資源分配,能夠滿足用戶使用需要的近似答案。此種求解方式在使用的時候往往較為靈活,更容易快速的找出近似的答案。兩種求解方式都各自具有一定的優點,具體怎樣使用更加合適,還需要用戶在實際使用中具體的分析、總結。
3 馬爾可夫決策過程中的應用
本文在選取馬爾可夫決策實際應用例子時,挑選出一個可以進行系統修復的實際例子作為應用案例進行具體的講解。
如圖1的右半部分為描述決策者的行為的非確定子網,左半部分為一個可能能夠正常工作,也有可能已經失效的隨機子網。在MDPN模型之中,對所在位置進行相應的標記可以適當的改善計算機網絡,特別是計算機系統中存在互相對稱的點,通過標記可以很好的讓其對應,同時也減小了系統中空間上的相關問題。
在目前計算機系統與計算機網絡高速發展的狀態下,加強馬爾可夫決策過程的分析和研究,并且合理的將馬爾可夫決策進行相關的應用,可以在很大程上減少網絡資源的浪費,對網絡資源進行合理的分配,使得計算機系統和計算機網絡能夠使用效率最大化。
4 結束語
隨著對馬爾可夫決策過程中的模型、求解以及應用的具體分析,加深對計算機系統與計算機網絡中的動態優化理解,實現對生活中或者工作中計算機網絡資源的合理分配,達到使用計算機網絡的最大效率。
參考文獻:
[1]林闖,萬劍雄,向旭東,孟坤,王元卓.計算機系統與計算機網絡中的動態優化:模型、求解與應用[J].計算機學報,2012(07):1339-1357.
[2]林闖,李寅,萬劍雄.計算機網絡服務質量優化方法研究綜述[J]. 計算機學報,2011(01):1-14.
[3]劉君.計算機網絡可靠性優化設計問題的研究[D].沈陽工業大學,2006.
[4]楊曉慶.計算機系統與計算機網絡中的動態優化:模型、求解與應用[J].計算機光盤軟件與應用,2014(09):108+110.
作者簡介:趙飛(1980-),男,河北博野人,本科,實驗師,研究方向:計算機應用技術、網絡技術等。