摘要:研究了三種廣泛應(yīng)用的Linux日志文件系統(tǒng)Ext3、ReiserFS和IBM JFS在磁盤寫失效情況下的故障處理機(jī)制,分析了它們?cè)谔幚泶疟P寫失效時(shí)存在的設(shè)計(jì)不足,并對(duì)文件系統(tǒng)磁盤故障處理的改進(jìn)進(jìn)行了總結(jié)和研究。
關(guān)鍵詞:日志文件系統(tǒng);故障處理;Ext3;ReiserFS;IBM JFS
中圖分類號(hào):TP316文獻(xiàn)標(biāo)志碼:A
文章編號(hào):1001-3695(2007)12-0060-03
磁盤發(fā)生故障是很難避免的事情,為了確保磁盤故障后文件系統(tǒng)的完整性和可靠性,文件系統(tǒng)需要通過合理的內(nèi)部機(jī)制來處理這種故障。目前常用的文件系統(tǒng)普遍缺乏合理的磁盤故障處理機(jī)制,文件系統(tǒng)在磁盤發(fā)生故障時(shí)經(jīng)常會(huì)有文件數(shù)據(jù)被破壞、數(shù)據(jù)丟失、文件或目錄丟失等情況發(fā)生。不合理的磁盤故障處理機(jī)制極大地影響了文件系統(tǒng)的完整性和可靠性。Ext3、ReiserFS和IBM JFS是三種常用的Linux日志文件系統(tǒng),文獻(xiàn)[1,2]對(duì)三種日志文件系統(tǒng)的讀寫性能進(jìn)行了研究,本文將著重研究文件系統(tǒng)在磁盤寫失效情況下的故障處理機(jī)制。首先介紹日志文件系統(tǒng);然后討論它們?cè)谔幚泶疟P寫失效時(shí)存在的缺陷,分析比較每種文件系統(tǒng)的不足;最后總結(jié)研究了兩種文件系統(tǒng)故障處理策略的改進(jìn)實(shí)現(xiàn)。
1日志文件系統(tǒng)
與早期的文件系統(tǒng)(如FFS和Ext2)不同,日志文件系統(tǒng)在磁盤上以日志的形式記錄一些額外的數(shù)據(jù)改變信息,在系統(tǒng)崩潰后利用日志快速恢復(fù)到以前的一致狀態(tài),從而避免了掃描整個(gè)文件系統(tǒng)這種費(fèi)時(shí)的完整性檢查。在日志文件系統(tǒng)中,每提交一個(gè)寫操作都會(huì)先寫日志。只有這些寫操作成功地提交到日志文件,數(shù)據(jù)才會(huì)寫進(jìn)最終指定的磁盤區(qū)域。把日志中記錄的數(shù)據(jù)塊傳送到指定磁盤區(qū)域的過程稱為檢查點(diǎn)執(zhí)行(checkpointing)。如果檢查點(diǎn)執(zhí)行過程中發(fā)生故障,文件系統(tǒng)可以通過日志文件恢復(fù)數(shù)據(jù)到指定磁盤區(qū)域。日志文件系統(tǒng)通過周期性地更新日志超級(jí)塊來標(biāo)記日志文件的大小和檢查點(diǎn)執(zhí)行的中止。
1.1日志模式
文件系統(tǒng)提供了不同的日志模式,它們?cè)诖疟P更新操作時(shí)有些細(xì)微的不同。a)Data journaling提供最強(qiáng)的數(shù)據(jù)完整性。每個(gè)寫入磁盤的數(shù)據(jù)塊,不管是數(shù)據(jù)信息還是元數(shù)據(jù)信息,都先寫入日志。只有數(shù)據(jù)塊成功地提交到日志文件后,數(shù)據(jù)塊才會(huì)寫進(jìn)指定的磁盤區(qū)域。b)Writeback journaling日志只記錄文件系統(tǒng)的元數(shù)據(jù),它不關(guān)心數(shù)據(jù)寫磁盤區(qū)域和寫日志文件的順序。在確保元數(shù)據(jù)一致性時(shí),writeback journaling并不保證數(shù)據(jù)的一致性。c)Ordered journaling在writeback journaling的基礎(chǔ)上添加了數(shù)據(jù)一致性。實(shí)現(xiàn)的方式是限制寫操作的順序,即文件數(shù)據(jù)在寫入指定磁盤區(qū)域之后再提交更新元數(shù)據(jù)。這種寫順序限制確保了文件元數(shù)據(jù)不會(huì)指向無效數(shù)據(jù)。
1.2Ext 3文件系統(tǒng)
Linux Ext3文件系統(tǒng)是建立在Ext2文件系統(tǒng)基礎(chǔ)上的日志文件系統(tǒng)。在Ext3文件系統(tǒng)中,數(shù)據(jù)和元數(shù)據(jù)的存放均采用標(biāo)準(zhǔn)的Ext2文件系統(tǒng)結(jié)構(gòu)。Ext3日志以一個(gè)普通文件的形式存放在文件系統(tǒng)中,它也可以存放于一個(gè)獨(dú)立的存儲(chǔ)設(shè)備或不同的分區(qū)。日志文件包含不同的塊來跟蹤提交給日志的事務(wù)和數(shù)據(jù)塊:日志描述塊(journal descriptor block)記錄了存儲(chǔ)到日志中的指定區(qū)域數(shù)據(jù)的塊數(shù);日志提交塊(journal commit block)標(biāo)記事務(wù)的終止;日志超級(jí)塊(journal superblock)存儲(chǔ)日志信息,如日志頭、日志尾及下一個(gè)事務(wù)的ID號(hào)等。
圖1描述了Ext3文件系統(tǒng)的磁盤布局結(jié)構(gòu)。該圖給出的是一個(gè)塊組的結(jié)構(gòu)示意圖,整個(gè)文件系統(tǒng)是由許多這種相同結(jié)構(gòu)的組組成的。Ext3支持上述三種日志模式。
1.3ReiserFS文件系統(tǒng)
ReiserFS文件系統(tǒng)是一種基于平衡樹結(jié)構(gòu)的日志文件系統(tǒng)。每個(gè)文件系統(tǒng)采用一個(gè)特殊的、優(yōu)化的平衡樹來組織所有的文件系統(tǒng)數(shù)據(jù),根據(jù)需要?jiǎng)討B(tài)地分配索引節(jié)點(diǎn),能靈活適應(yīng)各種存儲(chǔ)需要。ReiserFS日志與Ext3日志類似,采用循環(huán)寫的方式記錄日志,并以塊為最小的寫單位。ReiserFS與Ext3的不同之處主要有以下三個(gè)方面:a)磁盤數(shù)據(jù)布局結(jié)構(gòu)不同。Ext3采用Ext2的結(jié)構(gòu);ReiserFS采用B+樹結(jié)構(gòu),數(shù)據(jù)存儲(chǔ)在樹的葉子節(jié)點(diǎn),元數(shù)據(jù)存儲(chǔ)在樹的中間節(jié)點(diǎn)。b)日志的格局有所不同。Ext3的日志是一個(gè)文件,可以存儲(chǔ)在分區(qū)的任何地方甚至是不同的設(shè)備上,存儲(chǔ)空間也不要求是連續(xù)的;ReiserFS日志不是一個(gè)文件,而是位于文件系統(tǒng)開始的一序列連續(xù)的塊,并限制了最大為32 MB。c)日志內(nèi)容有所不同。ReiserFS支持上述三種日志模式。
1.4IBM JFS文件系統(tǒng)
IBM JFS是一種提供日志的字節(jié)級(jí)文件系統(tǒng),是為面向事務(wù)的高性能系統(tǒng)開發(fā)的。IBM JFS只工作于ordered journaling模式,與Ext3和ReiserFS不同,它不支持data journaling和writeback journaling模式。IBM JFS寫進(jìn)日志的信息也與Ext3和ReiserFS不同,Ext3和ReiserFS將整塊數(shù)據(jù)寫進(jìn)日志,而IBM JFS寫進(jìn)日志的是修改的塊數(shù)據(jù),指定數(shù)據(jù)塊的寫與其他文件系統(tǒng)一樣。由于IBM JFS日志記錄修改的數(shù)據(jù)塊,日志塊就不能被分類為日志數(shù)據(jù)塊或者日志提交塊等。一個(gè)日志就包含了日志數(shù)據(jù)記錄和提交記錄。
2文件系統(tǒng)故障處理分析
文件系統(tǒng)一般只將磁盤分為正常工作和停止工作兩種狀態(tài)。隨著磁盤復(fù)雜性的提高,磁盤出現(xiàn)故障的形式也變得多種多樣,比如可能出現(xiàn)潛在的扇區(qū)故障,一個(gè)塊或幾個(gè)塊無法訪問,或者出現(xiàn)無聲的數(shù)據(jù)毀壞(silent data corruption)等,故障可能是暫時(shí)性的也可能是永久性的[3]。文獻(xiàn)[4,5]采用故障插入技術(shù)(faultinjection methodology)對(duì)上述三種日志文件系統(tǒng)進(jìn)行了分析,發(fā)現(xiàn)文件系統(tǒng)在磁盤故障處理機(jī)制方面存在的設(shè)計(jì)不足和缺陷。下面總結(jié)了幾種導(dǎo)致文件系統(tǒng)故障的磁盤寫失效處理方式,分析比較了三種文件系統(tǒng)在磁盤寫失效情況下的故障處理機(jī)制的設(shè)計(jì)不足。
2.1幾種磁盤故障處理方式
1)提交失效事務(wù)文件系統(tǒng)的每一個(gè)I/O操作叫做一個(gè)事務(wù)。當(dāng)一個(gè)事務(wù)在寫磁盤失效后,文件系統(tǒng)繼續(xù)將該事務(wù)寫進(jìn)日志并提交,從而導(dǎo)致文件系統(tǒng)處于不一致狀態(tài)。例如,在ordered journaling日志模式下,當(dāng)一組有序數(shù)據(jù)寫失效,文件系統(tǒng)應(yīng)該中止該事務(wù),取消該事務(wù)的日志記錄。如果日志記錄并提交了該事務(wù),元數(shù)據(jù)塊就指向了錯(cuò)誤或者舊的磁盤數(shù)據(jù)內(nèi)容。
3)無重寫失效的檢查點(diǎn)檢查點(diǎn)執(zhí)行的過程就是將日志記錄的數(shù)據(jù)寫到指定磁盤區(qū)域。當(dāng)檢查點(diǎn)執(zhí)行時(shí)出現(xiàn)寫失效,文件系統(tǒng)必須試圖重寫或者在日志中標(biāo)記下次重新執(zhí)行該檢查點(diǎn)。忽略這種寫失效的情況會(huì)導(dǎo)致文件出現(xiàn)數(shù)據(jù)被破壞、數(shù)據(jù)丟失、文件和目錄丟失等現(xiàn)象。
4)日志文件寫失效處理不當(dāng)日志文件系統(tǒng)通過標(biāo)記日志文件為臟或干凈來維護(hù)兩種不同的狀態(tài)。文件系統(tǒng)在裝載時(shí),如果日志標(biāo)記為臟,日志記錄的事務(wù)將被重新執(zhí)行。一般情況下,在開始一個(gè)事務(wù)前或檢查點(diǎn)執(zhí)行完一個(gè)事務(wù)后日志標(biāo)記會(huì)改變。如果日志標(biāo)記的更新失效,可能會(huì)發(fā)生以下兩種情況之一:a)文件系統(tǒng)重新執(zhí)行了事務(wù),但該事務(wù)是不需要重新執(zhí)行的;b)文件系統(tǒng)未重新執(zhí)行事務(wù),而該事務(wù)是需要重新執(zhí)行的。第一種情況不會(huì)影響系統(tǒng)的完整性,而第二種情況將導(dǎo)致文件破壞或數(shù)據(jù)丟失。另外當(dāng)寫日志數(shù)據(jù)失效時(shí),事務(wù)應(yīng)該中止并不再執(zhí)行。如果該事務(wù)繼續(xù)執(zhí)行,日志中的無效數(shù)據(jù)就會(huì)被讀寫到指定的磁盤區(qū)域,導(dǎo)致文件系統(tǒng)錯(cuò)誤。
5)文件系統(tǒng)崩潰當(dāng)磁盤寫失效時(shí),通過系統(tǒng)調(diào)用(如Panic)來迫使整個(gè)文件系統(tǒng)停止工作;在下一次文件系統(tǒng)使用時(shí)必須重新啟動(dòng)整個(gè)系統(tǒng)。文件系統(tǒng)崩潰使得失效的事務(wù)不會(huì)提交到磁盤,系統(tǒng)重啟并裝載文件系統(tǒng)后,文件系統(tǒng)執(zhí)行恢復(fù)操作處于一致狀態(tài)。系統(tǒng)崩潰不僅會(huì)中止文件系統(tǒng)進(jìn)程,同時(shí)也影響了系統(tǒng)中的所有其他進(jìn)程。
2.2三種文件系統(tǒng)故障處理的比較分析
根據(jù)以上分析可以發(fā)現(xiàn),Ext3的設(shè)計(jì)只考慮了系統(tǒng)的整體故障情況,而對(duì)于單個(gè)數(shù)據(jù)塊寫失效并沒有進(jìn)行有效處理。Ext3的主要缺陷是它沒有中止失效事務(wù),提交失效事務(wù)導(dǎo)致嚴(yán)重的文件系統(tǒng)錯(cuò)誤,輕則數(shù)據(jù)被破壞,重則文件系統(tǒng)無法卸載。ReiserFS避免了許多Ext3出現(xiàn)的問題,但是要以整個(gè)系統(tǒng)重啟為代價(jià)。在處理寫失效時(shí),ReiserFS將一個(gè)故障阻塞系統(tǒng)變?yōu)橐粋€(gè)故障終止系統(tǒng)。然而如果出現(xiàn)永久性的磁盤故障,ReiserFS的這種設(shè)計(jì)將導(dǎo)致系統(tǒng)反復(fù)重啟而不可用。IBM JFS的設(shè)計(jì)缺陷是Ext3和ReiserFS所討論過的,如提交失效的事務(wù)、不重復(fù)執(zhí)行失效的檢查點(diǎn)、IBM JFS在日志超級(jí)塊寫失效時(shí)與ReiserFS一樣使系統(tǒng)重啟等。
下面從文件系統(tǒng)可靠性、系統(tǒng)健壯性和數(shù)據(jù)完整性三個(gè)方面對(duì)以上分析的文件系統(tǒng)進(jìn)行比較:
a )文件可靠性。在磁盤寫失效時(shí),Ext3主要存在的問題是文件數(shù)據(jù)被破壞、文件數(shù)據(jù)丟失、文件和目錄丟失,有時(shí)候也會(huì)出現(xiàn)文件系統(tǒng)無法卸載的情況;ReiserFS主要表現(xiàn)為系統(tǒng)崩潰重啟;IBM JFS的主要問題是文件數(shù)據(jù)被破壞和文件系統(tǒng)無法卸載,有時(shí)候也會(huì)出現(xiàn)文件數(shù)據(jù)丟失、文件和目錄丟失、系統(tǒng)崩潰的情況。從文件可靠性的角度考慮,ReiserFS系統(tǒng)的文件可靠性較Ext3和IBM JFS更高。
b)系統(tǒng)健壯性。文件系統(tǒng)無法卸載,甚至整個(gè)系統(tǒng)崩潰,都極大影響了系統(tǒng)的健壯性。在磁盤寫失效時(shí),ReiserFS大多數(shù)情況下是通過Panic系統(tǒng)調(diào)用來迫使整個(gè)文件系統(tǒng)失效。與ReiserFS類似,IBM JFS在某些寫失效的情況下使系統(tǒng)崩潰重啟。例如在裝載操作時(shí),日志超級(jí)塊寫失效將導(dǎo)致系統(tǒng)崩潰。相對(duì)而言,Ext3的系統(tǒng)健壯性最好。
c)數(shù)據(jù)完整性。磁盤故障處理機(jī)制會(huì)影響文件系統(tǒng)的數(shù)據(jù)完整性,以上討論的提交失效事務(wù)和檢查點(diǎn)寫失效無重寫會(huì)影響到文件系統(tǒng)的完整性。Ext3和IBM JFS均存在這兩方面的設(shè)計(jì)缺陷。因此在故障處理機(jī)制方面,ReiserFS提供較強(qiáng)的數(shù)據(jù)完整性。
3文件系統(tǒng)故障處理策略的改進(jìn)研究
目前研究提出了以下兩種改進(jìn)的故障處理文件系統(tǒng),IRON文件系統(tǒng)Ixt3和奇偶校驗(yàn)文件系統(tǒng)PFS。它們都是在Ext3文件系統(tǒng)的基礎(chǔ)上改進(jìn)實(shí)現(xiàn)的。
3.1IRON文件系統(tǒng)Ixt3[6]
IRON(internal robustNess)文件系統(tǒng)是一種具有故障檢測(cè)和恢復(fù)功能的文件系統(tǒng)。Linux Ixt3文件系統(tǒng)是在Ext3文件系統(tǒng)基礎(chǔ)上采用了校驗(yàn)和、同步復(fù)制、奇偶校驗(yàn)技術(shù)的IRON文件系統(tǒng)。與Ext3文件系統(tǒng)相比,該文件系統(tǒng)在時(shí)間和空間的開銷上有所增加,但文件系統(tǒng)的健壯性有了顯著的提高。
1)Ixt3文件系統(tǒng)的設(shè)計(jì)
a)校驗(yàn)和。Ixt3采用SHA1計(jì)算文件數(shù)據(jù)塊的校驗(yàn)和,校驗(yàn)和先寫進(jìn)日志,然后通過checkpoint操作寫進(jìn)指定磁盤區(qū)域。校驗(yàn)和占用很小的空間,在讀文件操作時(shí)可以存放于cache中使用。
b)同步復(fù)制。Ixt3采用了同步的元數(shù)據(jù)復(fù)制,所有的元數(shù)據(jù)塊被同步寫進(jìn)一個(gè)獨(dú)立的備份日志,該日志通過checkpoint寫進(jìn)遠(yuǎn)離原始元數(shù)據(jù)的指定磁盤區(qū)域。元數(shù)據(jù)的同步復(fù)制采用了事務(wù)機(jī)制來確保備份元數(shù)據(jù)的一致性。
c)奇偶校驗(yàn)。Ixt3修改了Ext3文件系統(tǒng)的節(jié)點(diǎn)結(jié)構(gòu),為每個(gè)文件分配一個(gè)奇偶校驗(yàn)塊。當(dāng)文件被修改時(shí),根據(jù)文件修改的數(shù)據(jù)對(duì)奇偶校驗(yàn)塊進(jìn)行更新。系統(tǒng)采用了預(yù)分配奇偶校驗(yàn)塊的方法來改進(jìn)創(chuàng)建文件的性能。
2)Ixt3文件系統(tǒng)的性能
a)時(shí)間開銷。測(cè)試發(fā)現(xiàn),Ixt3在SSHbuild和網(wǎng)頁服務(wù)器基準(zhǔn)測(cè)試中的時(shí)間開銷與Ext3系統(tǒng)的開銷相當(dāng),沒有大的變化;在postmark基準(zhǔn)測(cè)試中,Ixt3比Ext3的時(shí)間開銷增加了37%;TPCB基準(zhǔn)測(cè)試中Ixt3比Ext3的時(shí)間開銷增加了42%。后兩種環(huán)境下元數(shù)據(jù)操作較多。
b)空間開銷。試驗(yàn)證明,校驗(yàn)和以及元數(shù)據(jù)復(fù)制的空間開銷較小,占總空間的3%~10%;奇偶校驗(yàn)的空間開銷較大,占總空間的3%~17%。
3.2奇偶校驗(yàn)文件系統(tǒng)[7]
奇偶校驗(yàn)文件系統(tǒng)(parity file system,PFS)的設(shè)計(jì)思想是在Ext3文件系統(tǒng)的設(shè)計(jì)基礎(chǔ)上加上奇偶校驗(yàn)塊,對(duì)每個(gè)文件數(shù)據(jù)塊進(jìn)行奇偶校驗(yàn)。如果該文件出現(xiàn)單個(gè)數(shù)據(jù)塊失效的情況,就可以通過奇偶校驗(yàn)塊對(duì)失效的數(shù)據(jù)塊進(jìn)行恢復(fù)。
1)PFS的設(shè)計(jì)
PFS對(duì)Ext3代碼進(jìn)行了少量的修改以包含奇偶校驗(yàn)。文件在寫第一個(gè)數(shù)據(jù)塊時(shí),為該文件分配一個(gè)奇偶校驗(yàn)塊并置為零,該數(shù)據(jù)塊寫完時(shí),奇偶校驗(yàn)塊的內(nèi)容與該數(shù)據(jù)塊內(nèi)容相同;接下來在寫其他數(shù)據(jù)塊時(shí),校驗(yàn)塊的內(nèi)容為當(dāng)前內(nèi)容與新數(shù)據(jù)塊內(nèi)容的異或。如果某一數(shù)據(jù)塊更新時(shí),新校驗(yàn)塊內(nèi)容由以下公式得到:
新的校驗(yàn)塊=新數(shù)據(jù)塊XOR舊數(shù)據(jù)塊XOR舊校驗(yàn)塊
該設(shè)計(jì)修改了Ext3系統(tǒng)的兩個(gè)文件,即ext3_fs.h和inode.c。其中ext3_fs.h的修改如下:
/* Constants relative to the data blocks */
#define EXT3_NDIR_BLOCKS 11/*11 instead of 12 direct pointers*/
#define EXT3_IND_BLOCK EXT3_NDIR_BLOCKS
#define EXT3_DIND_BLOCK (EXT3_IND_BLOCK+1)
#define EXT3_TIND_BLOCK (EXT3_DIND_BLOCK+1)
#define EXT3_N_BLOCKS (EXT3_TIND_BLOCK+2)/*in order to maintain 15 pointers in inode, instead of EXT3_TIND_BLOCK+1*/
inode.c主要修改了ext3_prepare_write()、ext3_journalled_commit_write()、ext3_ordered_commit_write()、ext3_block_to_path()等函數(shù)。
2)PFS的性能
測(cè)試結(jié)果顯示,PFS在創(chuàng)建文件時(shí)的工作負(fù)荷與Ext3文件系統(tǒng)基本沒有區(qū)別。追寫文件數(shù)據(jù)時(shí),PFS需要讀取當(dāng)前奇偶校驗(yàn)塊并計(jì)算更新奇偶校驗(yàn)塊,因此相對(duì)Ext3系統(tǒng)降低了30%~50%的帶寬。在文件數(shù)據(jù)局部修改時(shí),兩者的性能基本沒有區(qū)別。
4結(jié)束語
本文分析的三種Linux日志文件系統(tǒng)在磁盤故障處理機(jī)制方面均存在不足之處。為了提高系統(tǒng)的可靠性、健壯性、完整性,文件系統(tǒng)的設(shè)計(jì)在磁盤故障處理策略方面需進(jìn)一步完善。目前研究提出的兩種改進(jìn)故障處理策略的設(shè)計(jì)在一定程度上提高了系統(tǒng)的可靠性和健壯性,但系統(tǒng)的時(shí)間和空間開銷也相應(yīng)增加,同時(shí)具有一定的局限性,如奇偶校驗(yàn)只能恢復(fù)單個(gè)數(shù)據(jù)塊出現(xiàn)錯(cuò)誤的情況,而磁盤出現(xiàn)連續(xù)的多個(gè)數(shù)據(jù)塊故障時(shí)數(shù)據(jù)無法恢復(fù)。設(shè)計(jì)出能處理磁盤故障的更可靠、更健壯的文件系統(tǒng)是對(duì)文件系統(tǒng)故障處理策略的進(jìn)一步研究。
參考文獻(xiàn):
[1]PRABHAKARAN V, ARPACIDUSSEAU A C, ARPACIDUSSEAR R H. Analysis and evolution of journaling file systems[C]//Proc of USENIX Annual Technical Conference (USENIX ’05). Anaheim:[s.n.],2005:105-120.
[2]張文江,吳慶波.Linux日志文件系統(tǒng)研究[J].計(jì)算機(jī)工程與應(yīng)用,2006,42(9):50-52.
[3]Data Clinic. The hard disk failure[EB/OL].[2006-06-20].http://www.dataclinic.co.uk/harddiskfailures.htm.
[4]PRABHAKARN V, ARPACIDUSSEAU A C, ARPACIDUSSEAU R H. Modelbased failure analysis of journaling file systems[C]//Proc of International Conference on Dependable Systems and Networks. 2005:802-811.
[5]YANG J, TWOHEY P, ENGLER D, et al. Using model checking to find serious file system errors[C]//Proc of the 6th Symposium on Operating Systems Design and Implementation. New York:ACM Press,2004:273-288.
[6]PRABHAKARAN V, BAIRAVASUNDARAM L N, AGRAWAL N. IRON file systems[C]//Proc of SOSP’05. Brighton:[s.n.],2005:206-220.
[7]APTE H, RUNGTA M. Parity file system[R]. Wisconsin, Madison: Computer Sciences Department, 2005:1-10.
“本文中所涉及到的圖表、注解、公式等內(nèi)容請(qǐng)以PDF格式閱讀原文”