BOB登陆 公司新聞

  • 產品與解決方案
  • 行業解決方案
  • 服務
  • 支持
  • 合作夥伴
  • 關於我們

小文件性能難題如何擺平?X10000四招給你搞定!

【發布時間:2019-07-12】

無所不在卻又至關重要的小文件

文件可以說在我們的生活中無處不在,個人照片、小視頻、書籍資料、表格、PPT,每天我們都被它們包圍著。聽說每個身經百戰的ITer電腦裏都擁有數十萬的文件,不知道你的有多少呢?我的答案是:

個人電腦尚且有這麼多的文件,可想而知一個大型數據中心或企業單位有多少的零散小文件需要存儲。

拿我們熟悉的醫院舉例,一次核磁共振檢查會產生幾百個影像文件,一個大型三甲醫院高峰期每天會接待上百病人,醫生也會同時調閱這些影像進行病情診斷,文件調取速度直接影響了醫生的工作效率,甚至會讓病人拿到診斷報告的時間相差數天,可謂是“生死攸關”。

再比如城市卡口抓拍,一個區域上萬個攝像頭每天產生的圖片就有上億,每秒會寫入數千個文件到後端平台,這些圖片給罪犯軌跡分析、打擊拐賣兒童提供了至關重要的原素材,寫入性能不足的話可能會導致關鍵時間的監控數據丟失,造成巨大影響。

小文件性能為何會成為NAS存儲的難題

我們都知道文件係統在創建、讀寫某個文件時,會同時修改或訪問文件的元數據,這些元數據和文件是一對一的,保存著文件特征的係統數據,諸如訪問權限、文件擁有者以及文件數據塊的分布信息等,如下圖舉例所示:

而小文件之所以性能會經常出現瓶頸,原因就在於每次文件創建、修改都會伴隨著一次元數據的操作,相比GB級別的大文件,KB級小文件的元數據讀寫頻率會更高。以一部高清電影和一張圖片來比較,同樣讀寫帶寬的情況下,後者的元數據操作次數是前者的上萬倍。

看H3C UniStor X10000 G3

如何彈指間“擺平”小文件性能

既然小文件的瓶頸主要在於元數據,那麼如果要“擺平”它們,當然也要對症下藥,從元數據的性能下手,總結來說分為四大步,即“團結就是力量、硬盤鳥槍換炮、看文件下菜碟、目錄一條龍讀取”,下麵我們來逐一分解:

01 團結就是力量:針對傳統單MDS的方式,X10000充分利用分布式對稱架構的優勢,采用MDS多活並發的方式,提升係統整體的讀寫性能,而且更具擴展性。俗話說眾人拾柴火焰高,多個MDS靈活擴展相比固定MDS的方式當然性能高很多啦!

02 硬盤鳥槍換炮:傳統方式下,元數據和文件數據是存儲在一起的,一般會采用低成本的7200轉機械硬盤,在海量小文件的場景下,元數據的讀寫會成為明顯瓶頸。X10000則支持元數據分離部署,可以將元數據單獨部署在SSD盤,這樣會大幅度提升元數據的讀寫效率,降低時延,實現真正的“鳥槍換炮”,保證超猛的火力!

03看文件下菜碟:X10000支持SSD盤和機械硬盤的分層存儲,提升熱點數據的讀寫效率。為了保證混合場景下的小文件性能,X10000專門設計了大小寫機製,大文件優先寫入機械硬盤的慢池,不占用SSD的空間,實現看文件下菜碟,提升小文件讀寫性能。

04 目錄一條龍讀取:在海量小文件的場景下,很多時候都是一個目錄內的小文件批量讀取,這種規律性也能夠帶來性能優化的空間。X10000可以選擇性開啟目錄預取,根據數據讀取的規律,提前把文件載入內存或SSD熱點緩存,實現大量文件一條龍服務。

真金不怕火煉

X10000真正實現性能多麵手

通過多年的技術積累和研發團隊的持續攻關,X10000實現了小文件性能相比傳統存儲方式的飛躍,並經受住了運營商集采和第三方權威機構嚴苛的性能測試。

目前,X10000在數百KB小文件場景下的單個節點並發可以超過1000個/s,每個節點可以滿足數十個醫生同時調取影像數據、上千張卡口圖片並發寫入的需求,結合1.4GB/s的單節點大文件極限帶寬,可謂是性能的多麵手、用戶的好夥伴!

BOB登陆
官網
聯係我們