引言
隨著云原生應(yīng)用對可遷移性、擴展性和動態(tài)特性的需求,對云原生存儲也帶來了相應(yīng)的密度、速度、混合度的要求,所以對云存儲基本能力之上又提出了在效率、彈性、自治、穩(wěn)定、應(yīng)用低耦合、GuestOS 優(yōu)化和安全等方面的訴求。
新的企業(yè)負載/智能工作負載容器化、遷云、存儲方面遇到的性能、彈性、高可用、加密、隔離、可觀測性及生命周期等方面的問題,不但需要存儲產(chǎn)品層次的改進,還需要在云原生的控制/數(shù)據(jù)平面的改進,推進云原生存儲和云存儲的演進。下文將分別介紹一下問題場景及問題,探討可行的解決方案,最終可以得出云原生存儲、云存儲目前可以做什么和未來還需要做什么。
存儲性能
1. 長時延增加
場景
高性能計算場景中,集中處理批量數(shù)據(jù),通過容器集群,同時啟動數(shù)千 Pod,彈出數(shù)百 ECS 對共享性文件系統(tǒng)讀寫。
問題
重負載終負載下時延增加,高延遲毛刺增多,讀寫穩(wěn)定性不足。
解決方案
分散負載到多文件系統(tǒng),通過容器編排分散 IO 到多文件系統(tǒng)
存儲產(chǎn)品的盤古 2.0 改造
2. 集中式高吞吐寫對共享存儲池沖擊
場景
高性能計算場景中,集中處理批量數(shù)據(jù),10Gbps 讀寫請求進入同一存儲集群。
問題
同一存儲集群中的帶寬擠占,造成訪問質(zhì)量下降。
解決方案
分散負載到多文件系統(tǒng)和多個存儲集群/多個可用區(qū),通過容器編排分散 IO 到多文件系統(tǒng);
使用獨占高性能并行文件系統(tǒng)。
**3. 峰值吞吐不足**
場景
大規(guī)模生物數(shù)據(jù)處理,文件數(shù)目少,峰值吞吐高 10Gbps-30Gbps,請求密集 1W/s。
問題
接近獨占集群的極限帶寬。
解決方案
讀寫分流,分流讀請求到 OSS,寫請求負載分流到獨占文件系統(tǒng)和本地/遠程塊存儲,通過容器編排分散 IO 到多文件系統(tǒng);
使用應(yīng)用層分布式緩存降低網(wǎng)絡(luò)讀 IO;
存儲產(chǎn)品的盤古 2.0 改造。
時延增加導(dǎo)致 GPU 等待
場景
多機多卡 GPU 訓(xùn)練,直接讀取 OSS 數(shù)據(jù),讀密集型。
問題
時延增加導(dǎo)致 IOwait 和 GPU 等待。
解決方案
應(yīng)用層透明 POSIX 讀訪問 OSS;
使用應(yīng)用層分布式緩存降低網(wǎng)絡(luò)讀 IO。
存儲彈性
場景
數(shù)據(jù)庫擴容, MySQL and etc;元數(shù)據(jù)管理應(yīng)用在線擴容 Zookeeper/etcd;本地盤存儲容量無法擴容。
解決方案
云盤在線擴容,應(yīng)用控制面文件系統(tǒng)/邏輯卷離線,在線擴容能力;
單機云盤掛載密度;
存儲產(chǎn)品 ESSD 的替換使用。
存儲高可用
場景
應(yīng)用運維,系統(tǒng)運維;塊存儲隨容器遷移的穩(wěn)定性和可發(fā)現(xiàn)性。
解決方案
控制平面聲明式存儲快照,備份,定時快照備份,本地快照加速備份和恢復(fù);控制平面云盤 SerialNum 的可發(fā)現(xiàn)性改造。
存儲的加密
場景
用戶應(yīng)用的全鏈路數(shù)據(jù)加密需求;操作系統(tǒng)盤加密。
解決方案
產(chǎn)品存儲的 CMK,BYOK 支持控制平面的加密聲明支持RAM 權(quán)限的最小化控制
存儲的隔離性
場景
單盤多應(yīng)用共享,單機日志盤塊存儲切分
單塊本地盤/云盤吞吐能力不足
文件系統(tǒng)多租戶環(huán)境的容量配額
集群級文件系統(tǒng)共享訪問的權(quán)限控制
解決方案
控制面 LVM 切分,控制面塊存儲 blkio buffer IO 應(yīng)用級限速
控制面 LVM 多盤聚合和條帶
存儲產(chǎn)品共享文件系統(tǒng)的目錄級 Quota
控制面文件系統(tǒng)的目錄級 ACL
存儲的可觀測性
場景
多租戶 Zookeeper/etcd,租戶/應(yīng)用級的 IO 指標(biāo)監(jiān)控和預(yù)警。
解決方案
控制面應(yīng)用級 IO Metrics 采集能力
控制面設(shè)備級 IO Metrics 采集能力
控制面掛載點級 IO Metrics 采集能力
存儲的生命周期
場景
共享文件系統(tǒng)/緩存系統(tǒng)的聲明式創(chuàng)建和刪除。
解決方案
Operator: 云盤/本地盤 (TiDB)
Operator: 文件系統(tǒng),CPFS
Operator: 對象存儲
云原生存儲 v2
針對以上在新的計算模式下,存儲方面遇到的性能,彈性,高可用,加密,隔離,可觀測性,生命周期等方面的問題,不但是需要存儲產(chǎn)品層次的改進,更需要在云原生的控制/數(shù)據(jù)平面的改進,在不久的將來實現(xiàn)穩(wěn)定,安全,自治,和效率并舉的云原生存儲 v2。
穩(wěn)定:阿里云存儲的全品類支持可觀測性, Flexvolume and CSI plugins/IO metrics (CSI for 1.14);安全:全連路數(shù)據(jù)存儲的可靠/可信存儲支持,CSI 快照加密,系統(tǒng)盤加密;自治:云盤快照 /本地快照 ,離線在線的存儲擴容能力, 元數(shù)據(jù)自動發(fā)現(xiàn);效率:I/O 隔離 、可伸縮性/云盤再次分割提升密度/分布式存儲緩存。
需要在云原生應(yīng)用層、存儲云產(chǎn)品層、底層存儲適配和存儲核心層都需要做相應(yīng)的改進和提升才有可能提供更加穩(wěn)定,安全,自治和高效的面向應(yīng)用的云原生存儲。
總結(jié)
云原生存儲是云存儲 UI 和效率等能力的集合;分層存儲,不重新發(fā)明輪子;新的工作負載推進云原生存儲和云存儲的演進,云原生控制平面實現(xiàn)效率,自治方面能力,從數(shù)據(jù)面提升存儲穩(wěn)定和減小安全隱患,云存儲繼續(xù)夯實性能,容量,彈性,密度等基礎(chǔ)能力,共建云原生環(huán)境下的存儲生態(tài)。
在云原生存儲 v2 的演進過程中,仍然需要容器團隊和存儲團隊,通力合作,共同提升的云原生時代的存儲能力。
-
gpu
+關(guān)注
關(guān)注
28文章
4787瀏覽量
129415 -
云存儲
+關(guān)注
關(guān)注
7文章
774瀏覽量
46173
發(fā)布評論請先 登錄
相關(guān)推薦
云原生AI服務(wù)怎么樣
云原生LLMOps平臺作用
如何選擇云原生機器學(xué)習(xí)平臺
什么是云原生MLOps平臺
云原生和數(shù)據(jù)庫哪個好一些?
k8s微服務(wù)架構(gòu)就是云原生嗎?兩者是什么關(guān)系
云原生和非云原生哪個好?六大區(qū)別詳細對比
中科馭數(shù)分析DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實際應(yīng)用
京東云原生安全產(chǎn)品重磅發(fā)布
![京東<b class='flag-5'>云原生</b>安全產(chǎn)品重磅發(fā)布](https://file1.elecfans.com//web2/M00/FE/9F/wKgZomajC6SASmmzAATJlNh7RPo422.png)
從積木式到裝配式云原生安全
![從積木式到裝配式<b class='flag-5'>云原生</b>安全](https://file1.elecfans.com//web2/M00/FF/88/wKgaomajC32AVrYjAAC07TrSCCc818.png)
基于DPU與SmartNic的云原生SDN解決方案
![基于DPU與SmartNic的<b class='flag-5'>云原生</b>SDN解決方案](https://file1.elecfans.com/web2/M00/FD/A4/wKgZomad0kiAco1RAAGXtwNarbs914.png)
基于DPU的云原生裸金屬服務(wù)快速部署及存儲解決方案
![基于DPU的<b class='flag-5'>云原生</b>裸金屬服務(wù)快速部署及<b class='flag-5'>存儲</b>解決方案](https://file1.elecfans.com/web2/M00/ED/94/wKgZomZrsmqAFWW1AACgZfBe1f0711.png)
云原生轉(zhuǎn)型中從理念到實踐的探索與挑戰(zhàn)
云原生驅(qū)動信貸服務(wù)數(shù)字化 中軟國際信貸數(shù)據(jù)服務(wù)平臺獲業(yè)界認可
![<b class='flag-5'>云原生</b>驅(qū)動信貸服務(wù)數(shù)字化 <b class='flag-5'>中</b>軟國際信貸數(shù)據(jù)服務(wù)平臺獲業(yè)界認可](https://file1.elecfans.com/web2/M00/C6/A1/wKgZomYLZqGALJsCAAAWI3Wi41w647.jpg)
評論