支撑海量数据,新存储时代“分布式”将成为破题密钥

2022-04-02 10:45 盘古开源

随着云计算、大数据、物联网等信息技术的快速发展和传统产业数字化的转型,新技术的应用与推广带来海量数据的规模化聚集。用户对存储系统的稳定性、性能和弹性扩展能力有着更高的期待,而传统集中式存储烟囱式的部署模式在扩展性和管理上都遇到不少挑战。

2021年,分布式存储和云存储在量和销售额方面的增速分别达到30%20%,相较于传统存储的20%8%,分布式存储远远胜于传统存储。”近日,在曙光举办的技术圆桌派上,赛迪顾问业务总监高丹对2021年的存储市场格局这样归纳。

“面对海量爆发的数据,以前传统集中式的存储已经不是最优选了。”中科曙光存储事业部相关负责人张新凤表示,对分布式存储本身来说,破解海量数据存储难题,也是有非常多的挑战。

互联网13.jpg

首先,就是解决海量数据的存储。海量不简单的是设备的堆集,技术难度是指数级的增长,要看厂商是否有丰富的超大部署规模和实施经验;二是能对5GAI、区块链等新技术有更好的支持;三是针对用户实际应用,在产品性能和功能上做到深度的定制。

存储市场是一个需要很深的技术积累和很大资金投入的市场。高丹认为,自研路线对客户节约成本角度来说,还是对自己安全的角度来说,都是一套比较好的技术路线。

事实上,曙光在做存储方面,一开始就选择了分布式存储路线。张新凤介绍,当前,曙光分布式存储系统ParaStor完成了对文件、块、对象和大数据协议的支持,基本覆盖所有应用场景。

基于自研优势,曙光可根据不同行业用户的不同需求,进行代码级的定制化设计与开发,产品功能和性能指标可大大优于同类产品。“比如,我们的分布式对象,单桶就可以实现4K小文件千亿级别的存储,一个系统TPS的聚合性能可以达到百万级,这种水平是业内一流的。”张新凤说。

“分布式应用越来越广泛,但细化到具体的应用场景里,又会发现应用需求是千差万别的。”面对当前分布式存储多样化的应用需求,张新凤提到,要快速的响应市场需求,推出合适的产品,首先要有强有力的团队支撑,其次是对行业的深耕和理解,基于以上两者的优势,对用户推出定制化的产品及运维服务。

比如,在石油勘探过程中,数据存储和分析处理的需求呈几何倍增长,对存储容量以及扩展性都提了很高的要求。“石油勘探领域对收集上来的数据,需要提供TB级及PB级的读写性能,来满足我们现在前端的密集计算和模拟。”中石化石油物探技术研究院信息中心技术主管葛鑫说。

“未来的存储系统要很好地支撑应用,无论是性能的极致优化,或者是功能的定制。”对于存储市场的未来发展演进,张新凤这样判断。


关于盘古开源


青岛盘古开源电子科技发展有限公司是一家领先的芯片产品技术研发和数据存储服务综合运营商,公司总部位于青岛,公司业务覆盖全国。自公司创立以来,一直专注于数据存储领域的探索与研究,已经成为分布式数据存储行业的引领者。现在公司以芯片技术研发为核心,聚焦AI智能、汽车制造、数字安全、智能计算、功率与电源管理、高可靠集成电路等业务,研发的产品广泛应用于金融、电信、政务、汽车、工业互联、物联网等领域。公司核心团队人员由业界资深专家共同组建,拥有国内、外顶尖人才的技术与产业化队伍,已经与世界上最大的芯片生产商之一的香港台积电科技有限公司达成了战略合作,并且与香港台积电在香港共同成立了芯片研发联合实验室。未来,公司将依托雄厚的技术实力和强大的科研力量,完成高端芯片国产化,力主打造国内半导体龙头企业、国际半导体一流企业。

盘古开源.png