您的当前位置: 首页 > 新闻中心 > 行业知识 > 什么是分布式存储?技术有哪些?与传统存储的区别

什么是分布式存储?技术有哪些?与传统存储的区别

1、分布式存储

分布式存储系统(Distributed Storage System,DSS),也指分布式文件系统(Distributed File System,DFS)。分布式存储,从原理上讲,是将数据文件分散地存储到集群服务器上,而构建集群的服务器往往由低成本的商用硬件组成。用户利用系统提供的接口方便、快捷地访问存储系统,系统内部通过软件和硬件共同协作完成用户操作指令。

分布式存储

2、分布式存储技术

(1)网络存储技术

①网络连接存储(Network Attached Storage,NAS)

NAS主要组件包括NAS头和存储阵列,NAS头主要由四个部分组成,包括网络接口、 文件共享协议、 专用的操作系统以及底层的存储接口。存储可以位于NAS内部,也可以独立于NAS作为单独的存储阵列存在。客户端用户可以通过专有的文件共享协议,如Windows用户可以利用CIFS协议、Unix用户利用NFS协议,经过普适的IP网络访问NAS设备上的存储资源。NAS头部在接收到用户的文件访问I/O后,通过其内部专用的操作系统将其转换为数据块I/O,并结合操作系统记录的文件位置,进行文件的存取工作。

优点:提高传统存储环境的扩展性,并且整合服务器和存储资源以进行统一管理,简化管理任务

缺点:无法满足高性能要求,不适合于对存储介质进行复杂操作的任务

②存储区域网络(Storage Area Network,SAN)

根据数据在服务器和存储设备之间传输协议的不同,SAN主要分为光纤通道SAN和IP SAN两种类型,SAN主要由服务器、 存储设备以及网络连接三部分构成。服务器通过网络连接和常见的串行SCSI协议FCP(Fiber Channel Protocol),来远程访问存储设备上的数据资源。SAN将应用与存储分离,在降低了应用存储耦合的基础上,分离了两者的管理工作。在光纤通道SAN中,服务器与存储设备的连接渠道包括集线器,交换机和导向器,通过专门搭建的基于光纤通道的网络,能够实现数据的稳定、高速传输。而在IP SAN中,数据传输的渠道是通用的IP 网络,可以利用现有的网络连接迅速构建简易的IP SAN,方便灵活。

优缺点:基于光纤通道的SAN由于需要搭建专用的网络,成本高昂,维护难度较大,并且性能也与现有IP SAN相差无几,无法体现出自身的性能优势;而IP SAN受限于传统IP网络的性能和稳定性,无法达到光纤通道SAN的高速、稳定的特性。

(2)分布式文件系统

①Google File System(GFS)

GFS是Google公司云计算基础设施中负责分布式数据管理的重要子系统,是一个面向大规模分布式环境的、 高可用、 高可靠、 高可扩展性的分布式文件系统,用于对大量数据的存储和管理。

②Hadoop File System(HDFS)

GFS源于Google公司自身的业务和应用服务要求,其具体的工程实现细节并未完全公布。研究人员根据GFS论文的核心设计思想,在Amazon、Yahoo 等IT 巨擘的牵头下,设计了一种新的面向分布式环境、高可靠性、高性能的分布式文件系统HDFS。该文件系统最初是作为Apache Nutch搜索引擎工程的底层基础架构而研发的,属于Apache Hadoop Core项目的重要组成部分,主要用于数据的分布式存储以及计算任务。

③Ceph

Ceph是一种新的、开源分布式文件系统,是Sage Weil在加州大学圣克鲁兹分校攻博期间负责的关于存储研究的项目,用于面向高性能、高可靠性、大规模的分布式环境。Ceph的生态系统包括四个组成部分,它们是客户端(Client)、元数据服务器(Metadata server cluster)、对象存储集群(Object storage cluster)和集群监视器(Cluster monitors),目前Ceph已经被用于实际生产环境中,许多大型IT及互联网公司,如华为、沃尔玛、Bloomberg、AT&T,eBay等均将Ceph用于其分布式文件系统以及存储系统的构建。

(3)P2P存储技术

在P2P存储中,所有节点地位均等,既可以是客户机,也可以是服务器。每个节点可以同时提供存储服务和访问其他节点的存储服务,打破了节点角色的壁垒,充分利用了节点自身的存储和计算资源。现有P2P存储技术主要包括OceanStore、PAST、CFS、Dynamo。

(4)新型存储技术

①基于对象的存储(Object-based Storage Devices,OSD)

OSD系统通常由三个组件构成,它们分别是OSD节点、 内部私有网络以及存储系统。OSD节点主要负责元数据服务和存储服务,不仅如此,它还负责维护对象ID与文件系统域名空间的映射关系。内部网络保证了节点与存储系统、多节点之间的互联互通。存储系统通常由廉价、高密度磁盘组成,用于存储对象。

②统一存储

一个统一存储系统主要包括底层存储系统、存储控制器、NAS机头、OSD节点以及相应的访问协议。存储控制器可以通过iSCSI、FC和FCoE协议,为应用服务器提供基于块级的数据存储和访问。NAS机头通过CIFS和NFS协议,可以为NAS 用户提供文件级的存储和访问服务。OSD节点通过REST和SOAP协议,以及对应的API为应用服务器提供对象级别的访问服务。应用服务器或者用户无需知晓底层实现细节,只需要根据数据访问的粒度,选择合适的协议就可以在统一存储的平台中进行数据的读写,方便快捷。现有的统一存储产品,如EMC VNX、Huawei OceanStor T系列,已经能够为企业级用户提供统一存储的服务。

3、分布式存储与传统存储的区别

(1)高性能,每个节点服务器都具有单独的处理数据请求的能力,集群中所有节点并行执行不同的处理请求,每当有新的节点加入集群,总资源池都会得到增长,系统性能得到提升

(2)高可靠性,能够有效避免SPoF问题的出现,当系统中某一节点服务器出现宕机或者其他故障时,系统服务不受影响

(3)低成本,能够很大程度地减少建立基础设施的成本,同时数据管理的成本也会有效减少

(4)高扩展性,可以通过更多的添加服务器节点实现系统的水平扩展,从而线性地提高系统总体容量与性能,并减轻对特定设备的依赖

推荐阅读:《【研报】区块链行业新基建(三):分布式存储给互联网带来了什么?

【研报】计算机行业:分布式存储企业IT市场的新增长点-20200302[26页].pdf

本文由作者2200发布,版权归原作者所有,禁止转载。本文仅代表作者个人观点,与本网无关。本文文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

相关报告

【研报】计算机行业:分布式架构重塑金融科技产业-20200227[16页].pdf
【研报】计算机行业:分布式架构重塑金融科技产业-20200227[16页].pdf

请务必阅读正文之后的请务必阅读正文之后的重要声明重要声明部分部分 证券研究报告证券研究报告/ /专题研究报告专题研究报告 20202020 年年 2 2 月月 2727 日日 计算机 分布式架构重塑金融科技产业 评级评级:增持增持 分析师:分析师:闻学臣闻学臣 执业证书编号:执业证书编号:S0740519

【研报】计算机行业:分布式存储企业IT市场的新增长点-20200302[26页].pdf
【研报】计算机行业:分布式存储企业IT市场的新增长点-20200302[26页].pdf

1 作者: 行业评级: 上次评级: 行业报告 | 请务必阅读正文之后的信息披露和免责申明 计算机计算机 强于大市 强于大市 维持(评级) 分析师 沈海兵 SAC执业证书编号:S1110517030001 分析师 缪欣君 SAC执业证书编号:S1110517080003 分布式分布式存储,企业存储,企业ITI

分布式数字身份产业联盟:《DIDA白皮书》(58页).pdf
分布式数字身份产业联盟:《DIDA白皮书》(58页).pdf

I 前前 言言 本白皮书参与编写的单位(排名不分先后):北京百度网讯科技有限公司、微众 银行、溪塔科技、中钞区块链技术研究院、飞天诚信科技股份有限公司、国家金融 IC 卡安全检测中心、腾讯云计算(北京)有限责任公司、浦发银行、亿联银行。 本白皮书主要编写人员(排名不分先后):张开翔、韩丹、汪佳伟、李璇、王

【研报】电气自动化设备行业美股Ten bagger系列二:分布式光伏运营商Sunrun和Vivint Solar分布式光伏运营商经营模式及虚拟电厂VPP的思考-20200901(20页).pdf
【研报】电气自动化设备行业美股Ten bagger系列二:分布式光伏运营商Sunrun和Vivint Solar分布式光伏运营商经营模式及虚拟电厂VPP的思考-20200901(20页).pdf

敬请参阅最后一页免责声明 -1- 证券研究报告 2020 年 09 月 01 日 电气自动化设备电气自动化设备行业行业 美股美股 Ten bagger 系列二:系列二: 分布式分布式光伏光伏运营商运营商 Sunrun 和和 Vivint Solar 分布式光伏分布式光伏运营商运营商经营模式及经营模式及虚拟

【研报】区块链行业新基建(三):分布式存储给互联网带来了什么?-20201015(17页).pdf
【研报】区块链行业新基建(三):分布式存储给互联网带来了什么?-20201015(17页).pdf

请仔细阅读本报告末页声明请仔细阅读本报告末页声明 证券研究报告|行业专题研究 2020 年 10 月 15 日 区块链区块链 区块链新基建(三) :分布式存储区块链新基建(三) :分布式存储给互联网带来了什么?给互联网带来了什么? 感谢分布式资本提供研究支持,以及感谢分布式资本提供研究支持,以及储迅信息技

【公司研究】南网能源依托-南网优质资源聚焦分布式赛道-210121(29页).pdf
【公司研究】南网能源依托-南网优质资源聚焦分布式赛道-210121(29页).pdf

1 1 上 市 公 司 公 司 研 究 / 公 司 深 度 证 券 研 究 报 告 公用事业 2021 年 01 月 21 日 南网能源 (003035) 依托南网优质资源 聚焦分布式赛道 报告原因:首次覆盖 买入(首次评级) 投资要点: 南网旗下综合能源平台, “光伏+节能”助力实现“碳中和” 。公司是南

客服
商务合作
小程序
服务号
折叠