解析大数据存储平台应用中弹性的必要性

目前,对于“大数据”的讨论很多,公认的看法是将大数据的系列问题归纳为:海量的数据规模(volume)、快速的数据流转和动态的数据体系(velocity)、多样的数据类型(variety)和巨大的数据价值(value),以及我们的对策。但实际上,大数据首先要考虑的应该是“大”–海量的数据规模。由此看来,大数据存储的首要需求存储容量可扩展。本文将讲述现阶段不断生长的大数据在存储平台中遇到的技术问题。

【安防在线 www.anfang.cn】
目前,对于“大数据”的讨论很多,公认的看法是将大数据的系列问题归纳为:海量的数据规模(volume)、快速的数据流转和动态的数据体系(velocity)、多样的数据类型(variety)和巨大的数据价值(value),以及我们的对策。但实际上,大数据首先要考虑的应该是“大”–海量的数据规模。

大数据之“

大”

“大”是相对而言的概念。例如,对于像SAPHANA那样的“内存数据库”来说,2TB可能就已经是大容量了;而对于像谷歌这样的搜索引擎,EB的数据量才能称得上是大数据。

解析大数据存储平台应用中弹性的必要性

“大”也是一个迅速变化的概念。HDS在2004年发布的USP存储虚拟化平台具备管理32PB内外部附加存储的能力。当时,大多数人认为,USP的存储容量大得有些离谱。但是现在,大多数企业都已经拥有PB级的数据量,一些搜索引擎公司的数据存储量甚至达到了EB级。由于许多家庭都保存了TB级的数据量,一些云计算公司正在推广其文件共享或家庭数据备份服务。

有容乃“

大”

由此看来,大数据存储的首要需求存储容量可扩展。大数据对存储容量的需求已经超出目前用户现有的存储能力。我们现在正处于PB级时代,而EB级时代即将到来。过去,许多企业通常以五年作为IT系统规划的一个周期。在这五年中,企业的存储容量可能会增加一倍。现在,企业则需要制定存储数据量级(比如从PB级到EB级)的增长计划,只有这样才能确保业务不受干扰地持续增长。这就要求实现存储虚拟化。存储虚拟化是目前为止提高存储效率最重要、最有效的技术手段。它为现有存储系统提供了自动分层和精简配置等提高存储效率的工具。拥有了虚拟化存储,用户可以将来自内部和外部存储系统中的结构化和非结构化数据全部整合到一个单一的存储平台上。

当所有存储资产变成一个单一的存储资源池时,自动分层和精简配置功能就可以扩展到整个存储基础设施层面。在这种情况下,用户可以轻松实现容量回收和容量利用率的最大化,并延长现有存储系统的寿命,显著提高IT系统的灵活性和效率,以满足非结构化数据增长的需求。中型企业可以在不影响性能的情况下将HUS的容量扩展到近3PB,并可通过动态虚拟控制器实现系统的快速预配置。此外,通过HDSVSP的虚拟化功能,大型企业可以创建0.25EB容量的存储池。随着非结构化数据的快速增长,未来,文件与内容数据又该如何进行扩展呢?

不断“

生长”

的大数据

与结构化数据不同,很多非结构化数据需要通过互联网协议来访问,并且存储在文件或内容平台之中。大多数文件与内容平台的存储容量过去只能达到TB级,现在则需要扩展到PB级,而未来将扩展到EB级。这些非结构化的数据必须以文件或对象的形式来访问。基于Unix和Linux的传统文件系统通常将文件、目录或与其他文件系统对象有关的信息存储在一个索引节点中。索引节点不是数据本身,而是描述数据所有权、访问模式、文件大小、时间戳、文件指针和文件类型等信息的元数据。传统文件系统中的索引节点数量有限,导致文件系统可以容纳的文件、目录或对象的数量受到限制。HNAS和HCP使用基于对象的文件系统,使得其容量能够扩展到PB级,可以容纳数十亿个文件或对象。位于VSP或HUS之上的HNAS和HCP网关不仅可以充分利用模块存储的可扩展性,而且可以享受到通用管理平台HitachiCommandSuite带来的好处。

HNAS和HCP为大数据的存储提供了一个优良的架构。大数据存储平台必须能够不受干扰地持续扩展,并具有跨越不同时代技术的能力。数据迁移必须在最小范围内进行,而且要在后台完成。大数据只要复制一次,就能具有很好的可恢复性。大数据存储平台可以通过版本控制来跟踪数据的变更,而不会因为大数据发生一次变更,就重新备份一次所有的数据。HDS的所有产品均可以实现后台的数据移动和分层,并可以增加VSP、HUS数据池、HNAS文件系统、HCP的容量,还能自动调整数据的布局。传统文件系统与块数据存储设备不支持动态扩展。大数据存储平台还必须具有弹性,不允许出现任何可能需要重建大数据的单点故障。HDS可以实现VSP和HUS的冗余配置,并能为HNAS和HCP节点提供相同的弹性。大数据存储平台需要将文件、块数据和内容集成到一个统一的HitachiCommandSuite管理平台之上,以满足大数据处理和应用的需求。

阅读剩余 29%

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • 安防监控从技术到应用之案例分析篇

    导读:随着近几年,安防监控行业对存储产品的需求急速上升,IP网络存储以其高性价比的解决方案优势异军突起。同时,在监控产品、监控平台系统与存储产品相集成化的过程中,新的技术发展方向也逐渐显现出来。

    2024年4月8日
  • 2014年Q2我国存储业务统计分析报告分析

    在中国外部存储市场排名中,华为以13%的份额领跑国产厂商第一名,在国内外全部厂商中,超越IBM上升到第二名。海康威视以6%的份额超越NetApp、日立位列所有厂商第六位,位列国产厂商第二名。曙光、浪潮紧随其后,国外厂商优势逐渐减小。

    2024年4月4日 知识
  • 安徽合肥将聚力打造“城市大脑”2.0

    《合肥市“城市大脑”建设行动方案(2024~2025年)》(以下简称《行动方案》)近日印发。《行动方案》明确,到2025年,安徽省合肥市“城市大脑”进一步优化提升,数据中心、能力底座、智能中枢功能将日臻完善,数据资源综合服务水平将日益提高。

    2024年7月3日
  • 解读 | 新ICT时代的华为生态战略

    前言在新ICT数据价值时代,以“平台”和“生态”双轮聚合行业内厂商、客户、伙伴等各方主体,共同推动各行业客户实现数字化转型和全面云化创新。过去一整年,几乎所有的行业都在谈数字化转型。什么是行业数字化转型?行业转型谈了很多年,行业数字化转型的关键区别在于数字化,而数字化的关键在于数据。

    2024年4月4日
  • 第五届中国智慧城市创新大会在沈召开

    11月3日,由国家发改委城市和小城镇改革发展中心、沈阳市人民政府、智慧城市发展联盟共同主办的2018年沈阳•第五届中国智慧城市创新大会主论坛在沈阳启幕。大会以“智能制造、智慧治理”为主题,围绕“工业互联网――制造业新引擎”议题展开高端论坛活动,深度探讨新型智慧城市发展的热点问题和前沿动态。

    2024年4月18日 资讯
  • 安防利器 浪潮发布智能视频分析AI服务器

    美国加利福尼亚当地时间3月27日,在2018 GPU技术大会(GTC 2018)上,浪潮发布了专为智能视频分析优化设计的搭载了NVIDIA® Tesla®™® P4 GPU的AI服务器NF5280M5-V,可同时响应计算与存储的海量需求,为智慧城市、智慧交通、智慧安防等领域的用户提供了计算存储双优设计的AI计算平台。

    2024年4月16日 知识