您的位置:首页 > 互联网

曙光ParaStor十年记:做存储的坎,他们都遇上了!

发布时间:2020-03-10 13:21:49  来源:互联网     背景:

  大众创业时代,人们常谈“自研”。但在国内存储行业,将“自研”付诸实践,坚持10年的企业却没几家。

  但即使用10年时间,自研出代表行业先进水平的产品,生存和发展的压力仍在每名研发、产品、运营人员的肩头。

  这或许印证了中国存储人、中国IT人的使命——抓住海量数据爆发的时代机遇,成就一款众人皆知的经典产品。

  下面讲述的,是中国最早自研分布式存储产品——中科曙光“ParaStor”的10年往事。愿这些过往能给同为追求极致的IT人些许帮助和启示。

  图说:10周年庆典现场,曙光员工正给ParaStor庆生

  存储“十字路口”

  ParaStor的10年,始于2009年夏天。

  站在中科院计算所大楼,眺望施工不断的中关村,已过而立之年的苗艳超,下定决心离开工作多年的计算所去企业。

  要去的企业名叫“曙光”,他要负责一款从无到有的存储产品开发。

  当时,鲜有人谈大数据、人工智能,少数国际厂商开始讲“分布式存储”。站在存储发展的十字路口,各大厂商开始了对未来的争夺。

  2009年,Cisco宣布进入服务器和存储市场,与此同时EMC参与NetApp竞购,并与Cisco、VMware两家厂商结成VCE联盟。Oracle收购SUN公司,具备了存储软硬件一体的产品格局……

  2009年“选择”摆在了曙光人面前。

  随着曙光服务器进入更多行业和领域,突破存储瓶颈成为当时要务。但此时,曙光还未有自研的,满足高并发IO需求的商业化存储产品。

  而苗艳超所在计算所智能中心,便一直研发有高并发IO特点的“集群文件系统”,但这些研究成果只停留在课题中,未形成商业化产品。

  不到五人的研发团队

  到曙光后,苗艳超的第一个难题便是“曙光存储的技术路线要怎么走?”

  “Parastor立项就面临技术路线选择问题,一个是以磁盘阵列作为基础部件;另一种是以x86架构的高性能服务器为底层硬件,数据冗余机制由上层文件系统负责提供的分布式存储系统。”苗艳超回忆。

  此时,为减少对大厂存储技术依赖,以及跟上“大数据”时代技术趋势,结合曙光自有的产品生态和优势,苗艳超和同事选择了更具前瞻性和挑战的分布式存储系统研发路线。

  但此时加上苗艳超,初期的ParaStor研发团队只有不到5人,相比同类厂商动辄上百人的研发队伍,连零头都不到。

  图说:曙光存储产品事业部总工程师 苗艳超

  为加快研发进度,当时每人都领了不同产品领域去研究,经常半夜谁有想法就爬起来发邮件,一起讨论可行性。

  最终不到一年,ParaStor1.0便问世了。如今看来ParaStor1.0很原始,仅支持副本冗余,没有纠删码等如今“分布式”存储系统必备的技术,但它为ParaStor的发展明确了方向。

  2010年,ParaStor从1.0升级到1.5,这是ParaStor第一个商业化软件版本。为建口碑,当时团队内部定了一个目标,有BUG必须24小时内解决。很多BUG都是当天发现,研发团队通宵修改,第二天客户上班,BUG已解。

  最终,初出茅庐的ParaStor以高性能和良好的扩展性获得首批客户的认可,该版本也为国内首台性能超千万亿次的计算系统“曙光星云”,构建了当时国内最大的单一存储系统(16PB)。

  此次成功部署,使得“曙光能做分布式存储产品”的理念深入公司内外,从此ParaStor步入了高速市场化发展轨道。

  战书

  “三年后,曙光存储要占领国内10%的市场份额,进入存储主流市场”2012年7月,时任曙光存储产品总监惠润海,面对发布会现场记者立下战书。

  图说:曙光存储产品事业部总经理惠润海

  而打赢这场仗的排头兵便是ParaStor。

  惠润海立下战书后不到半小时,现场就有媒体提问“在国际厂商抢先进入市场的背景下,曙光靠什么获得主流客户的认可?”

  对此,惠润海表示,曙光的立身之本有两点:一是要靠自主研发,掌握核心技术,应对海量数据增长所带来的一系列挑战;二是在行业深耕细作,通过对行业应用的快速适配和深入优化,打造差异化优势,实现重点市场的逐个突破。

  相比于2009年,此时已进入“大数据元年”,中国互联网产业在起飞。当时IDC研究报告显示,大数据技术和服务市场至2017年的增长率可达27%,增速是整个信息和通讯技术市场的6倍。

  但就在惠润海立战书的几天前,连媒体也没几人知道ParaStor。不知道ParaStor的,还有将成为ParaStor研发工程师的郭洋。

  2012年,在国内某IT大厂做存储产品的郭洋,决定从原先安稳的公司来到曙光。但在网上搜索自己要在新单位开发的产品“ParaStor”,却找不到太多信息。

  “当时的分布式存储还是国际大厂的天下,国内的产品严格上讲仅有两家,曙光算一个。此外,当时类型相近的国际大厂分布式存储产品价格是国产产品的五到十倍。”郭洋回忆。

  图说:采用ParaStor存储平台的山西先进计算中心

  做到极致

  当时ParaStor面临的最大问题之一,就是如何提升存储空间利用率,根据团队之前的积累,实现这点对郭洋和他的团队并不算挑战。但相应的产品测试与验证调优,则是考验团队专业性的时候。“要考虑用户端可能出现的各种情况,要做多种排列组合数量的测试和优化。”郭洋说。

  在实现ParaStor升级的过程中,郭洋也理解“做到极致”的曙光产品理念,以及曙光存储坚持自研的原因。

  在一个CANU三代基因组装测试项目中,用户要求曙光ParaStor的性能必须超越某厂商宣称的“代表业界最高性能”的同类产品,才考虑把其业务迁移到曙光平台上。

  面对新挑战,郭洋和同事在两周内,将整个业务流程各阶段(涉及几十个进程)的数据IO特点梳理成报告,并同同事一起从底层代码逐一调优,最终用户计算用时从9.2小时降低到7.3小时,实测性能超过友商20%以上。

  就在郭洋和同事精益求精,不断将ParaStor产品性能做到极致时,市场也向曙光递来了橄榄枝。

  2013年,ParaStor2.0版本发布,增强了数据保护机制,可为用户构建数据全生命周期管理的一体化方案。同年,ParaStor为央视国际打造6PB存储资源池,并在全国多地中标气象局、环保局项目。

  2015年,据IDC报告显示ParaStor在国内NAS市场排名位居第一,营收同比增长42.6%,占全部NAS存储市场份额21.6%。三年前惠润海下的战书达成了,直到今天ParaStor一直保持国内NAS存储市场占有率的前两位。

  多元化需求 本地化服务

  2018年夏的一天夜里两点,在睡梦中的曙光存储运维工程师吕山被客户的电话惊醒。

  当时一位江苏的视频存储业务客户,因操作不当导致后台出问题。吕山立刻利用客户提供的安全通道登录系统,查看日志,最终与同事一起找到问题并解决。

  存储作为数据中心的核心之一,任何架构、系统、应用的变化都有可能导致问题。这就需要曙光的存储运维人员耐心、负责地提供各种咨询、服务支持。

  半夜接到客户电话,对于吕山和同事是常有的事。

  2015年前后,随ParaStor产品销量增长,运维压力增加。“行业不同,客户运维人员水平不一,导致运维的个性化需求不同、复杂度增加,这就需要我们坚持本土化服务,解决用户痛点。”ParaStor产品经理石冬林说。

  河北姑娘石冬林,2012年研究生毕业即加入曙光存储产品线,2015年起担任ParaStor产品经理,主要负责分布式存储产品定义、市场推广与运营工作。

  市场对存储产品的要求也趋于多元,相比满足单一的云服务、虚拟化等应用,如今客户希望不同应用之间实现数据灵活流动。

  ParaStor如何应对新市场的挑战,成为石冬林和同事不断思考的问题。目前石冬林给出的方案之一是“融合”。

  “融合性,简单举例来说,就是ParaStor除了支持文件、对象存储外,今后还要支持块存储。一套存储应对用户不同的业务需求,实现融合。”石冬林说。

  相比传统分布式存储产品,如今曙光ParaStor已成为省、市级别先进计算中心的首选存储平台。“在先进计算中心,ParaStor融合非结构化与结构化数据存储,融合通用计算、大数据、AI等业务应用”石冬林介绍。

  “昨天已过去,明天仍是挑战”

  曙光存储事业部总经理惠润海表示,“ParaStor产品历经十年发展,过程特别不易,测试、产品、售前到售后支持都非常不容易。所有人都全身心地投入其中,就像呵护自家宝贝一样陪伴她成长。”

  在诞生10年之际,曙光表示这个“小宝贝”的最新版本——ParaStor300S,实现了融合存储架构,集群存储系统可对外统一提供文件、对象、块等存储协议。此外,曙光ParaStor产品明确三大发展方向:本土化、闪存化、融合智能,领跑数字经济时代。

曙光ParaStor十年记:做存储的坎,他们都遇上了!

  图说:ParaStor300S

  经过十年发展,如今ParaStor管理着数EB存储空间,实现了TB级访问带宽。服务对象遍及气象、能源、生物、金融、广电、交通等多个行业。IDC排名连续7年位居国内NAS存储市场前二位;而曙光ParaStor产品、研发团队,也从最早不足5人,发展到如今数百人。

  “昨天已经过去了,明天仍充满挑战”惠润海最后表示,ParaStor十年取得的成绩令人振奋,但我们还有更高的目标,今后仍面临挑战。“未来10年,我们将继续专注技术、扎根本土、主动创新的传统,更贴近用户应用,不断满足中国存储用户需求。”惠润海说。

曙光ParaStor十年记:做存储的坎,他们都遇上了!

  图说:曙光存储团队

  后记:

  “十年去了,少年志犹在”

  “如果对明天没有要求”便不会有曙光分布式存储产品ParaStor的10年。

  技术迭代加速,IT产业竞争加剧。在莫测的市场环境中,只有持之以恒做好一件事,别无旁顾打造“极致产品”,持续为行业、用户创造核心价值,才能免于被时代所淘汰。

  将以上简单的道理付诸实践,坚持10年,这或许便是曙光人的发展和成功之道。

  更多曙光相关资讯,欢迎搜索微信公众号“中科曙光/sugoncn”,关注曙光公司官方微信。

第六届淘宝造物节项目

共享电动滑板车 bird


返回网站首页

三星S6钢铁侠


科学技术的迅猛发展带来了日益突出的信息安全问题

格力并购珠海银隆为何没有成功

天猫精灵IN糖 连接人与人连接你与家 陪伴小能手
2019三季度家电报告双十一发布 家电第一再落苏宁

电视开机广告怎么取消?


返回网站首页

本文评论
鲍威尔讲话8分钟 美国亿万富翁们巨亏780亿美元「鲍威尔今天讲话」
美联储主席鲍威尔在杰克逊霍尔年会上警告市场,短短8分钟之内,美国最富有的那些人的财富就被血洗780亿美元。其中,损失最多的是亚马逊创始人贝佐斯,他的财富缩水了68亿美元;马斯克...
日期:09-09
喜茶确认开放加盟:在非一线城市展开事业合伙业务「喜茶合作方式」
11 月 3 日消息,财联社记者从喜茶获悉,喜茶确认开放加盟业务,将在非一线城市以合适的店型展开事业合伙业务,并对品牌、产品、品控、食安、营运、培训、供应链等方面为事业合伙人...
日期:11-13
网售处方药政策对医药行业的影响「“先方后药” 网售处方药监管趋严」
  国家市场监督管理总局发布的《药品网络销售监督管理办法》(以下简称《办法》)将于2022年12月1日起施行。《办法》对药品网络销售管理、平台责任履行、监督检查措施及法律...
日期:09-10
华为P60发布时间曝光 影像实力或更强_华为p60什么时候上市
中关村在线消息:今日,微博博主曝光了华为P60系列的发布时间为明年第一季度,此前传出出的华为P60渲染图真实性存疑。该渲染图显示,华为P60采用了与P50相同的万象双环设计,正面屏幕...
日期:10-12
小米13官宣12月1日发!直屏旗舰稳了_小米12会推出直屏吗
中关村在线消息:11月28日,据小米官微爆料,小米13系列将于12月1日19:00正式发布,除了两款新机外,还将为大家带来MIUI14新操作系统。根据官方预热的海报来看,小米13系列本次将采用双...
日期:12-01
美团 减持「腾讯将减持美团?知情人士辟谣:没有计划」
  原标题:媒体称腾讯将减持美团,知情人士辟谣:没有计划  华硕vg27a怎么开hdr  36氪获悉,有媒体报道称,腾讯控股计划出售其所持美团的全部或大部分股份。对此,36氪从接近腾讯...
日期:10-10
SWIFT和Symbiont共同宣布企业数据区块链通信试点项目
环球银行金融电信协会(SWIFT)周二披露了与金融科技公司Symbiont的合作,通过区块链技术为金融企业提供更准确的数据。该报文系统每年处理超过50亿笔交易,并寻求通过将颠覆性技术...
日期:09-15
美团旅游消费排行榜「美团发布国庆“即兴度假”报告 本地游周边游搜索量大涨440%」
  上证报中国证券网讯(记者 温婷)美团9月27日发布的最新数据显示,国庆假期前一周,“本地游、周边游”等关键词搜索量环比暴涨440%;北京、上海、南京、苏州、广州、成都、深圳、...
日期:10-05
小米双11开门红:70分钟支付金额破30亿元 500款产品优惠_双十二小米活动
今晚20:00,双11促销季全面开启,各大厂商第一时间公布了自家销量战报,继Redmi Note 12系列首销1小时销量破25万台后,小米公司宣布,小米双11用时仅1小时10分,全渠道支付金额突破30亿...
日期:11-04
支付宝大额存款需3年提取?不实_支付宝大额存款需3年提取?不实时到账
  个人账户的高风险操作行为可能影响账户正常使用。为规避风险,用户须规范使用自己的账户,不要轻易与不明账户交易,不要把个人账户出借给他人使用,也不要进行网络刷单、跑分、...
日期:10-13
箩筐技术公司宣布与蓝箭航天达成战略合作(蓝箭航天完成新一轮12亿元融资)
  -共建火箭、卫星及地球站全球覆盖的测控系统   箩筐技术公司(股票代码 LKCO)(以下简称“箩筐”或“公司”),是全球领先的时空大数据技术公司之一,中国领先的位置交互出...
日期:01-26
天猫放弃跨店满减 将推出商品单价立减无需凑单_淘宝双十一预售跨店满减规则
12月27日 消息:跨店满减已成为电商大促的标志,但今年年货节,天猫率先改变了这一传统。12月27日,天猫年货节预热正式启动,天猫首次推出“官方立减”商品直降,并取消延续多年的“跨...
日期:12-27
1月30日网民热搜疫情热点变化:确诊病例数突破非典最牵动人心(疫情爆发 人民日报)
  1月29日官方通报,“新型肺炎”病例在30天内的确诊人数,超过2003年非典确诊病例。而根据百度“今日疫情热搜”反应的民众对疫情关注点变化,民众对“肺炎确诊人数超非典”关...
日期:05-21
iPhone5再传九月上市  首批出货量达400万台(iPhone5首发)
一直牵动着千万“果粉”的iPhone 5终于有了相对确切的上市时间段。据台湾著名IT报纸《中时电子报》昨日援引来自苹果生产商的消息称,iPhone 5已经投入生产,并将于今年9月第二...
日期:07-22
保时捷全球前9月卖了22万台 中国女车主买的最积极_保时捷在中国卖了多少辆
日前,保时捷官方宣布,2022年前三季度保时捷向全球客户共交付221,512台新车,同比增长2%,Cayenne仍是保时捷最受青睐的车型。分地区来看,销量涨幅最大的是欧洲市场,今年1月至9月,共交...
日期:10-21
汽车变身游戏机:特斯拉正式上线 Steam 游戏平台
IT之家 12 月 14 日消息,特斯拉已经为其 Model S 和 Model X 电动汽车上线了 Steam 平台,现在可以玩成千上万的游戏。在过去几年中,特斯拉一直在大力投资将视频游戏整合到其车...
日期:12-14
德邦股份业绩「德邦股份第三季度营收80.15亿元 同比增长4.51%」
10月28日消息,德邦物流股份有限公司(以下简称德邦股份或公司)日前发布2022年第三季度报告(以下简称报告)。特斯拉芯片架构报告显示,德邦股份第三季度营收80.15亿元,同比增长4.51%...
日期:10-29
摩托车被老人故意推倒损坏维修近2万:小伙坚持追刑责 网友支持
今年6月,家住上海的陈先生停放在小区的摩托车被一位老人故意推倒损坏,视频在网络上引起广泛关注。事发后经鉴定,摩托车损失高达16000多元,老人经鉴定为限制行为能力人,监护人是其...
日期:11-27
360wifi6路由安装视频教程 分身路由一键组网(360v6m路由器)
夲和本一样吗?智能家居方面的题目 华星创业新闻雅虎总裁梅耶尔 极光:超八成用户每天通过移动端浏览资讯 登顶珠峰 因为“山就在那里” ——通付盾董事厉伟成功登顶珠峰! 苹...
日期:07-14
疯狂的预制菜,凭什么拥有10000亿级市场?_预制菜趋势
声明:本文来自于微信公众号 营销兵法(ID:lanhaiyingxiao),作者:兵法先生,授权转载发布。毫无疑问,现在的预制菜越来越疯狂,可以说迎来了发展的“黄金时期”。虎年伊始,预制菜就以黑...
日期:09-29