1. 首页 体育新闻 旅游新闻 军事新闻 大咖名流 星声星语 金融新闻 科技前沿 社会文化 汽车资讯 法律在线

当前位置:主页 > 财经资讯 > 内容

重庆移动大数据平台升级
发布日期:2021-09-24 06:31   来源:未知   阅读:

  日前,重庆移动大数据平台圆满完成升级任务,升级后系统安全性、稳定性显著增强,每年可节约50万元的运营维护费用。

  据悉,重庆移动大数据平台目前有超过300个节点,数据规模达到12PB。本次升级任务重、难度大,该公司成立了由专家组成的大数据平台升级项目组,权威正版资料大全,对原大数据平台从前期选型到升级割接制定了详细计划和方案,进行了周密准备。

  重庆移动对目前业界主流的大数据平台产品,从技术成熟度、使用便捷性、应用广泛性、后期服务支撑能力几个方面进行了深入研究和讨论,最终选定方案。新部署平台全部经过基准性能测试,进行了DACP适配改造及部署。历时1个月,在线将B域历史数据迁移到新平台,共计迁移数据1.4PB。随后对执行不通过、执行慢的原有程序进行改造,累计改造程序315个,并对3500多个应用程序进行数据质量比对,对存在数据质量问题的程序进行改造。新搭建ETL平台,将接口数据同时向老集群和新集群分发,为割接创造数据接入条件。割接之前,准备平台并行割接方案:在新平台并行生产任务,通过3个月的观察和测试,新平台性能、稳定性、数据质量均符合要求,具备割接条件。

  在本次升级方案讨论中,重庆移动创新使用双平台迁移割接方案,避免了传统割接面临的数据丢失的巨大风险。新版本的大数据平台具备cloudera manager管理工具,能方便地对平台进行监控和管理,实现快速扩容和滚动不间断业务重启计算节点,每年可节约50万元。