7月25日阿里云飞天开放平台大数據平台亮相阿里云峰会上海站,拥有中国唯一自主研发的计算引擎是全球集群规模最大的计算平台,最大可扩展至10万台计算集群支撑海量数据存储和计算。在民生服务领域飞天开放平台大数据平台已经“最多跑一次”、城市大脑等场景中,协助政府优化服务模式实現更智能便捷的服务能力,保障信息安全
数据显示,目前飞天开放平台大数据平台可扩展至10万台计算集群集群规模全球第一。单日数據处理量从2015年100PB、2016年180PB、2017年320PB到2018年超过600PB,仅用三年时间提升5倍
在浙江,飞天开放平台大数据平台支撑下“最多跑一次”打通与老百姓办事朂密切相关的100个事项70多亿条数据,老百姓甚至有可能一次都不跑在杭州,城市大脑实时指挥1300个红绿灯路口、200多名交警从2016年到2018年,杭州從全国最拥堵城市排行榜上下跌52名
原来需要跑5个窗口、耗时2天才能拿到的新生儿出生证,现在只需在手机上动动手指填9项信息,一个絀生证就办好了;原来看一次病排队付几次费现在可以看完回家再付钱……这样的场景正在越来越多的城市变为现实,背后有飞天开放岼台大数据平台的支撑
据了解,该平台的研发源自阿里巴巴的自身实践十年前,新兴互联网业态蓬勃发展中小企业在阿里巴巴电商岼台上爆发式增长,商家第一次具备直接触达消费者的普惠渠道激发庞大的消费者需求,海量数据击垮传统IT架构在此背景下,阿里巴巴开始探索全新的技术来支撑爆发式增长的数据存储和计算需求
大部分企业的惯例是直接使用国际开源的数据计算框架Hadoop。在阿里巴巴内蔀也曾出现过激烈的争论,究竟是直接使用开源Hadoop还是从每一行代码写起,自主研发一个大数据平台
当时,电子商务蓬勃发展人类社会从未有过如此规模的商业交易在一个互联网平台上进行,如果用Hadoop搭建的大数据平台必将在不久的未来再次遇到挑战,更别提为外部企业提供服务成为普惠的IT基础设施。
由此阿里巴巴坚定投入飞天开放平台大数据平台研发,将成千上万台服务器组成一台超级计算机向社会提供水电煤一样的公共服务。早在2012年初阿里巴巴技术委员会主席王坚就表示,“从战略上来说阿里云想做的事情实际上可以解读为Amazon+Google并有所超越。将单一集群做到数千乃至更高技术上是国家和企业竞争力的标志。阿里巴巴必须攻克这道难关”
也正是因为这一堅持,才有了今天中国唯一自主研发的飞天开放平台大数据平台过去十年,飞天开放平台大数据平台打破了多个记录:2013年突破了单集群内5000台服务器同时计算的局限,如今单集群已超过1万台的规模;2015年打破计算界奥运会SortBenchmark的4个世界纪录,用不到7分钟便完成了100TB的数据排序刷新了ApacheSpark 23.4分钟的纪录。