易观OLAP算法大赛结果揭晓,开源组黑马放大招!互联网

/ / 2017-10-31 16:17

100+天激烈赛程,40+国内顶级技术豪门对决,历经研发内部测试、正式环境测试和易观数据正式环境跑benchmark三大阶段。10月28日,易观OLAP算法大赛优胜名单出炉!

40+技术门派比武

易观OLAP大赛可谓国内算法界“武林大会”,英雄帖一发出就引起互联网各大技术门派积极响应。

吸引来自美团点评、阿里云、小米、链家、搜狗、科大讯飞、联通、原速数据、乐见、AggreData、GBase 、Kyligence、PingCAP、LinkDoc、iflytek、hulu、上海睿民、热云数据、润乾、帆软软件、咪咕音乐、杭州玳数科技、上海跬智、千丁互联、北京健科云网、广州向量线科技、乐享天下、牛办科技、北京邮电大学、北京交通大学等40多家知名企业、科研单位和个人报名参加。

6组算法新人王诞生

本次易观OLAP算法大赛分为商业组和开源组两个组别进行,从7月开放报名到10月正式环境跑benchmark。经过重重考验,终于决出6组易观OLAP算法新人王:

商业组三甲:

第一名:PingCAP

PingCAP 是国内第一家开源的新型数据库公司,其产品分布式高可用数据库 TiDB 支持水平扩展,兼容MySql,支持分布式事务,是大数据时代理想的数据库集群和云数据库解决方案之一。在本次比赛中,PingCAP使用自主研发的 Magic 引擎,使用多层pipeline、智能并发等技术,以极致速度对数据进行暴力扫描,实现了良好的计算效果,因此获得商业组第一名的好成绩。

第二名:帆软软件

帆软团队在本次参赛使用的是帆软自主研发的直连分布式引擎。分布式存储系统基于Alluxio和HDFS,采用列式存储方案,以Spark作为基础,基于流式计算,辅以高性能查询算法,为直连引擎提供强劲的查询支持。面对亿级数据和多维度复杂场景时,直连分布式引擎能大幅提高有序漏斗的计算的效率和准确性。

第三名:GBase

GBase此次参赛用的是自己的产品GBase 8a MPP Cluster。GBase 8a采用行列混合存储,可处理PB级别以上的结构化数据。同时采用先进的数据压缩算法,有效提高IO性能。在数据处理上采用完全并行的MPP + Share Nothing的分布式架构,支持高并发,因此在有序漏斗的实时计算中效率较高。

易观OLAP算法大赛商业组颁奖仪式

开源组三甲:

第一名:广州向量线科技 韦万和李本旺

在开源组比赛中韦万和李本旺另辟蹊径,向北取经。使用目前国内鲜为人知的俄罗斯神级开源软件ClickHouse参赛。利用ClickHouse超强分析性能和灵活的架构特点,使得集群间节点的计算完全并行化,同时优化底层的存储和上层的计算细节,挖掘CPU cache、向量化执行和具体算法优化方面的潜力。凭借在时效和精度上的优异表现,韦万和李本旺团队成为本届大赛最大黑马,获得开源组第一名。

第二名:美团点评 孙业锐

美团点评团队基于自身的业务优势经验,设计了本次参赛的解题思路。用bitmap快速过滤和基于时间戳序列匹配的算法,利用Apache Spark、Alluxio等开源框架快速落地实现,使用了一系列工程优化方法,在每日数百亿条日志和百万属性的数据集上,实现有序漏斗的秒级查询。在易观正式数据环境中,在26亿数据,400万用户,几十个属性的场景下,美团点评团队均实现了快速查询。

第三名:北京邮电大学 卢跃凯

易观OLAP算法大赛还吸引了来自计算机名门高校的个人选手。北京邮电大学的研究生卢跃凯,采用了HDFS作为储存,将Spark作为数据预处理和核心过滤算法实现。借鉴最长递增子序列的存储和更新思想,将查找每个用户转化率的时间复杂度变为了0(n),提升了漏斗计算的效率。

易观OLAP算法大赛开源组颁奖仪式

开源组10万元现金奖励

易观OLAP大赛为每组前三名的团队颁发获奖证书,同时开源组第一名还将获得UCloud提供的10万元现金奖励。据悉,韦万和李本旺获得开源组第一名后注册了自己的公司,将对算法技术进行更深入的研究和落地实践。

开源组第一名10万元现金奖励授予仪式

赛制公正具有含金量

2017易观OLAP算法大赛在“有序漏斗”的实时计算效率和精确度上得到突破性的好成绩,这离不开易观海量的数据支撑以及UCloud强大的技术支持。

一直以来,UCloud都是易观良好的合作伙伴,本次大赛UCloud为所有参赛团队提供了稳定的底层IT计算资源服务。比赛在4台UCloud云主机16核、16G内存、SSD数据盘300G硬件的环境下进行。比赛时现给出8个不同的场景,同时开始计时,每个场景的运行时间须在8分钟以内,8个场景总体比赛时间在1小时内,以此考察参赛团队在不同场景下的实时计算精度和用时效率。每个场景根据事件的数量、事件的复杂程度、事件的属性、时间窗口的大小等差异赋予不同的权重。总分为单个场景乘以该场景权重的累加所得。在8个场景中,运行时间最短且精确度最高的队伍获胜。在正式数据环境开跑阶段,还进行全程录像,确保比赛成果的含金量。

作为易观A10峰会的重要项目,OLAP算法大赛不仅为技术黑马提供大展拳脚的道场,同时还为行业挖掘出更多技术型人才和更优秀解决方案。做技术领域的“伯乐”,让世界看到更多“黑马”,易观致力于推进大数据应用创新。未来,易观OLAP大赛取得的成果将用于数据产品的研发当中,从技术应用层面实践“数以致用”。



1.砍柴网遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.砍柴网的原创文章,请转载时务必注明文章作者和"来源:砍柴网",不尊重原创的行为砍柴网或将追究责任;3.作者投稿可能会经砍柴网编辑修改或补充。


阅读延展



最新快报

1
3