阿里深度学习框架开源了!无缝对接TensorFlow、PyTorch

2018-11-28 15:40:54 来源:网络整理 作者:管理员

原标题:阿里深度学习框架开源了!无缝对接TensorFlow、PyTorch

阿里深度学习框架开源了!无缝对接TensorFlow、PyTorch

来源:阿里巴巴

编辑:文强

【新智元导读】阿里巴巴将于12月开源其内部深度学习框架 X-DeepLearning,面向广告、推荐、搜索等高维稀疏数据场景,以填补TensorFlow、PyTorch等现有开源深度学习框架主要面向图像、语音等低维稠密数据的不足。

阿里巴巴内部透露将开源内部深度学习框架 X-DeepLearning的计划,这是业界首个面向广告、推荐、搜索等高维稀疏数据场景的深度学习开源框架,可以与TensorFlow、PyTorch 和 MXNet 等现有框架形成互补。

X-Deep Learning(下文简称XDL)由阿里巴巴旗下大数据营销平台阿里妈妈基于自身广告业务自主研发,已经大规模部署应用在核心生产场景,在这次的“双11”中也发挥了重要作用。

阿里妈妈研究人员介绍,XDL整体上跟TensorFlow和PyTorch是同级的,它们很好地解决了目前已有开源深度学习框架分布式运行能力不足,以及大规模稀疏特征表征学习能力不足的问题。

XDL 采用了“桥接”的架构设计理念。这种架构使得 XDL 跟业界的开源社区无缝对接。例如,用户可以非常方便地在XDL框架上应用基于TensorFlow或者PyTorch编写的最先进开源深度学习算法。此外,对于已经在使用其他开源框架的企业或者个人用户,也可以在原有系统基础上轻松进行扩展,享受XDL带来的高维稀疏数据场景下极致的分布式能力。

数据的高维稀疏性是广告、推荐、搜索等互联网众多核心应用场景的特征,覆盖了大多数互联网企业的数据应用模式。

对于难以与BAT研发能力比肩的众多互联网公司而言,工业级深度学习框架XDL及内置算法方案的开源,将助力各大公司的技术升级,大大提升广告/推荐/搜索场景的精准性,缩短技术迭代周期。

面向广告、推荐、搜索场景的工业级分布式开源DL框架

2016年左右,阿里妈妈团队在研发基于深度学习的广告点击率预估算法时发现,当时已有的TensorFlow、MXNet等开源框架,用来实验算法原型可以,但真正面临互联网尺度的规模化数据时,运行效率面临巨大的挑战。

“我们第一次基于TensorFlow训练我们实际生产系统的深度点击率预估模型时,一天的数据量需要运行超过3天的时间模型才能收敛,”阿里妈妈研发人员告诉新智元:“典型的生产模型需要用到的训练样本往往都是历史几个月的数据,显然直接使用TensorFlow是不现实的。”

随后,阿里妈妈团队也试图对TensorFlow做一些简单优化,但发现改动成本巨大。进一步剖析框架后,他们发现本质的原因是TensorFlow、MXNet、PyTorch等框架大都是面向图像、语音等领域的稠密数据设计,对广告、推荐等场景的高维稀疏数据上的深度学习计算考虑不足

为此,阿里妈妈启动了XDL框架的研发,希望能够在复用已有开源框架对稠密数据的计算能力基础上,重点打造面向工业级应用的分布式规模能力,单机能够处理的计算则引用现有开源框架。

经过2年的研发与打磨,XDL目前已经在阿里妈妈成功部署到内部的生产系统。以阿里妈妈定向广告为例,2017年,以 XDL 为基础的深度学习算法升级带来的广告收入提升超过百亿。

“我们注意到今天业界的很多团队还在类似的重复性工作。开源XDL,是希望把阿里巴巴的能力赋能给大家,推高全行业的整体技术水位,同时也希望能够吸引业界的伙伴们一起来建设高维稀疏数据场景上的深度学习技术,一起成长与获益。 ”

“在现有的版本中,我们在单节点稠密深度网络计算上采用桥接技术,复用了 TensorFlow、MxNet 的能力,也是最大程度上复用了已有开源深度学习框架的能力。”

研究人员表示,后续 XDL 也会考虑加入ONNX。“ONNX针对稀疏计算的表征能力目前是不完善的,我们也在考虑对ONNX的协议标准进行扩充。”

研究人员表示,他们预计12月在Github公开 XDL的源代码和使用文档。除了核心的X-DeepLearning 训练框架,阿里还将开源面向高维稀疏数据场景的系统化解决方案,计划分批次对外发布,包括面向在线实时服务的高性能深度学习预估引擎、面向全库实时检索的全新深度学习匹配引擎;同时还内置阿里妈妈自主研发的一系列创新算法,涉及CTR预估模型、CVR预估模型、匹配召回模型、模型压缩训练算法等等。

不管是以广告、推荐、搜索为代表业务的企业级用户,还是对此感兴趣的个人用户,都可以加入到开源计划当中。

一图看懂阿里巴巴首次公开深度学习框架

阿里深度学习框架开源了!无缝对接TensorFlow、PyTorch

显示全文
为您推荐
微信怎样注意隐私安全
微信怎样注意隐私安全

【导读】 微信怎样注意隐私安全,下面是小编为你收集整理的,希望对你有帮助!1、关闭“附件的人“的定位功能。2、关闭”允许陌生人查看十张照片“功能。3、关闭”通过QQ号搜索到我“和“可以通过手机号搜索到我”功能。4、不要轻易打开别人发过来的网络链接。5、不要在微信聊天里谈及资......

发布时间:2023-07-02 13:01:28

怎么炒卷心菜
怎么炒卷心菜

【导读】 怎么炒卷心菜,下面是小编为你收集整理的,希望对你有帮助!食材:卷心菜、盐、干辣椒、蒜、花椒、油、醋、白醋。1、干红辣椒提前洗净后泡清水,这样处理过的辣椒不容易炒糊。2、把卷心菜的叶子一叶叶地剥开,放清水里浸泡十分钟,清水里放一点点盐,浸泡好以后,再用清水洗......

发布时间:2023-07-02 12:01:37

故宫明瓦是什么贝壳:一种大而平的贝壳(可用羊角制作)
故宫明瓦是什么贝壳:一种大而平的贝壳(可用羊角制作)

【导读】 故宫明瓦是什么贝壳:一种大而平的贝壳(可用羊角制作),下面是小编为你收集整理的,希望对你有帮助!在电视剧中,我们经常可以看到有人在屋内谈话时,外面的人想偷看,于是就将窗户捅出一个洞,这使得不少人好奇,难道古代的窗户都是用纸糊的吗?其实古代并不是所有的窗户都是用纸糊的,有些也会用到一种叫做明瓦的东......

发布时间:2023-07-02 11:01:32

咖喱鸡饭的做法
咖喱鸡饭的做法

【导读】 咖喱鸡饭的做法,下面是小编为你收集整理的,希望对你有帮助!配菜切好备用,鸡胸肉切块加调料均匀腌制10分钟,热锅倒油,配菜翻炒至八分熟后出锅,再次开火倒油,鸡肉炒至金黄色,倒入炒好的配菜,加水。放半块咖喱。烧开转小火焖煮3到5分钟收汁,最后倒在米饭上。......

发布时间:2023-07-02 10:01:17

清道夫晒干还能活吗:不能(太阳下暴晒24小时才会死)
清道夫晒干还能活吗:不能(太阳下暴晒24小时才会死)

【导读】 清道夫晒干还能活吗:不能(太阳下暴晒24小时才会死),下面是小编为你收集整理的,希望对你有帮助!清道夫是一个十分神奇的物种,它会吃一些污物,但是却成为了我国一个入侵物种,在专家呼吁要减少并消灭清道夫鱼的入侵后,它就在网络上火爆了起来,不少人专门捕捉或购买清道夫来做实验,一些人还将它放在太阳底下暴......

发布时间:2023-07-02 09:01:36

霍金预言2032年人类将毁灭是真是假?揭秘人类2032年灭亡真假
霍金预言2032年人类将毁灭是真是假?揭秘人类2032年灭亡真假

【导读】 霍金预言2032年人类将毁灭是真是假?揭秘人类2032年灭亡真假,下面是小编为你收集整理的,希望对你有帮助!说起史蒂夫·霍金,相信是无人不知的,一位文明全世界的宇宙学家以及物理学家。霍金曾经在某次访谈中提到,地球会被很多小概率的危机所威胁着,这其中任何一个危机都能将人类逼到灭绝的境地。在未来的几百年时间里,......

发布时间:2023-07-02 08:01:12

没有爪的翼龙
没有爪的翼龙

【导读】 没有爪的翼龙,下面是小编为你收集整理的,希望对你有帮助!关于翼龙的种类,还真的是不计其数。要说夜翼龙是较为特殊的一种,论颜值,在翼龙中它算是最美丽的了。高耸的头冠更像是一只巨型的鸟儿,而其冠上的薄膜却有着大作用,能够帮助夜翼龙驾驭海面上的狂暴气流。接下来,......

发布时间:2023-07-02 07:36:35

情人节有几个 这几个情人节分别在什么时候
情人节有几个 这几个情人节分别在什么时候

【导读】 情人节有几个 这几个情人节分别在什么时候,下面是小编为你收集整理的,希望对你有帮助!情人节顾名思义是情人之间的节日,很多情侣之间都把情人节当作重要的节日,那么有人好奇情人节有几个,其实有12个,时间分别是1月14日日记情人节,2月14日传统情人节,3月14日白色情人节,4月14日黑色......

发布时间:2023-07-02 07:01:12

南昌高新区属于哪个区
南昌高新区属于哪个区

【导读】 南昌高新区属于哪个区,下面是小编为你收集整理的,希望对你有帮助!南昌高新区属于南昌市管辖。南昌国家高新技术产业开发区创建于1991年3月,1992年11月被国务院批准为国家级高新区。高新区位于南昌市东大门,区域面积286平方公里,下辖昌东镇、麻丘镇、艾溪湖管理处、......

发布时间:2023-07-02 06:01:08

直辖市有几个
直辖市有几个

【导读】 直辖市有几个,下面是小编为你收集整理的,希望对你有帮助!中国大陆现有北京市、天津市、上海市、重庆市4个直辖市。直辖市,是中国行政区划之一,行政地位与省、自治区、特别行政区相同,是中华人民共和国省级行政区,是直接由中央人民政府所管辖的建制城市。直辖市往往有较......

发布时间:2023-07-02 05:01:40

拍风景视频什么相机好
拍风景视频什么相机好

【导读】 拍风景视频什么相机好,下面是小编为你收集整理的,希望对你有帮助!1、对于拍风景来说,最重要的参数是相机的广角端焦距是多少(一般写成f=X-XX,其中较小的那个X就是广角端焦距)。一般把等效于35mm相机焦距28mm以下的叫做广角相机,20(也有说24或22)mm以......

发布时间:2023-07-02 04:01:14

秦皇陵中有一绿脸兵马俑严谨外展,这是为何?绿脸兵马俑为何脸是绿色的?
秦皇陵中有一绿脸兵马俑严谨外展,这是为何?绿脸兵马俑为何脸是绿色的?

【导读】 秦皇陵中有一绿脸兵马俑严谨外展,这是为何?绿脸兵马俑为何脸是绿色的?,下面是小编为你收集整理的,希望对你有帮助!说起兵马俑,相信大家都非常的熟悉了,很多小伙伴还亲自去看过,这绝对是咱们中国千年文化中绚丽的篇章。兵马俑是我国非常重要的国宝之一,是我国历史上秦朝时期所留下来的珍贵文物,拥有的历史价值无法估量。兵马俑......

发布时间:2023-07-02 03:01:30