JeffDean解析谷歌大脑中的深度学习工作以及TensorFlow的前
发布时间:2017-01-12 17:01 来源:汇视网 编辑:白鸽 阅读量:14251
雷锋网(大众号:雷锋网)按:本文是Google Brain负责人Jeff Dean在硅谷人工智能前沿论坛AI Frontiers的演讲,雷锋网整顿。
在深度学习的历史上,神经网络的办法在1980-1990年以后开始显著地施展效力,在数据量、计算力的推进下,用深度学习神经网络的办法使得我们在研究和开发上取得了比其它办法更高的精确率(在图象、语音等领域)。在2011年之前,深度学习的办法能达到的图象误识率都是26%,而在今天这个数字超出了人类的误识率(5%),达到了3%。在Google今天的产品线中深度学习的办法应用特别普遍,包含Android平台、各类App中、药物研究、Gmail等等。
Google Brain团队如今有什么样的成果:
在研究方面,有27个paper在各类顶级会议中发表;
推进Google搜索、广告、相册、翻译、Gmail等产品线的整合优化;
公布TensorFlow等在社区中高度流行的开源工具。
谈到TensorFlow的开发,我们起初的动身点是需求创立一个适合的深度学习工具。
这个工具需求满足下头的几个要求:
1. 适合于机器学习思考和算法的表达;
2. 运转效率高,可以迅速地试验想法;
3. 兼容性好,试验能在不一样平台上运转;
4. 可在不一样环境下分享和重现研究的问题;
5. 适合产品化:能很快从研究阶段过渡到产品应用阶段;
总结一下TF的目的就是树立一个针对机器学习方面的思考迅速试验的通用系统,而且确保这个系统既是针对研究也是对产品化最好的系统。最后,这个系统不只是Google的,而且开源的,属于平台上每个人。
在2015年11月9日,我们公布了TensorFlow的最第一版本,而如今我们已经取得了这样的成果:
1. TF如今有500+的代码奉献者;
2. 从公布至今,一共有12000次+的代码提交;
3. 100万以上的代码库下载;
4. 大批的学校和商业机构将他们的研究和开发工作搭建在TF之上(伯克利、斯坦福、OpenAI、Snapchat)。
我们在软硬件平台的赞同上也陆续更新。数据显示,我们已经是GitHub上最遭到欢迎的深度学习工具。
深度学习在Google产生了哪些重要的影响?
在语音辨认上,我们推进词语识其余错误率下降了起码30%;
深度卷积神经网络使得直接对未标志的照片进行搜索成为也许;
我们用深度学习的办法,在街景照片中抓取辨认文字;
相同用深度学习的办法,在卫星俯瞰图中检索太阳能的屋顶;
在医疗影像中,应用视网膜影像进行糖尿病的诊断;
机器人们目前能通过机器学习的办法进行环境和语义懂得;
RankBrian甚至被用于Google搜索中的排名优化;
在Inbox中,我们通过语义分析自动化地推举也许的答复结果,如今Inbox中10%的答复都是通过推举生成发送的;
在机器学习的其它方面:
在过去很的的模型都是从零开始培训取得的,这是特别低效的。我们专门针对深度学习设计的硬件的TPU,将在将来20个月落后入大规模量产的阶段。
在我们的假想里,将来的搜索要求也许是这样的:请帮我查找一切关于深度学习和机器人的文献,并用德文总结出来。
我以为将来3 - 5年内,通过语音辨认、语义懂得的发展,机器人/自动驾驶汽车将会变得产业内特别重要的领域。
PS:附PPT+文字版本。
在深度学习的历史上,神经网络的办法在1980-1990年以后开始显著地施展效力,在数据量、计算力的推进下,用深度学习神经网络的办法使得我们在研究和开发上取得了比其它办法更高的精确率(在图象、语音等领域)。
在2011年之前,深度学习的办法能达到的图象误识率都是26%,而在今天这个数字超出了人类的误识率(5%),达到了3%。
Google Brain团队如今有什么样的成果:
在研究方面,有27个paper在各类顶级会议中发表;
推进Google搜索、广告、相册、翻译、Gmail等产品线的整合优化;
公布TensorFlow等在社区中高度流行的开源工具。谈到TensorFlow的开发,我们起初的动身点是需求创立一个适合的深度学习工具。
这个工具需求满足下头的几个要求:
适合于机器学习思考和算法的表达;
运转效率高,可以迅速地试验想法;
兼容性好,试验能在不一样平台上运转;
可在不一样环境下分享和重现研究的问题;
适合产品化:能很快从研究阶段过渡到产品应用阶段;
总结一下TF的目的就是树立一个针对机器学习方面的思考迅速试验的通用系统,而且确保这个系统既是针对研究也是对产品化最好的系统。最后,这个系统不只是Google的,而且开源的,属于平台上每个人。
在2015年11月9日,我们公布了TensorFlow的最第一版本,而如今我们已经取得了这样的成果:
TF如今有500+的代码奉献者;
从公布至今,一共有12000次+的代码提交;
100万以上的代码库下载;
大批的学校和商业机构将他们的研究和开发工作搭建在TF之上(伯克利、斯坦福、OpenAI、Snapchat)。
我们在软硬件平台的赞同上也陆续更新。数据显示,我们已经是GitHub上最遭到欢迎的深度学习工具。
深度学习在Google产生了哪些重要的影响?
在语音辨认上,我们推进词语识其余错误率下降了起码30%;
深度卷积神经网络使得直接对未标志的照片进行搜索成为也许;
我们用深度学习的办法,在街景照片中抓取辨认文字;
相同用深度学习的办法,在卫星俯瞰图中检索太阳能的屋顶;
在医疗影像中,应用视网膜影像进行糖尿病的诊断;
机器人们目前能通过机器学习的办法进行环境和语义懂得;RankBrian甚至被用于Google搜索中的排名优化;
在Inbox中,我们通过语义分析自动化地推举也许的答复结果,如今Inbox中10%的答复都是通过推举生成发送的;
在机器学习的其它方面:
在过去很的的模型都是从零开始培训取得的,这是特别低效的。我们希望通过xxx的办法来处理这个问题;我们的TPU将在,20个月之落后入大规模量产的阶段。
在我们的假想里,将来的搜索要求也许是这样的:请帮我查找一切关于深度学习和机器人的文献,并用德文总结出来。
我以为将来3 - 5年内,通过语音辨认、语义懂得的发展,机器人/自动驾驶汽车将会变得产业内特别重要的领域。
雷锋网版权文章,未经授权制止转载。概况见转载须知。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。