发新帖

【分享】Tensorflow开发者峰会-北京会场-笔记

[复制链接]
725 3

快来加入 TensorFlowers 大家庭!

您需要 登录 才可以下载或查看,没有帐号?加入社区

x
本帖最后由 王奇文 于 2018-4-13 20:05 编辑

Tensorflow开发者峰会-北京

时间:2018-3-30 文字版主要来自朱金鹏的TF dev summit北京分会参会总结
总结得比较完整,这里补充下部分图片,欢迎大家继续补充、完善,发挥社区力量
全文链接http://note.youdao.com/noteshare ... 8f98235d0ccf6c748a7
图片较多,请耐心等待
========引言
前天晚上参加了TensorFlow Dev Summit北京分会场,简单记录。

9点10分:到达融科大厦
9点30分:签到入场

报名火爆,600位停止,最终通过140人,优先挑选填写认真的人,覆盖学生、创业公司、个人开发者等人群。


主持人Luke安排的非常紧凑,干货很足,当然也少不了谷歌会议必有的餐点。

精致的甜点和漂亮的咖啡拉花(体验下把自己喝掉的感觉)。下半场美食是披萨

以下是tensorflow主创团队

正题
进入主题:

议程分为四个阶段:
1、谷歌分享 3个议题
2、社区分享 8个议题
3、TF Dev Summit Keynote
4、跟Jeff Dean等谷歌大神视频连线

一、谷歌分享

首先是负责谷歌开发者关系的李锐老师,做了Fostering TensorFlow and Machine Learning Ecosystem in China报告:
1、中国拥有数据和市场的良性环,利于AI发展
2、介绍TF发展情况和社区参与情况
3、本次会议申请者数据统计
  • 0-3年经验占79%,4-6年经验8%
  • TF在各公司在各公司ML框架选择中遥遥领先,sk-learn次之
4、4月份在国内启动TensorFlow社区

深度学习兴起的三要素:数据+计算力+算法


随后,两位谷歌工程师对TF的介绍。

第一位,郭青,主要讲TF的特性,如Keras、Eager Execution、AutoML等,此节记得不太清。
进入主题:

议程分为四个阶段:
1、谷歌分享 3个议题
2、社区分享 8个议题
3、TF Dev Summit Keynote
4、跟Jeff Dean等谷歌大神视频连线

一、谷歌分享

首先是负责谷歌开发者关系的李锐老师,做了Fostering TensorFlow and Machine Learning Ecosystem in China报告:
1、中国拥有数据和市场的良性环,利于AI发展
2、介绍TF发展情况和社区参与情况
3、本次会议申请者数据统计
  • 0-3年经验占79%,4-6年经验8%
  • TF在各公司在各公司ML框架选择中遥遥领先,sk-learn次之
4、4月份在国内启动TensorFlow社区

深度学习兴起的三要素:数据+计算力+算法


随后,两位谷歌工程师对TF的介绍。

第一位,郭青,主要讲TF的特性,如Keras、Eager Execution、AutoML等,此节记得不太清。


为什么tensorflow选择用图表示?
  • 语音独立,方便扩展
  • 容易理解、分析

tensorflow组件完善

内部案例:
实物翻译,google lens,show and tell(图像标注),邮件回复建议,learn to learn,医学影像疾病检测,
第二位,主要讲GNMT,介绍了从Bag Of Words到RNN到LSTM到Attention到GNMT的算法演进。

谷歌翻译
自动回复系统中的技术演进路线:one-hot+fcn → rnn → seq2seq → attention →多语言翻译





神经网络翻译系统
贪心式解码,结果并非最优,应该用动态规划,但时间消耗大,serving受不了,于是用beam search,选取最优top3

网络叠加:

残差连接:

句子长度超过70时,功能变差,没法用,于是用注意力机制

三种方法,实际用第二种。



图里用于处理oov单词,提高系统质量

前年的文章,带来MT技术的革新

免费获得多语言能力,日语→韩语,缺乏预料不要紧,可以通过英语作为桥梁,也就是鼎鼎大名的Zero-shot。







倒数第二个要着重看。
大黄在知乎上贡献了大量机器翻译优质答案

(手机电力不足,没有继续拍照记录)
二、社区分享
1、郭勐,中国移动研究院,深度学习噪声消除

使用keras构建DNN,网络结构(3 layer + dropout )* 3

2、陈俊豪,扩博智能机器学习小组,人工智能在零售产品识别上的应用

主要是用于零售产品图片识别

使用了如下TF特性
  • core tf Framework
  • tf object detection api
  • tf mobile
  • TensorRT—NVIDIA GPU跟TensorFlow合作的东西

为何选择tf
  • community contributions and support
  • great toolig support
  • cross platform support

3、李博,滴滴出行AI Lab,TensorFlow在滴滴移动出行业务中国的实践

介绍滴滴TF的应用场景
  • 价格优化
  • chatbot seq2seq
  • Machine Comprehension
  • Intelligent Order-Dispatching System
  • ETA
  • bipartite graph matching 派单 Reinforcement Learning

4、姜汉,OpenBayes,用TensorFlow开发码头集装箱自动化系统

解决的是港务问题,全场景集装箱监控
1)预设场景CTOS/自动配载
  • 优化自动装配
2)任务:移动主体识别定位
  • 多摄像头对港口进行立体建模(非监督学习)
3)为什么选择TF
  • 多平台:嵌入式、CPU、GPU和其他硬件平台
  • 兼顾基础与应用
  • 易用性和工业性
4)TF的应用实现
  • 网络结构 使用了强化学习
  • 参数更新
  • 迭代训练
5)困难
  • 系统环境复杂
  • 状态总数多,训练时间长
  • 最终目标不确定

5、雷经纬,腾讯,TensorFlow+病毒识别
AI识别病毒(基于运行日志生产每个Package的Action Id Map)云端联动方案(中高端手机本地预测,低端手机云端预测)效果:检测能力提升12%
6、丛国华,锤子科技,利用AI提高交互效率
AI提高交互效率
1)大爆炸
  • 需要优化选择文字所在的位置和大小
2)如何解决
  • TF + CTPN
3)遇到的问题
  • 移动平台推理太慢

7、卢兴敬,搜狗,Eva:TF as a Service

1)Motivation
  • 平台化
2)容器化TF3)高性能分布式TF
  • Horovod
  • MPI
4)MPI缺点
  • 不支持容错
  • 灾难恢复

5)松耦合的微服务
  • K8S
6)EVA:DeepLearning Platform软件栈如下:
  • App
  • Neural Network
  • Distributed System
  • Infrastructure

8、傅旭州,天津大学,TensorFlow在校园科研中的应用

超声图像甲状腺结节检测:

  • 特殊标记检测与定位
  • 从ROI中分割结节区域
  • 依据ROI判断结节良恶性检测
三、TF Dev Summit Keynote
youtube地址:https://www.youtube.com/watch?v=gplTc2F5Wvk
tensorflow官网地址:https://www.tensorflow.org/dev-summit/
主讲人信息:https://www.tensorflow.org/dev-summit/speakers/

新智元的总结:【TensorFlow开发者峰会】重磅发布TensorFlow.js,完全在浏览器运行机器学习
Jeff Dean主旨演讲:用超强大的计算力,替代ML专家
北京时间3月31日举行的2018 TensorFlow 开发者峰会上,Google Brain负责人、谷歌高级研究员Jeff Dean、TensorFlow 总监 Rajat Monga等人进行了Keynote演讲。

Jeff Dean也是目前最受欢迎的深度学习框架TensorFlow的缔造者之一,他曾经就TensorFlow的高级使用,如何用TensorFlow实现大规模机器学习等问题做过多次演讲。今年初,Jeff Dean执笔撰写谷歌大脑成绩单,介绍了TensorFlow取得的一系列重要更新。

图:TensorFlow 用户的分布地图

TensorFlow 是 GitHub 上的第一个机器学习平台,也是 GitHub 上的五大软件库之一,被许多公司和组织所使用,包括 GitHub 上与 TensorFlow 相关的超过 24,500 个不同的软件仓库。预编译的 TensorFlow 二进制文件已经在 180 多个国家被下载了超过 1000 万次,GitHub 上的源代码现在已经有超过 1200 个贡献者。

在TensorFlow 1.0发布之后的两年中,TensorFlow 不断更新升级,逐渐成为机器学习社区最流行的深度学习框架。下图是从开源以来,TensorFlow 的重大更新,例如 TensorBoard、XLA New APIs、High-level APIs、tfkeras、Eager Execution、TF Lite等。

在演讲中,Jeff Dean先以NAE列出的“21世纪亟需解决的问题”开头,他说,机器学习会在所有这些问题中起到作用。而且,机器学习是关键,尤其是推动医疗的进展、为科学发现提供工具等方面。



Jeff Dean说,目前机器学习领域的一般方案是:ML的专门知识+数据+计算力。但是能不能用更强大的计算力替代ML专家或者ML专业知识,这一点谷歌正在践行。
下一步方向:机器自己学习网络模型,减少对ML专家的依赖。也就是AutoML的职责。



Jeff Dean接下来介绍了AutoML。
自动化机器学习的目标是为计算机开发能够自动解决新的机器学习问题的技术,而不用每次遇到新问题都需要人类机器学习专家干预。如果我们想要真正的智能系统,这是所需要的最基本的能力。AutoML是使用强化学习和进化算法设计神经网络结构的新方法。
1、TF应用
  • 医疗
  • 畜牧
  • 图片转化为公主
  • 及其他设备
2、TF推广
  • blog.tensorflow.org
  • youtube.com/tensorflow
  • Tensorflow.org/hub
  • ML Crash Course
3、Platform performance
  • 主要讲tf跟芯片厂商及TPU上的性能优化,如跟NVIDIA合作的TensorRT
4、How TF addre real problem
  • AutoML
  • Advance Health Informatics
  • Make Machine Intelligent,Improve people’s life

进一步了解,请大家直接看youtube:https://goo.gl/Lsaq1R

四、跟Jeff Dean等谷歌大神视频连线



Jeff大神视频连线,算是跟大神最接近的一次了,整个气氛达到了高潮,感觉组织方的良苦用心。

北京现场人数众多,Dean很意外,问了几个问题后,更是感慨中国的tensorflow普及程度之高。
次日,1点半后,赠送精美礼品,有序离场。
凌晨4点,编辑发出Tensorflow开发者峰会总结文章,真是敬业!
感谢组织方!期待tensorflow社区早日上线!





本楼点评(0) 收起

精彩评论3

舟3332  TF芽芽  发表于 2018-4-14 08:32:31 | 显示全部楼层
谷歌分享 了两次 哈哈~
本楼点评(0) 收起
smile  TF豆豆  发表于 2018-4-14 09:30:50 | 显示全部楼层
好文,顶起来!
本楼点评(0) 收起
smile  TF豆豆  发表于 2018-4-16 21:12:21 | 显示全部楼层
这个值得加精华!
本楼点评(0) 收起
您需要登录后才可以回帖 登录 | 加入社区

本版积分规则

快速回复 返回顶部 返回列表