AutoML构建加速器优化模型首尝试,谷歌发布EfficientNet-EdgeTPU

时间:2019-09-03 来源: 佛学
ag真人app

来自Googleblog

机器之心编译

参与:杜伟、李亚洲

今年5月,Google提出了一种新的模型缩放方法,该方法使用复合系数来均匀地缩放模型的所有维度。基于该模型缩放方法,引入了新的CNN网络EfficientNet。今天,谷歌宣布推出EfficientNet-EdgeTPU,这是一种源自EfficientNet的图像分类模型,该模型针对Google Edge TPU的最佳操作进行了优化。

几十年来,正如摩尔定律所描述的那样,通过减小芯片内部晶体管的尺寸,计算机处理器的性能可以每隔几年翻一番。但随着晶体管尺寸的缩小变得越来越困难,业界正专注于开发特定领域的架构,如硬件加速器,以继续提高计算能力。

在机器学习领域尤其如此,需要创建用于神经网络加速的专用架构。具有讽刺意味的是,虽然这些架构在数据中心和边缘计算平台上稳步扩展,但它们所依赖的神经网络很少被定制以利用底层硬件。

通过专为Edge TPU硬件设计的网络架构,EfficientNet-EdgeTPU-S/M/L模型在延迟和准确性方面优于EfficientNets(B1)和ResNet。特别是,EfficientNet-EdgeTPU-S实现了更高的精度,运行速度比ResNet-50快10倍。

有趣的是,NAS生成的模型在网络的初始部分非常大地使用传统卷积,并且当在加速器上执行时,深度可分离卷积通常比常规卷积效率低。这清楚地突出了这样一个事实,即优化通用CPU模型时的常规权衡(例如减少操作总数)不一定是硬件加速器的最佳选择。而且,即使不使用高级操作,这些模型也可以实现高精度。与其他图像分类模型(如Inception-resnet-v2和Resnet50)相比,EfficientNet-EdgeTPU模型不仅更精确,而且在Edge TPU上运行速度更快。

本研究代表了使用AutoML构建加速器优化模型的第一次尝试。基于AutoML的模型定制不仅可以扩展到各种硬件加速器,还可以扩展到依赖于神经网络的各种不同应用。

从云 TPU 训练到 Edge TPU 部署

在Github上,Google发布了EfficientNet-EdgeTPU的培训代码和预培训模型。使用TensorFlow的训练后量化工具,Google将浮点训练模型转换为Edge TPU兼容的整数量化模型。对于这些模型,训练后量化效果非常好,只有非常轻微的精度损失(~0.5%)。

Github项目链接:珊瑚网页:
频道热点
  1. 塔松市举办“村清洁夏季运动动员运动”动员大会中新网新疆新闻7月29日陈玉芝报道:近日,市举行了“庆祝中华人民共和国成立夏季村清洁运动70周年”动员大会,张耀华,当地成员市委常委,市委副书记,市委常委
  2. 塔松市举办“村清洁夏季运动动员运动”动员大会中新网新疆新闻7月29日陈玉芝报道:近日,市举行了“庆祝中华人民共和国成立夏季村清洁运动70周年”动员大会,张耀华,当地成员市委常委,市委副书记,市委常委
  3. 5b0988e595225.cdn.sohucs.comimages20190722127aa4d4b60b46248d44729c2ff84f6a.jpeg
  4. 来自Googleblog机器之心编译参与:杜伟、李亚洲今年5月,Google提出了一种新的模型缩放方法,该方法使用复?
  5. 前一期,世界首富贝索斯的天价离婚案引起了很多的的轰动,价值超过1000亿美元的贝索斯拿出380亿美元作为妻?
  6. 20:08:58我的旅行在中国,随着人们生活水平的提高,出门旅游并不奢侈。这导致中国的大型和小型旅游景点涌现
  7. 20:08:58我的旅行在中国,随着人们生活水平的提高,出门旅游并不奢侈。这导致中国的大型和小型旅游景点涌现
  8. BMWX6是豪华轿跑SUV的先驱。当它首次亮相时,它立即引发了一波SUV,并为大多数奢侈品牌带来了方向。目前,德国奢侈品牌基本上都推出了自己的轿车。运行SUV版本,包括梅赛德斯-奔驰GLE轿跑车,奥
  9. 前一期,世界首富贝索斯的天价离婚案引起了很多的的轰动,价值超过1000亿美元的贝索斯拿出380亿美元作为妻?
  10. 来自Googleblog机器之心编译参与:杜伟、李亚洲今年5月,Google提出了一种新的模型缩放方法,该方法使用复?
新闻排行
  1. 年轻人总是充满情感,特别是在爱情中,从争吵到亲热的蜂蜜可能只是片刻,特别是如果你喝一点酒,就更难控制

    年轻人总是充满情感,特别是在爱情中,从争吵到亲热的蜂蜜可能只是片刻,特别是如果你喝一点酒,就更难控制...

  2. 今天,我拿起布兰妮的《旷野无人》。我买的这本书是一半。我有点害怕,有点沮丧。心脏慌乱,无法忍受。世界

    今天,我拿起布兰妮的《旷野无人》。我买的这本书是一半。我有点害怕,有点沮丧。心脏慌乱,无法忍受。世界...

  3.   一项跨学科的研究首次揭示了月球上形成水的化学、物理性和物质证据。来自夏威夷大学Mānoa的两个团队合

      一项跨学科的研究首次揭示了月球上形成水的化学、物理性和物质证据。来自夏威夷大学Mānoa的两个团队合...

  4. ?15:47:14SUV秘密特工与传统的两厢车和轿车相比,陶器旅游版的人们的关注度相对较低。有人可能会说这是因为缺少汽车。事实上,中国市场上有很多油轮,如威路,明瑞等。有定位低的车型,但并不好。凭借其

    ?15:47:14SUV秘密特工与传统的两厢车和轿车相比,陶器旅游版的人们的关注度相对较低。有人可能会说这是因为缺少汽车。事实上,中国市场上有很多油轮,如威路,明瑞等。有定位低的车型,但并不好。凭借其...

  5. 我想在秦皇岛前2天分享夏季的降雨驱散了烈日,渤海岸边的北戴河张开双臂欢迎一群特邀嘉宾。8月2日至7日,来自党中央,国务院的58位专家和专家来到北戴河度假。新中国成立以来,特别是改革开放以来,各界优秀

    我想在秦皇岛前2天分享夏季的降雨驱散了烈日,渤海岸边的北戴河张开双臂欢迎一群特邀嘉宾。8月2日至7日,来自党中央,国务院的58位专家和专家来到北戴河度假。新中国成立以来,特别是改革开放以来,各界优秀...

  6. 人生有三种好心态:不抱怨,不计较,不对比      水木君说:  人生的终极目标,不是和所有人比,而

    人生有三种好心态:不抱怨,不计较,不对比      水木君说:  人生的终极目标,不是和所有人比,而...

  7. ?  “高贵妃”谭卓华丽蜕变!穿一袭黑色刺绣连衣裙,35岁,凉爽迷人在娱乐界,有这样一种明星。乍一看,你会想到她扮演的角色,但我不能说出来。35岁的谭卓就是这样的存在。自从她出道以来,她曾参与过很多影

    ?  “高贵妃”谭卓华丽蜕变!穿一袭黑色刺绣连衣裙,35岁,凉爽迷人在娱乐界,有这样一种明星。乍一看,你会想到她扮演的角色,但我不能说出来。35岁的谭卓就是这样的存在。自从她出道以来,她曾参与过很多影...

  8. ͼƬ

    ͼƬ...

  9.   05:42:22带着行李去旅行在这座城市呆了很长时间,你很难想象地球上有这样一个地方。没有雕刻,一切都是

      05:42:22带着行李去旅行在这座城市呆了很长时间,你很难想象地球上有这样一个地方。没有雕刻,一切都是...

  10.   在前些年的时候,苹果手机在国内呈现出疯狂的趋势,那么现在也为了能够适应国际形势,苹果的价格也有了

      在前些年的时候,苹果手机在国内呈现出疯狂的趋势,那么现在也为了能够适应国际形势,苹果的价格也有了...

友情链接