您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
人工智能 正文
发私信给程弢
发送

0

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

本文作者:程弢 2019-11-14 14:03
导语:从这次发布的测试结果来看,TPU似乎已经超出了业界的预期,但是藏在这一芯片背后的内部架构究竟有什么秘密呢,我们从Jouppi此前发布的论文当中,可以找到答案。
其次,这次整个初三年级中考是按照学号和成绩安排考试地点的,班上的好学生全部都在二中考点,为什么偏偏就郑剑和差生一起安排到了这第三小学?再其次,一个教室考试的同校生都应该很少,为什么偏偏光在我那个考点就碰到了郑剑和肖达这两个同班同学?难道这些你都不觉得奇怪吗?如果他们不是故意想陷害我,为什么又会坐在我的身边?”范伟说出这些话,让李老师似乎有些皱起了眉头。

如上图所示,在小批量任务中(16),Haswell CPU的响应时间接近7毫秒,其每秒提供5482次推断(IPS),其可以实现的最大批量任务(64)每秒则可以完成13194次推断,但其响应时间为21.3毫秒。相比之下,TPU可以做到批量大小为200,而响应时间低于7毫秒,并提供225000个IPS运行推理基准,是其峰值性能的80%,当批量大小为250,响应时间为10毫秒。

不过需要注意的是,谷歌所测试的Haswell Xeon处理器似乎也不能完全说明问题,英特尔Broadwell Xeon E5 v4处理器和最新的“Skylake”Xeon E5,每核心时钟(IPC)的指令比这款处理器提升了约5%。在Skylake是28核,而Haswell为18核,所以Xeon的总体吞吐量可能会上升80%。当然,这样的提升与TPU相比仍有差距。

最后雷锋网(公众号:雷锋网)需要强调的是,TPU是一个推理芯片,它并非是要取代GPU,可以确定的是,TPU与CPU一起使用对训练分析更加有益。但对于CPU制造商而言,如何研发出像ASIC一样兼顾性能和能效的芯片是现在以及未来要做的。

可以确定的是,谷歌已经逐渐在自己的数据中心部署TPU,但是上述测试数据只是理论结果,实际应用表现如何?我们还不得而知。

Via nextplatform,雷锋网编译

雷锋网版权文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

文章点评:

表情

略懂技术的小编

关注一切有未来感的产品及技术!
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说

Sitemap

砥砺十年 逐梦前行 第A8版时事 2018年03月12日 聊城日报 |中央党史和文献研究院领导班子公布 冷溶任院长-人事任免-时政频道-中工网 |海南离岛免税政策调整 |
美国征税600亿商品,中国只反击30亿?别急,大招在后面! | 外媒称美军这项技术可主宰战场 每个士兵都能“开天眼” | 国家网信办信息服务管理局负责人就地方互联网新闻信息服务单位许可信息公开答记者问
英菲尼迪QX60QX80限量版车型官图发布 |中国人民银行印发《中国金融业信息技术“十三五”发展规划》 |《环太平洋2》 1600组特效镜头打造新怪兽新闻中心中国常州网 常州第一门户网 常州龙网 常州日报 常州晚报 |
实施电信诈骗 骗子遭女大学生揭露 | 闭幕会侧记:用奋斗书写无愧新时代的壮美答卷 | 贸易战阴云笼罩纽约股市
同方全球人寿相关新闻 |抚顺:从4月起整体改造37个老旧小区 |浙江政务服务网(丽水市莲都区) 个人办事 |
巴基斯坦举行海空联合军演 发射中国C802导弹(图)巴基斯坦导弹演习 | 英菲尼迪QX60QX80限量版车型官图发布 | 中国人民银行印发《中国金融业信息技术“十三五”发展规划》
牛感染艾滋病毒数周可产生抗体 专家称有助研发抗艾疫苗 “毒驾”司机交6000元被放行?山东警方回应 2018安徽两会 “拥抱新时代 践行新思想 实现新作为” 《五好家庭》开机 耿乐陶虹再聚首大银幕(图) 京东紧随“一带一路”倡议布局海外业务
第二期“党建专家@互联网企业党员”活动在京举行 文在寅向越南公开道歉 青瓦台否认不是正式道歉 济源沁园社区为居民建基础数据系统 志愿者365天服务 中国杯中国队06威尔士 贝尔上演帽子戏法
一夜惊喜演员表| mp3价格| 洗衣粉价格| 粮食价格走势| 陆地巡洋舰价格| 排水管价格| 透明胶带价格| 大旗英雄传演员表| 暴发户的权钱交易| 一起又看流星雨演员表| 青花瓷酒价格| 铝矾土价格| 地暖管价格|
成都人流价格| k金价格| 老大的幸福演员表| 房地产估价师挂靠价格| 再见阿郎演员表| 猎豹价格| 武则天秘史演员| 深圳野生动物园门票价格| 洁丽雅毛巾价格| 义眼价格| 好好爱我原唱| 建材价格表| 帕杰罗价格|