比TPU快5倍 微软开放基于FPGA芯片的机器学习云端试用版



微软日前计划通过启动一项特殊的微软Azure服务,将FPGA芯片应用于机器学习工作负载的服务器中去。同时,微软将推出Project Brainwave内测版,该版本将只开放部分功能,且只在美国西部的两个地区发行。另外,微软还计划将Brainwave应用于边缘部署。

Mark Russinovich,微软Azure云CTO,在Build大会期间表示:“这是FPGA从用户通用平台向更高的目标发展的第一步。”Brainwave采用的是因特尔的Stratix 10芯片,建立在微软先前对芯片研究的基础上。在Catapult项目中,微软将FPGA应用到了自家的搜索引擎Bing的提速中。除此之外,基于FPGA的网络接口卡也被用来加速网络了。

每台新的Azure服务器都预装了FPGA,总计已超过百亿亿次计算能力。微软将Brainwave定位为运行机器学习推理工作负载的经济方式,而不是更复杂的运动负载。比如,微软希望用户可以将Brainwave应用于低延迟图像识别。据目前了解来看,早一批的Brainwave使用者已经正是采用了这样的方式。

美国电子制造商捷普集团将运用Brianwave来检查电路的使用年限,从而判断是否有缺陷或者未对齐的零部件。雀巢的医疗保健部门表示将使用Brainwave服务器来分析痤疮的严重程度。

微软宣称:使用标准图像识别模式处理100万张图像只需要21美分——单个图像处理时间仅为1.8毫秒。 “在实时AI数据处理上,FPGA的处理速度比谷歌的TPU2.0快上了5倍,”微软CEO在Build大会上如是说。(注:谷歌现已推出了运行速度更快的TPU3.0)他补充道:“我们要将FPGA延展到每一个角落,现阶段我们正在与系统合伙人合作,将它应用到所有Azure云所在的地方。”

捷普在其生产设备中应用了Brainwave的边缘版本,但是该替代方案目前还没有正式推出。一旦正式发行,系统将被安装在一个坚固耐用的服务器中,公司计划将采用Hewlett Packard公司或戴尔EMC的服务器。

因为全球大部分的电路都有英特尔的Altera和FPGA开发商Xilinx制造,相应地,FPGA芯片在数据中心领域也受到了越来越多的关注。在DCD杂志的四/五月刊中,我们采访了Xilinx的新CEO,谈到了他对于数据中心市场的计划和对FPGA发展的期望。想要了解更多内容,订购我们的杂志吧!

作者:Sebastian Moss 译:Yvonne

原英文链接:

http://www.datacenterdynamics.com/content-tracks/servers-storage/microsoft-previews-fpga-based-machine-learning-service-for-azure/100121.article