由于自定义硬件,Microsoft Azure网络正在加快加速
由于微软已经在其数据中心队伍中推出了一些新的硬件,微软Azure中的虚拟机之间的网络将变得更快。
本公司周一宣布,它在15个国家和五个不同的大陆中部署了数十万个FPGA(现场可编程门阵列)。该芯片已在各种第一方的Microsoft服务中使用,他们现在“重新开始加速了公司的Azure云平台。
除了提高网络速度之外,FPGA - 坐在Custom,设计的电路板连接到Azure服务器 - 也可用于提高机器学习任务和其他关键云功能的速度。Microsoft Hasn“T究竟究竟是什么内容包括什么,除了揭示它们持有FPGA,静态RAM芯片和硬化的数字信号处理器。
微软的可编程硬件部署是重要的,因为以前可靠的CPU速度的增加继续慢下来。FPGA可以为处理能力提供额外的速度增强,以便他们“ve CONPD正在处理的特定任务,削减执行管理网络流量或翻译文本的流程所需的时间。
随着微软希望挤出计算硬件和足迹的每一盎司的电力,它已经必须与云市场中的其他玩家竞争,这款硬件可以为公司提供优势。
加速网络是星期一在Beta中提供的新功能,是FPGA部署允许的功能的一个示例。在两者都有它启用的VM之间,它将使用户在25杆至50微秒之间的速度高达25Gbps,因此无需额外费用。
Oracle在OpenWorld揭开其第二代基础架构 - AS-Servioning之后的加速网络公告仅为一周,该overWorld也具有脱离服务器,软件定义的网络,以推动改进的性能。
Azure CTO Mark Russinovich表示,使用FPGA是帮助Azure利用它放入其数据中心的网络硬件的关键。虽然硬件可以支持40Gbps的速度,但实际上将所有与附加到它所连接的软件定义的网络规则的网络流量都采用了大量的CPU电源。
“那是在接受采访时说的”是不可行的。““为什么当我们可能会被卸载到FPGA时,为什么将这些CPU远离虚拟机的客户销售给虚拟机的客户?他们可以提供这种目的以及未来的目的,并让我们熟悉我们的数据中心的FPGA。这对我们来说变得非常清晰。“
该项目是Doug Burger的Brainchild,Microsoft Research的新经验和技术(下一个)组中的杰出工程师。汉堡开始于2010年的FPGA项目,代号为CataPult。团队首先开始使用Bing,然后扩展到Azure。那种工作导致了第二个,目前的微软FPGA硬件布局设计。
将一个FPGA卡分配给每个新的Azure服务器,并连接到其NIC(网络接口卡),PCIe总线和顶级网络交换机。这意味着每个FPGA可以与他人交谈,并且微软可以利用其数据中心的许多FPGA,以获得低延迟。这对于大规模的机器学习应用特别重要。
“如果我们想将1000个FPGA分配给单个[深神经网络],”汉堡说。“我们得到那种规模。”
该规模可以提供大量的计算能力。如果Microsoft使用Azure整个FPGA部署转换英语维基百科,它将只需要十分之一,汉堡在点火舞台上说。
微软不是唯一的公司转向定制硅的这种工作。谷歌今年早些时候推出了一个张量加工单位,应该在其云中加速一些机器学习任务。TPU是特定于应用的集成电路或ASIC - 一个目的内置芯片。
由于速度和效率,谷歌使用ASIC而不是FPGA。那么,微软为什么选择FPGA?
汉堡说,该行业对他来说,对他来说,对他来说是相信一个特定的ASIC会做出需要随时间做的事情。在FPGA中仅使用重新编程的硬件时,FPGA板上的硬化SRAM和DSP芯片可以加快某些应用,缩小性能差距。
“我不舒服地将控制路径锁定三年并说”我知道该怎么办现在,“”汉堡说。
现在,加速网络仅适用于Azure西部中央美国和西欧地区的DS15v2实例。它仅兼容Windows Server 2012 R2和Windows Server 2016技术预览5,虽然Microsoft计划很快地与Linux实例运行。
将来,加速网络服务将扩展到Azure的其他虚拟机类型和操作系统。它将从作为一个免费的,选择退出福利的选择增强,这将增加默认提供的网络速度。
展望未来,微软表示将在机器学习应用中使用FPGA。汉堡表示,该公司已为其认知服务设置代码以在FPGA加速模式下运行,因此可以接下来。
“这将是我们如何向客户暴露这种能力的旅程,”Russinovich说。“我认为我们谈论做的第一件事是[深度学习]我们训练模型,然后让客户在我们的数据中心的CPU或GPU上运行它们。在未来,他们“LL能够在FPGA上进行得分,并且如果他们想要在FPGA上,可能会培训模型。但我们“重新实现了一些方式。”
对于汉堡来说,最大的问题之一将是FPGA和CPU的正确混合在Azure数据中心内。尽管微软已经部署了数十万个FPGA,但随着更多团队开始使用它们,他们也会逃离“T足以满足公司的需求。
“CPU很重要,并将继续对我们所有的软件和所有这些产品和服务都很重要,”他说。“但我认为申请,规模的大突破将来自非CPU技术。”