雷竞技注册
新闻

ai加速软件使fpga在gpu上领先

2020年6月25日通过杰克赫兹

Xilinx最近选择了一家初创公司作为其人工智能加速软件平台。与gpu相比,这个平台在哪些方面可以为fpga增加额外的好处?

人工智能正在迅速发展并进入几乎所有领域,这已经不是什么秘密了。人工智能在其计算平台上施加了独特的工作负载,其中并行化至关重要。正因如此,通常拥有超过1000个内核的gpu,在运行神经网络时比cpu更好Medium的撰稿人Connor Shorten说。

Xilinx假设,在某些情况下,fpga比gpu更有用因为它们具有大量的并行性和快速的可重编程性。Mipsology的创始人兼首席执行官Ludovic Larzul在接受AAC的采访时表示:“fpga的性能是gpu的3 ~ 4倍。”这使得fpga成为人工智能应用的一个特别有吸引力的平台。

虽然FPGA在这种情况下是一种有用的解决方案,但这里的权衡似乎是,编程FPGA需要掌握深奥的硬件描述语言(hdl),如VHDL或Verilog。

进入Mipsology的斑马平台。Mipsology声称,它的Zebra软件是一种神经网络加速器,可以部署到fpga上,而不需要HDL专家,也不需要更改您当前的设置。

Zebra:一个让fpga可访问的平台

Zebra被认为是一种替代人工智能计算平台上的cpu / gpu的方法,同时让人工智能科学家看不到这种变化。这意味着对他们来说,他们的工作不会有任何变化。就这些科学家而言,他们仍在研究一种类似gpu的设备;根据Mipsology的说法,它只是快了五倍而已。

GPU堆叠vs. Zebra堆叠

GPU堆叠vs. Zebra堆叠。图片由赛灵思公司

Larzul表示,虽然gpu和fpga使用相同的基座,但gpu通常有更多的晶体管。尽管更多的晶体管在处理方面有优势,gpu也面临着寿命更短、热输出(和冷却需求)更高和功耗更高的问题。

Larzul解释道:“斑马支持的fpga给了设计师很大的自由。“过渡很容易,可以适应有许多限制的系统。斑马…创建在不改变框架的情况下进行部署的可能性。无需额外的研发工作来重新设计神经网络。”

公司网站对此进行了解释设计人员可以在没有底层硬件技术专业知识的情况下部署软件或编译工具。正如Larzul所指出的,这意味着程序员不需要改变神经网络、框架、训练或应用程序。

出于这个原因,AAC贡献者Gary Elinoff最近将Zebra平台纳入了他的资源综述fpga比以往任何时候都更容易被非fpga专家访问

Xilinx选择Zebra的fpga

Xilinx最近宣布了这一点他们正在运送Zebra和最新的Alveo U50卡用于数据中心。然而,这并不是这些公司第一次联手。Xilinx已经有一个部署了Zebra的fpga列表,包括他们的Alveo U200和Alveo U250板。

肺泡U250数据中心加速卡

肺泡U250数据中心加速卡,现在部署斑马。图片(修改)由赛灵思公司

Ludo Larzul说:“Zebra为推理加速提供了最高的性能和易用性。通过Alveo U50, Xilinx和Mipsology为AI应用程序开发人员提供了一张跨越多个应用程序和所有开发环境的卡片。”

FPGA超越gpu的影响

让fpga更容易使用和更容易访问,可能会对数据中心和广泛的人工智能应用产生深远的影响。在人工智能应用中,fpga通常比传统gpu工作更快,功耗更低。这意味着更少的电力消耗,从而减少数据中心的冷却资源和维护。

就Mipsology而言,没有迹象表明它们会在短期内放缓。他们已经申请了12项专利并继续与Xilinx密切合作。他们的软件也兼容第三方加速器,包括西部数据和研华的一些。


你在基于人工智能的应用中使用fpga或gpu吗?你最大的设计挑战是什么?你如何克服它们?请在下面的评论中分享你的经验。