英特尔开发的 FPGA AI 套件旨在减少使用英特尔® CPU、英特尔® SoC FPGA 和英特尔® FPGA 创建功能强大的异构 AI 深度学习 (DL) 推理系统所需的工作量。
该套件支持 FPGA 设计人员、机器学习工程师和软件开发人员高效创建和优化 AI 推理平台,以达到性能、功耗和成本俱佳的目标。
英特尔® FPGA AI 套件中集成的实用程序加快了基于 FPGA 的 AI 推理引擎的开发速度。数据科学家和工程师可以从任何熟悉的行业框架(如 TensorFlow 和 PyTorch)开始训练和收敛推理模型,然后可以使用英特尔® 分发版 OpenVINO™ 工具包通过简化逻辑和降低内存占用率来优化推理模型的性能和功耗。
请注意,该优化是在 CPU 和 FPGA 的异构组合中执行的。随后,英特尔® FPGA AI 套件会进一步优化最终设计的 FPGA 部分。经优化的设计会使用英特尔® Quartus® Prime 软件直接输入到强大且经过验证的 FPGA 开发流程中。
Stryker 公司的研发团队在评估英特尔® FPGA AI 套件后得出以下结论:
● 英特尔® FPGA AI 套件和 OpenVINO™ 工具包非常易用。借助这些工具, Stryker 能够开发出更为优化的用于深度学习推理的 FPGA IP。该推理 IP 已使用英特尔® Quartus® Prime 软件成功集成到了英特尔® FPGA 中。与套件一起提供的设计示例也使团队能够快速评估不同图像源的不同算法。
● 英特尔® FPGA AI 套件和 OpenVINO™ 工具包使数据科学家和 FPGA 工程师能够无缝协作,为医疗应用开发更好的深度学习推理模型。
您可以使用英特尔® 分发版 OpenVINO™ 工具包和英特尔® FPGA AI 套件开发推理系统,服务于从 DL 增强型嵌入式系统一直到在多个 FPGA 加速的服务器上运行的高级数据中心应用工作负载。
如果您想开发用于检测、分类、分割或相关任务的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO™ 工具包和英特尔® FPGA AI 套件来实现;如果您想在使用 FPGA 编码或解码视频或者在处理计算机视觉图像的同时有效传输视频流,也可以使用英特尔® 分发版 OpenVINO™ 工具包和英特尔® FPGA AI 套件。可以说,FPGA 特别适合这种预处理和后处理。
如果您没有自己的推理模型供训练使用,但又迫不及待地想涉足深度学习领域,可以利用英特尔® 分发版 OpenVINO™ 工具包,因为工具包中有面向广泛使用的神经网络的预训练推理模型,您可以先从这些模型入手。
图1 显示的是基于这套工具的推理系统开发流程。
图1 英特尔® FPGA AI 套件开发流程
英特尔® FPGA AI 套件目前可支持英特尔® Agilex™ FPGA、英特尔® Cyclone® 10 GX FPGA 和英特尔® Arria® 10 FPGA,并提供了未来支持更多英特尔® FPGA 的路线图。当然,这些工具背后还有很多英特尔的在线支持。
有关英特尔® FPGA AI 套件的更多信息,包括对四种主要硬件拓扑(您可以使用拓扑结构,同时借助上文讨论的开发工具构建异构 AI 推理系统)的解释,请扫描下方二维码。
英特尔、英特尔标识、以及其他英特尔商标是英特尔公司或其子公司在美国和/或其他国家的商标。
➤ 更多产品信息
请访问英特尔FPGA官方网站