Vitis AI-Xilinx(赛灵思)
从边缘到云的最佳人工智能推断
Vitis™ AI 开发环境是 Xilinx 的开发平台,适用于在 Xilinx 硬件平台(包括边缘器件和 Alveo 卡)上进行人工智能推断。它由优化的 IP、工具、库、模型和示例设计组成。Vitis AI 以高效易用为设计理念,可在 Xilinx FPGA 和 ACAP 上充分发挥人工智能加速的潜力。
Vitis AI 部署特性
您的开发如何与 Vitis AI 协作:
支持主流框架和最新的模型,能够执行不同的深度学习任务
提供一系列全面的预先优化模型,这些模型现已就绪,可随时部署在 Xilinx 器件上。您可以找到最相似的模型,开始针对您的应用重新训练!
提供功能强大的开源量化器,支持剪枝和未剪枝的模型量化、校准和微调。
AI 分析器提供逐层分析,有助于解决瓶颈问题
AI 库提供高层次 C++ 和 Python API,可实现从边缘到云端的最大可移植性。
可以从吞吐量、时延和电源角度定制可扩展的高效 IP 内核,满足您对许多不同应用的需求。
使用 Vitis AI 探索一切可能性
Vitis AI Model Zoo
AI Model Zoo
向所有用户开放一系列来自最流行框架 Pytorch、Tensorflow、Tensorflow 2 和 Caffe 的现成深度学习模型。AI Model Zoo 提供了优化且可重训练的 AI 模型,借助它们,您可在所有 Xilinx 平台上实现更快的部署、性能加速和产品化。
AI 优化器
有了世界领先的模型压缩技术,我们可以在对精度影响极小的情况下,将模型的复杂性降低 5 至 50 倍。深度压缩可将您的 AI 推断性能提升到一个新的层次。
人工智能优化器方框图
人工智能量化器方框图
AI 量化器
通过将 32 位浮点权值和激活量转换为 INT8 这样的定点,AI 量化器可在不影响预测精度的情况下,降低计算复杂度。定点网络模型需要的内存带宽更少,因此比浮点网络模型速度更快,电源效率更高。
AI 编译器
将 AI 模型映射至高效指令集及数据流。还可执行高级优化任务,如层融合和指令排程等,并可尽量重复使用片上内存。
人工智能编译器方框图
人工智能分析器方框图
点击放大
AI 配置器
性能分析器有助于程序员深入分析 AI 推断实现方案的效率和利用率。
AI 库
Vitis AI 库是一组高层次库和 API,旨在通过深度学习处理器单元(DPU)进行有效的 AI 推断。它基于带有统一 API 的 Vitis AI Runtime 构建,并为 Xilinx 平台上的 AI 模型部署提供了易于使用的接口。