Skip to main content
这是选择您的路径流程中的运行推理步骤。在模型准备完成后,选择如何在设备上执行它。合适的路径取决于您的语言、模型格式,以及您是否正在构建完整的摄像头/视频管线。所有运行时都可以以 Qualcomm Kryo CPU、Adreno GPU 和 Hexagon NPU (HTP) 为目标。 选择与您应用相匹配的运行时。

LiteRT

通过 Qualcomm AI Engine Direct 委托,从 Python 或 C++ 进行高性能设备端推理。最适合快速、Python 友好的工作流。

QAIRT SDK C++ API

对模型执行和推理后端(QNN 或 SNPE)的低级 C++ 控制。

Qualcomm IM SDK

使用 GStreamer 构建实时摄像头、视频和视觉管线:零拷贝缓冲区和 GPU 前后处理。适用于任何 AI 媒体管线。
正在构建机器人应用?Qualcomm Intelligent Robotics (QIR) SDK 在这些运行时之上添加了基于 ROS 的模块和硬件加速节点。