> ## Documentation Index
> Fetch the complete documentation index at: https://dragonwingdocs.qualcomm.com/llms.txt
> Use this file to discover all available pages before exploring further.

# 运行推理

> 在 Qualcomm Dragonwing IoT 平台上运行准备好的 AI 模型。选择运行时或集成路径:LiteRT、QAIRT SDK C++ API 或 Qualcomm IM SDK。

这是[选择您的路径](../topic/ai-ml-developer-workflow)流程中的**运行推理**步骤。在模型[准备完成](../map/compile-and-optimize-model)后,选择如何在设备上执行它。合适的路径取决于您的语言、模型格式,以及您是否正在构建完整的摄像头/视频管线。所有运行时都可以以 Qualcomm Kryo CPU、Adreno GPU 和 Hexagon NPU (HTP) 为目标。

选择与您应用相匹配的运行时。

<CardGroup cols={2}>
  <Card title="LiteRT" icon="layer-group" href="../topic/litert-overview">
    通过 Qualcomm AI Engine Direct 委托,从 Python 或 C++ 进行高性能设备端推理。最适合快速、Python 友好的工作流。
  </Card>

  <Card title="QAIRT SDK C++ API" icon="code" href="../topic/develop-your-own-application-qairt-cpp">
    对模型执行和推理后端(QNN 或 SNPE)的低级 C++ 控制。
  </Card>

  <Card title="Qualcomm IM SDK" icon="video" href="../topic/develop-your-own-application-im-sdk">
    使用 GStreamer 构建实时摄像头、视频和视觉管线:零拷贝缓冲区和 GPU 前后处理。适用于任何 AI 媒体管线。
  </Card>
</CardGroup>

<Note>
  正在构建机器人应用?[Qualcomm Intelligent Robotics (QIR) SDK](https://www.thundercomm.com/rubik-pi-3/en/docs/rubik-pi-3-user-manual/1.0.0-u/Application%20Development%20and%20Execution%20Guide/Robotics-Sample-Applications/Robotics%20Sample%20Applications/) 在这些运行时之上添加了基于 ROS 的模块和硬件加速节点。
</Note>