> ## Documentation Index
> Fetch the complete documentation index at: https://dragonwingdocs.qualcomm.com/llms.txt
> Use this file to discover all available pages before exploring further.

# 运行推理

> 在 Qualcomm Dragonwing IoT 平台上运行已准备好的 AI 模型。选择运行时或集成路径：LiteRT、QAIRT SDK C++ API 或 Qualcomm IM SDK。

这是[选择您的旅程](../topic/ai-ml-developer-workflow)流程中的**运行推理**步骤。在您的模型完成[准备](../map/compile-and-optimize-model)之后，选择在设备上执行它的方式。合适的路径取决于您使用的语言、模型格式，以及是否要构建完整的摄像头/视频管道。所有运行时均可面向 Qualcomm Kryo CPU、Adreno GPU 和 Hexagon NPU（HTP）。

请选择与您的应用程序相匹配的运行时。

<CardGroup cols={2}>
  <Card title="LiteRT" icon="layer-group" href="../topic/litert-overview">
    使用 Qualcomm AI Engine Direct delegate，通过 Python 或 C++ 实现高性能端侧推理。最适合快速、Python 友好的工作流。
  </Card>

  <Card title="QAIRT SDK C++ API" icon="code" href="../topic/develop-your-own-application-qairt-cpp">
    以底层 C++ 方式控制模型执行和推理后端（QNN 或 SNPE）。
  </Card>

  <Card title="Qualcomm IM SDK" icon="video" href="../topic/develop-your-own-application-im-sdk">
    使用 GStreamer 构建实时摄像头、视频和视觉管道：零拷贝缓冲区和 GPU 前/后处理。适用于任何 AI 媒体管道。
  </Card>
</CardGroup>

<Note>
  正在构建机器人应用程序？[Qualcomm Intelligent Robotics（QIR）SDK](https://www.thundercomm.com/rubik-pi-3/en/docs/rubik-pi-3-user-manual/1.0.0-u/Application%20Development%20and%20Execution%20Guide/Robotics-Sample-Applications/Robotics%20Sample%20Applications/) 在这些运行时之上增加了基于 ROS 的模块和硬件加速节点。
</Note>