> ## Documentation Index
> Fetch the complete documentation index at: https://dragonwingdocs.qualcomm.com/llms.txt
> Use this file to discover all available pages before exploring further.

# 运行预构建的 AI 模型和应用

> 在 Qualcomm Dragonwing IoT 平台上使用 Python、Llama.cpp、Qdemo UI 或 Qualcomm IM SDK 运行预构建的 AI/ML 模型和示例应用。

AI/ML 参考应用演示了如何在常见的实际场景中部署和运行模型,包括在 Qualcomm 评估套件上处理实时摄像头画面、视频文件和 RTSP 流。

根据您的开发工作流和硬件可用性,这些应用可以在您本地的 EVK 上执行。

选择最符合您的硬件配置、开发环境和用例的选项。

<CardGroup cols={2}>
  <Card title="通过 Qdemo 体验 AI" icon="desktop" href="../topic/run-the-gui-demo">
    通过 EVK 上的 Qdemo 图形界面运行预安装的 AI 用例。
  </Card>

  <Card title="运行 Qualcomm IM SDK 示例应用" icon="microchip" href="../topic/sample-app-evk">
    使用 Qualcomm IM SDK 在 Qualcomm Dragonwing IoT 平台上运行 AI/ML 示例应用。
  </Card>

  <Card title="运行 LiteRT / TFLite 模型" icon="python" href="../topic/run-a-litert-model-using-delegate">
    在 Python 或 C++ 中使用 AI Engine Direct 委托,在 Qualcomm Dragonwing 设备的 NPU 上运行量化的 LiteRT 模型。
  </Card>

  <Card title="在 NPU 上运行 ONNX 模型" icon="diagram-project" href="../topic/onnxruntime">
    使用 ONNX Runtime 在 Qualcomm Dragonwing 设备的 NPU 上运行 ONNX 模型。
  </Card>

  <Card title="使用 llama.cpp 运行 LLM/VLM" icon="terminal" href="../topic/llama-cpp">
    使用 llama.cpp 通过 CPU、GPU 或 NPU 后端在本地运行大语言模型和视觉语言模型。
  </Card>
</CardGroup>
