
使用 Jupyter notebook 准备 GenAI 模型
使用 Qualcomm 提供的 Jupyter notebook 在 Qualcomm Dragonwing IoT 平台上准备、优化和部署大语言模型(LLM)。
使用 Qualcomm 提供的 Jupyter notebook,在交互式、
分步操作的环境中在 Qualcomm 平台上准备、优化和部署
大语言模型(LLM)。Jupyter notebook 在模型准备和执行过程中
提供完全的透明度和可定制性。
下图展示了 Jupyter notebook 通常涵盖的三个阶段和
对应的 notebook:模型准备、模型转换和模型执行。

下表总结了 GenAI 模型的 Jupyter notebook 工作流程。
该工作流程适用于多类 GenAI 模型,包括
LLM 和视觉模型。

此页面对您有帮助吗?

