Skip to main content
使用 Qualcomm 提供的 Jupyter notebook,在交互式、分步的环境中在 Qualcomm 平台上准备、优化和部署大语言模型 (LLM)。这些 Jupyter notebook 在模型准备和执行过程中提供了完全透明度和定制能力。 下图展示了整个工作流中常用的三个主要步骤及其对应的 Jupyter notebook:模型准备、模型转换和模型执行。 三阶段 Jupyter notebook 工作流:模型准备、模型转换和模型执行 下表总结了 GenAI 模型的 Jupyter notebook 工作流。此工作流适用于多种类别的 GenAI 模型,包括 LLM 和视觉模型。
用于模型导出的 Jupyter notebook 可在 Qualcomm Package Manager 中获取。导航到 Tools 并搜索 Generative AI Tutorials 以查看可用的 notebook。