Skip to main content
要准备可在 Qualcomm® Dragonwing™ IQ 系列 评估套件上执行的 GenAI 模型,可使用 Qualcomm AI Hub 从具有预计算编码的模型导出模型二进制文件,或使用 Qualcomm Jupyter notebook 从预训练模型生成模型二进制文件。
有关更多 Jupyter notebook 示例,请访问 Qualcomm Package Manager, 选择 Tools,然后搜索 Generative AI Tutorials
下图展示了两种方案的准备流程和基本系统要求。 AI Hub 和 Jupyter notebook 两种方案的 GenAI 模型准备流程和系统要求 Qualcomm AI 模型效率工具包(AIMET)支持高级量化技术。 根据所使用的模型,您可能需要选择不同的量化技术 以获得更好的准确性。 下表总结了 GenAI 模型准备的各种方法。