
使用 Qualcomm AI Model Efficiency Toolkit(AIMET)量化和压缩 AI 模型,以便在 Qualcomm Dragonwing IoT 平台上高效部署。
AIMET 是一个用于量化和压缩已训练 ML 模型的软件工具包。它可提升深度学习模型的运行时性能,并降低其计算负载和内存占用,以便部署到边缘设备。

AIMET 支持训练后量化和微调技术,以最大限度减少量化和压缩过程中的精度损失。它支持来自 ONNX 和 PyTorch 框架的模型。
有关使用 AIMET 提升模型精度的详细信息,请参阅 AIMET 文档。

此页面对您有帮助吗?

