Skip to main content

概述

AI Models 部分让您可以浏览 Qualcomm AI Hub 模型目录、将模型下载到主机、将其烧录到活动设备并进行性能分析 — 全程无需离开 VS Code。 AI Models 部分包含两个选项卡:
  • MY MODELS — 您已下载到主机的模型
  • EXPLORE MODELS — 完整的 Qualcomm AI Hub 模型目录
活动设备显示在 AI Models 页面的右上角。

My Models

尚未下载任何模型时,MY MODELS 显示空状态和一个 Explore Models 按钮: AI Models — My Models 空状态 下载模型后,每一行会显示模型名称、标签(任务、精度、运行时、支持的平台)、本地文件路径以及 Profile / Flash 操作按钮。 AI Models — 已下载的模型及其文件路径和操作按钮

Explore Models

EXPLORE MODELS 选项卡以按类别(例如 Computer Vision、Generative AI、Multimodal)分组的卡片网格形式展示 AI Hub 模型目录。每个类别标题显示可用模型的总数和一个 View All 链接。 AI Models — Explore Models 选项卡及类别网格 每张卡片显示:
  • 带任务徽章(例如 Image Classification、Text Generation)的预览图
  • 模型名称和简短描述
  • DownloadView Details 操作按钮

筛选目录

使用网格上方的 DeviceTask 筛选下拉菜单来缩小结果范围。 点击 Device 会打开一个包含搜索字段和设备芯片选择器(例如 RB3 Gen2 Vision Kit、IQ-9075 Evaluation Kit、IQ-8275 Evaluation Kit Pro)的模态框。选择一个或多个设备,然后点击 Apply Filter AI Models — Device 筛选模态框 点击 Task 会打开一个类似的模态框,包含任务芯片选择器(例如 Depth Estimation、Image Classification、Image Editing、Object Detection、Pose Estimation、Semantic Segmentation、Speech Recognition、Super Resolution)。选择一个或多个任务,然后点击 Apply Filter AI Models — Task 筛选模态框

模型详情页面

点击任意目录卡片上的 View Details 打开模型详情页面。您也可以在 MY MODELS 中点击模型名称进入此页面。 面包屑导航显示导航路径:
  • Explore Models 进入:Explore Models > <Category> > <Model Name>
  • My Models 进入:My Models > <Model Name>
Explore Models 进入的详情页面显示完整的基准测试表,其中的列涵盖所支持设备上每种精度/运行时组合: AI Models — Explore Models 详情页面及完整基准测试表 MY MODELS 进入的详情页面在显示 Benchmark Results 的同时还显示性能分析结果列: AI Models — My Models 详情页面及基准测试和性能分析结果 详情页面包括:
  • 模型名称、任务徽章和描述
  • 版本、Model Repository 链接和 Research Paper 链接
  • Download 按钮
  • Device 选择器的 Results
  • Technical Details — 模型检查点、输入分辨率、参数数量、模型大小
  • Supported Devices — 兼容的开发套件列表
  • Applicable Scenarios — 建议的使用场景
  • Licenses — 源模型许可证

下载模型

开始下载

点击目录卡片或模型详情页面上的 Download。在 Download Model 对话框中,选择所需的 PrecisionFloatRuntime 值,然后点击 Start Download AI Models — Download Model 对话框

下载进度

下载期间,该模型会显示在 MY MODELS 中,带有 Downloading… 标签和进度条: AI Models — 下载进行中 下载完成后,弹出通知确认:“<Model> downloaded successfully.” 模型行会更新,显示其本地文件路径以及 ProfileFlash 操作按钮。

分析模型

MY MODELS 中的每个模型行都有一个 Profile 分离式按钮。点击下拉箭头(▾)可从四个选项中选择: AI Models — Profile 分离式按钮下拉菜单

在活动设备上分析

选择 Profile on active device 会开始本地性能分析。 AI Models — 正在将基准测试模型推送到设备 AI Models — 正在设备上运行测量 完成后,弹出通知确认:“AOT-GAN profiled locally on IQ-8075 Evaluation Kit.” AI Models — 本地性能分析完成
使用 Profile on active device 之前必须先设置活动设备。有关设置说明,请参阅设备

在 AI Hub 中分析

AI Hub 令牌

首次在 AI Hub 中分析模型时,扩展会提示您输入 AI Hub 令牌: AI Models — 输入 AI Hub 令牌提示 aihub.qualcomm.com/account 粘贴您的令牌,然后按 Enter 确认或按 Escape 取消。 选择 Profile in AI Hub 会打开一个侧边面板以配置云端分析作业。从下拉菜单中选择 Device Type,然后点击 Start Profile AI Models — Profile in AI Hub 侧边面板 通知面板确认作业已创建:“Profile job created on AI Hub. Results may take a while”“Starting profiling on AI Hub.” AI Models — AI Hub 分析作业已启动通知

查看性能分析结果

选择 View profiling results 可从模型详情视图打开结果页面。面包屑导航显示 My Models > <Model Name> AI Models — 包含全部三个结果列的性能分析结果页面 结果表标题显示用于性能分析的 Component、Precision、Runtime 和 Device。各列显示来自所有可用来源的结果: Profile Results 列中的每个值都有一个彩色箭头,指示相对于基准值的性能:
  • 红色 — 比基准差
  • 绿色 — 比基准好
每列中的 More Details 链接会打开完整的 AI Hub 性能分析报告。

将模型烧录到设备

点击 MY MODELS 中模型行上的 Flash,将模型推送到活动设备。 AI Models — 正在将模型文件传输到设备 AI Models — 正在将模型推送到设备并显示进度条 完成后,弹出通知确认:“AOT-GAN model pushed to IQ-8075 Evaluation Kit successfully.” AI Models — 模型推送成功并带有 Pushed 徽章
烧录前必须先设置活动设备。活动设备显示在 AI Models 页面的右上角。有关设置说明,请参阅设备

移除模型

点击 MY MODELS 中模型行右侧的 溢出菜单,选择 Remove,即可从主机删除该模型及其所有性能分析结果。 AI Models — 溢出菜单中的 Remove 选项
Remove 会删除本地模型文件及所有关联的性能分析结果。 可以从 Explore Models 选项卡重新下载该模型。