—
把算力,
用在判断之上。
从模型迁移到告警研判,探索 Qwen3.5 在昇腾平台上的运行与验证。实时状态来自已配置的推理服务。
昇腾推理连接
只有成功连接且服务确认 NPU 可用时,才会显示设备信息。未采集的指标不会使用模拟数据。
正在检查服务…
—
—
本页不显示未经测量的利用率、显存或吞吐。进行一次真实推理后,可在工作台查看服务返回的耗时。某些账户需要授权后才能访问推理服务。
连接昇腾环境
先通过 SSH 连接并检查设备,再启动已部署的 NPU 服务。以下命令在你的电脑终端执行,不会将密码或 SSH 私钥发送到网站。
在本机 PowerShell 或终端运行
如平台提供的跳板命令中含令牌或一次性凭据,请直接在本机终端使用平台命令,不要在此页面输入或复制该凭据。
01 检查设备在远端项目目录运行
python npu_service/ascend_preflight.py。脚本只读取设备与依赖状态;退出码 0 表示 Torch 发现 NPU,不表示推理或精度已通过。02 启动推理服务在目标机启动项目内 npu_service/server.py,服务只监听 127.0.0.1。
03 网站连接SSH 转发仅供本机检查;要让公网网站访问,还需管理员配置受保护的 HTTPS 入口、令牌和账户白名单。
04 核验状态完成配置后点击上方“刷新”;只有服务实际返回 NPU 设备时才显示已连接。
浏览器无法直接连接 SSH,也不会自动读取或执行密钥。凭据请仅在你信任的终端和站点的服务端密钥管理中输入。
技术路径
模型训练、权重迁移和在线推理各有不同的验证范围,请以对应的原始实验日志为准。
Qwen3.5-0.8B
结合日志解析、安全知识与证据校验,辅助形成结构化研判。
Ascend 910 · CANN
模型运行所依赖的昇腾硬件与软件栈;实际连接状态以上方服务为准。
MindSpeed-MM · FSDP2
项目迁移与训练使用的技术路径。在线推理是否使用该后端,以上方服务显示为准。
实验结果与复现
精度、性能与迁移结果应结合数据集、设备、配置和测量方法一起解释。历史测试不是当前会话的实时监控。
模型迁移以迁移脚本与日志核对具体验证范围
精度对齐区分权重、文本路径和完整业务场景
性能测试以原始日志与测试条件为准