小天fotos·视频笔记：零刻SEi13 AI实测，24GB独立内存的NPU值不值
零刻 SEi13 AI 实测：24GB 独立内存的 NPU，11895 元到底值不值？
一台迷你主机，开机先给你一个 Ubuntu 启动界面，装上 Steam 发现核显跑不动游戏，想改行当 NAS 却只有一个 2.5G 网口、一块空余硬盘位，Type-C 还不是雷电口。听到这里，多数人的第一反应是找退款按钮。
博主「小天fotos」的这期测评，恰恰是从这个"劝退现场"开场的。但反转出现在他拆开机器、看清那块 M.2 算力卡之后——这台机器的定位从来不是"能跑 AI 的迷你主机"，而是一台带独立 NPU 内存池的端侧 AI 开发机。以下是从 12 分钟口播里整理出的完整技术要点与选购判断。
一、先把定位讲清楚：端侧 AI 不是"便宜的云端 AI"
这是全文最重要的一段认知校准。博主用了一个很贴切的比喻：
- 云端 AI = 按次收费的专家：想得更深、能力更强，但你每次调用都要付费，而且要把数据交出去。
- 端侧 AI = 你的管家：没那么博学，但 24 小时在线、不要钱、不出门。
放到实际生活里看：你每天产生的图片、视频、文字、录音是海量的。如果这些素材每处理一次都要上传云端，成本与隐私都是问题。而一台功耗几十瓦的端侧设备，可以先把它们"就地"变成结构化资产——转写稿、镜头清单、分类标签、向量索引——再决定哪一小部分值得花云端的钱去深挖。
一句话分工：云端负责"想得更深"，端侧负责"一直在线地干活"。
这也解释了为什么用 Coding Agent 的标准去评价所有 AI 硬件并不合理：不是所有 AI 任务都需要 200K 上下文和最强的推理能力，大量任务只是"低功耗、反复执行、稳定完成"。
二、硬件账本：这块 NPU 卡的真实规格
零刻 SEi13 AI 采用"x86 主机 + 独立 NPU 算力卡"的双子系统设计。算力卡是一块标准 M.2 2280 规格的插卡，占用了两个 M.2 槽位中的一个（另一个留给 SSD），这也是"只能插一块硬盘"吐槽的来源。
| 项目 | 规格（口播实测 + 官方标称） |
|---|---|
| 算力卡形态 | M.2 2280 独立 NPU 卡（公开资料显示为后摩智能 M50） |
| 专用内存 | 3 × 8GB LPDDR5，共 24GB，NPU 独占 |
| 位宽 / 带宽 | 192-bit / 153.6 GB/s |
| 算力 | INT8 160 TOPS；BF16 100 TFLOPS |
| 功耗 | 待机约 5W，满载十几瓦；跑大模型时实测约 12W |
| 温度 | 推理时 NPU 约 40℃，风扇转速温和 |
| 主机侧 | 酷睿 i7-13620H（10 核 16 线程，最高 4.9GHz），32GB LPDDR5 板载 |
| 接口 | 2.5G 网口、DP 1.4、HDMI 2.1、10Gbps USB-C（无雷电） |
| 价格 | 11895 元（高配 SEi14 AI 为 Ultra 9 185H + 雷电 4，13988 元） |
24GB 专属内存带来的核心优势是"隔离"。 博主描述了自己在 Mac 上的真实痛点：跑 Coding Agent 时，各种工具链会吃掉大部分内存，此时哪怕只想再加载一个很小的 ASR 模型，都会直接内存不足、整机卡死。而这台机器把模型权重放在 NPU 自己的 24GB 里，主机的 32GB 完全不参与——推理再重，系统照常流畅。
三、实测性能：三类任务，三组数字
博主没有只念官方 PPT，而是自己跑了一遍：
-
大语言模型（Qwen3-35B-A3B，MoE，总参 35B / 激活约 3B）
官方标称 W4A8 量化下 prefill 约 800 tokens/s；他本机实测可到约 1000 tokens/s，decode 接近 30 tokens/s。这个速度与公开评测中"30B 级模型 30.17 token/s"的口径基本一致。 -
多模态图像理解（Gemma 4 系列）
26B-A4B 约 1.5 张/秒；12B-A4B 约 2.8 张/秒。对批量打标、素材分类这类任务已经够用。 -
语音转写（ASR）—— 本期最亮眼的一项
RTF（实时率）0.0433，意味着 1 小时音频约 2 分半转完，约 23 倍实时速度。博主直言："这一个指标就完全值了"，而且比他手上的 Mac mini M4 更快。
四、软件栈：100 款模型 + 齐全的推理框架
这是它区别于普通"AI PC"的关键。出厂预装 Ubuntu 与 OpenClaw 本地推理栈（一键可启），模型库共约 100 款，且官方承诺持续跟进主流模型。
推理引擎覆盖得比较完整：C++ 与 Python 引擎、llama.cpp、vLLM、whisper.cpp 的定制版本都有。模型类型也不只是 LLM/VLM，还包括：
- Embedding 模型 与 Reranker 重排序模型（RAG 必备）
- Qwen3-ASR 语音转写 + Forced Aligner（字词级时间轴，博主最常用的一款）
- GLM-OCR（扫描件文字识别）
- TTS（能出声）
24GB 的容量允许多模型同时常驻，组合起来解决复杂流程——这正是端侧相对"单模型小盒子"的价值所在。
实测工作流（可直接照搬）：
- 用 ASR 模型完成口播转写；
- 用 Forced Aligner 做字词级时间对齐；
- 用多模态模型（Qwen3-VL / Gemini 类）给画面打描述；
- AI 同时掌握"每句话的时间点"和"每个镜头的画面内容"，剪辑决策就有了依据。
博主在 Google 开发者大会就是这么干的：现场拍了 1 个多小时演讲素材，全部丢给 Agent，在这台机器上本地跑出三样东西——转写稿、镜头清单、分析表，然后用核显解码切成代理文件上传云盘，让家里的服务器直接开剪。人还在展会逛，剪辑已经在家里跑起来了。
同类场景还有：会议室里接一支麦克风，会后立刻出文字稿（全程不联网）；用 OCR 给孩子做错题本；用 Embedding + Reranker 搭本地知识库。
五、正面回应三类质疑
| 质疑 | 博主的回应（要点） |
|---|---|
| "这钱够充好几年 API 了" | 如果你一个月只识别几十张图、转几次会议，API 确实更划算。但端侧解决的不是"偶尔调用"，而是"每天持续、海量、不能出门"的处理。 |
| "买两张 2080 不更香？" | 那是另一条路线（本地强推理）。这台机器的价值不在峰值算力，而在低功耗、常在线、内存隔离。 |
| "一台笔记本也能跑本地模型" | 笔记本是共享内存，你一边跑 Agent 一边加载模型就会卡死；NPU 独立内存正是为了消除这个冲突。 |
博主的判断是：新技术早期，用"最强的那个场景"的标准去衡量所有新硬件，很容易错过真正的机会——端侧 AI 提供的能力可能只是"零件级"的，但很多场景没有这个零件，整体就跑不起来。
六、适合谁，不适合谁
不适合：
- 刚需一个本地超强 Coding Agent —— 老老实实上大显存工作站；
- 需要打游戏，且完全不愿意碰 Linux；
- 对端侧 AI 没有具体场景，只想买台"AI 电脑"。
适合：
1. 想在端侧 AI 找机会、有开发能力的人：就像做 App 会买一台 Mac，做端侧也需要一台开发机/原型机；
2. 对特定模型能力组合有刚需的人（ASR 转写、OCR、视觉打标）：它大部分时间可以当无头服务器，用 Coding Agent 远程连上去，借它的 32GB 内存 + CPU 跑 Agent，用 NPU 跑模型；
3. 想入门 AI、想跑 OpenClaw 或 Hermes 这类本地 Agent 的人：开机即有本地模型与推理栈，顺便把 Linux 逼着自己学会——这门课绕不过去。
如果还需要雷电口或更强的 CPU，可以看 Ultra 9 185H 版本的 SEi14 AI。
七、必须提醒的局限
- 软件生态还很薄。底层软件栈、模型库齐全，但"生态之上"的成品软件很少，不少场景需要你自己用 Coding Agent 写成 Skill 才能跑顺。
- 有折腾门槛。Linux、驱动、量化格式（W4A8/W8A8）都要碰，官方也在早期阶段。
- 硬件取舍明显：核显弱、单 2.5G 网口、无雷电、系统内存板载不可升级（SEi14 才支持 SO-DIMM 扩展到 96GB）、NPU 卡目前难以单独购买升级。
- 芯片厂商信息有限。博主因合作范围限制未展开，只表示"接下来会看到更多新闻"——这既是机会，也是不确定性。
八、金句摘录
"云端 AI 是一个按次收费的专家，端侧 AI 就是你的管家。他没有那么博学，但是他 24 小时在线，不要钱。"
"把它叫 AI PC 是容易有误解的。"
"端侧 AI 极低的功耗，不用联网也能提供稳定的处理速度。也许它的能力只是提供了一个零件级别的能力，但很多场景没有这个零件，整体就跑不起来。"
"它解锁的不是能力，而是一个全新的机会。"
"质疑声是非常好的，但是很多赚钱的机会，往往就在这些不容易被看到的角度。"
九、一句话结论
如果你把 SEi13 AI 当成"能跑大模型的迷你主机"，它贵且别扭；如果你把它当成一台 11895 元、24GB 显存级内存、12 瓦功耗、可 7×24 常驻的端侧推理节点，它是目前市场上为数不多"买得到、能开发、能验证完整 NPU 能力"的设备。买不买，取决于你手里有没有那个必须"一直在跑"的场景。
视频来源：B站 @小天fotos（space.bilibili.com/28554995）〈零刻SEi13 AI测评，24G独立内存的NPU，值得吗？〉2026-08-21，原视频链接：https://www.bilibili.com/video/BV1vb8c6TEK7（同内容亦发布于抖音号 969304610）。本文为视频内容的文字整理，版权归原作者所有，转载请注明出处。
说明：文中硬件规格、厂商与价格信息经公开报道核对（后摩智能 M50 算力卡、11895 元首发价、Ubuntu + OpenClaw 预装栈），性能数字以博主口播实测为准；专有名词已按上下文校正，若与原始表述有出入，以原视频为准。