把115 TOPS塞进69.6mm的小板子：LattePanda Mu Ultra想让你在本地跑AI

哇哦AI

图片来自 techpowerup.com 的相关公开报道，展示产品、原型、使用场景或事件背景；具体信息以原始来源为准。 摄影/版权标识：techpowerup.com。 来源：techpowerup.com

AI一定要靠云端才聪明吗？LattePanda要用一块69.6×60mm的小模块回答说“不”。Mu Ultra把Intel Core Ultra内的CPU、GPU和NPU拧成一股绳，官方数字是整体AI性能最高115 TOPS（INT8），其中专用NPU就有47 TOPS。这意味着它能在不联网的情况下，把大语言模型、视觉识别、语音助手这类任务跑在设备本地，省去来回传数据的等待和隐私担忧。官方拿出的实测是：用OpenVINO GenAI在集成显卡上跑INT4量化的Qwen3.5-9B，能达到每秒18字生成速度。对一台微型x86模块来说，这算是“能聊”的门槛过了。它瞄准的是空间有限、功耗敏感的机器人、智能摄像头、便携仪器等场景，想让开发者在边缘端真正把AI用起来。

目前能确认到哪一步
正式发布（announced）：LattePanda官方于2026年9月9日宣布推出Mu Ultra，并已在官方商店开售，起价599美元。此信息基于官方新闻稿和TechPowerUp报道；官方宣称的性能和体验尚未经第三方独立测试验证。

115 TOPS怎么来？CPU/GPU/NPU一起上
Mu Ultra提供Ultra 5 226V和Ultra 7 256V两种处理器选项，均集成Intel新一代AI加速引擎。官方称，整个SoC的INT8算力最高可达115 TOPS，包括CPU、GPU和NPU的贡献，其中NPU贡献47 TOPS。这个数字放在69.6×60毫米的主板上并不容易，需要硬件设计对供电和散热有足够信心。

为了让AI跑得动大模型，它配了16 GB LPDDR5X-8533高带宽内存，并且最多可划出11.6 GB作为显卡内存，用来塞下更大的模型和KV缓存。空闲时功耗可低至2.5W，算力不够用时不会一直开着，摆明了是为移动和常开设备准备的。

不只性能，更想把AI塞回老系统
很多人担心，换了AI模块等于推倒重来。Mu Ultra保留了Mu家族的标准外形和接口定义，因此能兼容大多数现有载板。只要配上3.5英寸Lite载板、Mini载板或M.2 M Key载板，就能在已有系统上做升级，不用重新画电路板。

对软件开发者来说，它支持Windows和Linux，能沿用x86开发环境。AI框架层面，官方点名兼容OpenVINO、llama.cpp和Ollama，意味着很多现成项目可以直接跑。这种“不换语言、不换系统”的路径，大概是想降低AI硬件上车的心理门槛。

哪些场景等着它？机器人、仪器、智能摄像头
官方列出五个典型落地场景：翻译设备、语音助手、私有知识问答这类智能终端；频谱分析仪、诊断设备等便携仪表；需要SLAM和传感器融合的自主移动机器人；服务机器人要跑视觉、语音和LLM多模态任务；还有智能摄像头和质检系统要处理高清视频。共同点都是要在设备附近完成推理，不能忍受云端的延迟和数据外流。

这些场景对开发者不算友好，但LattePanda并没有把它做成封闭盒子。它给出PCIe 4.0、USB 3.2 Gen 2、HDMI/DP、eDP、GPIO、UART、I2C等常规扩展口，既能快速原型验证，也能量产。599美元起步的价格和一个迷你PC相当，但换来的是比普通开发板高得多的AI集中度，这对只想做硬件原型的团队来说，可能会觉得值。

资料线索
• techpowerup.com

本文是基于公开页面整理的 AI 硬件情报，不是本站实测或购买建议。图片发布副本增加 waoo.ai 水印，原摄影者和来源标识保留。

路过的风景

Qwen3.5-9B每秒18字，牛啊。