Strata 0.2.10:8GB 显存也跑 128K 上下文
工具更新 · 2026-11-03

Strata 0.2.10 更新:8GB 显存也能跑 128K 上下文

一句话结论:开源本地大模型运行工具 Strata 发布 0.2.10,把默认推测解码器换成 DFlash2,显存占用从约 5.2GB 压到约 625MiB,8GB 显存显卡由此能开 128K 上下文;但官方自己也说明,省下的只是显存,压力转到了内存与 SSD,整体硬件要求并没有变低。

关键数字

DFlash2 显存占用
≈625 MiB
默认加速项
此前 MTP 推测层
≈5.2 GB
旧方案占用
8GB 档生成速度
63–73 Token/s
官方数据
可开上下文
128K
8GB 显存即可

显存占用对比

此前 MTP 推测层 ≈5.2 GB DFlash2(0.2.10 默认) ≈625 MiB 条形长度按显存占用量级示意,非严格等比
从约 5.2GB 到约 625MiB,量级上差了一个数量级;这正是 8GB 显存卡能腾出空间跑 128K 上下文的原因。
对比项此前(MTP 推测层)0.2.10(DFlash2)
显存占用约 5.2 GB约 625 MiB
是否默认需手动启用推测层默认加速项
8GB 显存开 128K空间被推测层吃掉,难以开启可以开启
压力去向集中在显存转移到内存与 SSD

其余更新点

  • All-cards Split Engine:新增的多卡协作机制,让多张显卡共同处理每一层模型。
  • DeepSeek 编程向支持:补充了面向编程任务优化的 DeepSeek 模型支持。
  • 版本信息:Strata 是开源本地大模型运行工具,本次发布版本为 0.2.10,时间为 2026-11-03。

官方自己划的边界

显存需求没有消失,只是把压力转移到了内存与 SSD 上。所以「8GB 就能跑」是显存口径的降级,不是整体硬件要求变低——想开 128K 上下文,内存和存储得跟得上。

放到你这台机器上

主力机是 AZW GTi 迷你主机,走的是核显 + 统一内存这条路,跟本次更新针对的「独立显存」口径并不完全重合:

处理器
Core Ultra 9 285H
显卡
Intel Arc 140T 核显
内存
31.6 GB 统一内存
独立显存
没有这一层

DFlash2 省的是显存,而这台机器没有独立显存可省;对核显的实际收益,取决于 Strata 是否支持 Arc 这条路——这一点尚未核实。

下一步(等你决定)

  1. 先核实支持面:确认 Strata 对 Intel 核显与 Windows 的支持情况,以及 DFlash2 在 Arc 平台上是否真的生效。
  2. 能跑就试一次:在你这台机器上跑一次 128K 长上下文,看真实生成速度与内存占用。
  3. 不合适就放弃:不动现有配置,维持当前环境。