Strata — 本地大模型推理引擎

事实

让游戏电脑本地跑 Qwen3.8-Flash-Next 大模型的开源推理引擎。

人话

千亿参数的大模型睡不下显卡这张上铺，内存挪出下铺接力，12GB 显卡加 32GB 内存的电脑就能跑。

它用本地网页和兼容接口，把模型接进聊天或开发工具。

相关概念

• 通义千问 3.8
• 大语言模型推理引擎
• 本地大模型

Qwen 3.8
Strata 专为在家用电脑本地运行 Qwen3.8-Flash-Next 而做。

Inference engine
它属于推理引擎，负责加载模型并生成结果。

Local-LLM
它让大模型能在个人电脑本地运行。