低显存大模型部署包 · 2026 Qwen3.6 版

AI相关 热度 91.0 9 个文件 702.6MB 更新 2026-11-12 整理中 · 链接未实测

#本地大模型#Qwen3.6#低显存

包内清单

  • 显存档位选型表 8G/12G/16G/24G（2026-11 版：8-16G 最强 = Qwen3.6-35B-A3B，24G = Qwen3.8-27B）
  • Qwen3.6-35B-A3B --cpu-moe 一键启动 bat（接 llama-server）
  • ModelScope 国内直连下载命令逐条列出（免魔法）
  • MiniMax H3 视频生成 8G 量化路线索引（INT4 ConvRot + ComfyUI）
  • 量化格式速查（Q4_K_M/Q4_K_S/INT4 体积与显存对照）
  • 显存不足自救：offload/上下文裁剪/流式权重说明

校验

文件名 low-vram-llm-2026.zip

sha256 62325b30f4371f8649756ae112cef6f3f046e3adb00f8f6305689bad01f56756