🚀 项目概览
Nvidia Greenboost 是一个基于 Linux 的开源项目，专门解决 GPU 显存（VRAM）不足的痛点。它允许用户透明地将系统内存（System RAM）甚至 NVMe SSD 作为显存的延伸，从而在显存较小的显卡上运行原本无法加载的大型模型或应用。
—
🛠️ 核心功能与原理
- 透明扩展：无需修改应用程序代码，即可让 GPU 使用额外的存储空间。
- 多级缓存：支持将数据在 VRAM、RAM 和 NVMe 之间进行置换。
- 绕过硬件限制：对于 8GB 或 12GB 显存的玩家，Greenboost 提供了运行大型 AI 模型或复杂渲染任务的可能性。
技术原理
该工具主要通过拦截 NVIDIA 驱动的内存分配请求，利用 Linux 的内存管理机制（如 dm-cache 或自定义驱动逻辑）将超出的部分重定向到系统资源中。
—
💡 适用场景
- AI 炼丹与推理：运行显存占用超过物理限制的 LLM（大语言模型）或 Stable Diffusion 加载超大 Checkpoint。
- 高性能计算 (HPC)：处理超大规模数据集，避免程序因
Out of Memory (OOM) 崩溃。
- 开发者调试：在低配硬件上测试原本需要专业计算卡（如 A100/H100）才能运行的任务。
—
⚠️ 注意事项（性能权衡）
请注意： 显存扩展并非“免费午餐”。
- 带宽瓶颈：PCIe 总线和系统内存的带宽远低于物理显存，使用后性能会有明显下降。
- 延迟增加：NVMe 扩展模式下，数据交换延迟会导致计算速度大幅变慢。
- 系统环境：目前主要针对 Linux 环境下的 NVIDIA GPU 驱动进行优化。
—
🔗 相关资源