这里推荐一个本地微调大模型的框架。
ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。
更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。
Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。
{dede:pagebreak/}
每个人说一个行业的秘密吧?
你的亲戚提过什么过分的要求?
为什么说中国是基建狂魔?
055驱逐舰 是个什么概念?
公务员单位为什么不用指纹打卡机并且严格考勤制度?
国产香橙派和树莓派差距在哪?
老公每晚都想要怎么办?
2025年,歼16与美军机50分钟缠斗,为什么知乎上没有任何消息?
在所有动物肉中,哪一种味道最好?
最讨厌和哪种人打羽毛球?
express + mongodb (mongoose) 中 mvc的model层如何使用?
女生真正的完美身材是什么样子?
国产手机APP为什么越来越臃肿?
Rust开发Web后端效率如何?
Rust 未来会成为主流的编程语言吗?
印度是真的烂还是咱们在信息茧房里面?