版权声明 用户协议 关于我们

Fsgameo.Com · 福神网

免责声明:仅供学习交流,著作权归原作者所有;如您认为相关资源侵犯了您的合法权益,请附上权利证明发送邮件至 admin@fsgameo.com,我们将尽快核实并及时下架

© 2023-2026 已报备公安备案 辽ICP备2023009493号

腾讯混元:295B参数模型Hy3单卡即可部署

7月14日消息,腾讯混元发文表示,Hy3上线并开源后,社区一直在呼吁量化版本,希望单卡跑参数量达295B的Hy3。团队针对开源社区需求,把Hy3的权重量化到1bit与4bit并打包成GGUF,配合llama.cpp生态,让原本只能跑在多卡集群上的模型,最少一张推理显卡、乃至内存充足的本地机器也能跑起来。(广角观察)