面壁智能发布端侧大模型MiniCPM 4.0

6月7日获悉,面壁智能于昨日正式推出新一代端侧大模型MiniCPM 4.0。据公司方面介绍,该模型依托自主研发的CPM.cu推理框架,在极端测试环境下可实现最高达220倍的速度提升,并在常规使用环境中提升速度达5倍;其高效性能可无缝集成至vLLM、SGLang及LlamaFactory等主流推理框架中。(广角观察)

赞(0) 打赏
📝版权声明:本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
📌文章名称:《面壁智能发布端侧大模型MiniCPM 4.0》
📌文章链接:https://www.fsgameo.com/breaking-news/8247.html
⚠须知:本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。

评论 抢沙发

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫

微信扫一扫

请在浏览器中打开