让AI赋能专业,用软件服务网友
全站绿色,Ctrl+D 快捷收藏网站

源Yuan 3.0 Flash基础大模型开源

12月31日消息,YuanLab.ai 团队正式开源发布 源Yuan3.0 Flash 多模态基础大模型。Yuan3.0 Flash 是一款 40B 参数规模的多模态基础大模型,采用稀疏混合专家(MoE)架构,单次推理仅激活约 3.7B 参数。Yuan3.0 Flash创新性地提出和采用了强化学习训练方法(RAPO),通过反思抑制奖励机制(RIRM),从训练层面引导模型减少无效反思,在提升推理准确性的同时,大幅压缩了推理过程的 token 消耗,显著降低算力成本。(广角观察)

赞(0) 打赏
📝版权声明:本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
📌文章名称:《源Yuan 3.0 Flash基础大模型开源》
📌文章链接:https://www.fsgameo.com/breaking-news/11969.html
⚠须知:本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。

评论 抢沙发

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫

微信扫一扫

请在浏览器中打开