让AI赋能专业,用软件服务网友
全站绿色,Ctrl+D 快捷收藏网站

Deepseek关联公司公布大语言模型部署方法专利


8月1日最新消息显示,天眼查披露杭州深度求索人工智能基础技术研究有限公司近日公开了名为"一种大语言模型的部署方法及系统"的专利文件。该专利摘要指出,在人工智能技术领域中创新性地提出将大语言模型的预填充与解码阶段分别部署于高性能计算设备及大内存服务器集群。通过这种架构设计实现三大核心优势:其一优化负载分配策略提升硬件利用率;其二降低算力空置率显著减少资源浪费;其三有效缩短系统响应延迟并提升吞吐量指标,在保障系统高扩展性的同时强化容错能力。(数据来源:天眼查)

赞(0) 打赏
📝版权声明:本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
📌文章名称:《Deepseek关联公司公布大语言模型部署方法专利》
📌文章链接:https://www.fsgameo.com/breaking-news/10031.html
⚠须知:本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。

评论 抢沙发

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫

微信扫一扫

请在浏览器中打开