Deepseek关联公司公布大语言模型部署方法专利

8月1日最新消息显示，天眼查披露杭州深度求索人工智能基础技术研究有限公司近日公开了名为"一种大语言模型的部署方法及系统"的专利文件。该专利摘要指出，在人工智能技术领域中创新性地提出将大语言模型的预填充与解码阶段分别部署于高性能计算设备及大内存服务器集群。通过这种架构设计实现三大核心优势：其一优化负载分配策略提升硬件利用率；其二降低算力空置率显著减少资源浪费；其三有效缩短系统响应延迟并提升吞吐量指标，在保障系统高扩展性的同时强化容错能力。（数据来源：天眼查）