10月15日快讯,红帽公司正式推出全新企业级人工智能平台Red Hat AI 3。该平台整合了红帽AI推理服务器、红帽企业Linux AI(RHEL AI)及红帽OpenShift AI的最新技术成果,致力于简化大规模高性能AI推理的实施流程。通过优化从概念验证到生产部署的工作负载迁移路径,并强化团队协作效率,帮助企业更高效地推进人工智能应用落地。据披露,该平台基于vLLM和llm-d开源项目构建,在结合红帽自身模型优化技术后,能够提供具备生产环境稳定性的大语言模型(LLM)服务,特别强调其兼具可扩展性与成本效益的推理能力。(广角观察)
