权威机构发布生成式AI技术栈排名 商汤科技国内领跑

量子位 2024-12-28 09:46:48
A+ A-

商汤科技在GenAI(生成式AI)技术栈领域位居国内榜首,其创新实力和应用落地广泛。根据权威研究机构弗若斯特沙利文与头豹研究院联合发布的《2024年中国GenAI技术栈市场报告》,商汤科技超越了阿里云、百度智能云和华为云,在增长指数和创新指数上均排名国内第一,全球仅次于亚马逊云科技。

权威机构发布生成式AI技术栈排名

报告指出,商汤科技积极投入技术创新,为用户提供行业领先的自研模型与高性能国产化的推理引擎,并建立了包括机器与人工审核、安全评测与内容安全策略迭代升级在内的完整性安全管理方案,成为GenAI技术栈领域的领导者。

GenAI技术栈是连接硬件设施层与终端用户交互的中间层,集成了基础模型、数据处理、模型训练调优、模型部署监控等技术和工具,提供从模型初始化到部署全过程的一站式解决方案。报告从创新和增长两个维度对GenAI技术栈竞争力进行了分析。商汤科技在这两个维度中均排名全球第二、国内第一。

在创新方面,商汤科技在资源利用率优化管理、缓存与记忆、精炼压缩模型三大模块得分最高,展现了高效资源利用率优化能力、高效的缓存与记忆能力和精炼的压缩模型能力。例如,商汤自研高性能大模型推理引擎在相同算力及电力成本下将每秒请求数提升4倍,万卡集群GPU资源利用率最高达到80%以上。此外,商汤通过数据飞轮机制实现自我强化的反馈循环,提升模型性能,并在代码小浣熊办公助手和代码助手应用场景中,通过模型体积压缩实现了显存节省和速度提升。

在增长方面,商汤科技在“行业客户与场景方案”模块得分最高,展示了其生成式AI落地应用的广度和深度。商汤“日日新”大模型已在金融、医疗、Copilot助手、拟人交互、智能终端等关键领域确立了领先地位。商汤科技还与各行业头部企业紧密合作,助力运营商提高算力资源利用,帮助媒体创新内容生产模式,提供了丰富的标杆案例与行业经验。

报告认为,高质模型的构建、安全合规的优化、推理成本的降低、数据价值的释放、产品应用化的实现是用户在构建GenAI应用时的核心考量因素。商汤科技在这些方面取得领先,主要得益于积极的创新投入、高性能的推理引擎和完善的安全管理框架。商汤不仅构建了自主算力平台,还在多评测集上保持领先地位,让用户可以调用不同模态与不同行业性的基础大模型。商汤大型分布式推理系统拥有高性能算子库与极致优化的推理框架,在软硬件底层优化、自适应分离架构、国产化生态打造以及前瞻性的“多模态AGI+云/边/端系统”布局等方面优势显著。同时,商汤针对GenAI场景设计了符合大模型特质的内容安全运营体系,为用户提供完整的安全管理方案。

未来,GenAI技术栈将呈现模块化、标准化、平台化、简易化、去中心化的发展趋势,MaaS(模型即服务)的广泛推广还将重构生成式AI的商业化生态。作为一项底层创新技术,GenAI还将催生全新类型的信息商品,有望造就出全新的产品时代和超级产品。商汤大装置万象包含模型开发平台和应用开发平台,面向企业与开发者提供一站式大模型服务,并成功应用于央国企、运营商、汽车、互联网等行业客户。商汤大装置将不断完善GenAI技术栈,通过一系列工具与服务协助用户降低模型开发门槛,以MaaS大模型即服务的创新模式推动生成式AI应用的商业化落地和生态构建。

责任编辑:张蕾

热点新闻

精彩推荐

加载更多……