思谋发布首个工业大模型开发底座,大模型开发成本直降 40%

摘要

助力制造业用好大模型。

6 月 27 日,华南工博会现场,思谋科技宣布行业首个工业大模型开发与应用底座 SMore LrMo 正式发布。

SMore LrMo 是面向工业场景的大模型开发与应用平台,覆盖了应用层面、算法框架、基础设施服务等开发全场景,涉及算力资源调度管理能力、数据自动标注管理能力、应用开发管理能力、算法服务管理能力等人工智能模型全生命周期。

今年以来,大模型的火热点燃了新一轮人工智能发展浪潮,也正在引领新一轮工业革命,帮助企业重塑生产及经营各环节以实现提质降本增效。而 SMore LrMo 平台的发布,将为大模型在工业领域的应用提供了基础,进一步降低企业开发及应用工业大模型、AIGC 等技术的门槛,推动工业 4.0 发展,助力提高生产力和经济效益。

首个工业大模型开发底座问世

这是继 3 月底以来 ViMo Cloud 工业智能云平台、ViMo Deeplearning 桌面级工业视觉深度学习训练软件、ViMo Studio 低代码机器视觉软件等 ViMo 系列产品发布之后,思谋的再次「上新」。

如果说 ViMo 系列产品的研发是为了降低制造业对人工智能的使用门槛的话,SMore LrMo 便是为了降低制造业企业对人工智能的研发与应用成本,为工业场景的大模型应用提供安全可靠的私有化平台。不变的是,思谋科技对人工智能通用性、普惠化的追求始终贯彻其中。

据了解,SMore LrMo 是市场上首个工业大模型开发底座,专为解决工业场景下大模型的数据采集复杂、数据安全性要求严格、设备异构程度高、计算集群分布广、大模型工程化成本高等痛点而来,具有安全与隐私性高、硬件适配广泛、多云调度、大模型训练快等特点。

SMore LrMo 支持云边端设备联动、多数据源接入,可对工业级大规模数据集进行高效处理和管理,提供高效的数据操作接口和分布式数据处理能力,以满足复杂数据处理需求;亦支持非联邦学习模型到联邦模型的快速转换,实现联邦学习场景下,对卷积、图、Transformer 等神经网络的适配,可充分满足制造企业对数据安全与隐私管理严格的要求。

SMore LrMo 还拥有出众的通用性、广泛的硬件适配能力。该平台支持 Intel 与 ARM 架构芯片以及 NVDIA、寒武纪、天数智芯等 5 种国产加速卡,超 3 种以上国产框架,实现了基于国产加速卡与深度框架的 150 多种深度学习与强化学习模型的适配;在 AI 作业跨域自动化感知调度时,可实现万卡、20 个以上集群管理调度,线性加速 80% 以上。

据 SMore LrMo 研发负责人透露,在大模型训练上,平台可支持超 1000 亿参数规模的大模型分布式训练,较主流深度学习框架训练加速超 15%;在推理加速上,平台提供模型自动压缩工具集,提供异构加速卡加速 SDK,提升模型推理效率,通用开源大模型部署效率提升 3-5 倍,平台上线部署模型最高可达到单 GPU 1000+ 的吞吐速度,处于行业领先水平;支持模型一键部署,实现推理服务高吞吐高性能,并弹性扩缩容,并提供完整的运维监控体系,极大助力各式高精度工业 AI 模型的开发与应用。

千亿参数大模型训练成本降低 40%

全球最大的企业增长咨询公司弗若斯特沙利文指出,人工智能开发平台的核心竞争力集中在「提高数据处理能力」、「增强平台易用性」、「提升生态开放性」。

SMore LrMo 在上述三方面均有突出表现力。这几大优势也让它成为市场上最先进的大模型开发平台之一,助力思谋迅速拿下了一批头部科研院所、科技公司、超算中心的订单,并快速落地应用。

「目前客户的反馈显示 SMore LrMo 开发应用效果非常不错。例如某大型算力中心,客户需要利用 15 个集群,共计 3000+异构计算卡,满足大模型开发与部署应用的场景,并要对模型持续优化,保持在线服务迭代顺畅。我们为该客户部署 SMore LrMo 人工智能开发平台后,客户可根据不同的训练任务智能调度训练资源,模型平均训练速度从原来的 7.5 小时/epoch 降低到 2.3 小时/epoch。即使面对超 1000 亿参数的大模型训练,SMore LrMo 依然能高效完成,整体帮助客户训练成本降低 40%。」上述负责人表示。

作为一家致力于引领科技、服务全球的全场景智能公司,过去,思谋科技以深耕智能制造、输出标准软硬一体化产品及解决方案获得了业内外广泛关注。少有人知的是,思谋还是最早对大模型在工业领域的 Emergent Ability 开展研究和产业化的团队。

如今,思谋把落地在工业场景中的大模型开发、应用的心得与经验,融合 20 余年在人工智能领域的技术沉淀,推出一站式工业大模型开发与应用平台 SMore LrMo,进一步赋能制造业惠及万企。随着人工智能大模型逐渐落地应用,对实体经济的拥抱逐渐加深,以人工智能普惠为特征的全新时代正在拉开帷幕。而不断自我迭代、不断拓宽自我边界的思谋科技也将迈向更加广阔的未来。

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。