大模型时代，华为与中软国际携手“打通AI落地应用最后一公里”

大模型驱动千行百业智能化变革已经成为广泛共识，下一步的问题是，企业要如何更好地推进？

近日，“2024中关村论坛系列活动——第二届北京人工智能产业创新发展大会”在北京国家会议中心成功举办，其主题“更安全、更开放、更普惠——让大模型真正成为新质生产力”为大模型的走向定了调。

而值得关注的是，该大会唯一战略合作伙伴中软国际的一系列能力、产品及方案的展出，官方提出的“打通AI落地应用最后一公里”，则将大模型如何走向应用落地、推进智能化转型升级进行了系统呈现。

从政企需求出发，在华为以及昇腾AI的帮助下，中软国际趟出了一条解决企业大模型推进问题的道路。

挑战：面对“更陌生”的大模型，客户需要完成“最后一公里”跃迁

大模型仍然是政企智能化转型升级的一部分，而针对智能化转型，一份对中国多个行业的500多家大型企业决策者进行的调研报告显示，80%的企业因为缺乏自身相关的能力基础、人才储备、变革经验等，希望能够得到外部全面的而非某些维度的支持。

到了大模型时代，毫无疑问，随着复杂性的进一步提升，组织的这种渴求只会越发明显。再加上，大模型本身带来的技术进步节奏几乎以周为单位，一小段时间没有跟上，就有可能陷入被动的竞争局面，留给企业们的时间窗口也变得越来越短。

于是，单一维度的大模型服务已经无法满足市场需要，能够真正全程帮政企组织完成应用落地、实现“最后一公里”跃迁的服务迫在眉睫。

中软国际副总裁、AIGC研究院院长、解放号总裁万如意在《解放生产力，共赢新生态》主旨演讲中提到，大模型不仅仅是提供“工具”，而应该成为客户企业的“伙伴”，其实，当下的政企客户们也需要的是“伙伴”，而不再只是卖生产力工具的外部合作方。

破局：华为与昇腾助力，中软国际“打通AI落地应用最后一公里”

在本次大会上，中软国际展示了灵析问数产品解决方案、JointPilot灵析平台、“问系列”大模型应用一体机、模型工厂整体服务能力、大模型运营管理系统LMBSS、AIGC咨询服务及落地案例等AIGC产品、服务和行业方案。

中软国际提出“打通AI落地应用最后一公里”的理念，可以通俗地理解为，在整合大模型应用架构各层能力和资源后，提供一站式从算力到模型到应用全面打通的能力，满足政企客户的具体业务需求。

换句话说，在中软国际的构想与实践中，所有复杂的东西都由其消化承担，政企客户组织只需要面对屏蔽了技术复杂性、解决了建设细节问题的友好界面，在提升生产力、实现业务增值的全程中，灵活高效的获得大模型赋能支持。

例如，中软国际灵析问数解决方案融合了中软国际场景大模型与数据分析核心技术，让客户无需掌握复杂的SQL知识，通过自然语言文字或语音对话即可完成深入数据挖掘、辅助提供决策建议，让管理者、业务人员及分析师轻松完成多种业务场景下的数据查询、数据分析以及结果的可视化输出。

此外，中软国际JointPilot灵析平台以赋能大模型应用落地为目标，提供“全过程AI应用一体化平台”，从模型和资源封装接入、数据/知识检索能力增强、应用编排生成和合规约束……所有大模型落地必须要有的能力，被“包圆了”。

目前，中软国际构已经建了一套“模型工厂”整体服务，这是一个面向行业客户提供大模型开发和应用服务的专业平台：

在体系上，模型工厂基于多形态大模型底座，对接算力中心、模型提供商、政企客户三类客户，一方面，简化模型训练和智能应用开发过程，提高开发效率，另一方面，又以咨询选型、数据建设、模型微调、模型评测、AI应用开发和集成部署帮助客户解决大模型落地的五大困难，端到端满足政企客户“上马大模型”的需求。

由此，所谓大模型应用落地的最后一公里问题，也就迎刃而解。

值得关注的是，既然是面向千行百业政企客户，屏蔽了产业链的复杂性，那么中软国际“打通AI落地应用最后一公里”的背后，也一定离不开产业链的鼎力支持。

以大模型最迫切需要的算力资源以及算力服务配套为例，昇腾AI就成为关键的产业链协作者。

此次发布会的许多成果，就是中软国际依托昇腾AI、云、算力等各方产业合作伙伴协作打造。

除了大会上展出的中软国际“问系列”大模型应用一体机中直接应用到了昇腾AI的硬件能力，上文提到的JointPilot灵析平台和模型工厂也都以昇腾算力为重要算力支撑。

事实上，昇腾AI还与其他产业链协作者一起，与中软国际在数据处理、模型训练微调、模型部署、行业AI应用开发等环节开展了广泛合作，联创了数据集、工具库、模板库、算法库等，让政企客户大模型使用门槛大大降低，让“最后一公里”不再遭遇障碍。

提速：ISP升级IAV，千行百业加速完成“最后一公里”跃迁

如果说中软国际的一系列动作解决了面向某部分客户的AI落地应用最后一公里问题，那么下一个问题在于，千行百业无数的政企组织都在迫切等待大模型，怎样“提速”让这个过程得到更大范围的覆盖？

答案是生态。

在此次大会上，万如意博士宣布中软国际将与华为以及昇腾AI共同推出JointPilot计划，这个计划简单说，即一头对接昇腾AI等算力资源，一头对接客户，中间邀请数字化生态中的ISV加入，在华为、中软国际的共同帮助下，实现产品方案的大模型改造升级的复制，从而让更多的政企组织能够打通“最后一公里”。

为此，华为方面与中软国际还表态要将ISV伙伴升级为IAV(Independent Agent Vendor)伙伴，并提供包括模型网关、模型工厂服务、昇腾AI算力资源以及市场资源等一系列赋能。

对ISV伙伴来说，这是一次难得的拥抱大模型红利的机会。

而更重要的是，昇腾AI与华为、中软国际、IAV们共创共拓共赢新生态的同时，千行百业的智能化转型进程也将被“JointPilot计划”所加速。

当然，“JointPilot计划”的执行，还离不开更宏观层面的规划作为支撑。

此次大会期间，华为联合中软国际等20余家企事业单位联合发起“大模型应用产业联合体"，要推动人工智能技术的广泛应用和产业的深度融合，尤其要推动大模型领域的突破和创新。

宏观层面的产业联盟，无疑将为打通AI落地应用“最后一公里”创造更良好的外部条件。

动能：根技术发展，提供大模型价值创造的持续源泉

中软国际称其未来还将与华为、昇腾AI等产业链合作方“携手共建人工智能生态”，尤其要发展“AI国产高端硬件平台+AI全栈应用服务”，联合打造“业内一流AI大模型算力/算法/数据/应用等融合解决方案”，夯实算力服务等能力。

这个规划中，不难看出，算力是绕不过去的关键词。

事实上，在中软国际“打通AI落地应用最后一公里”的理想追逐中，算力也始终作为最基础、最澎湃的能力来源。

所谓“最后一公里”打通的本质即是屏蔽复杂性，而这离不开算力资源方的通力合作，尤其是在基础软件、基础硬件的根技术上的创新发展，使得很多简化的、成体系的开发过程得以实现，或者训练、部署效率能够加速，等等。

这方面，华为作为昇腾AI产业生态的重要参与者，一直大力推动昇腾AI根技术的进化。

除了底层硬件不断迭代，可以看到，这些年来，CANN异构计算架构针对AI、大模型需求进行了不断优化，典型如构建Transformer加速库等提升大模型计算效率，优化执行器提升整体性能等。

此外，在直接面向大模型训练的开发框架上，昇腾AI既支持业界主流的PyTorch、飞桨、昇思等框架，“自家”的昇思开发框架也针对大模型进行了大量针对性优化，并在持续迭代当中。

在驱动大模型发展的成绩上，目前已有50+业界主流大模型基于昇腾训练迭代，而在这个数字的背后，更应该看到，根技术的进步正在通过AI产业生态放大，配合中软国际这样的关键伙伴与IAV们一道“打通最后一公里”，将智能化价值最终落地到千行百业当中。