加速大模型应用落地最后一公里，AI基础设施如何再升级？

　　AI 大模型热潮来袭，当下，越来越多的大模型在千行百业中落地应用。作为 AI 大模型的“底座”，AI 基础设施承载着顶层大模型的建设，也是大模型应用落地的关键。在算力、数据和基础软件三大 AI 基础设施中，算力是驱动大模型发展的底层动力，数据是训练大模型的信息基础，基础软件则是大模型应用落地的主要效率支撑。 本文来自散户吧WWW.SANHUBA.COM

　　6 月 30 日，九章云极DataCanvas 举办“New AI · New Data · New Software”主题发布会，发布了“AIFS（AI Foundation Software）”、“DataPilot”两款新系列产品。

　　在发布会上，九章云极DataCanvas 董事长方磊提到，“大模型时代需要完整基础设施升级，而不是依靠单个大模型解决所有的问题；大模型的落地将解决更困难的问题，引起更深远的影响，而它并不比小模型更容易。” 本文来自散户吧WWW.SANHUBA.COM

　　大模型时代的 AI 技术依然需要“最后一公里”的结合。方磊指出，软件、模型和硬件的统一优化空间巨大，是创新最活跃的地方。强大灵活的基础软件，开放弹性的白盒模型，精通业务的专业人才，将加速实现最后一公里的跨越。 本文来自散户吧WWW.SANHUBA.COM

　　大模型时代，AI 基础软件扮演什么角色？

　　ChatGPT 的爆火加速 AI 大模型应用落地。今年以来，越来越多的企业涌入 AI 大模型赛道，行业进入“白热化”竞争状态。有不少专家表示，大模型背后的技术理念早已存在多年，因此 AI 大模型并不存在技术壁垒。

　　“现在训练 AI 大模型最大的挑战主要集中在算力和数据层面”，九章云极DataCanvas 副总裁于建岗在接受 InfoQ 采访时表示，大模型的构建本身并没有不可逾越的基础鸿沟，主要是基于 Transformer 进行构建，对企业而言，如何更好且更有效率地运用算力和数据才是核心痛点。“大模型对算力的需求巨大，对于中小企业而言，本身没有足够的 GPU 支撑其去搭建大模型。此外，大模型对数据的需求量也有一定的要求，中小企业很难获得足够的数据训练大模型。”

　　在这一背景下，AI 基础软件的重要性凸显。未来随着算力性能逐渐同质化和标准化，数据的差异性和企业需求的个性化逐渐加大，“AI 基础软件”将成为模型训练效率和算力使用效率的决定性因素。作为模型生态系统的中坚力量，AI 基础软件将会成为大模型应用落地的最主要的效率支撑，并通过大模型+小模型的方式，形成模型训练新范式。 本文来自散户吧WWW.SANHUBA.COM

　　与构建传统应用相比，构建大模型应用的基础软件主要解决系统和架构层优化，通过一系列工具和服务，帮助企业快速、高效构建上层 AI 应用。于建岗表示，“训练大模型需要庞大的计算集群，如何更好的处理集群之间的通信？如何更好的进行模型切分？如何更好的利用内存和显存？这些都需要 AI 基础软件来解决。AI 大模型时代对基础软件最大的诉求就是如何实现模型训练优化，包括运行时推理效率的优化等等。” 本文来自散户吧WWW.SANHUBA.COM

　　模型训练新范式：大模型+小模型 本文来自散户吧WWW.SANHUBA.COM

　　AI 基础软件使得 AI 技术的应用更加广泛和高效，并为各个行业和领域的发展提供了强有力的支持。当前，企业对 AI 技术的关注度高涨，也为 AI 基础软件市场带来新的增长机遇。Gartner 预测，中国的 AI 软件市场将保持快速增长。预计未来五年，该市场的营收将从 47.67 亿美元增长至 138.58 亿美元，年复合增长率（CAGR）达到 28%。 本文来自散户吧WWW.SANHUBA.COM

　　“现在，越来越多的企业意识到 AI 基础软件的重要性。九章云极DataCanvas在基础软件领域耕耘多年，我们认为只要针对企业在训练和应用大模型的过程中的痛点提供切实有效的解决方案，企业完全可以做出自己的 AI 大模型并且落地本企业的应用。”于建岗说道。 本文来自散户吧WWW.SANHUBA.COM

　　基于这种认知，九章云极DataCanvas 正式发布了人工智能应用构建基础设施平台 AIFS（AI Foundation Software），其覆盖了大模型的训练、精调、压缩、部署、推理和监控以及小模型的全生命周期过程，为数据科学家、应用程序开发人员和业务专家提供了一套工具，使不同角色的人员可以相互协作，轻松地处理数据并使用这些数据来开发、训练和部署任何规模的模型。 本文来自散户吧WWW.SANHUBA.COM

　　作为人工智能基础软件体系，AIFS 主要包括 DataCanvas Alaya 九章元识大模型、DataCanvas APS 机器学习平台、DataCanvas BAP 面向业务自动建模平台、开源 DAT 自动机器学习软件、开源 YLearn 因果学习软件等一系列全开放、高自动、高协同的软件工具，为用户自主构建全生命周期的“大+小”模型提供一站式支持。

本文来自散户吧WWW.SANHUBA.COM

(小编：财神)