【环球网科技综合报道】每隔几天处理数万亿词元，并将支持范围扩展至来自六家硬件厂商的六种架构，这是Modular统一AI软件平台目前展示出的生产规模和异构硬件覆盖能力。夏威夷当地时间9月23日，在2026骁龙峰会上，高通技术公司先进AI软件与平台执行副总裁Chris Lattner发表主题演讲，系统介绍了这一数据背后的统一AI基础设施。随着高通完成对Modular的收购，Chris Lattner及其团队加入高通。由Mojo、MAX和Modular Cloud构成的Modular平台，形成覆盖从AI内核开发、模型构建与服务到云端规模化部署的统一异构技术栈。
高通技术公司先进AI软件与平台执行副总裁Chris Lattner
作为前Modular的联合创始人兼首席执行官，Chris Lattner在演讲中称，当前行业正面临算力需求快速增长的挑战，众多硬件厂商采用不同技术路径填补算力供给缺口，整个行业投入大量资本构建异构硬件生态系统。“但真正的瓶颈在于软件。每个硬件团队都不得不从基础原理出发，构建自己的软件栈。即使是规模较大的公司，也难以跟上新模型研究持续演进的速度。”他认为，现代AI推理已经演变为大规模分布式系统问题，要保持竞争力就必须在系统的每一层进行优化，而AI开发者需要同时管理和调试多个相近却不同的软件栈。
Logan Iyer表示，Windows支持广泛而多元的生态系统，让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows，正是为了进一步拓展这些选择。借助Mojo，开发者可以使用熟悉的Python语法进行系统级编程，并在Windows上获得性能优化，这种可移植性还能跨越不同平台和厂商，从边缘延伸至云端。
这一困境让Chris Lattner联想到当年构建LLVM编译器基础设施时面临的挑战。当时，所有人都在使用已有20年历史的GCC技术，却难以证明实现升级所需投入的合理性。而LLVM通过提供统一的编译器基础设施，让不同硬件厂商共享同一套工具链，最终推动了整个行业的创新加速。“与当时一样，如果能让所有人携手合作，我们就能以全行业之力打破这一局面。”
三层架构构建统一AI技术栈
据悉，Modular平台由三个层级构成，覆盖从底层内核到云端部署的完整链路。Modular平台由三个相互衔接的层级构成：Mojo为AI内核和底层优化代码提供可编程基础；MAX负责生产级模型开发、推理与服务；Modular Cloud则支持AI工作负载在云端规模化部署。每一层都能独立发挥作用，组合在一起则构成从内核到云端的统一异构技术栈。
Mojo是面向AI硬件打造的高性能系统编程语言。Chris Lattner介绍，开发Mojo旨在解决AI开发长期存在的“三语言难题”：研究工作主要使用Python，高性能实现则依赖C++和CUDA，而AI的未来将跨越多种芯片并从云端延伸到边缘。Mojo提供能够在各种芯片和硬件上运行的编程语言，让AI研究人员、基础设施和硬件工程师使用熟悉的类Python语法，编写可移植的底层AI优化代码，同时不牺牲性能。Mojo 1.0已于上个月发布并达到生产就绪状态，完整语言包括标准库、编译器和工具链，已基于Apache 2.0许可全面开源。
在Mojo之上是MAX，这是面向生产级AI工作负载打造的模型开发与服务框架。MAX是一个现代化、面向生成式AI原生设计的框架，目前聚焦推理工作，未来将扩展至训练领域。MAX让AI研究人员和建模优化工程师能够在一个以可移植性为核心设计的统一框架中，构建高性能AI工作流。
最新推出的Modular Cloud则面向企业AI工程师、机器学习运维团队和生产级AI部署人员，让用户无需关心底层采用何种芯片架构，即可规模化部署AI工作负载，同时获得性能优化和总体拥有成本控制。开发者依然可以使用熟悉的API，而底层的资源配置、调度、扩展、优化和硬件选择均由Modular负责。
三层架构的设计逻辑，是减少开发者面向不同硬件平台重复改写和优化代码的工作，在研究、模型服务及规模化部署之间提供更加统一的开发体验，并降低维护多套相互割裂软件栈的复杂度。
平台落地验证 从数据中心ASIC到多架构支持
统一平台的价值需要在生产环境中验证。Chris Lattner分享了一组运行数据：Modular在生产环境中每隔几天就能处理数万亿词元，能够面向多家硬件厂商以及多代处理器平台提供性能优化。近期，Modular平台的支持范围从GPU扩展至专用数据中心ASIC，新增对三种全新架构的支持，使平台支持范围扩大至来自六家不同硬件厂商的六种架构。
在与高通的合作方面，双方正将Modular技术栈引入高通飞龙数据中心加速器产品组合。Chris Lattner表示，适配过程较为顺畅，因为基于高通成熟的NPU软件能力，将其与Modular面向AI和高性能场景的可扩展技术栈结合在一起，即可在高度可扩展的高通NPU平台系统之上实现性能优化。
“我们的使命很简单：充分释放异构计算的潜力。”Chris Lattner表示，未来的AI硬件只会越来越多样化、越来越复杂，关键不只在于硬件本身，更在于赋予开发者自由——让他们能够使用开放技术栈和开放系统，针对自身应用场景选择合适的硬件，同时不牺牲实现优质体验所需的性能。这让每个人都能更自由地构建自己想要打造的产品和服务。
数据中心只是高通业务布局的一部分。高通的产品技术覆盖从毫瓦级到千瓦级乃至更高的计算范围，依托一个高度模块化、可扩展的硬件平台实现这一覆盖。随着Modular加入高通，整套Modular软件平台正被引入高通的所有产品组合，其中也包括骁龙。这意味着，统一AI软件栈的能力将从数据中心延伸至手机、PC、可穿戴设备、汽车等边缘终端。
从云到端 开放生态推动AI创新普惠
软件平台的统一离不开操作系统生态的配合。在演讲中，Chris Lattner宣布与微软深化合作，进一步推进Modular技术栈对Windows平台的支持。微软Windows平台与开发者事业部企业副总裁Logan Iyer登台介绍，双方团队正在合作为Mojo开发Windows原生支持。
Logan Iyer表示，Windows支持广泛而多元的生态系统，让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows，正是为了进一步拓展这些选择。借助Mojo，开发者可以使用熟悉的Python语法进行系统级编程，并在Windows上获得性能优化，这种可移植性还能跨越不同平台和厂商，从边缘延伸至云端。
Chris Lattner在演讲中说：“关键不只在于硬件本身，更在于赋予开发者自由。”当行业目光集中在更大的模型参数和更高的芯片算力时，Chris Lattner把关注点放在了另一处：让开发者能够以更统一的方式面向多种硬件架构开发和优化AI工作负载。每隔几天数万亿词元的处理量，表明Modular技术栈已经承载真实的生产级工作负载；而平台向六家硬件厂商、六种架构扩展，则进一步体现其面向异构计算环境的发展方向。（心月）