一个高性能、可移植且可扩展的机器学习 (ML) 基础设施组件开放生态系统,通过整合前端框架与硬件后端之间的工具碎片,简化了机器学习开发。由 AI 建模、软件和硬件领域的行业领袖共同构建。
社区会议 2025/04/15 @太平洋时间上午 9 点
欢迎参加 6 月 23 日和 6 月 24 日在加州桑尼维尔市(Sunnyvale)举办的活动!

XLA

XLA (Accelerated Linear Algebra,加速线性代数) 是一个用于机器学习的开源编译器。XLA 编译器获取来自 PyTorch、TensorFlow 和 JAX 等主流框架的模型,并针对包括 GPU、CPU 和机器学习加速器在内的不同硬件平台对模型进行优化,以实现高性能执行。
XLA 已预构建于许多机器学习框架中。有关如何在这些场景中使用 XLA 的信息,请参阅相关文档和各框架的独立页面。
XLA 文档涵盖了许多基础和高级主题,例如如何集成新的 PJRT 插件、实现新的 XLA 后端以及优化 XLA 程序运行时。

StableHLO

StableHLO 是一套用于机器学习 (ML) 模型中高级操作 (HLO) 的操作集。本质上,它是不同机器学习框架和编译器之间的可移植性层:生成 StableHLO 程序的机器学习框架与使用 StableHLO 程序的机器学习编译器之间是兼容的。
StableHLO 文档涵盖了许多主题,例如 StableHLO OpSet 的规范,以及如何从常见的机器学习框架导出 StableHLO 图。

Shardy

Shardy 是一个基于 MLIR 的张量分区系统,适用于所有方言。它由 GSPMD 和 PartIR 团队合作构建,融合了两个系统的优势,并汲取了双方团队及用户的共同经验。
Shardy 文档涵盖了分片概念、方言概述,以及从 JAX 使用 Shardy 或将 Shardy 集成到自定义 MLIR 流水线中的入门教程。

XProf

XProf 是一套适用于 JAX、TensorFlow 和 PyTorch/XLA 的性能分析工具,可帮助您理解和优化 TPU 或 GPU 机器学习应用程序的性能。
XProf 文档介绍了 XProf 工具及其使用方法。

PJRT

PJRT 是一个独立于硬件和框架的机器学习编译器及运行时接口。它目前包含在 XLA 发行版中。有关如何使用和集成 PJRT 的更多信息,请参阅 XLA GitHub 和相关文档。

社区

加入 openxla-discuss 邮件列表,获取有关发布、活动及其他重大更新的消息。这也是我们进行设计和开发讨论的主要渠道。
加入 OpenXLA Discord,参与关于 XLA 和 StableHLO 主题的讨论。
会议每月通过 Google Meet 在第二个或第三个周二的太平洋时间上午 9 点举行。有关具体日期和议题,请参阅会议文档或 openxla-discuss。
随时了解 OpenXLA 社区的最新新闻和公告。
我们欢迎社区贡献。请参阅我们的贡献准则以获取更多信息。

行业合作伙伴

OpenXLA 项目由领先的机器学习硬件和软件组织协同开发。
阿里巴巴 logo

阿里巴巴

“在阿里巴巴,弹性 GPU 服务客户利用 OpenXLA 进行大型 PyTorch 模型的训练和推理。我们见证了使用 OpenXLA 的客户在性能上的显著提升,特别是在 NVIDIA GPU 上,GPT2 的速度提升了 72%,Swin Transformer 的速度提升了 88%。我们很自豪能成为 OpenXLA 项目的创始成员,并与开源社区合作开发先进的机器学习编译器,为阿里云客户提供卓越的性能和用户体验。” - 贾扬清,阿里巴巴副总裁,AI 与数据分析

Amazon Web Services logo

亚马逊云科技 (AWS)

“我们很高兴能成为 OpenXLA 项目的创始成员,该项目将普及对高性能、可扩展和可扩展 AI 基础设施的访问,并进一步推动开源社区内的协作以促进创新。在 AWS,我们的客户在 AWS Trainium 和 Inferentia 上扩展他们的生成式 AI 应用,而我们的 Neuron SDK 依靠 XLA 来优化机器学习模型,实现高性能和一流的能效比。有了稳健的 OpenXLA 生态系统,开发者可以继续创新并利用可持续的机器学习基础设施提供出色的性能,同时确信他们的代码可以在他们选择的硬件上灵活移植。” - Nafea Bshara,AWS 副总裁兼杰出工程师

AMD logo

AMD

“我们对 OpenXLA 在广大 AMD 设备系列(CPU、GPU、AIE)上的未来方向感到兴奋,并很自豪能成为该社区的一员。我们重视具有开放治理、灵活且广泛适用性、前沿功能和一流性能的项目,并期待通过持续的合作来为机器学习开发者扩展开源生态系统。” - Alan Lee,AMD 软件开发企业副总裁

Anyscale logo

Anyscale

“Anyscale 开发了像 Ray 这样开放且可扩展的技术,旨在帮助 AI 从业者更快地开发应用程序并让更多用户使用。最近,我们与 ALPA 项目合作,利用 OpenXLA 展示了大规模语言模型的高性能训练。我们很高兴参与 OpenXLA,并对其开源工作如何使在各种硬件平台上高效运行 AI 工作负载充满期待,从而降低准入门槛,减少成本,并更快地推进 AI 领域的发展。” - Philipp Moritz,Anyscale 首席技术官

Apple logo

Apple

Apple Inc. 设计、制造和销售智能手机、个人电脑、平板电脑、可穿戴设备和配件,并销售各种相关服务。

Arm logo

Arm

“OpenXLA 项目标志着简化机器学习软件开发道路上的一个重要里程碑。我们全力支持 OpenXLA 的使命,并期待在 Arm® Neoverse™ 硬件和软件路线图中利用 OpenXLA 的稳定性和标准化。” - Peter Greenhalgh,Arm 技术副总裁兼院士

Cerebras logo

Cerebras

“在 Cerebras,我们构建 AI 加速器,旨在使训练即使是最大的 AI 模型也变得快速且简单。我们的系统和软件能够满足用户当下的需求——实现无需更改即可使用标准机器学习框架的快速开发、扩展和迭代。OpenXLA 通过为 Cerebras Wafer-Scale Engine 提供与更高级别机器学习框架的通用接口,帮助我们扩展了用户群并加速了解决方案的上市时间。我们非常高兴看到 OpenXLA 生态系统可供更广泛的社区参与、贡献和在 GitHub 上使用。” - Andy Hock,Cerebras Systems 产品副总裁兼主管

Google logo

Google

“开源软件让每个人都有机会助力 AI 领域的突破。在 Google,我们正在合作开展 OpenXLA 项目,以进一步履行我们对开源的承诺,并促进采用那些能够提高机器学习性能标准、解决框架与硬件间不兼容问题,且可重新配置以满足开发者定制用例的 AI 工具。我们很高兴与 OpenXLA 社区一起开发这些工具,以便开发者能够在 AI 堆栈的许多不同层面推动进展。” - Jeff Dean,Google Research 和 AI 高级院士兼高级副总裁

Graphcore logo

Graphcore

“我们的 IPU 编译器流水线自公开以来就一直使用 XLA。得益于 XLA 的平台独立性和稳定性,它为引入新型硅片提供了理想的前端。XLA 的灵活性使我们能够展示 IPU 的创新硬件特性,并利用多个框架实现业界领先的性能。每天有数百万次查询由运行 XLA 编译代码的系统提供服务。我们对 OpenXLA 的方向感到兴奋,并希望继续为该开源项目做出贡献。我们相信它将成为 AI/ML 未来发展的核心组件。” - David Norman,Graphcore 软件设计总监

Hugging Face logo

Hugging Face

“让任何模型都能在任何硬件上高效运行是一项艰巨的技术挑战,也是我们普及优质机器学习这一使命的重要目标。在 Hugging Face,我们为 TensorFlow 文本生成模型启用了 XLA,并实现了约 100 倍的速度提升。此外,我们与 Intel、AWS、Habana、Graphcore、AMD、Qualcomm 和 Google 的工程团队密切合作,在框架与每种硅片之间建立开源桥梁,通过我们的 Optimum 库为终端用户提供开箱即用的效率。OpenXLA 承诺提供标准化的构建块,我们可以在此基础上构建迫切需要的互操作性,我们迫不及待地想要参与并做出贡献!” - Morgan Funtowicz,Hugging Face 机器学习优化负责人

Intel logo

Intel

“在 Intel,我们坚信开放、普及的 AI 访问。Intel CPU、GPU、Habana Gaudi 加速器以及包括 OpenVINO 在内的 oneAPI 驱动的 AI 软件,为从百亿亿次级超级计算机到大型云部署的机器学习工作负载提供驱动。我们与其他 OpenXLA 成员一道,致力于支持基于标准、组件化的机器学习编译器工具,这些工具将推动跨多个框架和硬件环境的创新,以加速改变世界的科学研究。” - Greg Lavender,Intel 高级副总裁、首席技术官兼软件与先进技术部门总经理

Meta logo

Meta

“在研究方面,Meta AI 一直在使用 OpenXLA 项目的核心技术 XLA 来使 PyTorch 模型能够在 Cloud TPU 上运行,并成功在一些重要项目上实现了显著的性能改进。我们相信开源能够加速世界创新的步伐,并很高兴能成为 OpenXLA 项目的一员。” - Soumith Chintala,PyTorch 首席维护者

NVIDIA logo

NVIDIA

“作为 OpenXLA 项目的创始成员,NVIDIA 期待与 OpenXLA 社区在 AI/ML 进展方面进行合作,并确信随着 OpenXLA 的更广泛参与和采用,机器学习开发者将获得最先进的 AI 基础设施支持。” - Roger Bringmann,NVIDIA 编译器软件副总裁

联系方式

如有直接疑问,请联系维护者 - maintainers at openxla.org