2022/08/31 11:29:13
近期,算能开源了 AI 编译器项目 TPU-MLIR,并同步至 GitLink 平台,成为社区首个基于 MLIR 的开源项目。 兼容 ONNX 一次编写多处复用,算能 AI 编译器开源#TPU-MLIR 是一个专注于 AI 处理器的 TPU 编译器开源工程,提供了一套完整的工具链,可以将不同框架下预训练过的深度学习模型,转化为可以在 TPU 上运行的二进制文件 bmodel,从而实现更高效的推理。 AI 处理器出来之前,做 AI 框架的主要围绕 CPU、GPU 做,自行开发 kernel、调用 cudnn 就能解决框架和处理器的对接问题,随着 AI 处理器架构越来越多样,对编译器的需求也开始 ...
2022/08/26 22:21:56
近几年,以深度学习为代表的 AI 技术发展迅猛,深度神经网络广泛应用于各行各业。 一、算能 TPU 编译器开源,架起算力硬件和 AI 框架的桥梁#开发者使用 TensorFlow、PyTorch、PaddlePaddle 等深度学习框架可以快速训练出自己的 AI 模型,但这些模型想要部署到 TPU、GPU 等终端算力设备时,需要将模型中的计算图/算子等输出为低级的机器语言更快地执行,这时 AI 编译器就有用武之地了。 作为 框架和硬件之间的桥梁 ,AI 编译器可以实现一次代码开发,各种算力处理器复用的目标。最近,算能也将自己研发的 TPU 编译工具 TPU-MLIR 开源了。 TP ...