毋庸置疑，AI是现在最大的风口。AI相关岗位招聘数量在2025年达到了爆发式增长。今天要说的岗位是目前人才最稀缺的之一——AI编译器工程师。

AI编译，是干嘛的？

先打个比方。大模型是一份菜谱，AI 芯片是灶台。菜谱写得再好，灶台也不会自己做菜——中间需要一个人，把菜谱翻译成灶台能执行的动作，还得琢磨怎么颠勺最快、怎么摆盘最省料。

这个人，就是 AI 编译器。

技术上说：你在PyTorch里训练出来的大模型，本质上只是一张计算图加上一堆参数（权重）。而GPU、NPU这些芯片，只认机器指令。模型是数学，芯片是电路，中间隔着一道鸿沟，AI编译器的工作就是架桥：

翻译：把计算图转成芯片能执行的指令；

优化：算子融合（把多次读写显存的操作合并成一次）、内存复用、量化、自动调优（auto-tuning）……

负责到底：同样的芯片，经它优化后模型推理可以快几倍，成本降一半。

简而言之，编译的作用就像一位翻译，它能把高级编程语言翻译成芯片可以理解并执行的机器语言。同时编译器还要做优化，让生成的机器代码运行起来更高效。

这不是锦上添花的活儿。英伟达今天能垄断AI算力，一半功劳在CUDA生态——这就是一套打磨了二十年的编译器和工具链。硬件决定上限，编译器决定你能不能摸到上限。

AI编译工程师需要做什么？

研发AI芯片是企业迈出的第一步，第二步是需要考虑“如何利用好AI芯片？”

要把一颗 AI 芯片利用好，有两个方面的工作必不可少，一是可编程性，能够方便地把应用映射到芯片上；二是性能，能够充分地把芯片的算力利用好。

同样一块芯片，编译器好坏可以带来2-10倍性能差距。

不过目前职位的名称不太统一，如果我们看到图编译、模型编译、推理优化、Runtime、算子开发、AI Infra等岗位，可以看看具体的JD描述是不是包含这些：

1、编译器框架开发与优化

研究和优化Triton、MLIR、TVM、XLA、TorchInductor等主流AI编译框架；

基于MLIR+Linalg框架提升编译器代码执行效率；

开发编译器的前端、后端和优化器，实现计算图优化、算子融合、内存分配等关键技术。

2、算子开发与优化

编写高性能AI算子（如GEMM、卷积等），进行向量化优化；

研究算子融合、自动调优、代码生成等优化策略；

针对不同硬件架构（GPU/NPU/MLU）进行算子适配和性能调优。

3、跨团队协作

与硬件团队、AI框架团队（如PyTorch/TensorFlow）紧密合作；

与算法团队配合，推动编译技术在实际业务场景中的落地；

参与芯片架构设计，为硬件升级提供编译器视角的反馈。

4、工具链建设

构建调试、性能分析工具链，提升编译器的易用性和可视化能力；

开发性能仿真和评估工具，为芯片架构设计提供建模支持。

在技能栈方面，C++为主，编译原理、计算机体系结构、MLIR/LLVM，懂一点深度学习框架，了解 AI 芯片硬件架构。

为什么突然火了？

提到编译器，很多人的第一反应是：那不是教科书里的老古董吗？都 2026 年了，AI 都能自己写代码了，谁还需要人写编译器？

第一，与传统编译器不同，AI 编译器的核心目标是性能优化而非降低编程难度。

第二，推理成本成了主战场。 大模型进入规模化落地阶段，2026 年行业推理支出已经超过训练支出。同样是 100 万张卡，推理快 10%，省下的就是几十亿的电费和租金。而推理性能的大头，握在编译器和 kernel 工程师手里。

第三，国产芯片百花齐放。昇腾、寒武纪、壁仞、摩尔线程……每一家造芯片的公司，都需要一支编译器团队把芯片「变得可用」。芯片流片只是开始，工具链跟不上，客户就用不起来。这也是为什么招聘网站上，AI 编译器岗位大量挂在芯片公司名下。

第四，新架构层出不穷。Groq、Cerebras、Tenstorrent这些海外新玩家，每出一款新架构，就需要一整套新的编译后端。芯片越多样，编译器人才的需求越分散、越刚性。

AI编译器，看得见的“风口”

博研咨询在《2025年中国编译器市场占有率及行业竞争格局分析报告》里，第一次把“AI编译工程师”单独拆出来统计：目前从事AI编译的，只有约3000人。

全球能写生产级ML编译器/Triton kernel工程师估计只有几千人（有猎头估算 MLIR/XLA/TVM 社区合计约3000–8000人，Triton熟练者仅500–1000人）。

猎聘2025年人才供需报告更直接——编译器开发的紧缺指数达5.02以上，排进全行业前五。

这个剧情眼熟吗？2021年的IC设计就是这么走过来的：芯片公司遍地开花、人才被疯抢、应届生都能拿到高薪。而AI编译器，正在重演这一幕——只不过慢了一拍。

为什么慢一拍？因为AI编译器的风口，天然滞后于芯片的风口。

道理很简单：得先有芯片，才谈得上“把芯片用好”。而每多一款AI芯片落地，就必须配套一整套编译器工具链——芯片流片只是开始，工具链跟不上，客户就用不起来。

现在，芯片这一环已经彻底热起来了。从老牌IC大厂，到新能源车企，再到互联网大厂，家家都在砸钱搞AI芯片；叠加海外GPU受限、国产替代加速，每一家芯片公司的背后，都缺一支能打硬仗的编译器团队。

现在（2026-2027）的风口，是人才风口——岗位多、人少，谁先上车谁吃肉。而产业商业化的风口还在后头。等到商业化真正爆发、大家都闻到肉味再进场时，锅里就只剩汤了。

AI薪资水平如何？

国内薪资大致是这样的阶梯（一线城市参考）：

入门（1-3 年）：算子 / Kernel 开发，年薪 30-60 万；

资深（3-5 年）：图优化、编译后端，年薪 60-100 万；

专家 / 架构师：编译器架构、软硬协同，年薪 100-150 万起。

AI编译工作，会不会被AI替代？

有人可能会说 Meta 的 LLM Compiler、Compiler-R1 这些研究已经在自动调优了，AI会不会把编译器工程师也卷掉？

短期看，AI确实能辅助写 Pass、调参数；但涉及硬件正确性、内存排布、芯片后端适配这些验证成本极高的环节，仍然需要人签字负责。

AI会压缩“照着模板写pass”的初级重复劳动，但会放大“能独立对性能负责的人”的价值。这个逻辑对所有工程师岗位都成立，编译器属于验证成本最高的那一档，所以反而更安全。

汽车没有让赛车手失业，它先淘汰的是马车夫。

再说长期的职业发展前景。AI芯片国产化进程不会停止，大模型部署需求持续增长，编译器人才缺口不会消失。

做AI编译器有什么要求？

1、本科及以上；计算机科学与技术、人工智能、微电子、集成电路、电子信息、自动化、智能科学与技术、物联网工程、通信工程、应用电子等相关理工专业。

------（学历专业为硬性要求，以下为加分要求）------

2、有 AI 算法开发、模型训练、Python/C++ 开发、嵌入式 Linux 相关经验，希望进一步掌握 AI 编译器、模型优化、边缘部署实战能力，满足企业高薪岗位需求的工程师。 

3、有数字芯片、NPU/TPU、FPGA 开发基础，熟悉电路、系统架构等知识，规划向 AI 编译器、模型优化、边缘 AI 部署方向发展的工程师。 

4、有一定算法、嵌入式、芯片开发相关基础，希望向 AI 编译器、边缘计算、模型部署等高价值方向进阶发展的工程师。 

5、有 AI 开发、嵌入式开发、芯片应用相关经验，想要学习 AI 编译器全流程实战项目技能、提升就业与职场竞争力的工程师。

每一个风口都有一批“逆天改命”的人。

AI的故事正写到最浓墨重彩的一笔。聚光灯一直打在模型和算法上。但每个大模型的背后，都是有人在编译器里一行行抠出来的性能。

懂AI的人已经很多了，懂AI编译器的人，还远远不够。

如果你正在纠结方向，加我留下你的背景（语言基础/是否碰过AI /年限），我来帮你判断要不要上车。