【蚂蚁星】大模型系统工程师-百灵-27届

岗位职责

部门介绍： 团队面向百灵大模型研发、训练、后训练、评测和推理准出等关键链路，承担复杂系统问题攻坚和关键 Infra 能力建设；聚焦系统、网络、存储、调度、可观测性等方向，解决训练稳定性、推理效率、质量评测闭环和生产准出中的关键瓶颈，沉淀高效、可复用的大模型基础设施能力，支撑百灵模型持续加速迭代。

职位描述

1. 负责大模型训练、推理、评测等核心链路中的系统工程建设，提升系统稳定性、资源效率和问题定位效率；
2. 参与计算、网络、存储等基础设施能力建设，支撑大规模模型训练、RL、SFT、推理准出等场景高效运行；
3. 深入分析系统瓶颈和稳定性问题，包括性能抖动、任务失败、资源异常、网络通信异常、存储访问异常等，并推动根因定位和长期治理；
4. 建设可观测、可诊断、可回归的系统问题分析体系，提升复杂问题的发现、定位、复现和闭环效率；
5. 与模型、训练引擎、推理框架、调度、网络、存储等团队协同，推动端到端系统优化和工程能力沉淀。

任职要求

1. 具备扎实的计算机系统基础，熟悉操作系统、Linux 内核、容器、调度、资源隔离、性能分析等相关技术；
2. 熟悉网络基础原理和常见问题定位方法，了解 TCP/IP、RDMA、RoCE、NCCL、集合通信、网络拥塞、丢包、抖动等问题分析优先；
3. 熟悉存储系统基础能力，了解本地盘、分布式文件系统、对象存储、缓存、I/O 性能分析、数据一致性和可用性等相关问题；
4. 具备较强的复杂系统问题解决能力，能够从现象出发，结合日志、指标、trace、系统调用、内核状态、网络和存储链路进行端到端分析；
5. 具备良好的工程能力，能够通过工具化、自动化、可观测性建设和机制设计，将单点问题沉淀为系统性能力；
6. 具备良好的跨团队协作能力，能够和模型、算法、框架、平台、基础设施团队共同推进复杂问题闭环；
7. 有大规模训练、推理服务、AI Infra、云原生基础设施、高性能计算、分布式系统稳定性建设经验者优先；
8. 有 Linux 内核、eBPF、性能分析、网络通信、分布式存储，GPU/XPU 集群、Kubernetes、NCCL/RDMA 调优经验者优先。

特色标签

AI基础设施、AI集群、C/C++、Docker、eBPF tracing、Elasticsearch、Golang、Java、Kafka、Kubernetes、Linux开发/部署经验、MySQL、Nginx、Prometheus、Python、PyTorch、RLHF、SFT、Shell、TensorFlow、不限、中大型项目开发经验、云原生、云原生底座、云计算、云计算经验、内核开发、内核网络、分布式系统、分布式经验、分布式计算、分布式训练、加速卡、在线推理、基础设施、大参数模型、大数据、大数据运维经验、大规模模型、大语言模型、容灾容错、异构计算集群、强化学习、微调、性能加速、性能评测、性能调优、推理优化、推理服务、故障自愈、日志分析、有留学背景、服务端开发经验、机器学习平台、机器学习经验、模型推理、模型测评、模型训练、模型评估、模型部署、熟悉Linux/Unix系统、监控告警、算力池、系统加速、系统架构设计经验、系统稳定、系统观测、系统调用、网络建设/系统集成经验、网络运维经验、计算机相关专业、质量评估、资源效率、运维开发/DevOps、运维开发经验、通信/工程相关专业、金融、链路追踪、问题定位、预训练、高可用