大模型应用平台研发工程师

岗位详情

工作职责

岗位定位 负责大模型应用平台的研发与建设，重点建设 MaaS、模型网关、Agent 工程框架及训练评测数据闭环能力，为业务团队提供稳定、易用、可扩展的大模型应用基础设施，推动大模型能力规模化落地。

岗位职责

1. 负责大模型应用平台的设计、研发与持续演进，提供模型即服务（Model as a Service，MaaS）能力。
2. 建设并维护统一模型网关，支持多模型接入、服务路由、鉴权、限流、配额、灰度发布及服务治理。
3. 负责 Agent 应用框架及运行时的研发与工程化落地，包括工具调用、任务规划、上下文管理、知识检索、多 Agent 编排，以及与业务系统的集成。
4. 建设 Agent 应用的开发、调试、评测和可观测能力，持续提升应用效果、运行稳定性和问题定位效率。
5. 负责模型训练与评测数据链路建设，包括标注平台及工具研发、标注流程管理、标注规范制定和质量控制。
6. 建立“数据标注—模型训练与评测—线上效果反馈”的闭环机制，基于数据和评测结果持续推动模型及应用迭代。
7. 与算法、产品及业务团队紧密协作，沉淀标准化、可复用的平台能力，推动大模型在各业务场景中的规模化落地。

工作要求

任职要求

1. 3～8 年研发经验，计算机、软件工程或相关专业背景。
2. 熟练掌握 Python，具备良好的编码习惯、代码质量意识和模块化设计能力。
3. 熟悉大模型应用开发相关技术栈，具备模型网关、模型服务化、AI 平台或开发者平台相关实践经验。
4. 熟悉 Agent 相关技术，包括 LLM 应用、Tool Use／Function Calling、RAG、任务编排和上下文管理，并具备实际项目落地经验。
5. 具备扎实的分布式系统设计与开发能力，有高并发、高可用在线服务的建设经验。
6. 能够独立完成需求分析、技术方案设计、研发、上线及持续迭代。
7. 具备线上问题排查和性能优化经验

加分项

1. 有大模型网关建设经验，熟悉多租户隔离、配额管理、Token 计量、限流、智能路由和灰度发布等核心能力。
2. 有 Agent 平台、Agent Runtime、长任务调度或多 Agent 系统的研发经验。
3. 有数据标注平台、数据处理工具链、SFT／RLHF 数据处理或模型评测体系建设经验。
4. 有 LangChain、Dify、LangGraph、LlamaIndex 等开源框架的二次开发或生产环境使用经验。
5. 熟悉 Kubernetes、Ray、vLLM、KServe、Triton等模型部署、推理服务或云原生技术。
6. 有模型及 Agent 的成本、延迟、Token 消耗、调用质量和全链路可观测体系建设经验。
7. 有大模型应用平台从 0 到 1 建设或大规模生产环境落地经验。