【蚂蚁星】算法工程师-Agent-灵光-27届

岗位职责

部门介绍： 灵光APP是一款原生多模态的AGI助手，团队致力于构建有竞争力的AGI产品体验。算法团队以用户体验为牵引，为灵光助手构建后训练体系和模型。驱动灵光在智能体验上保持业界领先。

职位描述

1. 参与LLM推理优化研究：探索并应用量化、投机推理等技术，以提高LLM的推理效率和响应速度；
2. 协作解决推理瓶颈：与团队成员紧密合作，分析并解决LLM推理中的瓶颈问题，确保系统的稳定性与高效性；
3. 基于强化学习（RL）优化模型：参与RL驱动的LLM优化，提升推理速度，并协助优化模型训练框架的性能。探索新的训练算法以及训练管线；
4. Agent框架的开发与集成：协助开发和集成Agent框架，进行系统的功能验证与性能测试，确保系统可扩展性和稳定性；
5. 跟进前沿技术：密切关注LLM推理优化技术的发展，积极研究并探索新的优化方法与框架。

任职要求

1. 学术背景：计算机科学、人工智能、机器学习等相关专业硕士/博士学位，具有扎实的理论基础与研究能力；
2. LLM原理与推理优化经验：深入了解LLM的底层原理，熟悉量化、投机推理等推理优化技术，能够在团队项目中应用这些技术,对SGLang、vLLM等推理框架有一定的了解，具备调优和错误排查相关的经验，并能够对其进行有针对性的优化；
3. Agent框架与测试经验：了解Agent框架的开发与测试流程，具备基本的系统验证与性能测试能力；
4. 强化学习与SFT的应用理解：了解强化学习（RL）和SFT算法，熟悉相关的训练框架（Slime/Verl/Swift等），有一定的上手经验；
5. 开源贡献与技术分享加分：具备在GitHub、ArXiv等平台的开源项目经验或技术分享者优先。

特色标签

Agent系统架构、AGI智能助理、AI Agent框架、AI智能体、C/C++、Python、RL、Shell、Speculative Decoding、低比特量化、分布式训练、增强学习、多模态AGI、多模态模型、多模态算法、大模型、大模型算法、大语言模型、强化学习、投机解码、推断加速、推断效率提升、推测解码、推理加速、智能体、智能体框架、有监督微调、权重量化、模型加速/性能优化、模型量化、深度强化学习、监督式微调、监督微调、算法工程化经验、聊天机器人、训练工具链、训练平台、训练管线、语言大模型、跨模态、通用人工智能助手