【蚂蚁星】算法工程师-Agent-灵光（实习）

岗位职责

部门介绍： 灵光APP是一款原生多模态的AGI助手，团队致力于构建有竞争力的AGI产品体验。算法团队以用户体验为牵引，为灵光助手构建后训练体系和模型。驱动灵光在智能体验上保持业界领先。 职位描述：

1. 参与LLM推理优化研究：探索并应用量化、投机推理等技术，以提高LLM的推理效率和响应速度；
2. 协作解决推理瓶颈：与团队成员紧密合作，分析并解决LLM推理中的瓶颈问题，确保系统的稳定性与高效性；
3. 基于强化学习（RL）优化模型：参与RL驱动的LLM优化，提升推理速度，并协助优化模型训练框架的性能。探索新的训练算法以及训练管线；
4. Agent框架的开发与集成：协助开发和集成Agent框架，进行系统的功能验证与性能测试，确保系统可扩展性和稳定性；
5. 跟进前沿技术：密切关注LLM推理优化技术的发展，积极研究并探索新的优化方法与框架。

任职要求

1.学术背景：计算机科学、人工智能、机器学习等相关专业硕士/博士学位，具有扎实的理论基础与研究能力； 2.LLM原理与推理优化经验：深入了解LLM的底层原理，熟悉量化、投机推理等推理优化技术，能够在团队项目中应用这些技术,对SGLang、vLLM等推理框架有一定的了解，具备调优和错误排查相关的经验，并能够对其进行有针对性的优化； 3.Agent框架与测试经验：了解Agent框架的开发与测试流程，具备基本的系统验证与性能测试能力； 4.强化学习与SFT的应用理解：了解强化学习（RL）和SFT算法，熟悉相关的训练框架（Slime/Verl/Swift等），有一定的上手经验； 5.开源贡献与技术分享加分：具备在GitHub、ArXiv等平台的开源项目经验或技术分享者优先。

特色标签

Agent架构、AI代理框架、INT8量化、multimodal、Python、Reinforcement Learning、RL、SGLang框架、Speculative Decoding、Supervised Fine-Tuning、vLLM引擎、vLLM推理框架、低比特量化、增强学习、多模态AGI、多模态算法、大模型、大模型算法、大语言模型、引擎优化、强化学习、投机解码、投机采样、指令微调、推断加速、推理加速、智能体、智能体框架、机器学习、模型加速/性能优化、模型量化、深度学习、监督微调、算法工程化经验、结构化生成语言、聊天机器人、自然语言处理算法、语言大模型、跨模态