大模型工程师

岗位职责

1. 负责大模型的工程落地，对业务需求和功能模块进行合理的工程抽象，提高大模型业务的上线和迭代效率；
2. 负责大模型推理和训练过程的架构设计和技术选型，打造优秀的大模型应用系统，提升大模型性能和资源效率；
3. 负责大模型前沿技术的调研，评测相关的模型指标和技术方案；
4. 负责大模型的业务探索，与相关团队紧密协作，提升大模型的业务收益。

任职要求

1. 扎实的编程技术，熟悉python，并且掌握c++/java一门编程语言；
2. 熟悉至少一个大模型应用或者推理框架，如SGLang，VLLM，Langchain，Haystack，LmDeploy等等；
3. 熟悉至少一个深度学习框架，如Jax/Torch/DeepSpeed/tensorflow/Merlin等等；
4. 熟悉大模型常用的工程技术，如DP/TP/PP/Zero/PagedAttention/PD分离/KV Cache/梯度压缩/AllReduce等等；
5. 了解大模型常用的硬件特性和体系结构，了解业界大模型硬件和软件加速方案，如NVLink，RDMA，混合精度等等；
6. 了解大模型基本的算法工具及其工程优化方法，如Transformer/Moe等等；
7. 了解大模型常用的应用技术，如模型微调，RAG，提示词工程等等；
8. 有良好的沟通和协作能力；