大模型小型化算法实习生

岗位职责

探索大模型小型化（蒸馏、量化）和推理策略（投机采样等）的前沿技术，完成在快手业务场景的落地方案。

我们有什么：

1. 有丰富的计算资源和mentor直接指导课题探索；
2. 有大模型小型化/推理加速/MoE等最前沿的困难和挑战；
3. 有大模型最全面链路的学习机会。

任职要求

1. 可以实习半年以上；
2. 数学, 计算机, 自动化, 电子系专业硕博生；
3. 有顶会论文发表经验(CV / NLP顶会, ICLR/ICML/NIPS均可)优先；
4. 有较强的自驱力和学习力, 有文本生成模型(如GPT/LLaMA等)和图像生成模型(Diffusion系列)的训练及使用或开源项目经历优先；
5. 有CUDA kernel或OpenAI-Triton开发经验优先；
6. 了解强化学习优先。