岗位职责
团队介绍：国际化内容安全平台团队致力于为字节跳动国际化产品的用户维护安全可信赖环境，通过开发、迭代机器学习模型和信息系统以更早、更快发掘风险、监控风险、响应紧急事件，以人工智能技术支持业务发展，力求更高效、更敏捷、更全能地维护站内生态安全。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。
- 大模型在线服务架构开发：参与千万级吞吐量模型在线服务的架构设计与开发，负责模型应用管理、复杂模型编排、流量调度与服务稳定性保障，持续优化服务的延迟、吞吐与资源利用率；
- 离线批量推理系统建设：参与千卡级离线批量推理服务的研发，负责任务调度、数据分片与并行执行、失败重试与断点续跑等核心能力，在大规模数据场景下提升整体吞吐与算力性价比；
- 技术难题攻坚：与团队一起直面高并发、高可靠、高可扩展的技术挑战，解决在线服务的多租户隔离与故障容错、离线任务的资源争抢与长尾拖尾等核心架构难题；
- 效能与场景落地：协同算法与业务团队，打通从模型部署、批量评估到线上推理的完整链路，优化接入与集成方案，缩短模型交付周期并推动AI能力在多元业务中规模化应用；
- 前沿技术探索：跟进推理加速、动态批处理、异构算力调度等方向的业界进展，参与专项技术调研与新技术引入，并推动其在在线与离线推理链路中落地验证。
任职要求
- 本科及以上学历在读，计算机、通信、电子信息科学等相关专业优先；
- 对AI工程领域充满热情，具备强烈的求知欲、自驱力和钻研精神；
- 扎实的编程基础与AI使用能力，熟悉常见后端技术栈（如数据库、缓存、消息队列等）；
- 对分布式系统架构和并行计算原理有一定理解，有高并发系统、平台型产品或开源项目的实践经历优先；
- 了解主流模型推理框架（Triton、vLLM、TensorRT等）或有推理性能优化经验优先；
- 能够保证充足的实习时间，每周到岗4天及以上，连续实习6个月及以上者优先考虑。