TIONE-AI智能网关高级后台研发工程师-上海/杭州/深圳/北京

岗位职责

1. 负责腾讯云TIONE 推理平台核心架构研发，打造高吞吐、低延时的模型推理服务，涉及模型部署，框架集成，推理调用等全生命周期优化；
2. 负责MaaS产品AI 智能调度系统与API网关设计开发，包括请求路由，智能调度，模型框架优化及其他相关模块开发，保障系统高可用、高稳定、高性能，并最大化算力利用效率；
3. 协同算法、产品、算力、安全团队，完成模型适配、性能优化、工程化封装、合规加固，推动混元及第三方模型快速上线与稳定服务；
4. 跟踪业界大模型工程化、云原生、分布式系统技术趋势，持续优化架构，提升研发效率与产品竞争力。

任职要求

1. 本科及以上学历，计算机、软件工程、人工智能等相关专业，3 年及以上云原生/AI工程化研发经验；
2. 精通至少一种主流语言（Golang/Java/Python），具备扎实的数据结构、算法、操作系统、网络基础，有高并发分布式系统实践优先；
3. 熟悉云原生技术栈：K8s、Docker、微服务、RPC/HTTP、消息队列、数据库、缓存，有云厂商或中间件研发经验优先；
4. 了解大模型全流程：训练、微调、RAG、推理引擎、量化、蒸馏、向量数据库等，有MaaS/LLM Inference服务开发经验优先；
5. 熟悉AI Infra：GPU使用与优化、异构算力纳管、分布式任务调度、性能压测与调优，有大规模模型服务上线运维经验优先；
6. 具备良好的系统设计、问题定位与跨团队协作能力，能独立负责复杂模块 / 系统，执行力强；
7. 对AGI与MaaS有强烈热情，学习能力强，关注混元、DeepSeek 等主流模型及行业竞品，愿意长期深耕 AI 工程化领域；
8. 有AI 安全合规、内容审核、企业级私有化交付、金融/政务等高安全要求场景经验者优先。

产品/项目

腾讯云

工作年限

三年以上工作经验