千问办公-大模型研发-Maas

岗位职责

1. 负责 MaaS 大模型网关核心链路的设计与研发：多厂商模型接入、协议适配、请求转发、流式响应处理（SSE / WebSocket）。
2. 设计并落地统一的计量计费方案：从流式与非流式响应中精准提取 token / 调用用量，对接计费服务，处理透支冻结、对账等边界问题。
3. 建设与优化分布式异步任务系统：任务调度、Worker 管理、并发控制、失败重试、状态一致性与水平扩展。
4. 保障网关的高可用、高并发与可观测性：限流、熔断、多租户隔离、Prometheus 指标、全链路追踪与容量规划。
5. 主导网关架构演进：抽象可插拔适配器与服务接口，降低新模型/新厂商的接入成本，持续偿还技术债。
6. 参与关键技术选型与方案评审，输出设计文档，把控代码质量与线上稳定性。

任职要求

1.研究生及以上学历，计算机相关专业。
2.5 年及以上后端研发经验，具备扎实的分布式系统、高并发与网络编程功底。
3. 2 年及以上 MaaS / 大模型网关 / API 网关平台相关开发经验（如模型路由、统一推理接入、API 聚合、计量计费等平台化能力建设）。
5.熟练掌握 Golang，熟悉 PostgreSQL、Redis、RabbitMQ、对象存储（OSS）等常用中间件的工程实践。
6.深入理解 LLM API 协议（OpenAI / Anthropic 等）与流式响应机制，有 SSE / 流式转发与用量提取的实战经验。
7.具备良好的架构抽象能力，熟悉分层架构、适配器模式、依赖注入与接口驱动设计，代码可测试、可维护。
8.有从 0 到 1 或大规模重构线上核心服务的经验，对稳定性与性能有敬畏心。
加分项：
1.熟悉 Rust，有高性能网关、代理或中间件（如 Envoy、APISIX、mitmproxy 类）的开发经验。
2.熟悉 OpenRouter / LiteLLM / vLLM / One-API / New-API 等开源模型网关或推理服务有源码级理解或贡献。
3.有大规模流量下的限流、熔断、灰度、多租户隔离与成本优化经验。
4.有精细化计量计费系统经验（按 token / 分辨率 / 时长等多维计费）。
5.熟悉 Kubernetes 与云原生部署，有完善的监控告警与 SRE 实践。
6.活跃的开源贡献或技术影响力（技术博客、Talk、社区 maintainer 等）。

岗位标签

NEW