金融科技-Agent架构设计与推理性能优化工程师

岗位职责

1. · 负责Agent harness的设计与平台 Agent 开发，结合统一Agent框架、标准LLM服务，扩展自定义工具、沙箱 、Agent 互调通信，完成业务功能目标；
2. · 围绕工具的场景，定义量化指标，并结合轨迹的合理性，整体优化 Agent 工作效率与效果；
3. · 优化模型推理性能，包括缓存命中率、私有化推理集群的调度、卡适配、跨集群成本削峰填谷等，提升推理资源利用率和响应速度；
4. · 协助Agent框架与FAT平台、LLM API、评测系统的打通，实现一站式Agent创建、上线与效果评估；
5. · 跟踪Agent与推理框架的前沿技术，结合业务需求探索创新方案并推动落地。

任职要求

1. · 具备扎实的后台工程能力，有行业 成熟 Agent框架的实战经验；
2. · 熟悉大模型推理框架，有相关优化经验（vLLM、sglang等）；
3. · 有卡推理适配和集群化推理调度经验者优先；
4. · 有持续的一线技术优化实战经验，能独立承担Agent设计与核心模块开发，对Agent的上下文工程、工具调用、Skill设计有深入理解，了解最新上下文设计原则；
5. · 计算机、人工智能等相关专业本科及以上学历，有顶会论文或开源项目贡献者优先。

产品/项目

技术支持与公线

工作年限

五年以上工作经验