千问事业部-安全大模型算法专家-VLM方向

岗位职责

1、负责构建集团级多模态内容安全防控体系，研发基于VLM的内容审核与大模型安全对齐算法，保障通义千问、夸克AI等核心产品的业务安全； 2、深耕多模态大模型安全领域，重点突破跨模态通用表征、AI Agent安全防御、AIGC生成内容检测及大模型后训练安全调优等关键技术； 3、利用大模型能力构建自动化风险挖掘系统，通过合成对抗样本、长尾场景泛化及自我博弈，主动发现线上潜在的安全盲区与新型攻击模式，实现从“被动拦截”到“主动治理”的转变； 4、建立高危风险内容的快速识别与拦截机制（紧急止血方案），针对突发舆情或新型攻击手段，能在小时级内完成策略迭代与模型热更新，确保业务零重大安全事故； 5、设计并落地端到端的多模态风控解决方案，平衡安全性与用户体验，解决复杂场景下的全模态风险问题； 6、跟踪业界大模型安全最新进展，持续迭代算法策略，保持技术领先性。

任职要求

1、计算机、人工智能等相关专业硕士及以上学历，具备2年以上算法研发经验； 2、具备多模态检测大模型的后训练实战经验。熟练掌握SFT、RLHF/DPO等技术，能针对安全场景进行高效的模型对齐与优化；有大规模多模态数据集处理经验者优先； 3、精通Python，熟悉PyTorch等主流深度学习框架。深入理解Transformer架构，在大模型后训练、多模态检索或AI Agent任一领域有扎实实践。熟悉大模型红队测试方法论，有利用LLM/VLM自动生成对抗样本或挖掘长尾风险案例的经验者优先； 4、有内容安全、对抗样本攻击/防御等相关经验者优先。具备极强的工程落地与应急处理能力，有通过快速迭代模型或策略解决线上紧急安全问题的实际案例者优先； 5、在CVPR, ICCV, ACL, ICML等顶级会议/期刊发表过论文，或在权威算法竞赛中获得名次者优先； 6、责任心强，抗压能力强，具备良好的沟通协作意识，能在高压环境下快速定位问题并输出解决方案。