【蚂蚁星】算法工程师-大模型安全-大安全-27届

岗位职责

部门介绍：
蚂蚁集团大安全事业群机器智能团队致力于打造安全科技的核心竞争力，做可信AI的持续引领者，为广大支付宝用户的数字化生活提供全方位安全保障。作为蚂蚁集团安全版图中的核心力量，我们正以最前沿的AI算法为刃、以大模型为盾，编织数字世界的""安全之网""。在这里，大模型、智能体、AI安全等热门的研究不再是纸上谈兵，每一个方向都在落地成为真实业务场景、十亿级用户的智慧防线。
关于团队，过去获得过浙江省科技进步一等奖、中国电子学会科技进步一等奖，人工智能学会吴文俊人工智能自然科学奖一等奖，中国图象图形学学会科技进步一等奖、多次获得中国计算机学会科技进步奖、世界人工智能大会SAIL之星与""镇馆之宝""，等多个重量级奖项。可信AI专利布局全球第一，主导制定ITU国际风控标准。多名Kaggle Grandmaster ，拿过多个KDD Cup/CVPR/NeurIPS/ICCV/CVPR/ECCV等多个顶会竞赛冠军，累计发表近百篇顶会论文； 在这里，你将有机会和毕业于海内外著名高校的行业专家们、众多KDD Cup/CVPR 等比赛冠军、Kaggle Grandmaster、顶会论文作者们共同根植蚂蚁丰富的场景数据，利用海量算力探索创新前沿算法应用，使用领先的机器学习算法解决风控业务问题，构建数据与知识驱动的智能风控体系，提升用户的支付安全体验。 加入我们，让我们一起为世界带来微小而美好的改变。

职位描述： 参与和负责针对对抗攻击、后门植入、数据泄露等内生安全威胁的主动防御机制；研发基于RL的大模型安全对齐技术；通过实时对抗攻防与安全态势感知实现防御策略的自主进化；探索模型训练推理全链路的可控性增强技术。

任职要求

1. 计算机科学、人工智能、自然语言处理、数据科学、机器学习等相关专业博士或优秀硕士。博士优先，尤其在RLHF优化，强化学习，RLHF损失优化，Multi-Agent ，多模态大模型等方向有深度研究者或相关项目经验优先；
2. 在国际顶级会议（如NeurIPS、ICML、ICLR、ACL、CVPR等）以第一作者发表论文者优先；
3. 强烈的技术热情，对大模型、安全对齐等前沿技术有持续关注，拥有优秀的逻辑思维能力以及发现和解决问题的能力。

特色标签

Python、人类反馈强化学习、分布式训练、参加算法相关竞赛/获奖、发表算法相关优秀论文、可信AI、多模态大模型、多模态算法、大数据处理工具(Spark/Hadoop/Hive)、大模型、大模型算法、大语言模型、安全、安全对齐、对抗攻防、并行计算、强化学习、支付、数据泄露、智能体、有留学背景、深度学习、自然语言处理算法、英美留学生、风控、风控算法