【蚂蚁星】安全工程师-安全算法-大安全（实习）

岗位职责

部门介绍： 蚂蚁集团基础安全部是负责集团整体技术安全的核心部门，致力于保障数十亿用户的数字资产安全。团队经过多年积累沉淀，在安全运营与治理、安全攻防、安全智能化、安全产品与工程方面均有大量产出，具备业界领先的创新能力和实践经验。

职位描述：

1. 负责大模型安全领域前沿技术研究，聚焦Prompt注入、数据投毒、模型越狱、对抗样本、隐私泄露、模型窃取等核心安全风险，开展漏洞挖掘、攻击方法与防护技术的探索与创新；
2. 跟踪国内外大模型安全领域的研究动态、行业规范及技术趋势，结合业务场景开展针对性研究，输出高质量研究报告、技术方案及专利成果；
3. 独立或协同团队开展大模型安全测试、漏洞验证及防护方案设计，落地安全增强技术，提升大模型产品的安全性、合规性与可靠性。

任职要求

必须具备的：

1. 精通大模型安全相关技术，包括但不限于：Prompt 注入、数据投毒、模型越狱、对抗样本生成、模型窃取、隐私泄露防护、输出内容合规性检测等；
2. 具备较强的代码开发能力，熟练掌握至少一种编程语言（Python、C++、Java 等），能够独立开发大模型安全测试工具、漏洞挖掘脚本或防护方案；
3. 熟悉主流大模型（如 GPT、LLaMA、Qwen、ERNIE 等）的架构特性，了解模型训练框架（PyTorch、TensorFlow 等），能够基于框架进行安全相关的实验与验证；
4. 掌握网络安全、数据安全相关知识，了解常见的安全协议、加密算法，具备漏洞挖掘、渗透测试相关经验者优先。

可以加分的：

1. 在安全领域的顶级工业会议（BlackHat、DEFCON）以及学术会议（BIG4）发表研究成果者优先；
2. 参与过国家级、省级大模型安全相关科研项目，或有头部互联网、AI 企业大模型安全研究相关工作经历者。

特色标签

Burp Suite、C/C++、Docker、Java、Nmap、Python、PyTorch框架、TensorFlow框架、不当输出识别、内容安全、内容安全检测、发表算法相关优秀论文、合规、大模型算法、大语言模型安全、安全、安全产品/平台开发经验、安全体系架构和研发、对抗扰动样本、对抗攻击样本、成员推断泄露、指令注入、提示词注入、攻防对抗经验、数据安全、数据污染、模型复制、模型提取、模型逃逸、模型逆向工程、模型隐私泄露、深度学习训练框架、渗透测试经验、熟悉Linux/Unix系统、生成式AI安全、算法工程化经验、绕过内容安全限制、网络安全、网络安全相关经验、自然语言处理算法、英文可沟通、规避对齐机制、训练数据投毒、训练数据记忆泄露、违规内容过滤、隐私、风控算法