研究型实习生-具身智能安全研究

岗位职责

研究领域： 人工智能安全 项目简介： Sec-VLA（安全可验证的具身智能体） 将成物理世界与AGI融合的关键组成部分。其核心价值在于解决具身智能在开放环境中安全交互的终极挑战，以不伤害人为前提，建设测评体系，保护机制等。 具身智能技术的快速发展使得智能机器人广泛应用于工业生产、办公、家庭服务、医疗辅助等众多领域。这些机器人需要频繁地与真实物理环境、物品甚至人类进行互动。然而，现实场景中的交互复杂性与不确定性大幅增加了安全风险，典型如智能机器人可能意外损坏环境物品、自身出现物理损伤或引发人员安全事故。目前，学术界与产业界多采用规划算法的成功率或任务完成效率来评估智能系统性能，这种方式难以有效衡量和预警实际交互过程中出现的物理风险。一旦具身智能系统投入真实环境，这些潜在风险可能造成严重的财产损失或人员伤害。 在这样的背景下，本课题目标在于建立一种更全面、更前瞻性的风险评估框架（评估方法，任务&数据集，仿真环境等），以系统地识别和量化具身智能在各类应用场景的风险。基准需要考虑agent与环境的物理交互，而不局限在对agent planner and model的评估，从而提升评估结果的准确性。

任职要求

研究领域： -目前正在攻读计算机科学或相关STEM领域的学士,硕士或博士学位 -具有一种或多种通用编程语言的经验,包括但不限于: Java,C/C ++ 、Python、JavaScript或Go -具有上述研究领域的相关经验,包括行业经验或作为参与实验室研究 优先录用： -对技术研究充满热情,具有产生新思想和创新的能力; 在自学,问题分析和解决方面表现出色 -在国际会议上或核心期刊发表一份或多份出版物或论文 -至少3个月的全职工作

特色标签

AI伦理与安全、AI安全、C/C++、Golang、Java、Python、交互式机器人、交互风险评估体系、人工通用智能、具身交互、具身安全测评框架、具身智能、具身智能测试环境、发表算法相关优秀论文、可验证具身智能系统、大模型算法、安全可验证具身智能体、安全评估框架、实体交互、实体智能、嵌入式智能、强人工智能、强化学习、智能系统安全、服务机器人、机器人仿真平台、机器学习、深度学习、物理仿真环境、物理智能、环境交互、算法工程化经验、自主机器人、通用人工智能