研究型实习生-多模态实时防控推理架构优化

岗位职责

研究领域： 多模态 项目简介： 多模态大模型在图片审核中性能优异，但端到端延迟普遍超1秒，难以满足实时防控需求。受限于视觉Token冗余、跨模态计算开销大等问题。需探索分层推理架构与query引导的Token压缩机制、Kv cache优化、模型轻量化改造等，实现高精度下端到端<1s检测，支撑多模态实时安全防控落地。

任职要求

研究领域： -目前正在攻读计算机科学或相关STEM领域的学士,硕士或博士学位 -具有一种或多种通用编程语言的经验,包括但不限于: Java,C/C ++ 、Python、JavaScript或Go -具有上述研究领域的相关经验,包括行业经验或作为参与实验室研究 优先录用： -对技术研究充满热情,具有产生新思想和创新的能力; 在自学,问题分析和解决方面表现出色 -在国际会议上或核心期刊发表一份或多份出版物或论文 -至少3个月的全职工作

特色标签

KV缓存优化、Token压缩、内容安全、分层推理、分阶段推理、发表算法相关优秀论文、图像安全审核、图像审核、图像算法、多模态基础模型、多模态大语言模型、多模态学习、多模态理解、多模态算法、多模态融合、大模型算法、安全、实时内容风控、实时安全防控、实时风险防控、层次化推理架构、查询引导的Token压缩、模型加速/性能优化、模型压缩、注意力缓存优化、深度学习、算法工程化经验、视觉Token冗余、视觉内容审核、跨模态交互、跨模态建模、跨模态推理、轻量级模型、键值缓存优化、高效模型部署