他深耕科研,探索前沿
聚焦人工智能安全研究
发表顶刊顶会论文4篇
申请国家发明专利2项
参与国家级科研项目3项
他勇于突破,竞展锋芒
在算法攻防赛场不断挑战极限
斩获全国智能算法对抗挑战赛亚军
担任CVPR Workshop主席
组织国际攻防竞赛
他胸怀责任,传递学术力量
担任核心课程助教
累计服务同学600余名
担任国际顶级会议审稿人
他就是——
北航沈元奖章获得者
计算机学院2023级硕士研究生
张鑫伟
“每一个伟大的突破,都始于对问题本质的执着追问。”张鑫伟常把科研比作解三阶魔方,在他看来,二者有着相似的逻辑:唯有拆解复杂结构、辨识关键“色块”,才能找到还原问题本质的路径。锚定人工智能安全这一国家关键领域,张鑫伟正用魔方“辨色识核”的思考方式,在复杂的智能系统中拆解安全隐患。
硕士阶段,他已在国际顶刊顶会发表论文4篇,其中3篇为第一作者或学生第一作者,每一项成果都直击人工智能安全的痛点。
在多媒体领域顶级会议ACM Multimedia上,他提出了首个面向动态驾驶场景的车道检测物理后门攻击方法,揭示了自动驾驶系统中潜在的安全隐患——哪怕只是道路或摄像头上的一小块污渍,都可能误导车辆的车道信息识别,引发安全事故。该研究通过构建多种动态场景评测方案,显著提升攻击成功率,并为自动驾驶系统安全评估提供了新的研究路径。
在AI领域顶级期刊IJCV上,他提出预训练视觉模型后门攻击的新范式,揭示预训练模型中潜藏的安全风险,实现跨任务稳定触发攻击,为构建可信AI模型提供了重要研究基础。
除了前沿理论探索,他更致力于将科研成果转化为教学资源,参与编写教育部卓越工程师教育培养计划核心课程教材《人工智能安全导论》。在不断探索中,他逐渐形成自己的科研理念——在复杂系统中辨识关键变量,在技术发展中守护安全底线。
“真正有价值的研究,应当在国家需求与技术创新之间找到交汇点。” 张鑫伟如是说。于他而言,科研不仅需要探索未知,也需要回应时代需求。围绕国家在人工智能安全领域的重大需求,张鑫伟作为学生骨干参与国家级项目研究工作,参与构建人工智能模型安全评测体系。
在项目中,他参与设计多维度安全评测指标体系,并研发相关测试方法与工具,为国产智能平台的安全评估与互联互通提供技术支持。相关研究成果也被应用于FlagEval天秤大模型评测平台,为国产大模型的安全评估与能力测试提供关键技术支撑。
实验室里深耕理论,竞技场上淬炼锋芒。在首届全国智能算法对抗挑战赛中,他参与提出“模型博弈增强—主动策略建模—软硬融合适配”的黑盒攻击框架,在高强度对抗中实现了高效、稳定的攻击策略,最终从全国顶尖参赛队伍中脱颖而出,斩获全国亚军。
这场竞赛不仅检验了算法能力,更让他深刻理解到:人工智能安全不仅是理论问题,更是关乎未来技术体系的重要防线。
在科研之外,张鑫伟始终坚持将知识与责任结合,将个人成长融入学术共同体与社会发展之中。”在他看来,“科研,不止于探索未知,更在于担当责任。它既是个人成长的阶梯,更是服务社会、贡献国家的方式。”
张鑫伟凭借扎实的专业功底与突出的科研素养,获得2025年北航优秀研究生、2024及2025年国家奖学金与学业奖学金一等奖、2024年小米奖学金等多项荣誉。他不仅深耕自我成长,更甘愿做同学们身边可靠的领航者。作为《机器学习》《智能安全》等三门课程的助教,他精心组织习题精讲、打磨实验课程设计,耐心拆解复杂算法原理,累计服务600余名同学。作为计算机学院学术领航员,他多次组织科研方法分享与技术交流活动,为低年级同学介绍人工智能安全领域的发展前沿,激发更多同学投身科研探索。在社会服务中,他主动投身国产开源平台建设,贡献自己的力量。从评测指标、测试样例与工具体系三个维度构建完整评测方案。
在国际学术舞台上,他担任ICML、ICLR、NeurIPS等国际顶级会议审稿人,累计审稿近30篇,为全球学术交流贡献青年力量。同时,他还担任CVPR Workshop主席,组织全球人工智能攻防安全竞赛,推动国际学术界在人工智能安全领域的合作与交流,向世界展现中国青年的风采。
以求索之心,探索人工智能安全前沿
以创新之志,在科技竞赛中不断突破
以责任之肩,在科研实践中勇担使命
从魔方的复杂结构到智能系统的安全机制
张鑫伟用理性与热爱
不断还原科技探索的“最优解”
愿每一位北航学子
都能在自己的赛道上步履不停
绽放属于自己的光彩!
出品|航小萱®工作室
素材来源丨计算机学院
编辑|王佳琦 胡译文