湖畔问道·兴竹论坛将于10月27日举办多模态生成式人工智能的安全与隐私保护讲座

讲座题目

多模态生成式人工智能的安全与隐私保护

主讲人

（单位）

李嘉琦
（香港大学）

主持人

（单位）

孟媛

（东南大学）

讲座时间

10月27日（周二）15:00

讲座地点

综合楼313

主讲人简介

李嘉琦，香港大学博士后研究员。本科毕业于苏州大学计算机科学专业，硕士毕业于英国爱丁堡大学数据科学专业，博士毕业于东南大学网络空间安全专业，师从漆桂林教授。研究方向聚焦多模态大模型的机器遗忘、知识编辑、多模态后训练，以及多模态生成式人工智能的隐私与安全。近四年以第一作者在NeurIPS、ICLR、ACL、ACM MM、IEEE TIFS 等 CCF-A 类顶级会议与期刊发表论文 9 篇，谷歌学术总引用逾 400 次，其中 NeurIPS 2024 工作 Single Image Unlearning 单篇被引超过 100 次。担任 ICML、NeurIPS、ACL、EMNLP、ACM MM 等国际顶会审稿人，曾获国家奖学金、东南大学至善奖学金等荣誉。

讲座内容摘要

多模态生成式模型在文生图与图文理解上进展迅速，但其训练数据中固化的敏感概念、可被复现的隐私信息以及难以定向移除的有害知识，也随之成为一类新的安全风险。本次报告将梳理多模态生成式人工智能在隐私与安全方面的研究现状：一方面讨论扩散模型对训练样本的记忆与复现所导致的隐私泄露，以及概念擦除在去掉敏感或侵权概念时对模型通用生成能力造成的附带损伤；另一方面讨论多模态大模型中的知识编辑与机器遗忘问题，即如何以较低代价移除指定知识、同时保持其余能力不发生退化，并使其具备可逆性与可审计性。报告将结合课题组近期在高效机器遗忘、近邻污染抑制、可逆知识外化以及细粒度多模态知识编辑评测基准等方面的工作，讨论现有方法在效率、鲁棒性与评测可靠性上的局限，并对可信多模态生成的后续方向作展望。