统计与数学学院举办“中南·统数”数据科学系列讲座(2025年22期)
通讯员:  发布人:吴志伟  发布时间:2025-10-17   浏览次数:10

(通讯员 吴志伟 闵靖)1014日上午,由统计与数学学院主办的“中南·统数”数据科学系列讲座(202522期)在文澴楼215教室举办。格拉斯哥大学数学与统计学院高级讲师杨笑尘博士受邀以“黑盒攻击方法”为主题开展前沿学术分享。本期讲座由统计与数学学院副院长王艳清教授主持,学院师生积极参与。

报告中,杨笑尘博士结合自身丰富的研究经验,系统阐述了黑盒攻击在人工智能安全领域的价值。她指出,黑盒攻击是指在无法获取模型内部结构与参数时,仅依赖输入输出信息来生成对抗样本。因更贴近实际场景,研究黑盒攻击对揭示模型脆弱性和设计防御机制具有重要意义。杨博士进一步分享了这一领域的两项最新研究:在视觉分类任务中,提出了基于贝叶斯模型平均的黑盒攻击方法,显著提高了攻击的有效性与跨模型迁移能力;在大语言模型应用中,探索了基于梯度的对抗提示技术,通过增强语义合理性实现了更自然、可解释的攻击生成。

在提问环节,师生围绕黑盒攻击的实践挑战和迁移方法等问题踊跃提问,杨笑尘博士结合具体研究案例逐一回应,现场交流深入,气氛热烈。此次报告不仅深化了师生对人工智能安全前沿动态的理解,也激发了大家对模型可信性与防御机制研究的兴趣,对推动高水平学术研究与人才培养具有积极意义。


审核人:梁娜


 
Baidu
taptap点点手机网页