报告题目：基于黑箱攻击的信用卡欺诈检测模型安全性评估框架
报告人：肖进
邀请人：鲁渤
时间及地点：2024年12月20日，10:00-12:00，B312
报告摘要：
机器学习模型已经被广泛应用于信用卡欺诈检测(credit card fraud detection，CCFD)领域，然而，已有的研究主要关注模型的检测性能，很少关注其安全性。近年来，其它领域的研究表明机器学习模型很容易受到对抗攻击。目前，黑箱攻击算法最为常用。已有的黑箱攻击算法在生成对抗样本时需要向目标模型查询大量样本的标签，在现实的信用卡欺诈中很难满足这一条件。因此，本研究提出了一个基于黑箱攻击的CCFD模型安全性评估框架；在该框架下，进一步提出了一种半监督迁移黑箱攻击(semi-supervised transfer black-box attack，STBA)算法来评估已有的CCFD机器学习模型的安全性。该算法不需要向目标模型进行大量查询，而是利用半监督学习技术从无类别标签样本集中选择性标记一部分样本的类别来辅助训练替代模型，进而提高替代模型与目标模型判别函数的相似性。在两个真实CCFD数据集上进行实验，使用构建的2种不同版本的STBA算法来攻击包括深度神经网络在内的6种目标模型。结果发现，和传统的黑箱攻击算法相比，STBA算法能够进一步降低CCFD机器学习模型在生成的对抗样本集上的分类准确率；面对STBA算法生成的对抗样本，六种CCFD模型都基本丧失了识别欺诈交易的能力。这证明了本研究提出的安全性评估框架的可行性和有效性，为银行评估和提升CCFD模型的安全性提供了重要参考。
人物介绍：
肖进，研究领域智能决策，四川大学商学院教授，博导，国家万人计划哲社领军人才，国家社科重大项目首席专家，四川省突出贡献专家、四川省天府万人计划天府社科精英、四川省杰出青年基金获得者，四川省学术和技术带头人。共获得3项四川省科技进步奖二等奖，和1项四川省优秀哲社成果二等奖1项。
上一条：关于CFPS微观数据库应用的几点解读
下一条：A Theory of Opium as the Cause of the Great Divergence
【关闭】
