多模态情感分析模型对抗攻击评估与防御方法

为系统探究多模态情感分析模型在对抗攻击下的鲁棒性,采用3种经典对抗攻击方法(快速梯度符号方法、投影梯度下降和动量迭代快速梯度符号方法)、2种模态数据输入(视觉和语音)和4种不同的数据特征融合方法(特征相加、特征拼接、多模态低秩双线性和多模态Tucker融合),对比各种组合下模型的性能表现,研究影响多模态情感分析模型鲁棒性的内在因素．提出一种基于互信息最大化的多模态防御方法,通过减少输入模态特征中的冗余信息提升模型鲁棒性．研究结果表明：在非线性特征融合及双模态数据输入组合下,模型抵御对抗攻击效果最佳;在应用互信息最大化防御方法后,模型性能及抵御攻击能力均可得到有效提升．     

语音识别对抗攻击方法综述

用于语音识别(SR)的深度神经网络在提供强大的语言计算和分析能力的同时,极易受到对抗性攻击影响,在人为不可察觉的情况下,造成语音转录错误,甚至是执行特定非法控制命令．本研究聚焦语音识别对抗攻击,首先,从攻击模型的角度,以攻击演变的顺序对语音对抗攻击方法进行分类论述;然后,根据SR系统的输入方式、处理过程的特点,分析现有方法克服空中条件、优化攻击效果、添加不可察觉音频扰动的实现原理及相关的优势与劣势;最后,对语音识别所面临的技术挑战进行总结,并对未来研究发展方向进行展望．     

推荐系统与隐私保护研究综述

推荐系统为了能够给用户提供更好的推荐服务,须要收集大量的用户个人信息,在收集这些信息的同时增加了用户隐私泄露的风险．首先,介绍了推荐系统中的关键技术,包括基于协同关系的实体表示学习和基于图模型的实体表示学习;然后,通过对相关研究的归纳和总结,将推荐系统中的隐私保护问题按照用户敏感信息类型进行分类整理,主要分为对用户私有敏感属性的保护、对用户与物品历史交互信息的保护和对用户提交给推荐系统的信息的保护三类;在此基础上,对匿名化、差分隐私、联邦学习和对抗学习四种关键隐私保护技术进行了总结和分析,并重点梳理了这些技术的实现方法、适用场景和优缺点;最后,分析了考虑隐私保护的推荐算法中存在的问题,并尝试给出了未来可能的研究方向．