面向星地协同网络的联邦边缘学习方法研究

目前地面蜂窝网络无法实现全球广域覆盖,同时抗毁性不高。低轨卫星网络的加入,弥补了地面蜂窝网络的不足。二者协同成为星地协同网络后可以打破两种网络之间互相独立的现状并结合它们的优点,是未来的发展趋势。在对星地协同网络中海量设备产生的大量数据进行分析处理时,易出现隐私信息泄露和数据孤岛问题。为解决上述问题,提出一种包含分层聚合和用户关联策略的联邦边缘学习算法。该算法通过分层聚合来适配星地协同网络,并通过用户关联策略实现时延和模型精度的联合优化。仿真表明,所提出的算法可以使协同网络中进行联邦边缘学习的全过程时延较低,同时可以得到较高的模型测试精度。     

基于“联邦学习+AIOT”的智慧化工边缘云研究与实践

研究通过联邦学习技术与云计算技术的融合,实现了可靠、安全、高效且较低成本的云边融合智能云平台,以较小的资源承载化工企业复杂异构的数据业务,实现了信息化助力企业生产,整体实践效果优。同时吸取了众多化工专业方面的经验,以深度学习技术辅助重构化工生产系统,研究出更科学的化工工艺提升方法,帮助化工企业针对性提升生产工艺和效率。     

异构物联网下资源高效的分层协同联邦学习方法

物联网(IoT)设备资源存在高度异构性,严重影响联邦学习(FL)的训练时间和精度。已有研究未充分考虑物联网设备资源的异构性,且缺乏异构设备间协同训练机制的设计,导致训练效果有限且设备的资源利用率较低。为此,该文提出资源高效的分层协同联邦学习方法(HCFL),设计了端边云分层混合聚合机制,考虑边缘服务器的差异化参数聚合频率,提出自适应异步加权聚合方法,提高模型参数聚合效率。提出资源重均衡的客户端选择算法,考虑模型精度与数据分布特征动态选取客户端,缓解资源异构性对联邦学习性能的影响。设计自组织联邦协同训练算法,充分利用空闲物联网设备资源加速联邦学习训练进程。仿真结果表明,在不同资源异构状态下,与基线方法相比,模型训练时间平均降低15％,模型精度平均提高6％,设备平均资源利用率提高52％。     

联邦学习中的模型逆向攻防研究综述

联邦学习作为一种分布式机器学习技术可以解决数据孤岛问题,但机器学习模型会无意识地记忆训练数据,导致参与方上传的模型参数与全局模型会遭受各种隐私攻击。针对隐私攻击中的模型逆向攻击,对现有的攻击方法进行了系统总结。首先,概括并详细分析了模型逆向攻击的理论框架;其次,从威胁模型的角度对现有的攻击方法进行总结分析与比较;再次,总结与比较了不同技术类型的防御策略;最后,对现有模型逆向攻击常用的评估标准及数据集进行汇总,并对模型逆向攻击现有的主要挑战以及未来研究方向进行总结。     

基于自适应梯度压缩的高效联邦学习通信机制研究

针对物联网(IoTs)场景下,联邦学习(FL)过程中大量设备节点之间因冗余的梯度交互通信而带来的不可忽视的通信成本问题,该文提出一种阈值自适应的梯度通信压缩机制。首先,引用了一种基于边缘-联邦学习的高效通信(CE-EDFL)机制,其中边缘服务器作为中介设备执行设备端的本地模型聚合,云端执行边缘服务器模型聚合及新参数下发。其次,为进一步降低联邦学习检测时的通信开销,提出一种阈值自适应的梯度压缩机制(ALAG),通过对本地模型梯度参数压缩,减少设备端与边缘服务器之间的冗余通信。实验结果表明,所提算法能够在大规模物联网设备场景下,在保障深度学习任务完成准确率的同时,通过降低梯度交互通信次数,有效地提升了模型整体通信效率。     

移动边缘计算中基于联邦学习的视频请求预测和协作缓存策略

随着互联网社交平台的崛起和移动智能终端设备的普及,自媒体短视频、直播等视频业务蓬勃发展,人们对高质量视频服务的需求也急剧上升。与此同时,连接到核心网络的大量智能设备增加了回程链路的负载,传统的云计算难以满足用户对视频服务的低延迟要求。移动边缘计算(MEC)通过在网络边缘部署具有计算和存储能力的边缘节点,通过在更靠近用户的边缘侧提高计算和存储服务,降低了数据传输时延进而缓解了网络阻塞。因此,基于MEC架构,该文充分利用网络边缘资源,提出了基于联邦学习的视频请求预测和视频协作缓存策略。通过利用多个边缘节点对提出的深度请求预测模型(DRPN)视频请求预测模型进行联邦训练,预测视频未来的请求情况,然后量化缓存内容所带来的时延收益并协作地以最大化该时延收益为目的进行缓存决策。该文分析了真实数据集MovieLens,模拟了视频请求缓存场景并进行实验。仿真结果表明,相比于其他策略,所提策略不仅能有效降低用户等待时延,在有限的缓存空间中提高内容多样性,从而提高缓存命中率,降低缓存成本,还能降低整个系统的通信成本。     

基于生成模型的联邦学习隐私保护算法

在联邦学习中,交换模型参数或梯度信息通常被视作是安全的。但近期研究表明,模型参数或者梯度信息也会导致训练数据的泄露。基于保护客户端数据安全的目的,提出了一种基于生成模型的联邦学习算法。为了验证该算法的有效性,在DermaMNIST数据集上进行了仿真实验,采用梯度泄露攻击对算法进行验证。实验结果表明,提出的基于生成模型的联邦学习算法与联邦学习经典算法在准确率上仅仅相差0.02%,并且通过MSE、PSNR、SSIM等评价指标可以判断出该算法可以有效地保护数据隐私。     

物联网中带有隐私保护的鲁棒联邦学习研究

联邦学习允许数据不出本地的情况下实现数据价值的有效流动,被认为是物联网(IoT)场景下兼顾数据共享与隐私保护的有效方法。然而,联邦学习系统易受拜占庭攻击和推理攻击的影响,导致系统的鲁棒性和数据的隐私性受损。物联网设备的数据异构性和资源瓶颈,也为带有隐私保护的鲁棒聚合算法设计带来巨大挑战。该文提出面向异构物联网的带有数据重采样的鲁棒聚合方法Re-Sim,通过测量方向相似性和标准化更新幅度实现模型的鲁棒聚合,并采用数据重采样技术增强数据异构环境下模型的鲁棒性。同时构建轻量安全聚合协议(LSA),在保证数据隐私性的同时兼顾模型鲁棒性、准确性和计算开销,并从理论上对协议的隐私性进行了分析。仿真结果表明,该方案能在数据异构情况下有效抵抗拜占庭攻击和推理攻击,与基线方法相比,该文所提方案精度提高1%～3%,同时减轻客户端侧计算开销79%。     

基于DRL的联邦学习节点选择方法

为了应对设备差异化计算能力及非独立同分布数据对联邦学习性能的影响,高效地调度终端设备完成模型聚合,提出了一种基于深度强化学习的设备节点选择方法.该方法考虑异构节点的训练质量和效率,筛选恶意节点,在提升联邦学习模型准确率的同时,优化训练时延.首先,根据联邦学习中模型分布式训练的特点,构建基于深度强化学习的节点选择系统模型...     

基于联邦学习模型的电力客户隐私保护方法

为提升电力物联网中用户数据安全性,提出了电力物联网LDP联邦学习框架。该框架将物联网用户分为常规用户和敏感用户两部分。常规用户通过与电力供应商互通模型与数据,基于横向联邦学习技术学习局部模型并参与更新全局模型;敏感用户利用异构联邦迁移学习技术将全局模型关联到局部模型中,从而保证敏感用户数据安全性。将联邦学习框架应用于GRU、LSTM网络,验证了所提联邦学习框架能够提升网络性能。     

一种基于合同理论的可激励联邦学习模型

针对目前较少研究去中心化联邦学习中的激励机制设计,且已有联邦学习激励机制较少以全局模型效果为出发点的现状,该文为去中心化联邦学习加入了基于合同理论的联邦学习激励机制,提出一种新的可激励的联邦学习模型。使用区块链与星际文件系统(IPFS)取代传统联邦学习的中央服务器,用于模型参数存储与分发,在此基础上使用一个合同发布者来负责合同的制定和发布,各个联邦学习参与方结合本地数据质量选择签订合同。每轮本地训练结束后合同发布者将对各个本地训练模型进行评估,若满足签订合同时约定的奖励发放条件则发放相应的奖励,同时全局模型的聚合也基于奖励结果进行模型参数的聚合。通过在MNIST数据集以及行业用电量数据集上进行实验验证,相比于传统联邦学习,加入激励机制后的联邦学习训练得到的全局模型效果更优,同时去中心化的结构也提高了联邦学习的鲁棒性。     

MSRA-Fed:A Communication-Efficient Federated Learning Method Based on Model Split and Representation Aggregate

Recent years have witnessed a spurt of progress in federated learning,which can coordinate multi-participation model training while protecting the data privacy of participants.However,low communication efficiency is a bottleneck when deploying federated learning to edge computing and IoT devices due to the need to transmit a huge number of parameters during co-training.In this paper,we verify that the outputs of the last hidden layer can record the characteristics of training data.Accordingly,we...     

基于云计算的农业物联网应用模式构建

随着互联网的发展和普及,智能手机与云服务应用程序（APP）的结合可以满足人们连接到互联网后的控制需求。用户可以根据不同的需要建立多种组合,匹配不同类型的传感器和执行器,达到自动监控的目的。为了支持这些应用程序,需要一个稳定且高度可扩展的平台。云计算是支持物联网的优秀平台,文中探讨了基于云计算平台的农业物联网应用模式的构建。     

基于事件触发的通信有效联邦学习算法

由于实际网络的带宽是有限的,因此客户端和中心服务器之间的通信成为联邦学习的一个主要瓶颈。为了减小通信开销,该文引入事件触发机制,提出一个通信有效的联邦学习算法(FedET)。首先,客户端利用事件触发机制判断是否需要向中心服务器发送当前模型。然后,中心服务器基于收到的信息进行模型聚合。具体地,在每个通信轮次,客户端完成本地模型训练之后,将模型更新和触发阈值进行比较,若触发通信,则将信息进行压缩后发送给中心服务器。进一步地,分别对满足凸的、PL(Polyak-Łojasiewicz)条件的和非凸的光滑目标函数,该文分析了所提算法的收敛性并给出了证明。最后,在两个标准的数据集上进行仿真实验。实验结果验证了所提算法的可行性和有效性。     

基于物联网的化工园区安监防灾系统架构及组网技术研究

以物联网的工程应用为研究背景,介绍物联网体系架构,并分析化工园区安监防灾物联网的系统需求,设计了安监防灾系统的网络架构及其组网方案。最后分析该系统在工程建设和应用中尚存的问题,并提出可行解决方案。     

基于谱聚类的傅里叶个性化联邦学习研究

为了缓解联邦学习中跨不同用户终端数据非独立同分布(non-IID)引起的负面影响,该文提出一种基于谱聚类的傅里叶个性化联邦学习算法。具体地,构建一个面向图像分类识别的云边端协同个性化联邦学习模型,提出在云端协同下通过谱聚类将用户终端划分为多个聚类域,以充分利用相似用户终端学到的知识提升模型性能。其次,设计边端协同的局部联邦学习方法,通过代理模型在用户终端对个性化局部模型执行恢复与再更新的操作,可有效恢复聚合过程中丢失的本地知识。进一步地,设计云边协同的傅里叶个性化联邦学习方法,即云服务器通过傅里叶变换将局部模型参数转换到频域空间上进行聚合,为每个边缘节点定制高质量的个性化局部模型,可使全局模型更适用于各个分布式用户终端。最后,实验结果表明,与现有相关算法相比,所提算法收敛速度更快,准确率提高了3%～13%。     

物联网商业模式探讨

物联网在应用上显示为复杂多样,涉及层面丰富,在物联网浪潮到来之际,商业模式还模糊不清,将阻碍业务的迅速推广与大规模发展,有效的商业模式是物联网业务发展的关键,本文将对物联网领域现有商业模式进行分析与探讨,并指出适合电信运营商运营的物联网商业模式。