基于人体骨架特征学习的动作识别

动作识别是计算机视觉研究中的一个基本但具有挑战性的问题.在过去的几年中,许多基于RGB视频的识别技术已经得到了巨大的发展,并取得了显著的成果.但是,处理RGB视频可能非常耗时.其中,在动作识别领域,人体骨架数据具有轻量级的特点,同时对人体外观、环境背景等信息具有不变性,因此,这种数据模态受到了越来越多的关注.然而,基于人体骨架的动作识别面临两个问题:人体骨架数据的噪声问题和数据标注的依赖问题.噪声问题是指骨架数据中存在噪声影响数据的准确性,而数据标注依赖问题则是指在监督学习中,需要大量的标签数据进行训练.本文针对人体骨架数据在采集中的噪声问题,提出了一种基于噪声适应的动作识别模型,设计了回归模型和生成模型充分利用不同场景下的噪声数据特点.并且针对人体骨架数据过于依赖标签数据,利用自监督学习方法,提出了一个基于多任务自监督学习的动作识别方法.     

基于双流多关系GCNs的骨架动作识别方法

为了更好地提取并融合人体骨架中的时序特征和空间特征,文章构建了融合时空域注意力模块的多流卷积神经网络(AE-MCN)：针对目前大多数方法在建模骨架序列相关性时因忽略了人体运动特性而没有对运动尺度进行适当建模的问题,引入了自适应选取运动尺度模块,从原尺度动作特征中自适应地提取关键时序特征;为了更好地对特征进行时间维度和空间维度上的建模,设计了融合时空域的注意力模块,通过对高维时空特征进行权重分配,进而帮助网络提取更有效的动作信息。最后,在3个常用的人体动作识别数据集(NTU60、JHMDB和UT-Kinect)上进行了对比实验,以验证AE-MCN网络的有效性。实验结果表明：与ST-GCN、SR-TSL等网络相比,AE-MCN网络都取得了更好的识别效果,证明AE-MCN网络可以对动作信息进行有效的提取与建模,从而获得较好的动作识别性能。     

基于BSN和神经网络的人体日常动作识别方法

基于人体传感器网络(BSN)对人体动作的识别,在远程医疗服务中具有重要应用．搭建了一个基于BSN的人体动作监测平台,实验中通过固定在人体腰部和大腿上的两个加速度传感器节点,来采集人体日常生活中的7个动作所产生的加速度信号．特征提取包含传感器节点在3个轴上信号的时域和频域信息,并采用神经网络和分层的方法融合信息对7个动作进行分类和识别．实验结果表明,应用所搭建的BSN平台和识别方法,采用两个传感器节点识别人体日常生活中的7个动作具有很高的正确率．     

基于机器学习的人体动作深度信息识别方法研究

为了实现人体动作的准确检测识别,提出基于机器学习的人体动作深度信息识别方法,构建人体动作的三维图像采集模型,建立人体动作三维重建图像的表面结构重构模型,结合模糊度特征提取方法对人体动作三维重建图像进行多尺度分解,采用三维空间结构重组的方法进行人体动作细节特征识别,建立人体动作图像的多维分割模型;采用机器学习算法进行人体动作的细节特征分类识别,建立人体动作深度信息的提取和分类模型,在机器算法下实现人体动作的深度信息检测和多维识别。仿真结果表明,采用该方法进行人体动作深度信息识别的准确度较高,特征分辨力较好,具有很好的人体动作信息检测和辨识能力。     

基于3DCNN的人体动作识别方法

针对三维卷积神经网络在特征提取过程中,极易出现神经元被抑制直接失去活性的现象,提出一种改进的人体动作识别模型,在卷积过程中使用Leaky ReLU激活函数,对静默神经元恢复更新利用,深层次摄取图像之间的时间和空间信息,丰富神经网络特征结构;并且结合批量归一化处理,使信息素点规则化重新分布,有助于高效完成特征提取,提高收敛速度。在UCF-50公共数据集上的实验结果表明,该模型的准确率达到91.25%,相比其他方法至少提高6%,验证了模型的有效性。     

基于高斯噪声与ST-GCN的人体骨架动作识别

针对基于ST-GCN的骨架动作识别中人工预定义的邻接矩阵结构单一、难以捕捉到非相邻关节点之间的相关性这一问题,提出了一种基于高斯噪声的扰动机制.在人工预定义的骨架图邻接矩阵上引入高斯噪声,利用该噪声扰动ST-GCN中固定的邻接矩阵,捕捉非相邻关节点之间的相关性,运用该方法在具挑战性的NTU RGB+D和Kinetics-Skeleton两个大规模数据集上进行了分类识别实验,结果表明：该方法在两大数据集上的识别精度高达95.34%和36.43%,在节约计算量的前提下有效地提高了动作识别的性能.     

基于BSN和神经网络的人体日常动作识别方法

基于人体传感器网络(BSN)对人体动作的识别,在远程医疗服务中具有重要应用。搭建了一个基于BSN的人体动作监测平台,实验中通过固定在人体腰部和大腿上的两个加速度传感器节点,来采集人体日常生活中的7个动作所产生的加速度信号,特征提取包含传感器节点在3个轴上信号的时域和频域信息,并采用神经网络和分层的方法融合信息对7个动作进行分类和识别。实验结果表明,应用所搭建的BSN平台和识别方法,采用两个传感器节点识别人体日常生活中的7个动作具有很高的正确率。     

基于BSN和CHMMs的人体日常动作识别方法研究

应用人体传感器网络(body sensor networks,BSN)识别人体日常动作可以有效地提高对老年人、慢性病人,以及术后病人等特殊人群的医疗监护质量.为此建立了一个基于BSN的人体日常动作监督平台,应用采集到的加速度信号识别9个常见的人体日常动作.针对动作识别过程中存在的多传感器数据融合问题,提出一种基于耦合隐马尔可夫模型(coupled hidden Markov models,CHMMs)的动作识别方法.实验结果显示,与已有动作识别方法相比,提出的基于CHMMs的动作识别方法的识别正确率有明显的提高.     

骨架关节点跟踪的人体行为识别方法

基于彩色图像的运动检测和分割方法难以获取完整的人体骨架,并且只能提取关节点的二维坐标信息,而 Kinect 传感器能通过捕获深度图像来重建完整的人体骨架关节点三维模型,提高了骨架关节点模型的表示精度。本文通过 Kinect 的骨架跟踪模块对人体的骨架关节点模型进行提取;然后,提出一种坐标转换方法得到人体骨架关节点的三维坐标表示,利用 k 均值聚类将关节点坐标量化为符号序列;最后,建立离散隐马尔可夫模型来进行人体行为识别。通过自建的数据集进行实验,实验结果表明：本方法能取得94％的识别率。     

基于骨架的自适应尺度图卷积动作识别

基于骨架的动作识别任务中,一般将骨骼序列表示为预定义的时空拓扑图.然而,由于样本的多样性,固定尺度的拓扑图往往不是最优结构,针对样本特性构建自适应尺度的骨骼拓扑图能够更好地捕捉时空特征;另外,不同尺度的骨骼图能够表达不同粒度的人体结构特征,因此对多个不同尺度的拓扑图进行特征提取与融合是有必要的.针对这些问题,提出了一种自适应尺度的图卷积动作识别模型.该模型包含自适应尺度图卷积模块和多尺度融合模块两部分.自适应尺度图卷积模块基于先验与空间注意力机制,构建关键点的活跃度判决器,将活跃点细化为小尺度结构、非活跃点聚合为大尺度结构,在加速节点间特征传递的同时最小化特征损耗;多尺度融合模块基于通道注意力机制,动态融合不同尺度的特征,进一步提升网络的灵活性;最后,综合关键点、骨骼、运动信息实现多路特征聚合的动作判别,丰富模型的特征表达.结果表明:该算法在NTU-RGBD数据集的CS和CV子集上分别取得了89.7%和96.1%的分类准确率,显著提高了动作识别的准确性.     

基于双流多关系GCNs的骨架动作识别方法

基于图卷积网络(graph convolutional networks,GCNs)的骨架动作识别方法只能对关节点间的单一关系进行建模,缺少描述多种关系的能力.借鉴知识图谱描述实体之间不同关系的思想,提出一种基于关节点流和肢体流的双流多关系GCNs人体骨架动作识别方法,对图结点间的自然连接关系、对称关系和全局关系进行建...     

基于多特征融合和分层反向传播增强算法的人体动作识别

为了推广神经网络在人体动作识别中的应用,设计了一种基于分层识别框架和增强算法的动作识别系统,该系统融合了光流直方图、有向梯度直方图、Hu的矩特征、分块剪影和自相似矩阵等多种特征.为了与反向传播网络的增强相匹配,将传统的二分类增强算法扩展到多分类版本.此外,系统采用了包含预判决和后判决的分层识别框架,前者通过分析运动显著区域的位置,把动作粗分为几个子类,后者则利用额外的特征进一步提高识别准确率.基于Weizmann和KTH数据库的实验结果表明:神经网络相对于常用的支持向量机具有明显的优越性;结合分层识别的反向传播增强算法可以极大减少运算代价与动作类间的混淆,识别准确率较高.     

基于LMP-KCPA的人体动作识别方法

为解决人体动作识别中由于特征描述子的维数过高, 无法表征目标变化的本质运动变化信息的问题,给出了核主成分分析(KPCA: Kernel Principal Component Analysis)对局部运动模式描述子(LMP: Local Motion Pattern)降维方法。首先利用LMP 描述子对人体运动目标进行描述, 然后利用KPCA 算法对局部运动模式特征
描述子进行处理, 获取新的特征描述方式。通过MATLAB 仿真, 与Cuboids+SVM 和LMP+SR 两种算法对比结果表明, 基于LMP鄄KPCA 的人体动作识别, 特征描述子维数明显降低, 可以表征人体运动目标变化关键信息,识别率比Cuboids+SVM 算法提高1. 1%, 比LMP+SR 提高1%。     

基于多特征融合及Transformer的人体跌倒动作检测算法

为解决跌倒动作的检测和空间定位问题,本文以YOLOv3目标检测算法为基础,提出了一种全新的用于人跌倒动作识别的检测架构.本算法将视频拆分成一系列的图片序列,并在图片序列中指定关键帧.通过3D卷积神经网络提取视频序列中的时间维度特征,2D卷积神经网络提取关键帧中的空间维度特征,经通道融合机制在不同尺度的预测特征层进行通道...     

结合注意力机制与时空特征融合的长时程行为识别方法

为了建立基于视频行为识别的长时程图像序列的时空信息模型,文章提出了一种嵌入注意力的时空特征融合网络(attention-embedded spatial-temporal feature fusion network,ASTFFN)的深度神经网络模型.AST FFN将一个包含动作的长时程图像序列分割成多个重叠的片段,并...     

基于关键帧轮廓特征提取的人体动作识别方法

为了在人体动作识别中获得更加准确的前景分割和防止关键信息的几何丢失,提出一种利用关键帧提取关键姿势特征的人体动作识别方法.由于背景建模和差分获得的前景不准确,利用基于纹理的灰度共生矩阵提取动作轮廓,并对原图像帧进行分割;然后计算人体Blob的能量,选取最大信息内容的帧作为关键帧,关键帧的获取使得特征提取对时间的变化具有一定鲁棒性;在特征分类识别阶段,为了提高分类的准确性,提出使用支持向量机-K最近邻(support vector machine-k nearest neighbor,SVM-KNN)混合分类器完成分类.在Weizmann,KTH,Ballet和TUM 4个公开数据集上实验验证了该方法的有效性.相比于局部特征方法、全局特征方法和关键点方法等,该方法获得了更高的识别率.此外,实验结果表明,该方法在KTH和Weizmann数据集上的早期识别效果优于Ballet数据集.     

Kinect骨骼数据驱动的人体动作二维特征融合与动作识别

针对在高噪声环境中人体动作识别存在准确度和稳定性不高的问题,本文采用二维空间特征融合的方法,提出一种基于Kinect骨骼数据的人体动作识别算法。从人体三视图的投影来提取运动特征,可以消除人体自遮挡的影响。针对人体复杂动作,算法采用分层策略。利用Kinect获得的骨骼关节点坐标,根据人体三视图投影提取二维空间的人体关节角特征,并运用支持向量机(SVM)方法对动作进行粗分类;进一步提取二维投影平面内的关节位置矢量、角速度和加速度特征,运用隐马尔可夫模型(HMM)的方法对动作进行细分类。利用本文方法对公开数据集MSR Action 3D实验,平均识别率达93.37%,实验结果表明,该方法准确性较高,鲁棒性较强。     

融合形状和运动特征的动作识别计算模型

针对视觉系统在动作识别过程中如何利用形状与运动信息的问题,提出了一种融合形状特征和运动特征的人体动作识别方法.该方法模拟视觉皮层的背侧和腹侧通路,建立了基于双通道理论的人体动作特征计算模型.计算模型分别利用2D Gabor滤波器和3D时空滤波器模拟腹侧和背侧通路中视觉皮层简单细胞,提取动作的时空信息,通过采样、局部遍历、模板学习一系列操作分别提取动作的时空特征,并采用线性融合方法获取描述动作的特征向量,构建了采用支持向量机(SVM)进行动作分类的动作识别系统.实验结果表明:该方法的识别性能优于同类型的识别方法,取得了较好的识别效果.     

多模态语义协同交互的图文联合命名实体识别方法

针对现有多模态命名实体识别(Multimodal Named Entity Recognition, MNER)研究中存在的噪声影响和图文语义融合不足问题,本文提出一个多模态语义协同交互的图文联合命名实体识别(Image-Text Joint Named Entity Recognition, ITJNER)模型。ITJNER模型加入图像描述作为额外特征丰富了多模态特征表示,图像描述可以帮助过滤掉从图像特征中引入的噪声并以文本形式总结图像语义信息;还构建了多模态协同交互的多模态语义融合模型,可以加强多模态信息融合,并减少图像信息的语义偏差。在Twitter-2015和Twitter-2017数据集上进行方法实验,分析实验结果并与AdaCAN、UMT、UMGF、Object-AGBAN等方法进行对比。相较于对比方法中的最优方法UMGF,本方法在Twitter-2017数据集上的准确率、召回率、F1值分别提高了0.67%、2.26%、0.93%;在Twitter-2015数据集上,召回率提高了0.19%。实验结果验证了本方法的有效性。     

融合全局与局部特征的UWB雷达人体动作识别算法

为了消除雷达信号中杂波和噪声对人体动作识别的干扰,提高小样本数据下动作识别的精度,在去除杂波及噪声干扰的基础上,提出一种融合全局与局部特征的超宽带（ultra-wideband,UWB）雷达人体动作识别算法。用动目标指示（moving target indication,MTI）结合自适应中值滤波对雷达原始回波信号进行预处理,再对人体动作的雷达二维特征图像利用主成分分析（principal component analysis,PCA）提取主要分量作为全局特征表征,并用二维离散小波变换（2D discrete wavelet transform,2D-DWT）结合奇异值分解（singular value decomposition,SVD）获取特征图像在不同方向与尺度划分下动作的局部特征表征,并将全局与局部特征进行串联融合;根据融合特征,在网格搜索算法（grid search,GS）优化的支持向量机（support vector machines,SVM）模型中实现人体动作的识别分类。实验结果表明,该算法能有效获取雷达信号中的人体动作信息,平均识别准确率为95.63%,具有良好的识别性能。