多模型加权融合机制的石墨纯度识别

针对人工识别的效率低及单一卷积神经网络提取特征的遗漏问题,提出了多模型加权融合机制的石墨纯度识别算法.在自建小样本数据集上,进行离线扩充和在线增强,提高模型的泛化能力,减少深层CNN的过拟合问题;结合迁移学习,利用优化的AlexNet和ResNet50构建双通道卷积神经网络,提取石墨图像的深层次特征,并将两者的特征进行...     

基于多特征与卷积神经网络的SAR图像分类方法

针对合成孔径雷达图像的分类优化方法,提出一种基于多特征与卷积神经网络的SAR图像分类方法Canny-WTD-CNN.将Canny算子提取的边缘特征,与小波阈值去噪法提取的小波特征进行自适应融合,作为卷积神经网络的输入;以softmax为分类器,对SAR图像进行分类识别检测.最后利用MSTAR公开数据集的三类目标数据进行试验,并给出该方法与其他方法结果的对比,表明该方法的有效性,识别率达到99.14%.     

基于BP神经网络的手写体数字的识别方法研究

对手写体数字的识别问题进行了讨论,提出一种基于BP神经网络的识别方法.从而提高了识别效率.主要就在识别时,数字在图片上的位置和数字本身大小方面做了改进,发现数字在图片上的大小和其在图片上的位置直接影响识别效果.具体做的是,首先提取了图片的轮廓,然后归一化成28×28的图像.这样做,不仅使得图像数字区域大小相同,而且都在图像中心上,使得识别结果变的更加理想化,达到了高识别的目的.另外,选择了容错性较好的BP网络,以200组手写体数字图像作为输入向量,以其他的110组进行识别,效率达到了90%.     

基于CNN-ELM的SAR图像分类识别

针对传统卷积神经网络(CNN)中Sigmod激活函数求导计算量大,提取SAR图像特征效率不高的问题,本文将CNN中的Sigmod激活函数改进为Relu激活函数,并结合极限学习机(ELM)算法,提出了基于CNN-ELM算法的SAR图像识别算法,通过对SAR图像进行分类识别的实验表明,该算法能实现网络的稀疏性,缓解过拟合问题,加快网络的收敛速度,并且具有更高的识别率.     

错位指纹图像自动检测的深度学习方法

针对实践中存在的指纹图像错位问题,提出了基于深度学习的错位指纹图像自动识别算法.通过将错位指纹自动检测问题转化为一个四分类问题,搭建了一个深度卷积神经网络并用已知的标签进行有监督学习,将学习得到的模型用于预测给定指纹图像的类别.通过对模型性能的准确率、空图识别率和错位判正率3项指标的评价看出,本识别算法取得了良好的效果.     

Prediction of Concrete Meso-Model Stress-Strain Curves Based on GoogLeNet北大核心CSCD

非均质复合材料的宏观力学性能往往取决于细观组分的分布方式和力学性能，但是建立明确的关系表达式极其困难。为了应对这一挑战，以混凝土为研究对象，提出了一种基于深度学习的策略，能够高效、准确地通过细观模型图像信息获取应力-应变曲线。首先，使用基于卷积神经网络（convolutional neural network，CNN）的GoogLeNet模型进行图像信息识别和提取，并针对应力-应变曲线的复杂性特点，进行了数据预处理操作，并且设计了相应的多任务损失函数。数据集中的细观模型图像采用基于Monte-Carlo的随机骨料模型生成，并且使用数值模拟试验获取对应细观模型的单轴压缩应力-应变曲线。最后，通过对神经网络的训练和测试评估了所提出方法的可行性。结果表明，GoogLeNet模型训练效率和预测精度均优于AlexNet和ResNet模型，具有良好的泛化能力和鲁棒性。     

基于神经网络的时变非线性系统迭代学习辨识

时变神经网络结构可简单地取为常规神经网络连接形式,但连接权却是时变的.如何确定时变权是应用时变神经网络时的难题.迭代学习方法是一种合理的选择,它不同于将时变连接权展成Taylor级数,通过训练多项式系数的处理方法.而且,后者的处理方式不可避免地存在截断误差.对于有限区间连续时变非线性系统的神经网络建模与辨识,借助于重复运行过程,以迭代学习算法调整权值,进行网络训练.不计逼近误差,提出的学习算法能够使得辨识误差在整个区间上渐近收敛于零.为处理非零但有界的逼近误差,采用带死区的迭代学习算法.逼近误差界值已知时,文中证明带死区修正的迭代学习算法使得辨识误差在整个区间上渐近收敛于由死区界定的邻域内.对于逼近误差界值未知的情形也进行了讨论.     

基于卷积神经网络的智能制造过程质量异常诊断

针对现有方法在智能制造过程中诊断能力有限和识别精度不高的问题,提出了一种与智能制造过程相适应的基于卷积神经网络的质量异常诊断模型。首先建立基于实时数据的过程质量图谱,以精准表达制造过程运行状态。其次,构建用于识别质量图谱的卷积神经网络诊断模型。最后,利用滑动窗口取值的方式对当前过程运行状态进行动态诊断,并通过某球磨过程验证了所提方法的有效性与实用性。结果表明,所提方法优于传统浅层模型,能够有效的对过程异常状态进行识别与诊断。     

基于PCA与自适应BP算法的侵犯性驾驶行为识别

从机动车安全预警的角度,以有效识别侵犯性驾驶行为为目的,针对传统BP算法学习效率低、收敛速度慢等缺点,提出一种基于PCA与自适应学习速率的BP网络改进识别算法.首先借助人因系统及汽车驾驶平台进行仿真实验,获取驾驶人生理-心理及车辆运行数据集,然后利用主成分分析提取其特征指标,继而应用自适应学习速率BP网络改进算法对驾驶行为进行识别.结果表明:驾驶员呼吸、肌电、速度、油门、车道线偏距以及发动机转速受驾驶行为的影响较大;识别精度为96.17%,对比自适应学习速率BP网络算法、BP网络算法,算法能明显减小训练迭代次数、提高识别精度.     

基于BP神经网络的仓储火灾火焰识别研究

仓储环境的特殊性限制了传统火灾探测设备的探测效果.为利用现有监控设备,可将图像火灾探测方法引入仓储领域.首先将采集的图像进行预处理,得出感兴趣的目标前景.然后对前景进行特征提取.最后采用基于BP神经网络的识别方法,以提取的图像特征作为输入,对网络进行训练与仿真.实验结果表明:BP神经网络对于火灾火焰图像具有很好的识别能力;作为其输入的图像特征对于火灾火焰图像有着较好的判别效果;为减少硬件投入,采用图像火灾探测方法弥补传统火灾探测设备在仓储应用中的不足是可行的.     

基于空间填充准则的交叉验证方法及其应用

在统计学与机器学习中,交叉验证被广泛应用于评估模型的好坏.但交叉验证法的表现一般不稳定,因此评估时通常需要进行多次交叉验证并通过求均值以提高交叉验证算法的稳定性.文章提出了一种基于空间填充准则改进的k折交叉验证方法,它的思想是每一次划分的训练集和测试集均具有较好的均匀性.模拟结果表明,文章所提方法在五种分类模型(k近邻,决策树,随机森林,支持向量机和Adaboost)上对预测精度的估计均比普通k折交叉验证的高.将所提方法应用于骨质疏松实际数据分析中,根据对预测精度的估计选择了最优的模型进行骨质疏松患者的分类预测.     

基于指数Laplace损失函数的回归估计鲁棒超限学习机

实际问题的数据集通常受到各种噪声的影响,超限学习机(extreme learning machine, ELM)对这类数据集进行学习时,表现出预测精度低、预测结果波动大.为了克服该缺陷,采用了能够削弱噪声影响的指数Laplace损失函数.该损失函数是建立在Gauss核函数基础上,具有可微、非凸、有界且能够趋近于Laplace函数的特点.将其引入到超限学习机中,提出了鲁棒超限学习机回归估计(exponential Laplace loss function based robust ELM for regression, ELRELM)模型.利用迭代重赋权算法求解模型的优化问题.在每次迭代中,噪声样本点被赋予较小的权值,能够有效地提高预测精度.真实数据集实验验证了所提出的模型相比较于对比算法具有更优的学习性能和鲁棒性.     

A CS-AdaBoost-BP model for product quality inspection

Quality inspection is essential in preventing defective products from entering the market. Due to the typically low percentage of defective products, it is generally challenging to detect them using algorithms that aim for the overall classification accuracy. To help solve this problem, we propose an ensemble learning classification model, where we employ adaptive boosting (AdaBoost) to cascade multiple backpropagation (BP) neural networks. Furthermore, cost-sensitive (CS) learning is introduced to adjust the loss function of the basic classifier of the BP neural network. For clarity, this model is called a CS-AdaBoost-BP model. To empirically verify its effectiveness, we use data from home appliance production lines from Bosch. We carry out tenfold cross-validation to evaluate and compare the performance between the CS-AdaBoost-BP model and three existing models: BP neural network, BP neural network based on sampling, and AdaBoost-BP. The results show that our proposed model not only performs better than the other models but also significantly improves the ability to identify defective products. Furthermore, based on the mean value of the Youden index, our proposed model has the highest stability.

     

基于神经网络的股票预测模型

针对股票市场的特征提取困难、预测精度较低等问题,本文基于深度学习算法,构建了一系列用于股票市场预测的神经网络模型,包括基于多层感知机(MLP)、卷积神经网络(CNN)、递归神经网络(RNN)、长短期记忆网络(LSTM)和门控神经单元(GRU)的模型。 针对RNN、LSTM和GRU无法充分利用所参考的时间维度的信息,引入注意力机制(Attention Mechanism) 给各时间维度的信息赋予不同权重,区分不同信息对预测的重要程度,从而提升递归网络模型的性能。上述模型均基于股票数据进行了优化,基于上证指数对各类模型进行了充分的对比实验,探索了模型中重要变量对性能的影响,旨在为基于神经网络的股票预测模型给出具体的优化方向。     

Modified optimization layer by layer algorithm for learning multilayer perceptrons

1. IntroductionThe feedforward Multilayer Perceptron (MLP) is one of the most widely used artificial neural networks among other network models. Its field of application includes patternrecognition, identification and control of dynamic systems, system modeling and nonlinearprediction of time series, etc. [1--41 founded on its nonlinear function approximation capability. Research of this type of networks has been stimulated since the discovery andpopularization of the Backpropagation learnin…     

我国上市公司被特别处理的组合预测模型研究

针对组合预测比单项预测具有更高的预测精度，本提出了一种基于模糊神经网络的上市公司被ST的非线性组合建模与预测新方法，并给出了相应的混合学习算法。通过与多元线性回归模型、Fisher模型和Logistc回归模型的预测结果对比表明，该方法具有预测精度高，学习与泛化能力强，适应性广的优点。     

Learning Bayesian network classifiers by risk minimization

Bayesian networks (BNs) provide a powerful graphical model for encoding the probabilistic relationships among a set of variables, and hence can naturally be used for classification. However, Bayesian network classifiers (BNCs) learned in the common way using likelihood scores usually tend to achieve only mediocre classification accuracy because these scores are less specific to classification, but rather suit a general inference problem. We propose risk minimization by cross validation (RMCV) using the 0/1 loss function, which is a classification-oriented score for unrestricted BNCs. RMCV is an extension of classification-oriented scores commonly used in learning restricted BNCs and non-BN classifiers. Using small real and synthetic problems, allowing for learning all possible graphs, we empirically demonstrate RMCV superiority to marginal and class-conditional likelihood-based scores with respect to classification accuracy. Experiments using twenty-two real-world datasets show that BNCs learned using an RMCV-based algorithm significantly outperform the naive Bayesian classifier (NBC), tree augmented NBC (TAN), and other BNCs learned using marginal or conditional likelihood scores and are on par with non-BN state of the art classifiers, such as support vector machine, neural network, and classification tree. These experiments also show that an optimized version of RMCV is faster than all unrestricted BNCs and comparable with the neural network with respect to run-time. The main conclusion from our experiments is that unrestricted BNCs, when learned properly, can be a good alternative to restricted BNCs and traditional machine-learning classifiers with respect to both accuracy and efficiency.     

An unsupervised context-sensitive change detection technique based on modified self-organizing feature map neural network

In this paper, we propose an unsupervised context-sensitive technique for change-detection in multitemporal remote sensing images. Here a modified self-organizing feature map neural network is used. Each spatial position of the input image corresponds to a neuron in the output layer and the number of neurons in the input layer is equal to the number of features of the input patterns. The network is updated depending on some threshold value and when the network converges, status of output neurons depict a change-detection map. To select a suitable threshold of the network, a correlation based and an energy based criteria are suggested. The proposed change-detection technique is unsupervised and distribution free. Experimental results, carried out on two multispectral and multitemporal remote sensing images, confirm the effectiveness of the proposed approach.     

基于统计检验与机器学习的全基因组关联研究框架

采用统计检验和机器学习的方法来研究SNP或基因与疾病(可测性状)的关联性.先对SNP选择合适的数值编码方式,并设计了相应的统计检验流程,随后通过P值初步筛选出了与疾病或性状相关联的位点.在此基础上,对筛选出的位点,采用随机森林,XGBoost等机器学习方法,从样本外预测的角度判断SNP与疾病或性状的关联度.相关结果,显示发现运用该分析框架能较好地筛选出与疾病或性状关联的SNP(基因).并且框架由于考虑了多种分类模型,有着稳健性高,计算开销较小以及可以交叉比对等优势.框架未来在还可在金融,社交网络等方面发挥作用.