基于条件生成对抗网络的图像去雾算法

为了提高雾天图像的去雾效果,提出了一种基于条件生成对抗网络的图像去雾算法.通过端到端可训练的神经网络对合成的室内和室外数据集进行训练,为了捕捉图像中更多的有用信息,在生成网络中设计了生成器和判别器架构,利用预训练的视觉几何组特征模型和L_1-正则化梯度对损失函数进行修正,并在判别器的最后一层引入Sigmoid函数用于特征映射,以便进行概率分析可归一化.利用合成数据集对损失函数进行训练,得到新的损失函数的参数,然后利用室外自然有雾图像数据集对训练得到的新的损失函数进行测试.实验结果表明:所提算法有效解决了去雾图像的颜色失真、过饱和、视觉伪像等问题,生成效果更好的去雾图像.     

基于解耦训练的脉冲星识别算法

为了解决脉冲星识别研究局限在常规分类算法的视野中而缺乏针对性的问题,文章针对脉冲星数据集的特点,挖掘其内在特征与其他研究领域的关联性,发现了脉冲星数据与长尾分布之间存在的联系,探求脉冲星数据与长尾分布的特征一致性,首次将脉冲星数据分布看作长尾分布的一种特例。并从长尾视觉识别视角中的优化训练策略角度出发,提出了一种基于解耦训练策略的脉冲星识别算法。算法采用解耦训练策略,在操作上简捷高效,具备更强的可移植性。经过数据集的验证,算法能有效改善决策边界,在HTRU＿bands和HTRU＿ints数据集的召回率相较于对比方法分别提升了11.8%和13%,是一种性价比较高的有效识别算法。     

基于近红外光谱检测和平衡级联稀疏分类的药品鉴别方法

近红外光谱检测和模式识别方法相结合,在药品的现场快速无损监督管理中有广阔的应用前景。传统的鉴别方法以最小化错误率为目标,往往忽略了样本数据的类别不平衡性,从而使得少数类样本被多数类样本淹没,降低少数类样本对分类器的影响,使分类结果更加倾向正确识别多数类样本,严重影响鉴别结果。针对药品光谱数据中真假药品类别不平衡问题进行研究,融合平衡级联和稀疏分类方法(SRC),提出一种级联的稀疏分类药品鉴别方法(BC-SRC)。文中在多数类样本中选取和少数类数目相同的样本作为训练样本,并在多数类样本中进行多次平行采样使得多数类样本被全部获得过(采样次数为多数类样本数与少数类样本数商的向上取整),最终得到测试样本的多组预测结果,根据得到的多组结果获得最终预测标签。将提出的方法在Matlab 2012a上进行仿真实验,通过三组样本集的实验证明该方法的有效性,实验结果表明该方法优于常用的偏最小二乘(PLS)、极限学习机(ELM)和BP神经网络分类法,特别是在解决类别不平衡问题时,当不平衡因子大于10时,BC-SRC算法分类相对于其他算法性能更好,且稳定性更高。     

一种基于无监督主动学习的苹果品质光谱无损检测模型构建方法

利用光谱技术实现农产品、食品品质无损检测的实质是建立样本光谱信息与样本品质参数之间的机器学习模型。为了获得具有良好泛化性能的机器学习模型,通常需要大量的标记样本,然而,获取样本的光谱信息相对容易,但标注样本品质参数的过程往往涉及到大量的时间和经济成本,并且具有破坏性。主动学习是一种减少训练集有标记样本数量的方法,通过选择最有价值的样本进行标记,而不是随机选择。因此,主动学习能够控制向训练集添加哪些样本,模型不再是被动地接受用于建模的样本。在分类任务中已经提出较多关于主动学习的算法,但回归任务中的研究却相对较少,且现有的用于回归任务的主动学习算法大多是有监督的,即需要少量有标记样本训练初始模型。本文提出了一种基于无监督主动学习方法的训练样本选择策略。该方法首先通过层次凝聚聚类对无标记（标准值）光谱数据集进行多样性划分,获得不同的聚类簇;然后通过局部线性重建算法在每个聚类簇中选择最具代表性的样本构成训练样本集,最后基于训练集构建模型。利用两个年份三个品种苹果的近红外光谱数据,构建了其可溶性固形物含量和硬度的偏最小二乘预测模型,用于验证所提出方法的有效性。实验结果表明：所提出的方法要优于已有的样本选择策略,可以有效地提高模型精度,减少在模型训练中的破坏性理化实验。同时,与随机采样（RS）、Kennard-Stone算法（KS）、光谱-理化值共生距离算法（SPXY）这三种光谱领域常用的样本选择算法相比,该研究所提出的方法表现出了最佳的性能, 基于所提出的无监督主动学习算法选取200个样本作为训练集所建立的可溶性固形物含量预测模型的预测均方根误差相对于其他三种算法降低了2.0%~13.2%,硬度预测模型的预测均方根误差相对降低了1.2%~15.7%。     

基于双树复数小波变换的微钙化诊断方法

提出一种基于双树复数小波变换的微钙化分类方法.通过提取基于小波和灰度直方图的纹理特征,结合遗传算法进行特征优化,分别用神经网络,支持向量机和KNN分类器进行微钙化的良恶性分类.对三种不同的分类器进行对比,结果表明:KNN分类器取得最好的效果,而支持向量机优于神经网络.KNN分类器对比于神经网络和支持向量机,无需训练,可节约训练时间,最直接地利用了样本和样本之间的关系,减少了类别特征选择不当对分类结果造成的不利影响,可以最大程度地减少分类过程中的误差项.在类别决策时,KNN分类器只与极少量的相邻样本有关,可以较好地避免样本数量的不平衡问题.与传统的小波比较,双树复数小波具有近似平移不变性和正则性,对图像信号具有良好的方向选择性,且冗余度有限,计算量较小.     

基于双树复数小波变换的微钙化诊断方法

提出一种基于双树复数小波变换的微钙化分类方法.通过提取基于小波和灰度直方图的纹理特征,结合遗传算法进行特征优化,分别用神经网络,支持向量机和KNN分类器进行微钙化的良恶性分类.对三种不同的分类器进行对比,结果表明:KNN分类器取得最好的效果,而支持向量机优于神经网络.KNN分类器对比于神经网络和支持向量机,无需训练,可节约训练时间,最直接地利用了样本和样本之间的关系,减少了类别特征选择不当对分类结果造成的不利影响,可以最大程度地减少分类过程中的误差项.在类别决策时,KNN分类器只与极少量的相邻样本有关,可以较好地避免样本数量的不平衡问题.与传统的小波比较,双树复数小波具有近似平移不变性和正则性,对图像信号具有良好的方向选择性,且冗余度有限,计算量较小.     

输入层自构造神经网络用于红外光谱多元校正

为了解决多组分红光谱定量分析中的特征的取和校正建模问题，本文提出了一种输入层自构造神经网络。在应用这种网络之前的预处理过程首先对训练数据进行分析，获得关于问题的某些先验知识。在训练阶段，神经网络根据先验知识自动选择输入层神经元的个数，同时确定网络参数。这种网络模型将特征提取和参数学习过程融为一体，有利于提高建模效率。利用仿真红外光谱的定量分析实验表明，这种网络模型不仅能够对光谱数据实现高效率的波长选择，并具有抑制随机噪声和非线性干扰的能力。     

基于遗传算法与线性鉴别的近红外光谱玉米品种鉴别研究

结合遗传算法与线性签别分析(LDA)提出了一种玉米品种的快速鉴别方法.该方法是一种基于近红外光谱的新方法,通过采集玉米种子(实验共37个种类)的近红外光谱数据,使用遗传算法进行特征光谱波段的选择,使用线性鉴别分析的方法提取光谱特征并分类.结果表明,遗传算法能有效地剔除光谱噪声波段,并提高 LDA 的泛化能力.同时,为简化运算,剔除了大量冗余数据,结合遗传算法选择的特征谱区,使参与鉴别的数据维数从2 075降到了233.对测试集1的300个样本的平均正确识别率与平均正确拒识率均达到99.30%,其中73.33%的玉米品种的正确识别率达到了100%;对测试集2(均为未参加训练品种的样本)的175个样本的平均正确拒识率达到99.65%.与常用的 PCA 等方法相比,运算时间更短,正确率更高.     

基于Elman神经网络的252Cf源核系统随机中子脉冲信号识别方法

 针对²⁵²Cf自发裂变中子源构成的核信息系统,以实际所测随机中子脉冲数据的自相关函数为研究对象,借助仿真实验, 利用Elman神经网络对不同质量核材料进行识别。在实测数据的基础上,通过叠加随机抖动,模拟产生了不同质量核材料的相关函数样本,并将其用于神经网络的训练与测试,实验结果表明,训练过的Elman神经网络能够较好地识别相关函数的特征,分辨不同质量的核材料,平均识别率达到85%,综合平均误差为0.04,且具有较高的鲁棒性。     

基于可见光谱和卷积神经网络的贝类识别方法

目前卷积神经网络（CNN）在物体种类识别方面取得突破性进展。贝类作为农业经济的重要组成部分,种类繁多,特点复杂,大多贝类存在着相似度高,各类样本分布不均衡情况,以致CNN对贝类分类的准确率偏低。针对这一情况,提出了基于可见光谱和CNN的贝类识别方法,旨在提取更有效的贝类特征,从而提高贝类分类的准确率。首先,提出了一种包含输出熵度量和正交性度量的滤波器信息度量与特征选择方法,重新初始化修剪掉的滤波器并使其正交,捕获网络激活空间中的不同方向,使神经网络模型学习到更多有用的贝类特征信息,提升模型分类准确率;其次,提出了一种包含正则化项和焦点损失项的贝类分类目标函数,通过控制各类别样本对总损失的共享权重,来减少易分类样本的权重,以使模型注意力向预测不准的样本倾斜,均衡样本分布和样本分类难度,进一步提高贝类分类的准确率。贝类图像数据集由74类贝类组成,共11 803张图像。获取原始数据集后,对数据集图像进行水平翻转、垂直翻转、随机旋转、在[0, 30°]范围内旋转、在[0, 20%]范围内缩放和移动等数据增强操作,将图像数量从11 803张增加到119 964张。整个图像数据集按8∶1∶1的比例随机分为训练集95 947张图片、验证集11 996张图片和测试集12 021张图片。在建立贝类图像数据集的基础上进行了实验验证,达到了93.38%的分类准确率,将基准网络（Resnest）的准确率提高了1.18%,相较网络SN_Net和MutualNet,准确率分别提升了4.34%和0.85% ,并且训练时长为22 320 s,将基准网络（Resnest）的训练时长缩短了960 s,训练时长分别比SN_Net和MutualNet短3 180和2 460 s。实验结果证明了该方法的有效性。     

Pulsar candidate selection using ensemble networks for FAST drift-scan survey

The Commensal Radio Astronomy Five-hundred-meter Aperture Spherical radio Telescope(FAST) Survey(CRAFTS) utilizes the novel drift-scan commensal survey mode of FAST and can generate billions of pulsar candidate signals. The human experts are not likely to thoroughly examine these signals, and various machine sorting methods are used to aid the classification of the FAST candidates. In this study, we propose a new ensemble classification system for pulsar candidates. This system denotes the further development of the pulsar image-based classification system(PICS), which was used in the Arecibo Telescope pulsar survey, and has been retrained and customized for the FAST drift-scan survey. In this study, we designed a residual network model comprising 15 layers to replace the convolutional neural networks(CNNs) in PICS. The results of this study demonstrate that the new model can sort 96% of real pulsars to belong the top 1% of all candidates and classify 1.6 million candidates per day using a dual-GPU and 24-core computer. This increased speed and efficiency can help to facilitate real-time or quasi-real-time processing of the pulsar-search data stream obtained from CRAFTS. In addition, we have published the labeled FAST data used in this study online, which can aid in the development of new deep learning techniques for performing pulsar searches.     

Network selection algorithm based on link quality parameters for heterogeneous wireless networks

Next generation wireless networks consist of heterogeneous access technologies. In order to provide global ubiquitous communication, it is required to provide a framework in which user can move across multiple access interfaces while maintaining its ongoing communication at perceived quality of service. Given the scenario of multiple access networks, it is further required to select the optimum network out of multiple candidate networks to meet the requirements of the ongoing session. The selection of optimum network in such heterogeneous environment is generally based on network conditions and user preference. In this paper, we propose an algorithm for network selection based on averaged received signal strength, outage probability and distance. The proposed algorithm comprises of two stages. Assuming that network conditions are dominant in network selection, in first stage, overlapping region is identified through distance estimation. Network selection algorithm based on averaged received signal strength plus outage is invoked in second stage to select the optimum network. Numerical results are obtained through a simulation model of two disparate networks – GSM and UMTS. It has been shown that the proposed algorithm offers 68% improved performance in terms of network selection rate.     

基于迭代初始化遗传算法的光谱波段选择及其在感冒液多组分测定中的应用

光谱数据用于多元校正时,组分间的交互作用会使部分波段与组分浓度呈非线性关系,在用偏最小二乘法(PLSR)建模前,宜作波长筛选。基于迭代初始化的遗传算法(IRGA)将运行多轮GA,递归地以上轮结果作为先验知识支持下轮的初始化,并对入选波长点的统计频率进行平滑处理,由此可高效地从全谱中选出校正性能良好的波段,筛选结果稳定。入选波段对全谱既作了适当简化,又充分保留了有效信息。再采用PLSR建模,模型更具稳健性。将该法用于感冒液的五组分测定,与全谱建模法相比,其预测性能和稳健性有显著提高。     

Group mobility assisted network selection framework in 5G vehicular cognitive radio networks

The heterogeneity nature of networks is the most eminent characteristic in 5G vehicular cognitive radio networks across complex radio environments. Since multiple communicating radios may be in motion at the same time in a vehicle. So, group mobility is the most prominent characteristic that requires to be a deep investigation. Therefore, different communication radios that are moving on a train/bus needed to select the networks simultaneously. Without considering the group mobility feature, there is a possibility that the same network may be selected by each moving node and cause congestion in a particular network. To overcome this problem, a novel network selection technique considering the group mobility feature is proposed to improve the throughput of the network. In this work, a 5G vehicular cognitive radio network scenario is also realized using USRP-2954 and LabVIEW communications system design suite testbed. The performance metrics like transmission delay, packet loss rate, reject rate and, channel utilization for vehicular nodes, are gained to analyze the proposed technique in vehicular cognitive radio networks environment. The proposed technique demonstrates a remarkable improvement in channel utilization for vehicular nodes and outperformed conventional schemes.     

Relay selection scheme based on deep reinforcement learning in wireless sensor networks

Cooperative communication technology has realized the enhancement in the wireless communication system’s spectrum utilization rate without resorting to any additional equipment; additionally, it ensures system reliability in transmission, increasingly becoming a research focus within the sphere of wireless sensor networks (WSNs). Since the selection of relay is crucial to cooperative communication technology, this paper proposes two different relay selection schemes subject to deep reinforcement learning (DRL), in response to the issues in WSNs with relay selection in cooperative communications, which can be summarized as the Deep-Q-Network Based Relay Selection Scheme (DQN-RSS), as well as the Proximal Policy Optimization Based Relay Selection Scheme (PPO-RSS); it further compared the commonly used Q-learning relay selection scheme (Q-RSS) with random relay selection scheme. First, the cooperative communication process in WSNs is modeled as a Markov decision process, and DRL algorithm is trained in accordance with the outage probability, as well as mutual information (MI). Under the condition of unknown instantaneous channel state information (CSI), the best relay is adaptively selected from multiple candidate relays. Thereafter, in view of the slow convergence speed of Q-RSS in high-dimensional state space, the DRL algorithm is used to accelerate the convergence. In particular, we employ DRL algorithm to deal with high-dimensional state space while speeding up learning. The experimental results reveal that under the same conditions, the random relay selection scheme always has the worst performance. And compared to Q-RSS, the two relay selection schemes designed in this paper greatly reduce the number of iterations and speed up the convergence speed, thereby reducing the computational complexity and overhead of the source node selecting the best relay strategy. In addition, the two relay selection schemes designed and raised in this paper are featured by lower-level outage probability with lower-level energy consumption and larger system capacity. In particular, PPO-RSS has higher reliability and practicability.     

Why Does Deep and Cheap Learning Work So Well?

We show how the success of deep learning could depend not only on mathematics but also on physics: although well-known mathematical theorems guarantee that neural networks can approximate arbitrary functions well, the class of functions of practical interest can frequently be approximated through “cheap learning” with exponentially fewer parameters than generic ones. We explore how properties frequently encountered in physics such as symmetry, locality, compositionality, and polynomial log-probability translate into exceptionally simple neural networks. We further argue that when the statistical process generating the data is of a certain hierarchical form prevalent in physics and machine learning, a deep neural network can be more efficient than a shallow one. We formalize these claims using information theory and discuss the relation to the renormalization group. We prove various “no-flattening theorems” showing when efficient linear deep networks cannot be accurately approximated by shallow ones without efficiency loss; for example, we show that n variables cannot be multiplied using fewer than \(2^n\) neurons in a single hidden layer.     

高效选取线性独立的原子特征构建精确机器学习势函数

机器学习势由于具有与第一性原理计算相当的准确性,且低得多的计算成本,在原子模拟中极具前景. 然而原子机器学习势的可靠性、速度和可迁移性在很大程度上取决于原子构型的表示. 适当地选取用作机器学习程序输入的描述符是一个成功的机器学习表示的关键. 本文发展了一种简单有效的方法,可以基于训练数据固有的相关性,从大量待选的描述符中自动选取一组最佳的线性独立原子特征. 通过对几个具有较少冗余线性独立嵌入密度描述符的基准分子构建嵌入原子神经网络势的应用,证明了这种新方法的有效性和准确性. 该算法可以大大简化原子特征的初始选取,并极大地提高原子机器学习势的性能.     

小波域中的维纳滤波在综合脉冲星时算法中的应用

脉冲星自转非常稳定，可用作时间标准. 然而由单脉冲星定义的脉冲星时受多种噪声源的影响，其频率稳定度还不够好，因此可采取对多颗脉冲星定义的脉冲星时进行综合的方法来削弱各噪声源的影响，以提高脉冲星时的稳定度. 不同的脉冲星有着各自不同的自转频率，在不同频率段所受噪声的影响也不同，应用小波分析的方法对脉冲星时做综合，可以兼顾脉冲星时的长期与短期稳定度，在不同的频率范围取不同的权值以达到更好的结果；脉冲星的计时残差是由计时参考的原子时的误差和脉冲星计时误差两部分引起的，用维纳滤波的方法可以将两者分开，并主要以消除掉参考钟误差后的残差为计时残差实现对脉冲星计时的综合. 在这两种方法的基础上，提出一种基于小波域中的维纳滤波方法，利用小波独有的特性和维纳滤波最小误差估计的优点，更有效地消除噪声对脉冲星时的影响. 实验结果表明，该方法可以有效降低脉冲星计时残差中的噪声影响.     

深度神经网络在红外光谱定量分析VOCs中的应用

鉴于浅层人工神经网络(ANN)需要依靠先验知识进行人工提取特征,同时较浅的网络结构限制了神经网络学习复杂非线性关系的能力,将深度神经网络(DNN)应用于利用傅里叶变换红外光谱(FTIR)对多组分易挥发性有机物(VOCs)进行的浓度反演研究,并利用仿真实验验证了算法的有效性。从美国环境保护署(EPA)的数据库中选取了包括苯、甲苯、 1,3-丁二烯、乙苯、苯乙烯、邻二甲苯、间二甲苯、对二甲苯在内的八种VOCs气体在8~12μm波长范围内的吸光度谱,每种气体有四种不同浓度下的谱线,依据Beer-Lambert定律从每种VOCs气体中选择一种浓度下的吸光度谱进行混合,得到65 536种不同的VOCs混合气体吸光度谱样本。随机选择5 000组混合气体的吸光度谱,其中4 000组作为训练样本, 1 000组作为预测样本。通过积分提取和主成分提取对光谱矩阵进行降维预处理,将光谱维度从3 457维降到30维。将光谱矩阵经过预处理后得到的新矩阵作为网络输入,对应八种VOCs的浓度矩阵作为输出,建立了30-25-15-10-8的深度神经网络回归预测模型来实现多组分VOCs浓度反演,反演得到样本的均方根误差为0.002 7×10-6,相比于前人利用非线性偏最小二乘拟合、人工神经网络等方法拟合的精度有了明显的提高。每种VOCs气体的均方根误差均不超过0.005×10-6,每个样本的均方根误差均不超过0.006×10-6,证明了深度神经网络预测模型具有良好的非线性拟合能力和良好的稳定性。当训练样本不足(典型值:小于500)时,深度神经网络无法充分地学习,网络误差较大,精度低于单隐藏层的人工神经网络,但随着训练样本数量的增加,深度神经网络的精度不断提高,当训练样本数充足时,相比浅层的人工神经网络,深度神经网络具有更强的非线性关系学习能力,预测精度更高,模型更为稳定。同时,由于训练前对光谱矩阵进行了降维处理,大大降低了算法的复杂度,有效提高了反演效率。分析表明,深度神经网络预测模型具有良好的非线性拟合能力和良好的稳定性,无需人工提取特征就能够充分学习数据特征,同时对多组分VOCs进行浓度反演并达到较高精度。