Hyperparameter on-line learning of stochastic resonance based threshold networks

Aiming at training the feed-forward threshold neural network consisting of nondifferentiable activation functions, the approach of noise injection forms a stochastic resonance based threshold network that can be optimized by various gradient-based optimizers. The introduction of injected noise extends the noise level into the parameter space of the designed threshold network, but leads to a highly non-convex optimization landscape of the loss function. Thus, the hyperparameter on-line learning procedure with respective to network weights and noise levels becomes of challenge. It is shown that the Adam optimizer, as an adaptive variant of stochastic gradient descent, manifests its superior learning ability in training the stochastic resonance based threshold network effectively. Experimental results demonstrate the significant improvement of performance of the designed threshold network trained by the Adam optimizer for function approximation and image classification.     

基于GA_XGBoost模型的大学生科研能力预测问题研究

科学评价大学生科研创新能力对我国科研水平的提高具有重要意义.采用机器学习模型来预测大学生科研能力可以起到良好的效果,提出一种GAXGBoost模型来实现对大学生的科研能力预测.此模型是以Xgboost算法为基础,然后充分利用遗传算法的全局搜索能力自动搜索Xgboost最优超参数,避免了人为经验调参不准确的缺陷,最后采用精英选择策略以此确保每一轮都是最佳的进化结果.通过分析表明,所采用的GAXGBoost模型在大学生科研能力预测的结果中具有很高的精度,将此模型与Logistic Regression、Random Forest、SVM等模型进行对比,GAXGBoost模型的预测精度最高.     

基于混合优化算法的关节臂式测量机参数标定

为进一步提高关节臂式坐标测量机等高机动性精密测量设备的测量精度,使用D-H矩阵法建立其关节坐标转换数学模型并据此推导出参数误差模型.针对非线性多参数标定问题,通过变换分析消除了最小二乘法求解时矩阵中的冗余参数,降低了计算的复杂性.设定判定准则并实现最小二乘法和模拟退火算法的混合,提出了一种基于混合优化算法的参数标定方法,解决了LM算法的初值设定和SA算法的搜索效率逐步降低的问题.实验结果表明:关节臂式测量机参数经混合优化算法标定后,参数的误差范围有了显著的缩小,单点重复性误差的平均值减小了1.746 mm,长度误差的平均值减小了0.941 mm,测量误差得到了进一步的抑制.     

改进遗传算法及其在钻井液设计中的运用

在深井、超深井以及地层复杂等条件下，为了避免或减少钻井事故的发生，达到优质快速钻井的目的，选择合适的钻井液体系至关重要。基于案例推理（CBR，Case-Based Reasoning）的钻井液设计中，钻井液体系由岩性、井型和井深等属性推理得出，但属性权重的分配会对推理结果产生显著的影响；遗传算法在优化属性权重时，存在收敛速度慢、收敛精度低的缺点。针对上述问题，提出一种解决CBR中属性权重分配问题的改进遗传算法。首先，对遗传算子进行改进：选择算子方面，利用指数尺度变换法优化个体选择；交叉算子方面，对算术交叉中的比例因子进行自适应调整；变异算子方面，改进个体变异方向，保持种群多样性。其次，从个体适应度和交叉个体的差异程度两方面实现交叉概率自适应调整。最后，通过对UCI数据集的对比实验，证明了改进后的遗传算法能改善全局收敛性能，提高CBR的准确率。将该算法运用到基于CBR的钻井液设计中，实验结果表明，所提方法能够优化属性权重的分配，进而提高钻井液设计的质量。     

基于动态优化双钻头打孔机生产效能的研究

首先,对孔型加工及走刀方式进行分析,为提高打孔机效能,采用两钻头同时作业的方式。然后,根据相关的数据,应用动态优化的相关理论建立数学模型,并运用遗传算法进行求解,从而确立了双钻头作业时的最优作业线路、最佳行进时间和作业成本,并用MATLAB编写程序画出了相应图形,更加形象地显现出了各个路段的最优作业方案。     

基于一维数据逐段均匀条件下的参考分布研究

聚类分析中一个重要的问题是估计聚类数,GS方法通过参考分布对聚类数进行合理的估计,解决了其他聚类方法无法对应分为一类的数据进行分类的问题,具有更好的分类效果;目前已通过理论证明得出,在分布为对数凹且一维情况下,GS方法的参考分布为均匀分布,而有关其在其他条件下的参考分布研究较少;针对这一情况,提出解决一维且逐段均匀条件下GS方法的参考分布问题,以类内平方和为评价标准,通过拉格朗日乘数法求解与问题等价的优化问题,理论证出条件下总体均匀分布是类内平方和最大的情况,进而得出对于一维数据,逐段均匀条件下的参考分布仍为均匀分布的结论。     

基于JAVA建立树形结构的算法优化

树形结构在程序设计过程具有非常重要的作用,但树形结构的构建相对比较复杂。通过研究设计并实现一种从普通Java对象中建立树形结构的优化算法。