|
|||||
|
|
| 基于多任务深度学习的自适应软参数共享方法 | |
| 引用本文： | 汪红霞,金骁,杜玉坤,张楠.基于多任务深度学习的自适应软参数共享方法[J].系统科学与数学,2024(2):551-566. |
| 作者姓名： | 汪红霞 金骁 杜玉坤 张楠 |
| 作者单位： | 南京审计大学统计与数据科学学院 |
| 摘 要： | 在软参数共享模型的基础上,通过任务之间的相似度与参数之间的关系,设置自适应正则项系数λ*,自适应参数衰减比例0.文章提出了基于多任务深度学习的自适应软参数共享方法.在基于均值约束的L2范数基础上,通过自适应地去除损失函数中正则项中的项数,去除任务间相似度不高的信息.文章的方法将软参数多任务学习动态地转化为软参数多任务与单任务联合学习,相对于软参数多任务学习方法,该方法减少了负迁移现象带来的影响.相对于单任务学习方法,该方法可以极大地降低局部最小解的风险.模拟研究和案例分析都验证了该方法的有效性,该方法的预测精度优于传统的多任务学习和单任务学习. |
| 关 键 词： | 多任务学习 软参数共享 自适应参数衰减比例 自适应正则项系数 |