当前位置: 学院首页  >  科学研究  >  学术动态  >  正文

【电气讲坛】分数阶神经网络全局寻优学习机

点击: 发布人:袁波 发布时间:2021-06-30 09:57:00


报告名称

分数阶神经网络全局寻优学习机

   

2021759:00

   

水电楼217

主 讲 人

王健

主办单位

电气与新能源学院

备注

摘要:最速下降法被广泛用于训练神经网络,但这种优化算法面临的最大挑战是容易陷入局部最优,不能找到目标函数的全局最优点。遗传算法、粒子群算法和蚁群算法等进化类算法虽然在理论上能够以概率1找到全局最优值点,但受限于收敛性和计算代价限制,很少有学者将它们直接应用于训练神经网络模型。分数阶微分算子是整数阶微分算子的一种自然拓展,它与整数阶导数本质不同点在于其具有长时记忆特性,这将有助于网络权值寻优过程中跳出局部最小。目前,大多有关分数阶微积分和神经网络模型的结合研究主要在于分数阶(复值)神经网络稳定性分析等工作,而利用分数阶微积分的性质寻找函数的全局最优值则较少涉及。本报告尝试将分数阶微积分用于训练神经网络以寻找误差函数的全局最优值点。首先,介绍用分数阶微积分训练神经网络的数学模型。然后,给出了这种训练模式能够收敛到函数的全局最优值点的理论分析。最后,在若干典型函数逼近的实例上进行比较实验,仿真结果表明基于分数阶微积分的训练方法有着更有效的全局搜索能力,能确定全局最优解是其优于经典基于最速下降法训练模式的核心优势。

王健,中国石油大学(华东)副教授、博士生导师。现担任“跨媒体大数据”联合实验室主任、山东省能源工业大数据发展创新实验室副主任、山东省数学会理事,IEEE 高级会员,IEEE Transactions on Neural   Networks and Learning SystemsIF:8.793)和International Journal of Machine Learning and CyberneticsIF: 3.753)副主编,Neural Computing and   Applications (IF: 4.774)Complex & Intelligent   SystemsIF: 3.791)编委;国内期刊《聊城大学学报(自然科学版)》和《系统仿真技术》编委。主要从事嵌入式特征选择模型、智能优化理论、大数据处理等方向研究,在神经网络学习模型、分数阶复值最优化理论、神经网络结构稀疏性及大数据智能学习算法在石油工程等领域中的研究形成了特色和优势,发表学术论文60余篇。20122013连续两年获辽宁省自然科学学术成果奖二等奖,排名第一;主持或参与完成中国博士后科学基金面上项目,山东省自然科学基金青年项目、面上项目,教育部高等学校博士学科点专项科研基金、国家自然科学基金青年项目、面上项目,国家自然科学基金重点项目、国家重点研发计划、中石油重大科技合作项目等10余项。2017年担任国际神经信息处理会议出版主席(广州);20162018年担任国际计算智能最新进展学术交流会大会程序委员会主席(青岛)。201920202021年,担任IEEE计算智能国际学术会议可解释性数据分析 (EDACI)  Symposia主席。