中文题目:进化数据流中重复出现的概念的双层交替元学习
论文题目:A Bi-level Alternating Meta-learning for Recurring Concept on Evolving Data Streams
录用期刊:International Journal of Uncertainty,Fuzziness and Knowledge-Based Systems(CCF C类杂志)
DOI: 10.1142/S0218488525500084
出版时间:February 6, 2025
1)刘建伟 中国天天色天天(北京)人工智能学院 自动化系 教师
2)鲍忠林 中国天天色天天(北京)人工智能学院 控制科学与工程 研21级
3)张思思 中国天天色天天(北京)人工智能学院 控制科学与工程 博17级
摘要:
(i)提出了一种新的递归概念元学习算法:面向递归概念的双层交替元学习方法,用于求解重复出现的概念;
(ii)通过元学习策略引入新的控制器,指导网络在先前学习的概念和新概念之间保持微妙的平衡;
(iii)我们提出的面向重复出现的概念的双层交替元学习方法已经通过不同基准数据集的实验比较结果验证。
背景与动机:
人类的学习模式具有回忆过去的模式,随着知识以及认识的增长,更新已有的概念。以随着人类知识的增长更好地理解重复出现的概念的模式。
主要内容:
图1 提出的面向重复出现的概念的双层交替元学习方法算法的流程图。它显示了在第一个周期中交替模型级学习和全局元学习的双层规划学习。在第一个周期中获得一个通用模型,以促进在第二个周期中学习重复出现的概念。
图2 基于自编码器的输出融合策略。蓝线表示重建输入损失的反向传播流。粉色线条代表第一个分类器输出损失的反向传播流。紫色线表示第二个分类器输出损失的反向传播流。绿线代表最后一个分类器输出损失的反向传播流。
结论:
在本文中,我们开发了一个新的元学习框架处理进化数据流上的重复出现的概念。在现实世界的场景中,概念漂移的发生是无法预知的。这就是漂移检测引入嵌入漂移自适应方法的原因。然而,本文主要关注学习一个通用模型,它可以在不覆盖现有知识的情况下,根据新信息的出现进行自我调整,尤其是对于反复出现的概念。
为了实现这一目标,这项研究试图提出新的模型,其中一个共有的参数集用来优化所有已知的概念,而不是一个单一的概念。我们开发了一个具有双层优化器的策略,以获得一个通用模型来防止灾难性遗忘。在这种设计中,应该充分重视模型级学习中不同概念的隐表征的学习,这是实现当前概念学习良好性能的关键学习步骤。在模型级学习之后,我们的进化数据流上的重复出现的概念学习算法通过全局元学习策略获得一组共享参数。元学习策略引入新的控制器,指导网络在先前学习的概念和新概念之间保持平衡。我们的实验验证了进化数据流上的重复出现的概念学习算法对进化数据学习的有效性。
作者简介:
刘建伟,教师。