近日，郑州大学计算智能实验室在国际权威期刊IEEE Transactions on Neural Networks and Learning Systems上发表Population Historical Information-Driven Evolutionary Multitask Neural Architecture Search学术论文，用于解决现有多任务神经网络架构搜索中存在的冗余搜索和负迁移问题。
神经网络架构搜索作为自动化设计神经网络的关键技术，已在深度学习领域取得显著成功。随着人工智能应用场景的多样化，多任务神经网络架构搜索应运而生。现有多任务神经网络方法仍面临两大关键挑战：一方面，未能充分利用种群跨代历史信息，导致搜索过程存在大量冗余计算，效率低下；另一方面，任务间交互缺乏引导，容易产生负迁移现象，即低相关性任务间的知识共享会干扰搜索过程，降低模型性能。这些问题严重制约了多任务神经网络架构搜索在复杂实际场景中的应用效果。为了更好的解决上述问题，论文提出了HIMT-NAS算法，构建了“种群历史信息引导+自适应知识迁移”的进化算法，实现了多任务架构搜索的效率与性能双重提升。论文的主要贡献如下：
1. 设计种群历史信息追踪与利用机制。算法会记录每一代种群中神经网络的操作信息和拓扑结构信息，通过统计分析各组件的出现频率与进化趋势，量化其对模型性能的贡献度。在子代生成过程中，优先选择高贡献度的架构组件，引导进化方向向更优区域聚焦，显著减少冗余搜索。
2. 提出基于任务相似度的自适应迁移概率机制。通过种群历史信息中的操作与拓扑信息，计算任务间的相关性，动态调整跨任务知识迁移概率。任务相似度越高，迁移概率越大，促进有用知识共享；相似度越低，则降低迁移概率，避免负迁移干扰。
期刊IEEE Transactions on Neural Networks and Learning Systems是人工智能领域顶级期刊，中科院一区TOP期刊，最新影响因子为8.9。
论文信息：
题目: Population Historical Information-Driven Evolutionary Multitask Neural Architecture Search
作者：Kunjie Yu, Hao Tang, Jing Liang, Chao Li, Mingyuan Yu
DOI：10.1109/TNNLS.2025.3637391
链接：https://ieeexplore.ieee.org/document/11271808