站内快照 · 国内可打开。外网原文可能无法访问。
- 资讯公开站rss_arxiv_cs_ai
面向昂贵进化优化的排名可靠教师引导适应度近似：一项TinyML架构搜索研究
Rank-Reliable Teacher-Guided Fitness Approximation for Expensive Evolutionary Optimization: A TinyML Architecture Search Study
arXiv:2609.30553v1 公告类型：新 摘要：昂贵的进化搜索并不总是需要对每个候选个体进行精确的适应度估计。它往往只需要对一个更简单的问题给出可靠答案：哪个候选个体更好？我们通过教师引导学习NSGA-II（TGL-NSGA-II）来满足这一需求，这是一个用于带约束的微型机器学习（TinyML）神经网络架构搜索的低保真框架。一个预训练教师将样本组织为由难度和类别共同定义的分层。随后，每个候选个体都要经过KD-Lite，即在紧凑训练集上进行的一种简短且有上限的知识蒸馏过程，然后在单独的分层评估集上评分。这一教师引导分数与高斯过程代理模型融合，以选择候选个体进行完整评估。对于固定的候选种群，我们分析了评估方差、分数集中度、成对排名反转、期望Kendall-τ、首前沿识别以及超体积扰动。我们还推导了一种方差感知的融合权重和一种容量自适应蒸馏规则。在关键词唤醒和鸟鸣分类任务上，测得的Kendall-τ值分别为0.74和0.62，超过了相应的