
演化学习(Evolutionary Learning) 是指利用 演化算法(Evolutionary Algorithm,EA) 进行求解机器学习中的复杂优化问题。而演化算法是指一大类受自然演化启发的启发式随机优化算法,通过考虑“突变重组”和“自然选择”这两个关键因素来模拟自然演化过程。尽管演化算法有很多种实现方法,如:遗传算法、遗传编程、演化策略等,但一般能够抽象成一下四个步骤:
- 生成一个包含若干个 初始解(solution) 的集合,称为 种群(population)
- 基于当前种群通过变异和交叉产生一些新解
- 从当前种群和产生的新解种 去除一些相对差的解 形成新的种群
- 返回第二步并重复运行,直到满足某个停止条件
这些步骤基本都体现在演化算法的一般结构里面,如下图:

在使用演化算法求解优化问题之前,我们需要确定如何表示解。例如,若问题是从全集合中选择一个子集,则一个解(即一个子集)可以自然地表示魏一个布尔向量。即 {v1,v2,v3,v4,v5,v6,v7,v8} 的一个子集可以用长度魏8的一个布尔向量来表示,其中第 i 为取值为 1,意味这 vi 被选择,否则 vi 未被选择。因此它可以表示为(1, 1, 0, 1, 0, 0, 1, 0)。

在确定解的表示(solution representation) 方法后,演化算法开始按图1.2 中的循环结构进行演化。在演化的过程中,算法会维持一个种群,并通过迭代地产生新的子代解(off-spring solution)、评估这些解、选择更好的解来改善种群中解的质量。 变异(mutation)与交叉(crossover/recombination) 是两种常用的产生新解的算子。前者通过随机修改一个产生一个新解,即用布尔向量表示的解上执行以为变异(one-bit mutation) 算子,即随机选择一位进行翻转。后者通过混合两个或者多个解产生新解,即在两个用布尔向量表示的解上执行单点交叉(one-point crossover) 算子,即基于某个随机选择点将两个解对应部分进行交换。

在子代解生成之后,用 适应度(fitness) 函数来度量它们的优劣;然后根据某种选择机制,从旧种群包含的 父代解(parent solution) 和新产生的子代解中选择较优解以构建新的种群。演化将持续,直到满足停止条件。常用的停止条件包括解的质量达到预设值、计算资源(例如运行时间)达到预算上限、解的质量在预设的轮数内不再改进等。
从整个迭代过程可以看出,演化算法在求解优化问题时,仅需以某种方法表示解并能够对解的优劣进行评估以便执行搜索,而无须关注问题的结构信息。尤其在缺乏目标函数的梯度信息、甚至缺乏目标函数的显示表达式时都能使用,仅需能够通过实验或者模拟评估解的相对优劣即可。因此演化算法被视为一种通用的优化算法,甚至能以 黑箱(black-box) 的方式来求解优化问题。
由于其通用性,演化算法已经被用于求解机器学习中的复杂优化问题。例如,其已被用于优化神经网络,包括优化连接权重、网络结构和学习规则;通过演化得到的人工神经网络模型能够获得与手工设计的模型相媲美下性能。
在我们的点云领域,演化算法也正展现出解决高维特征空间优化与配置难题的巨大潜力。点云配准等下游任务通常需要提取和融合多尺度、多模态的几何特征,由于特征维度极高且对尺度高度敏感,传统的梯度下降方法极易陷入局部最优且计算成本高昂。通过引入演化多任务优化(EMTO)机制,算法能够在统一的搜索空间中跨任务地进行知识迁移,高效筛选出具备强鲁棒性和高描述能力的特征描述子子集。更前沿的是,结合当前的 AI 发展趋势,我们还可以将大语言模型(LLM)作为演化优化器(LLM-EO),让大模型通过理解点云的语义反馈,自动生成和迭代点云特征融合的代码或 3D 提示词(Visual Prompts),从而为实现免梯度、高泛化性的点云特征优化提供全新解法。