1.2　智能优化方法

智能优化方法的主要思想来源于人类对物理、生物和社会等自然现象的长期观察和深刻理解。智能优化方法的特点就是仿自然，如仿人类思维（神经网络、禁忌搜索等）、仿生物行为（粒子群优化、蚁群优化等）和仿物理原理（模拟退火、微正则退火等）。这些方法从随机的可行初始解出发，采用优胜劣汰策略，在可接受的计算成本内去搜寻满意解。虽然不能保证最终一定能求得最优解，但智能优化方法能在搜索精度和算法复杂度之间达到某种平衡。智能优化方法已成为解决优化问题特别是NP-难问题的一种有力工具，在优化领域得到了非常广泛的应用。

常用的智能优化方法有以下几种：

（1）模拟退火（simulate anneal）。模拟退火是基于Monte Carlo迭代求解策略的随机寻优算法，其出发点是固体物质退火过程与组合优化问题的相似性；从某一初温开始，随着温度的降低，结合概率突跳特性在解空间中搜索最优解，即在局部解时能概率性地跳出并最终趋于全局最优。

（2）遗传算法（genetic algorithm）。遗传算法是一种通过模拟自然进化过程搜索最优解的方法。它将问题求解表示成染色体适者生存过程，通过染色体的逐步迭代，最终收敛到最适应环境的个体（优化问题的最优解或满意解）。

（3）禁忌搜索（tabu search）。禁忌搜索是一种全局逐步优化算法，它模拟人类的智力过程，通过引入一种灵活的存储结构和相应的禁忌规则来避免迂回搜索，并通过藐视原则来赦免一些被禁忌的优良状态，以实现全局优化。

（4）进化规划（evolution programming）。进化规划过程可理解为从所有可能的计算机程序中，搜索具有高适应度的计算机程序个体。进化规划最初由随机产生的计算机程序群体开始，计算机程序由适合问题空间领域的函数组成，函数可以是算术运算函数、编程操作、逻辑函数或领域函数。群体中每个计算机程序个体都是用适应度来评价的，该适应度的取值与特定问题领域有关。

（5）进化策略（evolution strategy）。进化策略通过模仿自然进化原理来求解参数优化问题。进化策略和遗传算法的区别包括：表示个体的方式不同，进化策略在浮点矢量上运行，而遗传算法一般运行在二进制矢量上；选择过程不同；复制参数不同，遗传算法的复制参数（交叉和变异的可能性）在进化过程中保持恒定，而进化策略动态地改变它们。随着技术的发展，进化策略和遗传算法的差别越来越不明显。

（6）蚁群算法（ant colony optimization）。蚁群算法是受自然界中蚂蚁搜索食物行为的启发而提出的一种随机优化算法。蚂蚁间借助于信息素这种化学物质进行信息的交流和传递，并表现出正反馈现象：某段路径上经过的蚂蚁越多，该路径被重复选择的概率就越高。正反馈机制和通信机制是蚁群算法的两个重要基础。

（7）人工神经网络（neural network）。人工神经网络是一种模仿动物神经网络行为特征，进行分布式并行信息处理的数学模型。人工神经网络具有自学习和自适应能力，可通过预先提供的相互对应的输入数据和输出数据，分析掌握两者之间的潜在规律，最终根据这些规律，用新输入数据来推算输出结果。