遗传算法从点的群体搜索并行。因此,它具有避免被截留传统的方法,其中有从单个点搜索局部最优解的能力。遗传算法的染色体,它编码可能的解决方案的参数版本,而不是参数本身的工作。遗传算法使用适应度比分,这是从客观的功能获得,没有其他的衍生物或辅助信息。
遗传算法
1.3.2.2 粒子群算法
在计算机科学中,粒子群优化算法(PSO)是通过优化迭代努力改善有关质量的某项措施的候选解决的问题的计算方法。它由具有候选解决方案,在这里被称为颗粒群,并根据以上所述粒子的位置和速度的简单的数学公式在搜索空间中移动这些粒子可以解决的一个问题。每个粒子的运动是通过其本地最著名位置的影响,但也向在搜索空间的最好的已知位置,更好的位置被其它颗粒发现了被更新引导。预计这将移向最佳的解决方案群。
PSO是一种启发式算法,因为它使一些或者被优化没有有关该问题的假设,并可以搜索候选解决方案非常大的空间。更具体地,粒子群不使用被优化问题的梯度,这意着PSO不需要如由经典优化方法诸如梯度下降和准牛顿方法所需的优化问题。
图1.2 粒子群算法
1.3.2.3 模拟退火算法
模拟退火(SA)是十分相近给定函数的全局最优概率技术。具体地讲,它是在一个大的搜索空间来近似全局优化一元启发式。它经常被用来在搜索空间是离散的(例如,几次访问给定的城市所有旅游)。对于那些寻找精确的全局最优比在固定时间内找到可接受的局部最优不太重要的问题,模拟退火可能是最好的替代品,如强力搜索和梯度下降。
模拟退火解释缓慢冷却如在接受不好的解因为它探讨解空间的概率缓慢下降。更糟糕的接受的解决方案是共通启发式演算法的基本属性,因为它允许了最佳的解决方案更广泛的搜索。
SA能够处理任意系统和成本函数统计学保证找到一个最优的解是比较容易的代码,即使对于复杂的问题一般给人以好解决方案这使得退火为在那里启发式(专门或问题特异性的)的方法是不一定可用的优化问题的一个有吸引力的选择。