① 优化算法笔记（十四）水波算法
（以下描述，均不是学术用语，仅供大家快乐的阅读）
水波算法（Water wave optimization）是根据水波理论提出的优化算法。什么是水波理论？简单来说就是水波的宽度越小，其频率越高，频率与水波宽度的平方根成反比（具体细节我也不懂，物理方面的）。水波算法也算是一种受物理现象（理论）启发而提出的算法，提出时间并不长，还有大量的研究和应用可以深入进行。
在水波算法中，水波有三种形式来对空间进行搜索。1.传播，2.折射，3.碎浪。传播即水波向周围扩散开来，折射是水波的高度趋近与0时改变了传播的方向（我是真的理解不能，光可以折射，水也能折射的咯？），碎浪即水波的高度较高时，水波破碎形成浪花。可以看出水波的传播是贯穿整个算法流程的，而折射只会发生在水波高度减少至0时，碎浪则发生在水波过高时。
（强行解释最为致命，作者开心就好）。
将每一个水波想象成一个独立的个体，那么每个水波将拥有3个属性：位置X，波长 以及波高h。
在每一次迭代过程中，每个水波都会通过传播的形式来对空间进行搜索同时水波的高度h会减少1。其位置更新公式如下：
其中 为该水波的波长， 为当前搜索空间的上下界。 的值会随着迭代的进行而改变：
其中 为波长的衰减系数， 为一个较小的数以保证分母不为0。
每次传播后，如果当前的水波优于传播前的水波，则传播到该位置，否则波浪的高度h会减少1，即：
上式中适应度函数值越大，表明位置越优。
在一个水波进行传播之后，该水波有可能进行折射。每次传播，水波的高度h会减少1，当h减少到0时，该水波将发生折射，同时其高度和波长也会改变，折射及高度波长改变公式如下：
折射后的位置正态分布在以当前水波和最优水波中点为均值，当前水波与最优水波距离为方差的位置。
在折射后水波的高度将会重新初始化为最大高度：
折射后， 会重新计算该水波的波长 ：
在水波进行传播之后，到达了一个优于当前最优水波的位置，则该水波将会进行碎浪，并将当前最优水波传播到碎浪产生的位置。
碎浪位置的产生公式如下：
k为一个随机数，每次碎浪将会随机选择k个维度来进行改变。 为一个常数。如果碎浪得到的结果优于当前最优水波，则改变当前最优水波到碎浪的位置。
是不是感觉流程图有点复杂，其实算法没有那么复杂，整个过程一共只有三个操作，一个水波在一代中最多只会执行两种方式。每个水波可能的搜索方式有三种：1.传播，2.先传播后碎浪，3.先传播后折射。
适应度函数
由于水波算法收敛较慢，所以最大迭代次数使用100。
实验一 ：
从图像中可以看出，个体在向着中心不断的收敛，其收敛速度不算很快。其结果也相对稳定。
从图像可以推测出，水波算法的核心参数其实是水波的最大高度，水波的最大高度决定了算法的收敛速度和精度，就像人工蜂群算法中的蜜源最大开采次数一样。若一个个体连续多代没有找到优于当前的位置，它将改变自己的策略。
从算法的具体实现可以看出，传播是一个在自身周围的全局搜索的过程，折射则属于一个大概率局部搜索，小概率跳出局部最优的操作，而碎浪则是进一步的局部搜索。那么水波的最大高度越高，则水波算法的全局搜索能力越强，但收敛速度越慢，反正，算法的收敛速度越快。
实验二 ：减少算法的水波最大高度至5
从图像可以看出算法的收敛速度明显比实验一要快，在第30代时已经快收敛于一个点了。从结果来看，实验二的结果也优于实验一，由于水波的最大高度较小，算法进行碎浪和折射的次数增加了，即算法的局部搜索能力增强了。
同样之前的算法中也提到过多次，收敛速度越快，群体越容易聚集到同一个区域，算法也越容易陷入局部最优，而适应度函数对优化算法来说是一个黑盒函数，无法得知其复杂程度。所以对于实验所使用的较为简单的测试函数，水波的最大高度越小，结果的精度越高，而面对未知的问题时，应该选取较大的水波高度以避免陷入局部最优。同样物极必反，水波的最大高度过大可能会使算法的局部搜索较弱，我们可以选取一个动态的水波最大高度。
实验三 ：水波最大高度随迭代次数增加由12递减至2
看图像和结果感觉和实验一差别不大，唯一的区别就是最优值要好于实验一。在这个简单的测试函数中无法表现出其应有的特点，由于算法后期群体已经较为集中，也无法明显的看出算法的收敛速度是否随着迭代次数增加而加快。
水波算法也是一个新兴算法，算法的流程较为复杂且可修改参数较多。算法的流程和思想与蜂群算法有点类似，但水波算法更为复杂。水波算法的三个搜索策略，传播是一个全局搜索行为，也有一定的跳出局部最优能力；折射则是一个局部搜索过程，由于正态分布的原因，有较小的概率产生跳出局部最优的操作；碎浪则是一个更进一步的局部搜索，只在最优位置附近搜索。
其搜索策略使算法在整个流程中都拥有全局搜索和局部搜索能力，全局搜索与局部搜索之间的平衡由水波的最大高度决定，最大高度约大，全局搜索能力越强，收敛速度越慢，反之，局部搜索能力越强，收敛速度越快。
以下指标纯属个人yy,仅供参考
参考文献
Zheng, Yu-Jun. Water wave optimization: A new nature-inspired metaheuristic[J]. Computers & Operations Research, 2015, 55:1-11. 提取码：fo70
目录
上一篇 优化算法笔记（十三）鲸鱼算法
下一篇 优化算法笔记（十五）蝙蝠算法
优化算法matlab实现（十四）水波算法matlab实现
② 优化算法笔记（十八）灰狼算法
（以下描述，均不是学术用语，仅供大家快乐的阅读）
灰狼算法（Grey Wolf Algorithm）是受灰狼群体捕猎行为启发而提出的算法。算法提出于2013年，仍是一个较新的算法。目前为止（2020）与之相关的论文也比较多，但多为算法的应用，应该仍有研究和改进的余地。
灰狼算法中，每只灰狼的位置代表了解空间中的一个可行解。群体中，占据最好位置的三只灰狼为狼王及其左右护法（卫）。在捕猎过程中这三只狼将带领着狼群蛇皮走位，抓捕猎物，直至找到猎物（最优解）。当然狼王不会一直是狼王，左右护法也是一样，每一轮走位后，会根据位置的优劣重新选出新的狼王和左右护法。狼群中的每一只灰狼会向着（也可能背向）这三只位置最优的灰狼移动一定的距离，来决定这一步自己将如何走位。简单来说， 灰狼个体会向则群体中最优的三个个体移动 。
很明显该算法的主角就是灰狼了。
设定目标灰狼为
，当前灰狼的为 ，则该灰狼向着目标灰狼移动后的位置 可以由一下公式计算得出：
灰狼群体中位置最好的三只灰狼编号为1,2,3，那么当前的灰狼i通过观察灰狼1、灰狼2和灰狼3，根据公式（1）得出的三个位置为Xi1,Xi2,Xi3。那么灰狼i将要移动到的位置可以根据以下供述计算得出：
可以看出该灰狼的目标位置是通过观察三只头狼得到的三个目标位置的所围成的区域的质心。（质心超出边界时，取值为边界值）。
灰狼算法的论文描述很多，但是其公式和流程都非常简单，主要对其参数A和C的作用效果进行了详细描述。
C主要决定了新位置相对于目标灰狼的方位，而A则决定新位置向目标靠近还是远离目标灰狼。当|A|>=1时，为远离目标，表现出更强的全局搜索能力，|A|<1时靠近目标，表现出更强的局部搜索能力。
适应度函数 。
实验一：
看看这图像和结果，效果好极了。每当我这么认为时，总会出现意想不到的转折。
修改一下最优解位置试一试， 。
实验二 ： 。
其结果比上面的实验差了不少，但我觉得这才是一个优化算法应有的搜索图像。其结果看上去较差只是因为迭代次数较少，收敛不够迅速，这既是优点也是缺点，收敛慢但是搜索更细致。
仔细分析灰狼算法的流程，它并没有向原点靠近的趋势，那只能理解为算法群体总体上向着群体的中心移动。 猜想 ：当初始化群体的中心恰好是正解时，算法的结果将会非常的好。
下面使用 ，并将灰狼的初始位置限定在（50,100）的范围内，看看实验图像是否和实验二的图像一致。
实验三 . ,初始种群取值范围为（50,100）
这图像和结果跟实验一的不是一样的吗?这说明从实验二中得出的猜想是错误的。
从图像和结果上看，都和实验二非常相似，当解在解空间的中心时但不在原点时，算法的结果将差一些。
为什么会这样呢？从算法的流程上看，灰狼算法的各个行为都是关于头狼对称的，当最优解在原点且头狼在附近时，公式（1）将变为如下：
实验五 . ,三只头狼添加贪心算法。
从图像可以看出中心的三个点移动的频率要比其他点的移动频率低。从结果上可以看出其结果相对稳定了不少，不过差距非常的小，几乎可以认为是运气好所导致。如果所有的个体都添加贪心算法呢？显然，算法的全局搜索能力将进一步减弱，并且更容易向群体中心收敛，这并不是一个好的操作。
实验六 . ,
在实验五的基础上为狼群添加一个统一的步长，即每只狼每次向着目标狼移动的距离不能大于其步长，将其最大步长设为1，看看效果。
从图像可以看出，受到步长的约束每只狼的移动距离较小，在结束时还没有收敛，其搜索能力较强但收敛速度过慢且极易陷入局部最优。现在将最大步长设置为10（1/10解空间范围）使其搜索能力和收敛速度相对平衡，在看看效果。
从图像可以看出，算法的收敛速度快了不少，但从结果可知，相较于实验五，算法的提升并不太大。
不过这个图像有一种似曾相识的感觉，与萤火虫算法（FireFly Algorithm）差不多，仔细对比这两个算法可以发现， 灰狼算法相当于萤火虫算法的一个简化 。实验六种对灰狼算法添加步长的修改，让其离萤火虫算法更近了一步。
实验七 . ,
在实验六的基础上让最大步长随着迭代次数增加递减。
从实验七的图像可以看出，种群的收敛速度好像快了那么一点，结果也变好了不少。但是和改进后的萤火虫算法相比仍然有一定的差距。
灰狼算法在全局搜索和局部搜索上的平衡已经比较好了，尝试过对其进行改进，但是修改使搜索能力更强时，对于局部最优的函数求解效果很差，反之结果的精度较低，总体而言修改后的算法与原算法相差无几。
灰狼算法是根据灰狼群体的捕猎行动而提出的优化算法，其算法流程和步骤非常简单，数学模型也非常的优美。灰狼算法由于没有贪心算法，使得其有着较强的全局搜索能力同时参数A也控制了算法的局部搜索范围，算法的全局搜索能力和局部搜索能力比较平衡。
从算法的优化图像可以看出，灰狼算法和萤火虫算法非常的相似。可以认为，灰狼算法是对萤火虫算法的一种改进。萤火虫算法向着由于自己的个体飞行，而灰狼算法则的条件更为苛刻，向着群体前三强前进，萤火虫算法通过步长控制搜索范围，而灰狼算法则直接定义搜索范围参数A，并令A线性递减。
灰狼算法的结构简单，但也不容易改进，数次改进后只是改变了全局搜索能力和局部搜索能力的比例，综合能力并没有太大变化。
由于原点对于灰狼算法有着隐隐的吸引力，当测试函数目标值在原点时，其结果会异常的好。因此，灰狼算法的实际效果没有论文中的那么好，但也不差，算是一个中规中矩的优化算法。
参考文献
Mirjalili S , Mirjalili S M , Lewis A . Grey Wolf Optimizer[J]. Advances in Engineering Software, 2014, 69:46-61. 提取码：wpff
以下指标纯属个人yy,仅供参考
目录
上一篇 优化算法笔记（十七）万有引力算法
下一篇 优化算法笔记（十九）头脑风暴算法
优化算法matlab实现（十八）灰狼算法matlab实现