1. 粒子群算法的优缺点
优点:PSO同遗传算法类似,是一种基于迭代的优化算法。系统初始化为一组随机解,通过迭代搜寻最优值。同遗传算法比较,PSO的优势在于简单容易实现,并且没有许多参数需要调整。
缺点:在某些问题上性能并不是特别好。网络权重的编码而且遗传算子的选择有时比较麻烦。最近已经有一些利用PSO来代替反向传播算法来训练神经网络的论文。
(1)基于粒子群算法最优选址问题总结扩展阅读:
注意事项:
基础粒子群算法步骤较为简单。粒子群优化算法是由一组粒子在搜索空间中运动,受其自身的最佳过去位置pbest和整个群或近邻的最佳过去位置gbest的影响。
对于有些改进算法,在速度更新公式最后一项会加入一个随机项,来平衡收敛速度与避免早熟。并且根据位置更新公式的特点,粒子群算法更适合求解连续优化问题。
2. 粒子群算法的算法介绍
如前所述,PSO模拟鸟群的捕食行为。设想这样一个场景:一群鸟在随机搜索食物。在这个区域里只有一块食物。所有的鸟都不知道食物在那里。但是他们知道当前的位置离食物还有多远。那么找到食物的最优策略是什么呢。最简单有效的就是搜寻目前离食物最近的鸟的周围区域。
PSO从这种模型中得到启示并用于解决优化问题。PSO中,每个优化问题的解都是搜索空间中的一只鸟。我们称之为“粒子”。所有的粒子都有一个由被优化的函数决定的适应值(fitness value),每个粒子还有一个速度决定他们飞翔的方向和距离。然后粒子们就追随当前的最优粒子在解空间中搜索。
PSO 初始化为一群随机粒子(随机解)。然后通过迭代找到最优解。在每一次迭代中,粒子通过跟踪两个极值来更新自己。第一个就是粒子本身所找到的最优解,这个解叫做个体极值pBest。另一个极值是整个种群目前找到的最优解,这个极值是全局极值gBest。另外也可以不用整个种群而只是用其中一部分作为粒子的邻居,那么在所有邻居中的极值就是局部极值。 在找到这两个最优值时,粒子根据如下的公式来更新自己的速度和新的位置:
v[] = w * v[] + c1 * rand() * (pbest[] - present[]) + c2 * rand() * (gbest[] - present[]) (a)
present[] = present[] + v[] (b)
v[] 是粒子的速度, w是惯性权重,present[] 是当前粒子的位置. pbest[] and gbest[] 如前定义 rand () 是介于(0, 1)之间的随机数. c1, c2 是学习因子. 通常 c1 = c2 = 2.
程序的伪代码如下
For each particle
____Initialize particle
END
Do
____For each particle
________Calculate fitness value
________If the fitness value is better than the best fitness value (pBest) in history
____________set current value as the new pBest
____End
____Choose the particle with the best fitness value of all the particles as the gBest
____For each particle
________Calculate particle velocity according equation (a)
________Update particle position according equation (b)
____End
While maximum iterations or minimum error criteria is not attained
在每一维粒子的速度都会被限制在一个最大速度Vmax,如果某一维更新后的速度超过用户设定的Vmax,那么这一维的速度就被限定为Vmax
3. 标准粒子群优化算法的速度和位置更新方式
1、需要更新速度以及位置速度更新公式:v(i)=v(i)w+c1rand*(pbest(i)-x(i))+c2*rand(gbest(i)-x(i))。
2、速饥磨度更新公式由三部分组成:之前的速度影响v(i)*w,个体最优影响(pbest(i)-x(i))和全局最优的影响(gbest(i)-x(i))则位置更新公式为:x(i)=x(i)+v(i)。
3、其中烂运斗,i指的是种群中的第i个粒子x(i):粒子i的位置,刚开始应该给粒子随机初始化位置v(i):粒子i的速度,刚开始应该给粒子随机初始化速度c1是粒子个体的学习因子,c2是粒子的群体学习因子,表示个体最优和群体悄樱最优的影响,w为惯性因子,代表了历史成绩的影响pbest和gbest分别代表粒子个体最优位置和群体最优位置。
4. 关于粒子群算法的问题
粒子群的版本甚多,常用的是加有惯性权重w的
v[] = w * v[] + c1 * rand() * (pbest[] - present[]) + c2 * rand() * (gbest[] - present[])
一般选择惯性权重在迭代过程中线性下降,目的是在迭代的初期,以比较大的权重分配给粒子的原速度,而防止粒子过早的倾向于其本身的局部最优与全局最优,此时的全局搜索能力是可以的。但粒子群是基于牛顿力学的,随着w的减小,速度v的作用会在更新中弱化,对应的是,pbest和gbest的作用得到了加强,这也就意味着,粒子会更加趋向于pbest和gbest的方向移动。这个时候粒子就特别容易陷入局部最优了。
其实陷入局部最优不只是粒子群的问题,进化类的算法都存在这个问题,只不过有些算法随机性强一些,收敛速度慢一些,所以更加容易跳出局部最优(但不是绝对避免)
5. 粒子群算法简单介绍
粒子群算法(也称粒子群优化算法(particle swarm optimization, PSO)),模拟鸟群随机搜索食物的行为。粒子群算法中,每个优化问题的潜在解都是搜穗穗索空间中的一只鸟,叫做“粒子”。所有的粒子都有一个由被优化的函数决定的适应值(fitness value),每个粒子还有一个速度决定它们“飞行”的方向和距离。
粒子群算法初始化为一群随机的粒子(随机解),然后根据迭代找到最优解。每一次迭代中,粒子通过跟踪两个极敏扰值来更新自己:第1个是粒子本身所找到的最优解,这个称为个体极值;第2个是整个种群目前找到的最优解,这个称为全局极值。也可以不用整个种群,而是用其中的一部分作为粒子的邻居猜拿卜,称为局部极值。
假设在一个D维搜索空间中,有N个粒子组成一个群落,其中第i个粒子表示为一个D维的向量:
第i个粒子的速度表示为:
还要保存每个个体的已经找到的最优解 ,和一个整个群落找到的最优解 。
第i个粒子根据下面的公式更新自己的速度和位置:
其中, 是个体已知最优解, 是种群已知最优解, 为惯性权重, , 为学习因子(或加速常数 acceleration constant), , 是[0,1]范围内的随机数。
式(1)由三部分组成:
6. 粒子群优化算法
粒子群算法 的思想源于对鸟/鱼群捕食行为的研究,模拟鸟集群飞行觅食的行为,鸟之间通过集体的协作使群体达到最优目的,是一种基于Swarm Intelligence的优化方法。它没有遗传算法的“交叉”(Crossover) 和“变异”(Mutation) 操作,它通过追随当前搜索到的最优值来寻找全局最优。粒子群算法与其他现代优化方法相比的一个明显特色就是所 需要调整的参数很少、简单易行 ,收敛速度快,已成为现代优化方法领域研究的热点。
设想这样一个场景:一群鸟在随机搜索食物。已知在这块区域里只有一块食物;所有的鸟都不知道食物在哪里;但它们能感受到当前的位置离食物还有多远。那么找到食物的最优策略是什么呢?
1. 搜寻目前离食物最近的鸟的周围区域
2. 根据自己飞行的经验判断食物的所在。
PSO正是从这种模型中得到了启发,PSO的基础是 信息的社会共享
每个寻优的问题解都被想象成一只鸟,称为“粒子”。所有粒子都在一个D维空间进行搜索。
所有的粒子都由一个fitness function 确定适应值以判断目前的位置好坏。
每一个粒子必须赋予记忆功能,能记住所搜寻到的最佳位置。
每一个粒子还有一个速度以决定飞行的距离和方向。这个速度根据它本身的飞行经验以及同伴的飞行经验进行动态调整。
粒子速度更新公式包含三部分: 第一部分为“惯性部分”,即对粒子先前速度的记忆;第二部分为“自我认知”部分,可理解为粒子i当前位置与自己最好位置之间的距离;第三部分为“社会经验”部分,表示粒子间的信息共享与合作,可理解为粒子i当前位置与群体最好位置之间的距离。
第1步 在初始化范围内,对粒子群进行随机初始化,包括随机位置和速度
第2步 根据fitness function,计算每个粒子的适应值
第3步 对每个粒子,将其当前适应值与其个体历史最佳位置(pbest)对应的适应值作比较,如果当前的适应值更高,则用当前位置更新粒子个体的历史最优位置pbest
第4步 对每个粒子,将其当前适应值与全局最佳位置(gbest)对应的适应值作比较,如果当前的适应值更高,则用当前位置更新粒子群体的历史最优位置gbest
第5步 更新粒子的速度和位置
第6步 若未达到终止条件,则转第2步
【通常算法达到最大迭代次数或者最佳适应度值得增量小于某个给定的阈值时算法停止】
粒子群算法流程图如下:
以Ras函数(Rastrigin's Function)为目标函数,求其在x1,x2∈[-5,5]上的最小值。这个函数对模拟退火、进化计算等算法具有很强的欺骗性,因为它有非常多的局部最小值点和局部最大值点,很容易使算法陷入局部最优,而不能得到全局最优解。如下图所示,该函数只在(0,0)处存在全局最小值0。
7. 分析标准粒子群算法的不足及改进的方法
一个以上的目标,以优化
相对传统的多目标优化方法在解决多目标问题,PSO具有很大的优势。首先,PSO算法和高效的搜索功能,有利于在这个意义上,多目标的最优解;其次,PSO代表了整个解决方案的人口集固有的并行性,同时搜索多个非劣解,所以容易搜索多个Pareto最佳的解决方案;此外,PSO通用的适合处理所有类型的目标函数和约束条件,PSO容易与传统相结合的方法,和然后提出了有效的方法来解决一个具体的问题。 PSO本身,为了更好地解决多目标优化问题,必须解决的问题的全局最优粒子和个人选择的最优粒子。为全局最优粒子的选择,一方面,该算法具有更好的收敛速度,另一方面帕累托边界分散体的溶液中。如果在最佳的单个颗粒的选择,需要较少的计算复杂性,并且是仅由较少数量的比较非
劣解更新。迄今为止,基于PSO的多目标优化,主要有以下
思路:
(1)向量法和加权方法。文献[20]的固定权重法,自适应权重法和向量评估方法的第一次,PSO解决MO问题。然而,对于一个给定的优化问题,权重的方法通常是很难获得一组合适的权重向量评价方法MO的问题是,往往无法得到满意的解决方案。
(2)基于Pareto方法。 [21]帕累托排序机制和PSO相结合,处理的问题,多目标优化,Pareto排序方法来选择一组的精英,和轮盘赌选择全局最优粒子。虽然轮盘赌选择机制,使所有的帕累托个人选择的概率是一样的,但实际上只有少数人的选择的概率就越大,因此不利于保持种群多样性;文献[22]通过引入在PSO帕累托竞争机制,选择全局最优粒子的颗粒知识基础。候选个人随机选自人口比较集进行比较,以确定非劣解,该算法的成功取决于比较集的大小的参数设置。如果这个参数是太小了,选择的过程,从人口的非劣效性个人可能是太小了,如果这个参数是太大,它可能会出现过早收敛。
(3)距离的方法。 [23],被分配的各个的当前的解决方案之间的距离的基础上Pa2reto的解决方案,其适应值,以便选择全局最优粒子。随着距离的方法需要被初始化潜在的解决方案,如果初始电位值太大,不同的解决方案,以适应不同的值并不显着。这将导致在选择压力太小或个别均匀分布,导致在PSO算法收敛速度非常慢。
(4)附近的“。文献[24]提出了动态邻域的选择策略,为优化目标的定义,目标,和其他所有的目标定义的目标附近,然后选择全局最优粒子的动态邻域的策略,但该方法更敏感的目标函数的优化目标选择和附近的排序。
(5)多组法。文献[25]的人口划分成多个子群,以及每个子群PSO算法,通过搜索Pareto最优解的各种子群之间的信息交流。然而,由于需要增加的粒子的数量增加的计算量。
(6)非排名的方法。 [26]使用非主导的排序选择全局最优的粒子。整个人口,粒子的个人最好成绩粒子和它的后代,有利于提供一个适当的选择压力,小生境技术,以增加种群多样性。比较所有粒子的个人最好成绩颗粒在整个人群遗传给后代,但是,由于其本身的性质是不利于人口的多样性,容易形成早熟。此外,文献[27]最大最小策略,博弈论引入PSO解决多MO。最大最小策略,以确定粒子的适应值,可以判断帕累托最优的解决方案,而不需要集群和小生境技术。
2约束优化
在最近几年也取得了一些进展,PSO算法在约束最优化。基于PSO-的约束优化工作分为两种类型:①罚函数法;②设计特定的进化操作或约束修正系数。 [28]采用罚函数法,采用非固定多段映射罚函数将约束的优化问题,然后利用PSO解决问题的转换后,模拟结果表明,该算法相对进化策略和遗传算法的优势,但罚函数的设计过于复杂,不利于解决;文献[29],一个可行的解决方案,保留策略处理约束,即,一方面要更新所有的颗粒的存储区域中到只保留可行的解决方案,在另一方面在初始化阶段的所有的颗粒从一个可行的解决方案的空间值?初始的可行的解决方案空间,然而,是难以确定的很多问题,文献[30 ]提出的多层信息共享策略粒子群与约束原则来处理,根据约束矩阵多层Pareto排序机制的微粒,从而一些微粒,以确定个人的搜索方向的其余。
3离散优化为离散优化解决方案空间是离散点的集合,而不是连续PSO解决离散优化问题,必须予以纠??正的速度和位置更新公式,或变形。基于PSO的离散优化可分为以下三类:
速度(1)的位置变化的概率。 [31]首先提出了离散二进制PSO。二进制粒子的位置编码器,Sigmoid函数,速度约束在[0,1],代表粒子的概率立场;法[32] [31]在文献
提高的地址更换安排。安排更换颗粒,速度是指根据两个粒子的相似性,以确定粒子的位置变化也引入突变操作,以防止陷入局部极小的最优粒子的概率。
(2)重新定义的PSO的操作。 [33]通过重新定义粒子的位置,速度,和他们的加法和减法乘法运算,提出了一种新的离散粒子群,并为解决旅行商问题。虽然该算法是有效的,但它提供了一种新的思维方式求解组合优化问题。
(3)连续PSO离散的情况下。 [34]采用连续PSO,解决分布式计算机任务的分配问题。于实数被转换为一个正整数,和符号的实数部分和小数部分的
分除去。结果表明,在溶液中的质量和速度的方法的算法是优于遗传算法。
4动态优化
在许多实际工程问题,优化环境是不确定的,或动态。因此,优化算法必须有能力与环境的动态变化做出相应的调整,以最佳的解决方案,该算法具有一定的鲁棒性。 [35]首次提出了PSO跟踪动态系统[36]提出了自适应PSO自动跟踪动态系统的变化,种群粒子检测方法和粒子重新初始化PSO系统变化的跟踪能力增强;文献[37]迅速变化的动态环境中,在粒子速度更新公式的变化条目的增加,消除了需要在环境中的变化来检测,可以跟踪环境处理。虽然该研究少得多,但不容质疑的,是一个重要的研究内容。
粒子群算法的MATLAB程序
初始化粒子群;
对于每个粒子
计算他们的身体健康;
如果(健身优于粒子的历史最好值)
历史最好的个人裨锡更新;
如果选择当前粒子群粒子;(当前的最优粒子比历史最好粒子组)
与目前最好的粒子更新PG组;对于每个粒子
更新粒子类型①速度;
更新的位置粒子类型②;
完
虽然还没有达到最大迭代次数,或不符合的最小误差。