A. 多目标优化问题
形式化定义:
特点:
①包含多个可能有冲突的目标函数。
②希望找到能够很好平衡全部优化目标的解集;
帕累托最优是指资源分配的一种理想状态。给定固有的一群人和可分配的资源,如果从一种分配状态到另一种分配状态,在没有使得任何人的境况变坏的前提下,使得至少有一个人变得更好,这就是帕累托改善的状态;换言之,不可能在不是任何其他人受损的情况下再改善某些人的境况。
支配(Dominace) :当x1和x2满足如下条件时称x1支配x2:①对于所有目标函数x1不比x2差;②至少在一个目标函数上,x1严格比x2要好。
对于点1和点2:对于目标函数f1是越大越好,在取相同f2时,点1比点2好;对于目标函数f2是越小越好,在取相同f1时,点1比点2好。所以点1支配点2。
对于点1和点4:目标函数f1上,取相同f2时,点4比点1好;目标函数f2上,取相同f1时,点1比点4好。所以点1和点4互不支配。
不可支配解集(Non-dominated solution set) :当一个解集中任何一个解都不能被该集合中其他解支配,那么就称该解集为不可支配解集。
帕累托最优解集(Pareto-optimal set ):所有可行中的不可支配解集被称为帕累托最优解集。
帕累托最优前沿面(Pareto-optimal front) :帕累托最优解集的边界(boundary)被称为帕累托最优前沿面。
多目标优化问题的目标 :①寻找尽可能接近最优的解集;②尽可能增大找到解的多样性。
优点:简单
缺点:①很难设定一个权重向量能够获得帕累托最优解;②在一些非凸情况下不能够保证获得帕累托最优解。
优点:能够应用到凸函数和非凸函数场景下。
缺点:函数需要精心选择,需要在独立函数的最小值或最大值之内。
优点:weighted Techebycheff metirc能够保证获得所有帕累托最优解。
缺点:①需要有每个函数最大值和最小值的先验知识;②需要每个目标函数的z*能够独立被找到;③对于较小的p值,不一定保证所有能够获得所有的帕累托最优解;④随着p增加,问题会变得不可求导。
①随机产生初始种群;
②计算各点的目标函数值和约束函数值;
③根据目标函数值对种群分级;
④根据约束函数值和分级结果计算各点的约束罚项、劣解罚项及总罚项;
⑤根据各点的总罚项计算适应度;
⑥根据各点的适应度,进行选择、交叉和变异操作,生成新种群;
⑦将总罚项为0的点放入非劣解集候选表,对候选表进行检查,保留第1级非劣点,删除其他点;
⑧检查是否收敛,如没有,转到步骤②;
⑨删除候选表中与其他店距离太近的点;
⑩输出候选表中的帕累托最优解集及对应的目标函数值;
最后,决策人根据个人偏好从帕累托最优解集中挑选出最适合该问题的解。
遗传算法相比传统的算法的优点是能够得到一个最优解集,而不是单单一个最优解,这样会提供更多的选择,但是计算的复杂度可能稍高,而且里面涉及的一些函数需要精心设计。
1.权重系数转换法
对每个目标函数fi(x)赋予权重wi,wi为目标函数的重要程度。μ=Σwi·fi(x),这里就将多目标转化为单目标函数,将μ作为评价函数。
2.并列选择法
主要步骤:(1)将种群按照目标函数个数等分为子种群,为每个子种群分配一个目标函数。(2)将子种群中的个体按照各自的目标函数选择出适应度高的个体,然后将其组成一个子种群。(3)再将子种群进行交配、变异、生成下一代父亲种群。然后再重复第一步。
并列选择法的缺点在于易于生成单个目标函数的极端最优解,而较难生成一种多个目标在某种程度上都比较满意的折中解。
3.排序选择法
基本思想就是基于“帕累托最优个体”的概念对群体中的个体进行排序,然后根据这个次序进行种群选择。这样的话,就能够让帕累托最优个体有更多的机会遗传到下一代。这种方法的缺点是仅仅度量了各个个体之间的优越次序,而并未度量各个个体的分散程度,所以容易生成相似的解,而不是分布较广的多个最优解。
4.共享函数法
针对排序选择方法的缺点,即所求的几个最优解通常都是集中于最优解集合的某一个小区域内,而不是分散在整个帕累托最优解集合。由此,引出了基于共享函数的 小生境技术 (小生境技术就是将每一代个体划分为若干类,每个类中选出若干适应度较大的个体作为一个类的优秀代表组成一个群,再在种群中,以及不同种群中之间,杂交,变异产生新一代个体群。同时采用预选择机制和排挤机制或分享机制完成任务。)。该算法对相同个体或类似个体的数目加以限制,以便能够产生出种类较多的不同的最优解。这就引出一个问题,怎么衡量两个个体之间的相似度?这就是小生境数。顾名思义,小生境就是在一个小环境中相似的个体种群。最常见的公式为:
s(d)为共享函数,是表示群体中两个个体之间密切关系程度的一个函数。d(X,Y)为个体X,Y之间的hanmin距离,也是用于衡量个体间相似度的一个函数。在计算出小生境数后,可以是小生境数较小的个体能够有更多的机会被选中,遗传到下一代群体中,即相似程度较小的个体能够有更多的机会被遗传到下一代群体中。
缺点:每次选择操作时都需要进行大量的个体之间的优越关系的评价和比较运算,使得算法搜索效率较低。
5.Horn和Nafploitis印的基于小生境帕累托多目标遗传算法(NPGA)
类似于第2个的并列选择法,将每一代个体划分为若干类,每个类别选出若干适应度较大的个体作为一个类的优秀代表组成一个种群,然后交配变异产生新一代种群。基于这种小生境的遗传算法(Niched Genetic Algorithms,NGA),可以更好地保持解的多样性,同时具有很高的全局寻优能力和收敛速度,特别适合于复杂多峰函数的优化问题。
6.Srinvivas和Deb的非支配排序遗传算法NSGA
1980年提出来的,在遗传算法的基础上对选择再生方法进行改进:将每个个体按照他们的支配和非支配关系进行再分层,再做选择操作,从而达到目的。
其分层的含义就是取出种群中的非支配个体组成一个小种群(第一个非支配最优层),并赋予其中所有个体一个共享的虚拟适应度值。然后再取出个体后的种群中继续取出非支配个体,再将它们组成一个小种群(第二个非支配最优层),并且赋予所有个体一个共享的虚拟适应度值。重复上述步骤,直到原始种群分配完毕,这就是分层,也叫非支配型排序。
非支配型排序遗传算法的缺点:①计算复杂度较高;②没有精英策略;③需要制定共享半径。
针对以上问题,k·Deb 于2002年提出了 7 的方法。
7.带精英策略的非支配排序遗传散发——NSGAII
1).采用快速非支配型排序,降低了算法复杂度。其复杂度降为了O(MN**2)。
2).提出了拥挤度和拥挤度比较算子,代替需要指定共享半径的适应度共享策略。并在快速排序后的同级比较中作为胜出标准。使准pareto解中的个体能扩展到整个pareto域中,并均匀分布,保持了种群的多样性。
3).引入精英策略,扩大采样空间。将父代种群和子代种群合并,保证优良个体能够留存下来。
其算法步骤如下:1.首先随机产生数量为n的初始种群,然后对其进行非支配型排序。接下来,就是常规的选择,交叉,变异操作产生第一代子代种群。2.然后,从第二代开始,将父代和子代合并。然后对其进行快速非支配型排序,同时计算每个非支配层的个体进行拥挤度的计算。然后根据非支配关系和拥挤度来选择合适的个体组成新的父代种群。最后通过再通过选择,交叉,变异产生子代。3.接下来,重复第二步。
具体做法参考:https://blog.csdn.net/quinn1994/article/details/80679528/
B. horn氏法的具体原理及算法是什么啊
Horn氏法,又叫平均移动法、剂量递增法,是利用剂量对数与死亡率(反应率)的转换数(即几率单位)呈直线关系而设计的方法。
C. 人工智能技术导论的目录
第1篇 概 述 与 工 具
第1章 人工智能概述
1.1 什么是人工智能
1.2 人工智能的研究意义、 目标和策略
1.3 人工智能的学科范畴
1.4 人工智能的研究内容
1.5 人工智能的研究途径与方法
1.6 人工智能的基本技术
1.7 人工智能的应用
1.8 人工智能的分支领域与研究方向
1.9 人工智能的发展概况
习题一
第2章 逻辑程序设计语言PROLOG
2.1 基本PROLOG
2.2 Turbo PROLOG程序设计
习题二
第2篇 搜索与求解
第3章 图搜索与问题求解
3.1 状态图搜索
3.2 状态图搜索问题求解
3.3 与或图搜索
3.4 与或图搜索问题求解
3.5 博弈树搜索
习题三
第4章 基于遗传算法的随机优化搜索
4.1 基本概念
4.2 基本遗传算法
4.3 遗传算法应用举例
4.4 遗传算法的特点与优势
习题四
第3篇 知识与推理
第5章 基于谓词逻辑的机器推理
5.1 一阶谓词逻辑
5.2 归结演绎推理
5.3 应用归结原理求取问题答案
5.4 归结策略
5.5 归结反演程序举例
5.6 Horn子句归结与逻辑程序
5.7 非归结演绎推理
习题五
第6章 基于产生式规则的机器推理
第7章 几种结构化知识表示及其推理
第8章 不确定性知识的表示与推理
第4篇 学习与发现
第9章 机器学习与知识发现
第5篇 感知与交流
第10章 模式识别
第11章 自然语言理解
第6篇 系统与建造
第12章 专家系统
第13章 Agent系统
第14章 智能计算机与智能化网络
第15章 智能机器人
第16章 智能程序设计语言
上机实习指导
中英文名词对照及索引
参考文献
D. 因素分析法及其特点
因素分析法
方法功用
应用范围
使用方法
运用程序
评价
注意事项
目录
1摘要
2基本信息
3方法功用
4应用范围
因素
经济
5使用方法
连环替代
差额分析
指标分解
定基替代
6运用程序
一般程序
使用原理
7评价
8注意事项
9参考资料
因素分析法。又称经验分析法,是一种定性分析方法。该方法主要指根据价值工程对象选择应考虑的各种因素,凭借分析人员的知识和经验集体研究确定选择对象。该方法简单易行,要求价值工程人员对产品熟悉,经验丰富,在研究对象彼此相差较大或时间紧迫的情况下比较适用,缺点是无定量分析、主观影响大。
因素分析法是利用统计指数体系分析现象总变动中各个因素影响程度的一种统计分析方法,包括连环替代法、差额分析法、指标分解法等。 因素分析法是现代统计学中一种重要而实用的方法,它是多元统计分析的一个分支。使用这种方法能够使研究者把一组反映事物性质、状态、特点等的变量简化为少数几个能够反映出事物内在联系的、固有的、决定事物本质特征的因素。
基本信息
中文名
因素分析法
别名
指数因素分析法
分类
连环替代法、差额分析法等
方法功用
因素分析法的最大功用,就是运用数学方法对可观测的事物在发展中所表现出的外部特征和联系进行由表及里、由此及彼、去粗取精、去伪存真的处理,从而得出客观事物普遍本质的概括。其次,使用因素分析法可以使复杂的研究课题大为简化,并保持其基本的信息量。
应用范围
因素
通过分析期货商品的供求状况及其影响因素,来解释和预测期货价格变化趋势的方法。期货交易是以现货交易为基础的。期货价格与现货价格之间有着十分紧密的联系。商品供求状况及影响其供求的众多因素对现货市场商品价格产生重要影响,因而也必然会对 期货价格重要影响。所以,通过分析商品供求状况及其影响因素的变化,可以帮助期货交易者预测和把握商品期货价格变化的基本趋势。在现实市场中,期货价格不仅受商品供求状况的影响,而且还受其他许多非供求因素的影响。这些非供求因素包括:金融货币因素,政治因素、政策因素、投机因素、心理预期等。因此,期货价格走势基本因素分析需要综合地考虑这些因素的影响。[1]
经济
商品供求状况对商品期货价格具有重要的影响。基本因素分析法主要分析的就是供求关系。商品供求状况的变化与价格的变动是互相影响、互相制约的。商品价格与供给成反比,供给增加,价格下降;供给减少,价格上升。商品价格与需求成正比,需求增加,价格上升;需求减少,价格下降。在其他因素不变的条件下,供给和需求的任何变化,都可能影响商品价格变化,一方面,商品价格的变化受供给和需求变动的影响;另一方面,商品价格的变化又反过来对供给和需求产生影响:价格上升,供给增加,需求减少;价格下降,供给减少,需求增加。这种供求与价格互相影响、互为因果的关系,使商品供求分析更加复杂化,即不仅要考虑供求变动对价格的影响,还要考虑价格变化对供求的反作用。
使用方法
连环替代
它是将分析指标分解为各个可以计量的因素,并根据各个因素之间的依存关系,顺次用各因素的比较值(通常即实际值)替代基准值(通常为标准值或计划值),据以测定各因素对分析指标的影响。
例如,设某一分析指标M是由相互联系的A、B、C三个因素相乘得到,报告期(实际)指标和基期(计划)指标为:
报告期(实际)指标M1=A1 * B1 * C1
基 期(计划)指标 M0=A0 * B0 * C0
在测定各因素变动指标对指标R影响程度时可按顺序进行:
基 期(计划)指标M0=A0 * B0 * C0……(1)
第一次替代 A1 * B0 * C0……(2)
第二次替代 A1 * B1 * C0……(3)
第三次替代 A1 * B1 * C1……(4)
分析如下:
(2)-(1)→A变动对M的影响。
(3)-(2)→B变动对M的影响。
(4)-(3)→C变动对M的影响。
把各因素变动综合起来,总影响:△M = M1 - M0 =(4)-(3)+(3)-(2)+(2)-(1)
差额分析
它是连环替代法的一种简化形式,是利用各个因素的比较值与基准值之间的差额,来计算各因素对分析指标的影响。
例如,某一个财务指标及有关因素的关系由如下式子构成:实际指标:Po=Ao×Bo×Co;标准指标:Ps=As×Bs×Cs;实际与标准的总差异为Po-Ps,Po-Ps 这一总差异同时受到A、B、C三个因素的影响,它们各自的影响程度可分别由以下式子计算求得:
A因素变动的影响:(Ao-As)×Bs×Cs;
B因素变动的影响;Ao×(Bo-Bs)×Cs;
C因素变动的影响:Ao×Bo×(Co-Cs)。
最后,可以将以上三大因素各自的影响数相加就应该等于总差异Po-Ps。
指标分解
例如资产利润率,可分解为资产周转率和销售利润率的乘积。
定基替代
分别用分析值替代标准值,测定各因素对财务指标的影响,例如标准成本的差异分析。
运用程序
一般程序
1、确定需要分析的指标;
2、确定影响该指标的各因素及与该指标的关系;
3、计算确定各个因素影响的程度数额。
使用原理
人的心理现象是复杂的,由许多因素有机结合而成,而每种心理因素又同时受到各种条件的制约,它如同一个庞大的多维系统,调节、控制着人的行为。传统的单变量和双变量分析往往在信息的处理上要么失去有用的信息,要么引入无用的信息,使研究者分不出现象的主次或得出不恰当的甚至是错误的结论。因素分析法则可在多变量观测分析的基础上较全面地反映出事物的各个不同侧面。在心理学研究中,研究者用因素分析从众多的变量中提取几种具有决定性意义的因素,建立理论假设,然后又用因素分析法反复验证假设,直至成功。因此,因素分析法是用来形成科学概念,进而建构思想模型和理论体系的强有力的认识手段和辅助工具。
因素分析法的数学运算主要是建立在矩阵运算的基础之上。它的基本运算过程如下:
首先是收集一定的测量资料,将资料数据标准化。在心理测量中,常需将测验分数转化成标准分数,并排列成数据矩阵。
其次,通过相关运算求出每个因素和其它因素的相关矩阵。
第三,用特定的运算方法,如主成分分析、影像分析、α因素分析、最小残余因素分析、最大可能解、重心法等求出因素载荷矩阵。
第四,为了使载荷矩阵的意义比较清晰,易于分析,要用直角旋转法和斜角旋转法等对载荷矩阵进行转轴处理,使每个变量只在少数几个因素上有较大的载荷,而使一些变量载荷接近零。这就有可能使每个变量在总方差中的因素更集中,从而表现出变量中最具有意义的特征主因素。
第五,对主因素进行定义并加以解释。主因素定义是否准确,解释是否恰当,不但取决于因素分析是否做得成功,而且在很大程度上取决于主观判断过程。在因素分析结果不明确的情况下更是如此。
因素分析法在智力测验中的应用
因素分析法的应用始自对智力的研究。1904年斯皮尔曼发表了《客观测定的智力》一文,开了用因素分析法研究智力的先河。斯皮尔曼在对学生考试成绩的分析过程中,注意到分数之间的相关矩阵存在一定的系统影响。其相关矩阵如下:??表中的课程是按照相关系数从左到右递减排列的,在每一行中,数值大体上均按照同一程度减少。斯皮尔曼经过分析指出,每一门课程的考试成绩都可以看作是由一个一般因子(与一般智力相一致)与一个特殊因子(与特殊智力相一致)之和组成的。他对多种多样的测验进行反复计算,大都得出类似的结果。因此,他认为任何智力因素都是由一般因素G和特殊因素S组合而成的,这就是着名的智力二因素理论。
此后,瑟斯顿等人通过对60多种不同类型智力测验的因素分析,将60多种因素进行因素提取,找出7种较为稳定的因素:计算、词的流畅性、言语意义、记忆、推理、空间知觉和知觉速度,称之为“基本的心理能力”,这就是瑟期顿的智力群因素理论。瑟斯顿及其同事对每种稳定的能力因素都做了测验,并预计这些能力应有负相关。然而,每种能力都和其它能力有正相关。看来,各种能力之间仍存在一般因素。他们编制了PMAT测验,对PMAT测验所得数据进行因素分析发现还存在二级群因素,即语言教育能力、空间机械能力和实际活动能力。弗农在1950年通过因素分析研究使各种因素形成了不同层次的分支,最高层是一般因素G,其次是语言教育能力、空间机械能力和实际活动能力群,然后是较小的PMAT次级群因素,最后是特殊因素S。他们通过对测量结果的因素分析,将智力分成了层级结构。
吉尔福特的智力结构理论也得益于因素分析法。他提出了三维智力结构模式,认为智力是由操作、内容和结果3个变项构成,这3个变项又分别包括5个、4个和6个方面,共120种智力因素。后来,他又把120种智力因素增加为150种。为了证明这150种智力因素存在,他设计了智力测验,并用因素分析加以验证。他声称已找到100种以上的智力因素,要进行如此众多独立变量的提取,离开因素分析几乎不可能。
卡特尔(Cattel)和霍恩(Horn)通过对测验的因素分析,提出了自己的智力结构理论,认为一般智力因素是流体型智力GF和晶体型智力GC。GF负载于数能力、空间能力、推理能力中,GC负载于语言能力、推理能力、记忆能力、词的流畅性中。他的这一理论支持了斯皮尔曼的智力二因素说。
韦克斯勒智力测验的理论基础直接来源于斯皮尔曼的智力二因素论及瑟斯顿的群因素论。韦氏认为,人的一般智力是多种能力的综合,因此他的智力测验受益于因素分析。库恩(Cohen)对韦氏成人智力量表的前身W—B、韦氏成人智力量表(WAIS)和韦氏学龄儿童智力量表(WISC)作了因素分析,发现韦氏智力量表包含5个共同因素:言语理解Ⅰ因素、知觉组织因素、记忆或集中注意因素、言语
E. ICP算法的迭代就近点算法
在20世纪80年代中期,很多学者开始对点集数据的配准进行了大量研究。1987年,Horn[1]、Arun[2]等人用四元数法提出点集对点集配准方法。这种点集与点集坐标系匹配算法通过实践证明是一个解决复杂配准问题的关键方法。1992年,计算机视觉研究者Besl和Mckay[3]介绍了一种高层次的基于自由形态曲面的配准方法,也称为迭代就近点法ICP(Iterative Closest Point)。以点集对点集(PSTPS)配准方法为基础,他们阐述了一种曲面拟合算法,该算法是基于四元数的点集到点集配准方法。从测量点集中确定其对应的就近点点集后,运用Faugera和Hebert提出的方法计算新的就近点点集。用该方法进行迭代计算,直到残差平方和所构成的目标函数值不变,结束迭代过程。ICP配准法主要用于解决基于自由形态曲面的配准问题。
迭代就近点法ICP就近点法经过十几年的发展,不断地得到了完善和补充。Chen和Medioni[4]及Bergevin等人[5]提出了point-to-plane搜索就近点的精确配准方法。Rusinkiewicz和Levoy提出了point-to-p rojection搜索就近点的快速配准方法。Soon-Yong和Murali提出了Contractive-projection-point搜索就近点的配准方法。此外,Andrew和Sing[6]提取了基于彩色三维扫描数据点纹理信息的数据配准方法,主要在ICP算法中考虑三维扫描点的纹理色彩信息进行搜索就近点。Natasha等人[7]分析了ICP算法中的点云数据配准质量问题。
基本原理
三维空间R3存在两组含有n个坐标点的点集,分别为: PL和PR。三维空间点集PL中各点经过三维空间变换后与点集PR中点一一对应,其单点变换关系式为:
(0-1)
上式中,R为三维旋转矩阵,t为平移向量。
在ICP配准方法中,空间变换参数向量X可表示为[9] 。参数向量中四元数参数满足约束条件为:
(0-2)
根据迭代的初值X0,由式(0-1)计算新点集Pi为:
(0-3)
式中,P表示原始未修改过的点集,Pi的下标i表示迭代次数,参数向量X的初始值X0为 。
根据以上数据处理方法,ICP配准算法可以概括为以下七个步骤:
1) 根据点集Plk中的点坐标,在曲面S上搜索相应就近点点集Prk;
2) 计算两个点集的重心位置坐标,并进行点集中心化生成新的点集;
3) 由新的点集计算正定矩阵N,并计算N的最大特征值及其最大特征向量;
4) 由于最大特征向量等价于残差平方和最小时的旋转四元数,将四元数转换为旋转矩阵R;
5) 在旋转矩阵R被确定后,由平移向量t仅仅是两个点集的重心差异,可以通过两个坐标系中的重心点和旋转矩阵确定;
6) 根据式(0-3),由点集Plk计算旋转后的点集P’lk。通过Plk与P’lk计算距离平方和值为fk+1。以连续两次距离平方和之差绝对值 作为迭代判断数值;
7) 当 时,ICP配准算法就停止迭代,否则重复1至6步,直到满足条件 后停止迭代。