A. 多目標優化問題
形式化定義:
特點:
①包含多個可能有沖突的目標函數。
②希望找到能夠很好平衡全部優化目標的解集;
帕累托最優是指資源分配的一種理想狀態。給定固有的一群人和可分配的資源,如果從一種分配狀態到另一種分配狀態,在沒有使得任何人的境況變壞的前提下,使得至少有一個人變得更好,這就是帕累托改善的狀態;換言之,不可能在不是任何其他人受損的情況下再改善某些人的境況。
支配(Dominace) :當x1和x2滿足如下條件時稱x1支配x2:①對於所有目標函數x1不比x2差;②至少在一個目標函數上,x1嚴格比x2要好。
對於點1和點2:對於目標函數f1是越大越好,在取相同f2時,點1比點2好;對於目標函數f2是越小越好,在取相同f1時,點1比點2好。所以點1支配點2。
對於點1和點4:目標函數f1上,取相同f2時,點4比點1好;目標函數f2上,取相同f1時,點1比點4好。所以點1和點4互不支配。
不可支配解集(Non-dominated solution set) :當一個解集中任何一個解都不能被該集合中其他解支配,那麼就稱該解集為不可支配解集。
帕累托最優解集(Pareto-optimal set ):所有可行中的不可支配解集被稱為帕累托最優解集。
帕累托最優前沿面(Pareto-optimal front) :帕累托最優解集的邊界(boundary)被稱為帕累托最優前沿面。
多目標優化問題的目標 :①尋找盡可能接近最優的解集;②盡可能增大找到解的多樣性。
優點:簡單
缺點:①很難設定一個權重向量能夠獲得帕累托最優解;②在一些非凸情況下不能夠保證獲得帕累托最優解。
優點:能夠應用到凸函數和非凸函數場景下。
缺點:函數需要精心選擇,需要在獨立函數的最小值或最大值之內。
優點:weighted Techebycheff metirc能夠保證獲得所有帕累托最優解。
缺點:①需要有每個函數最大值和最小值的先驗知識;②需要每個目標函數的z*能夠獨立被找到;③對於較小的p值,不一定保證所有能夠獲得所有的帕累托最優解;④隨著p增加,問題會變得不可求導。
①隨機產生初始種群;
②計算各點的目標函數值和約束函數值;
③根據目標函數值對種群分級;
④根據約束函數值和分級結果計算各點的約束罰項、劣解罰項及總罰項;
⑤根據各點的總罰項計算適應度;
⑥根據各點的適應度,進行選擇、交叉和變異操作,生成新種群;
⑦將總罰項為0的點放入非劣解集候選表,對候選表進行檢查,保留第1級非劣點,刪除其他點;
⑧檢查是否收斂,如沒有,轉到步驟②;
⑨刪除候選表中與其他店距離太近的點;
⑩輸出候選表中的帕累托最優解集及對應的目標函數值;
最後,決策人根據個人偏好從帕累托最優解集中挑選出最適合該問題的解。
遺傳演算法相比傳統的演算法的優點是能夠得到一個最優解集,而不是單單一個最優解,這樣會提供更多的選擇,但是計算的復雜度可能稍高,而且裡面涉及的一些函數需要精心設計。
1.權重系數轉換法
對每個目標函數fi(x)賦予權重wi,wi為目標函數的重要程度。μ=Σwi·fi(x),這里就將多目標轉化為單目標函數,將μ作為評價函數。
2.並列選擇法
主要步驟:(1)將種群按照目標函數個數等分為子種群,為每個子種群分配一個目標函數。(2)將子種群中的個體按照各自的目標函數選擇出適應度高的個體,然後將其組成一個子種群。(3)再將子種群進行交配、變異、生成下一代父親種群。然後再重復第一步。
並列選擇法的缺點在於易於生成單個目標函數的極端最優解,而較難生成一種多個目標在某種程度上都比較滿意的折中解。
3.排序選擇法
基本思想就是基於「帕累托最優個體」的概念對群體中的個體進行排序,然後根據這個次序進行種群選擇。這樣的話,就能夠讓帕累托最優個體有更多的機會遺傳到下一代。這種方法的缺點是僅僅度量了各個個體之間的優越次序,而並未度量各個個體的分散程度,所以容易生成相似的解,而不是分布較廣的多個最優解。
4.共享函數法
針對排序選擇方法的缺點,即所求的幾個最優解通常都是集中於最優解集合的某一個小區域內,而不是分散在整個帕累托最優解集合。由此,引出了基於共享函數的 小生境技術 (小生境技術就是將每一代個體劃分為若干類,每個類中選出若干適應度較大的個體作為一個類的優秀代表組成一個群,再在種群中,以及不同種群中之間,雜交,變異產生新一代個體群。同時採用預選擇機制和排擠機制或分享機制完成任務。)。該演算法對相同個體或類似個體的數目加以限制,以便能夠產生出種類較多的不同的最優解。這就引出一個問題,怎麼衡量兩個個體之間的相似度?這就是小生境數。顧名思義,小生境就是在一個小環境中相似的個體種群。最常見的公式為:
s(d)為共享函數,是表示群體中兩個個體之間密切關系程度的一個函數。d(X,Y)為個體X,Y之間的hanmin距離,也是用於衡量個體間相似度的一個函數。在計算出小生境數後,可以是小生境數較小的個體能夠有更多的機會被選中,遺傳到下一代群體中,即相似程度較小的個體能夠有更多的機會被遺傳到下一代群體中。
缺點:每次選擇操作時都需要進行大量的個體之間的優越關系的評價和比較運算,使得演算法搜索效率較低。
5.Horn和Nafploitis印的基於小生境帕累托多目標遺傳演算法(NPGA)
類似於第2個的並列選擇法,將每一代個體劃分為若干類,每個類別選出若干適應度較大的個體作為一個類的優秀代表組成一個種群,然後交配變異產生新一代種群。基於這種小生境的遺傳演算法(Niched Genetic Algorithms,NGA),可以更好地保持解的多樣性,同時具有很高的全局尋優能力和收斂速度,特別適合於復雜多峰函數的優化問題。
6.Srinvivas和Deb的非支配排序遺傳演算法NSGA
1980年提出來的,在遺傳演算法的基礎上對選擇再生方法進行改進:將每個個體按照他們的支配和非支配關系進行再分層,再做選擇操作,從而達到目的。
其分層的含義就是取出種群中的非支配個體組成一個小種群(第一個非支配最優層),並賦予其中所有個體一個共享的虛擬適應度值。然後再取出個體後的種群中繼續取出非支配個體,再將它們組成一個小種群(第二個非支配最優層),並且賦予所有個體一個共享的虛擬適應度值。重復上述步驟,直到原始種群分配完畢,這就是分層,也叫非支配型排序。
非支配型排序遺傳演算法的缺點:①計算復雜度較高;②沒有精英策略;③需要制定共享半徑。
針對以上問題,k·Deb 於2002年提出了 7 的方法。
7.帶精英策略的非支配排序遺傳散發——NSGAII
1).採用快速非支配型排序,降低了演算法復雜度。其復雜度降為了O(MN**2)。
2).提出了擁擠度和擁擠度比較運算元,代替需要指定共享半徑的適應度共享策略。並在快速排序後的同級比較中作為勝出標准。使准pareto解中的個體能擴展到整個pareto域中,並均勻分布,保持了種群的多樣性。
3).引入精英策略,擴大采樣空間。將父代種群和子代種群合並,保證優良個體能夠留存下來。
其演算法步驟如下:1.首先隨機產生數量為n的初始種群,然後對其進行非支配型排序。接下來,就是常規的選擇,交叉,變異操作產生第一代子代種群。2.然後,從第二代開始,將父代和子代合並。然後對其進行快速非支配型排序,同時計算每個非支配層的個體進行擁擠度的計算。然後根據非支配關系和擁擠度來選擇合適的個體組成新的父代種群。最後通過再通過選擇,交叉,變異產生子代。3.接下來,重復第二步。
具體做法參考:https://blog.csdn.net/quinn1994/article/details/80679528/
B. horn氏法的具體原理及演算法是什麼啊
Horn氏法,又叫平均移動法、劑量遞增法,是利用劑量對數與死亡率(反應率)的轉換數(即幾率單位)呈直線關系而設計的方法。
C. 人工智慧技術導論的目錄
第1篇 概 述 與 工 具
第1章 人工智慧概述
1.1 什麼是人工智慧
1.2 人工智慧的研究意義、 目標和策略
1.3 人工智慧的學科範疇
1.4 人工智慧的研究內容
1.5 人工智慧的研究途徑與方法
1.6 人工智慧的基本技術
1.7 人工智慧的應用
1.8 人工智慧的分支領域與研究方向
1.9 人工智慧的發展概況
習題一
第2章 邏輯程序設計語言PROLOG
2.1 基本PROLOG
2.2 Turbo PROLOG程序設計
習題二
第2篇 搜索與求解
第3章 圖搜索與問題求解
3.1 狀態圖搜索
3.2 狀態圖搜索問題求解
3.3 與或圖搜索
3.4 與或圖搜索問題求解
3.5 博弈樹搜索
習題三
第4章 基於遺傳演算法的隨機優化搜索
4.1 基本概念
4.2 基本遺傳演算法
4.3 遺傳演算法應用舉例
4.4 遺傳演算法的特點與優勢
習題四
第3篇 知識與推理
第5章 基於謂詞邏輯的機器推理
5.1 一階謂詞邏輯
5.2 歸結演繹推理
5.3 應用歸結原理求取問題答案
5.4 歸結策略
5.5 歸結反演程序舉例
5.6 Horn子句歸結與邏輯程序
5.7 非歸結演繹推理
習題五
第6章 基於產生式規則的機器推理
第7章 幾種結構化知識表示及其推理
第8章 不確定性知識的表示與推理
第4篇 學習與發現
第9章 機器學習與知識發現
第5篇 感知與交流
第10章 模式識別
第11章 自然語言理解
第6篇 系統與建造
第12章 專家系統
第13章 Agent系統
第14章 智能計算機與智能化網路
第15章 智能機器人
第16章 智能程序設計語言
上機實習指導
中英文名詞對照及索引
參考文獻
D. 因素分析法及其特點
因素分析法
方法功用
應用范圍
使用方法
運用程序
評價
注意事項
目錄
1摘要
2基本信息
3方法功用
4應用范圍
因素
經濟
5使用方法
連環替代
差額分析
指標分解
定基替代
6運用程序
一般程序
使用原理
7評價
8注意事項
9參考資料
因素分析法。又稱經驗分析法,是一種定性分析方法。該方法主要指根據價值工程對象選擇應考慮的各種因素,憑借分析人員的知識和經驗集體研究確定選擇對象。該方法簡單易行,要求價值工程人員對產品熟悉,經驗豐富,在研究對象彼此相差較大或時間緊迫的情況下比較適用,缺點是無定量分析、主觀影響大。
因素分析法是利用統計指數體系分析現象總變動中各個因素影響程度的一種統計分析方法,包括連環替代法、差額分析法、指標分解法等。 因素分析法是現代統計學中一種重要而實用的方法,它是多元統計分析的一個分支。使用這種方法能夠使研究者把一組反映事物性質、狀態、特點等的變數簡化為少數幾個能夠反映出事物內在聯系的、固有的、決定事物本質特徵的因素。
基本信息
中文名
因素分析法
別名
指數因素分析法
分類
連環替代法、差額分析法等
方法功用
因素分析法的最大功用,就是運用數學方法對可觀測的事物在發展中所表現出的外部特徵和聯系進行由表及裡、由此及彼、去粗取精、去偽存真的處理,從而得出客觀事物普遍本質的概括。其次,使用因素分析法可以使復雜的研究課題大為簡化,並保持其基本的信息量。
應用范圍
因素
通過分析期貨商品的供求狀況及其影響因素,來解釋和預測期貨價格變化趨勢的方法。期貨交易是以現貨交易為基礎的。期貨價格與現貨價格之間有著十分緊密的聯系。商品供求狀況及影響其供求的眾多因素對現貨市場商品價格產生重要影響,因而也必然會對 期貨價格重要影響。所以,通過分析商品供求狀況及其影響因素的變化,可以幫助期貨交易者預測和把握商品期貨價格變化的基本趨勢。在現實市場中,期貨價格不僅受商品供求狀況的影響,而且還受其他許多非供求因素的影響。這些非供求因素包括:金融貨幣因素,政治因素、政策因素、投機因素、心理預期等。因此,期貨價格走勢基本因素分析需要綜合地考慮這些因素的影響。[1]
經濟
商品供求狀況對商品期貨價格具有重要的影響。基本因素分析法主要分析的就是供求關系。商品供求狀況的變化與價格的變動是互相影響、互相制約的。商品價格與供給成反比,供給增加,價格下降;供給減少,價格上升。商品價格與需求成正比,需求增加,價格上升;需求減少,價格下降。在其他因素不變的條件下,供給和需求的任何變化,都可能影響商品價格變化,一方面,商品價格的變化受供給和需求變動的影響;另一方面,商品價格的變化又反過來對供給和需求產生影響:價格上升,供給增加,需求減少;價格下降,供給減少,需求增加。這種供求與價格互相影響、互為因果的關系,使商品供求分析更加復雜化,即不僅要考慮供求變動對價格的影響,還要考慮價格變化對供求的反作用。
使用方法
連環替代
它是將分析指標分解為各個可以計量的因素,並根據各個因素之間的依存關系,順次用各因素的比較值(通常即實際值)替代基準值(通常為標准值或計劃值),據以測定各因素對分析指標的影響。
例如,設某一分析指標M是由相互聯系的A、B、C三個因素相乘得到,報告期(實際)指標和基期(計劃)指標為:
報告期(實際)指標M1=A1 * B1 * C1
基 期(計劃)指標 M0=A0 * B0 * C0
在測定各因素變動指標對指標R影響程度時可按順序進行:
基 期(計劃)指標M0=A0 * B0 * C0……(1)
第一次替代 A1 * B0 * C0……(2)
第二次替代 A1 * B1 * C0……(3)
第三次替代 A1 * B1 * C1……(4)
分析如下:
(2)-(1)→A變動對M的影響。
(3)-(2)→B變動對M的影響。
(4)-(3)→C變動對M的影響。
把各因素變動綜合起來,總影響:△M = M1 - M0 =(4)-(3)+(3)-(2)+(2)-(1)
差額分析
它是連環替代法的一種簡化形式,是利用各個因素的比較值與基準值之間的差額,來計算各因素對分析指標的影響。
例如,某一個財務指標及有關因素的關系由如下式子構成:實際指標:Po=Ao×Bo×Co;標准指標:Ps=As×Bs×Cs;實際與標準的總差異為Po-Ps,Po-Ps 這一總差異同時受到A、B、C三個因素的影響,它們各自的影響程度可分別由以下式子計算求得:
A因素變動的影響:(Ao-As)×Bs×Cs;
B因素變動的影響;Ao×(Bo-Bs)×Cs;
C因素變動的影響:Ao×Bo×(Co-Cs)。
最後,可以將以上三大因素各自的影響數相加就應該等於總差異Po-Ps。
指標分解
例如資產利潤率,可分解為資產周轉率和銷售利潤率的乘積。
定基替代
分別用分析值替代標准值,測定各因素對財務指標的影響,例如標准成本的差異分析。
運用程序
一般程序
1、確定需要分析的指標;
2、確定影響該指標的各因素及與該指標的關系;
3、計算確定各個因素影響的程度數額。
使用原理
人的心理現象是復雜的,由許多因素有機結合而成,而每種心理因素又同時受到各種條件的制約,它如同一個龐大的多維系統,調節、控制著人的行為。傳統的單變數和雙變數分析往往在信息的處理上要麼失去有用的信息,要麼引入無用的信息,使研究者分不出現象的主次或得出不恰當的甚至是錯誤的結論。因素分析法則可在多變數觀測分析的基礎上較全面地反映出事物的各個不同側面。在心理學研究中,研究者用因素分析從眾多的變數中提取幾種具有決定性意義的因素,建立理論假設,然後又用因素分析法反復驗證假設,直至成功。因此,因素分析法是用來形成科學概念,進而建構思想模型和理論體系的強有力的認識手段和輔助工具。
因素分析法的數學運算主要是建立在矩陣運算的基礎之上。它的基本運算過程如下:
首先是收集一定的測量資料,將資料數據標准化。在心理測量中,常需將測驗分數轉化成標准分數,並排列成數據矩陣。
其次,通過相關運算求出每個因素和其它因素的相關矩陣。
第三,用特定的運算方法,如主成分分析、影像分析、α因素分析、最小殘余因素分析、最大可能解、重心法等求出因素載荷矩陣。
第四,為了使載荷矩陣的意義比較清晰,易於分析,要用直角旋轉法和斜角旋轉法等對載荷矩陣進行轉軸處理,使每個變數只在少數幾個因素上有較大的載荷,而使一些變數載荷接近零。這就有可能使每個變數在總方差中的因素更集中,從而表現出變數中最具有意義的特徵主因素。
第五,對主因素進行定義並加以解釋。主因素定義是否准確,解釋是否恰當,不但取決於因素分析是否做得成功,而且在很大程度上取決於主觀判斷過程。在因素分析結果不明確的情況下更是如此。
因素分析法在智力測驗中的應用
因素分析法的應用始自對智力的研究。1904年斯皮爾曼發表了《客觀測定的智力》一文,開了用因素分析法研究智力的先河。斯皮爾曼在對學生考試成績的分析過程中,注意到分數之間的相關矩陣存在一定的系統影響。其相關矩陣如下:??表中的課程是按照相關系數從左到右遞減排列的,在每一行中,數值大體上均按照同一程度減少。斯皮爾曼經過分析指出,每一門課程的考試成績都可以看作是由一個一般因子(與一般智力相一致)與一個特殊因子(與特殊智力相一致)之和組成的。他對多種多樣的測驗進行反復計算,大都得出類似的結果。因此,他認為任何智力因素都是由一般因素G和特殊因素S組合而成的,這就是著名的智力二因素理論。
此後,瑟斯頓等人通過對60多種不同類型智力測驗的因素分析,將60多種因素進行因素提取,找出7種較為穩定的因素:計算、詞的流暢性、言語意義、記憶、推理、空間知覺和知覺速度,稱之為「基本的心理能力」,這就是瑟期頓的智力群因素理論。瑟斯頓及其同事對每種穩定的能力因素都做了測驗,並預計這些能力應有負相關。然而,每種能力都和其它能力有正相關。看來,各種能力之間仍存在一般因素。他們編制了PMAT測驗,對PMAT測驗所得數據進行因素分析發現還存在二級群因素,即語言教育能力、空間機械能力和實際活動能力。弗農在1950年通過因素分析研究使各種因素形成了不同層次的分支,最高層是一般因素G,其次是語言教育能力、空間機械能力和實際活動能力群,然後是較小的PMAT次級群因素,最後是特殊因素S。他們通過對測量結果的因素分析,將智力分成了層級結構。
吉爾福特的智力結構理論也得益於因素分析法。他提出了三維智力結構模式,認為智力是由操作、內容和結果3個變項構成,這3個變項又分別包括5個、4個和6個方面,共120種智力因素。後來,他又把120種智力因素增加為150種。為了證明這150種智力因素存在,他設計了智力測驗,並用因素分析加以驗證。他聲稱已找到100種以上的智力因素,要進行如此眾多獨立變數的提取,離開因素分析幾乎不可能。
卡特爾(Cattel)和霍恩(Horn)通過對測驗的因素分析,提出了自己的智力結構理論,認為一般智力因素是流體型智力GF和晶體型智力GC。GF負載於數能力、空間能力、推理能力中,GC負載於語言能力、推理能力、記憶能力、詞的流暢性中。他的這一理論支持了斯皮爾曼的智力二因素說。
韋克斯勒智力測驗的理論基礎直接來源於斯皮爾曼的智力二因素論及瑟斯頓的群因素論。韋氏認為,人的一般智力是多種能力的綜合,因此他的智力測驗受益於因素分析。庫恩(Cohen)對韋氏成人智力量表的前身W—B、韋氏成人智力量表(WAIS)和韋氏學齡兒童智力量表(WISC)作了因素分析,發現韋氏智力量表包含5個共同因素:言語理解Ⅰ因素、知覺組織因素、記憶或集中注意因素、言語
E. ICP演算法的迭代就近點演算法
在20世紀80年代中期,很多學者開始對點集數據的配准進行了大量研究。1987年,Horn[1]、Arun[2]等人用四元數法提出點集對點集配准方法。這種點集與點集坐標系匹配演算法通過實踐證明是一個解決復雜配准問題的關鍵方法。1992年,計算機視覺研究者Besl和Mckay[3]介紹了一種高層次的基於自由形態曲面的配准方法,也稱為迭代就近點法ICP(Iterative Closest Point)。以點集對點集(PSTPS)配准方法為基礎,他們闡述了一種曲面擬合演算法,該演算法是基於四元數的點集到點集配准方法。從測量點集中確定其對應的就近點點集後,運用Faugera和Hebert提出的方法計算新的就近點點集。用該方法進行迭代計算,直到殘差平方和所構成的目標函數值不變,結束迭代過程。ICP配准法主要用於解決基於自由形態曲面的配准問題。
迭代就近點法ICP就近點法經過十幾年的發展,不斷地得到了完善和補充。Chen和Medioni[4]及Bergevin等人[5]提出了point-to-plane搜索就近點的精確配准方法。Rusinkiewicz和Levoy提出了point-to-p rojection搜索就近點的快速配准方法。Soon-Yong和Murali提出了Contractive-projection-point搜索就近點的配准方法。此外,Andrew和Sing[6]提取了基於彩色三維掃描數據點紋理信息的數據配准方法,主要在ICP演算法中考慮三維掃描點的紋理色彩信息進行搜索就近點。Natasha等人[7]分析了ICP演算法中的點雲數據配准質量問題。
基本原理
三維空間R3存在兩組含有n個坐標點的點集,分別為: PL和PR。三維空間點集PL中各點經過三維空間變換後與點集PR中點一一對應,其單點變換關系式為:
(0-1)
上式中,R為三維旋轉矩陣,t為平移向量。
在ICP配准方法中,空間變換參數向量X可表示為[9] 。參數向量中四元數參數滿足約束條件為:
(0-2)
根據迭代的初值X0,由式(0-1)計算新點集Pi為:
(0-3)
式中,P表示原始未修改過的點集,Pi的下標i表示迭代次數,參數向量X的初始值X0為 。
根據以上數據處理方法,ICP配准演算法可以概括為以下七個步驟:
1) 根據點集Plk中的點坐標,在曲面S上搜索相應就近點點集Prk;
2) 計算兩個點集的重心位置坐標,並進行點集中心化生成新的點集;
3) 由新的點集計算正定矩陣N,並計算N的最大特徵值及其最大特徵向量;
4) 由於最大特徵向量等價於殘差平方和最小時的旋轉四元數,將四元數轉換為旋轉矩陣R;
5) 在旋轉矩陣R被確定後,由平移向量t僅僅是兩個點集的重心差異,可以通過兩個坐標系中的重心點和旋轉矩陣確定;
6) 根據式(0-3),由點集Plk計算旋轉後的點集P』lk。通過Plk與P』lk計算距離平方和值為fk+1。以連續兩次距離平方和之差絕對值 作為迭代判斷數值;
7) 當 時,ICP配准演算法就停止迭代,否則重復1至6步,直到滿足條件 後停止迭代。