數學中怎麼確定最優參數值

A. 在線性規劃中，什麼是最優解什麼是最優解不唯一最優解是讓z取得最大值的點的坐標嗎

最優解是使得目標函數取到最大值或最小值（視情況而定）的解。

在高中階段目標函數一般是二元函數z(x,y)。假設可行域（即滿足限定條件的x,y范圍，可表示為平面直角坐標系內的一個區域）為X。

假設目標函數z=ax+by是一線性函數，在坐標系內圖像為一條直線，直線平移時z值發生變化。若X有一條外側的邊平行於目標函數的直線，則直線與該邊重合時，邊上所有點都是最優解，所以最優解可能不唯一。

最優解可以理解為讓z取得最值的點的坐標。

(1)數學中怎麼確定最優參數值擴展閱讀：

使目標函數取最小值的可行解稱為極小解，使其取最大值的可行解稱為極大解。極小解或極大解均稱為最優解。相應地，目標函數的最小值或最大值稱為最優值。有時，也將最優解和最優值一起稱為相應數學規劃問題的最優解。

線性規劃的最優解不一定只有一個，若其有多個最優解，則所有最優解所構成的集合稱為該線性規劃的最優解域。

函數與不等式和方程存在聯系（初等函數）。令函數值等於零，從幾何角度看，對應的自變數的值就是圖像與X軸的交點的橫坐標；從代數角度看，對應的自變數是方程的解。

另外，把函數的表達式（無表達式的函數除外）中的「=」換成「<」或「>」，再把「Y」換成其它代數式，函數就變成了不等式，可以求自變數的范圍。

B. 參數法研究最值問題

通過多年的高考試卷看，求參數的取值范圍問題一直是高考考查的重點和熱點，同時也是一個難點.考生有時會感到難度較大，以至於得分不高.經過多年的數學教學實踐，探求了一些解決含參數問題的有效方法.敘述如下.
一、分離參數法 所謂分離參數法也就是將參數與未知量分離於表達式的兩邊，然後根據未知量的取值范圍情況決定參數的范圍.這種方法可避免分類討論的麻煩，使問題得到簡單明快的解決.

C. 怎麼快速調出最優PID參數

1. 已知對象數學模型的調參實際上就是個優化的過程。你已經給定了關於超調和上升時間的指標，那麼就可以用這個作為約束，在確定了優化指標後應用優化演算法調節你的控制器。至於優化演算法，那海了去了，神馬基因演算法，最速梯度法，粒子群演算法，simplex方法等等等。也還分多目標優化和單目標優化。至於快速調參，這就要看你想要什麼樣的結果了，10步迭代也能出來結果，1000步迭代也能出來結果，只要不對最後的收斂性有著苛刻的要求，少選幾步迭代先看看效果不失是一個可行的選擇。

2. 如果不知道數學模型，那首先要做的就是系統辨識。如果你默認系統是線性的，那辨識的方法就比較多了，Matlab也有很成熟的系統辨識的工具箱，前提是你要有足夠多的實驗數據做支撐。線性系統的辨識可以是頻域也可以是時域的。如果你認為系統中含有非線性因素，那麼只能通過時域辨識，隨之而來的PID設計也必須在時域下進行。

3. Z-N調參的方法確實像你說的，只是在保證穩定性的前提下給出了個大概的參考，基本沒考慮優化的因素。如果樓主追求某些指標的達標，還是要通過優化演算法去尋找參數。

4. 頻響的缺點我認為是不適合高維動力學的控制器設計，如果你的系統就是個單自由度二階的，那麼頻域內的設計沒啥問題，如果你是MIMO系統，也就是多輸入多輸出，我還是建議用基於狀態空間的表述去設計，LQR就是個很不錯的選擇，當然是基於時域的。

5. 如果你有被控對象的模型，不論是通過數學建模還是參數識別得到的，那麼調參實際上是個優化的過程，所以你的這個問題實際上就又回到了有哪些高效的優化方法上來了。針對你的這個問題，我覺得最好選擇不是基於梯度搜索的演算法，比如演化演算法，模式搜索演算法等。

D. 數學優化問題(最優化問題)

  數學優化（Mathematical Optimization）問題，也叫最優化問題，是指在一定約束條件下，求解一個目標函數的最大值（或最小值）問題。
  數學優化問題的定義為：給定一個目標函數（也叫代價函數） f : A → R ，尋找一個變數（也叫參數） x ^∗ ∈ D ，使得對於所有 D 中的 x ， f(x ^∗ ) ≤ f(x) （最小化）；或者 f(x ^∗ ) ≥ f(x) （最大化），其中 D 為變數 x 的約束集，也叫可行域； D 中的變數被稱為是可行解。

  根據輸入變數 x 的值域是否為實數域，數學優化問題可以分為離散優化問題和連續優化問題。

  離散優化（Discrete Optimization）問題是目標函數的輸入變數為離散變數，比如為整數或有限集合中的元素。連續優化（Continuous Optimization）問題是目標函數的輸入變數為連續變數 x ∈ R ^d ，即目標函數為實函數。離散優化問題主要有兩個分支：

  離散優化問題的求解一般都比較困難，優化演算法的復雜度都比較高。後面的內容主要以連續優化為主。

  在連續優化問題中，根據是否有變數的約束條件，可以將優化問題分為無約束優化問題和約束優化問題。
   無約束優化問題（Unconstrained Optimization） 的可行域為整個實數域 D = R ^d ，可以寫為
其中 x ∈ R ^d 為輸入變數， f : R ^d → R 為目標函數。
   約束優化問題（Constrained Optimization） 中變數 x 需要滿足一些等式或不等式的約束。約束優化問題通常使用拉格朗日乘數法來進行求解。

  如果目標函數和所有的約束函數都為線性函數，則該問題為 線性規劃問題（Linear Programming） 。相反，如果目標函數或任何一個約束函數為非線性函數，則該問題為 非線性規劃問題（Nonlinear Programming） 。
  在非線性優化問題中，有一類比較特殊的問題是 凸優化問題（Convex Programming） 。在凸優化問題中，變數 x 的可行域為凸集，即對於集合中任意兩點，它們的連線全部位於在集合內部。目標函數 f 也必須為凸函數，即滿足
  凸優化問題是一種特殊的約束優化問題，需滿足目標函數為凸函數，並且等式約束函數為線性函數，不等式約束函數為凹函數。

   優化問題 一般都是通過 迭代 的方式來求解：通過猜測一個初始的估計 x ₀ ，然後不斷迭代產生新的估計 x ₁ , x ₂ , · · · x _t ，希望 x _t 最終收斂到期望的最優解 x ^∗ 。一個好的優化演算法應該是在 一定的時間或空間復雜度下能夠快速准確地找到最優解。同時，好的優化演算法受初始猜測點的影響較小，通過迭代能穩定地找到最優解 x ^∗ 的鄰域，然後迅速收斂於 x ^∗ 。
  優化演算法中常用的迭代方法有 線性搜索和置信域方法 等。線性搜索的策略是尋找方向和步長，具體演算法有梯度下降法、牛頓法、共軛梯度法等。

  對於很多非線性優化問題，會存在若干個局部的極小值。局部最小值，或局部最優解 x ^∗ 定義為：存在一個δ > 0，對於所有的滿足|| x − x∗|| ≤ δ 的 x ，公式 f(x ^∗ ) ≤ f(x) 成立。也就是說，在 x ^∗ 的附近區域內，所有的函數值都大於或者等於 f(x ^∗ ) 。對於所有的 x ∈ A ，都有 f(x∗) ≤ f(x) 成立，則 x ^∗ 為全局最小值，或全局最優解。一般的，求局部最優解是容易的，但很難保證其為全局最優解。 對於線性規劃或凸優化問題，局部最優解就是全局最優解 。

E. 什麼叫做數學中最優化的問題

最優化，是應用數學的一個分支，主要研究以下形式的問題：
給定一個函數，尋找一個元素使得對於所有A中的，（最小化）；或者（最大化）。
這類定式有時還稱為「數學規劃」（譬如，線性規劃）。許多現實和理論問題都可以建模成這樣的一般性框架。
典型的，A一般為歐幾里德空間中的子集，通常由一個A必須滿足的約束等式或者不等式來規定。 A的元素被稱為是可行解。函數f被稱為目標函數，或者費用函數。一個最小化（或者最大化）目標函數的可行解被稱為最優解。
一般情況下，會存在若干個局部的極小值或者極大值。局部極小值x * 定義為對於一些δ > 0，以及所有的x 滿足
}-;
公式
成立。這就是說，在周圍的一些閉球上，所有的函數值都大於或者等於在該點的函數值。一般的，求局部極小值是容易的，但是要確保其為全域性的最小值，則需要一些附加性的條件，例如，該函數必須是凸函數。
主要分支
線性規劃 當目標函數f是線性函數而且集合A是由線性等式函數和線性不等式函數來確定的， 我們稱這一類問題為線性規劃
整數規劃 當線性規劃問題的部分或所有的變數局限於整數值時， 我們稱這一類問題位整數規劃問題
二次規劃 目標函數是二次函數，而且集合A必須是由線性等式函數和線性不等式函數來確定的。
非線性規劃 研究的是目標函數或是限制函數中含有非線性函數的問題。
隨機規劃 研究的是某些變數是隨機變數的問題。
動態規劃 研究的是最優策略基於將問題分解成若干個較小的子問題的優化問題。
組合最優化 研究的是可行解是離散或是可轉化為離散的問題。
無限維最優化 研究的是可行解的集合是無限維空間的子集的問題，一個無限維空間的例子是函數空間

F. 非線性方程組，給定樣本值，怎麼擬合最優的參數

1、你可以用nlinfit（）函數擬合，精度比較高。2、用matlab的擬合工具箱cftool也是非常方便，而且不用編程。你只要將y=d*(b-exp(-x/c))*exp(-2*a*log(b*exp(x/c)-1))輸入自定義函數（GeneralEquations）命令框內，就可以得到其擬合系數。你的郵箱有問題，不存在，郵件無法送達。

G. 已知目標函數最值求參數方法，高中數學必修五

1. 目標函數式一次時，如果有最值，應該給定區間，最值在區間端點上。

2. 目標函數為二次函數時，如果給定區間，要判斷區間是否包含二次函數的對稱軸，如果包含，則取到最值，不包含，則根據單調性，在區間端點上取到最大值或者最小值。

3. 目標函數為三次函數及以上，判斷拐點，及拐點附近的的單調性，看是否會在拐點處取得最值，或者是否在給定區間上會具有單調性，從而得到最值

H. 怎麼求有多個參數的方程的最值,怎麼處理參數和未知數的關系一般方程

首先，樓主你提出的問題很有代表性。帶有參數的方程在高中乃至大學的數學中都有舉足輕重的作用，考試會有涉及到。但都是及其簡單的參數很少的線性的再常見不過的帶有參數的方程。

其次，你提出的問題回答起來也有相當的難度。這是因為帶有參數的方程在求解的過程中很復雜.每一個參數對方程的解都是一種制約關系【方程的解是參數的函數】。如果就是要求解一個帶有參數的方程，可以，有方法，完全可以把參數視為未知量,和原有的未知量x放到一起進行研究.將方程只對x求導(實質就是多元函數的求偏導)，找到x的極值點，再通過函數圖像的計算與分析對方程進行求值。當然，方程的解是參數的函數，解是受參數所控制的。計算量相當大。這表明，參數方程是可以求解的。以上的方法就是運用計算機求解含參數方程的基本思路與方法。

但是,如果人【重點是誰去求解方程?是人!人!】要去解決一個復雜的含有參數的方程，沒有點扎實的數學功底和理性的思維是根本辦不到的。這也正是代數學的深奧之處。

至於你所提出的第二個問題,"我可以把其中一個參數用其他參數表示，帶進去嗎？"當然可以，這么做的目的就是要簡化方程，使得參數減少，進而減少計算量。但是,你所要做的工作就是要去尋找你所求方程替代參數的方法。因為研究的方程不同，代換的方法也不同。而問題的深奧之處正是如何尋找一個新的參數，使得這個尋找到的新參數引入之後方程變得簡單了。這個問題同樣深奧無比。你可以網路一下這方面的問題,有許多的論文都在討論如何尋找這個所謂的能夠簡化帶有參數方程求解的"新參數"的問題，以便能夠簡化一種形式的帶有參數的方程。對於每一種帶有參數的方程，都可能會有好幾種簡化的方法，但是這個方法不是一時半會兒就能分析出來的，需要數學家幾年甚至幾十年幾百年才能解決。所以，這個問題很深奧，最起碼我在今天凌晨是無法找到一種求解你所提出的方程的求解方法。各何況你所提出的方程屬於非線性方程，更難去分析尋找........所以至少我現在無能為力。但還是希望說了這么多會對你有所幫助。

I. 最優化選擇法數學原理

2.2.1 目標函數

設觀測異常以ΔZ_k表示，k為觀測點序號，k=1，2，…，m，m為觀測點數。

設所選用的地質體模型的理論異常以 Z 表示，Z 是模型體參量和觀測點坐標的函數，即

Z=f（x_k，y_k，z_k，b₁，b₂，…，b_n）

式中：x_k，y_k，z_k為觀測點的坐標；b₁，b₂，…，b_n為模型體的參量，如空間位置、產狀、物性等，參量的個數為n。

模型體的初始參量用

，

，

，…，

表示。

理論曲線與實測曲線之間的符合程度，是以各測點上理論異常與實測異常之差的平方和（即偏差平方和）來衡量的，用φ表示，即

地球物理數據處理教程

目的在於求得一組關於模型體參量的修改量δ₁，δ₂，…，δ_n，來修改模型體給定的初值參量，即

地球物理數據處理教程

於是求出關於模型體參量的一組新值，而由這組新參量形成的模型體的理論異常與實測異常之間的偏差平方和將取極小，即是

地球物理數據處理教程

代入式（2.2.1）中將使φ值獲得極小，這時b_i即為我們的解釋結果，這稱為最小二乘意義下的最優化選擇法。

我們稱φ為目標函數，用它來衡量理論曲線與實測曲線的符合程度。最優化方法的關鍵在於求取使φ值獲得極小參量的改正值δ_i，而f通常是b_i的非線性函數，因而該問題歸結為非線性函數極小的問題。

2.2.2 求非線性函數極小的迭代過程

從上已知f為b_i的非線性函數，那麼要求它與實測值之間的偏差平方和φ為極小的問題就稱為非線性極小問題，或稱為非線性參數的估計問題。如果是線性問題，參數估計比較簡單，通常進行一次計算即可求出參數的真值，而對非線性問題，參數估計卻要復雜得多，為了求解，通常將函數在參數初值鄰域內展成線性（忽略高次項），即所謂的線性化，然後再求得改正量δ_i（i=1，2，…，n），由於這是一種近似方法，因而不可能使φ一次達到極小，而需要一個迭代過程，通過反復計算而逐步逼近函數φ的極小值。

圖2.1 不同埋深時的重力異常

為了說明這個求極小的迭代過程，可以舉一個單參量的例子，即假如我們要確定引起重力異常Δg_k的場源地質體的深度，假設場源為一個已知體積和密度的球體模型，如圖2.1所示，那麼φ就是球心埋深z的函數，如果球心埋深的真值為h，我們首先取初值為z^（0），這時函數

地球物理數據處理教程

式中：Δg_k為實測異常；g（z）是球心埋深為z的理論重力異常；φ隨z的變化情況示於圖2.2 中，要求使φ獲極小的z，即要求使

地球物理數據處理教程

的根。由於z^（0）和φ（z^（0））不能一次求出φ的極小來，通常採用迭代的辦法，如圖2.3所示，例如用牛頓切線法迭代求根，根據下式

地球物理數據處理教程

得到一個更近似於根的值z^（1），但不等於h，因此需進一步再用上式，將z^（1）作為新的初值z^（0），可得到新的z^（1）更接近於h，如此反復下去可以使z值無限接近於h，當滿足精度要求時，我們認為它近似等於h了，停止迭代，這時的z^（1）就作為h值。

圖2.2 函數φ（z）隨z變化示意圖

圖2.3 用牛頓切線法求φ′（z）=0的根示意圖

2.2.3 單參量非線性函數的極小問題

單參量不僅是討論多參量的基礎，而且往往在求多參量極小時要直接用到單參量極小的方法，因此有必要作一介紹。

求單參量極小的方法很多，上面用到的牛頓切線法就是其中之一，在此我們介紹一種用得較多的函數擬合法，以及精度較高的DSC-Powell方法。

2.2.3.1 函數擬合法

2.2.3.1.1 二次函數擬合法

A.不計算導數的情況

設取三個參量值x₁、x₂、x₃，它們對應的φ 值就應為φ₁、φ₂、φ₃，過三個點（x₁，φ₁；x₂，φ₂；x₃，φ₃）作二次拋物線，應有下式

地球物理數據處理教程

聯立φ₁、φ₂、φ₃的方程式，即可得出系數A、B、C來。

當A＞0時，應有極小點存在，我們設極小點為d，那麼根據極小的必要條件有

地球物理數據處理教程

將A、B的表達式代入即得

地球物理數據處理教程

當x₁、x₂、x₃為等距的三點時，上式可簡化為

地球物理數據處理教程

B.計算導數的情況

設已知兩個點的參量值x₁和x₂對應的函數值φ₁、φ₂，並已求得x₁點的一階導數值φ′（x₁），可用下列方法求極小點d：

地球物理數據處理教程

聯立φ₁、φ₂、φ′（x₁）三個方程即可得A、B、C，代入極小點的表達式即可求得極小點。

為了簡化起見，不妨設x₁為坐標原點（即x₁=0），設x₂=1，於是上面各式簡化成：

φ′（x₁）=B

φ₁=C

φ₂=A+B+C

A=φ₂-φ′（x₁）-φ₁

則

地球物理數據處理教程

2.2.3.1.2 三次函數擬合法

取兩個點的參量值x₁和x₂，及相應的φ₁和φ₂值，並已得到該兩點的一階導數值φ′（x₁）和φ′（x₂），我們選用一個三次多項式

φ=Ax³+Bx²+Cx+D

代入上面給出的4個條件，同樣，為了簡化起見，不妨設x₁為坐標原點（即x₁=0），設x₂=1，則有

φ₁=D

φ₂=A+B+C+D

φ′（x₁）=C

φ′（x₂）=3A+2B+C

聯立求解，可定出4個系數A、B、C、D，按照求極小的必要條件

φ′=3Ax²+2Bx+C=0

當二階導數

φ″=6Ax+2B＞0

時有極小存在，極小點d就為

地球物理數據處理教程

為了計算方便，令

v=φ′（x₁）

u=φ′（x₂）

S=-3（φ₁-φ₂）=3（A+B+C）

Z=s-u-v=B+C

W²=Z²-vu=B²-3AC

於是極小點d就可用下列形式表示：

地球物理數據處理教程

2.2.3.2 DSC-Powell 法

該法為比較細致的單參量探測法，精度比較高，計算工作量較大，大致可分為兩部分來完成，其探測（迭代）過程如圖2.4所示。

2.2.3.2.1 確定極小值所在的區間

採用的是一種直接探測法，做法可歸納如下。

第一步：給定探測方向x、初值點x₀和初始步長Δx，計算φ（x₀）和φ（x₀+Δx），若φ（x₀+Δx）≤φ（x₀），轉向第二步；若φ（x₀+Δx）＞φ（x₀），則取-Δx為步長Δx，轉向第二步。

第二步：計算x_k+1=x_k+Δx，計算φ（x_k+1）。

第三步：如果φ（x_k+1）≤φ（x_k），以2Δx為新步長代替Δx，且用k代表k+1，轉向第二步。

如果φ（x_k+1）＞φ（x_k），則以x_m表示x_k+1，以x_m-1表示x_k，將上步的x_k作為x_m-2，並計算

地球物理數據處理教程

第四步：在4個等距點（x_m-2、x_m-1、x_m+1、x_m）中，去掉四點中離φ（x）最小點最遠的那一點，即或是x_m，或是x_m-2，剩下的三點按順序以x_α、x_b、x_c表示，其中x_b為中點，那麼（x_α，x_c）區間即為極小值所在的區間。

2.2.3.2.2 用二次函數擬合法求極小點

將上面已確定的等距的 x_α、x_b、x_c三點及 φ 值，用二次函數擬合法即用公式（2.2.3）求得極小點，令為x^*點。再將x_α、x_b、x_c、x^*四點中捨去φ值最大的點，剩下的點重新令為α、b、c，則又得三點和它們相應的φ值，用公式（2.2.2）求其極小點x^*，如此反復使用公式（2.2.2），逐步縮小極小值的區間，一直到兩次求得的極小點位置差小於事先給定的精度為止，x^*點即為極小點。

圖2.4 DSC-Powell法示意圖

2.2.4 廣義最小二乘法（Gauss 法）

重磁反問題中的最優化方法，一般是指多參量的非線性最優估計問題，理論模型異常z=f（

，b₁，b₂，…，b_n）是參數b_i（i=1，2，3，…，n）的非線性函數，其中

=（x，y，z）為測點的坐標。由前已知ΔZ_k（k=1，2，…，m）表示在第k個觀測點

上的實測異常，現在要尋求與觀測異常相對應的理論模型的參量值b_i（i=1，2，…，n），使理論異常與實測異常的偏差平方和

地球物理數據處理教程

為極小。

設b_i的初值為

，則上述問題，即是要求修正量δ_i，使

地球物理數據處理教程

代入φ中，使φ獲得極小。

高斯提出了首先將f函數線性化的近似迭代方法，即將f在

處按台勞級數展開取其線性項。

地球物理數據處理教程

式中

，

地球物理數據處理教程

當

和

給出後，

和

均可直接計算出來。將台勞展開式代入式（2.2.6）中，目標函數φ為

地球物理數據處理教程

要求

使φ取得極小，根據極小的必要條件

地球物理數據處理教程

將上式化為

地球物理數據處理教程

寫成方程組形式

地球物理數據處理教程

式中：

，

（i，j=1，2，…，n）

再寫成矩陣形式，有

地球物理數據處理教程

即

地球物理數據處理教程

其中

A=P^TP

地球物理數據處理教程

式中：P稱為雅可比（Jacobi）矩陣，是理論模型函數對參量的一階導數矩陣。A為正定對稱矩陣，實際計算時，當實測異常值已給出，模型體的初值

已選定後，A和

即可計算出，求解方程（2.2.7）即可求出

，從而可得

。

上面推導出的方程（2.2.7）是將f線性化所得，因而只有當f為真正的線性函數時，

才是真正的極小點

，即一步到達極小；當f為非線性函數時，台勞式線性化僅為近似式，近似程序視

的大小而定，當|δ_i|較大時，二次以上項忽略的誤差就大，反之就小，所以對於非線性函數

不能簡單地作為極小點

，一般將

作為新的初值

再重復上述做法，再解方程（2.2.7）又得到新的

，反復迭代下去，直到滿足精度要求為止（例如|δ_i|小到允許誤差）。

在高斯法應用中常常出現一種困難，即迭代過程不穩定，當

過大時，台勞展開的高次項太大而不能忽略時，就可能發生這樣的情況，即用方程（2.2.7）求得的解，得到的參量

所對應的φ值大於

所對應的φ值，那麼它將不能穩定地收斂於φ的極小值，即是出現了發散的情況，一般說來當f非線性程度越明顯時，越易出現發散的情況。

因此高斯法的一種改進形式如下，即不直接把

作為校正值，而將它作為校正方向，記為

，而在該方向上用單變數求極小的方法尋找在這個方向上的極小點，即尋找一個α，使目標函數φ（

）為極小，取

作為新的初值，再繼續迭代（0＜α＜1）。

把這個改進的方法稱為廣義最小二乘法，它使迭代過程的穩定性有所改善，即使這樣當初值取得不好時，也有可能出現不收斂。

2.2.5 最速下降法

從前述已知，我們的目的是要求目標函數的極小，高斯法是利用將f函數線性化，建立一個正規方程（2.2.7）來求取修正量的，最速下降法是另一類型方法，它直接尋找φ函數的下降方向來求取修正量，所以它又稱為直接法，而高斯法又稱為間接法。

從目標函數φ出發來尋找其下降方向

地球物理數據處理教程

始終是大於或等於0，因此它一定有極小存在，我們首先考慮初值點

的一個鄰域內，將φ在

處台勞展開取至線性項，有

地球物理數據處理教程

希望尋找使Φ下降的方向，即要找新點

，使φ（

）＜φ（

）

即要求φ（

）-φ（

）＞0，

且越大越好，那麼可得

地球物理數據處理教程

地球物理數據處理教程

式中

表示φ函數對

的各分量的導數所組成的向量，即梯度向量。

要使上式取極大，有

地球物理數據處理教程

上式說明了φ值下降最快的方向

，應該是與梯度方向

相反的方向，即負梯度方向，那麼修正量就應在負梯度方向上來求取。下面討論從

出發，沿負梯度方向上求取極小點的方法，除了用前面介紹過的方法外，在此再介紹一種近似計算方法。

要求從

出發，沿-

方向的極小點，即要求λ使φ

為-

方向上極小點。根據極小必要條件，有

地球物理數據處理教程

如果φ為二次函數時，λ可以直接解出，在重磁反問題中φ為非二次函數，且函數形式較復雜，一般無法直接解出λ，而採用近似法，先將φ（

）台勞展開，取至線性項，即

地球物理數據處理教程

假設粗略認為φ的極小值為零，則極小點的λ應有

地球物理數據處理教程

這個方法計算簡單，但誤差較大，特別是

遠離真正極小點

時，φ值較大，上式的假設不適合，當接近真極小點

附近時，可以採用。但在重磁反問題中，由於實測值Z_k中含有干擾成分，所以即使到了

附近，φ值仍不會為零，因而上述計算λ的方法不能直接採用，可將上述計算的λ作為一個區間估計值，再用其他方法計算［0，λ］之間真正的λ值。

從上所述可將最速下降法敘述如下：從初值

出發，沿著φ（

）的負梯度方向-

（

）尋找極小點

，然後又從

出發，沿著φ（

）的負梯度方向-

（

）尋找極小點

，一直迭代下去，直到找到

為止。

由於這個方法是沿著初值點的最快下降方向，在該方向上如果採用單方向求極小的方法得到該方向上的極小點，那麼又稱「最優」、「最速」下降法。但需要指出的是，所謂「最速」是就初值點的鄰域而言，所謂「最優」是指在初值點的負梯度方向上，所以它的著眼點是就局部而言，就初值點鄰域而言，而對整體往往是既非「最優」，又非「最速」，而是一條曲折的彎路，難怪有人稱它為「瞎子下山法」，如圖2.5所示，當φ的等值面為拉長的橢球時更是如此。但它有一個十分可貴的優點，即在迭代的每一步都保證φ值下降，所以它是穩定收斂的，在φ函數復雜時，計算工作量較大些，對於大型計算機比較適用。

圖2.5 最速下降法迭代過程示意圖

圖2.6 修正量的方向

2.2.6 阻尼最小二乘法（Marguardt）

比較上述兩種方法可知，Gauss法修正量的步長大，當φ近於二次函數，可以很快收斂，但當φ為非二次函數，初值又給得不好時，常常引起發散。而最速下降法卻能保證穩定的收斂，但修正量的步長小，計算工作量大。當φ的等值面為拉長的橢球時，Gauss法的修正量

和最速下降法的修正量

之間的夾角γ可達80°～90°，如圖2.6所示。

對於φ為二次函數的情況下，高斯法的修正量

方向是指向φ的極小點，而最速下降法修正量

的方向是垂直於通過

點的φ函數等值面的切平面。因而當φ為比較復雜的函數時，有可能使

出現發散而失敗。

阻尼最小二乘法是在Gauss法和最速下降法之間取某種插值，它力圖能以最大步長前進，同時又能緊靠負梯度方向，這樣既能保證收斂又能加快速度。它的基本思想是：在迭代過程的每一步，最好盡量使用Gauss法修正量方向

，以使修正步長盡可能地增大，如當這種情況下不能收斂時，再逐步改用接近最速下降的方向

，同時縮小步長，以保證收斂，下面以

表示由阻尼最小二乘法得出的修正量。

實現上述思想只要將方程

地球物理數據處理教程

改變為

地球物理數據處理教程

就能實現了。式中

為我們所要求的修正量，即稱Marguardt修正向量，I為單位矩陣，λ是用來控制修正方向和步長的任意正數，又稱阻尼因子，它起到阻止發散的作用，方程（2.2.9）中

顯然是λ的函數，即

地球物理數據處理教程

通過這一改變後，即原來的正規方程（2.2.7）系數矩陣的主對角線上加一正數，從而使條件數得到了改善。如果原來A是奇異的，而A+λI可成為正定的，設原來A的最大特徵值和最小特徵值為μ_max和μ_min，則條件數就發生了如下變化：

地球物理數據處理教程

使病態條件數改善，對於計算來說，是十分有利的。

從方程（2.2.7）可看出，右端項為

地球物理數據處理教程

而φ的負梯度向量

的第i個分量

地球物理數據處理教程

所以

，即方程（2.2.7）、（2.2.9）的右端項

的方向即為負梯度方向，值為負梯度值的一半。

在方程（2.2.9）中，當λ=0時，即是（2.2.7）方程，這時

就是

；當λ→∞時，δ₀→

，而

是負梯度方向，這時

就是最速下降方向，所以阻尼最小二乘法的修正量

，是最速下降修正量

和Gauss法修正量

之間的某種插值，λ就是這種插值的權系數。

Marguardt向量

具有以下三個特性：

（1）當λ越來越大時，

的長度越來越小，且

地球物理數據處理教程

‖

‖表示

向量的范數，也即是它的長度。

（2）當λ由零逐漸增大時，

的方向逐漸由Gauss法的方向

轉向最速下降法方向

，λ越大，

方向越接近

方向。

（3）對λ＞0的任意正數，

（滿足方程（2.2.9））使φ在半徑為‖

‖的球面上取得極小。

圖2.7Δ₀（λ）隨λ的變化情況示意圖

以上三個性質說明，當λ逐漸增大時，

的方向由

向

靠近，它的大小‖

‖逐漸減小，λ→∞時，‖

‖→0，如圖2.7所示。因此在迭代的任何一步，我們總可以找到充分大的λ，來保證穩定的收斂，因為當φ 不下降時，就加大λ向

靠，一直到使φ下降為止，從而保證收斂。性質（3）說明在跨出同樣的步長時，以

（λ）方向最好，這就保證了該法的優越性。在實際計算時，總是在保證收斂的前提下，取較小的λ，以獲得較大的步長前進。

下面介紹阻尼最小二乘法的迭代步驟，即實際計算過程。

（1）給出模型體參量初值

，計算φ（

）；給出實測場值ΔZ_k（k=1，2，…，m）；給出阻尼因子的初值λ^（0）及改變λ的比例系數v。

（2）開始迭代，λ=λ^（0）/v

（3）計算A，（A+λI）及右端項

在初值點

的值，得方程（2.2.9），（A+λI）

的系數矩陣及右端項。

（4）求解方程（2.2.9）得

。

（5）計算

及φ（

）。

（6）比較φ（

）和φ（

）。

若φ（

）＜φ（

），則該次迭代成功。判斷

是否滿足精度要求，若滿足停止迭代，這時的

即為極小點

；若不滿足精度要求，則將

作為新

，φ（

）作為新φ（

），減小λ作為新的λ^（0），轉向第（2）步，繼續迭代下去。

若φ（

）＞φ（

），則該次迭代失敗，增大阻尼因子λ，將λ·v作為新的λ，轉向第（4）步，即重新求解（A+λI）

方程，重新得到新的

。

該方法中阻尼因子λ的選擇十分重要，上述選法是一種簡單可行的方法，還有很多不同的選擇方法，可參閱有關的書籍。