模拟退火法

模拟退火法【模拟退火法】模拟退火算法(Simulate Anneal Arithmetic,SAA)是一种通用机率演算法,用来在一个大的搜寻空间内找寻命题的最优解 。模拟退火是S.Kirkpatrick, C.D.Gelatt和M.P.Vecchi在1983年所发明 。而V.?erný在1985年也独立发明此演算法 。模拟退火算法是解决TSP问题的有效方法之一 。
基本介绍中文名:模拟退火法
外文名:Simulate Anneal Arithmetic
类型:算法
发明时间:1983年
基本定义模拟退火来自冶金学的专有名词退火 。退火是将材料加热后再经特定速率冷却,目的是增大晶粒的体积,并且减少晶格中的缺陷 。材料中的原子原来会停留在使内能有局部最小值的位置,加热使能量变大,原子会离开原来位置,而随机在其他位置中移动 。退火冷却时速度较慢,使得原子有较多可能可以找到内能比原先更低的位置 。详细简介模拟退火的原理也和金属退火的原理近似:将热力学的理论套用到统计学上,将搜寻空间内每一点想像成空气内的分子;分子的能量,就是它本身的动能;而搜寻空间内的每一点,也像空气分子一样带有“能量”,以表示该点对命题的合适程度 。演算法先以搜寻空间内一个任意点作起始:每一步先选择一个“邻居”,然后再计算从现有位置到达“邻居”的机率 。模拟退火算法的模型模拟退火算法可以分解为解空间、目标函式和初始解三部分 。模拟退火的基本思想:(1) 初始化:初始温度T(充分大),初始解状态S(是算法叠代的起点),每个T值的叠代次数L(2) 对k=1,……,L做第(3)至第6步:(3) 产生新解S′(4) 计算增量Δt′=C(S′)-C(S),其中C(S)为评价函式(5) 若Δt′<0则接受S′作为新的当前解,否则以机率exp(-Δt′/T)接手S′作为新的当前解.(6) 如果满足终止条件则输出当前解作为最优解,结束程式 。终止条件通常取为连续若干个新解都没有被接受时终止算法 。(7) T逐渐减少,且T->0,然后转第2步 。模拟退火算法新解的产生和接受可分为如下四个步骤:第一步是由一个产生函式从当前解产生一个位于解空间的新解;为便于后续的计算和接受,减少算法耗时,通常选择由当前新解经过简单地变换即可产生新解的方法,如对构成前解的全部或部分元素进行置换、互换等,注意到产生新解的变换方法决定了当前新解的邻域结构,因而对冷却进度表的选取有一定的影响 。第二步是计算与新解所对应的目标函式差 。因为目标函式差仅由变换部分产生,所以目标函式差的计算最好按增量计算 。事实表明,对大多数套用而言,这是计算目标函式差的最快方法 。第三步是判断新解是否被接受,判断的依据是一个接受準则,最常用的接受準则是Metropolis準则: 若Δt′<0则接受S′作为新的当前解S,否则以机率exp(-Δt′/T)接受S′作为新的当前解S 。第四步是当新解被确定接受时,用新解代替当前解,这只需将当前解中对应于产生新解时的变换部分予以实现,同时修正目标函式值即可 。此时,当前解实现了一次叠代 。可在此基础上开始下一轮试验 。而当新解被判定为捨弃时,则在原当前解的基础上继续下一轮试验 。模拟退火算法与初始值无关,算法求得的解与初始解状态S(是算法叠代的起点)无关;模拟退火算法具有渐近收敛性,已在理论上被证明是一种以机率l 收敛于全局最优解的全局最佳化算法;模拟退火算法具有并行性 。模拟退火算法的简单套用作为模拟退火算法套用,讨论旅行商问题(Travelling Salesman Problem,简记为TSP):设有n个城市,用数码(1,…,n)代表 。城市i和城市j之间的距离为d(i,j) i, j=1,…,n.TSP问题是要找遍访每个域市恰好一次的一条迴路,且其路径总长度为最短 。求解TSP的模拟退火算法模型可描述如下:解空间:解空间S是遍访每个城市恰好一次的所有迴路,是{1,……,n}的所有循环排列的集合,S中的成员记为(w1,...,wn),并记wn + 1 = w1 。初始解可选为(1,……,n)目标函式:此时的目标函式即为访问所有城市的路径总长度或称为代价函式:我们要求此代价函式的最小值 。新解的产生 随机产生1和n之间的两相异数k和m,不妨设1<=k<m<=n,则将原路径(w1,w2,…,wk,wk+1,…,wm,wm+1,…,wn)变为(w1,w2,…,wm,wk+1,…,wk,wm+1,…,wn) 。上述变换方法可简单说成是“逆转中间或者逆转两端” 。也可以採用其他的变换方法,有些变换有独特的优越性,有时也将它们交替使用,得到一种更好方法 。代价函式差:设将(w1,w2,...,wn)变换为(u1,u2,...,un), 则代价函式差为:模拟退火算法求解TSP问题的伪程式根据上述分析,可写出用模拟退火算法求解TSP问题的伪程式:Procedure TSPSA:begininit-of-T; { T为初始温度}S={1,……,n}; {S为初始值}termination=false;while termination=falsebeginfor i=1 to L dobegingenerate(S′form S); { 从当前迴路S产生新迴路S′}Δt:=f(S′))-f(S);{f(S)为路径总长}IF(Δt<0) OR (EXP(-Δt/T)>Random-of-[0,1])S=S′;IF the-halt-condition-is-TRUE THENtermination=true;End;T_lower;End;End模拟退火算法的套用很广泛,可以较高的效率求解最大截问题(Max Cut Problem)、0-1背包问题(Zero One Knapsack Problem)、图着色问题(Graph Colouring Problem)、调度问题(Scheduling Problem)等等 。模拟退火算法的参数控制问题模拟退火算法的套用很广泛,可以求解NP完全问题,但其参数难以控制,其主要问题有以下三点:(1) 温度T的初始值设定问题 。温度T的初始值设定是影响模拟退火算法全局搜寻性能的重要因素之一、初始温度高,则搜寻到全局最优解的可能性大,但因此要花费大量的计算时间;反之,则可节约计算时间,但全局搜寻性能可能受到影响 。实际套用过程中,初始温度一般需要依据实验结果进行若干次调整 。(2) 退火速度问题 。模拟退火算法的全局搜寻性能也与退火速度密切相关 。一般来说,同一温度下的“充分”搜寻(退火)是相当必要的,但这需要计算时间 。实际套用中,要针对具体问题的性质和特徵设定合理的退火平衡条件 。(3) 温度管理问题 。温度管理问题也是模拟退火算法难以处理的问题之一 。实际套用中,由于必须考虑计算複杂度的切实可行性等问题,常採用如下所示的降温方式:式中k为正的略小于1.00的常数,t为降温的次数 。