主讲人: 吕敏 Email: { lvmin05@ustc.edu.cn } Spring 2012 ,USTC 算法基础 主讲人: 吕敏 Email: { lvmin05@ustc.edu.cn } Spring 2012 ,USTC.

Slides:



Advertisements
Similar presentations
因数与倍数 2 、 5 的倍数的特征
Advertisements

3 的倍数的特征 的倍数有 : 。 5 的倍数有 : 。 既是 2 的倍数又是 5 的倍数有 : 。 12 , 18 , 20 , 48 , 60 , 72 , , 25 , 60 ,
一、 一阶线性微分方程及其解法 二、 一阶线性微分方程的简单应用 三、 小结及作业 §6.2 一阶线性微分方程.
2.8 函数的微分 1 微分的定义 2 微分的几何意义 3 微分公式与微分运算法则 4 微分在近似计算中的应用.
2.6 隐函数微分法 第二章 第二章 二、高阶导数 一、隐式定义的函数 三、可微函数的有理幂. 一、隐函数的导数 若由方程 可确定 y 是 x 的函数, 由 表示的函数, 称为显函数. 例如, 可确定显函数 可确定 y 是 x 的函数, 但此隐函数不能显化. 函数为隐函数. 则称此 隐函数求导方法.
2.5 函数的微分 一、问题的提出 二、微分的定义 三、可微的条件 四、微分的几何意义 五、微分的求法 六、小结.
第五章 二次型. 第五章 二次型 知识点1---二次型及其矩阵表示 二次型的基本概念 1. 线性变换与合同矩阵 2.
§1 二阶与三阶行列式 ★二元线性方程组与二阶行列式 ★三阶行列式
一、二阶行列式的引入 用消元法解二元线性方程组. 一、二阶行列式的引入 用消元法解二元线性方程组.
第三章 函数逼近 — 最佳平方逼近.
《高等数学》(理学) 常数项级数的概念 袁安锋
四种命题 2 垂直.
常用逻辑用语复习课 李娟.
第一章 行列式 第五节 Cramer定理 设含有n 个未知量的n个方程构成的线性方程组为 (Ⅰ) 由未知数的系数组成的n阶行列式
动态规划(四).
小学生游戏.
恰当方程(全微分方程) 一、概念 二、全微分方程的解法.
第5章 定积分及其应用 基本要求 5.1 定积分的概念与性质 5.2 微积分基本公式 5.3 定积分的换元积分法与分部积分法
第三节 格林公式及其应用(2) 一、曲线积分与路径无关的定义 二、曲线积分与路径无关的条件 三、二元函数的全微分的求积 四、小结.
第二章 矩阵(matrix) 第8次课.
元素替换法 ——行列式按行(列)展开(推论)
第2讲 绪论(二).
§2 求导法则 2.1 求导数的四则运算法则 下面分三部分加以证明, 并同时给出相应的推论和例题 .
Online job scheduling in Distributed Machine Learning Clusters
What have we learned?.
山东师范大学信息科学与工程学院软件工程研究所 徐连诚 2006年10月9日
动态规划(Dynamic Programming)
工业机器人技术基础及应用 主讲人:顾老师
第4章 非线性规划 4.5 约束最优化方法 2019/4/6 山东大学 软件学院.
Partial Differential Equations §2 Separation of variables
顺序表的删除.
线性代数 第二章 矩阵 §1 矩阵的定义 定义:m×n个数排成的数表 3) 零矩阵: 4) n阶方阵:An=[aij]n×n
线性规 Linear Programming
概 率 统 计 主讲教师 叶宏 山东大学数学院.
线 性 代 数 厦门大学线性代数教学组 2019年4月24日6时8分 / 45.
离散数学─归纳与递归 南京大学计算机科学与技术系
复习.
用计算器开方.
第5章 动态规划 5.1, 5.2 多阶段决策和最优化原理 2019/5/1.
成绩是怎么算出来的? 16级第一学期半期考试成绩 班级 姓名 语文 数学 英语 政治 历史 地理 物理 化学 生物 总分 1 张三1 115
Algorithm Design and Analysis
第16讲 相似矩阵与方阵的对角化 主要内容: 1.相似矩阵 2. 方阵的对角化.
用穷举法设计程序 南京师范大学 教育技术系 倪佳慧
§8.3 不变因子 一、行列式因子 二、不变因子.
§6.7 子空间的直和 一、直和的定义 二、直和的判定 三、多个子空间的直和.
1.2 子集、补集、全集习题课.
1.设A和B是集合,证明:A=B当且仅当A∩B=A∪B
学习任务三 偏导数 结合一元函数的导数学习二元函数的偏导数是非常有用的. 要求了解二元函数的偏导数的定义, 掌握二元函数偏导数的计算.
第七、八次实验要求.
Models and Software Practice of the Operations Research
一元二次不等式解法(1).
2.2矩阵的代数运算.
第15讲 特征值与特征向量的性质 主要内容:特征值与特征向量的性质.
正弦、余弦函数的性质 华容一中 伍立华 2017年2月24日.
§2 方阵的特征值与特征向量.
生 物 信 息 学 Bioinformatics 巩晶 癌症研究中心 山东大学 医学院
动态规划 Floyd最短路径算法 高文宇
基于列存储的RDF数据管理 朱敏
动态规划算法 Dynamic Programming
定义5 把矩阵 A 的行换成同序数的列得到的矩阵,
第四节 向量的乘积 一、两向量的数量积 二、两向量的向量积.
第十七讲 密码执行(1).
插入排序的正确性证明 以及各种改进方法.
§4.5 最大公因式的矩阵求法( Ⅱ ).
离散数学─归纳与递归 南京大学计算机科学与技术系
第二次课后作业答案 函数式编程和逻辑式编程
一元一次方程的解法(-).
最小生成树 最优二叉树.
§2 自由代数 定义19.7:设X是集合,G是一个T-代数,为X到G的函数,若对每个T-代数A和X到A的函数,都存在唯一的G到A的同态映射,使得=,则称G(更严格的说是(G,))是生成集X上的自由T-代数。X中的元素称为生成元。 A变, 变 变, 也变 对给定的 和A,是唯一的.
9.3多项式乘多项式.
Presentation transcript:

主讲人: 吕敏 Email: { lvmin05@ustc.edu.cn } Spring 2012 ,USTC 算法基础 主讲人: 吕敏 Email: { lvmin05@ustc.edu.cn } Spring 2012 ,USTC

第九讲 动态规划 内容提要: 理解动态规划算法概念 掌握动态规划算法要素 掌握设计动态规划算法的步骤 通过范例学习动态规划算法设计策略 第九讲 动态规划 内容提要: 理解动态规划算法概念 掌握动态规划算法要素 掌握设计动态规划算法的步骤 通过范例学习动态规划算法设计策略 2019/5/17

15.1 历史及研究问题 动态规划(dynamic programming)是运筹学的一个分支,20世纪50年代初美国数学家R.E.Bellman等人在研究多阶段决策过程(Multistep decision process)的优化问题时,提出了著名的最优性原理,把多阶段过程转化为一系列单阶段问题,逐个求解,创立了解决这类过程优化问题的新方法——动态规划。 多阶段决策问题:求解的问题可以划分为一系列相互联系的阶段,在每个阶段都需要做出决策,且一个阶段决策的选择会影响下一个阶段的决策,从而影响整个过程的活动路线,求解的目标是选择各个阶段的决策是整个过程达到最优。 2019/5/17

15.1 历史及研究问题 动态规划主要用于求解以时间划分阶段的动态过程的优化问题,但是一些与时间无关的静态规划(如线性规划、非线性规划),可以人为地引进时间因素,把它视为多阶段决策过程,也可以用动态规划方法方便地求解。 动态规划是考察问题的一种途径,或是求解某类问题的一种方法。 动态规划问世以来,在经济管理、生产调度、工程技术和最优控制等方面得到了广泛的应用。例如最短路线、库存管理、资源分配、设备更新、排序、装载等问题,用动态规划方法比其它方法求解更为方便。 2019/5/17

15.1 历史及研究问题 基本概念: 状态:表示每个阶段开始时,问题或系统所处的客观状况。状态既是该阶段的某个起点,又是前一个阶段的某个终点。通常一个阶段有若干个状态。 状态无后效性:如果某个阶段状态给定后,则该阶段以后过程的发展不受该阶段以前各阶段状态的影响,也就是说状态具有马尔科夫性。 适于动态规划法求解的问题具有状态的无后效性 策略:各个阶段决策确定后,就组成了一个决策序列,该序列称之为一个策略。由某个阶段开始到终止阶段的过程称为子过程,其对应的某个策略称为子策略。 2019/5/17

15.2 最优性原理 Bellman最优性原理: 求解问题的一个最优策略序列的子策略序列总是最优的,则称该问题满足最优性原理。 注:对具有最优性原理性质的问题而言,如果有一决策序列包含有非最优的决策子序列,则该决策序列一定不是最优的。 2019/5/17

15.3 总体思想 动态规划的思想实质是分治思想和解决冗余 动态规划算法与分治法类似,其基本思想也是将待求解问题分解成若干个子问题 T(n) = 2019/5/17

15.3 总体思想 但是经分解得到的子问题往往不是互相独立的。不同子问题的数目常常只有多项式量级。在用分治法求解时,有些子问题被重复计算了许多次。 n T(n) = n/2 T(n/4) 2019/5/17

15.3 总体思想 如果能够保存已解决的子问题的答案,而在需要时再找出已求得的答案,就可以避免大量重复计算,从而得到多项式时间算法。动态规划法用一个表来记录所有已解决的子问题的答案。具体的动态规划算法尽管多种多样,但它们具有相同的填表方式。 n = n/2 T(n/4) T(n) 2019/5/17

15.3 总体思想 基本步骤: 找出最优解的性质,并刻划其结构特征。 ---》划分子问题 递归地定义最优解的值。 ----》给出最优解的递归式 按自底向上的方式计算最优解的值。 由计算出的结果构造一个最优解。 注: 步骤①~③是动态规划算法的基本步骤。如果只需要求出最优值的情形,步骤④可以省略; 若需要求出问题的一个最优解,则必须执行步骤④,步骤③中记录的信息是构造最优解的基础; 2019/5/17

15.4 矩阵链乘法问题 问题描述: 给定n个矩阵A1, A2, …, An,Ai的维数为pi-1 × pi (1≤i ≤ n),以一种最小化标量乘法次数的方式进行完全括号化。 注意: 设Ap ×q, A q×r两矩阵相乘,普通乘法次数为p ×q ×r; 加括号对乘法次数的影响: 2019/5/17

15.4 矩阵链乘法问题 穷举法:列举出所有可能的计算次序,并计算出每一种计算次序相应需要的数乘次数,从中找出一种数乘次数最少的计算次序。 15.4 矩阵链乘法问题 穷举法:列举出所有可能的计算次序,并计算出每一种计算次序相应需要的数乘次数,从中找出一种数乘次数最少的计算次序。 复杂性分析: 用p(n)表示n个矩阵链乘的穷举法计算成本,如果将n个矩阵从第k和第k+1处隔开,对两个子序列再分别加扩号,则可以得到下面递归式: 因此,穷举法不是一个有效算法。 2019/5/17

15.4 矩阵链乘法问题 用动态规划法来求解: 步骤1:分析最优解的结构 2019/5/17

15.4 矩阵链乘法问题 步骤2:递归求解最优解的值 记m[i][j]为计算A[i:j]的最少乘法数,则原问题的最优值为m[1][n],那么有 取得的k为A[i:j]最优次序中的断开位置,并记录到表s[i][j]中,即s[i][j]←k。 注:m[i][j]实际是子问题最优解的解值,保存下来避免重复计算。 2019/5/17

15.5 矩阵链乘法问题 在递归计算时,许多子问题被重复计算多次。这也是该问题可用动态规划算法求解的又一显著特征。 2019/5/17

15.5 矩阵链乘法问题 步骤3:计算最优代价,自底向上记忆化方式求解m[i][j] 15.5 矩阵链乘法问题 步骤3:计算最优代价,自底向上记忆化方式求解m[i][j] -- 用动态规划算法解此问题,可依据其递归式以自底向上的方式进行计算。在计算过程中,保存已解决的子问题答案。每个子问题只计算一次,而在后面需要时只要简单查一下,从而避免大量的重复计算,最终得到多项式时间的算法。 2019/5/17

15.5 矩阵链乘法问题 void MatrixChain(int *p,int n,int **m,int **s) { 15.5 矩阵链乘法问题 void MatrixChain(int *p,int n,int **m,int **s) { for (int i = 1; i <= n; i++) m[i][i] = 0; for (int r = 2; r <= n; r++) for (int i = 1; i <= n - r+1; i++) { int j=i+r-1; m[i][j] = m[i+1][j]+ p[i-1]*p[i]*p[j]; s[i][j] = i; for (int k = i+1; k < j; k++) { int t = m[i][k] + m[k+1][j] + p[i-1]*p[k]*p[j]; if (t < m[i][j]) { m[i][j] = t; s[i][j] = k;} } 算法复杂度分析: 算法matrixChain的主要计算量取决于算法中对r,i和k的3重循环。循环体内的计算量为O(1),而3重循环的总次数为O(n3)。因此算法的计算时间上界为O(n3)。算法所占用的空间显然为O(n2)。 2019/5/17

15.5 矩阵链乘法问题 步骤4:构造最优解 2019/5/17

15.5 矩阵链乘法问题 2019/5/17

作业: 15.2-1 15.2-3

15.6 适用条件 适合采用动态规划方法的最优化问题中的两要素: 一、 最优子结构 15.6 适用条件 适合采用动态规划方法的最优化问题中的两要素: 最优子结构 重叠子问题 一、 最优子结构 如果问题的最优解是由其子问题的最优解来构造的,则称该问题具有最优子结构。 在动态规划中,我们利用子问题的最优解来构造问题的一个最优解,因此,必须确保在我们所考虑的子问题范围中,包含了用于一个最优解的那些子问题。

15.6.1 最优子结构 寻找最优子结构的模式: 问题的一个解可以是做一个选择(例如:选择一个下标以在该位置分裂矩阵链) 15.6.1 最优子结构 寻找最优子结构的模式: 问题的一个解可以是做一个选择(例如:选择一个下标以在该位置分裂矩阵链) 假设对一个给定的问题,已知一个可以导致最优解的选择(不必关心如何确定这个选择,只需假定它是已知的) 在已知该选择后,要确定哪些子问题会随之发生,以及如何最好地描述所得到的子问题空间 利用“剪贴”(cut-and-paste)技术,来证明在问题的一个最优解中,使用的子问题的解本身也必须是最优的。 方法:假设每一个字问题的解都不是最优解,导出矛盾即可 特别的,通过“剪除”非最优的子问题再“贴上”最优解,即得到原问题的一个更好的解,从而与假设已得到一个最优解矛盾。

15.6.1 最优子结构 子问题空间的描述: 遵循如下规则:尽量保持这个空间简单,需要时再扩充它 最优子结构在问题域中的变化方式: 15.6.1 最优子结构 子问题空间的描述: 遵循如下规则:尽量保持这个空间简单,需要时再扩充它 最优子结构在问题域中的变化方式: 有多少个子问题在原问题的一个最优解中被使用 在决定一个最优解中使用哪些子问题时有多少个选择。 例如:子链 的矩阵链乘法有2个子问题,j-i个选择 一个动态规划算法的运行时间依赖于两个因素的乘积:子问题的总个数和每个子问题中有多少种选择 例如:矩阵链乘法,有 个子问题,每个子问题中又至多有n-1个选择,因此执行时间为 2019/5/17

15.6.1 最优子结构 利用问题的最优子结构性质,以自底向上的方式递归地从子问题的最优解逐步构造出整个问题的最优解。最优子结构是问题能用动态规划算法求解的前提。 寻找问题的一个最优解需要在子问题中做出选择,即选择将用哪一个来求解问题 问题解的代价=子问题的代价+选择带来的开销 同一个问题可以有多种方式刻划它的最优子结构,有些表示方法的求解速度更快(空间占用小,问题的维度低) 注:贪心算法适用的问题也具有最优子结构,但它是以自顶向下的方式使用最优子结构;先做选择再求解一个结果子问题。

15.6.1 最优子结构 例1:设G是一个有向加权图,则G从顶点i到顶点j之间的最短路径问题满足最优性原理。 证明:(反证法) 15.6.1 最优子结构 注意:在不能应用最优子结构的时候,一定不能假设它能够应用 如何判断问题满足最优性原理? 思路:利用反证法,通过假设每一个子问题的解都不是最优解,然后导出矛盾,即可做到这一点。 例1:设G是一个有向加权图,则G从顶点i到顶点j之间的最短路径问题满足最优性原理。 证明:(反证法) 设i ~ ip ~ iq ~ j是一条最短路径,但其中子路径ip ~ iq ~ j不是最优的。 假设最优的子路径为 ip ~ iq’~ j,则我们可以重新构造一条路径:i ~ ip ~ iq’ ~ j,显然该路径长度小于 i ~ ip ~ iq ~ j,与i ~ ip ~ iq ~ j是顶点i到顶点j的最短路径相矛盾。 所以原问题满足最优性原理。

15.7 设计技巧 例2:有向图的最长路径问题不满足最优性原理。 证明: 如右图所示,q → r → t是q到t的最长路径, 而q → r的最长路径是 q → s → t → r, r → t的最长路径是 r → q → s → t, 但 q → r 和 r → t的最长路径合起来并不是 q 到t的最长路径。 所以,原问题并不满足最优性原理。 注:因为 q → r 和 r → t的子问题都共享路径 s → t,组合成原问题解时,有重复的路径对原问题是不允许的。 2019/5/17

15.6.2 重叠子问题 二、重叠子问题 适用于动态规划求解的最优化问题的第二个要素是子问题的空间要“小”,使用来解原问题的递归算法可反复解同样的子问题,而不总在产生新的子问题。 不同的子问题数是输入规模的一个多项式 递归算法求解问题时,每次产生的子问题并不总是新问题,有些子问题被反复计算多次。这种性质称为子问题的重叠性质。 2019/5/17

15.6.2 重叠子问题 动态规划算法,充分利用重叠子问题,对每一个子问题只解一次,而后将其解保存在一个表格中,当再次需要解此子问题时,只是简单地用常数时间查看一下结果。 通常不同的子问题个数随问题的大小呈多项式增长。因此用动态规划算法只需要多项式时间,从而获得较高的解题效率。

15.6.3 做备忘录 动态规划的一种变形,既具有通常的动态规划方法的效率,又采用了一种自顶向下的策略 15.6.3 做备忘录 动态规划的一种变形,既具有通常的动态规划方法的效率,又采用了一种自顶向下的策略 思想:备忘(memoize)原问题的自然但低效的递归算法,维护一个记录了子问题解的表,但有关填表动作的控制结构更像递归算法。 方法:加了备忘的递归算法为每一个子问题的解在表中记录一个表项。 每个表项最初包含一个特殊的值,表示该表项有待填入; 在递归算法的执行中第一次遇到一个子问题时,计算它的解并填入表中; 以后再遇到该子问题,只要查看并返回表中先前填入的值即可。 自顶向下的做备忘录算法和自底向上的动态规划算法都利用了重叠子问题性质 如果所有子问题都至少要被计算一次,则后者比前者好出一个常数因子,因为后者无需递归的代价,维护表格的开销也小些。 有些问题可以用动态规划算法的表存取模式来进一步减少时间或空间上的需求。 如果某些子问题没有必要求解,做备忘录方法有着只解那些肯定要求解的子问题的优点。

15.7 设计技巧 动态规划的设计技巧:阶段的划分、状态的表示和存储表的设计; 15.7 设计技巧 动态规划的设计技巧:阶段的划分、状态的表示和存储表的设计; 在动态规划的设计过程中,阶段的划分和状态的表示是其中最重要的两步,这两步会直接影响该问题的计算复杂性和存储表设计,有时候阶段划分或状态表示的不合理还会使得动态规划法不适用。 问题的阶段划分和状态表示,需要具体问题具体分析,没有一个清晰明朗的方法; 在实际应用中,许多问题的阶段划分并不明显,这时如果刻意地划分阶段法反而麻烦。一般来说,只要该问题可以划分成规模更小的子问题,并且原问题的最优解中包含了子问题的最优解(即满足最优性原理),则可以考虑用动态规划解决。 2019/5/17

15.8最长公共子序列(LCS) 子序列定义 给定序列X={x1,x2,…,xm},序列Z={z1,z2,…,zk}是X的子序列,是指:存在一个严格递增下标序列{i1,i2,…,ik},使得对于所有j=1,2,…,k,有zj=xij。 例如,序列Z={B,C,D,B}是序列X={A,B,C,B,D,A,B}的子序列,相应的递增下标序列为{2,3,5,7}。 两个序列的公共子序列定义 给定2个序列X和Y,当另一序列Z既是X的子序列又是Y的子序列时,称Z是序列X和Y的公共子序列。 2019/5/17

15.8最长公共子序列(LCS) 问题描述: 给定2个序列X={x1,x2,…,xm}和Y={y1,y2,…,yn},找出X和Y的最大长度公共子序列。 2019/5/17

15.8最长公共子序列(LCS) Step 1: LCS最优解的结构特征 定义X的第i个前缀:Xi = (x1, x2,…, xi), i = 1 ~ m X0 = φ, φ为空集 定理15.1(一个LCS的最优子结构) 设序列X = (x1, x2,…, xm)和Y = (y1, y2,…, yn), Z = (z1, z2,…, zk)是X和Y的任意一个LCS,则: ( 1 ) 若 xm = yn,则 zk=xm=yn且Zk-1是Xm-1和Yn-1的一个LCS; ( 2) 若 xm≠yn且zk ≠ xm,则Z是Xm-1和Y的一个LCS; ( 3) 若 xm ≠ yn且zk ≠ yn,则Z是X和yn-1的一个LCS; 该定理两个序列X和Y的一个LCS包含了两个序列的前缀的一个LCS,即最长公共子序列问题具有最优子结构性质。 2019/5/17

15.8最长公共子序列(LCS) 2019/5/17

15.8最长公共子序列(LCS) 2019/5/17

15.8最长公共子序列(LCS) Step 2: 子问题的递归解 — 定理15.1将X和Y的LCS分解为2种情况: (1) if xm=yn then //解一个子问题 找Xm-1和Yn-1的LCS; (2) if xm≠yn then //解二个子问题 找Xm-1和Y的LCS;找X和Yn-1的LCS; 取两者中的最大的; — c[i,j]定义为Xi和Yj的LCS长度,i = 0 ~ m, j = 0 ~ n; 2019/5/17

15.8最长公共子序列(LCS) (m,n) (m-1,n-1)|(m,n-1),(m-1,n) 2019/5/17

15.8最长公共子序列(LCS) Step 3:计算最优解值 — 数据结构设计 c[0..m, 0..n] //存放最优解值,计算时行优先 b[1..m, 1..n] //解矩阵,存放构造最优解信息 2019/5/17

15.8最长公共子序列(LCS) 过程LCS-Length以两个序列X和Y为输入,它把c[i,j]的值填入一个按行计算表项的表c[0..m, 0..n]中,并维护表b[1..m, 1..n]以简化最优解的构造。b[i,j]指向一个表项,对应于在计算c[i,j]时所选择的最优子问题的解。程序最后返回b和c。c[m,n]包含X和Y的一个LCS的长度。 2019/5/17

15.8最长公共子序列(LCS) Step 4:计算最优解值 —算法: 说明: —每当在表项b[i,j]中遇到一个 时,即意味着xi=yj是LCS的一个元素; —时间复杂度:θ(m+n) 2019/5/17

15.8最长公共子序列(LCS) 若X = <A, B, C, B, D, A, B> ,Y=<B, D, C, A, B, A>,则 最优解: BCAB 或 BCBA 2019/5/17

15.8最长公共子序列(LCS) 改进代码: 在算法lcsLength和lcs中,可进一步将数组b省去。事实上,数组元素c[i][j]的值仅由c[i-1][j-1],c[i-1][j]和c[i][j-1]这3个数组元素的值所确定。对于给定的数组元素c[i][j],可以不借助于数组b而仅借助于c本身在常数时间内确定c[i][j]的值是由c[i-1][j-1],c[i-1][j]和c[i][j-1]中哪一个值所确定的。 如果只需要计算最长公共子序列的长度,则算法的空间需求可大大减少。事实上,在计算c[i][j]时,只用到数组c的第i行和第i-1行。因此,用2行的数组空间就可以计算出最长公共子序列的长度。 2019/5/17

15.8最长公共子序列(LCS) 思考题: 交错匹配(最长公共子串的改编): 给你两排数字,只能将两排中数字相同的两个位置相连,而每次相连必须有两个匹配形成一次交错,交错的连线不能再和别的交错连线有交点.问这两排数字最多能形成多少个交错匹配? 2019/5/17

作业 15.3-3 15.4-3 15.4-5

15.9 多段图规划 问题描述 多段图G=(V,E)是一个有向图,且具有以下特征: (1) 划分为k≥2个不相交的集合Vi, 1≤i≤k; (2) V1和Vk分别只有一个结点s(源点)和t(汇点); (3) 若<u, v> ∈E(G),u∈Vi,则v∈Vi+1,边上成本记c(u,v); 若<u,v>不属于E(G),边上成本记c(u,v)=∞。 求由s到t的最小成本路径。 2019/5/17

15.9 多段图规划 举例:一个5-段图 求从s到t的最短路径。 2019/5/17

15.9 多段图规划 多段图问题满足最优性原理 递归式推导 设s,…,vip,…,viq,…,t是一条由s到t的最短路径,则vip,…, viq,…,t也是由vip到t的最短路径。 (反证即可) 递归式推导 设cost(i, j)是Vi中结点vj到汇点t的最小成本路径的成本,递归式为: 2019/5/17

15.9 多段图规划 计算过程(以5-段图为例) 构造解:解1(1, 2, 7, 10, 12),解2(1, 3, 6, 10, 12) cost(4, 9)=4, cost(4, 10)=2, cost(4, 11)=∞ cost(3, 6)=7, cost(3, 7)=5, cost(3, 8)=7 cost(2, 2)=7, cost(2, 3)=9, cost(2, 4)=18, cost(2, 5)=15 cost(1, 1)=min{9+cost(2,2), 7+cost(2,3), 3+cost(2,4), 2+cost(2,5)} = 16 构造解:解1(1, 2, 7, 10, 12),解2(1, 3, 6, 10, 12) 2019/5/17

15.9 多段图规划 2019/5/17

15.10 最大子段和 问题描述: 给定整数序列a1,a2,…,an,求形如 的子段和的最大值。规定子段和为负整数时,定义其最大子段和为0,即 如:整数序列( a1, a2, a3, a4, a5, a6 ) = ( -2, 11, -4, 13, -5, -2 ) 最大子段和为: 2019/5/17

15.10 最大子段和 直接算法: 分析:时间复杂度为O(n3); 思考:对k循环可以省略,改进后的算法时间复杂度为O(n2); 2019/5/17

15.10 最大子段和 分治法求解 将A[1..n]分为a[1..n/2]和a[n/2+1..n],分别对两区段求最大子段和,这时有三种情形: case 1: a[1..n]的最大子段和的子段落在a[1..n/2]; case 2: a[1..n]的最大子段和的子段落在a[n/2..n]; case 3: a[1..n]的最大子段和的字段跨在a[1..n/2]和a[n/2+1..n]之间 此时, 对Case 1和Case 2可递归求解; 对Case 3,可知a[n/2]和a[n/2+1]一定在最大和的子段中,因此, 在a[1..n/2]中计算: 在a[n/2+1..n]中计算: 易知,S1 + S2 是Case 3的最大值。 2019/5/17

15.10 最大子段和 2019/5/17

15.10 最大子段和 动态规划法求解 (1)描述最优解的结构 子问题定义:考虑所有下标以j结束的最大子段和b[j],即 原问题与子问题的关系: (2)递归定义最优解的值 2019/5/17

15.10 最大子段和 算法: 运行时间:O(n) 思考:如果要记录最大子段对应的区间,该如何修改程序? 2019/5/17

15.10 最大子段和 思考题(最大子段和问题的推广): (1)最大子矩阵和问题:给定一个m行n列的整数矩阵A,试求矩阵A的一个子矩阵,使其各元素之和为最大。 (2)最大m子段和问题:给定由n个整数(可能为负整数)组成的序列a1, a2, …, an,以及一个正整数m,要求确定序列a1, a2, …, an的m个不相交子段,使这m个子段的总和达到最大。 2019/5/17

15.11 0-1背包问题 问题描述: 给定n种物品和一背包。物品i的体积是wi,其价值为vi,背包的容量为C。问应如何选择装入背包的物品,使得装入背包中物品的总价值最大? 0-1背包问题是一个特殊的整数规划问题。 2019/5/17

15.11 0-1背包问题 Knap(1, n, c)定义如下: 例如:w = ( w1, w2, w3) = (2, 3, 4), v=(v1, v2, v3)=(1, 2, 5), 求Knap(1, 3, 6) 取x = (1, 0, 1)时, Knap(1,3,6) = (v1x1+v2x2+v3x3) = 1*1 + 2*0 + 5*1 = 6最大 用穷举法求解,时间复杂度为O(n2n) 2019/5/17

15.11 0-1背包问题 0-1背包问题Knap(1, n, c)满足最优性原理 证明:(反证法) 设(y1,y2,…,yn)是Knap(1,n,c)的一个最优解,下证(y2,…,yn)是Knap(2,n,c-w1y1)子问题的一个最优解。 若不然,设(z2,…,zn)是Knap(2,n,c-w1y1)的最优解,因此有 说明(y1,z2,…,zn)是Knap(1,n,c)的一个更优解,矛盾。 2019/5/17

15.11 0-1背包问题 子问题定义 注:子问题的背包容量j在不断地发生变化。 设所给0-1背包问题的子问题记为Knap(i, n, j),j≤c(假设c, wi取整数),其定义为: 其最优值为m(i, j),即m(i, j)是背包容量为j,可选物品为i, i+1, …, n的0-1背包问题的最优值。 注:子问题的背包容量j在不断地发生变化。 2019/5/17

15.11 0-1背包问题 最优值的递归式如下: 临界条件: 算法复杂度分析: 15.11 0-1背包问题 最优值的递归式如下: 临界条件: 算法复杂度分析: 从m(i, j)的递归式容易看出,算法需要 O(nc) 计算时间。当背包容量c 很大时,算法需要的计算时间较多。例如,当c>2n时,算法需要Ω(n2n)计算时间。 2019/5/17

15.11 0-1背包问题 代码: 2019/5/17

15.11 0-1背包问题 构造最优解: 2019/5/17

15.12 备忘录动态规划算法 通常,动态规划算法都是由底向上求解,逐一求解子问题,最终得到原问题的解。无论所求解的子问题在后面是否利用到,动态规划法都要记录所有子问题的解。这种方法不够直观。 备忘录动态规划法,不仅具有通常动态规划方法的效率,同时还采取了一种自顶向下的策略。其思想是备忘原问题的自然但是低效的递归算法。像在通常的动态规划算法中一样,维护一个记录了子问题解得表,但有关填表动作的控制结构更像递归算法。 2019/5/17

15.12 备忘录动态规划算法 矩阵链乘问题的备忘录动态规划算法: 15.12 备忘录动态规划算法 矩阵链乘问题的备忘录动态规划算法: 备忘录方法的控制结构与直接递归方法的控制结构相同,区别在于备忘录方法为每个解过的子问题建立了备忘录以备需要时查看,避免了相同子问题的重复求解。 int LookupChain(int i,int j) { if (m[i][j] > 0) return m[i][j]; if (i == j) return 0; int u = LookupChain(i,i) + LookupChain(i+1,j) + p[i-1]*p[i]*p[j]; s[i][j] = i; for (int k = i+1; k < j; k++) { int t = LookupChain(i,k) + LookupChain(k+1,j) + p[i-1]*p[k]*p[j]; if (t < u) { u = t; s[i][j] = k;} } m[i][j] = u; return u; int (Memorized-Matrix-Chainp) { n = length[p]-1; for( int i = 1; i <=n ; i++) for( j=i; j<=n; j++ ) m[i,j] = -1; //表示无穷大 return LookupChain(p, 1, n); } 2019/5/17

15.13 其它问题 C(n,k) = C(n-1, k-1) + C(n-1, k) 如何利用动态规划技术来求解呢? 15.13 其它问题 动态规划算法除了可以用于求解最优化问题之外,还可以用于非最优化问题。如计算二项式系数: 二项式系数,或组合数,是定义为形如(1 + x)的二项式n次幂展开后x的系数(其中n为自然数,k为整数),通常记为。从定义可看出二项式系数的值为整数。 ( a+b)n = C(n, 0)an+…+C(n,k)an-kbk + …+ C(n, n) bn 二项式系数: C(n,k) = C(n-1, k-1) + C(n-1, k) 如何利用动态规划技术来求解呢? 2019/5/17

谢谢! Q & A 2019/5/17