Thanks for the Slides from Renmin U 数据库概论 第四章 关系系统及其查询优化 许开全 南京大学金陵学院 Thanks for the Slides from Renmin U

An Introduction to Database System 第四章 关系系统及其查询优化 4.1 关系系统 4.2 关系系统的查询优化 4.3 小结 An Introduction to Database System

An Introduction to Database System 关系系统 能够在一定程度上支持关系模型的数据库管理系统是关系系统。 由于关系模型中并非每一部分都是同等重要的 并不苛求一个实际的关系系统必须完全支持关系模型。 An Introduction to Database System

An Introduction to Database System 关系系统与关系模型 关系数据结构 域及域上定义的关系 关系操作 并、交、差、广义笛卡尔积、选择、投影、连接、除等 关系完整性 实体完整性、参照完整性、用户自己定义的完整性 An Introduction to Database System

An Introduction to Database System 关系系统的定义 一个数据库管理系统可定义为关系系统，当且仅 当它至少支持： 1. 关系数据库（即关系数据结构） 系统中只有表这种结构 2. 支持选择、投影和（自然）连接运算 对这些运算不要求用户定义任何物理存取路径 对关系系统的最低要求 An Introduction to Database System

An Introduction to Database System 关系系统的定义 不支持关系数据结构的系统显然不能称为关系系统 仅支持关系数据结构，但没有选择、投影和连接运算功能的系统仍不能算作关系系统。 原因：不能提高用户的生产率 支持选择、投影和连接运算，但要求定义物理存取路径，这种系统也不能算作真正的关系系统 原因：就降低或丧失了数据的物理独立性 选择、投影、连接运算是最有用的运算 An Introduction to Database System

An Introduction to Database System 4.1.2 关系系统的分类 分类依据：支持关系模型的程度 分类 ⒈ 表式系统：支持关系数据结构(即表) ⒉ (最小)关系系统 支持：关系数据结构 选择、投影、连接关系操作 ⒊ 关系完备的系统 所有的关系代数操作 ⒋ 全关系系统 支持：关系模型的所有特征 特别是:数据结构中域的概念 An Introduction to Database System

An Introduction to Database System 关系系统的分类 （续）   数据结构 数据操作 完整性 表式系统 表  (最小)关系系统 选择、投影、连接 关系完备的系统  全关系系统 An Introduction to Database System

An Introduction to Database System 第四章 关系系统及其查询优化 4.1 关系系统 4.2 关系系统的查询优化 4.3 小结 An Introduction to Database System

An Introduction to Database System 4.2 关系系统的查询优化 4.2.1 查询优化概述 4.2.2 查询优化的必要性 4.2.3 查询优化的一般准则 4.2.4 关系代数等价变换规则 4.2.5 关系代数表达式的优化算法 4.2.6 优化的一般步骤 An Introduction to Database System

An Introduction to Database System 4.2.1 查询优化概述 查询优化的必要性 查询优化极大地影响RDBMS的性能。   查询优化的可能性 关系数据语言的级别很高，使DBMS可以从关系表达式中分析查询语义。 An Introduction to Database System

An Introduction to Database System 由DBMS进行查询优化的好处 用户不必考虑如何最好地表达查询以获得较好的效率 系统可以比用户程序的优化做得更好 (1) 优化器可以从数据字典中获取许多统计信息，而用户程序则难以获得这些信息 An Introduction to Database System

An Introduction to Database System 由DBMS进行查询优化的好处 (2)如果数据库的物理统计信息改变了，系统可以自动对查询重新优化以选择相适应的执行计划。 在非关系系统中必须重写程序，而重写程序在实际应用中往往是不太可能的。 (3)优化器可以考虑数百种不同的执行计划，而程序员一般 只能考虑有限的几种可能性。 (4)优化器中包括了很多复杂的优化技术 An Introduction to Database System

An Introduction to Database System 查询优化目标 查询优化的总目标 选择有效策略，求得给定关系表达式的值 实际系统的查询优化步骤 1. 将查询转换成某种内部表示，通常是语法树 2. 根据一定的等价变换规则把语法树转换成标准 （优化）形式 An Introduction to Database System

An Introduction to Database System 实际系统的查询优化步骤 3. 选择低层的操作算法 对于语法树中的每一个操作 计算各种执行算法的执行代价 选择代价小的执行算法 4. 生成查询计划(查询执行方案) 查询计划是由一系列内部操作组成的。 An Introduction to Database System

An Introduction to Database System 代价模型 集中式数据库 单用户系统 总代价 = I/O代价 + CPU代价 多用户系统 总代价 = I/O代价 + CPU代价 + 内存代价 分布式数据库 总代价 = I/O代价 + CPU代价[+ 内存代价] + 通信代价 An Introduction to Database System

An Introduction to Database System 4.2.2 查询优化的必要性 例：求选修了课程Ｃ2的学生姓名   SELECT Student.Sname FROM Student, SC WHERE Student.Sno=SC.Sno AND SC.Cno='2'; An Introduction to Database System

An Introduction to Database System 查询优化的必要性（续） 假设1：外存： Student:1000条,SC:10000条, 选修2号课程:50条 假设2：一个内存块装元组:10个Student, 或100个SC, 内存中一次可以存放: 5块Student元组, 1块SC元组和若干块连接结果元组 假设3：读写速度：20块/秒 假设4：连接方法：基于数据块的嵌套循环法 An Introduction to Database System

An Introduction to Database System 执行策略1 Ｑ1＝ПSname(бStudent.Sno=SC.Sno ∧SC.Cno='2‘ (Student×SC))  ① Student×SC 读取总块数= 读Student表块数 + 读SC表遍数 *每遍块数  =1000/10+(1000/(10×5)) ×(10000/100) =100+20×100=2100 读数据时间=2100/20=105秒 An Introduction to Database System

An Introduction to Database System 中间结果大小 = 1000*10000 = 107 (1千万条元组) 写中间结果时间 = 10000000/10/20 = 50000秒  ②б 读数据时间 = 50000秒  ③П 总时间 =105＋50000＋50000秒 = 100105秒 = 27.8小时 An Introduction to Database System

An Introduction to Database System 查询优化的必要性（续） 2. Ｑ2＝ ПＳname(бSC.Cno=' 2' (Student SC))  ① 读取总块数= 2100块 读数据时间=2100/20=105秒 中间结果大小=10000 （减少1000倍） 写中间结果时间=10000/10/20=50秒  ②б 读数据时间=50秒  ③П  总时间＝105＋50＋50秒＝205秒=3.4分  An Introduction to Database System

An Introduction to Database System 查询优化的必要性（续） 3. Ｑ2＝ ПSname(Student бSC.Cno=' 2' (SC))  ①б 读SC表总块数= 10000/100=100块 读数据时间=100/20=5秒  中间结果大小=50条 不必写入外存  ② 读Student表总块数= 1000/10=100块 ③ П  总时间＝5＋5秒＝10秒 An Introduction to Database System

An Introduction to Database System 查询优化的必要性（续） 4. Ｑ2＝ ПＳname(Student бSC.Cno='2' (SC)) 假设SC表在Cno上有索引，Student表在Sno上有索引  ①б 读SC表索引= 读SC表总块数= 50/100<1块 读数据时间  中间结果大小=50条 不必写入外存 An Introduction to Database System

An Introduction to Database System 查询优化的必要性（续） ② 读Student表索引= 读Student表总块数= 50/10=5块 读数据时间 ③ П 总时间<10秒 An Introduction to Database System

An Introduction to Database System 4.2.3 查询优化的一般准则 选择运算应尽可能先做   目的：减小中间关系 在执行连接操作前对关系适当进行预处理 按连接属性排序 在连接属性上建立索引  投影运算和选择运算同时做 目的：避免重复扫描关系 将投影运算与其前面或后面的双目运算结合 目的：减少扫描关系的遍数 An Introduction to Database System

An Introduction to Database System 查询优化的一般准则 （续） 某些选择运算＋在其前面执行的笛卡尔积 ===> 连接运算 例：бStudent.Sno=SC.Sno (Student×SC)     Student SC 提取公共子表达式 An Introduction to Database System

An Introduction to Database System 4.2.4 关系代数等价变换规则 关系代数表达式等价 指用相同的关系代替两个表达式中相应的关系所得到的结果是相同的 上面的优化策略大部分都涉及到代数表达式的变换 An Introduction to Database System

An Introduction to Database System 常用的等价变换规则 设E1、E2等是关系代数表达式，F是条件表达式 l. 连接、笛卡尔积交换律 E1× E2≡ E2×E1 E1 E2≡E2 E1 E1 F E2≡E2 F E1 An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续）   2. 连接、笛卡尔积的结合律 (E1×E2) × E3 ≡ E1 × (E2×E3) (E1 E2) E3 ≡ E1 (E2 E3) (E1 E2) E3 ≡ E1 (E2 E3) F F F F An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续） 3. 投影的串接定律 π A1,A2, ,An(π B1,B2, ,Bm(E))≡ π A1,A2, ,An (E) 假设： 1) E是关系代数表达式 2) Ai(i=1，2，…，n), Bj(j=l，2，…，m)是属性名 3){A1, A2, …, An}构成{Bl，B2，…，Bm}的子集 An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续） 4. 选择的串接定律 бF1 （ б F2（E））≡ бF1∧ F2(E) 选择的串接律说明 选择条件可以合并 这样一次就可检查全部条件。 An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续） 5. 选择与投影的交换律 (1)假设: 选择条件F只涉及属性A1，…，An бF (πA1,A2, ,An (E))≡ πA1,A2, ,An(бF(E))   (2)假设: F中有不属于A1, …,An的属性B1,…,Bm π A1,A2, ,An ( бF (E))≡ πA1,A2, ,An(бF (πA1,A2, ,An,B1,B2, ,Bm(E))) An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续） 6. 选择与笛卡尔积的交换律 (1) 假设：F中涉及的属性都是E1中的属性 бF (E1×E2)≡бF (E1)×E2  (2) 假设：F=F1∧F2，并且F1只涉及E1中的属性， F2只涉及E2中的属性 则由上面的等价变换规则1，4，6可推出： бF(E1×E2) ≡б F1(E1)×бF2 (E2)  An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续） (3) 假设： F=F1∧F2， F1只涉及E1中的属性， F2涉及E1和E2两者的属性 бF(E1×E2)≡б F2(бF1(E1)×E2) 它使部分选择在笛卡尔积前先做 An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续） 7. 选择与并的交换 假设：E=E1∪E2，E1，E2有相同的属性名 бF(E1∪E2)≡ бF(E1)∪ бF(E2)   8. 选择与差运算的交换 假设：E1与E2有相同的属性名 бF(E1-E2)≡ бF(E1) - бF(E2) An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续） 9. 投影与笛卡尔积的交换 假设：E1和E2是两个关系表达式， A1，…，An是E1的属性， B1，…，Bm是E2的属性 π A1,A2, …,An,B1,B2, …,Bm （E1×E2)≡ π A1,A2, …,An（E1)× π B1,B2, …,Bm(E2) An Introduction to Database System

An Introduction to Database System 关系代数等价变换规则（续） l0. 投影与并的交换 假设：E1和E2 有相同的属性名 π A1,A2, …,An(E1∪E2)≡ π A1,A2, …,An(E1)∪ π A1,A2, …,An(E2) An Introduction to Database System

An Introduction to Database System 小结 1-2: 连接、笛卡尔积的交换律、结合律 3： 合并或分解投影运算 4： 合并或分解选择运算 5-8： 选择运算与其他运算交换 5，9，10： 投影运算与其他运算交换 An Introduction to Database System

An Introduction to Database System 4.2 关系系统的查询优化 4.2.1 查询优化概述 4.2.2 查询优化的必要性 4.2.3 查询优化的一般准则 4.2.4 关系代数等价变换规则 4.2.5 关系代数表达式的优化算法 4.2.6 优化的一般步骤 An Introduction to Database System

An Introduction to Database System 4.2.5 关系代数表达式的优化算法 算法：关系表达式的优化 输入：一个关系表达式的语法树。 输出：计算该表达式的程序。 方法： （1）分解选择运算 利用规则4把形如бF1 ∧F2 ∧ … ∧ Fn (E)变换为 бF1 (бF2(… (бFn(E))… )) An Introduction to Database System

An Introduction to Database System 关系代数表达式的优化算法 (续) （2）通过交换选择运算，将其尽可能移到叶端 对每一个选择，利用规则4～8尽可能把它移到树的叶端。   （3）通过交换投影运算，将其尽可能移到叶端 对每一个投影利用规则3，9，l0，5中的一般形式尽可能把它移向树的叶端。 An Introduction to Database System

An Introduction to Database System 关系代数表达式的优化算法 (续) （4）合并串接的选择和投影，以便能同时执行或在一次扫描中完成 利用规则3～5把选择和投影的串接合并成单个选择、单个投影或一个选择后跟一个投影。 使多个选择或投影能同时执行，或在一次扫描中全部完成 尽管这种变换似乎违背“投影尽可能早做”的原则，但这样做效率更高。 An Introduction to Database System

An Introduction to Database System 关系代数表达式的优化算法 (续) （5）对内结点分组 把上述得到的语法树的内节点分组。 每一双目运算(×， ，∪，-)和它所有的直接祖先为一组(这些直接祖先是б，π运算)。 如果其后代直到叶子全是单目运算，则也将它们并入该组，但当双目运算是笛卡尔积(×)，而且其后的选择不能与它结合为等值连接时除外。把这些单目运算单独分为一组。 An Introduction to Database System

An Introduction to Database System 关系代数表达式的优化算法 (续) （6）生成程序 生成一个程序，每组结点的计算是程序中的一步。 各步的顺序是任意的，只要保证任何一组的计算不会在它的后代组之前计算。 An Introduction to Database System

An Introduction to Database System 4.2 关系系统的查询优化 4.2.1 查询优化概述 4.2.2 查询优化的必要性 4.2.3 查询优化的一般准则 4.2.4 关系代数等价变换规则 4.2.5 关系代数表达式的优化算法 4.2.6 优化的一般步骤 An Introduction to Database System

An Introduction to Database System 4.2.6 优化的一般步骤 1．把查询转换成某种内部表示 2．代数优化：把语法树转换成标准（优化） 形式 3．物理优化：选择低层的存取路径 4．生成查询计划，选择代价最小的 An Introduction to Database System

An Introduction to Database System 优化的一般步骤 (续) （1）把查询转换成某种内部表示 例：求选修了课程Ｃ2的学生姓名 SELECT Student.Sname FROM Student, SC WHERE Student.Sno=SC.Sno AND SC.Cno='2'; An Introduction to Database System

语法树 （1）把查询转换成某种内部表示 结果 project(Sname) select(SC.Cno=2) join(Student.Sno=SC.Sno) Student SC An Introduction to Database System

An Introduction to Database System 关系代数语法树 πSname SC.Cno=’2’ Student.Sno=SC.S × Student SC An Introduction to Database System

An Introduction to Database System （2）代数优化 利用优化算法把语法树转换成标准（优化）形式   πSname Student.Sno=SC.Sno SC.Cno=2 × Student SC An Introduction to Database System

An Introduction to Database System （3）物理优化：选择低层的存取路径 - 优化器查找数据字典获得当前数据库状态信息 选择字段上是否有索引 连接的两个表是否有序 连接字段上是否有索引 然后根据一定的优化规则选择存取路径   如本例中若SC表上建有Cno的索引，则应该利用这个索引，而不必顺序扫描SC表。 An Introduction to Database System

An Introduction to Database System （4）生成查询计划，选择代价最小的 在作连接运算时，若两个表(设为R1，R2)均无序，连接属性上也没有索引，则可以有下面几种查询计划： 对两个表作排序预处理 对R1在连接属性上建索引 对R2在连接属性上建索引 在R1，R2的连接属性上均建索引 对不同的查询计划计算代价，选择代价最小的一个。 在计算代价时主要考虑磁盘读写的I/O数，内存CPU处理时间在粗略计算时可不考虑。 An Introduction to Database System

An Introduction to Database System 第四章 关系系统及其查询优化 4.1 关系系统 4.2 关系系统的查询优化 4.3 小结 An Introduction to Database System

An Introduction to Database System 4.3 小结 关系系统 关系系统的定义 一个数据库管理系统可定义为关系系统，当且仅当它至少支持： 1． 关系数据库（即关系数据结构） 2． 支持选择、投影和（自然）连接运算， 且不要求用户定义任何物理存取路径 An Introduction to Database System

An Introduction to Database System 小结 （续） 关系系统的分类 表式系统 (最小)关系系统 关系完备系统 全关系系统 An Introduction to Database System

An Introduction to Database System 小结 （续） 关系系统的查询优化   代数优化：关系代数表达式的优化 关系代数等价变换规则 关系代数表达式的优化算法 物理优化：存取路径和低层操作算法的选择 An Introduction to Database System