淘宝 商品库MySQL优化实践 QCon 2011 Beijing

Slides:



Advertisements
Similar presentations
高中新课程思想政治(必 修 1 、 2 )的教学体会 北京师大二附中 李文燕 2008 年西城新课程教师培训的讲稿.
Advertisements

《微型计算机技术 及应用》 ( 第 4 版) —— 戴梅萼 史嘉权. 目标 深刻理解 牢固掌握 灵活应用.
《饲料分析与质量检测技术》 说课 主讲教师:管建慧. 课程名称: 《饲料分析与饲料质量检测技术 》 课程编码:
2009/12/211 商務科技管理系 實 務 專 題 報 告 辦桌非難事 學生: 施雅雯 ( ) 張敬芝 ( ) 葉明臻 ( ) 黃怡琅 ( )
云时代的存储技术创新.
核心系统数据库组 褚霸 MySQL和IO(下) 核心系统数据库组 褚霸
成语乐园 成语乐园 执教老师:李道梅.
Information Resource Management
Microsoft Exchange 针对 EMC 存储的最佳做法和设计指导方针
厦门大学数据库实验室 刘颖杰 2014年11月15日 实习总结报告 厦门大学数据库实验室 刘颖杰 2014年11月15日.
北师大版义务教育课程标准实验教科书 七年级上册讲义 第17课 先进的科学技术.
軍用電腦科技趨勢與產業應用 全科科技 陳以昌.
MySQL数据库服务介绍 2013 年 6 月.
SequoiaDB安装部署 龙阳、高级工程师 广州巨杉软件开发有限公司
双十一数据库核心技术 淘宝网 李圣陶(刘昆).
华为2路机架服务器产品售前培训 作者:陈星颖/
Chap4 電腦硬體基本單元 高中資訊科技概論 松崗圖書公司.
2013华东数据库技术大会 人人网的SNS数据库架构与设计艺术 周彦伟
Please delete this page before you present to customer
第 6 章 安裝問題解疑.
2013华东数据库技术大会 MySQL5.6版InnoDB引擎深入剖析 演讲嘉宾:何登成
前言 1.课程安排: 第一章 操作系统引论(7学时) 第二章 进程管理(14学时) 第三章 处理机调度与死锁(10学时)
员工保险 雇主责任险 概要 员工发生工伤事故后产生的一系列赔偿责任
Foundations of Computer Science
第一章 信息与信息技术 1.2 日新月异的信息技术.
宝德 ---智能IT基础架构 宝德科技集团股份有限公司 解决方案部.
SA120/SAS112/NAS产品介绍 2013 LENOVO INTERNAL. All rights reserved.
Canal开源产品介绍 taobao.
第8章 机床操作 主讲:臧红彬 博士.
第四章 存储体系.
UClinux在3000平台上的移植.
计算机与信息技术应用基础 徐东雨 计算机中心
江西省专业技术人员 继续教育信息管理系统.
2012/11/12 Virtual Machine.
Linux操作系统 简介 周炯 上海艾基信息技术有限公司 Acegene IT Co. Ltd..
IP路由器.
网 站 设 计 与 建 设 Website design and developments
Hardware Chen Ching-Jung
Xen基础架构安全性分析 云朋
Linux的認識與使用 2013/01/05.
淘宝 商品库MySQL优化实践 QCon 2011 Beijing
Alibaba 数据库高可用架构 Alibaba
溪洲資訊業務分享 預算、管理、技術.
淘宝核心系统数据库组 褚霸 /06/25 大话SSD 淘宝核心系统数据库组 褚霸 /06/25.
綠色環保與虛擬環境 講解人:.
NEC Express5800 Fault Tolerant Server Introduction
TPC-C标准及实验平台.
ThinkServer RD540/RD640 新品品鉴
淘宝核心系统数据库组 余锋 利用新硬件提升数据库性能 淘宝核心系统数据库组 余锋
基于压缩算法的tile64多核处理器性能研究
資料來源:張弘明 張迪安 林欣螢 吳柏農 吳沛錡
Pure Storage設備 雲端桌面系統 評估測試與經驗分享
CH.8 硬體管理.
浅谈MySql索引及锁的应用 厦门大学数据库实验室 刘颖杰 2014年3月8日.
第2章 Linux概述 2.1 操作系统的功能和分类 2.2 Linux操作系统概述 2.3 Linux的应用现状与前景
網路資源的建立--LINUX系統 國立東華大學電算中心 陳鴻彬.
中国科学技术大学计算机系 陈香兰(0512- ) Spring 2011
LSI 引领服务器进入SAS时代 陆 峰 LSI存储元器件客户经理.
CascaDB/TokuDB性能与适用场景分享
An Introduction to Cloud RDBMS
第四章 存储器管理 4.1 存储器的层次结构 4.2 程序的装入和链接 4.3 连续分配方式 4.4 基本分页存储管理方式
国家“十一五”规划教材 数据库原理与应用教程(第3版).
计算机系统结构(2012年春) ----存储层次: Cache基本概念
微机原理与接口技术 ——第三章 80x86微处理器 西安邮电大学 计算机学院 范琳.
核心系统数据库组 了解应用服务器 核心系统数据库组
----以《西北民族音乐学术资源数据库》为例 西安音乐学院 景 月 亲
课程介绍 1、嵌入式系统开发先序课程; 2、共32+8课时: 3、本期采用混合式教学成绩计算方式:
服务器迁移工具介绍 2018/8.
县级支中心 乡镇基层服务点的建设 朱 庆 华.
天翼云3.0产品介绍 2018/4/24.
Presentation transcript:

淘宝 商品库MySQL优化实践 QCon 2011 Beijing  核心系统数据库组  余锋(褚霸) http://yufeng.info 2011/04/08

Agenda 商品库项目背景介绍以及约束 技术要求和方案 性能保证 安全性保证 运维保证 优化成果 交流时间  

商品库(单机,测试)情况 无复杂查询,离散度高 记录数:1亿条键值对 记录大小:100字节 数据文件:170G 记录大小:100字节  数据文件:170G 访问热点情况:20%的键占用55%的访问量 键读写比例: 10:1  

硬件选择 主机: Dell; PowerEdge C2100; 处理器: physical = 2, cores = 12, virtual = 24  内存: 96 G  RAID卡:LSI MegaSAS 9260/512MB Memory PCI-E Flash卡: Fusion-io ioDrive 320GB/MLC  硬盘: SEAGATE ST3300657SS  300G x 12 

软件选择 发行版: Red Hat Enterprise Linux Server release 5.4 内核: Kernel | 2.6.18-164.el5  文件系统:Ext3  Flashcache: FB内部版本  MySQL 版本:  5.1.48-log Source 

Agenda 商品库项目背景介绍以及约束 技术要求和方案 性能保证 安全性保证 运维保证 优化成果 交流时间

商品库技术要求 高可用,安全第一  高性能,性能平稳,性价比高  控制运维风险  

技术方案 MySQL数据库集群,数据水平切割,主从备份 采用高性价比PC服务器,大内存,强劲CPU 采用高性能PCI-E Flash卡作为cache,  提高系统的IO性能  充分利用系统各部件的cache, 大胆采用新技术  充分考虑容灾,在各个层面考虑数据的安全性

系统资源规划 内存分配: MySQL InnoDB buffer pool OS pagecache 驱动程序 IO能力分配:   IO能力分配: 读能力,零散读,提高IOPS 写能力,集中写,提高吞吐量 Cache分配: MySQL内部cache 匿名页面/文件页面 Flashcache 混合存储 Raid卡内部cache

调优指导思想 杜绝拍脑袋,理论(源码)指导+精确测量+效果验证 内存为王 数据访问规律导向,随机数据和顺序数据尽量分离 尽量提高IO的利用率,减少无谓的IO能力浪费 在安全性的前提下,尽可能的利用好系统各个层次cache  

调优工具 源码+emacs+大脑 必备工具 systemtap oprofile latencytop blktrace/btt/seekwatcher aspersa tcprstat sar gdb  自制工具 bash脚本 gnuplot脚本      

Agenda 商品库项目背景介绍以及约束 技术要求和方案 性能保证 安全性保证 运维保证 优化成果 交流时间

MySQL数据库 考虑因素: 主从备份带来的性能影响 复杂数据查询操作是否需要预留内存以及上限  考虑因素: 主从备份带来的性能影响 复杂数据查询操作是否需要预留内存以及上限 数据备份dump对系统的影响,避免系统swap 开启binlog带来的性能开销  限制最大链接数   ############################# max_binlog_cache_size=2G max_binlog_size = 500M max_connections = 1020 max_user_connections=1000 query_cache_size = 30M

InnoDB引擎 考虑因素: 尽可能大的BP(buffer pool) 日志和数据分设备存储 离散数据走direct-IO,顺序日志走buffered-IO 减少脏页的同步,提高命中率 减少锁对多核CPU性能的影响  提高底层存储默认的IO能力   #############################  innodb_buffer_pool_size = 72G innodb_flush_method = O_DIRECT innodb_sync_spin_loops=0 innodb_log_group_home_dir = /u02/ innodb_io_capacity=2000 innodb_thread_concurrency = 64

高速页缓存 考虑因素: page资源倾斜给数据库, 尽量不浪费,兼顾临时内存申请 避免NUMA架构带来的zone内存分配不均而导致的swap现象 cache大部分由InnoDB日志产生,适时清除,限制page数量   ############################# # numactl --interleave=all mysqld # sysctl vm.drop_caches = 1 vm.swappiness = 0 vm.dirty_ratio = ? vm.dirty_background_ratio =? vm.pagecache = ?

文件系统 考虑因素(选择): Ext3/4 Xfs 考虑因素(配置): 减少元数据变化产生的IO 对混合存储系统友好 关闭barrier   考虑因素(配置): 减少元数据变化产生的IO 对混合存储系统友好 关闭barrier #############################  /dev/mapper/cachedev  (rw,noatime,nodiratime,barrier=0) /u01  /dev/sda12                     (rw,barrier=0)                               /u02

IO调度 考虑因素: 调度算法对减少磁头移动的效果 关闭预读 设备队列长度 #############################   ############################# sda | [deadline]  128 sdb | [deadline]  128

混合存储(Flashcache) 考虑因素 结合磁盘的大容量,PCI-E Flash卡的高随机读写性能优点 减少同步次数,保留磁盘的IO能力 适时同步数据,减少安全风险   ############################# dev.flashcache.dirty_thresh_pct = 90 dev.flashcache.cache_all = 0 dev.flashcache.fast_remove = 1 dev.flashcache.reclaim_policy = 1

Raid卡 考虑因素: 逻辑分卷 Cache使用写优先,读少分配(数据无相关性效果不好) 数据安全和raid level 少预读   #############################  Controller |  LSI Logic / Symbios Logic LSI MegaSAS 9260 (rev 03)          Model | LSI MegaRAID SAS 9260-8i, PCIE interface, 8 ports        Cache | 512MB Memory, BBU Present          BBU | 95% Charged, Temperature 28C, isSOHGood=     VirtualDev Size      RAID Level Disks SpnDpth Stripe Status  Cache   0(no name) 278.875 GB 1 (1-0-0)      2     1-1     64 Optimal WB, RA   1(no name) 1.361 TB  1 (1-0-0)      2     5-5     64 Optimal WB, RA

存储设备驱动 考虑因素: 减少IO的抖动,提高IOPS 提高寿命 关闭或减少预读 #############################   ############################# PCI-E Flash卡驱动: $cat /etc/modprobe.d/iomemory-vsl.conf   options iomemory-vsl use_workqueue=0 options iomemory-vsl disable-msi=0 options iomemory-vsl use_large_pcie_rx_buffer=1

性能保证小结 解决IO瓶颈: 高速PCI-E Flash卡做Cache,读写速度可达800/500M 10 x SAS 300G 存放离散度高数据文件 2 x SAS 300G 存放顺序binlog和trx日志 控制数据库脏页面的刷新频率和强度 优化操作系统的pagecache,资源倾斜, 杜绝swap发生 优化文件系统减少meta数据的产生,以及写入延迟 优化IO调度器和预读 开启raid卡的读写cache 优化设备驱动,适应高强度的读写请求,减少jitter   解决CPU瓶颈: 业务上优化掉复杂查询 优化自旋锁     

Agenda 商品库项目背景介绍以及约束 技术要求和方案 性能保证 安全性保证 运维保证 优化成果 交流时间

安全性保证概要 Raid卡带Flash,掉电保护,raid level10防止磁盘损害 PCI-E卡自身有日志系统,恢复时间最差10分钟 Ext3文件系统带日志保护 Flashcache上的cache数据最多24小时都会同步到SAS盘 数据库Innodb引擎本身有redo日志,数据安全校验,高级别日志同步 MySQL主从备份 商品库应用方有事务日志

Agenda 商品库项目背景介绍以及约束 技术要求和方案 性能保证 安全性保证 运维保证 优化成果 交流时间

运维保证概要 数据预热: 支持热点数据每秒150M从磁盘直接加载到混合存储 数据库重新启动,无需重新预热 数据库DDL 操作:   数据库DDL 操作: 控制数据表的大小,让DDL时间可接受 减少DDL对性能的冲击 混合存储cache: 通过设置白名单,减少诸如备份操作对cache的干扰 混合存储cache可管理                    

Agenda 商品库项目背景介绍以及约束 技术要求和方案 性能保证 安全性保证 运维保证 优化成果 交流时间

优化成果 充足的容量规划,可对抗突增业务,满足未来几年业务增长 系统总体运行平稳,系统负载CPU util <50%,磁盘 util <10%,PCI-E Flash卡 util < 20%  QPS/36000,其中读/32800,写/3200  请求平均延时时间:260微秒(包括网络时间) 掉电和操作系统失效的情况下,数据无丢失 第一次预热时间半个小时以内,之后只需几分钟

Agenda 商品库项目背景介绍以及约束 技术要求和方案 性能保证 安全性保证 运维保证 优化成果 交流时间

谢谢!   Talents wanted! 联络:chuba@taobao.com