愚公客户端介绍 七锋 @ taobao.

Slides:



Advertisements
Similar presentations
南台資管同學進入職場應有的技能與心態
Advertisements

第六 章数据库访问页 6.1 数据访问页视图 6.2 创建数据访问页 6.3 编辑数据访问页 6.4 查看数据访问页 退出.
C语言程序设计 李伟光.
我征服了黃山 林達的黃山之旅 2006春.
教學經驗分享 吳毅成 國立交通大學資訊工程系 2012年4月.
6 Copyright © Oracle Corporation, All rights reserved. 维护控制文件.
  中国技术交易信息服务平台 中国技术市场管理促进中心.
資料庫系統 曾俊雄.
战争结束了 年11月,听到停战的消息,巴黎街头人们欣喜若狂。法国总理克里孟梭说:“吻我的姑娘有500多个了。”
我的未来不是梦 参赛者——陈艳祥.
第一章信託法 第一節 信託契約 第二節 信託財產 第三節 受益人 第四節 受託人 第五節 信託關係之消滅.
第九章日治時期的台灣(下).
(第11讲) Mysql 简介和创建新的数据库 本讲大纲: 1、MYSQL简介与概要 2、访问MYSQL的几种途径
数据库概述 简而言之,数据库(DataBase)就是一个存储数据的仓库。为了方便数据的存储和管理,它将数据按照特定的规律存储在磁盘上。通过数据库管理系统,可以有效的组织和管理存储在数据库中的数据。如今,已经存在了Oracle、SQL Server、MySQL等诸多优秀的数据库。在这一章中将讲解的内容包括。
如何做好財金人職涯規劃 演講者:張志豐
第三章 数据类型和数据操作 对海量数据进行有效的处理、存储和管理 3.1 数据类型 数据源 数据量 数据结构
Canal开源产品介绍 taobao.
Oracle数据库 Oracle 子程序.
這樣做 便便天天順.
在PHP和MYSQL中实现完美的中文显示
J2EE与中间件技术 ——Lab.
Hadoop I/O By ShiChaojie.
管理信息结构SMI.
IT工程师就业职位优选
案例—某网上书店系统设计.
第十章 IDL访问数据库 10.1 数据库与数据库访问 1、数据库 数据库中数据的组织由低到高分为四级:字段、记录、表、数据库四种。
第17章 网站发布.
产品介绍 MF825C 产品类型:上网卡 建议零售价格:599元 上市时间: 2014年 2 月20日 目标人群:商务人士、白领、IT潮人
第二章 Java语言基础.
逆向工程-汇编语言
数据挖掘工具性能比较.
厂商—型号 海尔-PAD002 外观设计 建议零售价格:2999元 上市时间:2011年3月 目标人群:有移动互联需求的商务人士
PaPaPa项目架构 By:Listen 我在这.
IDB-阿里集团数据库服务平台 叶正盛(斗佛)
程序设计工具实习 Software Program Tool
SOA – Experiment 2: Query Classification Web Service
从zval看PHP变量
新一代安全网上银行 小组成员:杨志明 王晶 任毅 刘建中 关昊 刘超.
简单介绍 用C++实现简单的模板数据结构 ArrayList(数组, 类似std::vector)
学习目标 1、什么是字符集 2、字符集四个级别 3、如何选择字符集.
3.2 Mysql 命令行 1 查看数据库 SHOW DATABASES; 2 创建一个数据库test1 CREATE DATABASE test1; 3 选择你所创建的数据库 USE test1; (按回车键出现Database changed 时说明操作成功!) 4 查看现在的数据库中存在什么表.
SQL 范引娣.
VisComposer 2019/4/17.
商业分析平台-语义元数据 用友集团技术中心 边传猛 2013年 11月 06日.
产品介绍 TOPOLF-T198 产品类型:4G MIFI 建议零售价格:699元 上市时间: 2015年1月 目标人群:差旅人士
VB与Access数据库的连接.
Cassandra应用及高性能客户端 董亚军 来自Newegg-NESC.
计算机网络与网页制作 Chapter 07:Dreamweaver CS5入门
Web安全基础教程
ES 索引入门
Thomson-252G 外观设计 上市时间:2011年1月 目标人群:普通消者,行业用户费 标准配置:一电一充\耳机\数据线\DC充电器
JSP实用教程 清华大学出版社 第2章 JSP运行环境和开发环境 教学目标 教学重点 教学过程 2019年5月7日.
厂商:Pamafone 型号:Pamafone X2
智慧財產權宣導 ● 仿冒品篇 ●.
厂商—型号 产品类型:创新终端 产品名称:科大讯飞-晓译翻译机 建议零售价格:2999元 上市时间:2017年3月
iReader R6003 外观设计 产品类型:电子书阅读器 建议零售价格:958元 上市时间:2017 年 6 月
Visual Basic程序设计 第13章 访问数据库
郑 昀 应用开发事业部 神州泰岳 SIP多方会话消息 之实例讲解 郑 昀 应用开发事业部 神州泰岳
学习目标 1、了解基本运算符 2、运算符优先级.
GIS基本功能 数据存储 与管理 数据采集 数据处理 与编辑 空间查询 空间查询 GIS能做什么? 与分析 叠加分析 缓冲区分析 网络分析
第六讲 SQL语言之数据定义 第三讲 SQL Server 2000 数据库技术.
第六章 Excel的应用 五、EXCEL的数据库功能 1、Excel的数据库及其结构 2、Excel下的数据排序 (1)Excel的字段名行
基于列存储的RDF数据管理 朱敏
方格紙上畫正方形.
VB与Access数据库的连接.
使用ADO访问数据库 李宝智 BonizLee 课程 10564A
iReader R6006 外观设计 产品类型:电子书阅读器 建议零售价格:1058元 上市时间:2018 年 4月
学习目标 1、使用Mysql Workbench修改表
----以《西北民族音乐学术资源数据库》为例 西安音乐学院 景 月 亲
学习目标 1、什么是列类型 2、列类型之数值类型.
Presentation transcript:

愚公客户端介绍 七锋 @ taobao

Agenda 1. 基本介绍 2. 实例演示

愚公介绍 名称: yugong 译意: 愚公 语言: 纯java开发 定位:数据库迁移 (目前主要支持oracle2mysql)

愚公架构 Jvm Container instance extractor translator applier 一个Jvm Container对应多个instance,每个instance对应于一张表的迁移任务 每个instance分为三部分 extractor (从源数据库上提取数据,可分为全量/增量实现) translator (将源库上的数据按照目标库的需求进行自定义转化) applier (将数据更新到目标库,可分为全量/增量/对比的实现)

愚公架构 全量+增量任务 (减少复杂度) JDBC协议 (解决环境兼容性) oracle物化视图 (解决记录增量日志) 全量+增量任务 (减少复杂度) JDBC协议 (解决环境兼容性) oracle物化视图 (解决记录增量日志) 引入translator扩展 (解决异构数据转化)

支持的功能 Oracle -> Mysql Oracle -> Oracle 异构功能支持: 编码不同 库名/表名不同 字段名字不同 字段类型不同 字段个数不同(多几个,少几个)

迁移流程

使用限制 数据库权限 增量同步不支持主键变更 源和目标类型不兼容时需要自定义转换逻辑 增量同步对oracle库压力 基本CRUD,物化视图操作等 增量同步不支持主键变更 需要先delete,后insert 源和目标类型不兼容时需要自定义转换逻辑 源库为number,目标库varchar不支持, 目标为int/decimal可自动处理 增量同步对oracle库压力 物化视图和回表查询都会对源库产生比较大的影响

迁移例子

迁移例子(translator实现)

常见的问题 主键约束 业务自定义translator (需要case by case) a. oracle区分数据大小写,比如原oracle主键为hello和Hello,会认为是两个主键,而同步到mysql之后(不区分大小写,比如COLLATE utf8_general_ci),会出现主键冲突. b. oracle主键数据不删除末尾空格,同步到mysql之后(会删除字符串的末尾空格),会出现主键冲突. 业务自定义translator (需要case by case)

最后 Q & A