CMS网格的使用 张晓梅 2007.9.7.

Slides:



Advertisements
Similar presentations
Web Role 的每台虚机运行有 IIS ,用于处理 Web 请求 Worker Role 用于运行后台进程 Cloud Service 是什么? 支持多层架构的应用容器 由多个 Windows 虚拟机集群构成 集群有两种类型: Web 和 Worker Cloud Service 做什么 进行应用的自动化部署.
Advertisements

LSF系统介绍 张焕杰 中国科学技术大学网络信息中心
CHAPTER 9 虛擬記憶體管理 9.2 分頁需求 9.3 寫入時複製 9.4 分頁替換 9.5 欄的配置法則 9.6 輾轉現象
软件质量保证与测试 第2讲 软件测试的基本概念和方法
6 Copyright © Oracle Corporation, All rights reserved. 维护控制文件.
思科Oracle RAC解决方案 Starry Wu UCS -GC.
CATIA V5 Training CATIA V5 装配设计 Assembly Design.
share box user research finding
网格 及其应用的一些相关技术 高能所计算中心 于传松
第6章 資料庫管理系統 6-1 關聯式資料庫管理系統 6-2 SQL Server資料庫管理系統
台灣雲端運算應用實驗中心研發計畫 計 畫 期 間:自98年7月1日至99年6月30日止 執行單位名稱 :財團法人資訊工業策進會 國立中山大學.
第8章 系統架構.
HADOOP的高能物理分析平台 孙功星 高能物理研究所/计算中心
大数据在医疗行业的应用.
HDS 資料保護解決方案更新.
版本控制工具VSS.
3G时代的云计算 中国云计算专家委员会 刘鹏 中国网格: 中国云计算:
LSF系统介绍 张焕杰 中国科学技术大学网络信息中心
台灣大學計算機及資訊網路中心 教學研究組 張傑生
軟體原型 (Software Prototyping)
佐登妮斯大樓監控系統簡介 圓 泰 科 技 1.
如何促進即時路況資訊傳播以利導航應用產業發展
王耀聰 陳威宇 國家高速網路與計算中心(NCHC)
Working with Databases (II) 靜宜大學資管系 楊子青
Basis基本操作、使用者 管理與權限設定
軟體工程 -物件導向程式設計與UML系統分析實作
建置、升級與轉換您的資料庫 - Data Tier Applications
Chap 3 資料庫模型與處理架構.
中国散裂中子源小角谱仪 的实验数据格式与处理算法 报告人:张晟恺 中国科学院高能物理研究所 SCE 年8月18日
Cloud Computing(雲端運算) 技術的現況與應用
Isilon中国区技术经理 杨峰 虚拟天文台年会 存储技术交流 Isilon中国区技术经理 杨峰 Isilon Proprietary and Confidential.
Decision Support System (靜宜資管楊子青)
“荷蘭經營經驗” 座談會 流程問題經驗談
PHIHONG TECHNOLOGY CO.,LTD.
Zhihui Sun CC, IHEP 基于perfSONAR的高能物理网络性能监测平台研究与实现 Zhihui Sun CC, IHEP /12/2.
SAP 架構及基本操作 SAP前端軟體安裝與登入 Logical View of the SAP System SAP登入 IDES
SpringerLink 新平台介绍.
建國科技大學 資管系 饒瑞佶 2012/4 V1 2012/8 V2 2013/2 V3 2014/9 V4
Git & github By 宋正倫 (修訂by jmchen).
PubMed整合显示图书馆电子资源 医科院图书馆电子资源培训讲座.
Decision Support System (靜宜資管楊子青)
Towards Emotional Awareness in Software Development Teams
用event class 从input的root文件中,由DmpDataBuffer::ReadObject读取数据的问题
Unit 11.Operating System 11.1 What’s OS 11.2 Related Courses
SAP R/3架構及前端軟體安裝 Logical View of the R/3 System SAP Frontend 6.2安裝
成品检查报告 Inspection Report
高性能计算与天文技术联合实验室 智能与计算学部 天津大学
橫跨電腦、手機與軟體的全方位端點管控解決方案
中国科学技术大学计算机系 陈香兰 2013Fall 第七讲 存储器管理 中国科学技术大学计算机系 陈香兰 2013Fall.
虚 拟 仪 器 virtual instrument
第十二章 文件管理 (Chapter 5 File Management)
关于“十三五”规划的思考 水利部农村饮水安全中心 张汉松 2014年10月 昆明.
模式与实践:Windows Mobile 5.0应用程序架构
SpringerLink 新平台介绍.
The viewpoint (culture) [观点(文化)]
Outline Overview of this paper Motivation and Initialization
网格计算 计算中心 张晓梅 伍文静.
SAP 架構及基本操作 SAP前端軟體安裝與登入 Logical View of the SAP System SAP登入 IDES
TinyDB資料庫 靜宜大學資管系 楊子青.
Visual Basic程序设计 第13章 访问数据库
28th Weekly Operation Report on DIRAC Distributed Computing
11 Overview Cloud Computing 2012 NTHU. CS Che-Rung Lee
2017学考复习 信息管理(导引P37).
大亚湾实验离线数据处理 何苗 中国科学院高能物理研究所 2017年6月6日 中国科学院成都情报文献中心.
進行員工胸部X光 主講人:黃宜玟感控師 林新醫院
第6章 硬盘实用程序 GHOST 6.0 硬盘克隆(Clone)、硬盘分区拷贝工具
SAP 架構及前端軟體安裝 Logical View of the SAP System SAP Frontend 7.1安裝 SAP登入
第四章 UNIX文件系统.
陳昭珍 國立臺灣師範大學圖書資訊學研究所副教授
Presentation transcript:

CMS网格的使用 张晓梅 2007.9.7

content CMSSW软件版本的使用和统一 利用Dcap协议CMSSW直接使用SE(cmsse01.ihep.ac.cn)数据的方法 Phedex的使用介绍 CAS07 project and T2_Beijing

CMSSW版本使用的统一 意义: 做法: 鉴于CMSSW在本地的调试版本需要和网格上的运行版本保持一致,才能保证数据的正确运行 易于管理,作为CMS的T2_beijing站点,CMSSW可以有CMS统一的软件管理员定期地更新和安装 实现方便,采用NFS或AFS就可以实现CE和UI之间的共享 做法: 向CMS 软件管理员提出申请,保证实时的软件更新 在lcg003,cmssv01等UI和lcg002(CE)之间进行NFS文件系统共享 当前的共享目录为/opt/exp_soft/cms/slc3_ia32_gcc323/cms/cmssw,该目录的版本有CMSSW_1_2_0 CMSSW_1_2_1 CMSSW_1_2_2 CMSSW_1_2_3 CMSSW_1_2_4 CMSSW_1_2_6 CMSSW_1_3_0 CMSSW_1_3_1 CMSSW_1_3_2 CMSSW_1_3_3 CMSSW_1_4_0 CMS要求安装的1_5_x 以上版本运行在SLC4的worknode上,以后CMS VO的运行worknode的操作系统将更新成SLC4上

利用Dcap协议 CMSSW直接获取SE数据 Dcap协议是由SE系统Dcache (cmsse01)提供的local(局域网)数据读取协议. 意义: 大批量数据读取的需要 , 对于网格作业存放在SE上数据,特别是针对将来Phedex系统获取和存放在SE的大批量数据的读取 与CMSSW软件使用直接结合,操作方便。以前对SE操作,首先需要使用globus-url-copy命令将数据拷贝到本地,然后进行分析;现在可以直接对SE上的数据进行分析。 条件: 利用dcap协议,因此希望所运行的机器都装成UI(含有Dcap的客户端) 利用TFC(Trivial File Catalog)小型文件目录,简化dcap的写法

利用Dcap协议 CMSSW直接获取SE数据 使用以及实现 直接使用Dcap方式 source = PoolSource{ untracked vstring fileNames ={ 'dcap://cmsse01.ihep.ac.cn:22125/pnfs/ihep.ac.cn/data/cms/yangm/QCD/pt015/DataFEVT_1.root' } untracked int32 maxEvents = 10 } 利用TFC方式 untracked vstring fileNames ={ '/yangm/QCD/pt015/DataFEVT_18.root' } untracked string catalog ='trivialcatalog_file://home/zhangxm/cms/SITECONF/local/PhEDEx/storage.xml?protocol=dcap' Note: 该方法需要将storage.xml放置在指定的目录/home/zhangxm/cms/SITECONF/local/PhEDEx/storage.xml下

利用Dcap协议 CMSSW直接获取SE数据 -利用Site_local_config.xml和TFC方式结合 source = PoolSource{ untracked vstring fileNames ={ '/yangm/QCD/pt015/DataFEVT_1.root' } untracked int32 maxEvents = 10 } Note: 该方法需要将storage.xml放置在指定的目录/home/zhangxm/cms/SITECONF/local/PhEDEx/storage.xml下,而且需要将编辑好的Site_local_config.xml文件置于目录$CMT_PATH/SITECONF/local/JobConfig/下,在这里我们设置CMT_PATH为/home/zhangxm/cms。 Site_local_config.xml的作用:说明TFC(storage.xml)文件的所在。 Storage.xml的作用:简化Dcap协议的写法,用逻辑名代替复杂的dcap协议使用的物理名。

删除SE(cmsse01.ihep.ac.cn)目录的脚本SErmdir的用法 目的: 方便删除带有大量文件的目录,edg-gridftp-*命令的rmdir只提供删除空目录。 用法: SErmdir dir1 dir2 … Note:暂限于cmsse01.ihep.ac.cn;

Phedex 系统 The data placement and the file transfer system for the CMS experiment, controlling data transferring status, data subscription, data distribution etc and working well with DBS, DLS system. components: TMDB (Transfer management database) Agents (transferring agents and management agents…) Web monitoring tools User subscription web pages 高能所站点 T2_Beijing Chen guoming Site manager Zhang xiaomei Data manager

Phedex网页介绍 Instance: Production, Debug, Dev Parts: View Different instances for different activities Production for useful experiment data Debug for test data Parts: Data:各站点数据的存在,subscription, delete的状态 Request:用户提交申请,管理员批准申请以及各种申请的状态和信息 Activity: monitoring the transferring status Component: monitoring the site agents status View My:显示登录用户有关的信息 Global:全部的站点信息

使用Phedex进行数据申请 登录Phedex系统 预订所需要的数据 使用Hypernews帐号或SiteDB帐号登录,如果有CERN Unix Account,可以使用ssh hypernews.cern.ch登录获得Hypernews帐号 使用用户证书认证登录,在这种情况下需要向phedex系统管理员申请注册 一般用户申请第一种比较方便 预订所需要的数据 浏览数据 在phedex主页上栏目Data->Replicas 在DBS主页http://cmsdbs.cern.ch/DBS2_discovery上进行条件搜索浏览数据状况 预订所需数据 在phedex主页上栏目Requests->Create Request 直接点击数据item后的more->Create PhEDEx subscription ,例如: /tt4j/CMSSW_1_3_1-Spring07-1564/GEN-SIM-DIGI-RECO « more » 系统会以Email通知申请人以及本站点的DataManager 检查申请的情况 在phedex主页上栏目Requests->View Requests以及Requests->Request Details 所有的申请create以后都必须由该站点的DataManager来提交(subscribe),Requests->Administer Requests 则由DataManager来进行所有站点申请的管理

CAS07 activity Computing, Software, and Analysis challenge 2007 Goals: test all elements of the CMS computing model at greater than 50% of the target rate expected from low luminosity data taking Phedex(T2): Transfer data from a Tier-1 to any Tier-2 centers with 12 hour bursts between 20~200MB/s Transfer data from Tier-2 to the associated Tier-1 center at 10MB/s Demonstrate analysis processing at Tier-2 centers driven by user submissions As a cache storage, will subscribe and delete data with the changing needs of the physics users Simulate 50M events every month using the Tier2 centers 10%storage used for simulation Migrate to SLC4 and CMSSW1_6_0 The sites not upgraded will be used for simulation using CMSSW_1_4 for slc3

CSA07 activity T2 activities: Availability of SL4 Nodes Installation and Validation of CMSSW_1_5_x or CMSSW_1_6_x Created Load Test Sample Debug PhEDEx Agents Configured and Running At least one LoadTest07 Subscription from Tier-1 site in Debug At least one LoadTest07 Subscription to Tier-1 site in Debug DDT Commissioning of Download Link from at least one Tier-1 site >300GB/day for at least 4 days out 5 in a row Total transfer volume in excess of 1.7TB DDT Commissioning of Upload Link to at least one Tier-1 site Move at least one block of a CMSSW_1_5_x digi reco sample Successful Access of the sample with an analysis application through CRAB

The situation in T2_Beijing Update one work node on slc4 for CMS Shortage of CPU Other VOs is still on slc3 The SE disk space in T2_Beijing is 1TB 600GB Loadtest sample exported to T1 0GB Loadtest data from T1 200GB user data 200GB for production data from T1? Develop two links(In2p3, FNAL) 10.8 MB/s from FNAL 6.1MB/s from In2p3 To FNAL, In2p3 undergoing Any other links needed(PIC, RAL, CERN, ASGC, FZK, CNAF…)?