虚拟太阳天文台(VSO)技术回顾 林钢华 国家天文台.

Slides:



Advertisements
Similar presentations
高级服务器设计和实现 1 —— 基础与进阶 余锋
Advertisements

计算机网络课程总结 一、计算机网络基础 计算机网络定义和功能、基本组成 OSI/RM参考模型(各层的功能,相关概念, 模型中数据传输 等)
LSF系统介绍 张焕杰 中国科学技术大学网络信息中心
公务员管理子系统建设步骤 1、组建由局长直接领导的体制,制定公务员管理、工资管理、其他业务用户的管理权限,以及各业务间的协作流程。
第三章 数据类型和数据操作 对海量数据进行有效的处理、存储和管理 3.1 数据类型 数据源 数据量 数据结构
实用操作系统概念 张惠娟 副教授 1.
Oracle数据库 Oracle 子程序.
在PHP和MYSQL中实现完美的中文显示
Kvm异步缺页中断 浙江大学计算机体系结构实验室 徐浩.
LSF系统介绍 张焕杰 中国科学技术大学网络信息中心
Hadoop I/O By ShiChaojie.
SVN的基本概念 柳峰
Chinese Virtual Observatory
R in Enterprise Environment 企业环境中的R
从现在做起 彻底改变你自己 Sanjay Mirchandani EMC公司高级副总裁、首席信息官.
存储系统.
SOA – Experiment 3: Web Services Composition Challenge
李杰 首都经济贸易大学 安全与环境工程学院 个人主页:
SVN服务器的搭建(Windows) 柳峰
管理信息结构SMI.
SQL Injection.
第11章:一些著名开源软件介绍 第12章:服务安装和配置 本章教学目标: 了解当前一些应用最广泛的开源软件项目 搭建一个网站服务器
第一单元 初识C程序与C程序开发平台搭建 ---观其大略
Windows网络操作系统管理 ——Windows Server 2008 R2.
第十章 IDL访问数据库 10.1 数据库与数据库访问 1、数据库 数据库中数据的组织由低到高分为四级:字段、记录、表、数据库四种。
以ISI平台为例,为您演示一下如何在Endnote文献中查看该文献的References
第17章 网站发布.
《手把手教你学STM32》 主讲人 :正点原子团队 硬件平台:正点原子STM32开发板 版权所有:广州市星翼电子科技有限公司 淘宝店铺:
数据挖掘工具性能比较.
PaPaPa项目架构 By:Listen 我在这.
ENS 10.1安装配置指南 王俊涛 | SE.
中国科学技术大学计算机系 陈香兰(0551- ) Spring 2009
DevDays ’99 The aim of this mission is knowledge..
任务1-3 使用Dreamweaver创建ASP网页
宁波市高校慕课联盟课程 与 进行交互 Linux 系统管理.
程序设计工具实习 Software Program Tool
SOA – Experiment 2: Query Classification Web Service
C语言程序设计 主讲教师:陆幼利.
简单介绍 用C++实现简单的模板数据结构 ArrayList(数组, 类似std::vector)
微机系统的组成.
第四章 团队音乐会序幕: 团队协作平台的快速创建
2019/4/16 关注NE官方微信,获取更多服务.
VisComposer 2019/4/17.
商业分析平台-语义元数据 用友集团技术中心 边传猛 2013年 11月 06日.
VB与Access数据库的连接.
Cassandra应用及高性能客户端 董亚军 来自Newegg-NESC.
实验七 安全FTP服务器实验 2019/4/28.
计算机网络与网页制作 Chapter 07:Dreamweaver CS5入门
Web安全基础教程
成绩是怎么算出来的? 16级第一学期半期考试成绩 班级 姓名 语文 数学 英语 政治 历史 地理 物理 化学 生物 总分 1 张三1 115
解决“最后1公里”问题.
iSIGHT 基本培训 使用 Excel的栅栏问题
魏新宇 MATLAB/Simulink 与控制系统仿真 魏新宇
Touch Github = Touch the World
郑 昀 应用开发事业部 神州泰岳 SIP多方会话消息 之实例讲解 郑 昀 应用开发事业部 神州泰岳
海报题目 简介: 介绍此项仿真工作的目标和需要解决的问题。 可以添加合适的图片。
GIS基本功能 数据存储 与管理 数据采集 数据处理 与编辑 空间查询 空间查询 GIS能做什么? 与分析 叠加分析 缓冲区分析 网络分析
Google的云计算 分布式锁服务Chubby.
基于列存储的RDF数据管理 朱敏
Chinese Virtual Observatory
VB与Access数据库的连接.
3.8 局域网应用实例 某省劳动和社会保障网络中心组网实例 会议中心的无线组网实例.
第8章 创建与使用图块 将一个或多个单一的实体对象整合为一个对象,这个对象就是图块。图块中的各实体可以具有各自的图层、线性、颜色等特征。在应用时,图块作为一个独立的、完整的对象进行操作,可以根据需要按一定比例和角度将图块插入到需要的位置。 2019/6/30.
第十七讲 密码执行(1).
FVX1100介绍 法视特(上海)图像科技有限公司 施 俊.
第六讲 酒店客房管理系统(二) 教育部“十二五”职业教育国家规划教材
入侵检测技术 大连理工大学软件学院 毕玲.
§2 自由代数 定义19.7:设X是集合,G是一个T-代数,为X到G的函数,若对每个T-代数A和X到A的函数,都存在唯一的G到A的同态映射,使得=,则称G(更严格的说是(G,))是生成集X上的自由T-代数。X中的元素称为生成元。 A变, 变 变, 也变 对给定的 和A,是唯一的.
IT 方法 INTOSAI IT 审计培训.
海报题目 简介: 介绍此项仿真工作的目标和需要解决的问题。 可以添加合适的图片。
Presentation transcript:

虚拟太阳天文台(VSO)技术回顾 林钢华 国家天文台

报告内容 一、虚拟太阳天文台的提出; 二、建立虚拟太阳天文台要解决的技术 问题; 三、虚拟太阳天文台的体系结构; 四、VSO的可扩展性; 二、建立虚拟太阳天文台要解决的技术 问题; 三、虚拟太阳天文台的体系结构; 四、VSO的可扩展性; 五、采用的技术; 六、VSO今后的发展。

一、虚拟太阳天文台的提出 虚拟天文台由科学驱动而产生,基于计算机技术、网络技术的发展而得以发展。 在1998年卡波迪蒙蒂瓷的天文台的Kevin Reardon提出:太阳活动周期变化的详细研究需要分析横跨多年的观测记录,还要使用标准协议将多个单独维护的数据库无缝地连接起来,实现跨多个档案的复杂检索;

一、虚拟太阳天文台的提出 1998年意大利8个天文台和研究所的天文工作者提出“全部太阳数据目录”(WSC:the Whole Sun Catalog)项目:WSC 将有效连接遍布世界的可用太阳档案。 WSC通过已提供的单个太阳档案,简化执行检索的任务和扩展科学家的查询范围,WSC使这种可能性极大地增加。其中Roudier指出1995年时仅在欧洲就列出了几十个可用的数据库,显而易见,访问这几十个数据库是一个耗费时间的任务,并且这个任务几乎不可能完成 。提出WCS项目,就是为了生成太阳天文台的数据目录,解决这样广泛查询的困难;

一、虚拟太阳天文台的提出 1997年Sanchez-Duarte等首先提出了结合太阳档案成为一个统一系统的思想; 1998 年Dimitoglou等进一步讨论了这一思想; 由前期发展而演化为VSO的项目还有JOSO(the Joint Organization for Solar Observation)、SOLAR(SOHO Long_term Archive)、ARTHEMIS、BASS2000。 1998年美国国家研究委员会关于地基太阳研究的空间研究理事会组织了关于数据档案及其挖掘对于太阳研究团体重要性的讨论,并推荐:“开发一个由NSF和NASA合作支持的通过WWW访问的分布数据档案”。之后美国国家研究委员会天文学天体物理调查委员会郑重签署了把国家虚拟天文台作为顶级优先的小型项目启动协议。国家虚拟天文台(NVO:National Virtual Observatories)是一个夜间天文学上与VSO的相似项目,代表了在交叉相关研究中天文团体日益增长的兴趣。

一、虚拟太阳天文台的提出 2001年7月NASA空间科学日地结合部举行了两年一次的运作使命和数据中心的回顾会议,太阳数据分析中心(SDAC)也包括在此次会议内。这次会上对VSO提出了研究、原型、开发方面的经费预算。在此基础上,2002年11月由美国斯坦福大学、国家太阳天文台、蒙大纳州州立大学和太阳数据中心组成的VSO研究组发布了虚拟太阳天文台设计协议书,此书中给出了VSO的体系结构、组织结构、特性、技术方法、首批参加此项目的成员、经费分配、项目运作时间表等问题的描述。至此VSO项目正式起动。

二、建立虚拟太阳天文台要解决的技术问题 搜索和证认的可视化; 形成多种可能的搜索; 标准化查询形成方法; 标准化数据服务信息; 包括元数据标准和统一的数据模型; 能传送数据或至少指向数据源; 能吸收新数据源; 进一步还有:软件和文献资源;查询登记;分布式处理;证认服务。

三、虚拟天太阳文台的体系结构 如由美国四所天文单位牵头的VSO体系结构; 由欧洲联盟提出的EGSO(European Grid of Solar Observations 欧洲网格太阳天文台)体系结构; CoSEC (Collaborative Sun Earth Connector 协作式日地连接器) 体系结构

二、虚拟太阳天文台的体系结构

三、虚拟天太阳文台的体系结构 VSO的简化体系结构如图所示,它主要由图中所示6部分组成: 3.VSO实例。它是VSO核心,用来处理用户查询,确定到哪一个站点去查询数据并将数据返回; 4.中心服务器。它用来记录搜索的重复性和属性(是谁做了哪些查询);它也记录下各个数据提供者提供的可用数据和数据更新; 5.数据提供者。它是实际执行数据查询所在地;

三、虚拟太阳天文台的体系结构 6.数据要求和返回。用户通过数据提供者提供的工具直接检索数据,或者通过使用智能VSO代理,它向(那些)数据提供者询问数据的可用性,并将询问结果集中起来,用电子邮件将这些结果通知用户,如:在什么地点什么时间数据是可用的。几个单位已在不同站点从多种数据服务方面测试了这一体系结构的可用性。

四、VSO的可扩展性 VSO体系结构的成功开发增加了基础系统体系结构在处理分布式系统的扩展性和容错性方面的能力。 这种扩展性体现在数据提供者方面,它由原来的几个天文台扩展到全美国、乃至全世界;可以精细化数据模型;可以增加其它服务,如联接更为典型的分布式处理项目,如CoSEC、EGSO等; 体现在用户方面,将由单一类型用户和界面扩展到多种类型用户和界面;

四、VSO的可扩展性 容错性能则体现在:这个系统的全部体系结构受到那些不同数据仓库(它们是不具有共享能力的普通数据集)的影响,当增加新数据提供者或新搜索能力时,返回有用结果的时间不应随着它们的增加而线性增加,在原型开发中,开发者小心地识别并孤立出那些慢的或无反应的数据仓库,使它们不影响VSO搜索的整体质量。对这种额外的复杂性的处理使搜索者集中精力于搜索目标上而不是使用的工具上。

五、采用的技术 — XML 采用了XML(可扩展标记语言)。 它的自描述性使其非常适用于不同应用间的数据交换,这种交换不以预先规定一组数据结构定义为前提。 VSO使用它作为文档中识别结构的一种机制。如数据提供方的元数据采用XML定义并存储;在关系数据库中提供了XML视图,这样可实现基于XML的检索,实现XML视图和关系数据库之间的映射;采用XML进行数据交换,VSO中的注册项就是根据数据模型的定义用XML来描述的。

五、采用的技术—WEB服务 WEB服务。它是网络上可用的服务,标准化的XML消息,它独立于操作系统和编程语言;它建立在如下协议堆栈基础上: 发现 UDDI 描述 WSDL XML 消息 XML-RPC,SOAP 传输 HTTP,SMTP,FTP Internet IPv4, IPv6 在VSO中使用它以应用为中心替代了以人为中心(POST/GET)的特性;及它的Web自动化特性:如服务描述,服务注册。

五、采用的技术— SOAP SOAP(Simple Object Access Protocol 简单对象访问协议)的应用。 它是RPC(远程过程调用)机制,它用HTTP进行传输,客户和服务器之间的消息是以XML编写的。 虚拟太阳天文台的目的就是整合分布的不同的数据档案成为一个看似集中的虚拟的数据集合去提供通用的搜索和传递服务。VSO使用SOAP来实现这一目的。SOAP即可用于服务器端也可用于客户端。 SOAP正是在松散的联合和动态的集成之间建立的无缝跨平台互操作的协议,SOAP和XML也正是WEB服务中最为适合的消息交换协议。VSO使用Perl的SOAP::Lite模块,提供数据访问与操作系统平台的无关性。(其实使用Java的Axis:模块,或C/C++的gSOAP:模块也都是可以的,因为Java和C/C++都支持SOAP。)

五、采用的技术— SOAP SOAP是网络胶合剂,它使VSO和数据提供者通话,还能使VSO和其他虚拟天文台项目如EGSO、CoSEC结合。(SOAP分布服务器通过SOAP协议和每一个VSO实例通讯.)。其中SOAP::Lite模块是API的关键所在。 SOAP具有错误处理机制,如超时处理,对标准的和自行定制的错误原因进行处理。 在VSO使用SOAP的基础上,就要上天的空间望远镜如:STEREO、Solar-B、SDO,获取的数据也将采用基于SOAP的技术提供用户使用

五、采用的技术--DM 数据模型(DM):定义了一个统一的全世界范围的视图,因此解除了任何数据提供方在数据方面的特性。它尽可能全面而完整的定义了数据查询时可能给出的查询项目及其值。 它用于描述任何数据提供者站点的数据集,使其与资源注册中的一致,也使得元数据按照DM组织。用户查询及结果返回都以DM的术语表示,在VSO各个部分编程实现中,都以此DM作为内部数据结构。

五、采用的技术--DM 转换:数据存储不需要按照DM进行,但在查询提出时,需要有一个从VSO DM 到数据提供方数据规范的转换,在查询结果得到时,需要有一个从数据提供方数据规范到VSO DM的转换。数据模型中的名字使用了更多的惯例和惯例的统一,这使得数据描述和接口对于用户来说更为直观。由于数据模型是独立开发的,还需和国际间其它虚拟天文台项目如EGSO协调去统一此模型中的数据描述。 显而易见的优点:采用统一国际数据标准(DM),有利于整合现有资源,也易于维护和升级换代;可以提供动态服务,能够适应网络和资源提供处的变化。

五、采用的技术—实例 实例.下图给出了对VSO实例功能较详细地概括。

实例是VSO的核心.实例工作过程如下:VSO用户接口得到查询参数,如: ”MDI,Yohkoh,SXT,NSO,EIT magnetogram from Oct-28-2001” VSO搜索引擎通过包含有VSO提供者信息的VSO注册器确定到图中〈1〉、〈3〉、〈5〉、〈7〉所指位置进行查询, 图2 VSO实例 在〈1〉、〈3〉、〈5〉、〈7〉所指本地服务器中提供者查询引擎分别执行如下操作: SELECT observation FROM database WHERE date=’28-Oct-2001’ AND instrument=EIT SELECT observation FROM database WHERE date=’28-Oct-2001’ AND instrument=NSO magnetogram SELECT observation FROM database WHERE date=’28-Oct-2001’ AND instrument=Yohkoh SELECT observation FROM database WHERE date=’28-Oct-2001’ AND instrument=MDI 提供者查询引擎将结果〈2〉、〈4〉、〈6〉、〈8〉返回用户接口。这一过程由多个实例独立地完成。

五、采用的技术—实例 VSO要求对于注册器和会话的集中存储(存储在图1〈4〉所示的中心服务器中)。实例运行类似的代码作基于注册器的转换工作;用户是通过和VSO实例通讯实现询问和请求的;分布式服务器通过SOAP协议和每一个VSO实例通讯。实例运行在本地机器上,它使VSO成为没有执行瓶颈的分布式系统。

五、采用的技术—实例 实例 以Perl语言实现。选择Perl的原因是因为流行的WEB服务用它编写,、前期已开发的网络、数据库接口及词汇匹配包都用它编写。

五、采用的技术—资源注册技术 它用于记录数据提供者、他们提供什么样的可用数据及其数据更新;VSO搜索引擎使用这些信息确定向哪些数据提供者发送查询要求;它还记录下如何访问这些数据及数据输出方法。

五、采用的技术—资源注册技术 描述斯坦福MDI数据注册项的例子如下: Source: SOHO Instrument: MDI Observables:Dopplergram,Magnetogram LOS, Continuum Intensity, Line Depth Time Range:1996.01.03  present 描述如何访问斯坦福数据注册项查询接口的例子如下: Server: 15-m5.stanford.edu URL: http://15-m5.stanford.edu/SHAI Proxy:http://15-m5.stanford.edu/cgi-bin/soap/shai.cgi 输出接口例子如下: Method: GET URL: http://flap.stanford.edu/cgi-bin/export/expvrfy

五、采用的技术— VSO搜索引擎 它通过寻问资源注册器确定向哪个数据提供方发出查寻要求;等待提供方的响应;汇集提供方的查询结果。查寻项按照DM给出。 它在SOAP核心接口中还要实现如下功能:高速缓存/SQL引擎,负载平衡管理器/高速缓存同步器。负载平衡管理器和高速缓存同步器保证在引擎之间的同步和最佳的性能。 有两种引擎模型:基于数据提供者方提供(通过GUI实现)的和非数据提供者方(通过UI实现)的一般方式下的查寻。这些查寻通过使用SOAP调用实现。VSO数据提供者方的引擎,在SOAP调用中完成大量XML消息交换,这些消息在所有VSO接口中都是一样的;对于非VSO数据提供者方的引擎,定义它已知数据提供者方的数据库和存储结构,在SOAP调用中只提供了运行SQL和操作系统命令的一般方法。

五、采用的技术—会话记录 会话记录的目的是为了收集数据使用状态统计和能够重复保存过的查询。实例运行类似的代码作基于注册的转换工作用于记录下前面的搜索, 以便以后类似搜索的重复能力和分布目的。VSO会话被定义在VSO搜索引擎外部;会话记录下查询输入、中间结果及最终结果等内容。

五、采用的技术—网格技术 虚拟天文台是网格技术的实验床,它不仅允许用户主动访问分布的计算资源,数据网格的概念还扩展了两个基础服务:存储和相应的处理系统,元数据和通信管理。通过它实现世界各处地理位置数据资源的连通;各个数据资源协同起来处理一个项目.

六、VSO今后的发展 虚拟天文台是一个发展中的项目,今后它要将更多数据源加入进来;合并世界范围内的数据目录并整合它们使能搜索;使中心登录服务可查讯;实现注册更新和重复可用;完善API;完成数据提供者实现工具;发行VSO正式版本。

六、VSO今后的发展 有众多的项目在进行VSO研究,这些研究正在产生互相有用的工具:来自IVOA(国际虚拟天文台联盟)的VOTable (XML),来自EGSO(太阳天文台欧洲网格)的多个数据目录,来自VSO的SOAP的使用,来自CoSEC( 协作式日地连接器 )的管道方法,每个虚拟天文台项目发展了各自的天文应用和技术特色,真对专门的太阳物理研究领域(天文学研究)提供了前所未有的工具手段和方法,未来的空间望远镜项目如,STEREO,Solar-B, SDO,它们的数据正朝着全世界统一的太阳数据模型进展,都将通过虚拟天文台供用户使用,而没有先前意义上的中心服务器,天文学因此而开始了一个虚拟天文台的年代。