2大挑战 长尾分布 物体类别是有语义关联的,这些连接会变得更加微妙

Slides:



Advertisements
Similar presentations
因数与倍数 2 、 5 的倍数的特征
Advertisements

效益 效果 ☺ 第一天 参与 - 培训目标梳理 体验 - 跨越式项目介绍 学习 - 跨越式理念 学习 - 跨越式模式解读 ☺ 第一天 参与 - 培训目标梳理 体验 - 跨越式项目介绍 学习 - 跨越式理念 学习 - 跨越式模式解读 ☺ 第二天 学习 - 教学设计方法.
動動腦時間 — 腦筋急轉彎 —. 1. 有三個小朋友在猜 拳,一個出石頭,一 個出布,一個出剪刀, 請問三個人共有幾根 指頭? 答案: 60 根.
中国部分农村地区肺结核发病因素 的病例对照研究 陈 伟 中国疾控中心结核病预防控制中心 北京.
弟子规 带读简说. 一、弟子规之名称由来 原名【训蒙文】 为清朝康熙年间秀才李毓秀所作。 后经贾存仁修订改名为【弟子规】。
再话 高一英语教学改革.
窦娥冤 关汉卿 感天动地 元·关汉卿.
Chapter Eleven 智力的本質.
考点作文十大夺魁技法 第28课时 写作(二) 考点作文十大夺魁技法 6-10 ·新课标.
硕士论文开题报告 煤炭企业物流信息系统的 研究与设计 指导老师: 学生姓名: 学 号:
单元二 走向高峰的中华文明 ——秦汉至宋元时期
舊石器時代 位置: 亞洲大陸東緣,西太平洋弧狀列島一部份 背景 形成: 兩千多萬年前逐漸隆起,形成島嶼 生物: 大角鹿、猛瑪象、亞洲大陸原始人 臺東 長濱文化 苗栗 網形文化 臺南 左鎮人目前臺灣發現最早人類化石 代表 文化 1.住在海邊洞穴-短期定居小型隊群 2.以採集、狩獵為生 3.使用礫石砍伐器、片器、尖器.
Unsupervised feature learning: autoencoders
知其不可而为之.
第一讲: 春江花月夜 张若虚.
中国画家协会理事、安徽省美术家协会会员、 工艺美术师、黄山市邮协常务理事余承平主讲
《考试大纲》对本考点提出的能力要求是:识记现代汉字的字形。据此,高考对汉字的笔画、笔顺、造字法等内容均不作考查,只考查现代使用的汉字字形的识记能力。命题的依据是《现代汉语常用字表》,包括2000个常用字和1000个次常用字。考查重点为词语(包括成语)中的同音字、音近字、形近字。本考点的能力层级为A。
关于在宝钢全体党员中开展“学党章党规、 学系列讲话,做合格党员”学习教育的 实施方案
中 国 服 装 史.
第四章 公司法.
父亲的菜园 王树槐 引导者:江山市长台小学 朱丽云.
江西 6、下列关于名著的表述,不正确的一项是
语文版九年级(下) 多媒体课件.
感知学习 ——可视化学习平台.
自行車安全騎乘教學 BICYCLE CLASS 1.單車種類&用途 2.單車配備 3.自行車運動 4. 自行車入門 5.安全騎乘須知
解放軍論壇 中共信息戰發展 對我國軍事戰略之影響.
汉字的构造.
诵读欣赏 古代诗词三首.
Xiàn lù zuàn 陷入 忙碌 攥着.
专题五 高瞻远瞩 把握未来 ——信息化战争 主讲教师:.
“海鸥老人”——吴庆恒.
院長:鄭錦聰 教授 各系負責老師 光電系:姬梁文老師 電機系:張凱雄老師 資工系:謝仕杰老師 電子系:陳柏宏 老師
第十章 现代秘书协调工作.
臺北市立松山家商 103學年度第1學期 學校日 教學說明 簡報
第一章 总 则 第一条 宗旨 为提高****集团人力资源管理的科学化水平,强化内部的人才竞争机制,促进人力资源的合理开发与利用,在集团组织内部构建科学、合理的人力资源管理框架,理顺职位上等级秩序,提供员工发展的跑道,为集团其他人力资源管理制度建立规范的运作平台,特制定本制度。 第二条 性质.
导入新课: 莲花,自古以来就被人们看作是美丽圣洁的象征。我们一起先来欣赏一下莲的形象,然后请同学说说你觉得莲花美在哪里。
BICYCLE CLASS 自行車安全騎乘教學 主講人:巫昌逸 老師.
贴近教学 服务师生 方便老师.
六年级 语文 下册 第四单元 指尖的世界.
(浙教版)四年级品德与社会下册 共同生活的世界 第四单元 世界之窗 第二课时.
libD3C: 一种免参数的、支持不平衡分类的二类分类器
NLP Group, Dept. of CS&T, Tsinghua University
Source: IEEE Access, vol. 5, pp , October 2017
知識管理期末報告 LCD產業與知識管理 指導老師 :王鵬飛 資四德 許博翔.
InterSpeech 2013 Investigation of Recurrent-Neural-Network Architectures and Learning Methods for Spoken Language Understanding University of Rouen(France)
第九章 商品存貨.
《神经网络与深度学习》 线性模型
皇帝的新装 知识窗口 整体感知 合作探究 总结提高 创新发展. 皇帝的新装 知识窗口 整体感知 合作探究 总结提高 创新发展.
第11章 神经网络.
A closer look at the local module in
1.
公 共 关 系 主编:谢苏.
基于知识库对自然语言中属性取值对的探索 潘笑吟.
空間關係分類以及相似性量測之 範用結構 A General Framework For Classification and Similarity Measure of Spatial Relationship 研究生:洪宗賢 指導教授:蔣依吾 博士 國立中山大學資訊工程學系.
第15讲 特征值与特征向量的性质 主要内容:特征值与特征向量的性质.
More About Auto-encoder
Xián 伯 牙 绝 弦 安徽淮南市八公山区第二小学 陈燕朵.
Speaker : YI-CHENG HUNG
Adj + Noun映射到知识库中的classes
NLP+Knowledge zdf.
3-3 随机误差的正态分布 一、 频率分布 在相同条件下对某样品中镍的质量分数(%)进行重复测定,得到90个测定值如下:
Speaker : YI-CHENG HUNG
Anchor-free Detection专题
Chapter 0 Introduction to Medical Image Processing
空間關係分類以及相似性量測之 範用結構 A General Framework For Classification and Similarity Measure of Spatial Relationship 研究生:洪宗賢 指導教授:蔣依吾 博士 國立中山大學資訊工程學系.
之前都是分类的蒸馏很简单。然后从分类到分割也是一样,下一篇是检测的蒸馏
教師檔案系統資料如何填寫? 如何對應教師評鑑共同基準?.
促進教師持續專業發展分享 專業支援與同儕合作 嗇色園主辦可譽中學暨可譽小學 李雪英 校長 盧燕芳 老師 2012年4月20日.
《神经网络与深度学习》 第10章 模型独立的学习方式
Presentation transcript:

2大挑战 长尾分布 物体类别是有语义关联的,这些连接会变得更加微妙 “person ride horse”和“person ride elephant”相似均属于人骑动物. “person carry bike”和“person ride bike”则虽有一样主宾但含义差别大 模型能够利用这种语义连接至关重要

重点突破 task:大规模关系检测 核心思想:让频率低的三元组能 “用到” 高频率三元组中学到知识 方法:develop a scalable approach that is semantically-guided and a loss that enables discriminative learning 把物体和关系编码进连续的空间 而不是 离散的标签 目的:使得知识能够从高频的类别迁移到低频的类别 为此提出了 triplet-softmax loss: 性质: 让知识能在连续空间中迁移 且 保留可判别的性质 multi-class logistic loss 前者不行 triplet loss 后者不行

Method:framework-preview

Method 双路pipeline:分别把图像和标签映射到同一个空间 采用新的loss:在大规模词汇长场景下,此loss比softmax和triplet都 好

Mathod:Visual Module 谓词依赖于主宾,主宾独立于谓词

Mathod:Semantic Module

Mathod:Training Loss 传统triplet loss定义在两个模态的embeddings xl,yl期望: d(匹配的embeddings)<d(不匹配的embedding)-M 其中M是margin 作者希望把triplet loss变成softmax的形式 视觉-语义而元组<xl,yl>: where l ∈ {s, p, o}, and the two sets tri x , tri y correspond to triplets with negatives from the visual and semantic space, respectively.

Mathod:Training Loss Triplet loss: 评价:一旦差别大于m,则不训练, 因此最后得到的空间是不足够”可判别”

Mathod:Training Loss Triplet-Softmax loss:

Mathod:Training Loss Visual Consistency loss: 目的:为了进一步提高”可判别”性质 思想:同一个类别的视觉特征”拉”近, 不同类别的视觉特征”推”远 做法:以x_i为中心,C(i)是和x_i同一个类别的positive ROIs: 要求和x_i与其所有同类别的ROIS的最小的相似度,要比和所有其他不同类 别的ROIS的相似度都要大至少m.

Mathod:Training Loss

数据库介绍:VG80k 原始: 进行适当的清洗: 108, 077 images 21 relationships on average per image 103, 077 training images and 5, 000 testing images 进行适当的清洗: 99, 961 training images and 4, 871 testing images with 53, 304 object categories and 29, 086 relation categories training set into 97, 961 training and 2, 000 validation images