01
—
方法介紹
Few-shot NER的三階段:Train、Adapt、Recognize,即在source域訓(xùn)練,在target域的support上微調(diào),在target域的query上測(cè)試。
如上圖,左邊(1-3)表示的是原型的loss1(訓(xùn)練目標(biāo)為各個(gè)原型分散分布),右邊(4-7)表示的是span的representation獲取,中間(8)是一個(gè)多層FFN(為了使得原型表示和span表示最終映射到同一個(gè)向量空間),中間(9-10)則是計(jì)算原型和span在同一個(gè)空間的loss2(為了使得實(shí)體span更靠近原型表示)
02
—
和過(guò)往工作相比
1、使得Adapt階段不只是通過(guò)對(duì)support集中的實(shí)體詞表示平均得到實(shí)體原型表示,而是能夠進(jìn)行finetune(文中提到Ma et al. (2022) claim that the finetuning method is far more effective in using the limited information in support sets.)
2、過(guò)往的原型網(wǎng)絡(luò)的訓(xùn)練方法使得最終的原型表示較接近,本文通過(guò)構(gòu)造loss1(上一段提到的)使得原型表示分散開(kāi)
03
—
實(shí)驗(yàn)結(jié)果
這里僅挑選附錄部分的FEW-NERD實(shí)驗(yàn)結(jié)果
從實(shí)驗(yàn)結(jié)果來(lái)看,在INTRA上效果較好,在INTER上不如ESD。其中INTRA是指source和target之間的實(shí)體的粗粒度類型無(wú)交集,INTER則在粗粒度上有交集(細(xì)粒度上無(wú)交集)。(另外,2022年還有一篇SOTA文章Decomposed metalearning for few-shot named entity recognition,這里沒(méi)有進(jìn)行對(duì)比)
04
—
消融實(shí)驗(yàn)
1、使用token-level
2、缺少loss1(把原型打散的loss,方法介紹中有說(shuō))
3、使用cosine similarity而不是Euclidean distance來(lái)衡量span-prototype相似度
-
網(wǎng)絡(luò)
+關(guān)注
關(guān)注
14文章
7600瀏覽量
89301 -
Target
+關(guān)注
關(guān)注
0文章
13瀏覽量
8490
原文標(biāo)題:COLING2022 | 少樣本NER:分散分布原型增強(qiáng)的實(shí)體級(jí)原型網(wǎng)絡(luò)
文章出處:【微信號(hào):zenRRan,微信公眾號(hào):深度學(xué)習(xí)自然語(yǔ)言處理】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
基于將 CLIP 用于下游few-shot圖像分類的方案
三階段充電器的關(guān)鍵參數(shù)疑點(diǎn)
中國(guó)聯(lián)通召開(kāi)學(xué)習(xí)實(shí)踐活動(dòng)第三階段工作會(huì)議
中芯國(guó)際將在2019年量產(chǎn)14納米FinFET,并勾勒28納米三階段藍(lán)圖
5G第三階段測(cè)試規(guī)劃詳解
五大設(shè)備商的5G三階段測(cè)試進(jìn)展對(duì)比
我國(guó)5G完成第三階段測(cè)試 離5G商用又近了一步
華為完成中國(guó)5G技術(shù)研發(fā)試驗(yàn)第三階段測(cè)試 刷新業(yè)界紀(jì)錄
京東方投34億元建12英寸OLED微顯示器件生產(chǎn)線,分三階段
介紹兩個(gè)few-shot NER中的challenge
UBBF 2023 | 邁向F5.5G,華為發(fā)布三階段全光目標(biāo)網(wǎng)架構(gòu)
![UBBF 2023 | 邁向F5.5G,華為發(fā)布<b class='flag-5'>三階段</b>全光目標(biāo)網(wǎng)架構(gòu)](https://file1.elecfans.com//web2/M00/A8/89/wKgaomUt3F-ASzleAArKMqpjSlQ738.png)
邁向F5.5G,華為發(fā)布三階段全光目標(biāo)網(wǎng)架構(gòu)
基于顯式證據(jù)推理的few-shot關(guān)系抽取CoT
![基于顯式證據(jù)推理的<b class='flag-5'>few-shot</b>關(guān)系抽取CoT](https://file1.elecfans.com/web2/M00/B1/54/wKgZomVbKsaAL7U4AAAhjJPih4E701.png)
評(píng)論