欧美性猛交xxxx免费看_牛牛在线视频国产免费_天堂草原电视剧在线观看免费_国产粉嫩高清在线观看_国产欧美日本亚洲精品一5区

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Few-shot NER的三階段

深度學(xué)習(xí)自然語(yǔ)言處理 ? 來(lái)源:深度學(xué)習(xí)自然語(yǔ)言處理 ? 作者:深度學(xué)習(xí)自然語(yǔ)言 ? 2022-08-24 16:12 ? 次閱讀

01

方法介紹


Few-shot NER的三階段:Train、Adapt、Recognize,即在source域訓(xùn)練,在target域的support上微調(diào),在target域的query上測(cè)試。

baafda2a-22c5-11ed-ba43-dac502259ad0.png

如上圖,左邊(1-3)表示的是原型的loss1(訓(xùn)練目標(biāo)為各個(gè)原型分散分布),右邊(4-7)表示的是span的representation獲取,中間(8)是一個(gè)多層FFN(為了使得原型表示和span表示最終映射到同一個(gè)向量空間),中間(9-10)則是計(jì)算原型和span在同一個(gè)空間的loss2(為了使得實(shí)體span更靠近原型表示)

02

和過(guò)往工作相比


1、使得Adapt階段不只是通過(guò)對(duì)support集中的實(shí)體詞表示平均得到實(shí)體原型表示,而是能夠進(jìn)行finetune(文中提到Ma et al. (2022) claim that the finetuning method is far more effective in using the limited information in support sets.)

2、過(guò)往的原型網(wǎng)絡(luò)的訓(xùn)練方法使得最終的原型表示較接近,本文通過(guò)構(gòu)造loss1(上一段提到的)使得原型表示分散開(kāi)

03

實(shí)驗(yàn)結(jié)果

這里僅挑選附錄部分的FEW-NERD實(shí)驗(yàn)結(jié)果

bac556ca-22c5-11ed-ba43-dac502259ad0.png

從實(shí)驗(yàn)結(jié)果來(lái)看,在INTRA上效果較好,在INTER上不如ESD。其中INTRA是指source和target之間的實(shí)體的粗粒度類型無(wú)交集,INTER則在粗粒度上有交集(細(xì)粒度上無(wú)交集)。(另外,2022年還有一篇SOTA文章Decomposed metalearning for few-shot named entity recognition,這里沒(méi)有進(jìn)行對(duì)比)

04

消融實(shí)驗(yàn)

1、使用token-level

2、缺少loss1(把原型打散的loss,方法介紹中有說(shuō))

3、使用cosine similarity而不是Euclidean distance來(lái)衡量span-prototype相似度

bad9b7dc-22c5-11ed-ba43-dac502259ad0.png

審核編輯:彭靜
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 網(wǎng)絡(luò)
    +關(guān)注

    關(guān)注

    14

    文章

    7600

    瀏覽量

    89301
  • Target
    +關(guān)注

    關(guān)注

    0

    文章

    13

    瀏覽量

    8490

原文標(biāo)題:COLING2022 | 少樣本NER:分散分布原型增強(qiáng)的實(shí)體級(jí)原型網(wǎng)絡(luò)

文章出處:【微信號(hào):zenRRan,微信公眾號(hào):深度學(xué)習(xí)自然語(yǔ)言處理】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    基于將 CLIP 用于下游few-shot圖像分類的方案

    對(duì)比性圖像語(yǔ)言預(yù)訓(xùn)練模型(CLIP)在近期展現(xiàn)出了強(qiáng)大的視覺(jué)領(lǐng)域遷移能力,可以在一個(gè)全新的下游數(shù)據(jù)集上進(jìn)行 zero-shot 圖像識(shí)別。
    的頭像 發(fā)表于 09-27 09:46 ?5498次閱讀

    CDMA_協(xié)議測(cè)試規(guī)范_第三階段(CDG3)

    CDMA_協(xié)議測(cè)試規(guī)范_第三階段(CDG3)
    發(fā)表于 11-03 09:13

    關(guān)于蓄電池的三階段充電疑點(diǎn)

    三段式充電:第一個(gè)階段叫恒流階段(即主充),第二個(gè)階段叫恒壓階段(即均充),第個(gè)
    發(fā)表于 07-07 22:21

    三階段充電器的關(guān)鍵參數(shù)疑點(diǎn)

    最近在研究蓄電池的充電 看了一些資料學(xué)習(xí)三階段充電。三階段充電:恒流 恒壓 浮充其中恒流階段充電器的輸出電壓是怎樣的?恒壓階段充電器的輸出電流是怎樣的?浮充
    發(fā)表于 01-14 23:25

    中國(guó)聯(lián)通召開(kāi)學(xué)習(xí)實(shí)踐活動(dòng)第三階段工作會(huì)議

    中國(guó)聯(lián)通召開(kāi)學(xué)習(xí)實(shí)踐活動(dòng)第三階段工作會(huì)議 中國(guó)聯(lián)通于6月9日召開(kāi)“深入學(xué)習(xí)實(shí)踐科學(xué)發(fā)展觀活動(dòng)第三階段工作視頻會(huì)議”,常小兵同志傳達(dá)了中央領(lǐng)導(dǎo)及國(guó)資
    發(fā)表于 06-15 09:55 ?513次閱讀

    中芯國(guó)際將在2019年量產(chǎn)14納米FinFET,并勾勒28納米三階段藍(lán)圖

    在28納米制程上,中芯也提出三階段的規(guī)劃藍(lán)圖。趙海軍指出,第一階段的polySion制程已經(jīng)量產(chǎn),第二階段是第一代的HKMG制程(中芯稱為HKC制程)已經(jīng)在今年第2季開(kāi)始產(chǎn)出,目標(biāo)是28納米突破10%營(yíng)收,而第
    發(fā)表于 11-17 14:10 ?1858次閱讀

    5G第三階段測(cè)試規(guī)劃詳解

    目前,我國(guó)5G技術(shù)研發(fā)試驗(yàn)第三階段測(cè)試已經(jīng)進(jìn)入關(guān)鍵期,IMT-2020(5G)推進(jìn)組即將于9月通信展上發(fā)布中國(guó)5G技術(shù)研發(fā)試驗(yàn)的第三階段測(cè)試結(jié)果。
    發(fā)表于 09-25 08:49 ?3218次閱讀

    五大設(shè)備商的5G三階段測(cè)試進(jìn)展對(duì)比

    另外備受關(guān)注的是,五大系統(tǒng)級(jí)設(shè)備商華為、中興、愛(ài)立信、諾基亞和中國(guó)信科集團(tuán)的三階段測(cè)試結(jié)果也隨之公布,此外,星也作為第六家系統(tǒng)設(shè)備商新加入到三階段NSA測(cè)試中。
    發(fā)表于 10-28 07:38 ?5573次閱讀

    我國(guó)5G完成第三階段測(cè)試 離5G商用又近了一步

    隨著2018年第三階段測(cè)試結(jié)果公布,5G第三階段工作計(jì)劃迎來(lái)新的里程碑。回顧第三階段室內(nèi)測(cè)試內(nèi)容,徐菲表示,主要測(cè)試物理層基本功能,RRC協(xié)議基本功能、物理信道、鏈路自適應(yīng)與調(diào)度。
    發(fā)表于 10-08 15:26 ?1284次閱讀

    華為完成中國(guó)5G技術(shù)研發(fā)試驗(yàn)第三階段測(cè)試 刷新業(yè)界紀(jì)錄

    1月23日,IMT-2020(5G)推進(jìn)組在北京召開(kāi)5G技術(shù)研發(fā)試驗(yàn)第三階段總結(jié)暨第二屆綻放杯5G應(yīng)用征集大賽啟動(dòng)會(huì),并發(fā)布了第三階段測(cè)試成果。
    發(fā)表于 05-04 17:03 ?1024次閱讀

    京東方投34億元建12英寸OLED微顯示器件生產(chǎn)線,分三階段

    京東方今日發(fā)布公告稱,公司擬投資建設(shè)12英寸OLED微顯示器件生產(chǎn)線項(xiàng)目,項(xiàng)目總投資為34億元,分三階段實(shí)施。項(xiàng)目第一階段預(yù)計(jì)于 2021 年點(diǎn)亮,第二階段于 2022 年點(diǎn)亮,第三階段
    的頭像 發(fā)表于 12-27 11:14 ?3199次閱讀

    介紹兩個(gè)few-shot NER中的challenge

    此部分著重介紹了兩個(gè)few-shot NER中的challenge:limited information challenge和knowledge mismatch challenge。前者主要是指
    的頭像 發(fā)表于 08-24 10:01 ?908次閱讀

    UBBF 2023 | 邁向F5.5G,華為發(fā)布三階段全光目標(biāo)網(wǎng)架構(gòu)

    [阿聯(lián)酋,迪拜,2023年10月13日] ?在UBBF 2023期間,華為光產(chǎn)品線總裁靳玉志發(fā)表了題為“將F5.5G帶入現(xiàn)實(shí),邁向智能世界的關(guān)鍵里程碑”主題演講,首次提出三階段建網(wǎng)理念,指明視頻驅(qū)動(dòng)
    的頭像 發(fā)表于 10-13 23:55 ?454次閱讀
    UBBF 2023 | 邁向F5.5G,華為發(fā)布<b class='flag-5'>三階段</b>全光目標(biāo)網(wǎng)架構(gòu)

    邁向F5.5G,華為發(fā)布三階段全光目標(biāo)網(wǎng)架構(gòu)

    在UBBF 2023期間,華為光產(chǎn)品線總裁靳玉志發(fā)表了題為“將F5.5G帶入現(xiàn)實(shí),邁向智能世界的關(guān)鍵里程碑”主題演講,首次提出三階段建網(wǎng)理念,指明視頻驅(qū)動(dòng)百兆建網(wǎng)、體驗(yàn)驅(qū)動(dòng)千兆建網(wǎng)和智能驅(qū)動(dòng)萬(wàn)兆建網(wǎng)
    的頭像 發(fā)表于 10-17 17:01 ?1068次閱讀

    基于顯式證據(jù)推理的few-shot關(guān)系抽取CoT

    最近,上下文學(xué)習(xí)策略已被證明在沒(méi)有訓(xùn)練的情況下顯示出顯著的結(jié)果。很少有研究利用上下文學(xué)習(xí)進(jìn)行zero-shot信息提取。不幸的是,推理的證據(jù)在思維鏈提示的構(gòu)建過(guò)程中沒(méi)有被考慮或隱式建模。
    的頭像 發(fā)表于 11-20 17:44 ?977次閱讀
    基于顯式證據(jù)推理的<b class='flag-5'>few-shot</b>關(guān)系抽取CoT