SANTA:针对远程监督命名实体识别中不准确与不完整标注噪声的独立策略

← 全部研究

语言理解

Findings of ACL 2023 · PDF · 代码 · Data

为错误标签和缺失标签设计不同的处理方式。 远程监督可能把实体标成错误类型,也可能完全漏标。SANTA 将不准确标注与实体歧义联系起来,将不完整标注与决策边界偏移联系起来,并分别设计针对性的策略。

SANTA 架构:分别处理不完整与不准确标注,并在推理时使用实体感知 KNN。
图 2:SANTA 用边界 Mixup 与抗噪损失处理漏标实体,用记忆平滑和实体感知检索处理错误实体标签。点击查看大图。

对标为实体的片段,记忆平滑焦点损失稳定训练,实体感知 KNN 在推理时帮助消歧。对标为非实体的片段,边界 Mixup 与抗噪损失帮助找回知识库漏标的实体。两条分支共享基于片段的 NER 编码器。

实验覆盖 五个远程监督 NER 数据集:CoNLL2003、OntoNotes5.0、Webpage、BC5CDR 和 EC。SANTA 在这些数据集上优于论文比较的基线;在 Webpage 上报告 71.79 F1,只区分两种损失但未加入专门模块的基线为 62.98。方法及噪声分析的适用范围是论文中的远程监督设置。