ERNIE-Health
更新时间:2022-08-03
基本介绍
- 为提升ERNIE在医疗文本领域的效果;在海量医疗文本数据上进行有效预训练,并且在现有ERNIE预训练策略上增加了针对医疗问答匹配任务与定制医疗词汇Mask策略,并在部分开源医疗数据进行了验证。
医疗实体识别F1 | 医疗问答匹配Acc | |
---|---|---|
BERT | 81.03 | 87.77 |
ERNIE-Health | 81.81(+0.78) | 89.48(+1.71) |
医疗实体识别:CCKS2019评测任务一,主要目标是对于给定的一组电子病历纯文本文档,任务的目标是识别并抽取出与医学临床相关的实体提及,并将它们归类到预定义类别,比如疾病、治疗、检查检验等。
医疗问答匹配:CHIP2019评测任务二,主要目标是针对中文的疾病问答数据,进行病种间的迁移学习。具体而言,给定来自5个不同病种的问句对,要求判定两个句子语义是否相同或者相近。
- 通过文心使用ERNIE-Health非常简单,只需要将预训练模型替换为ERNIE-Health即可,我们在文心的ERNIE 医疗任务中分别提供了医疗实体识别和医疗问答匹配的两个示例.具体可参考对应task任务简介。
文心中的支持
详情见:医疗问答匹配任务。