ernie能使用CPM-LM的数据吗? 看到有在hub中用GPT2使用CPM-LM的数据,但是没有ernie使用CPM-LM的示例。
#paddlenlp>=2.0.0rcfrom paddlenlp.transformers.gpt.modeling import GPTForPretrainingfrom paddlenlp.transformers.gpt.tokenizer import GPTChineseTokenizer
# 加载 PaddleNLP 自带的预训练中文 GPT2 模型model = GPTForPretraining.from_pretrained('gpt-cpm-large-cn')
# 设置模型为评估状态model.eval()
# 加载编解码器tokenizer = GPTChineseTokenizer.from_pretrained('gpt-cpm-large-cn')
#paddlenlp>=2.0.0rc
from paddlenlp.transformers.gpt.modeling import GPTForPretraining
from paddlenlp.transformers.gpt.tokenizer import GPTChineseTokenizer
# 加载 PaddleNLP 自带的预训练中文 GPT2 模型
model = GPTForPretraining.from_pretrained('gpt-cpm-large-cn')
# 设置模型为评估状态
model.eval()
# 加载编解码器
tokenizer = GPTChineseTokenizer.from_pretrained('gpt-cpm-large-cn')