PGL图神经网络实践神经---ERNIE部分心得
赵州人4 发布于2020-11 浏览:1701 回复:2
1
收藏
最后编辑于2022-04

之前没有图网络基础,这次课程我实践了和学习很多图网络的基础知识。平时事情太多,没有来得及写在这里。虽然七点已过,但是我觉得学习不能因为时间节点而停止,课程上有趣的老师们讲了很多干货和知识,第一次听到ERNIE和ERNIESAGE的强大魅力,深深震撼,作为一个小白就自己去实践了一下ERNIE的使用方法,并把使用方法发布在博客园:https://www.cnblogs.com/sxzhou/p/14057374.html。后续的实践将一步步进行,有时间继续发出来大家一起讨论。

这篇博客主要包括三块一部分是实践,一部分是实践过程中的采坑。由于自己水平太差,看源代码看到凌晨两三点,才发现的,主要部分是ERNIE源码的类PretrainedModel中找到的解决方法,这个类主要是定义了

从哪里下载模型,或者从本地下载模型的方法;模型参数的设置,以及返回模型。

从这里得到的灵感是如何保存自己模型参数,以及如何使用自己的模型参数,因为原始例子文档上并没有说明。

这里是方法:

用自己的权重文件替换掉本地的路径下的权重文件;
或者,先预加载模型,然后使用自己的模型文件再次运行代码ernie.set_dict(m)

如果是网络上下载模型的话,只能用第二种方法。

 

还有一个坑是整型使用int64,浮点使用float32不会报错。

 

以上就是这部分的主要内容啦,后续一点点继续实践,ERNIESAGE的图结构,以及学习写自己的模型~~

 

 

收藏
点赞
1
个赞
共2条回复 最后由用户已被禁言回复于2022-04
#3wangwei8638回复于2020-12

看源代码看到凌晨两三点,也是真热爱了

0
#2鹿鼎记肯定回复于2020-12

加油~!

0
TOP
切换版块