paddlepaddle 如何用Linear层实现FC全连接层
1、第一步: 使用1.6版本的FC函数实现一个,作为参考组
2、第二步:使用1.7版的Linear实现一个,作为对照组
3、第三步:通过比较,我们发现Linear函数保留的原来的维度,我们输出一下各自的层的参数,以便发现思路
4、第四步:我们假设模型会自动修改我们的维度,我们把input_dim直接修改成27,以便和1.6版本的参数一致,看看是否可行
5、第五步:第四步修改后,报错了,这意味着模型不会自动进行维度转换,这意味着我们要手动调整,那我们接着修改我们的代码
6、第六步:到这个时候,我们还是不放心,我要是可以保证输入的数据相同,输出的数据不仅形状一致而且值一致,那就更好了,这需要我们给定统一的初始化权重参数
7、第七步:对结果进行比较,输出的数值是相同的
8、第八步:其实到上面是不是就结束了,但是在实际使用的时候Linear是作为最后一层使用的,其输入是和前面的输出有关的,也就是,在它的前面需要存在一层操作也就是flatten, 从而实现自动的操作
9、第九步:到此为此,我学习Linear函数、认识Linear的过程就结束了。
声明:本网站引用、摘录或转载内容仅供网站访问者交流或参考,不代表本站立场,如存在版权或非法内容,请联系站长删除,联系邮箱:site.kefu@qq.com。
阅读量:30
阅读量:28
阅读量:90
阅读量:79
阅读量:54