GELU是一种常见的激活函数,全称为“Gaussian Error Linear Unit”, 作为2020年提出的优秀激活函数,越来越多的引起了人们的注意。这里做个笔记,以便自己查找。

一些对于GELU函数的论文翻译:

1、https://blog.csdn.net/uncle_ll/article/details/121293513

2、https://blog.csdn.net/sinat_34072381/article/details/108434642

其他的一些参考:
1、https://zhuanlan.zhihu.com/p/302394523

2、https://blog.csdn.net/chenxinvhai89/article/details/100517448

3、https://blog.csdn.net/weixin_41923961/article/details/103976110

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

更多推荐