一文概览深度学习中的激活函数:
https://blog.csdn.net/uwr44uouqcnsuqb60zk2/article/details/78441062
BERT中的GELU:
https://www.cnblogs.com/shiyublog/p/11121839.html
神经网络中的各种优化方法:
https://blog.csdn.net/autocyz/article/details/83114245
一文概览深度学习中的激活函数:
https://blog.csdn.net/uwr44uouqcnsuqb60zk2/article/details/78441062
BERT中的GELU:
https://www.cnblogs.com/shiyublog/p/11121839.html
神经网络中的各种优化方法:
https://blog.csdn.net/autocyz/article/details/83114245