在机器学习实战书中第五章Logistic回归中,sigmoid函数如下:
def sigmoid(inx):
return longfloat(1.0/(1+exp(-inx)))
实际运行过程中,出现以下报警:
RuntimeWarning: overflow encountered in exp
这是因为参数值inx很大时,exp(inx)可能会发生溢出,解决方法是对sigmoid函数实现的优化,具体代码如下:
def sigmoid(inx):
if inx>=0: #对sigmoid函数的优化,避免了出现极大的数据溢出
return 1.0/(1+exp(-inx))
else:
return exp(inx)/(1+exp(inx))
这样做可以保证exp(inx)值始终小于1,避免极大溢出。
参考:
https://blog.csdn.net/newfayi/article/details/49893359
https://blog.csdn.net/cckchina/article/details/79915181(这种做法在exp(inx)值很大时仍然会发生溢出,原因见第三个链接)
https://stackoverflow.com/questions/24638059/runtimewarning-overflow-encountered-in-np-expx2