AI-逻辑回归函数、激活函数、损失函数

最近开始学习人工智能,先从基本的概念学起

逻辑回归函数(预测函数):z = dot(w,x) + b

  解释:假设有三个特征,即x可以表示为(x1,x2,x3),w表示权重,对应每个特征的重要程度,b表示阈值,z是预测值,展开公式,即z=(x1*w1+x2*w2+x3*w3)+b

激活函数:f(z)=(1+ez-1 用于使预测值z在[0-1]区间上,曲线图如下

    

损失函数:判断自己是否预测的正确,单个训练样本的损失函数如下:

  

  即整个训练集的损失函数可以得出以下公式,可以成为成本函数:

结果越大,说明成本越大,预测越不准确。要想预测准确,必须使得成本函数尽量小,而影响成本函数的参数中,只有w、b两个变量,所以最终目的是求得合适的w和b,怎么求,就是神经网络学习的过程,待续。。。

转载于:https://www.cnblogs.com/beautifullife4e/p/10254009.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
逻辑回归损失函数是交叉熵损失函数。交叉熵损失函数逻辑回归中起到了关键作用。如果使用平方误差作为损失函数,由于逻辑回归是处理分类问题,损失函数一般不是凸约束的。因此,我们使用交叉熵损失函数来定义逻辑回归损失。交叉熵损失函数的数学表达式为[-2]: L(w) = -(y * log(a) + (1-y) * log(1-a)) 其中,y是样本的实际标签(0或1),a是逻辑回归的预测值(概率值),log表示自然对数。我们的目标是找到一组使得交叉熵损失函数最小的参数w。为了最小化这个损失函数,可以使用梯度下降等优化算法来找到使得损失函数最小的参数w。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [逻辑回归、交叉熵函数、Softmax函数的理解](https://blog.csdn.net/qq_40950382/article/details/88716877)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* *3* [大白话5分钟带你走进人工智能-第十七节逻辑回归之交叉熵损失函数概念(2)](https://blog.csdn.net/LHWorldBlog/article/details/89678897)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值