1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)

本文讨论了深度学习中的关键概念,如损失函数(包括KL散度和交叉熵)、熵的统计含义以及如何在模型训练中最小化这些指标。同时提及了在不同规模下,使用CPU、GPU和NPU进行点积矩阵计算的选择策略,特别关注了在车机等应用场景中的优化需求。
摘要由CSDN通过智能技术生成

 CNN

损失函数

KL散度,交叉熵

B部分是训练集的真实实际值,是常数,C部分是训练结果,目的是要让这个损失最小化,与模型参数紧密相关,取出C(带负号),C非负

就是更精简的损失函数

v

所谓M个空间,N个小球在其中的排列组合方式为熵

对应概率是,M次抽样,一共N种情况,每次抽样都意味着要确定M个空间里的其中一个空间是怎样的,也就是N个小球(情况)里占了多少个小球(分配到了多少个小球、情况),如果分配到的小球数量多,这个空间(抽样)里的情况(小球)数量多,即

点积矩阵计算,CPU、GPU、NPU

点积,先相乘再相加

车机需要

小规模可以用CPU,大规模用GPU,NPU

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值