- 博客(5)
- 收藏
- 关注
原创 注意力机制与使用了多头注意力和自注意力的transformer架构
http://zh.d2l.ai/chapter_attention-mechanisms/index.html参考《动手学深度学习》和论文attention is all you need 理解注意力机制经过漫长进化,人具有只将注意力引向感兴趣的一小部分信息的能力。这种引向体现在视觉世界中可以分为两种,通过非自主性提示或自主性提示进行有选择地引导注意力的焦点。非自主性提示是基于环境中物体的突出性和易见性,自主性提示受认知和意识的控制。自主性的与非自主性的注意力提示解释了人类的注意力的方式, 下面我们看看如
2022-09-09 16:35:42 586 1
原创 python可视化、数据描述性统计分析、seanborn、scipy,spsspro必杀
最近在学习b站沐神的动手学深度学习课程,进程来到实战kaggle房价预测。准备在数据分析和预处理这部分扩充下自己的实操技能,多学习点python可视化、数据描述性统计分析的方法,了解熟悉下python的一些库。...
2022-08-25 20:09:18 1905
原创 用XGBoost 做特征选择,遇到的问题及解决办法。Matplotlib is currently using agg, which is a non-GUI。
用机器学习做kaggle 放假预测时,特征工程后的的特征有三百多个,要降维,决定用XGBoostregressor .由于特征特征太多在后面可视化遇到了些问题,先说一下我特征选择的大致过程,再说遇到的问题。......
2022-08-25 20:04:42 582
转载 [动手学深度学习]softmax回归
softmax运算获取一个向量并将其映射为概率softmax是一个多类分类模型使用softmax操作得到每个类的预测置信度(非负,和为1)使用交叉熵来衡量预测和实际类别的区别httpshttpshttpshttpshttpshttpshttpshttpshttpshttpshttpshttps。...
2022-07-29 17:20:57 277
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人