面试准备
北风_A
这个作者很懒,什么都没留下…
展开
-
2021.4.20面试准备
AI算法题: 1、如何做模型融合? ① 简单的加权融合回归 ② stacking/blending ③ boosting/bagging:把许多弱分类器这样融合成强分类器的思想。Bagging就是采用有放回的方式进行抽样,用抽样的样本建立子模型,对子模型进行训练,这个过程重复多次,最后进行融合。Boosting的思想是一种迭代的方法,每一次训练的时候都更加关心分类错误的样例,给这些分类错误的样例增加更大的权重,下一次迭代的目标就是能够更容易辨别出上一轮分类错误的样例。最终将这些弱分类器进行加权相加 ...原创 2021-04-20 10:40:37 · 75 阅读 · 0 评论 -
2021.4.1面试准备
1、介绍自注意力机制: self attention 是注意力机制的一种,也是transformer一种 所谓的自注意力机制的“自”指的是一组信息中每个信息和整组信息求注意力,也就是整组信息自己和自己求注意力,可以看作一种动态的全连接层。 2、小样本问题如何解决: ① ...原创 2021-04-01 22:35:52 · 163 阅读 · 0 评论 -
2021.03.27面试
AI面试: 1、介绍伪标签技术 不需要手动标记不加标签的数据,而是根据标签的数据给出近似的标签。 ① 使用标签数据训练模型 ② 使用训练的模型为不加标签的数据预测标签 ③ 同时使用pseudo和标签数据集重新训练模型(训练的最终模型用于对测试数据的最终预测) 2、空洞卷积及优缺点 空洞卷积:在标准的 convolution map 里注入空洞 优点:扩大感受野,捕获多尺度上下文信息 3、牛顿法的推导公式 用迭代的方法,来求解方程的根和最优化。 牛顿法的基本思想是使用函数 f(x) 的泰勒级数的前面几项来寻找原创 2021-03-29 10:20:06 · 77 阅读 · 0 评论 -
2021.03.19面试
AI: 1、PCA的原理 PCA(principal component analysis)主成分分析方法:数据降维算法。 将n维特征映射到k维上,这k维是全新的正交特征也被称为主成分,是在原有n维特征的基础上重新构造出来的k维特征。 主要步骤: ①输入样本矩阵 ②计算样本每一维的均值,计算观察值与均值之间的偏差,计算协方差矩阵 ③计算协方差矩阵其中的特征值和特征向量矩阵 ④计算总能量,选取贡献量最大的特征值 ⑤计算前p个特征值所对应的特征向量组成的矩阵,计算降维后的样本矩阵。 2、图像处理常见的插值方法:原创 2021-03-20 11:30:06 · 90 阅读 · 0 评论 -
2021.3.16面试准备
AI: 1、LR的损失函数 LR为逻辑回归模型预估,某个分类的概率 其损失函数可以用均方差,对数,概率等来表示。 均方差作为LR模型的距离衡量标准,最“预估错误”的惩罚太过柔和。 LR模型预估的是概率,损失函数可以用联合概率分布来衡量。 2、手写K-means算法 k-means聚类算法: import numpy as np def k_means(x,k=4,epochs=500,delta=1e-3): # 随机选取k个样本点作为中心 indices = np.random.rand原创 2021-03-17 08:39:58 · 69 阅读 · 0 评论 -
2021.3.15 CV面试准备
AI: 1、过拟合的原因 ①数据太少 ②模型太复杂 2、缓解过拟合方法: ① 数据集增广 ②改进模型: 提前停止训练, L1,L2正则化, Dropout层, 多任务学习 3、1×1卷积作用 ①实现跨通道的交互和信息整合 ②进行卷积核通道数的降维和升维 4、L1 L2正则化理解 ① L1正则化是权重向量w中各个元素的绝对值之和 L1正则化可以产生稀疏权值矩阵,即产生一个稀疏模型,用于特征选择 ② L2正则化是权重向量w中各个元素的平方和再求平方根 L2正则化防止模型过拟合 5、机器学习决策树 ①决策树是常用原创 2021-03-15 22:04:34 · 88 阅读 · 0 评论