【面试QA】实习一面

1. transformer使用的是点乘：A点乘B = scale   区别于叉乘：A 叉乘 B = vector
2. K值交叉验证：
3. 看Transformer论文原文
4. Transformer、bert、bert的各种变体。
5. 解决过拟合的五种方法：1）减少模型参数。2）早停。3）数据增强，增大训练数据的规模。因为随着数据量的增加，模型无法过拟合所有样本，因此不得不进行泛化。4）正则化。5）dropout
6. 要针对以后就职的岗位有了解，就比如说目前在用的工业化方法和最近发表的论文和技术！！！！！———所以要先确定岗位！！！
7. 考察数据结构中的底层实现结构，比如说堆一般是使用数组实现的，所以其是一维数据结构。
8. 有的公司会问我给无监督数据应该怎么分类，还有的公司问怎么有监督——-说是基于全局负采样