1. 传统机器学习
- 监督学习和无监督学习
- 判别模型和生成模型
- 极大似然估计和最大后验估计
- KL散度和交叉熵
- 偏差和方差
- 过拟合和欠拟合
- bagging和boosting
- lr
- 感知机
- SVM
- KNN
- 决策树
- 贝叶斯分类器
- EM算法
- 随机森林
- gbdt
- adaboost
- XGB
- lgb
- k-means
- PCA
- LDA
- 损失函数
- 正则化
- 归一化
2. 神经网络
- 前向传播和反向传播
- RNN
- CNN
- LSTM
- GRU
- 激活函数
- 优化器
- embedding
- softmax
- 梯度消失和梯度爆炸
- 批归一化
3. nlp
- n-gram
- NNLM
- word2Vec
- seq2seq
- textCNN
- fastText
- textRNN
- textRCNN
- tf-idf
- glove
- transformer
- bert
- Elmo
- GPT
- Albert
- bert-wwm
- roberta
- Ernie
- 分词
- crf
- HMM
- NER
- 情感分析
4. 推荐系统
- FM
- FFM
- nfm
- deepFM
- wide&deep
- DCN
- DIN
- 协同过滤
- 冷启动
- 长尾效应
- 知识图谱结合推荐系统
- bert遇上推荐系统
- 对抗训练消除位置信息
5. 其他
- Linux
- C++
- python
- 计算机网络
- 数据库
- 操作系统
- git
- tensorflow
- scikit-learn
- seaborn
- 组合数学