机器学习概述:
机器学习是从数据中自动分析获得规律,并利用规律对未知数据进行预测
机器学习的数据:文件,csv等
可用的数据集:kaggle,UCI,scikit-learn
常用数据集的结构组成:特征值+目标值,有些数据集可以没有目标值
数据的特征工程:
将原始数据转换为更好地代表预测模型的潜在问题的特征的过程,从而提高了对未知数据的预测准确性
数据的特征抽取:
特征抽取API:用包sklearn.feature_extraction
字典特征抽取:对字典数据进行特征值化,sklearn.feature_extraction.DictVectorizer
from sklearn.feature_extraction import DictVectorizer
def dictvec():
"""
字典数据抽取
"""
# 实例化
dict = DictVectorizer()
# 调用fit_transform
data = dict.fit_transform([{'city':'北京', 'temperature':100}, {'city':'上海', 'temperature':60}, {'city':'深圳', 'temperature':30}])
return None
if __name__ == "__main__":
dictvec()
文本特征抽取:
sklearn.fearture_extraction.text.CountVectorizer
中文要用jieba进行分词,然后可以进行文本特征抽取
sklearn.fearture_extraction.text.TfidfVectorizer
tf:词的频率 term frequency
idf:逆文的频率 inverse document frequency:
log(总文的数量/该词出现的文档数)