Datawhale AI 夏令营 （催化反应率预测）笔记

环境依赖

• Python3
• pandas
• scikit-learn
• Pandas是一个基于Python构建的开源软件库，专门用于数据操作和分析。它提供了高性能、易于使用的数据结构和数据分析工具，使得数据处理和分析变得直观且高效。
• Scikit-learn是针对Python编程语言的免费软件机器学习库。它具有各种分类、回归和聚类算法，并支持与NumPy和SciPy等科学计算库联合使用。
• Rdkit是一个用于化学信息处理的开源工具包，使用C++编写并提供了Python接口。它使得在Python环境下可以轻松地处理分子结构、化学反应和化学属性等信息。
• 安装环境

  pip install pandas
  pip install -U scikit-learn
  pip install rdkit

• 导包

• import pickle
  import pandas as pd
  from tqdm import tqdm
  from sklearn.ensemble import RandomForestRegressor
  from rdkit.Chem import rdMolDescriptors
  from rdkit import RDLogger,Chem
  import numpy as np
  RDLogger.DisableLog('rdApp.*')

• 
   

• rxnid 对数据的id标识，无实际意义
• Reactant1 反应物1
• Reactant2 反应物2
• Product 产物
• Additive 添加剂（包括催化剂catalyst等辅助反应物合成但是不对产物贡献原子的部分）
• Solvent 溶剂
• Yield 产率 其中Reactant1,Reactant2,Product,Additive,Solvent都是由SMILES表示。其中SMILES,全称是Simplified Molecular Input Line Entry System，是一种将化学分子用ASCII字符表示的方法，是化学信息学领域非常重要的工具

特征提取

由于Reactant1,Reactant2,Product,Additive,Solvent都是由SMILES表示。所以，可以使用rdkit工具直接提取SMILES的分子指纹（向量），作为特征

Morgan指纹是一种常用的分子指纹类型，能够编码分子结构的特征

生成分子的Morgan指纹

def mfgen(mol,nBits=2048, radius=2):

    # 返回分子的位向量形式的Morgan fingerprint
    fp = rdMolDescriptors.GetMorganFingerprintAsBitVect(mol,radius=radius,nBits=nBits)
    return np.array(list(map(eval,list(fp.ToBitString()))))

将SMILES字符串列表转换为分子指纹向量列表

def vec_cpd_lst(smi_lst):
    smi_set = list(set(smi_lst))
    smi_vec_map = {}
    for smi in tqdm(smi_set): # tqdm：显示进度条
        mol = Chem.MolFromSmiles(smi)
        smi_vec_map[smi] = mfgen(mol)
    smi_vec_map[''] = np.zeros(2048)
    
    vec_lst = [smi_vec_map[smi] for smi in smi_lst]
    return np.array(vec_lst)

数据导入和处理

导入训练集和测试集

dataset_dir = '../dataset'   # # 注：如果是在AI Studio上，将这里改为'dataset'

train_df = pd.read_csv(f'{dataset_dir}/round1_train_data.csv')
test_df = pd.read_csv(f'{dataset_dir}/round1_test_data.csv')

print(f'Training set size: {len(train_df)}, test set size: {len(test_df)}')

处理数据集

读取数据，将化学分子的SMILES字符串转换为Morgan指纹，并将这些指纹拼接成特征向量，用于后续的机器学习建模

# 从csv中读取数据
train_rct1_smi = train_df['Reactant1'].to_list()
train_rct2_smi = train_df['Reactant2'].to_list()
train_add_smi = train_df['Additive'].to_list()
train_sol_smi = train_df['Solvent'].to_list()

# 将SMILES转化为分子指纹
train_rct1_fp = vec_cpd_lst(train_rct1_smi)
train_rct2_fp = vec_cpd_lst(train_rct2_smi)
train_add_fp = vec_cpd_lst(train_add_smi)
train_sol_fp = vec_cpd_lst(train_sol_smi)
# 在dim=1维度进行拼接。即：将一条数据的Reactant1,Reactant2,Product,Additive,Solvent字段的morgan fingerprint拼接为一个向量。
train_x = np.concatenate([train_rct1_fp,train_rct2_fp,train_add_fp,train_sol_fp],axis=1)
train_y = train_df['Yield'].to_numpy()

# 测试集也进行同样的操作
test_rct1_smi = test_df['Reactant1'].to_list()
test_rct2_smi = test_df['Reactant2'].to_list()
test_add_smi = test_df['Additive'].to_list()
test_sol_smi = test_df['Solvent'].to_list()

test_rct1_fp = vec_cpd_lst(test_rct1_smi)
test_rct2_fp = vec_cpd_lst(test_rct2_smi)
test_add_fp = vec_cpd_lst(test_add_smi)
test_sol_fp = vec_cpd_lst(test_sol_smi)
test_x = np.concatenate([test_rct1_fp,test_rct2_fp,test_add_fp,test_sol_fp],axis=1)

随机森林模型

sklearn (scikit-learn) 

是一个非常广泛使用的开源机器学习库，基于Python，建立在NumPy、SciPy、Pandas和Matplotlib等数据处理和分析的库之上。
它涵盖了几乎所有主流机器学习算法，包括分类、回归、聚类、降维等。API设计亲民，整个使用简单易上手，非常适合作为机器学习入门的工具。

在sklearn中，几乎所有的机器学习的流程是：

1. 实例化模型（并指定重要参数）；
2. model.fit(x, y) 训练模型；

随机森林 

随机森林是一种集成学习方法，用于分类和回归任务。它通过结合多个决策树的预测来提高模型的准确性和稳定性

参数解释：

• n_estimators=10： 决策树的个数，越多越好；但是越多意味着计算开销越大；
• max_depth: (default=None)设置树的最大深度，默认为None；
• min_samples_split: 根据属性划分节点时，最少的样本数；
• min_samples_leaf: 叶子节点最少的样本数；
• n_jobs=1： 并行job个数，-1表示使用所有cpu进行并行计算。

建立模型

model = RandomForestRegressor(n_estimators=10,max_depth=10,min_samples_split=2,min_samples_leaf=1,n_jobs=-1) # 实例化模型，并指定重要参数
model.fit(train_x,train_y) # 训练模型

保存模型

with open('./random_forest_model.pkl', 'wb') as file:
    pickle.dump(model, file)

加载模型

with open('random_forest_model.pkl', 'rb') as file:
    loaded_model = pickle.load(file)

模型预测

test_pred = loaded_model.predict(test_x)

结果

生成submit结果

ans_str_lst = ['rxnid,Yield']
for idx,y in enumerate(test_pred):
    ans_str_lst.append(f'test{idx+1},{y:.4f}')
with open('./submit.txt','w') as fw:
    fw.writelines('\n'.join(ans_str_lst))

成绩