NLP理论实践问题记录

Task1 问题

1 当训练样本很多的时候，每次打开程序再次读取都要耗费很长的时间，持久化的话可否压缩占用的空间，有没有更好地节约时间的方法？

1、pickle保存是模型保存
2、正确的回答：数据量大是一个模糊的概念。如果数据量小于内存的大小。一次读的问题不大。只不过在代码调试阶段使用小数据调试。正式运行使用全部数据。如果数据量大于内存的大小。可以使用批量读取的方式，或者先编写一个程序把大文件分成若干份。同时，在开发中，数据库使用的越来越多。如果把数据文件提前写入数据库。则可以使用并行的方式批量处理数据。完成数据预处理等过程。这些都是可以使用的方式。

2 训练好的模型怎么保存及重新调用

keras模型主要分为model和weight两个部分
#保存模型
##仅保存权重HDF5文件
model.save_weights(“model.h5”)
##保存整个模型及结构
model.save(‘model_weight.h5’)

#加载模型#
##载入权重
loaded_model.load_weights(“model.h5”)
##载入整个模型结构
model = load_model(‘model.h5’)

https://blog.csdn.net/sjtuxx_lee/article/details/80399514

#tensorflow设置模型储存前10
sess = tf.Session()
model_path = ‘’ #保存的模型路径
saver = tf.train.Saver(max_to_keep=10)
saver.save(sess, model_path)
模型的恢复用restore()函数
saver.restore(sess, model_path)

每次训练后，计算 F1值，然后和之前最优的 F1 值进行比较，如果大于的话，就对该模型进行保存。

3 TensorFlow 2.0和1.0的选择

Google在最近推出了全新的版本TensorFlow 2.0，2.0版本相比1.0版本不是简单地更新，而是一次重大升级（虽然目前只发布了preview版本）。简单地来说，TensorFlow 2.0默认采用eager执行模式，而且重整了很多混乱的模块。毫无疑问，2.0版本将会逐渐替换1.0版本。

但是按先阶段的行情来看， tf 1 还是 很多开发者的主要工具，所以 tf 1 到 tf 2 还是一个过渡过程，建议先学 tf1 ,成熟的资料比价多

4 cnews_loader中的batch_iter方法，默认batch_size默认64，模型代码中验证使用了128，没见过用100，200这种随机的，batchsize选择的依据是什么？

batchsize不是必须为2的幂次，不过一般都是按照2的幂次的方式来设定。一般来说都是解释:
计算机中CPU和GPU的memory都是2进制方式存储，将batchsize设置成2的幂次可以加快二进制的计算。