零基础入门NLP组队学习-Task2（赛题读取与分析）

NLP组队学习Day2

目录

• 数据读取

• 数据分析

  -句子长度分析 
  -新闻类别分布
  -字符分布统计
  -数据分析结论
  

• 本章作业

数据读取

昨天按照自己的方法读了一遍，今天根据官方的方法读了一遍。

数据分析

1.句子长度分析


2.新闻类别分布

在数据集中标签的对应的关系如下：{‘科技’: 0, ‘股票’: 1, ‘体育’: 2, ‘娱乐’: 3, ‘时政’: 4, ‘社会’: 5, ‘教育’: 6, ‘财经’: 7, ‘家居’: 8, ‘游戏’: 9, ‘房产’: 10, ‘时尚’: 11, ‘彩票’: 12, ‘星座’: 13}

从统计结果可以看出，赛题的数据集类别分布存在较为不均匀的情况。在训练集中科技类新闻最多，其次是股票类新闻，最少的新闻是星座新闻。

3.字符分布统计
接下来可以统计每个字符出现的次数，首先可以将训练集中所有的句子进行拼接进而划分为字符，并统计每个字符的个数。

（假装出结果了）
接下来还可以根据字在每个句子的出现情况，反推出标点符号。下面代码统计了不同字符在句子中出现的次数，其中字符3750，字符900和字符648在20w新闻的覆盖率接近99%，很有可能是标点符号。

4.数据分析结论
通过上述分析我们可以得出以下结论：

赛题中每个新闻包含的字符个数平均为1000个，还有一些新闻字符较长；

赛题中新闻类别分布不均匀，科技类新闻样本量接近4w，星座类新闻样本量不到1k；

赛题总共包括7000-8000个字符；

通过数据分析，我们还可以得出以下结论：
每个新闻平均字符个数较多，可能需要截断；

由于类别不均衡，会严重影响模型的精度；

本章作业

1.假设字符3750，字符900和字符648是句子的标点符号，请分析赛题每篇新闻平均由多少个句子构成？

平均每篇新闻由80.8个句子构成。
2.统计每类新闻中出现次数最多的字符