C++实现 搜狗实验室新闻语料抽取

搜狗实验室下载数据格式如下。要提取的内容为第二行中的类型,第四行中的标题,第五行中的内容。下面的方法是将所需要的数据抽取到1.txt文本中。


#include<fstream>

#include<iostream>
#include<string>
using namespace std;
int main()
{
ifstream infile("D://news.sohunews.010801.txt");//读文件流
ofstream outfile("D://1.txt");                  //写文件流
string str;                                     //定义字符串str
string result_str;                              //定义字符串result_str
int line_size = 0;                              //控制行数
while (getline(infile, str))                    //按行读取文件存储在str字符串中
{
line_size++;
if (line_size % 6 == 2)                     //如果行数等于2则提取新闻所属于的类别
{
string::size_type pos1, pos2;           //设置pos1 pos2来定位要截取的字符串的位置。
pos1 = str.find('/');                   //前面字符为'/'
pos2 = str.find(".sohu");               //后面字符串为.sohu
result_str = str.substr(pos1+2,pos2-pos1-2);   //substr(参数1,参数2)  参数1为开始截取的位置,参数2为截取的长度。
outfile << result_str << "###";                //输出内容到文件,以###作为分隔符。
}
if (line_size % 6 == 4)                    //行数为4时提取新闻的标题内容
{
string::size_type pos1, pos2;
pos1 = str.find('>');
pos2 = str.find("</");
result_str = str.substr(pos1 + 1, pos2-pos1-1);
outfile << result_str << "###";
}
if (line_size % 6 == 5)                     //行数为5提取新闻的正文内容
{
string::size_type pos1, pos2;
pos1 = str.find('>');
pos2 = str.find("</");
result_str = str.substr(pos1 + 1, pos2 - pos1 - 1);
outfile << result_str;
}
if (line_size % 6 == 0)                    //行数为6时输出一个换行符
{
outfile<< endl;
}
}
system("pause");

}

运行结果如下:


  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
本课程隶属于自然语言处理(NLP)实战系列。自然语言处理(NLP)是数据科学里的一个分支,它的主要覆盖的内容是:以一种智能与高效的方式,对文本数据进行系统化分析、理解与信息提取的过程。通过使用NLP以及它的组件,我们可以管理非常大块的文本数据,或者执行大量的自动化任务,并且解决各式各样的问题,如自动摘要,机器翻译,命名实体识别,关系提取,情感分析,语音识别,以及主题分割等等。一般情况下一个初级NLP工程师的工资从15万-35万不等,所以掌握NLP技术,对于人工智能学习者来讲是非常关键的一个环节。【超实用课程内容】 课程从自然语言处理的基本概念与基本任务出发,对目前主流的自然语言处理应用进行全面细致的讲解,包括文本分类,文本摘要提取,文本相似度,文本情感分析,文本特征提取等,同时算法方面包括经典算法与深度学习算法的结合,例如LSTM,BiLSTM等,并结合京东电商评论分类、豆瓣电影摘要提取、今日头条舆情挖掘、饿了么情感分析等过个案例,帮助大家熟悉自然语言处理工程师在工作会接触到的常见应用的实施的基本实施流程,从0-1入门变成自然语言处理研发工程师。 【课程如何观看?】 PC端:https://edu.csdn.net/course/detail/25649 移动端:CSDN 学院APP(注意不是CSDN APP哦)本课程为录播课,课程2年有效观看时长,大家可以抓紧时间学习后一起讨论哦~【学员专享增值服务】 源码开放课件、课程案例代码完全开放给你,你可以根据所学知识,自行修改、优化下载方式:电脑登录https://edu.csdn.net/course/detail/25649,点击右下方课程资料、代码、课件等打包下载通过第二课时下载材料

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值