1-3古诗内容提取json格式转jsonl

1、首先将json格式转换成jsonl格式文件,代码如下:

import json import jsonlines data = [] with open('poet.song.1000.json', 'r', encoding='utf-8') as file: value = json.load(file) data.append(value) with jsonlines.open('outputgusi.jsonl','w')as file1: file1.write_all(data)

import json
import jsonlines

data = []

with open('poet.song.1000.json', 'r', encoding='utf-8') as file:
    value = json.load(file)
    data.append(value)
with jsonlines.open('outputgusi.jsonl','w')as file1:
    file1.write_all(data)

2、读取jsonl格式文件

  根据文本内容分析,title为古诗的题目,paragraphs为古诗内容,其中title中有部分数据(首字母为句,不是古诗的名字,需要剔除),代码如下:

import json import jsonlines data = [] data_list = [] with open('outputgusi.jsonl', 'r', encoding='utf-8') as file: for line in file: data_list = json.loads(line) print (len(data_list)) for i in range(len(data_list)): if 'title' in data_list[i]: if data_list[i]['title'][0] !='句': value = {} value['instruction'] = '请根据古诗词的题目,回复古诗内容,要求对仗工整,押韵' value['input']=data_list[i]['title'] if 'paragraphs' in data_list[i]: value['output']=data_list[i]['paragraphs'] data.append(value) with jsonlines.open('outputgusi111.jsonl','w') as file: file.write_all(data)

import json
import jsonlines
data = []
data_list = []
with open('outputgusi.jsonl', 'r', encoding='utf-8') as file:
    for line in file:

        data_list = json.loads(line)
        print (len(data_list))
        for i in range(len(data_list)):

            if 'title' in data_list[i]:
                if data_list[i]['title'][0] !='句':
                    value = {}
                    value['instruction'] = '请根据古诗词的题目,回复古诗内容,要求对仗工整,押韵'
                    value['input']=data_list[i]['title']
                    if 'paragraphs' in data_list[i]:
                        value['output']=data_list[i]['paragraphs']
                    data.append(value)



with jsonlines.open('outputgusi111.jsonl','w') as file:
    file.write_all(data)
  • 7
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值