【无标题】ngram

from collections import Counter

def generate_ngrams(text, n):
    # 将文本拆分成单词
    words = text.split()
    
    # 创建一个空列表来存储N-gram
    ngrams = []
    
    # 用于生成N-gram的循环
    for i in range(len(words) - n + 1):
        # 将连续的n个单词连接成一个N-gram
        ngram = ' '.join(words[i:i + n])
        ngrams.append(ngram)
    
    return ngrams

def count_ngrams(ngrams):
    # 使用Counter统计N-gram的频率
    return Counter(ngrams)

# 示例文本
text = "The quick brown fox jumps over the lazy dog. The quick brown fox is fast."

# 生成和统计二元组(bigram)
n = 2
bigrams = generate_ngrams(text, n)
bigram_freq = count_ngrams(bigrams)

# 输出结果
print("Bigrams and their frequencies:")
for bigram, freq in bigram_freq.items():
    print(f"{bigram}: {freq}")

# 生成和统计三元组(trigram)
n = 3
trigrams = generate_ngrams(text, n)
trigram_freq = count_ngrams(trigrams)

# 输出结果
print("\nTrigrams and their frequencies:")
for trigram, freq in trigram_freq.items():
    print(f"{trigram}: {freq}")

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值