• 信息领域热词分析系统--python过滤


    利用python过滤去没用的词语,过滤的词语存储在停用文件中。

    #创建停用词表
    def stopwordlist():
        stopwords=[line.strip() for line in open ('F:大数据大作业分词后的文件stopWord.txt','r').readlines()]
        return stopwords
    
    f=open(r"F:大数据大作业分词后的文件data2_xinxi.txt",'r')
    s=f.read()
    #切割文件中的字符串
    zifuchuan=s.split("
    ");#按行分割
    i=0
    stopwords=stopwordlist()
    zifuchuan2=[]#过滤后的信息
    zifuchuan3=[]
    for ss in zifuchuan:
          zifu=ss.split(" ")
          print(":"+zifu[0])
          if zifu[0].isdigit()==False:
             if zifu[0] not in stopwords:
                zifuchuan2.append(ss)
                zifuchuan3.append(zifu[0])
    
    #写入文件
    f1=open("F:大数据大作业分词后的文件data3_xinxi.txt",'a+')
    for z in zifuchuan2:
        f1.write(z)
        f1.write("
    ")
    f1.close()
    f2=open("F:大数据大作业分词后的文件data4_xinxi.txt",'a+')
    for z1 in zifuchuan3:
        f2.write(z1)
        f2.write("
    ")
    f2.close()
    本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利.
  • 相关阅读:
    0421 & SX2016
    HDU3948 & 回文树模板
    BZOJ 2152 & 点分治
    HDU5618 & CDQ分治
    CC countari & 分块+FFT
    ECF R9(632E) & FFT
    ECF R9(632E) & DP
    BZOJ的两道osu概率DP easy与osu
    BZOJ3197 & 组合乱搞
    转载 Rational Rose 的配置和破解
  • 原文地址:https://www.cnblogs.com/wl2017/p/10294424.html
Copyright © 2020-2023  润新知