代码
# 读取文件fn = open(\'youxi.txt\', \'rt\', encoding=\'utf-8\') # 打开文件string_data = fn.read() # 读出整个文件fn.close() # 关闭文件# 文本预处理pattern = re.compile(u\'\\t|\\n|\\.|-|:|;|\\)|\\(|\\?|\"\') # 定义正则表达式匹配模式string_data = re.sub(pattern, \'\', string_data) # 将符合模式的字符去除# 文本分词seg_list_exact = jieba.cut(string_data, cut_all=False) # 精确模式分词object_list = []# 分词并去除停用词remove_words = set()fr = open(\'stopword.txt\', encoding = \'UTF-8\')for word in fr:remove_words.add(str(word).strip())fr.close()for word in seg_list_exact: # 循环读出每个分词if word not in remove_words: # 如果不在去除词库中object_list.append(word) # 分词追加到列表# 词频统计word_counts = collections.Counter(object_list) # 对分词做词频统计word_counts_top10 = word_counts.most_common(100) # 获取前100最高频的词print(word_counts_top10) # 输出检查
需要引入的库
import re # 正则表达式库import collections # 词频统计库import numpy as np # numpy数据处理库import jieba # 结巴分词
文件内容示例
处理结果示例(前100)