本文主要介绍了java实现读取文章中重复出现的中文字符串的方法。具有很好的参考价值。下面跟着小编一起来看下吧
在上个星期阿里巴巴一面的时候，最后面试官问我如何把一篇文章中重复出现的词或者句子找出来，当时太紧张，答的不是很好。今天有时间再来亲手实现一遍。其实说白了也就是字符串的处理，所以难度并不是很大。
以下是代码和运行效果：
实现方法：
import java.io.*;
import java.util.*;
/**
* Created by chunmiao on 17-3-20.
*/
public class ReadArticle {
//读取文件名称
private String filename;
//读取段落
private ArrayList result = new ArrayList<>();
//最小字长（两个字以上进行匹配）
private final int MINSIZE = 2;
//重复词储存
HashSet set;
public ReadArticle(String filename, HashSet set) {
this.filename = filename;
this.set = set;
}
public void createData() throws IOException {
String r;
//读取文章内容
BufferedReader in = new BufferedReader(new FileReader(new File(filename).getAbsoluteFile()));
try {
while ((r = in.readLine()) != null) {
//消除不必要的标点符号
r = r.replaceAll("\\s+ |“|\\[|‘|《| *|", "").trim();
//留下” ， 。 。” ”。 ”， ？ 》 -等作为划分句子的分割符标示
Collections.addAll(result, r.split("，|(。”|”(。|，)|。)|(\\])|”|'|？|:|》|-"));
}
}finally {
in.close();
}
//对文章内容进行遍历找出重读出现的句子或者是词语
for (int i = 0 ; i < result.size() - 1; i ++){
for (int j = 0 ; j < result.size() - i - 1; j ++) {
//将重复出现的词语保存到set集合里面
set.addAll(getSameCharacter(result.get(i), result.get(j + i + 1)));
}
}
}
private ArrayList getSameCharacter(String a1, String a2){
String maxS;
String minS;
//短句遍历开始处
int start = 0;
//词的长度最短为两个字长
int range =2;
//设定短句和长句s,使得遍历更加快捷
if (a1.length() <= a2.length()){
maxS = a2;
minS = a1;
}else {
maxS = a1;
minS = a2;
}
String result = "";
ArrayList list = new ArrayList();
//防止substring时超出范围
while (start + range <= minS.length()) {
//如果句子或词在对象里面，则找出相应的句子或词保存在list里面
if (maxS.indexOf(minS.substring(start, start + range)) != -1) {
//获取最长句子,删除短句子
list.remove(result);
list.add(minS.substring(start, start + range));
result = minS.substring(start, start + range);
range++;
continue;
}
range = MINSIZE;
start++;
}
return list;
}
} 测试代码：
立即学习“Java免费学习笔记（深入）”；
import java.io.IOException;
import java.util.HashSet;
public class Main {
public static void main(String[] args) throws IOException {
String filename = "test.txt";
HashSet result = new HashSet();
ReadArticle read = new ReadArticle(filename,result);
read.createData();
System.out.println("这篇文章中的重复出现的词或句子有以下几个词或句子:\n");
for (String s : result){
System.out.println(s);
}
}
} 读取的文章内容：
正则匹配结果（去掉多余字符）：
字符串转换成ArrayList:
最终处理结果：
其实从上面的结果可以看出。单纯的操控字符串并不能判断它是否是一个完整的词和句，应该还要配合数据库字典来匹配上面的结果，从而找出真正的词和句
