Lucene:异常 - 查询解析器在“某个单词”之后遇到<EOF>

2022-09-02 20:04:20

我正在研究一个分类问题,根据使用Lucene API的训练数据将产品评论分类为正面,负面或中性。

我正在使用一个 ArrayList of Review 对象 - “reviewList”,它在抓取网页时存储每个评审的属性。

然后使用索引器对包含“极性”和“评论内容”的评论属性进行索引。此后,根据索引对象,我需要对剩余的审阅对象进行分类。但在这样做时,有一个审阅对象,查询分析器在“审阅内容”中遇到 EOF 字符,因此终止。

导致错误的行已相应地注释 -

    IndexReader reader = IndexReader.open(FSDirectory.open(new File("index")));
    IndexSearcher searcher = new IndexSearcher(reader);
    Analyzer analyzer = new StandardAnalyzer(Version.LUCENE_31);
    QueryParser parser = new QueryParser(Version.LUCENE_31, "Review", analyzer);

    int length = Crawler.reviewList.size();
    for (int i = 200; i < length; i++) {
        String true_class;
        double r_stars = Crawler.reviewList.get(i).getStars();

        if (r_stars < 2.0) {
            true_class = "-1";
        } else if (r_stars > 3.0) {
            true_class = "1";
        } else {
            true_class = "0";
        }

        String[] reviewTokens = Crawler.reviewList.get(i).getReview().split(" ");
        String parsedReview = "";

        int j;

        for (j = 0; j < reviewTokens.length; j++) {
            if (reviewTokens[j] != null) {
                if (!((reviewTokens[j].contains("-")) || (reviewTokens[j].contains("!")))) {
                    parsedReview += reviewTokens[j] + " ";
                }
            } else {
                break;
            }
        }

        Query query = parser.parse(parsedReview); // CAUSING ERROR!!

        TopScoreDocCollector results = TopScoreDocCollector.create(5, true);
        searcher.search(query, results);
        ScoreDoc[] hits = results.topDocs().scoreDocs;

我已经手动解析了文本以删除导致错误的字符,除了检查下一个字符串是否为空...但错误仍然存在。

这是错误堆栈跟踪 -

Exception in thread "main" org.apache.lucene.queryParser.ParseException: Cannot parse 'I made the choice ... be all "thumbs ': Lexical error at line 1, column 938.  Encountered: <EOF> after : "\"thumbs "
at org.apache.lucene.queryParser.QueryParser.parse(QueryParser.java:216)
at Sentiment_Analysis.Classification.classify(Classification.java:58)
at Sentiment_Analysis.Main.main(Main.java:17)
Caused by: org.apache.lucene.queryParser.TokenMgrError: Lexical error at line 1, column 938.  Encountered: <EOF> after : "\"thumbs "
at org.apache.lucene.queryParser.QueryParserTokenManager.getNextToken(QueryParserTokenManager.java:1229)
at org.apache.lucene.queryParser.QueryParser.jj_scan_token(QueryParser.java:1709)
at org.apache.lucene.queryParser.QueryParser.jj_3R_2(QueryParser.java:1598)
at org.apache.lucene.queryParser.QueryParser.jj_3_1(QueryParser.java:1605)
at org.apache.lucene.queryParser.QueryParser.jj_2_1(QueryParser.java:1585)
at org.apache.lucene.queryParser.QueryParser.Clause(QueryParser.java:1280)
at org.apache.lucene.queryParser.QueryParser.Query(QueryParser.java:1266)
at org.apache.lucene.queryParser.QueryParser.Clause(QueryParser.java:1313)
at org.apache.lucene.queryParser.QueryParser.Query(QueryParser.java:1266)
at org.apache.lucene.queryParser.QueryParser.TopLevelQuery(QueryParser.java:1226)
at org.apache.lucene.queryParser.QueryParser.parse(QueryParser.java:206)
... 2 more
Java Result: 1

请帮我解决这个问题...已经用这个敲我的头几个小时了!


答案 1

您应该通过以下方式转义双引号和其他特殊字符

Query query = parser.parse(QueryParser.escape(parsedReview));

正如QueryParser.escape Javadoc所建议的那样,

返回一个字符串,其中 QueryParser 希望转义的字符由前面的“\”转义。


答案 2

我认识到这个问题。

在 Teradata 中声明之前声明工作正常,但在分析时会引发错误。GROUP BYWHERE

若要修复此问题,请将声明移到声明之后。GROUP BYWHERE


推荐