奇怪的杰克逊 非法字符 ((CTRL-CHAR,代码 0)) 映射减少合并器中的异常

2022-09-01 23:54:32

我有一个Map-Reduce作业,它有一个映射器,它获取一个记录并将其转换为一个对象,MyObject的一个实例,它使用Jackson编组到JSON。该值只是记录中的另一个文本字段。

映射器的相关部分如下所示:

ObjectMapper mapper = new ObjectMapper();
MyObject val = new MyObject();
val.setA(stringA);
val.setB(stringB);
Writer strWriter = new StringWriter();
mapper.writeValue(strWriter, val);
key.set(strWriter.toString());

映射器的输出被发送到组合器,该组合器取消绑定 JSON 对象并聚合键值对。它在概念上非常简单,如下所示:

public void reduce(Text key, Iterable<IntWritable> values, Context cxt) 
    throws IOException, InterruptedException {
    int count = 0;
    TermIndex x = _mapper.readValue(key.toString(), MyObject.class);
    for (IntWritable int : values) ++count;
    ...
    emit (key, value)
}

MyObject 类由两个字段(均为字符串)、get/set 方法和一个默认构造函数组成。其中一个字段存储基于 Web 爬网的文本片段,但始终是字符串。

public class MyObject {
  private String A;
  private String B;

  public MyObject() {}

  public String getA() {
    return A;
  }
  public void setA(String A) {
    this.A = A;
  }
  public String getB() {
    return B;
  } 
  public void setIdx(String B) {
    this.B = B;
  }
}

我的MapReduce作业似乎运行良好,直到它到达某些记录,我无法轻松访问这些记录(因为映射器正在从爬网中生成记录),并且正在引发以下异常:

Error: com.fasterxml.jackson.core.JsonParseException: 

    Illegal character ((CTRL-CHAR, code 0)): only regular white space (\r, \n, \t) is allowed between tokens
     at [Source: java.io.StringReader@5ae2bee7; line: 1, column: 3]

有人会对此的原因有任何建议吗?


答案 1
  • 您可以使用 Apache Commons 库中的 StringUtils 来转义字符串。
  • 或者,您可以在 JSON 封送处理之前有选择地替换字符串中的控制字符

你也可以参考这篇文章: 非法字符 - CTRL-CHAR


答案 2

我得到一个UTF-16编码的响应,在字节[]中的每个简单字符之后,有一个((CTRL-CHAR,代码0))看到屏幕

它对我有用:

StringUtils.toEncodedString(responseBodyAsByteArray, StandardCharsets.UTF_16LE)