为什么 StringBuilder#append(int) 在 Java 7 中比在 Java 8 中更快?

2022-08-31 13:12:26

在调查一些辩论w.r.t.使用和Integer.toString(int)将整数基元转换为字符串时,我写了这个JMH微基准标记:"" + n

@Fork(1)
@OutputTimeUnit(TimeUnit.MILLISECONDS)
@State(Scope.Benchmark)
public class IntStr {
    protected int counter;


    @GenerateMicroBenchmark
    public String integerToString() {
        return Integer.toString(this.counter++);
    }

    @GenerateMicroBenchmark
    public String stringBuilder0() {
        return new StringBuilder().append(this.counter++).toString();
    }

    @GenerateMicroBenchmark
    public String stringBuilder1() {
        return new StringBuilder().append("").append(this.counter++).toString();
    }

    @GenerateMicroBenchmark
    public String stringBuilder2() {
        return new StringBuilder().append("").append(Integer.toString(this.counter++)).toString();
    }

    @GenerateMicroBenchmark
    public String stringFormat() {
        return String.format("%d", this.counter++);
    }

    @Setup(Level.Iteration)
    public void prepareIteration() {
        this.counter = 0;
    }
}

我使用默认的JMH选项运行它,其中包含Linux机器上存在的两个Java虚拟机(最新的Mageia 4 64位,Intel i7-3770 CPU,32GB RAM)。第一个JVM是Oracle JDK 8u5 64位提供的JVM:

java version "1.8.0_05"
Java(TM) SE Runtime Environment (build 1.8.0_05-b13)
Java HotSpot(TM) 64-Bit Server VM (build 25.5-b02, mixed mode)

有了这个JVM,我得到了我所期望的:

Benchmark                    Mode   Samples         Mean   Mean error    Units
b.IntStr.integerToString    thrpt        20    32317.048      698.703   ops/ms
b.IntStr.stringBuilder0     thrpt        20    28129.499      421.520   ops/ms
b.IntStr.stringBuilder1     thrpt        20    28106.692     1117.958   ops/ms
b.IntStr.stringBuilder2     thrpt        20    20066.939     1052.937   ops/ms
b.IntStr.stringFormat       thrpt        20     2346.452       37.422   ops/ms

即,由于创建对象和附加空字符串的额外开销,因此使用类的速度较慢。使用速度甚至慢一个数量级左右。StringBuilderStringBuilderString.format(String, ...)

另一方面,发行版提供的编译器基于OpenJDK 1.7:

java version "1.7.0_55"
OpenJDK Runtime Environment (mageia-2.4.7.1.mga4-x86_64 u55-b13)
OpenJDK 64-Bit Server VM (build 24.51-b03, mixed mode)

这里的结果很有趣

Benchmark                    Mode   Samples         Mean   Mean error    Units
b.IntStr.integerToString    thrpt        20    31249.306      881.125   ops/ms
b.IntStr.stringBuilder0     thrpt        20    39486.857      663.766   ops/ms
b.IntStr.stringBuilder1     thrpt        20    41072.058      484.353   ops/ms
b.IntStr.stringBuilder2     thrpt        20    20513.913      466.130   ops/ms
b.IntStr.stringFormat       thrpt        20     2068.471       44.964   ops/ms

为什么这个JVM出现得更快?查看类源代码,发现没有什么特别有趣的 - 所讨论的方法几乎与.有趣的是,附加结果(微基准标记)似乎并不快。StringBuilder.append(int)StringBuilderInteger#toString(int)Integer.toString(int)stringBuilder2

这种性能差异是否是测试工具的问题?或者我的OpenJDK JVM是否包含会影响此特定代码(反)模式的优化?

编辑:

为了进行更直接的比较,我安装了Oracle JDK 1.7u55:

java version "1.7.0_55"
Java(TM) SE Runtime Environment (build 1.7.0_55-b13)
Java HotSpot(TM) 64-Bit Server VM (build 24.55-b03, mixed mode)

结果与OpenJDK的结果相似:

Benchmark                    Mode   Samples         Mean   Mean error    Units
b.IntStr.integerToString    thrpt        20    32502.493      501.928   ops/ms
b.IntStr.stringBuilder0     thrpt        20    39592.174      428.967   ops/ms
b.IntStr.stringBuilder1     thrpt        20    40978.633      544.236   ops/ms

这似乎是一个更普遍的Java 7与Java 8的问题。也许Java 7有更激进的字符串优化?

编辑2

为完整起见,以下是这两个 JVM 的字符串相关 VM 选项:

对于 Oracle JDK 8u5:

$ /usr/java/default/bin/java -XX:+PrintFlagsFinal 2>/dev/null | grep String
     bool OptimizeStringConcat                      = true            {C2 product}
     intx PerfMaxStringConstLength                  = 1024            {product}
     bool PrintStringTableStatistics                = false           {product}
    uintx StringTableSize                           = 60013           {product}

对于 OpenJDK 1.7:

$ java -XX:+PrintFlagsFinal 2>/dev/null | grep String
     bool OptimizeStringConcat                      = true            {C2 product}        
     intx PerfMaxStringConstLength                  = 1024            {product}           
     bool PrintStringTableStatistics                = false           {product}           
    uintx StringTableSize                           = 60013           {product}           
     bool UseStringCache                            = false           {product}   

该选项在Java 8中被删除,没有替换,所以我怀疑这有什么区别。其余选项似乎具有相同的设置。UseStringCache

编辑3:

并排比较 的源代码和 文件中的类,没有发现任何值得注意的结果。除了大量的修饰和文档更改之外,现在还对无符号整数提供了一些支持,并且已经过略微重构,以便与 共享更多代码。这些更改似乎都不会影响 所使用的代码路径,尽管我可能遗漏了一些东西。AbstractStringBuilderStringBuilderIntegersrc.zipIntegerStringBuilderStringBufferStringBuilder#append(int)

比较为 生成的程序集代码,并且更有趣。生成的代码的基本布局对于两个JVM都是相似的,尽管Oracle JDK 8u5似乎更积极地在代码中内联一些调用。与Java源代码有明确的对应关系,即使对于汇编经验最少的人来说也是如此。IntStr#integerToString()IntStr#stringBuilder0()IntStr#integerToString()Integer#toString(int)

然而,的汇编代码是完全不同的。Oracle JDK 8u5生成的代码再次与Java源代码直接相关 - 我可以很容易地识别出相同的布局。相反,OpenJDK 7生成的代码对于未经训练的眼睛(就像我的眼睛一样)几乎是无法识别的。调用似乎已被删除,在构造函数中创建数组也是如此。此外,反汇编器插件无法像在JDK 8中那样提供对源代码的引用。IntStr#stringBuilder0()new StringBuilder()StringBuilder

我假设这要么是OpenJDK 7中更积极的优化过程的结果,要么是为某些操作插入手写的低级代码的结果。我不确定为什么在我的JVM 8实现中没有发生这种优化,或者为什么在JVM 7中没有实现相同的优化。我猜熟悉JRE源代码相关部分的人必须回答这些问题......StringBuilderInteger#toString(int)


答案 1

TL;DR:副作用显然破坏了StringConcat的优化。append

非常好的分析在原来的问题和更新!

为完整起见,以下是一些缺失的步骤:

  • 查看 7u55 和 8u5。在 7u55 中,您将看到如下所示的内容:-XX:+PrintInlining

     @ 16   org.sample.IntStr::inlineSideEffect (25 bytes)   force inline by CompilerOracle
       @ 4   java.lang.StringBuilder::<init> (7 bytes)   inline (hot)
       @ 18   java.lang.StringBuilder::append (8 bytes)   already compiled into a big method
       @ 21   java.lang.StringBuilder::toString (17 bytes)   inline (hot)
    

    ...和 8u5 中:

     @ 16   org.sample.IntStr::inlineSideEffect (25 bytes)   force inline by CompilerOracle
       @ 4   java.lang.StringBuilder::<init> (7 bytes)   inline (hot)
         @ 3   java.lang.AbstractStringBuilder::<init> (12 bytes)   inline (hot)
           @ 1   java.lang.Object::<init> (1 bytes)   inline (hot)
       @ 18   java.lang.StringBuilder::append (8 bytes)   inline (hot)
         @ 2   java.lang.AbstractStringBuilder::append (62 bytes)   already compiled into a big method
       @ 21   java.lang.StringBuilder::toString (17 bytes)   inline (hot)
         @ 13   java.lang.String::<init> (62 bytes)   inline (hot)
           @ 1   java.lang.Object::<init> (1 bytes)   inline (hot)
           @ 55   java.util.Arrays::copyOfRange (63 bytes)   inline (hot)
             @ 54   java.lang.Math::min (11 bytes)   (intrinsic)
             @ 57   java.lang.System::arraycopy (0 bytes)   (intrinsic)
    

    您可能会注意到 7u55 版本较浅,并且看起来在方法之后不调用任何内容 - 这很好地表明字符串优化正在生效。实际上,如果运行 7u55 with ,子调用将重新出现,并且性能会下降到 8u5 级别。StringBuilder-XX:-OptimizeStringConcat

  • 好吧,所以我们需要弄清楚为什么8u5不做同样的优化。Grep“StringBuilder”http://hg.openjdk.java.net/jdk9/jdk9/hotspot,以确定VM处理StringConcat优化的位置;这会让你进入src/share/vm/opto/stringopts.cpp

  • hg log src/share/vm/opto/stringopts.cpp找出那里的最新变化。其中一位候选人是:

    changeset:   5493:90abdd727e64
    user:        iveresov
    date:        Wed Oct 16 11:13:15 2013 -0700
    summary:     8009303: Tiered: incorrect results in VM tests stringconcat...
    
  • 在OpenJDK邮件列表上查找评论线程(很容易谷歌搜索变更集摘要):http://mail.openjdk.java.net/pipermail/hotspot-compiler-dev/2013-October/012084.html

  • 斑点“字符串连接优化优化折叠模式[...]转换为字符串的单个分配并直接形成结果。优化代码中可能发生的所有可能的取消选项都从头开始(从 StringBuffer 分配开始)重新启动此模式。这意味着整个模式必须我没有副作用。尤里卡?

  • 写出对比鲜明的基准测试:

    @Fork(5)
    @Warmup(iterations = 5)
    @Measurement(iterations = 5)
    @BenchmarkMode(Mode.AverageTime)
    @OutputTimeUnit(TimeUnit.NANOSECONDS)
    @State(Scope.Benchmark)
    public class IntStr {
        private int counter;
    
        @GenerateMicroBenchmark
        public String inlineSideEffect() {
            return new StringBuilder().append(counter++).toString();
        }
    
        @GenerateMicroBenchmark
        public String spliceSideEffect() {
            int cnt = counter++;
            return new StringBuilder().append(cnt).toString();
        }
    }
    
  • 在 JDK 7u55 上测量它,看到内联/拼接副作用的相同性能:

    Benchmark                       Mode   Samples         Mean   Mean error    Units
    o.s.IntStr.inlineSideEffect     avgt        25       65.460        1.747    ns/op
    o.s.IntStr.spliceSideEffect     avgt        25       64.414        1.323    ns/op
    
  • 在 JDK 8u5 上测量它,看到内联效果的性能下降:

    Benchmark                       Mode   Samples         Mean   Mean error    Units
    o.s.IntStr.inlineSideEffect     avgt        25       84.953        2.274    ns/op
    o.s.IntStr.spliceSideEffect     avgt        25       65.386        1.194    ns/op
    
  • 提交错误报告(https://bugs.openjdk.java.net/browse/JDK-8043677)以与 VM 人员讨论此行为。原始修复的基本原理是坚如磐石的,但是如果我们能够/应该在一些微不足道的情况下恢复这种优化,这很有趣。

  • ???

  • 利润。

是的,我应该发布基准测试的结果,该基准测试将增量从链中移出,在整个链之前进行。此外,切换到平均时间和 ns/op。这是 JDK 7u55:StringBuilder

Benchmark                      Mode   Samples         Mean   Mean error    Units
o.s.IntStr.integerToString     avgt        25      153.805        1.093    ns/op
o.s.IntStr.stringBuilder0      avgt        25      128.284        6.797    ns/op
o.s.IntStr.stringBuilder1      avgt        25      131.524        3.116    ns/op
o.s.IntStr.stringBuilder2      avgt        25      254.384        9.204    ns/op
o.s.IntStr.stringFormat        avgt        25     2302.501      103.032    ns/op

这是8u5:

Benchmark                      Mode   Samples         Mean   Mean error    Units
o.s.IntStr.integerToString     avgt        25      153.032        3.295    ns/op
o.s.IntStr.stringBuilder0      avgt        25      127.796        1.158    ns/op
o.s.IntStr.stringBuilder1      avgt        25      131.585        1.137    ns/op
o.s.IntStr.stringBuilder2      avgt        25      250.980        2.773    ns/op
o.s.IntStr.stringFormat        avgt        25     2123.706       25.105    ns/op

stringFormat实际上在8u5中更快一些,所有其他测试都是一样的。这巩固了原始问题中主要罪魁祸首SB链中副作用断裂的假设。


答案 2

我认为这与控制字节码何时由JIT编译为机器代码的标志有关。CompileThreshold

Oracle JDK 的默认计数为 10,000 作为文档,http://www.oracle.com/technetwork/java/javase/tech/vmoptions-jsp-140102.html

在OpenJDK的地方,我找不到这个标志上的最新文档;但一些邮件线程建议一个低得多的阈值:http://mail.openjdk.java.net/pipermail/hotspot-compiler-dev/2010-November/004239.html

另外,请尝试打开/关闭Oracle JDK标志,如和。我不确定这些标志是否默认在OpenJDK上打开。有人可以建议。-XX:+UseCompressedStrings-XX:+OptimizeStringConcat

你可以做的一个实验是,首先运行程序很多次,比如30,000个循环,做一个System.gc(),然后尝试查看性能。我相信它们也会产生同样的结果。

我假设你的GC设置也是一样的。否则,您将分配大量对象,而 GC 很可能是运行时的主要部分。


推荐