性能说明:预热后代码运行速度较慢

2022-09-02 13:52:03

下面的代码运行完全相同的计算3次(它没有做太多事情:基本上将1到100m的所有数字相加)。前 2 个方块的运行速度比第三个区块快约 10 倍。我已经运行了这个测试程序超过10次,结果显示差异很小。

如果有的话,我希望第三个块运行得更快(JIT编译),但典型的输出是:

35974537
36368455
296471550

有人能解释一下发生了什么吗?(为了清楚起见,我不是想在这里修复任何东西,只是想更好地了解发生了什么)

注意:

  • 在程序期间不运行GC(监控-XX:+PrintGC)
  • 使用 Oracle JDK 版本 1.6.0_30、1.7.0_02 和 1.7.0_05 进行了测试
  • 还使用以下参数进行了测试:=>相同的结果-XX:+PrintGC -Xms1000m -Xmx1000m -XX:NewSize=900m
  • 相反,块被放入循环中,所有运行都很快
  • 如果将块提取到方法中,则所有运行都很快(无论该方法被调用3次还是在循环中都没有区别)
public static void main(String... args) {
    //three identical blocks
    {
        long start = System.nanoTime();
        CountByOne c = new CountByOne();
        int sum = 0;
        for (int i = 0; i < 100000000; i++) {
            sum += c.getNext();
        }
        if (sum != c.getSum()) throw new IllegalStateException(); //use sum
        long end = System.nanoTime();
        System.out.println((end - start));
    }
    {
        long start = System.nanoTime();
        CountByOne c = new CountByOne();
        int sum = 0;
        for (int i = 0; i < 100000000; i++) {
            sum += c.getNext();
        }
        if (sum != c.getSum()) throw new IllegalStateException(); //use sum
        long end = System.nanoTime();
        System.out.println((end - start));
    }
    {
        long start = System.nanoTime();
        CountByOne c = new CountByOne();
        int sum = 0;
        for (int i = 0; i < 100000000; i++) {
            sum += c.getNext();
        }
        if (sum != c.getSum()) throw new IllegalStateException(); //use sum
        long end = System.nanoTime();
        System.out.println((end - start));
    }
}

public static class CountByOne {

    private int i = 0;
    private int sum = 0;

    public int getSum() {
        return sum;
    }

    public int getNext() {
        i += 1;
        sum += i;
        return i;
    }
}

答案 1

简短:Just In Time 编译器是愚蠢的。

首先,您可以使用该选项查看JIT何时执行某些操作。然后你会看到这样的东西:-XX:+PrintCompilation

$ java -XX:+PrintCompilation weird
    168    1             weird$CountByOne::getNext (28 bytes)
    174    1 %           weird::main @ 18 (220 bytes)
    279    1 %           weird::main @ -2 (220 bytes)   made not entrant
113727636
    280    2 %           weird::main @ 91 (220 bytes)
106265475
427228826

因此,您会看到方法 main 有时在第一个和第二个块期间编译。

添加这些选项将为您提供有关 JIT 正在执行的操作的详细信息。注意,它需要的似乎在常见的Linux发行版上不是很好。你可能让 tom 从 OpenJDK 中自己编译它。-XX:+PrintCompilation -XX:+UnlockDiagnosticVMOptionhsdis-amd64.so

你得到的是一大块用于 getNext 和 main 的汇编程序代码。

对我来说,在第一次编译中,似乎只有main中的第一个块实际上被编译了,你可以通过行号来判断。它包含像这样有趣的事情:

  0x00007fa35505fc5b: add    $0x1,%r8           ;*ladd
                                                ; - weird$CountByOne::getNext@6 (line 12)
                                                ; - weird::main@28 (line 31)
  0x00007fa35505fc5f: mov    %r8,0x10(%rbx)     ;*putfield i
                                                ; - weird$CountByOne::getNext@7 (line 12)
                                                ; - weird::main@28 (line 31)
  0x00007fa35505fc63: add    $0x1,%r14          ;*ladd
                                                ; - weird::main@31 (line 31)

(实际上,由于循环的展开和内联,它很长)

在 main 的重新编译期间,将编译第二个和第三个块。那里的第二个块看起来与第一个版本非常相似。(再次只是摘录)

 0x00007fa35505f05d: add    $0x1,%r8           ;*ladd
                                                ; - weird$CountByOne::getNext@6 (line 12)
                                                ; - weird::main@101 (line 42)
  0x00007fa35505f061: mov    %r8,0x10(%rbx)     ;*putfield i
                                                ; - weird$CountByOne::getNext@7 (line 12)
                                                ; - weird::main@101 (line 42)
  0x00007fa35505f065: add    $0x1,%r13          ;*ladd

但是,第三个块的编译方式不同。无需内联和展开

这次整个循环如下所示:

  0x00007fa35505f20c: xor    %r10d,%r10d
  0x00007fa35505f20f: xor    %r8d,%r8d          ;*lload
                                                ; - weird::main@171 (line 53)
  0x00007fa35505f212: mov    %r8d,0x10(%rsp)
  0x00007fa35505f217: mov    %r10,0x8(%rsp)
  0x00007fa35505f21c: mov    %rbp,%rsi
  0x00007fa35505f21f: callq  0x00007fa355037c60  ; OopMap{rbp=Oop off=580}
                                                ;*invokevirtual getNext
                                                ; - weird::main@174 (line 53)
                                                ;   {optimized virtual_call}
  0x00007fa35505f224: mov    0x8(%rsp),%r10
  0x00007fa35505f229: add    %rax,%r10          ;*ladd
                                                ; - weird::main@177 (line 53)
  0x00007fa35505f22c: mov    0x10(%rsp),%r8d
  0x00007fa35505f231: inc    %r8d               ;*iinc
                                                ; - weird::main@180 (line 52)
  0x00007fa35505f234: cmp    $0x5f5e100,%r8d
  0x00007fa35505f23b: jl     0x00007fa35505f212  ;*if_icmpge
                                                ; - weird::main@168 (line 52)

我的猜测是,JIT确定这部分代码没有被大量使用,因为它使用了第二个块执行的分析信息,因此没有对其进行大量优化。此外,从某种意义上说,JIT似乎很懒惰,在编译完所有相关部分后不重新编译一个方法。请记住,第一个编译结果根本不包含第二个/第三个块的源代码,因此JIT必须重新编译它。


答案 2

您需要将每个循环放在不同的方法中。您需要这样做的原因是,JIT 收集有关代码运行方式的统计信息,这用于优化代码。但是,方法在调用 10000 次或循环运行 10000 次后进行优化。

在您的例子中,第一个循环触发要优化的整个方法,即使后面的循环尚未运行,因此没有收集统计信息。将每个循环放在自己的方法中,这不会发生。


推荐