帶有odeint和VexCL的Lorenz示例在不同設備上產生不同的結果

Question

更新：

我已經在其他系統上運行了該示例。 在Intel i7-3630QM，Intel HD4000和Radeon HD 7630M上，所有結果均相同。 對於i7-4700MQ / 4800MQ，從32位gcc使用OpenCL或64位gcc時，CPU的結果是不同的。 這是默認情況下使用SSE的64位gcc和OpenCl以及使用387數學的32位gcc的結果，當設置-mfpmath = 387時，至少64位gcc會產生相同的結果。 因此，我必須閱讀更多內容並嘗試使用x86浮點。 謝謝大家的答案。

---

我已經運行了“編程CUDA和OpenCL：使用現代C ++庫的案例研究”中的Lorenz系統示例，該示例針對十個分別位於不同OpenCL設備上的系統，並獲得了不同的結果：

1. Quadro K1100M（NVIDIA CUDA）

   R => xyz
   0.100000 => -0.000000 -0.000000 0.000000
   5.644444 => -3.519254 -3.519250 4.644452
   11.188890 => 5.212534 5.212530 10.188904
   16.733334 => 6.477303 6.477297 15.733333
   

   22.277779 => 3.178553 2.579687 17.946903
   27.822224 => 5.008720 7.753564 16.377680
   33.366669 => -13.381100 -15.252210 36.107887
   38.911114 => 4.256534 6.813675 ​​23.838787
   44.455555 => -11.083726 0.691549 53.632290
   50.000000 => -8.624105 -15.728293 32.516193
   

2. 英特爾（R）高清顯卡4600（英特爾（R）OpenCL）

   R => xyz
   0.100000 => -0.000000 -0.000000 0.000000
   5.644444 => -3.519253 -3.519250 4.644451
   11.188890 => 5.212531 5.212538 10.188890
   16.733334 => 6.477320 6.477326 15.733339
   

   22.277779 => 7.246771 7.398651 20.735369
   27.822224 => -6.295782 -10.615027 14.646572
   33.366669 => -4.132523 -7.773201 14.292910
   38.911114 => 14.183139 19.582197 37.943520
   44.455555 => -3.129006 7.564254 45.736408
   50.000000 => -9.146419 -17.006729 32.976696
   

3. 英特爾®酷睿TM i7-4800MQ CPU @ 2.70GHz（英特爾（R）OpenCL）

   R => xyz
   0.100000 => -0.000000 -0.000000 0.000000
   5.644444 => -3.519254 -3.519251 4.644453
   11.188890 => 5.212513 5.212507 10.188900
   16.733334 => 6.477303 6.477296 15.733332
   

   22.277779 => -8.295195 -8.198518 22.271002
   27.822224 => -4.329878 -4.022876 22.573458
   33.366669 => 9.702943 3.997370 38.659538
   38.911114 => 16.105495 14.401397 48.537579
   44.455555 => -12.551083 -9.239071 49.378693
   50.000000 => 7.377638 3.447747 47.542763
   

如您所見，這三個設備在R = 16.733334以下的值上達成一致，然后開始分歧。

我在沒有VexCL的情況下使用odeint運行了相同的區域，並且在CPU運行時得到的結果接近OpenCL的結果：

香草頌

R => x y z
16.733334 => 6.47731 6.47731 15.7333
22.277779 =>  -8.55303 -6.72512 24.7049
27.822224 => 3.88874 3.72254 21.8227

示例代碼可在此處找到： https : //github.com/ddemidov/gpgpu_with_modern_cpp/blob/master/src/lorenz_ensemble/vexcl_lorenz_ensemble.cpp

我不確定在這里看到什么？ 由於CPU的結果是如此接近，因此看起來GPU似乎是一個問題，但是由於我是OpenCL新手，因此我需要一些指針來查找這種情況的根本原因。

Answer 1

您必須了解GPU的准確性要低於CPU。 這是很常見的，因為GPU是為游戲而設計的，而精確值不是設計目標。

通常，GPU精度為32位。 盡管CPU內部具有48或64位精度的數學運算，即使隨后將結果削減為32位存儲。

---

您正在運行的操作在很大程度上取決於這些小差異，從而為每個設備創建不同的結果。 例如，此操作也會基於准確性產生非常不同的結果：

a=1/(b-c); 
a=1/(b-c); //b = 1.00001, c = 1.00002  -> a = -100000
a=1/(b-c); //b = 1.0000098, c = 1.000021  -> a = -89285.71428

在您自己的結果中，即使對於低R值，您也可以看到每個設備的不同之處：

5.644444 => -3.519254 -3.519250 4.644452
5.644444 => -3.519253 -3.519250 4.644451
5.644444 => -3.519254 -3.519251 4.644453

但是，您聲明“對於低值，結果達到R=16 ，然后開始發散”。 好吧，這取決於，因為即使對於R=5.64 ，它們也不完全相等。

Answer 2

我創建了一個stackoverflow-23805423分支來對此進行測試。 以下是不同設備的輸出。 請注意，CPU和AMD GPU均具有一致的結果。 Nvidia GPU也具有一致的結果，只是不同之處。 這個問題似乎與以下問題有關： NVIDIA GPU（sm_13）上的IEEE-754標准

```

1. Intel(R) Core(TM) i7 CPU         920  @ 2.67GHz (Intel(R) OpenCL)

R = {
     0:  5.000000e+00  1.000000e+01  1.500000e+01  2.000000e+01  2.500000e+01
     5:  3.000000e+01  3.500000e+01  4.000000e+01  4.500000e+01  5.000000e+01
}

X = {
     0: ( -3.265986e+00 -3.265986e+00  4.000000e+00) (  4.898979e+00  4.898979e+00  9.000000e+00)
     2: (  6.110101e+00  6.110101e+00  1.400000e+01) ( -7.118047e+00 -7.118044e+00  1.900000e+01)
     4: (  9.392907e-01  1.679711e+00  1.455276e+01) (  5.351486e+00  1.051580e+01  9.403333e+00)
     6: ( -1.287673e+01 -2.096754e+01  2.790419e+01) ( -6.555650e-01 -2.142401e+00  2.721632e+01)
     8: (  2.711249e+00  2.540842e+00  3.259012e+01) ( -4.936437e+00  8.534876e-02  4.604861e+01)
}

1. Intel(R) Core(TM) i5-3570K CPU @ 3.40GHz (AMD Accelerated Parallel Processing)

R = {
     0:  5.000000e+00  1.000000e+01  1.500000e+01  2.000000e+01  2.500000e+01
     5:  3.000000e+01  3.500000e+01  4.000000e+01  4.500000e+01  5.000000e+01
}

X = {
     0: ( -3.265986e+00 -3.265986e+00  4.000000e+00) (  4.898979e+00  4.898979e+00  9.000000e+00)
     2: (  6.110101e+00  6.110101e+00  1.400000e+01) ( -7.118047e+00 -7.118044e+00  1.900000e+01)
     4: (  9.392907e-01  1.679711e+00  1.455276e+01) (  5.351486e+00  1.051580e+01  9.403333e+00)
     6: ( -1.287673e+01 -2.096754e+01  2.790419e+01) ( -6.555650e-01 -2.142401e+00  2.721632e+01)
     8: (  2.711249e+00  2.540842e+00  3.259012e+01) ( -4.936437e+00  8.534876e-02  4.604861e+01)
}

1. Capeverde (AMD Accelerated Parallel Processing)

R = {
     0:  5.000000e+00  1.000000e+01  1.500000e+01  2.000000e+01  2.500000e+01
     5:  3.000000e+01  3.500000e+01  4.000000e+01  4.500000e+01  5.000000e+01
}

X = {
     0: ( -3.265986e+00 -3.265986e+00  4.000000e+00) (  4.898979e+00  4.898979e+00  9.000000e+00)
     2: (  6.110101e+00  6.110101e+00  1.400000e+01) ( -7.118047e+00 -7.118044e+00  1.900000e+01)
     4: (  9.392907e-01  1.679711e+00  1.455276e+01) (  5.351486e+00  1.051580e+01  9.403333e+00)
     6: ( -1.287673e+01 -2.096754e+01  2.790419e+01) ( -6.555650e-01 -2.142401e+00  2.721632e+01)
     8: (  2.711249e+00  2.540842e+00  3.259012e+01) ( -4.936437e+00  8.534876e-02  4.604861e+01)
}

1. Tesla C1060 (NVIDIA CUDA)

R = {
     0:  5.000000e+00  1.000000e+01  1.500000e+01  2.000000e+01  2.500000e+01
     5:  3.000000e+01  3.500000e+01  4.000000e+01  4.500000e+01  5.000000e+01
}

X = {
     0: ( -3.265986e+00 -3.265986e+00  4.000000e+00) (  4.898979e+00  4.898979e+00  9.000000e+00)
     2: (  6.110101e+00  6.110101e+00  1.400000e+01) ( -7.118047e+00 -7.118044e+00  1.900000e+01)
     4: (  7.636878e+00  2.252859e+00  2.964935e+01) (  1.373357e+01  8.995382e+00  3.998563e+01)
     6: (  7.163476e+00  8.802735e+00  2.839662e+01) ( -5.536365e+00 -5.997181e+00  3.191463e+01)
     8: ( -2.762679e+00 -5.167883e+00  2.324565e+01) (  2.776211e+00  4.734162e+00  2.949507e+01)
}

1. Tesla K20c (NVIDIA CUDA)

R = {
     0:  5.000000e+00  1.000000e+01  1.500000e+01  2.000000e+01  2.500000e+01
     5:  3.000000e+01  3.500000e+01  4.000000e+01  4.500000e+01  5.000000e+01
}

X = {
     0: ( -3.265986e+00 -3.265986e+00  4.000000e+00) (  4.898979e+00  4.898979e+00  9.000000e+00)
     2: (  6.110101e+00  6.110101e+00  1.400000e+01) ( -7.118047e+00 -7.118044e+00  1.900000e+01)
     4: (  7.636878e+00  2.252859e+00  2.964935e+01) (  1.373357e+01  8.995382e+00  3.998563e+01)
     6: (  7.163476e+00  8.802735e+00  2.839662e+01) ( -5.536365e+00 -5.997181e+00  3.191463e+01)
     8: ( -2.762679e+00 -5.167883e+00  2.324565e+01) (  2.776211e+00  4.734162e+00  2.949507e+01)
}

1. Tesla K40c (NVIDIA CUDA)

R = {
     0:  5.000000e+00  1.000000e+01  1.500000e+01  2.000000e+01  2.500000e+01
     5:  3.000000e+01  3.500000e+01  4.000000e+01  4.500000e+01  5.000000e+01
}

X = {
     0: ( -3.265986e+00 -3.265986e+00  4.000000e+00) (  4.898979e+00  4.898979e+00  9.000000e+00)
     2: (  6.110101e+00  6.110101e+00  1.400000e+01) ( -7.118047e+00 -7.118044e+00  1.900000e+01)
     4: (  7.636878e+00  2.252859e+00  2.964935e+01) (  1.373357e+01  8.995382e+00  3.998563e+01)
     6: (  7.163476e+00  8.802735e+00  2.839662e+01) ( -5.536365e+00 -5.997181e+00  3.191463e+01)
     8: ( -2.762679e+00 -5.167883e+00  2.324565e+01) (  2.776211e+00  4.734162e+00  2.949507e+01)
}

```