Slurm 集群中的 R 代碼無法正確讀取

Question

我正在使用以下“.sh”文件在 Slurm 集群上運行 R 代碼：

#!/bin/bash
#SBATCH --partition=p_parallel
#SBATCH --nodes=1
#SBATCH --cpus-per-task=16
#SBATCH --workdir=/work/uder2/ODE/lancio/
module load statistics/r-3.6.1
srun Rscript   TEST.R

R 代碼非常簡單。 有時喜歡

DIRbase     = "/work/uder2/ODE/"
DIRdata     = paste(DIRbase,"data/",sep="")
list.files(DIRdata)
load(paste(DIRdata,"Data.Rdata",sep=""))


NAME = "PriorU" 
ialg = 3

nG  = 500  
LimEta = 40  

LimMu2  = 15 
LimMin = 500

LimMu = 0.1
LimSpike = 10
LimSigma2 = (8)^2/(-2*log(LimMu))*1.2


NAME = paste(NAME,"_ng",nG, sep="")

### ### ### ### ### ### ### ### 
### MODELS
### ### ### ### ### ### ### ### 

DATA = allGenesData
nrowData = nrow(DATA$premature)


sd1 = as.numeric(apply(DATA$premature,1,var))
sd2 = as.numeric(apply(DATA$mature,1,var))
sd3 = as.numeric(apply(DATA$nascent,1,var))

epsi = 0.000001
App = c(which(sd1<=epsi),which(sd2<=epsi),which(sd3<=epsi))
App2 = c(which(sd1>50),which(sd2>100000),which(sd3>1500))

minep = 0.1
xy1 = as.numeric(apply(DATA$premature,1,min))
xy2 = as.numeric(apply(DATA$mature,1,min))
xy3 = as.numeric(apply(DATA$nascent,1,min))
App3 = c(which(xy1<=minep),which(xy2<=minep),which(xy3<=minep))

實際上，代碼要長得多，但我認為文件的內容並不重要。

發生的情況是，有時代碼編寫不正確。 例如，代替

App3 = c(which(xy1<=minep),which(xy2<=minep),which(xy3<=minep))

已讀

App3  which(xy1<=minep),which(xy2<=minep),which(xy3<=minep))

然后，在不接觸代碼並再次啟動“.sh”文件的情況下，正確讀取代碼。 這是“隨機”發生的，並且永遠不會發生在代碼的同一部分。

似乎與代碼長度有關。

有什么幫助嗎？

謝謝

編輯 1：

例如，slurm 文件的輸出是

[1] "Data.Rdata"
Loading required package: MASS
##
## Markov Chain Monte Carlo Package (MCMCpack)
## Copyright (C) 2003-2020 Andrew D. Martin, Kevin M. Quinn, and Jong Hee Park
##
## Support provided by the U.S. National Science Foundation
## (Grants SES-0350646 and SES-0350613)
##
Loading required package: stats4
null device 
          1 
Error: unexpected symbol in:
"      Beta0   = rep(-4,3),
      Betagonale Psi"
Execution halted
srun: error: node02: task 0: Exited with exit code 1

代碼是

priors  = list(
     Beta0 = list(
         type        = "Normal",
         Par1        = rep(-4,3),
         Par2        = rep(10,3)
       ),
       Beta1 = list(
         type        = "Normal",
         Par1        = rep(1.8,3), 
         Par2        = rep(10,3)
       ),
      VarK   = list(
        type        = "TruncatedNormal",
        Par1        = rep(0,3),
        Par2        = rep(100,3),
        Par3        = rep(0.0000000,3),
        Par4        = rep(LimSigma2,3), 
        Par5        = rep(2,3)
        #Par5        = rep(2,3)
      ), 
      RegCoef = list(
          type        = "Normal",
          Par1        = c(0,0,0,0,0), ## (1 o stessa dimension)
          Par2        = rep(100,5)
      ),
      sigmaMat = list(
          type        = "InverseWishart",
          Par1        = rep(10,3), 
          Par2        = c(diag(1,5)) ## diagonale Psi
      ),

      DPpar = list(
          type        = "Gamma",
          Par1        = 1, 
          Par2        = 1 ## diagonale Psi
      )
    ) 

Answer 1

此處描述的症狀（存儲在 NFS 服務器上的文件在讀取時已損壞）大部分時間與文件的競爭條件相關。 通常，該文件打開以從一個 NFS 客戶端（登錄節點）寫入，並打開以從另一個客戶端（計算節點）讀取。 由於 NFS 中沒有全局鎖定機制，讀取文件的客戶端不知道文件正在寫入。 使用支持自動保存的高級編輯器，文件有時會以不一致的狀態寫入磁盤，例如在復制/粘貼操作過程中。

在這種情況下，一種選擇是在提交作業時完全避免修改文件，或者至少禁用自動保存。

另一種選擇是在提交作業之前制作文件的副本，以便之后不會更新。