![](/img/trans.png)
[英]GNU Parallel not completing all "find" commands
我試圖並行化一個命令但沒有成功,大約有 100 個視頻文件要轉換。 此格式導致 8 個文件以隨機順序轉換: 此格式導致 12 個文件以隨機順序轉換: 請幫助,謝謝。 結果: find "/mnt/bulk-data-02/videos/convert" -iname "*.mkv" | parall ...
[英]GNU Parallel not completing all "find" commands
我試圖並行化一個命令但沒有成功,大約有 100 個視頻文件要轉換。 此格式導致 8 個文件以隨機順序轉換: 此格式導致 12 個文件以隨機順序轉換: 請幫助,謝謝。 結果: find "/mnt/bulk-data-02/videos/convert" -iname "*.mkv" | parall ...
[英]using jq and gnu parallel together
我有一個jq命令,我正在嘗試使用GNU parallel對其進行並行處理,但由於某種原因我無法使其正常工作。 香草jq查詢是: 我試過像這樣parallel使用它: 但是我得到了一些奇怪的編譯錯誤: 我認為它不喜歡 something re: quoting things in the strin ...
[英]How do you get GNU Parallel to parse quoted command line arguments?
這是 GNU 並行文檔中的一個示例程序,用於通過 shell 腳本 shebang 執行。 #!/usr/bin/parallel --shebang-wrap --colsep " " /bin/bash echo Arguments: $@ output 為 是 上述腳本不處理帶引號且包 ...
[英]GNU Parallel Usage in M1Mac running OSX 13.1
我在 MacStudio 中安裝了 brew 並行 gnu; 我用sed演奏了pipe-part ,如下所示; 當我通過 htop 監控 cpu 使用情況時,我可以看到所有 20 個內核都亮了。 但是,當我解雇追隨者時; 只使用了一個核心。 我真的很感激指出我所缺少的東西。 ...
[英]Parsing XML via xq (jq) with GNU Parallel
我輸入了這樣的 xml 文件:<?xml version="1.0" encoding="UTF-8"?> <yml_catalog date="2022-12-19T18:02:16+03:00"> <shop> <offers> &l ...
[英]Parallelize a awk script with multiple input files and changing the name of the output file
我在文件夾sub.yr_by_yr中有一系列文本文件,我將其傳遞給 for 循環以從標頭中提取Beagle文件的子集。 我想並行化此腳本以從標頭值中對 Beagle 文件進行子集化(這是使用我的subbeagle.awk腳本完成的)。 我使用文本文件的標題將子集導出到新文件名,使用 bash 中的基 ...
[英]using cat with perl replacement expression string with GNU Parallel in R
我正在嘗試使用 GNU Parallel 來並行化一個參數。 該軟件本身是一個 Python package,我在命令行上測試成功(我使用的是 Mac)。 我一直在測試通過 system() 參數在 R 中執行命令行參數。 這是我到目前為止所擁有的: 假設 ciwdfiles 是一個類似於 (C1 ...
[英]sed adds string at the end of each new line
我目前正在編輯多個 CSV 以添加 2 列 ORIGIN_FILE 和 WRITE_DATE。 問題是由於某種原因,字符串總是添加到新行之后。 這是我輸入 csv 的示例: 但每次我在下面運行 bash 命令時:find $target_dir -type f -name "*.csv" | par ...
[英]Remove multiple file extesions when using gnu parallel and cat in bash
我有一個 csv 文件(以逗號分隔),其中包含 問題是,這些文件的名稱如 file.extension.extension 我正在嘗試將兩列同時提供並刪除所有擴展我嘗試了一些變體: 我期望 output 但輸出: sed 命令正在運行,但僅將第 1 列饋送到並行 ...
[英]Enabling/disabling binary flags in GNU Parallel
我正在嘗試使用 GNU Parallel 來運行具有多個二進制標志的腳本。 我想按如下方式啟用/禁用它們: 給定一個名為“ sample.py ”的腳本,有兩個選項,“ --seed ”,它接受一個 integer 和“ --something ”,它是一個二進制標志並且不接受任何輸入,我想構造一個 ...
[英]sed -f with gnu parallel
並行化的正確方法是什么sed -i -f patterns files* 與 GNU parallel ? 我有包含數百個模式的模式文件,我需要處理 >1GB 的文件。 ...
[英]Passing Arguments to GNU parallel
我正在嘗試使用awk和 GNU parallel根據第 1 列和第 2 列中的值過濾文件,並將結果轉儲到單個.csv.gz 文件中。 感謝這里的答案,我可以設法編寫myscript.sh來並行完成這項工作。 然后在終端中運行腳本。 我想知道如何將 0.5 和 1.5 作為myscript.sh的 a ...
[英]Convert image bank using parallel
我有一堆圖像,我曾經使用 ImageMagick Convert 來調整它們的大小,但我想通過使用parallel命令來利用多核的力量。 我用來執行單核轉換的語句如下: 它工作得很好,但問題是,默認情況下,convert 只使用一個內核來執行這個過程。 那么,如何使用parallel來使用我想要執行 ...
[英]How to insert part of the string in to GNU parallel output
我正在使用此命令獲取設備 IP 列表: 結果 $wIP 是: 現在我使用兩個命令獲取設備的序列號和名稱: $wName 的結果是: $wSerial 的結果是: 對於打印,我使用以下命令: 最終匹配是: 問題:如何從“Serial”中獲取括號中的“Name”最后 4 個字符並獲得如下結果: 完 ...
[英]Passing multiple arguments to parallel function when uploading to FTP
我正在使用ncftpput將圖像上傳到 ftp 服務器。 腳本的一個例子是# destination. origin ncftpput -R ftp_server icon_d2/cape_cin ./cape_cin_*.png ncf ...
[英]How can I wait for n job in bash until first job done and add new task
當我在 bash 腳本(例如在 task.sh 中)和我的計算機中有 n 個可用的 CPU 中有一系列作業時,我通過在所有任務的末尾設置 & 來並行化它們,並在每 n 行之后放置等待。 它顯着提高了處理速度,但並未進行優化。 它一直等到所有 n 個任務完成,然后運行下一個 n 個任務。 如果 ...
[英]How to run several python files using bash script iteratively using only 7 CPUS?
在我的機器上有 8 個 CPU,我希望運行一些 Python 文件。 我只想同時使用 7 個 CPU。 是否有可能使這個過程自動化? 目前,我正在做 每個循環被設計為只提交 7 個腳本,因此我必須編寫幾個 for 循環來執行 100 次計算。 如您所見,我的方法非常低效,因為我必須等待 7 個提交 ...
[英]GNU parallel with dependencies?
有沒有辦法通過 GNU parallel運行具有依賴關系的腳本? 我希望運行以下腳本: 在腳本aa_00.sh完成之前,腳本aa_01.sh 、 aa_02.sh和aa_03.sh不得運行。 腳本aa_01.sh 、 aa_02.sh和aa_03.sh完全相互獨立,可以並行運行。 同樣,腳本bb_ ...
[英]Is it possible to use GNU parallel with a yes/no prompt for each job?
我有很多要連接的文件。 這是一個示例,它使用一些示例內容生成這些文件名:for lane in $(seq 1 4) do for sub in $(seq 1 8) do echo "sublib ${sub}, lane ${lane}, R1" > S$ ...
[英]Can GNU Parallel also group output of other file descriptors other than stdout and stderr?
我有一個簡單的 bash 腳本curlit.sh (已簡化):# stdout and stderr are used for other output echo "hello" >&2 echo "world" # curl outputs result and headers r ...