使用awk或sed排列列？

Question

我有一個大約有500行和480K列的文件，我需要在最后移動第2、3和4列。 我的文件是用逗號分隔的文件，請問有沒有更快的方法使用awk或sed來安排此文件？

Answer 1

您可以嘗試以下解決方案-

perl -F"," -lane 'print "@F[0]"," ","@F[4..$#F]"," ","@F[1..3]"' input.file

Answer 2

您可以輕松復制列，對於480K列，移動將花費太長時間。

$ awk 'BEGIN{FS=OFS=","} {print $0,$2,$3,$4}' input.file > output.file

這是什么樣的數據格式？

Answer 3

使用5個字段進行測試：

$ cat foo
1,2,3,4,5
a,b,c,d,e
$ cat program.awk
{
    $6=$2 OFS $3 OFS $4 OFS $1  # copy fields to the end and $1 too
    sub(/^([^,],){4}/,"")       # remove 4 first columns
    $1=$5 OFS $1                # catenate current $5 (was $1) to $1 
    NF=4                        # reduce NF
} 1                             # print

運行：

$ awk -f program.awk FS=, OFS=, foo
1,5,2,3,4
a,e,b,c,d

因此從理論上講這應該起作用：

{
    $480001=$2 OFS $3 OFS $4 OFS $1
    sub(/^([^,],){4}/,"")
    $1=$480000 OFS $1
    NF=479999 
} 1

編輯：它確實起作用。

Answer 4

也許Perl：

perl -F, -lane 'print join(",", @F[0,4..$#F,1,2,3])' file

要么

perl -F, -lane '@x = splice @F, 1, 3; print join(",", @F, @x)' file

另一種方法：正則表達式

perl -lpe 's/^([^,]+)(,[^,]+,[^,]+,[^,]+)(.*)/$1$3$2/' file

---

使用500行文件為其計時，每行包含480,000個字段

$ time perl -F, -lane 'print join(",", @F[0,4..$#F,1,2,3])' file.csv > file2.csv
40.13user 1.11system 0:43.92elapsed 93%CPU (0avgtext+0avgdata 67960maxresident)k
0inputs+3172752outputs (0major+16088minor)pagefaults 0swaps

$ time perl -F, -lane '@x = splice @F, 1, 3; print join(",", @F, @x)' file.csv > file2.csv
34.82user 1.18system 0:38.47elapsed 93%CPU (0avgtext+0avgdata 52900maxresident)k
0inputs+3172752outputs (0major+12301minor)pagefaults 0swaps

純文本操縱是贏家

$ time perl -lpe 's/^([^,]+)(,[^,]+,[^,]+,[^,]+)(.*)/$1$3$2/' file.csv > file2.csv
4.63user 1.36system 0:20.81elapsed 28%CPU (0avgtext+0avgdata 20612maxresident)k
0inputs+3172752outputs (0major+149866minor)pagefaults 0swaps

Answer 5

另一種技術，只是bash：

while IFS=, read -r a b c d e; do
    echo "$a,$e,$b,$c,$d"
done < file