Bash使用不规则的行参数遍历文件

Question

我有一些从.csv格式格式化的不规则.txt文件。 文件包含以下数据，以分号分隔：

A;B;C;D;E;F;G;H;
A;B;C;D;E;F;G;H;I;J;K;
A;B;C;D;E;F;G;H;I;J;K;L;M;N;
A;B;C;D;E;F;G;H;I;J;K;L;M;N;O;P;Q;

我想做的是从每一行中获取特定的值。 我使用的代码示例如下所示，并且当包含相同编号的行时效果很好。 分隔符：

OIFS=$IFS
IFS=";"
while read var1 var2 var3 var4 var5 var6 var7 var8 var9 var10
do
echo $var2, $var6, $var7, $var8
done < test.txt
IFS=$OIFS

但是我对代码的实现一窍不通，因为代码的实现不算什么。 的“;” 并采取具体行动。 应考虑每一行的“ B”列以及“ E”列之后的所有内容。 最小“;”号 在每行中为8，最大值为20（以“ 3”递增）。 所需的输出是：

对于包含8“;”的行

echo $B { $F { $G:$H } }

对于包含11“;”的行

echo $B { $F { $G:$H } $I { $J:$K } }

对于带有14“;”的行

echo $B { $F { $G:$H } $I { $J:$K } $L { $M:$N } }

等等。 在bash中可行吗？
谢谢。

Answer 1

我不确定我是否完全了解您想要做什么，但这可能会作为第一步。

应考虑每一行的“ B”列以及“ E”列之后的所有内容。

为此，您可以使用cut命令：

cut -d ';' -f 2,6-

其中-d ';' 设置定界符，然后-f 2,6-选择字段2和6。

此后将选择列$B和列$F

您还可以使用--output-delimiter更改输出--output-delimiter

Answer 2

读取每一行成使用一个数组-a选项来read ; 这使得处理变长线变得更加容易。

while IFS=';' read -a vars; do
    printf "%s {" "${vars[1]}"
    for ((i=5; i<${#vars[@]}; i+=3)); do
        printf " %s { %s %s }" "${vars[@]:i:3}"
    done
    printf " }\n"
done < test.txt

Answer 3

另外，您可以使用python做您想要做的事情（如果我正确理解的话）：

import fileinput

# http://stackoverflow.com/questions/34576772/bash-iterating-over-file-with-irregular-line-arguments/34576899#34576899

def columns_are_valid(columns):
    return len(columns) >= 8 and len(columns) % 3 == 2

# Returns every three columns as a tuple
# Example: 1,2,3,4,4,5,6,7,8,9  ->  (1,2,3) , (4,5,6) , (7,8,9)
def every_three(rest_columns):
    it = iter(rest_columns)
    while True:
        yield next(it), next(it), next(it)


for line in fileinput.input():
    line = line.rstrip(';\n')  # remove trailing newline and ';'
    columns = line.split(';') # split by ';'
    assert columns_are_valid(columns)

    column_b = columns[1]

    # Selects columns F onwards
    columns_f_onwards = columns[5:]

    # Format parts like '$F { $G:$H }'
    parts = [ '%s {%s:%s}' % (a,b,c) for a,b,c in every_three(columns_f_onwards) ]
    space_delimited_parts = ' '.join(parts)

    print '{ %s { %s }' % (column_b, space_delimited_parts)

示例运行：

 % python myscript.py

有输入：

A;B;C;D;E;F;G;H;
A;B;C;D;E;F;G;H;I;J;K;
A;B;C;D;E;F;G;H;I;J;K;L;M;N;
A;B;C;D;E;F;G;H;I;J;K;L;M;N;O;P;Q;

输出：

{ B { F {G:H} }
{ B { F {G:H} I {J:K} }
{ B { F {G:H} I {J:K} L {M:N} }
{ B { F {G:H} I {J:K} L {M:N} O {P:Q} }

Answer 4

仅Bash解决方案：

#!/bin/bash

OLD_IFS=$IFS
IFS=";"
while read line; do
    set -- $line
    echo -n "$2 { "
    shift 5
    while [[ -n $1 ]];do
        echo -n "$1 { $2:$3 } "
        shift 3
    done
    echo "}"
done < data
IFS=$OLD_IFS

输入文件：

$ cat data 
A;B;C;D;E;F;G;H;
A;B;C;D;E;F;G;H;I;J;K;
A;B;C;D;E;F;G;H;I;J;K;L;M;N;
A;B;C;D;E;F;G;H;I;J;K;L;M;N;O;P;Q;

结果：

$ ./script.sh 
B { F { G:H } }
B { F { G:H } I { J:K } }
B { F { G:H } I { J:K } L { M:N } }
B { F { G:H } I { J:K } L { M:N } O { P:Q } }

解决方案2

相同但有数组

#!/bin/bash

OLD_IFS=$IFS
IFS=";"
os=5
while read line;do
    c=0
    a=($line)
    echo -n "${a[1]} { "
    while [[ -n ${a[$((os+c*3))]} ]];do
        echo -n "${a[$((os+c*3))]} { "
        echo -n "${a[$((os+c*3+1))]}:${a[$((os+c*3+2))]} } "
        ((c++))
    done
    echo "}"
done < data
IFS=$OLD_IFS

Answer 5

我认为您到目前为止表现良好！ 您只需要一些小提示：

• 您可以为一个命令设置一个shell变量
  稍微改变了IFS的解决方案。
• 您可以检查restg var，看看是否为空
• 我将在变量中使用${x} 。
  此代码不是必需的，而是一个好习惯。
• 使用read -r不是简单的read 。

下一个代码是当您知道字段数量很少时的操作方法。 现在您最多有20个字段，因此可以在第一个解决方案中添加更多的var和代码：

while IFS=";" read -r var1 var2 var3 var4 var5 var6 var7 var8 var9 var10 var11 var12 var13 var14; do
      echo $var2, $var6, $var7, $var8
      if [ -z "${var9}" ]; then
         echo "Line without 8 delimiters"
      elif [ -z "${var10}${var11}${var12}" ]; then
         echo "Line with 9 delimiters"
      else
         echo "Line with more than 9 delimiters"
      fi   
 done

我没有完成上面的代码，因为它的结构不好。
您想用一个照顾重复组的功能来实现这一点。

function repeatgroup {
   output=""
   remaining="$*"
   printf "{ "
   while [ -n "${remaining}" ]; do
       rem1=$(echo "$remaining" | cut -d";" -f1)
       rem2=$(echo "$remaining" | cut -d";" -f2)
       rem3=$(echo "$remaining" | cut -d";" -f3)
       remaining=$(echo "$remaining" | cut -d";" -f4-)
       printf "%s {%s:%s} " "${rem1}" "${rem2}" "${rem3}"
   done
}

    while IFS=";" read -r var1 var2 var3 var4 var5 remaining; do
          if [ -z "${var5}${remaining}" ]; then
             echo "field shortage"
          elif [ -z "${remaining}" ]; then
             echo "Line without 8 delimiters"
             echo "{ ${var2} }"
          else
             printf "{ %s " "${var2}"
             repeatgroup "${remaining}"
             printf "}\n"
          fi
     done < input

备注：
可以使用内部Bash函数编写rem1=$(echo "$remaining" | cut -d";" -f1)和remaining=$(echo "$remaining" | cut -d";" -f4-) ，但是我认为代码将变得难以理解。 当您需要解析大文件时，可以先尝试。