基于多列过滤行

Question

我想根据多列中的匹配来过滤行。 我有（各种）4 列制表符分隔的文件。 我需要检查第 1 列中的所有重复项，检查相应的第 4 列，如果值不同（即使仅出现一次），则打印整行（4 列）。

这是输入的示例：

function-n  such_as-handheld-n  6.4623  A
function-n  such_as-hash-n  6.5328  A
party-n such_as-head-n  2.5586  A
function-n  such_as-headphone-n 8.0794  B
function-n  such_as-health-n    3.1938  A
party-n such_as-heartbeat-n 6.5902  B
party-n such_as-heat-n  3.9708  B
zebra-n at-1-aquatic-n  10.0476 B
zebra-n become-pelican-n    12.4166 B
zebra-n behind-idea-of-concept-n    16.0319 B
zebra-n move-lion-n 12.2017 B
zebra-n such_as-1-pole-n    8.9519  B
zebra-n try-reasoning-n 12.9504 B
zooplankton-n   than-1-mangrove-n   12.0638 B

因此结果如下：

function-n  such_as-handheld-n  6.4623  A
function-n  such_as-hash-n  6.5328  A
party-n such_as-head-n  2.5586  A
function-n  such_as-headphone-n 8.0794  B
function-n  such_as-health-n    3.1938  A
party-n such_as-heartbeat-n 6.5902  B
party-n such_as-heat-n  3.9708  B

因为“function-n”和“party-n”是 Column1 中唯一在 Column 4 中具有不同值的值。

我看到的丢弃基于多个列中的行这个职位在这里，用awk。 代码（由@Steve 提出）如下：

FNR==NR {
    array[$0]++
    next
}

{
    counter = 0
    for (i in array) {
        split(i, holder, FS)
        if (holder[1] == $1) {
            counter++
        }
    }
    if (counter >= 2) {
        print
    }
}



$ awk -f script.awk file.txt{,}

这段代码完全符合我的需要，除了 2 列数据。 我试图修改脚本的一部分来比较第 4 列，如下所示：

{
    counter = 0
    for (i in array) {
        split(i, holder, FS)
        if (holder[1] == $4) {
            counter++
        }

然而，它不起作用。 任何人都可以提供有关如何修改此脚本以便我可以达到预期结果的见解吗？

或者也许有人有更有效/优化的方法来处理这个问题？ 谢谢。

Answer 1

我认为你必须非常努力地使用 awk。 在阅读每一行之前，您无法开始打印，而且我认为您需要的数据结构在某种程度上超出了 awk 提供的范围。 您可以使用更高级的语言：Python、Perl、Ruby。

这是 ruby​​ 1.9.3：

ruby -F"\t" -ane '
    BEGIN { 
        f4 = Hash.new {|h,k| h[k] = Hash.new} 
        lines = Hash.new {|h,k| h[k] = Array.new} 
    }
    f4[$F[0]][$F[-1]] = 1
    lines[$F[0]] << [$., $_]
    END {
        output = []
        f4.each_pair do |key, subhash|
            if subhash.length > 1
                lines[key].each {|pair| output[pair[0]] = pair[1]}
            end
        end
        puts output
    }
'

珀尔：

perl -F"\t" -ane '
    $f4{$F[0]}{$F[-1]} = 1;
    push @{$lines{$F[0]}}, [$., $_];
    END {
        @output=();
        while (($key, $subhash) = each %f4) {
            if (keys(%$subhash) > 1) {
                $output[$_->[0]] = $_->[1] for @{$lines{$key}};
            }
        }
        print @output;
    }
'

Answer 2

一个可能的解决方案（使用 awk）如下：

$ awk 'NR==FNR { if(A[$1]!=$NF && A[$1]){B[$1]++} A[$1]=$NF; next }\
  { if(B[$1]){ print } }' input input > output