比较基于多个列的两个csv文件并保存在单独的文件中

Question

我有两个格式相同的文件，其中一个具有新的更新，另一个具有较旧的更新。 没有特定的唯一ID列。

如何仅提取新的更新行（使用UNIX，PHP，AWK）？

Answer 1

您想“字节”比较所有行与其他行，所以我会这样做：

$lines1 = file('file1.txt');
$lines2 = file('file2.txt');

$lookup = array();

foreach($lines1 as $line) {
  $key = crc32($line);
  if (!isset($lookup[$key])) $lookup[$key] = array();
  $lookup[$key][] = $line;
}

foreach($lines2 as $line) {
  $key = crc32($line);

  $found = false;
  if (isset($lookup[$key])) {
    foreach($lookup[$key] as $lookupLine) {
      if (strcmp($lookupLine, $line) == 0) {
        $found = true;
        break;
      }
    }
  }

  // check if not found
  if (!$found) {
    // output to file or do something
  }
}

请注意，如果文件很大，这将消耗相当多的内存，并且您需要使用其他机制，但是想法保持不变