R - 如何从距离矩阵中获取匹配元素的行和列下标

Question

我有一个整数向量vec1并且我正在使用dist函数生成一个远程矩阵。 我想获取距离矩阵中某个值的元素的坐标（行和列）。 本质上，我想获得相距 d 距离的一对元素。 例如：

vec1 <- c(2,3,6,12,17)
distMatrix <- dist(vec1)

#   1  2  3  4
#2  1         
#3  4  3      
#4 10  9  6   
#5 15 14 11  5

说，我对向量中相距 5 个单位的一对元素感兴趣。 我想得到坐标 1 是行和坐标 2 是距离矩阵的列。 在这个玩具示例中，我希望

coord1  
# [1] 5
coord2
# [1] 4

我想知道是否有一种有效的方法来获取这些值而不涉及将dist对象转换为矩阵或遍历矩阵？

Answer 1

距离矩阵是打包格式的下三角矩阵，其中下三角矩阵按列存储为一维向量。 你可以通过

str(distMatrix)
# Class 'dist'  atomic [1:10] 1 4 10 15 3 9 14 6 11 5
# ...

即使我们调用dist(vec1, diag = TRUE, upper = TRUE) ，向量仍然相同； 只有打印样式会发生变化。 也就是说，无论你如何调用dist ，你总是得到一个向量。

此答案侧重于如何在一维和二维索引之间进行转换，以便您可以使用“dist”对象，而无需先使用as.matrix将其变成一个完整的矩阵。 如果你确实想让它成为一个矩阵，使用dist2mat定义的dist2mat函数对距离对象非常慢； 如何让它更快？ .

---

---

R 函数

为这些索引变换编写矢量化的 R 函数很容易。 我们只需要处理“越界”索引，应该返回NA 。

## 2D index to 1D index
f <- function (i, j, dist_obj) {
  if (!inherits(dist_obj, "dist")) stop("please provide a 'dist' object")
  n <- attr(dist_obj, "Size")
  valid <- (i >= 1) & (j >= 1) & (i > j) & (i <= n) & (j <= n)
  k <- (2 * n - j) * (j - 1) / 2 + (i - j)
  k[!valid] <- NA_real_
  k
  }

## 1D index to 2D index
finv <- function (k, dist_obj) {
  if (!inherits(dist_obj, "dist")) stop("please provide a 'dist' object")
  n <- attr(dist_obj, "Size")
  valid <- (k >= 1) & (k <= n * (n - 1) / 2)
  k_valid <- k[valid]
  j <- rep.int(NA_real_, length(k))
  j[valid] <- floor(((2 * n + 1) - sqrt((2 * n - 1) ^ 2 - 8 * (k_valid - 1))) / 2)
  i <- j + k - (2 * n - j) * (j - 1) / 2
  cbind(i, j)
  }

这些函数在内存使用方面非常便宜，因为它们使用索引而不是矩阵。

---

将finv应用于您的问题

您可以使用

vec1 <- c(2,3,6,12,17)
distMatrix <- dist(vec1)

finv(which(distMatrix == 5), distMatrix)
#     i j
#[1,] 5 4

一般来说，距离矩阵包含浮点数。 用==判断两个浮点数是否相等是有风险的。 阅读为什么这些数字不相等？ 更多和可能的策略。

---

使用dist2mat替代

在距离对象上使用dist2mat给出的dist2mat函数非常慢； 如何让它更快？ ，我们可以使用which(, arr.ind = TRUE) 。

library(Rcpp)
sourceCpp("dist2mat.cpp")
mat <- dist2mat(distMatrix, 128)
which(mat == 5, arr.ind = TRUE)
#  row col
#5   5   4
#4   4   5

---

附录：图片的Markdown（需要MathJax支持）

## 2D index to 1D index

The lower triangular looks like this: $$\begin{pmatrix} 0 & 0 & \cdots & 0\\ \times & 0 & \cdots & 0\\ \times & \times & \cdots & 0\\ \vdots & \vdots & \ddots & 0\\ \times & \times & \cdots & 0\end{pmatrix}$$ If the matrix is $n \times n$, then there are $(n - 1)$ elements ("$\times$") in the 1st column, and $(n - j)$ elements in the j<sup>th</sup> column. Thus, for element $(i,\  j)$ (with $i > j$, $j < n$) in the lower triangular, there are $$(n - 1) + \cdots (n - (j - 1)) = \frac{(2n - j)(j - 1)}{2}$$ "$\times$" in the previous $(j - 1)$ columns, and it is the $(i - j)$<sup>th</sup> "$\times$" in the $j$<sup>th</sup> column. So it is the $$\left\{\frac{(2n - j)(j - 1)}{2} + (i - j)\right\}^{\textit{th}}$$ "$\times$" in the lower triangular.

----

## 1D index to 2D index

Now for the $k$<sup>th</sup> "$\times$" in the lower triangular, how can we find its matrix index $(i,\ j)$? We take two steps: 1> find $j$;  2> obtain $i$ from $k$ and $j$.

The first "$\times$" of the $j$<sup>th</sup> column, i.e., $(j + 1,\ j)$, is the $\left\{\frac{(2n - j)(j - 1)}{2} + 1\right\}^{\textit{th}}$ "$\times$" of the lower triangular, thus $j$ is the maximum value such that $\frac{(2n - j)(j - 1)}{2} + 1 \leq k$. This is equivalent to finding the max $j$ so that $$j^2 - (2n + 1)j + 2(k + n - 1) \geq 0.$$ The LHS is a quadratic polynomial, and it is easy to see that the solution is the integer no larger than its first root (i.e., the root on the left side): $$j = \left\lfloor\frac{(2n + 1) - \sqrt{(2n-1)^2 - 8(k-1)}}{2}\right\rfloor.$$ Then $i$ can be obtained from $$i = j + k - \left\{\frac{(2n - j)(j - 1)}{2}\right\}.$$

Answer 2

如果向量不是太大，最好的方法可能是将dist的输出包装到as.matrix并使用which与选项arr.ind=TRUE 。 这种在 dist 矩阵中检索索引号的标准方法的唯一缺点是内存使用量的增加，这在传递给dist的非常大的向量的情况下可能变得很重要。 这是因为将dist返回的下三角矩阵转换为规则的密集矩阵，有效地将存储的数据量加倍。

另一种方法是将 dist 对象转换为一个列表，这样dist的下三角矩阵中的每一列代表列表中的一个成员。 然后可以将列表成员的索引号和列表成员内元素的位置映射到密集 N x N 矩阵的列号和行号，而无需生成矩阵。

以下是这种基于列表的方法的一种可能实现：

distToList <- function(x) {
  idx <- sum(seq(length(x) - 1)) - rev(cumsum(seq(length(x) - 1))) + 1
  listDist <- unname(split(dist(x), cumsum(seq_along(dist(x)) %in% idx)))
  # http://stackoverflow.com/a/16358095/4770166
}
findDistPairs <- function(vec, theDist) {
  listDist <- distToList(vec)
  inList <- lapply(listDist, is.element, theDist)
  matchedCols <- which(sapply(inList, sum) > 0) 
  if (length(matchedCols) > 0) found <- TRUE else found <- FALSE
  if (found) {
    matchedRows <- sapply(matchedCols, function(x) which(inList[[x]]) + x ) 
  } else {matchedRows <- integer(length = 0)}
  matches <- cbind(col=rep(matchedCols, sapply(matchedRows,length)), 
                   row=unlist(matchedRows))
  return(matches)
}

vec1 <- c(2, 3, 6, 12, 17)
findDistPairs(vec1, 5)
#     col row
#[1,]   4   5

代码中可能有些不清楚的部分涉及将列表中条目的位置映射到 N x N 矩阵的列/行值。 这些转换虽然不是微不足道的，但很简单。

在代码中的注释中，我指出了 StackOverflow 上的一个答案，此处已将其用于将向量拆分为列表。 循环（sapply、lapply）在性能方面应该没有问题，因为它们的范围是 O(N)。 这段代码的内存使用很大程度上取决于列表的存储。 这个内存量应该类似于 dist 对象的内存量，因为两个对象都包含相同的数据。

在函数distToList()计算 dist 对象并将其转换为列表。 由于在任何情况下都需要进行 dist 计算，因此在大向量的情况下，此函数可能会很耗时。 如果目标是找到具有不同距离值的几个对，那么对于给定的向量只计算一次listDist并将结果列表存储在例如全局环境中可能会更好。

---

长话短说

通常处理此类问题的方法简单快捷：

distMatrix <- as.matrix(dist(vec1)) * lower.tri(diag(vec1))
which(distMatrix == 5, arr.ind = TRUE)
#  row col
#5   5   4

我建议默认使用这种方法。 在达到内存限制的情况下，即在非常大的向量vec1的情况下，可能需要更复杂的解决方案。 然后，上述基于列表的方法可以提供补救措施。