如何计算 python 中每个质心的密度？

Question

我有 kmeans 聚类数据和 kmeans 聚类质心。 我想计算每个簇质心的密度并删除最高簇质心密度的簇。 我做了我的研究，并找到了这个公式。

N(c) 是集群 c 的一组邻居集群质心，应该是 5 我尝试实现该算法但无法实现。 你能帮我实现它吗？

到目前为止，这是我的代码：

df = make_blobs(n_samples=5000, n_features=15,centers=15, cluster_std=1,random_state=10)
X,y=df
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=10)
TrainData=X_train,y_train
n_clusters_sampling=10
 
kmeans2 = KMeans(n_clusters = n_clusters_sampling,random_state=10)
kmeans2.fit(X_train)
centroids = kmeans2.cluster_centers_

Answer 1

您的问题本质上是由质心形成的“新数据集”上的“k-最近邻搜索”。 您想要每个质心及其相关距离的 5 个最接近的。 幸运的是， sklearn确实有提供此功能的NearestNeighbors class：

...
centroids = kmeans2.cluster_centers_

from sklearn.neighbors import NearestNeighbors
nn = NearestNeighbors(n_neighbors=6) # 6 is not a typo. Explanation below.
nn.fit(centroids)
neigh_dist, neigh_ind = nn.kneighbors(centroids, return_distance=True)
densities = [5/np.sum(neigh_dist[i,:]) for i in range(centroids.shape[0])]
print(densities)

请注意，我们正在使用我们正在执行查询的相同数据点（质心）来拟合nn object。 这就是n_neighbors为 6 的原因：对于每个质心，它自己将是距离为零的最近邻居。
.kneighbors()方法，当return_distance设置为 True 时，（也）返回形状距离的数组（ n ， n_neighbors ），其中n是查询点的数量 - 即质心。 该数组的i , j单元告诉您邻居j与质心i的距离。 因此，我们按照您发布的公式取每行的平均值来计算密度。

---

编辑：答案的下一部分解决了 OP 关于删除最高密度集群的评论。

删除一个集群，比如c本质上意味着将其数据点的集群标签重新分配到下一个最近的质心。 所以，现在我们有一个新的 1-最近邻问题，我们可以再次使用我们创建的 NearestNeihbors object。

我们在“质心数据集”上对最初分配给c的点执行 2 最近邻搜索。
第一个邻居当然是c ，所以我们只保留第二个最近的邻居。
然后我们只需使用新索引更新这些数据点的原始分配表。

# run k-means and get an array of initial cluster assignments.
assignments = kmeans2.predict(X_train)

# find the index of cluster to be removed
c = np.argmax(densities)

# for each point originally assigned to c, find its closest centroid.
# Again we are using the trick of searching for one more neighbor since we know
# the closest centroid of those points will be c.
nearest_centroids = nn.kneighbors(X_train[assignments==c,:], n_neighbors=2, return_distance=False)

# get the new closest cenroid (that is, the second column of the array) and make it 1D
nearest_centroids = nearest_centroids[:,1].flatten()

# simply update the initial assignment table for the specific datapoints
assignments[assignments==c] = nearest_centroids

assignments数组现在不包含c的值。 请注意，在绘制或对结果进行其他后处理时，这可能会留下一个“洞”，因为会有一个没有分配点的集群。 如果您想避免这种情况，只需将高于 c 的索引减去 1：

assignments = np.array([i-1 if i>c else i for i in assignments]) 

如果您还想删除质心：

centroids = np.delete(centroids, c, axis=0) # remove row from numpy array by index

Answer 2

你可以用曼哈顿距离来做，公式是 d(p, q) = d(q,p) = Sum (|qi-pi|)

def ManhattanDistance(x, y):
    S = 0;
    for i in range(len(x)):
        S += abs(int(x[i])- int(y[i]))

    return S

和她你可以得到射击距离

def Classify(centroieds, item):
    minimum =10000;
    for i in range(len(centroieds)):

        # Find distance from item to mean
        dis = ManhattanDistance(item, centroieds[i]);

        if (dis < minimum):
            minimum = dis;
            index = i;

    return index;

和她你可以找到适合的 clastre 我把所有的集群都放在一个字典里

def FindClusters(centroieds):
    clusters = {} # Init clusters

    for i in range(200):
        item = l[i]

        # Classify item into a cluster
        index = Classify(means, item);

        # Add item to cluster
        if index in clusters.keys():
            clusters[index].append()
        else:
            clusters[index] = l[i]
            clusters[index].append(l[i])

   
    return(clusters)

这不是我的全部代码，它是它的一部分，我希望它有所帮助。