繁体   English   中英

"将索引数组转换为 1-hot 编码的 numpy 数组"

[英]Convert array of indices to 1-hot encoded numpy array

假设我有一个 1d numpy 数组

a = array([1,0,3])

您的数组a定义了输出数组中非零元素的列。 您还需要定义行,然后使用花式索引:

>>> a = np.array([1, 0, 3])
>>> b = np.zeros((a.size, a.max()+1))
>>> b[np.arange(a.size),a] = 1
>>> b
array([[ 0.,  1.,  0.,  0.],
       [ 1.,  0.,  0.,  0.],
       [ 0.,  0.,  0.,  1.]])
>>> values = [1, 0, 3]
>>> n_values = np.max(values) + 1
>>> np.eye(n_values)[values]
array([[ 0.,  1.,  0.,  0.],
       [ 1.,  0.,  0.,  0.],
       [ 0.,  0.,  0.,  1.]])

如果您使用 keras,有一个内置的实用程序:

from keras.utils.np_utils import to_categorical   

categorical_labels = to_categorical(int_labels, num_classes=3)

它与@YXD 的答案几乎相同(请参阅源代码)。

以下是我认为有用的内容:

def one_hot(a, num_classes):
  return np.squeeze(np.eye(num_classes)[a.reshape(-1)])

这里num_classes代表您拥有的类数。 因此,如果您有a形状为(10000,) a向量,则此函数会将其转换为(10000,C) 请注意, a是零索引的,即one_hot(np.array([0, 1]), 2)将给出[[1, 0], [0, 1]]

正是你想要的,我相信。

PS:来源是序列模型-deeplearning.ai

您还可以使用 numpy 的眼睛功能:

numpy.eye(number of classes)[vector containing the labels]

您可以使用sklearn.preprocessing.LabelBinarizer

例子:

import sklearn.preprocessing
a = [1,0,3]
label_binarizer = sklearn.preprocessing.LabelBinarizer()
label_binarizer.fit(range(max(a)+1))
b = label_binarizer.transform(a)
print('{0}'.format(b))

输出:

[[0 1 0 0]
 [1 0 0 0]
 [0 0 0 1]]

除其他外,您可以初始化sklearn.preprocessing.LabelBinarizer()以便transform的输出是稀疏的。

您可以使用以下代码转换为 one-hot 向量:

让 x 是具有单个列的普通类向量,其中类为 0 到某个数字:

import numpy as np
np.eye(x.max()+1)[x]

如果 0 不是一个类; 然后删除+1。

对于 1-hot-encoding

   one_hot_encode=pandas.get_dummies(array)

例如

享受编码

这是一个将一维向量转换为二维单热数组的函数。

#!/usr/bin/env python
import numpy as np

def convertToOneHot(vector, num_classes=None):
    """
    Converts an input 1-D vector of integers into an output
    2-D array of one-hot vectors, where an i'th input value
    of j will set a '1' in the i'th row, j'th column of the
    output array.

    Example:
        v = np.array((1, 0, 4))
        one_hot_v = convertToOneHot(v)
        print one_hot_v

        [[0 1 0 0 0]
         [1 0 0 0 0]
         [0 0 0 0 1]]
    """

    assert isinstance(vector, np.ndarray)
    assert len(vector) > 0

    if num_classes is None:
        num_classes = np.max(vector)+1
    else:
        assert num_classes > 0
        assert num_classes >= np.max(vector)

    result = np.zeros(shape=(len(vector), num_classes))
    result[np.arange(len(vector)), vector] = 1
    return result.astype(int)

下面是一些示例用法:

>>> a = np.array([1, 0, 3])

>>> convertToOneHot(a)
array([[0, 1, 0, 0],
       [1, 0, 0, 0],
       [0, 0, 0, 1]])

>>> convertToOneHot(a, num_classes=10)
array([[0, 1, 0, 0, 0, 0, 0, 0, 0, 0],
       [1, 0, 0, 0, 0, 0, 0, 0, 0, 0],
       [0, 0, 0, 1, 0, 0, 0, 0, 0, 0]])

我认为简短的回答是否定的。 对于n维更通用的情况,我想出了这个:

# For 2-dimensional data, 4 values
a = np.array([[0, 1, 2], [3, 2, 1]])
z = np.zeros(list(a.shape) + [4])
z[list(np.indices(z.shape[:-1])) + [a]] = 1

我想知道是否有更好的解决方案——我不喜欢我必须在最后两行中创建这些列表。 无论如何,我用timeit做了一些测量,似乎基于numpy的( indices / arange )和迭代版本的表现大致相同。

只是为了详细说明K3---rnc优秀答案,这里有一个更通用的版本:

def onehottify(x, n=None, dtype=float):
    """1-hot encode x with the max value n (computed from data if n is None)."""
    x = np.asarray(x)
    n = np.max(x) + 1 if n is None else n
    return np.eye(n, dtype=dtype)[x]

此外,这里是此方法的快速基准测试和YXD当前接受的答案中的一种方法(略有更改,因此它们提供相同的 API,只是后者仅适用于 1D ndarrays):

def onehottify_only_1d(x, n=None, dtype=float):
    x = np.asarray(x)
    n = np.max(x) + 1 if n is None else n
    b = np.zeros((len(x), n), dtype=dtype)
    b[np.arange(len(x)), x] = 1
    return b

后一种方法快约 35%(MacBook Pro 13 2015),但前者更通用:

>>> import numpy as np
>>> np.random.seed(42)
>>> a = np.random.randint(0, 9, size=(10_000,))
>>> a
array([6, 3, 7, ..., 5, 8, 6])
>>> %timeit onehottify(a, 10)
188 µs ± 5.03 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)
>>> %timeit onehottify_only_1d(a, 10)
139 µs ± 2.78 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)

我最近遇到了同样的问题,并找到了上述解决方案,结果证明只有当你的数字符合某种形式时才会令人满意。 例如,如果您想对以下列表进行单热编码:

all_good_list = [0,1,2,3,4]

继续,上面已经提到了已发布的解决方案。 但是如果考虑这些数据呢:

problematic_list = [0,23,12,89,10]

如果您使用上述方法进行操作,您可能会得到 90 个单热列。 这是因为所有答案都包含类似n = np.max(a)+1 我找到了一个更通用的解决方案,它对我有用,并想与您分享:

import numpy as np
import sklearn
sklb = sklearn.preprocessing.LabelBinarizer()
a = np.asarray([1,2,44,3,2])
n = np.unique(a)
sklb.fit(n)
b = sklb.transform(a)

我希望有人在上述解决方案上遇到相同的限制,这可能会派上用场

这种类型的编码通常是 numpy 数组的一部分。 如果您使用的是这样的 numpy 数组:

a = np.array([1,0,3])

那么有一种非常简单的方法可以将其转换为 1-hot 编码

out = (np.arange(4) == a[:,None]).astype(np.float32)

就是这样。

  • p 将是一个二维 ndarray。
  • 我们想知道哪个值在一行中最高,在那里放 1,其他地方放 0。

干净简单的解决方案:

max_elements_i = np.expand_dims(np.argmax(p, axis=1), axis=1)
one_hot = np.zeros(p.shape)
np.put_along_axis(one_hot, max_elements_i, 1, axis=1)

这是我根据上述答案和我自己的用例编写的示例函数:

def label_vector_to_one_hot_vector(vector, one_hot_size=10):
    """
    Use to convert a column vector to a 'one-hot' matrix

    Example:
        vector: [[2], [0], [1]]
        one_hot_size: 3
        returns:
            [[ 0.,  0.,  1.],
             [ 1.,  0.,  0.],
             [ 0.,  1.,  0.]]

    Parameters:
        vector (np.array): of size (n, 1) to be converted
        one_hot_size (int) optional: size of 'one-hot' row vector

    Returns:
        np.array size (vector.size, one_hot_size): converted to a 'one-hot' matrix
    """
    squeezed_vector = np.squeeze(vector, axis=-1)

    one_hot = np.zeros((squeezed_vector.size, one_hot_size))

    one_hot[np.arange(squeezed_vector.size), squeezed_vector] = 1

    return one_hot

label_vector_to_one_hot_vector(vector=[[2], [0], [1]], one_hot_size=3)

我正在添加一个简单的函数来完成,仅使用 numpy 运算符:

   def probs_to_onehot(output_probabilities):
        argmax_indices_array = np.argmax(output_probabilities, axis=1)
        onehot_output_array = np.eye(np.unique(argmax_indices_array).shape[0])[argmax_indices_array.reshape(-1)]
        return onehot_output_array

它需要一个概率矩阵作为输入:例如:

[[0.03038822 0.65810204 0.16549407 0.3797123] ... [0.02771272 0.2760752 0.3280924 0.33458805]]

它会回来

[[0 1 0 0] ... [0 0 0 1]]

这是一个与维度无关的独立解决方案。

这会将任何非负整数的 N 维数组arr转换为单热 N+1 维数组one_hot ,其中one_hot[i_1,...,i_N,c] = 1表示arr[i_1,...,i_N] = c 您可以通过np.argmax(one_hot, -1)恢复输入

def expand_integer_grid(arr, n_classes):
    """

    :param arr: N dim array of size i_1, ..., i_N
    :param n_classes: C
    :returns: one-hot N+1 dim array of size i_1, ..., i_N, C
    :rtype: ndarray

    """
    one_hot = np.zeros(arr.shape + (n_classes,))
    axes_ranges = [range(arr.shape[i]) for i in range(arr.ndim)]
    flat_grids = [_.ravel() for _ in np.meshgrid(*axes_ranges, indexing='ij')]
    one_hot[flat_grids + [arr.ravel()]] = 1
    assert((one_hot.sum(-1) == 1).all())
    assert(np.allclose(np.argmax(one_hot, -1), arr))
    return one_hot

使用以下代码。 它效果最好。

def one_hot_encode(x):
"""
    argument
        - x: a list of labels
    return
        - one hot encoding matrix (number of labels, number of class)
"""
encoded = np.zeros((len(x), 10))

for idx, val in enumerate(x):
    encoded[idx][val] = 1

return encoded

在这里找到它PS 你不需要进入链接。

使用Neuraxle流水线步骤:

  1. 设置您的示例
import numpy as np
a = np.array([1,0,3])
b = np.array([[0,1,0,0], [1,0,0,0], [0,0,0,1]])
  1. 进行实际转换
from neuraxle.steps.numpy import OneHotEncoder
encoder = OneHotEncoder(nb_columns=4)
b_pred = encoder.transform(a)
  1. 断言它有效
assert b_pred == b

文档链接: neuraxle.steps.numpy.OneHotEncoder

def one_hot(n, class_num, col_wise=True):
  a = np.eye(class_num)[n.reshape(-1)]
  return a.T if col_wise else a

# Column for different hot
print(one_hot(np.array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 9, 9, 9, 9, 8, 7]), 10))
# Row for different hot
print(one_hot(np.array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 9, 9, 9, 9, 8, 7]), 10, col_wise=False))

我发现最简单的解决方案结合了np.take<\/code>和np.eye<\/code>

def one_hot(x, num_classes: int):
  return np.take(np.eye(num_classes), x, axis=0)

如果使用tensorflow ,则有one_hot()

import tensorflow as tf
import numpy as np

a = np.array([1, 0, 3])
depth = 4
b = tf.one_hot(a, depth)
# <tf.Tensor: shape=(3, 3), dtype=float32, numpy=
# array([[0., 1., 0.],
#        [1., 0., 0.],
#        [0., 0., 0.]], dtype=float32)>

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM