如何在c ++中设置输入张量的值？

Question

我正试图通过ios上经过预先训练的模型运行样本。 session-> Run（）将张量作为输入作为我的理解。 我已经初始化了张量，但我如何设置它的值？ 我没有太多使用C ++的经验。

我已成功创建了一个接受3维张量形状{1,1,10}的测试模型。

我从Tensorflow的简单示例中提取了以下代码行来创建输入张量。

https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/ios_examples/simple/RunModelViewController.mm#L189

tensorflow::Tensor input_tensor(tensorflow::DT_FLOAT, tensorflow::TensorShape({1,1,10}));

从这里，我无法弄清楚如何设置input_tensor的数据。 我想将张量设置为类似{{{。0，.1，.2，.3，.4，.5，.6，.7，.8，.9}}}的内容。

Answer 1

我有一个类似的问题，并试图在C ++中为使用Python训练的模型设置张量输入值。 该模型是一个简单的NN，具有一个隐藏层，用于学习计算XOR运算。

我首先按照这个好帖子的步骤1-4创建了一个包含图形结构和模型参数的输出图形文件： https ： //medium.com/@hamedmp/exporting-trained-tensorflow-models-to-c- the-right-way-cf24b609d183＃.j4l51ptvb 。

然后在C ++（TensorFlow iOS简单示例）中，我使用了以下代码：

tensorflow::Tensor input_tensor(tensorflow::DT_FLOAT, tensorflow::TensorShape({4,2}));

// input_tensor_mapped is an interface to the data of a tensor and used to copy data into the tensor
auto input_tensor_mapped = input_tensor.tensor<float, 2>();

// set the (4,2) possible input values for XOR
input_tensor_mapped(0, 0) = 0.0;
input_tensor_mapped(0, 1) = 0.0;
input_tensor_mapped(1, 0) = 0.0;
input_tensor_mapped(1, 1) = 1.0;
input_tensor_mapped(2, 0) = 1.0;
input_tensor_mapped(2, 1) = 0.0;
input_tensor_mapped(3, 0) = 1.0;
input_tensor_mapped(3, 1) = 1.0;

tensorflow::Status run_status = session->Run({{input_layer, input_tensor}},
                                             {output_layer}, {}, &outputs);

在此之后， GetTopN(output->flat<float>(), kNumResults, kThreshold, &top_results); 返回相同的4个值（0.94433498,0.94425952,0.06565627,0.05823805），就像我在训练模型后的XOR测试代码中一样，在top_results中。

因此，如果张量的形状为{1,1,10}，则可以按如下方式设置值：

auto input_tensor_mapped = input_tensor.tensor<float, 3>();
input_tensor_mapped(0, 0, 0) = 0.0;
input_tensor_mapped(0, 0, 1) = 0.1;
....
input_tensor_mapped(0, 0, 9) = 0.9;

Credit： 如何将OpenCV Mat传递给C ++ Tensorflow图表？ 非常有帮助。

Answer 2

如果要直接设置张量的值，可以使用Tensor接口提供的少量实用程序功能。 对于最常见的线性访问，您可以使用flat<T> 。

来自tensor_test

void ExpectClose(const Tensor& x, const Tensor& y, double atol, double rtol) {
  auto Tx = x.flat<T>();
  auto Ty = y.flat<T>();
  for (int i = 0; i < Tx.size(); ++i) {
    if (!IsClose(Tx(i), Ty(i), atol, rtol)) {
      LOG(ERROR) << "x = " << x.DebugString();
      LOG(ERROR) << "y = " << y.DebugString();
      LOG(ERROR) << "atol = " << atol << " rtol = " << rtol
                 << " tol = " << atol + rtol * std::fabs(Tx(i));
      EXPECT_TRUE(false) << i << "-th element is not close " << Tx(i) << " vs. "
                         << Ty(i);
    }
  }
}

要创建张量，您可以使用其中一个构造函数

Tensor(DT_FLOAT, new TensorShape(..))

如果要在运行时设置张量或占位符的值，则需要通过Run()接口传递它：

  Status run_status = session->Run({{input_layer, resized_tensor}},
                                   {output_layer}, {}, &outputs);
  if (!run_status.ok()) {
    LOG(ERROR) << "Running model failed: " << run_status;
    return -1;
  }

如果要使用张量的预定义值，可以使用Const构造函数

tensorflow::ops::Const({input_height, input_width})