繁体   English   中英

从经过训练的神经网络创建实时运行 model 的最佳实践

Best practice to create a live running model from a trained neural network

提示:本站收集StackOverFlow近2千万问答,支持中英文搜索,鼠标放在语句上弹窗显示对应的参考中文或英文, 本站还提供   中文繁体   英文版本   中英对照 版本,有任何建议请联系yoyou2525@163.com。

我计划创建一个用于交易的神经网络,我正在研究如何在我的系统运行时使用的语言(即 C++ 或 C#)中使用经过训练的神经网络。

假设我在 python(或任何其他 nn 框架)中使用 tensorflow,我已经成功训练了具有 n 个隐藏层的神经网络。 那时我有权重和偏差的值。 此时我想在生产中使用 nn model。

据我了解,在生产 tensorflow 中运行 model 并不是最佳实践,因为它实际上太慢(python)而且很笨重(如果我错了,请纠正我)。

所以我想在 C# 或 C++ (或任何其他语言)中重新创建 nn model ,我是否需要在代码中重新创建每个神经元数学的所有基于权重和偏差的每一层? 在此处输入图像描述

问题:

  • 我从来没有做过,所以这是我在猜测工作流程/最佳实践,最好的方法是什么?
  • 我可以阅读哪些有关此主题的在线文章/网站?
  • 这个题目叫什么,好让我去找?
1 个回复

像 tensorflow 这样的框架也应该在生产中使用。 Tensorflow 是用高度优化的 C++ 和/或 Cuda 编写的,因此很容易胜过您自己编写的任何内容。 tensorflow 还附带了大量用于监控、负载平衡等的内置工具。

如果你在你的机器上运行你的系统,你可以使用任何语言作为包装器。 If you really think you need a level of optimization for small tasks such as preprocessing etc. that can not be done in Python, just use the C++ API for tensorflow. 只需让 tensorflow(或 torch 或您正在使用的任何生产 lvl 框架)完成处理神经网络的繁重工作。 对于 99.99% 的任务,Python(使用 numpy、tf、dask 等)就可以了。

对于大型应用程序,您可以在 aws/azure/google 云等上托管 model。它们为托管 tensorflow 模型(例如,作为 REST 端点)提供优化服务。 Lambda 函数/Azure Functions 可以成为以经济高效且可扩展的方式执行预处理步骤的绝佳工具。

2 Matlab测试训练有素的神经网络

我有一个训练样本集和相应的目标。 目标是7个不同的类别。 现在,当我执行最后一行时,我希望测试保存网络将输入[0; 1; 1; 1; 1; 1; 0; 1]分类为的类的值。 但是,我得到的只是一个奇怪的十进制值,而不是在“目标”(1、2、3、4、5、6或7)中输入的值之一。 我究竟 ...

4 存储和使用训练有素的神经网络

我正在尝试开发一个神经网络来预测时间序列。 据我所知,我正在训练我的神经网络训练集并用测试集验证它。 当我对我的结果感到满意时,我可以使用我的神经网络来预测新值,而神经网络本身基本上只是我使用训练集调整的所有权重。 这个对吗? 如果是这样,我应该只训练我的网络一次,然后只 ...

5 如何存储和访问训练有素的神经网络

我刚开始用keras开始在python上学习NN,我有一个非常明显的问题,似乎没有人提到它的答案。 问题很简单。 获得数据,构建模型并培训网络后会发生什么? 每个教程都经过彻底的讨论,但从未提及如何使用训练有素的模型或在此之后存储它。 例如,我用keras编写这个简单的代码来 ...

6 恢复训练有素的神经网络

我有一个带有LSTM的RNN,它使用两个占位符来针对目标向量训练输入向量。 培训有效,但是在还原时我提供目标占位符是什么? 从概念上讲,我不明白为什么需要这样做,因为在生产环境中,我只会有输入向量,并且希望训练有素的模型提供输出。 ...

7 如何在3D阵列上实现训练有素的神经网络模型?

我有一个使用2D样本和特征数组(1125,8)训练的神经网络模型(此处1125是样本数,8是特征数)。 现在,我想使用模型预测要素图层3D数组(在下面的代码中称为“ finalyrs”)(8、496、495)(此处8是要素的数量(在训练过程中使用的相同要素) )和(496,495)是图像中的行 ...

8 Torch / Lua,如何将训练有素的神经网络模型保存到文件中?

我从事Torch / Lua项目,在其中实施了人工神经网络模型。 一切正常,但是现在我想通过以下方式修改代码。 由于我的输入数据集非常大,因此我想将其划分为N = 20个跨度。 然后,我只想在第一个数据集跨度上训练我的神经网络,然后并行测试其他N-1 = 19个跨度。 要运行所有 ...

9 使用训练有素的神经网络模仿其训练数据

我正在设计散文模仿系统。 它会读一堆散文,然后模仿它。 这主要是为了娱乐,所以模仿散文不需要太有意义,但是我想以最小的努力使它尽可能的好。 我的第一个想法是使用示例散文来训练分类前馈神经网络,该网络将其输入分类为训练数据的一部分或不作为训练数据的一部分。 然后,我想以某种方式反转神经 ...

10 DLIB-是否可以重新训练训练有素的神经网络

我有两个问题: 我正在使用svr_trainer,并且有一些数据集可以训练模型。 但是我想稍后再训练带有更多数据集的模型。 是否有可能做到这一点 ? 还是我需要再次训练新旧数据集? 有没有办法知道svr_trainer需要多长时间的培训? 我没有找到为svr_train ...

2017-05-02 21:14:59 1 288   dlib
暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2022 STACKOOM.COM