tensorflow 量化-6ren

tensorflow 量化

转载作者：行者123 更新时间：2023-12-02 17:28:12

30

4

我想使用Tensorflow的transform_graph工具优化图形。我尝试优化 MultiNet 中的图表(以及其他具有类似编码器-解码器架构的)。然而，优化后的图在使用 quantize_weights 时实际上会更慢，在使用 quantize_nodes 时甚至会慢得多。从 Tensorflow 的文档来看，量化时可能没有任何改进，甚至可能更慢。知道下面的图表/软件/硬件这是否正常吗？

以下是我的系统信息供您引用:

操作系统平台和发行版:Linux Ubuntu 16.04
TensorFlow安装自:使用TF源代码(CPU)进行图转换，使用binary-python(GPU)进行推理
TensorFlow 版本:均使用 r1.3
Python 版本:2.7
巴泽尔版本:0.6.1
CUDA/cuDNN 版本:8.0/6.0(仅限推理)
GPU 型号和内存:GeForce GTX 1080 Ti

如有必要，我可以发布用于重现的所有脚本。

最佳答案

Tensorflow 中的量化似乎只发生在 CPU 上。请参阅:https://github.com/tensorflow/tensorflow/issues/2807

关于 tensorflow 量化，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/46662239/

30

4

0

文章推荐： sorting - 内置排序算法怎么可以这么快？

文章推荐： phpexcel 日期读取格式错误

文章推荐： salesforce - 对现有数据触发触发器？

tensorflow 量化
我想使用Tensorflow的transform_graph工具优化图形。我尝试优化 MultiNet 中的图表(以及其他具有类似编码器-解码器架构的)。然而，优化后的图在使用 quantize_we
c# - 量化(减少图像的颜色)
我试图在 C# 中将图像量化为 10 种颜色，但在绘制量化图像时遇到问题，我已经制作了映射表并且它是正确的，我已经制作了原始图像的副本并且正在更改基于映射表的像素颜色，我使用下面的代码: bm = n
ios - UIImage-更改颜色深度-量化
我需要降低UIImage的颜色深度，但是我不知道该怎么做。结果应与在Photoshop中应用索引颜色相同。我的目标是要具有较低的色深(32色或更低)。也许这是我的错，但我没有找到解决方法。令人惊讶的
python - 量化 numpy 向量的快速方法
我有大量的 numpy 向量，每个形状 (3,) 都有 8 位整数值: vec = np.random.randint(2**8, size=3) 我想通过一些已知的缩减因子将这些向量量化到更小的空间
javascript - 如何播放绝对最小或*量化*滞后的声音？
我正在用 jQuery 编写一个心理学应用程序。我的项目的一部分需要测量用户对声音的 react 时间(用户按下一个键)。因此，我需要在调用(&时间戳)声音文件和实际开始播放之间的延迟尽可能小地播放声
python - 量化 Keras 神经网络模型
最近，我开始使用 Tensorflow + Keras 创建神经网络，我想尝试 Tensorflow 中提供的量化功能。到目前为止，使用 TF 教程中的示例进行试验效果很好，我有这个基本的工作示例(来
python - Tensorflow 每 channel 量化
使用当前的 Tensorflow quantization ops ，我将如何在推理过程中模拟每 channel 量化？这paper将每层量化定义为 We can specify a single q
python - Windows 上的 Tensorflow 量化
我已经卡住了我的模型并获得了 .pb 文件。然后我在 Linux 上使用 tocoConverter 量化我的模型，因为 Windows 不支持它。我有 quantized_model.tflite。
git - 量化 git diff 中的变化量？
我将 git 用于一个稍微不寻常的目的——它在我写小说时存储我的文本。 (我知道，我知道......令人讨厌。) 我正在尝试跟踪生产力，并想衡量后续提交之间的差异程度。作家代表“作品”的是“文字”，至
json - Topojson:量化 VS 简化
quantization有什么区别和 simplification ? 量化是另一种简化方式吗？在某些情况下使用量化更好吗？或者我应该同时使用两者？最佳答案几何体的总大小由两个因素控制:点数和
扎克伯格说，Llama3-8B还是太大了，量化、剪枝、蒸馏准备上！
扎克伯格说，Llama3-8B还是太大了，不适合放到手机中，有什么办法？量化、剪枝、蒸馏，如果你经常关注大语言模型，一定会看到这几个词，单看这几个字，我们很难理解它们都干了些什么，但
html - 量化
相对于
的语义值
我正在将一些我无法控制的 XML 转换为 XHTML。 XML 模式定义了一个段落标记和和用于列表。我经常在这个 XML 中找到嵌套在段落中的列表。因此，直接转换会导致 s 嵌套在中s，
machine-learning - 对于更深层次的 CNN 层学习更复杂的特征，是否有理论解释/量化？
我看到过这样的说法:CNN 的更深层次可以学习识别更复杂的特征。这通常附带一张早期过滤器识别直线/简单曲线的图片，以及后期过滤器识别更复杂图案的图片。它具有直观意义:您距离数据越远，您对数据的理解就越
c++ - 树莓派上的 tensorflow lite 量化 ssd 对象检测
在使用 C++ 的带有 tensorflow lite 的树莓派上，对象检测无法正常工作。我的代码编译并运行，但输出似乎从未得到正确填充。我是否会遗漏任何依赖项或错误地访问结果？我遵循了以下教程:
ios - 如何在 Corona SDK 游戏应用程序中测量/量化 "sluggishness"？
如何衡量/量化 Corona SDK 游戏应用中的“迟缓”？我在我构建的基于 Corona SDK 的物理游戏(使用 Box2D)上寻找旧手机(例如 iPhone 4、Samsung GT-I900
python - tensorflow 量化: Array output does not have MinMax information
我正在尝试创建一个 Tensorflow 量化模型，以便使用 Coral USB 加速器进行推理。这是我的问题的一个最小的独立示例: import sys import tensorflow as t
r - (R，量化): Hypothesis testing a large range of quantiles
我有一个分位数回归模型，其中包含 1 个回归变量和 1 个回归变量。我想假设检验回归量在每个分位数上都相等。我想到的一种方法是在 {0.01,0.02,....,0.99} 上测试所有 tau。但是，
java - 如何在 PGM 图像上使用 KMeans 实现 vector 量化
要求做，在 PGM 文件上使用 KMeans 进行 vector 量化(或图像压缩) 图像是 PMG 文件，其中 b = block 大小，k = 次数，t = 迭代，-g = 初始质心图像是这样的

首页

博学

6Ren·AI

商城

tensorflow 量化