gpt4 book ai didi

tensorflow - 如何量化除特定节点之外的所有节点?

转载 作者:行者123 更新时间:2023-12-04 11:05:00 25 4
gpt4 key购买 nike

我正在使用 tensorflow使用图形转换工具量化图形

input_names = ["prefix/input"]
output_names = ["final_result"]


transforms1 = ["strip_unused_nodes","fold_constants(ignore_errors=true)", "fold_batch_norms", "fold_old_batch_norms","quantize_weights" ]

transformed_graph_def = TransformGraph(graph.as_graph_def(), input_names,output_names, transforms1)
我使用选项 quantize_weights要量化图中的权重,我知道某些节点可以通过更改阈值 minimum_size 保持未量化状态在 quantize_weights ,所以让一些节点未量化当然是可能的。
我想量化除名称为 K 的特定节点或名称为 K(set) 的一组节点之外的所有节点的权重。如何做到这一点?

最佳答案

编辑:上一个答案是指 Tensorflow Lite 代码。我更新了它以引用 Tensorflow。
查看Tensorflow's quantize_weights的实现,这些是权重没有被量化的情况:

  • 不是 float 类型的张量
  • 权重少于 1024(或由参数 minimum_size 指定的其他数字)
  • 的张量

    如果您能够修改图中的节点,以便它们被上述规则之一排除,然后量化,然后将节点恢复到预量化状态,您也许可以做到这一点。

    关于tensorflow - 如何量化除特定节点之外的所有节点?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/50304096/

    25 4 0
    Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
    广告合作:1813099741@qq.com 6ren.com