gpt4 book ai didi

python - 保存 Tensorflow 模型仅用于预测的最有效的空间/内存方法?

转载 作者:行者123 更新时间:2023-12-01 08:50:59 25 4
gpt4 key购买 nike

我有一个巨大的 Tensorflow 模型(检查点文件为 4-5 GBs)。我想知道除了检查点方式之外,是否还有一种不同的方式来保存 Tensorflow 模型,即节省空间/内存。

我知道检查点文件还保存所有优化器梯度,所以也许这些也可以被删除。

我的模型很简单,只有两个嵌入矩阵,也许我只能将这些矩阵直接保存到.npy?

最佳答案

您想要对检查点执行的操作是卡住它。查看this page来自tensorflow的官方文档。

卡住过程会从检查点中去除所有不用于前向推理的无关信息。 Tensorflow 为其提供了一个易于使用的脚本,名为 freeze_graph.py .

关于python - 保存 Tensorflow 模型仅用于预测的最有效的空间/内存方法?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53127232/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com