- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
CFSDN坚持开源创造价值,我们致力于搭建一个资源共享平台,让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章在Pytorch中简单使用tensorboard由作者收集整理,如果你对这篇文章有兴趣,记得点赞哟.
TensorBoard是一个独立的包(不是pytorch中的),这个包的作用就是可视化您模型中的各种参数和结果.
下面是安装:
pip install tensorboard
安装 TensorBoard 后,这些实用程序使您可以将 PyTorch 模型和指标记录到目录中,以便在 TensorBoard UI 中进行可视化。 PyTorch 模型和张量以及 Caffe2 网络和 Blob 均支持标量,图像,直方图,图形和嵌入可视化.
SummaryWriter 类是您用来记录数据以供 TensorBoard 使用和可视化的主要入口。 看一个例子,在这个例子中,您重点关注代码中的注释部分:
import torchimport torchvisionfrom torchvision import datasets, transforms# 可视化工具, SummaryWriter的作用就是,将数据以特定的格式存储到上面得到的那个日志文件夹中from torch.utils.tensorboard import SummaryWriter# 第一步:实例化对象。注:不写路径,则默认写入到 ./runs/ 目录writer = SummaryWriter()transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,))])trainset = datasets.MNIST('mnist_train', train=True, download=True, transform=transform)trainloader = torch.utils.data.DataLoader(trainset, batch_size=64, shuffle=True)model = torchvision.models.resnet50(False)# 让 ResNet 模型采用灰度而不是 RGBmodel.conv1 = torch.nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3, bias=False)images, labels = next(iter(trainloader))grid = torchvision.utils.make_grid(images)# 第二步:调用对象的方法,给文件夹存数据writer.add_image('images', grid, 0)writer.add_graph(model, images)writer.close()
点击运行之后,我们就可以在文件夹下看到我们保存的数据了,然后我们就可以使用 TensorBoard 对其进行可视化,该 TensorBoard 应该可通过以下方式运行(在命令行):
tensorboard --logdir=runs
运行结果:
把上述的地址,粘贴到浏览器就可以看到可视化的结果了,如下所示:
接着看:
一个实验可以记录很多信息。 为了避免 UI 混乱和更好地将结果聚类,我们可以通过对图进行分层命名来对图进行分组。 例如,“损失/训练”和“损失/测试”将被分组在一起,而“准确性/训练”和“准确性/测试”将在 TensorBoard 界面中分别分组.
我们再看一个更简单的例子来理解上面的话:
from torch.utils.tensorboard import SummaryWriterimport numpy as np# 第一步:实例化对象。注:不写参数默认是 ./run/ 文件夹下writer = SummaryWriter()for n_iter in range(100): # 第二步:调用对象的方法,给文件夹存数据 writer.add_scalar('Loss/train', np.random.random(), n_iter) writer.add_scalar('Loss/test', np.random.random(), n_iter) writer.add_scalar('Accuracy/train', np.random.random(), n_iter) writer.add_scalar('Accuracy/test', np.random.random(), n_iter)writer.close()
点击运行(保存数据);在命令行输入tensorboard --logdir=run(run是保存的数据的所在路径)
实验结果:
好了,现在你对tensorboard有了初步的认识,也知道了怎么在pytorch中 保存模型在运行过程中的一些数据了,还知道了怎么把tensorboard运行起来了.
但是,我们还没有细讲前面提到的几个函数,因此接下来我们看这几个函数的具体使用.
API:
class torch.utils.tensorboard.writer.SummaryWriter(log_dir=None, comment='',purge_step=None, max_queue=10, flush_secs=120, filename_suffix='')
作用:将数据保存到 log_dir 文件夹下 以供 TensorBoard 使用.
SummaryWriter 类提供了一个高级 API,用于在给定目录中创建事件文件并向其中添加摘要和事件。 该类异步更新文件内容。 这允许训练程序从训练循环中调用直接将数据添加到文件的方法,而不会减慢训练速度.
下面是SummaryWriter()类的构造函数:
def __init__(log_dir=None, comment='', purge_step=None, max_queue=10, flush_secs=120, filename_suffix='')
作用:创建一个 SummaryWriter 对象,它将事件和摘要写到事件文件中.
参数说明:
log_dir
(字符串):
保存目录位置。 默认值为 run/CURRENT_DATETIME_HOSTNAME ,每次运行后都会更改。 使用分层文件夹结构可以轻松比较运行情况。 例如 为每个新实验传递“ runs / exp1”,“ runs / exp2”等,以便在它们之间进行比较。
comment
(字符串):
注释 log_dir 后缀附加到默认值log_dir。 如果分配了log_dir,则此参数无效。
purge_step
(python:int ):
当日志记录在步骤 T + X T+X T+X 崩溃并在步骤 T T T 重新启动时,将清除 global_step 大于或等于的所有事件, 隐藏在 TensorBoard 中。 请注意,崩溃的实验和恢复的实验应具有相同的log_dir。
max_queue
(python:int ):
在“添加”调用之一强行刷新到磁盘之前,未决事件和摘要的队列大小。 默认值为十个项目。
flush_secs
(python:int ):
将挂起的事件和摘要刷新到磁盘的频率(以秒为单位)。 默认值为每两分钟一次。
filename_suffix
(字符串):
后缀添加到 log_dir 目录中的所有事件文件名中。 在 tensorboard.summary.writer.event_file_writer.EventFileWriter 中有关文件名构造的更多详细信息。
例子:
from torch.utils.tensorboard import SummaryWriter# 使用自动生成的文件夹名称创建summary writerwriter = SummaryWriter()# folder location: runs/May04_22-14-54_s-MacBook-Pro.local/# 使用指定的文件夹名称创建summary writerwriter = SummaryWriter("my_experiment")# folder location: my_experiment# 创建一个附加注释的 summary writerwriter = SummaryWriter(comment="LR_0.1_BATCH_16")# folder location: runs/May04_22-14-54_s-MacBook-Pro.localLR_0.1_BATCH_16/
API:
add_scalar(tag, scalar_value, global_step=None, walltime=None)
作用:将标量数据添加到summary 。
参数说明:
tag
(string) : 数据标识符
scalar_value
(float or string/blobname) : 要保存的值
global_step
(int) :要记录的全局步长值,理解成 x坐标
walltime
(float):可选,以事件发生后的秒数覆盖默认的 walltime(time.time())
例子:
from torch.utils.tensorboard import SummaryWriterwriter = SummaryWriter()x = range(100)for i in x: writer.add_scalar('y_2x', i * 2, i)writer.close()
结果:
API:
add_scalars(main_tag, tag_scalar_dict, global_step=None, walltime=None)
作用:将许多标量数据添加到 summary 中.
参数说明:
main_tag
(string) :标记的父名称
tag_scalar_dict
(dict) :存储标签和对应值的键值对
global_step
(int) :要记录的全局步长值
walltime
(float) :可选的替代默认时间 Walltime(time.time())秒
例子:
from torch.utils.tensorboard import SummaryWriterwriter = SummaryWriter()r = 5for i in range(100): writer.add_scalars('run_14h', {'xsinx':i*np.sin(i/r), 'xcosx':i*np.cos(i/r), 'tanx': np.tan(i/r)}, i)writer.close()# 此调用将三个值添加到带有标记的同一个标量图中# 'run_14h' 在 TensorBoard 的标量部分
结果:
add_histogram(tag, values, global_step=None, bins='tensorflow', walltime=None, max_bins=None)
作用:将直方图添加到 summary 中.
参数说明:
tag
(string): 数据标识符
values
(torch.Tensor, numpy.array, or string/blobname) :建立直方图的值
global_step
(int) :要记录的全局步长值
bins
(string) : One of {‘tensorflow','auto', ‘fd', …}. 这决定了垃圾箱的制作方式。您可以在以下位置找到其他选项:https://docs.scipy.org/doc/numpy/reference/generated/numpy.histogram.html
walltime
(float) – Optional override default walltime (time.time()) seconds after epoch of event
例子:
from torch.utils.tensorboard import SummaryWriterimport numpy as npwriter = SummaryWriter()for i in range(10): x = np.random.random(1000) writer.add_histogram('distribution centers', x + i, i)writer.close()
结果:
我用到了上面的这些,关于更多的函数说明 ,请点击这里查看:https://pytorch.org/docs/stable/tensorboard.html#torch-utils-tensorboard 。
到此这篇关于在Pytorch中简单使用tensorboard的文章就介绍到这了,更多相关Pytorch使用tensorboard内容请搜索我以前的文章或继续浏览下面的相关文章希望大家以后多多支持我! 。
原文链接:https://blog.csdn.net/weixin_45901519/article/details/117735506 。
最后此篇关于在Pytorch中简单使用tensorboard的文章就讲到这里了,如果你想了解更多关于在Pytorch中简单使用tensorboard的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
我正在努力实现以下目标, 假设我有字符串: ( z ) ( A ( z ) ( A ( z ) ( A ( z ) ( A ( z ) ( A ) ) ) ) ) 我想编写一个正则
给定: 1 2 3 4 5 6
很难说出这里要问什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或夸夸其谈,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开,visit the help center . 关闭 1
大家好,我卡颂。 Svelte问世很久了,一直想写一篇好懂的原理分析文章,拖了这么久终于写了。 本文会围绕一张流程图和两个Demo讲解,正确的食用方式是用电脑打开本文,跟着流程图、Demo一
身份证为15位或者18位,15位的全为数字,18位的前17位为数字,最后一位为数字或者大写字母”X“。 与之匹配的正则表达式: ?
我们先来最简单的,网页的登录窗口; 不过开始之前,大家先下载jquery的插件 本人习惯用了vs2008来做网页了,先添加一个空白页 这是最简单的的做法。。。先在body里面插入 <
1、MySQL自带的压力测试工具 Mysqlslap mysqlslap是mysql自带的基准测试工具,该工具查询数据,语法简单,灵活容易使用.该工具可以模拟多个客户端同时并发的向服务器发出
前言 今天大姚给大家分享一款.NET开源(MIT License)、免费、简单、实用的数据库文档(字典)生成工具,该工具支持CHM、Word、Excel、PDF、Html、XML、Markdown等
Go语言语法类似于C语言,因此熟悉C语言及其派生语言( C++、 C#、Objective-C 等)的人都会迅速熟悉这门语言。 C语言的有些语法会让代码可读性降低甚至发生歧义。Go语言在C语言的
我正在使用快速将 mkv 转换为 mp4 ffmpeg 命令 ffmpeg -i test.mkv -vcodec copy -acodec copy new.mp4 但不适用于任何 mkv 文件,当
我想计算我的工作簿中的工作表数量,然后从总数中减去特定的工作表。我错过了什么?这给了我一个对象错误: wsCount = ThisWorkbook.Sheets.Count - ThisWorkboo
我有一个 perl 文件,用于查看文件夹中是否存在 ini。如果是,它会从中读取,如果不是,它会根据我为它制作的模板创建一个。 我在 ini 部分使用 Config::Simple。 我的问题是,如果
尝试让一个 ViewController 通过标准 Cocoa 通知与另一个 ViewController 进行通信。 编写了一个简单的测试用例。在我最初的 VC 中,我将以下内容添加到 viewDi
我正在绘制高程剖面图,显示沿路径的高程增益/损失,类似于下面的: Sample Elevation Profile with hand-placed labels http://img38.image
嗨,所以我需要做的是最终让 regStart 和 regPage 根据点击事件交替可见性,我不太担心编写 JavaScript 函数,但我根本无法让我的 regPage 首先隐藏。这是我的代码。请简单
我有一个非常简单的程序来测量一个函数花费了多少时间。 #include #include #include struct Foo { void addSample(uint64_t s)
我需要为 JavaScript 制作简单的 C# BitConverter。我做了一个简单的BitConverter class BitConverter{ constructor(){} GetBy
已关闭。这个问题是 not reproducible or was caused by typos 。目前不接受答案。 这个问题是由拼写错误或无法再重现的问题引起的。虽然类似的问题可能是 on-top
我是 Simple.Data 的新手。但我很难找到如何进行“分组依据”。 我想要的是非常基本的。 表格看起来像: +________+ | cards | +________+ | id |
我现在正在开发一个 JS UDF,它看起来遵循编码。 通常情况下,由于循环计数为 2,Alert Msg 会出现两次。我想要的是即使循环计数为 3,Alert Msg 也只会出现一次。任何想法都
我是一名优秀的程序员,十分优秀!