- VisualStudio2022插件的安装及使用-编程手把手系列文章
- pprof-在现网场景怎么用
- C#实现的下拉多选框,下拉多选树,多级节点
- 【学习笔记】基础数据结构:猫树
首先可以在Pytorch官网的Python API中查看torch.nn的使用,如下所示。可以看到神经网络包括Container(基本骨架)、卷积层、池化层、Padding层、非线性激活等等。 构建一个神经网络首先要先构建起基本骨架,也就是Containers 。
这是官网中给出的具体示例,重点在于创建我们自己的神经网络类的时候必须要继承父类nn.Moudle,然后就可以重写里面的函数等,这里的forward是前向传播函数,后面会有反向传播函数 这是一个简单的nn.Moudle使用示例,并没有涉及到神经网络的卷积层等。可以通过断点调试来查看具体的代码执行流程 。
from torch import nn
class CY(nn.Module):
def __init__(self):
super().__init__()
def forward(self,input):
output=input+1
return output
cy=CY()
input=1
output= cy(input)
print(output)
构建好基本骨架之后,就需要对卷积层进行操作,可以看到官方给出的卷积层包括以下方式,其中对于图像来说常用的就是卷积2d操作 。
首先明确一下图像卷积的概念,如下图所示,图像卷积就是用卷积核在输入图像上一步步的滑动,每个方格内的元素对应相乘后相加作为输出的对应位置的元素 官方文档中给出的示例是这样的,对于参数的解释已经很详细了 这里要注意的一个点就是 卷积层的输入和卷积核都要描述成(N,C,H,W)的tensor格式,其中N表示有多少张图片,C表示有多少个通道,H表示图片的高度,W表示图片的宽度。所以初始设置输入的时候不仅要用torch.tensor变成tensor格式,后续还需要将torch.reshape(input,[1,1,5,5])转变为conv2d的格式,因为初始格式是只有宽和高这两个参数的 。
这其中有几个参数可以解释一下:
具体代码如下:
import torch
import torch.nn as nn
import torch.nn.functional as F
input=torch.tensor([[1,2,0,3,1], # 输入图像
[0,1,2,3,1],
[1,2,1,0,0],
[5,2,3,1,1],
[2,1,0,1,1]])
kernel=torch.tensor([[1,2,1], # 卷积核
[0,1,0],
[2,1,0]])
print(input.shape)
input = torch.reshape(input,[1,1,5,5])
kernel=torch.reshape(kernel,[1,1,3,3])
output= F.conv2d(input,kernel,stride=1)
print(output)
output_1= F.conv2d(input,kernel,stride=2)
print(output_1)
output_2=F.conv2d(input,kernel,stride=1,padding=1)
print(output_2)
官方给出的函数使用方法如下: 这里要注意的就是in_channels和out_channels的理解,可以说in_channels就是图像的通道数,也就是RGB=3,out_channels代表的是用多少个卷积核来对图像进行卷积,如果out_channels=6的时候就是用6个卷积核来对图像进行卷积,然后对得到的输出进行处理 参数的具体描述如下:
具体代码如下,要注意的是使用tensorboard对图像进行显示的时候,由于tensorboard显示的图像格式是规定的3个通道,所以上面得到的6个通道的图像是会报错的。所以我们可以用 output = torch.reshape(output, (-1, 3, 30, 30))来将图像格式进行重新设置,其中-1表示的是占位符,表示这个位置的参数交给后面的参数来计算 。
# -*- coding: utf-8 -*-
import torch
import torchvision
from torch import nn
from torch.nn import Conv2d
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter
dataset = torchvision.datasets.CIFAR10("dataset/cifar-10-batches-py", train=False, transform=torchvision.transforms.ToTensor(),
download=True)
dataloader = DataLoader(dataset, batch_size=64)
class Tudui(nn.Module):
def __init__(self):
super(Tudui, self).__init__()
self.conv1 = Conv2d(in_channels=3, out_channels=6, kernel_size=3, stride=1, padding=0)
def forward(self, x):
x = self.conv1(x)
return x
tudui = Tudui()
writer = SummaryWriter("logs")
step = 0
for data in dataloader:
imgs, targets = data
output = tudui(imgs)
print(imgs.shape)
print(output.shape)
# torch.Size([64, 3, 32, 32])
writer.add_images("input", imgs, step)
# torch.Size([64, 6, 30, 30]) -> [xxx, 3, 30, 30]
output = torch.reshape(output, (-1, 3, 30, 30))
writer.add_images("output", output, step)
step = step + 1
writer.close()
最后得到到图像是这样的: 可以看到输出图像一个批次中有128个图像,这也就是我们将6个通道变为8个通道导致的,和初步设想一致 。
这里主要讲解的是2D类型最大池化层,同样的,详细的函数信息在官网上: 主要注意的就是**ceil_mode 这个参数,这里的意思其实就是要向下取整还是向上取整,如果为True的话就是向上取整,False的话就是向下取整。也就是说,在下图这个示例中,如果取为True的时候在进行池化的时候对于多出来的部分(原图像是5×5,池化核是3×3),会进行保留并得出结果,而为False的时候就不会保留结果。 dilation这个参数其实就是池化的时候是否要跳步进行 代码如下:
import torch
import torchvision
from torch import nn
from torch.nn import MaxPool2d
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter
dataset = torchvision.datasets.CIFAR10("../dataset", train=False, download=True,
transform=torchvision.transforms.ToTensor())
dataloader = DataLoader(dataset, batch_size=64)
class Tudui(nn.Module):
def __init__(self):
super(Tudui, self).__init__()
self.maxpool1 = MaxPool2d(kernel_size=3, ceil_mode=False)
def forward(self, input):
output = self.maxpool1(input)
return output
tudui = Tudui()
writer = SummaryWriter("../logs_maxpool")
step = 0
for data in dataloader:
imgs, targets = data
writer.add_images("input", imgs, step)
output = tudui(imgs)
writer.add_images("output", output, step)
step = step + 1
writer.close()
得到的结果如下,其实池化就是相当于做一个缩略马赛克处理 。
非线性激活就是例如ReLu、Sigmod等非线性激活函数,在Pytorch中的使用是比较简单的,调用函数即可,例如Sigmod函数: 这里要注意inplace的作用就是是否要有一个新的返回值来存储输出值,默认为False,如果为True的话输出值覆盖输入值 。
除了上面列举的一些神经网络最基本必须的网络之外,torch.nn中还有很多其他的层:正则化层、线性层、Transformer层等等,有一些在特定的网络中需要特定使用,可以去了解一下 。
sequential的作用就是将我们要创建的神经网络的层数按照顺序堆叠起来,个人觉得用处就是简化代码,后面可以再了解看看,如下图所示,用sequential堆叠起神经网络之后就可以直接创建实例并输入。相较于用x输出承接x输入是简洁很多的.
最后此篇关于深度学习入门笔记——神经网络的构建和使用的文章就讲到这里了,如果你想了解更多关于深度学习入门笔记——神经网络的构建和使用的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
我在网上搜索但没有找到任何合适的文章解释如何使用 javascript 使用 WCF 服务,尤其是 WebScriptEndpoint。 任何人都可以对此给出任何指导吗? 谢谢 最佳答案 这是一篇关于
我正在编写一个将运行 Linux 命令的 C 程序,例如: cat/etc/passwd | grep 列表 |剪切-c 1-5 我没有任何结果 *这里 parent 等待第一个 child (chi
所以我正在尝试处理文件上传,然后将该文件作为二进制文件存储到数据库中。在我存储它之后,我尝试在给定的 URL 上提供文件。我似乎找不到适合这里的方法。我需要使用数据库,因为我使用 Google 应用引
我正在尝试制作一个宏,将下面的公式添加到单元格中,然后将其拖到整个列中并在 H 列中复制相同的公式 我想在 F 和 H 列中输入公式的数据 Range("F1").formula = "=IF(ISE
问题类似于this one ,但我想使用 OperatorPrecedenceParser 解析带有函数应用程序的表达式在 FParsec . 这是我的 AST: type Expression =
我想通过使用 sequelize 和 node.js 将这个查询更改为代码取决于在哪里 select COUNT(gender) as genderCount from customers where
我正在使用GNU bash,版本5.0.3(1)-发行版(x86_64-pc-linux-gnu),我想知道为什么简单的赋值语句会出现语法错误: #/bin/bash var1=/tmp
这里,为什么我的代码在 IE 中不起作用。我的代码适用于所有浏览器。没有问题。但是当我在 IE 上运行我的项目时,它发现错误。 而且我的 jquery 类和 insertadjacentHTMl 也不
我正在尝试更改标签的innerHTML。我无权访问该表单,因此无法编辑 HTML。标签具有的唯一标识符是“for”属性。 这是输入和标签的结构:
我有一个页面,我可以在其中返回用户帖子,可以使用一些 jquery 代码对这些帖子进行即时评论,在发布新评论后,我在帖子下插入新评论以及删除 按钮。问题是 Delete 按钮在新插入的元素上不起作用,
我有一个大约有 20 列的“管道分隔”文件。我只想使用 sha1sum 散列第一列,它是一个数字,如帐号,并按原样返回其余列。 使用 awk 或 sed 执行此操作的最佳方法是什么? Accounti
我需要将以下内容插入到我的表中...我的用户表有五列 id、用户名、密码、名称、条目。 (我还没有提交任何东西到条目中,我稍后会使用 php 来做)但由于某种原因我不断收到这个错误:#1054 - U
所以我试图有一个输入字段,我可以在其中输入任何字符,但然后将输入的值小写,删除任何非字母数字字符,留下“。”而不是空格。 例如,如果我输入: 地球的 70% 是水,-!*#$^^ & 30% 土地 输
我正在尝试做一些我认为非常简单的事情,但出于某种原因我没有得到想要的结果?我是 javascript 的新手,但对 java 有经验,所以我相信我没有使用某种正确的规则。 这是一个获取输入值、检查选择
我想使用 angularjs 从 mysql 数据库加载数据。 这就是应用程序的工作原理;用户登录,他们的用户名存储在 cookie 中。该用户名显示在主页上 我想获取这个值并通过 angularjs
我正在使用 autoLayout,我想在 UITableViewCell 上放置一个 UIlabel,它应该始终位于单元格的右侧和右侧的中心。 这就是我想要实现的目标 所以在这里你可以看到我正在谈论的
我需要与 MySql 等效的 elasticsearch 查询。我的 sql 查询: SELECT DISTINCT t.product_id AS id FROM tbl_sup_price t
我正在实现代码以使用 JSON。 func setup() { if let flickrURL = NSURL(string: "https://api.flickr.com/
我尝试使用for循环声明变量,然后测试cols和rols是否相同。如果是,它将运行递归函数。但是,我在 javascript 中执行 do 时遇到问题。有人可以帮忙吗? 现在,在比较 col.1 和
我举了一个我正在处理的问题的简短示例。 HTML代码: 1 2 3 CSS 代码: .BB a:hover{ color: #000; } .BB > li:after {
我是一名优秀的程序员,十分优秀!