个人中心
文章发布
退出
作者热门文章
- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
28
4
CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章pytorch对可变长度序列的处理方法详解由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.
主要是用函数torch.nn.utils.rnn.packedsequence()和torch.nn.utils.rnn.pack_padded_sequence()以及torch.nn.utils.rnn.pad_packed_sequence()来进行的,分别来看看这三个函数的用法.
1、torch.nn.utils.rnn.packedsequence() 。
note： 这个类的实例不能手动创建。它们只能被 pack_padded_sequence() 实例化.
packedsequence对象包括:
一个data对象：一个torch.variable（令牌的总数，每个令牌的维度），在这个简单的例子中有五个令牌序列（用整数表示）：（18，1） 。
一个batch_sizes对象：每个时间步长的令牌数列表，在这个例子中为：[6，5，2，4，1] 。
用pack_padded_sequence函数来构造这个对象非常的简单:
如何构造一个packedsequence对象（batch_first = true） 。
packedsequence对象有一个很不错的特性，就是我们无需对序列解包（这一步操作非常慢）即可直接在packedsequence数据变量上执行许多操作。特别是我们可以对令牌执行任何操作（即对令牌的顺序/上下文不敏感）。当然，我们也可以使用接受packedsequence作为输入的任何一个pytorch模块（pytorch 0.2）.
2、torch.nn.utils.rnn.pack_padded_sequence() 。
这里的pack，理解成压紧比较好。 将一个 填充过的变长序列 压紧。（填充时候，会有冗余，所以压紧一下） 。
输入的形状可以是(t×b×* )。t是最长序列长度，b是batch size，*代表任意维度(可以是0)。如果batch_first=true的话，那么相应的 input size 就是 (b×t×*).
variable中保存的序列，应该按序列长度的长短排序，长的在前，短的在后。即input[:,0]代表的是最长的序列，input[:, b-1]保存的是最短的序列.
note： 只要是维度大于等于2的input都可以作为这个函数的参数。你可以用它来打包labels，然后用rnn的输出和打包后的labels来计算loss。通过packedsequence对象的.data属性可以获取 variable.
参数说明
input (variable) – 变长序列 被填充后的 batch 。
lengths (list[int]) – variable 中 每个序列的长度.
batch_first (bool, optional) – 如果是true，input的形状应该是b*t*size.
返回值
一个packedsequence 对象.
3、torch.nn.utils.rnn.pad_packed_sequence() 。
填充packed_sequence.
上面提到的函数的功能是将一个填充后的变长序列压紧。 这个操作和pack_padded_sequence()是相反的。把压紧的序列再填充回来.
返回的varaible的值的size是 t×b×*, t 是最长序列的长度，b 是 batch_size,如果 batch_first=true,那么返回值是b×t×*.
batch中的元素将会以它们长度的逆序排列.
参数说明
sequence (packedsequence) – 将要被填充的 batch 。
batch_first (bool, optional) – 如果为true，返回的数据的格式为 b×t×*.
返回值: 一个tuple，包含被填充后的序列，和batch中序列的长度列表.
例子:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
|
import
torch
import
torch.nn as nn
from
torch.autograd
import
variable
from
torch.nn
import
utils as nn_utils
batch_size
=
2
max_length
=
3
hidden_size
=
2
n_layers
=
1
tensor_in
=
torch.floattensor([[
1
,
2
,
3
], [
1
,
0
,
0
]]).resize_(
2
,
3
,
1
)
tensor_in
=
variable( tensor_in )
#[batch, seq, feature], [2, 3, 1]
seq_lengths
=
[
3
,
1
]
# list of integers holding information about the batch size at each sequence step
# pack it
pack
=
nn_utils.rnn.pack_padded_sequence(tensor_in, seq_lengths, batch_first
=
true)
# initialize
rnn
=
nn.rnn(
1
, hidden_size, n_layers, batch_first
=
true)
h0
=
variable(torch.randn(n_layers, batch_size, hidden_size))
#forward
out, _
=
rnn(pack, h0)
# unpack
unpacked
=
nn_utils.rnn.pad_packed_sequence(out)
print
(
'111'
,unpacked)
|
输出:
|
1
2
3
4
5
6
7
8
9
10
|
111
(variable containing:
(
0
,.,.)
=
0.5406
0.3584
-
0.1403
0.0308
(
1
,.,.)
=
-
0.6855
-
0.9307
0.0000
0.0000
[torch.floattensor of size
2x2x2
]
, [
2
,
1
])
|
以上这篇pytorch对可变长度序列的处理方法详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持我.
原文链接：http://www.cnblogs.com/lindaxin/p/8052043.html 。
最后此篇关于pytorch对可变长度序列的处理方法详解的文章就讲到这里了,如果你想了解更多关于pytorch对可变长度序列的处理方法详解的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
28
4
0
大家好，我是汤师爷~ 什么是订单履约系统？ 订单履约是从消费者下单支付到收到商品的全流程管理过程，包括订单接收、订单派单、库存分配、仓储管理和物流配送等环节，核心目标是确保商品准时、准确地送达消费
大家好，我是汤师爷~ 今天聊聊促销系统整体规划。 各类促销活动的系统流程，可以抽象为3大阶段： B端促销活动管理：商家运营人员在后台系统中配置和管理促销活动，包括设定活动基本信息、使用规则
全称“Java Virtual Machine statistics monitoring tool”（statistics 统计；monitoring 监控；tool 工具） 用于监控虚拟机的各种运
主要是讲下Mongodb的索引的查看、创建、删除、类型说明，还有就是Explain执行计划的解释说明。 可以转载，但请注明出处。
1>单线程或者单进程 相当于短链接，当accept之后，就开始数据的接收和数据的发送，不接受新的连接，即一个server，一个client 不存在并发。 2>循环服务器和并发服务器
详解 linux中的关机和重启命令 一 shutdown命令 shutdown [选项] 时间 选项： ?
首先，将json串转为一个JObject对象： ? 1
matplotlib官网 matplotlib库默认英文字体 添加黑体（‘SimHei'）为绘图字体 代码： plt.rcParams['font.sans-serif']=['SimHei'
在并发编程中，synchronized关键字是常出现的角色。之前我们都称呼synchronized关键字为重量锁，但是在jdk1.6中对synchronized进行了优化，引入了偏向锁、轻量锁。本篇
一般我们的项目中会使用1到2个数据库连接配置，同程艺龙的数据库连接配置被收拢到统一的配置中心，由DBA统一配置和维护，业务方通过某个字符串配置拿到的是Connection对象。
实例如下： ? 1
1. MemoryCahe NetCore中的缓存和System.Runtime.Caching很相似，但是在功能上做了增强，缓存的key支持object类型；提供了泛型支持；可以读缓存和单个缓存
argument是javascript中函数的一个特殊参数，例如下文，利用argument访问函数参数，判断函数是否执行 复制代码 代码如下: <script
一不小心装了一个Redis服务，开了一个全网的默认端口，一开始以为这台服务器没有公网ip，结果发现之后悔之莫及啊 某天发现cpu load高的出奇，发现一个minerd进程 占了大量cpu，googl
今天写这个是为了 提醒自己 编程过程 不仅要有逻辑 思想 还有要规范 代码 这样可读性 1、PHP 编程规范与编码习惯最主要的有以下几点： 1 文件说明 2 funct
摘要：虚拟机安装时一般都采用最小化安装，默认没有lspci工具。一台测试虚拟网卡性能的虚拟机，需要lspci工具来查看网卡的类型。本文描述了在一个虚拟机中安装lspci工具的具体步骤。 由于要测试
1、修改用户进程可打开文件数限制 在Linux平台上，无论编写客户端程序还是服务端程序，在进行高并发TCP连接处理时，最高的并发数量都要受到系统对用户单一进程同时可打开文件数量的限制(这是因为系统
目录 算术运算符 基本四则运算符 增量赋值运算符 自增/自减运算符 关系运算符 逻
如下所示： ? 1
MapperScannerConfigurer之sqlSessionFactory注入方式讲解 首先，Mybatis中的有一段配置非常方便，省去我们去写DaoImpl（Dao层实现类）的时间，这个
我是一名优秀的程序员,十分优秀！