- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
在缩放数据时,为什么训练数据集使用'fit'和'transform',而测试数据集只使用'transform'?
SAMPLE_COUNT = 5000
TEST_COUNT = 20000
seed(0)
sample = list()
test_sample = list()
for index, line in enumerate(open('covtype.data','rb')):
if index < SAMPLE_COUNT:
sample.append(line)
else:
r = randint(0,index)
if r < SAMPLE_COUNT:
sample[r] = line
else:
k = randint(0,index)
if k < TEST_COUNT:
if len(test_sample) < TEST_COUNT:
test_sample.append(line)
else:
test_sample[k] = line
from sklearn.preprocessing import StandardScaler
for n, line in enumerate(sample):
sample[n] = map(float, line.strip().split(','))
y = np.array(sample)[:,-1]
scaling = StandardScaler()
X = scaling.fit_transform(np.array(sample)[:,:-1]) ##here use fit and transform
for n,line in enumerate(test_sample):
test_sample[n] = map(float,line.strip().split(','))
yt = np.array(test_sample)[:,-1]
Xt = scaling.transform(np.array(test_sample)[:,:-1])##why here only use transform
如注解所说,为什么Xt只用transform而不用fit?
最佳答案
我们在训练数据上使用fit_transform()
,这样我们就可以学习训练数据缩放的参数,同时我们缩放训练数据。我们只对测试数据使用 transform()
,因为我们使用在训练数据上学习的缩放参数来缩放测试数据。
这是扩展的标准程序。你总是在火车上学习你的缩放参数,然后在测试中使用它们。这是一篇很好地解释它的文章:https://sebastianraschka.com/faq/docs/scale-training-test.html
关于python - 缩放数据时,为什么训练数据集使用 'fit' 和 'transform' ,而测试数据集只使用 'transform' ?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/43675665/
过去 7-8 个月以来,我们一直在使用 Firebase。 这是一个非常棒的工具,感谢您的努力。 这里我有一个问题,是否有一种方法可以在不实际写入数据库的情况下修改数据。 因为大多数情况下,当我们调试
我正在尝试创建一个 W2V 模型,然后生成用于我的模型的训练和测试数据。我的问题是,在使用训练数据创建 W2V 模型后,如何生成测试数据。 最佳答案 Word2Vec 被认为是一种“无监督”算法,因此
from scipy.cluster.hierarchy import dendrogram, linkage,fcluster import numpy as np import matplotli
我有一个组件,我想在单元测试中检查选择器 @Component({ selector: 'my-component', )} 我想这样测试 describe('My Component',
想知道哪个好。 我必须将一些 JUnit 测试数据保存在不同的文件中。让我们将其称为 TestingData.java。我想到了两种方法。 第一种方式 TestingData.java public
这个问题在这里已经有了答案: 关闭 14 年前。 我想对我的一些 SQL 查询进行压力测试,找出糟糕的查询计划和瓶颈。我计划用随机测试数据填充一些表。 是否有工具或一组脚本可用于此目的,最好是用于
我正在尝试预测以下内容: list( [ 收盘价(当日) - 开盘价(当日) ] ) 使用以下内容作为输入: list( [ 开盘价(当天) - 收盘价(昨天) ] ) 但是,我的 test_pred
我已经编写了一个函数库,可以根据 ISO/IEC 7813 从卡片(信用卡、ID 等)上的磁条解析轨道 1 和轨道 2 数据。我希望针对一些有效的(但显然不是)严格测试这个库真正的信用卡')跟踪 2
我的问题如下。我有 6 个数据集(从不同的日子收集),我想为其构建决策树分类器。我需要找到最佳的树深度参数以避免过度拟合并对新数据进行良好的预测。 我的第一次尝试是将每个数据集按 50%/25%/25
我想在我的仪器测试中使用大文件(> 2 GB 的 zip 存档和视频文件)来测试从 SD 卡/内部存储加载文件。 如何编写这些仪器测试并为它们配备所需的文件?对于其他测试,我只需要非常小的文件,所以我
我在理解 MXNet ImageRecordIter 的工作原理时遇到了一些困难。 Here是我一直在使用的引用 首先,--test-ratio 标志实际上是做什么的?生成lst文件时,我无法分辨哪些
考虑具有成本函数的线性回归模型: 这里有 = 模型的权重 我们添加正则化参数以避免过度拟合数据。正则化项通过根据模型的权重对模型进行惩罚来阻止使用大的权重,转而使用较小的权重。问题是: 为什么保持模型
我们正在为基于 REST 的后端构建 Grails 前端。我们有很多值 (DTO) 编码到 JSON 或从 JSON 编码。 我正在寻找一种方便的方法来构建这些 DTO 的模拟以用于测试目的。我喜欢
我在家里的电脑和笔记本电脑上都在做一个 Python/MongoDB 项目。自然地,文档存储中的模式最好由数据本身表示 - 这就是为什么我想通过 Mercurial 分发我的测试数据以及代码本身。 最
Spring Test 有助于回滚测试方法中对数据库所做的任何更改。这意味着不必在每个测试方法之前花时间删除/重新加载测试数据。 但是,如果您使用 @BeforeClass Junit 注释,则会强制
我试图理解这行代码: msk = np.random.rand(len(df)) 小于 ( 大于或等于 (>=) 0.8。 ~msk 将 True 翻转为 False 并将 False 翻转为 Tr
我已按照说明使用 JMonkey 创建 Gradle 项目,但无法按照教程中所述加载任何 Assets : http://wiki.jmonkeyengine.org/doku.php/jme3:be
我试图理解这行代码: msk = np.random.rand(len(df)) 小于 ( 大于或等于 (>=) 0.8。 ~msk 将 True 翻转为 False 并将 False 翻转为 Tr
我正在尝试使用此处介绍的 Excel 数据阅读器 http://fabiouechi.blogspot.fi/2010/07/excel-data-driven-tests-with-nunit.ht
我想知道是否可以在根 html 元素级别向第 3 方包添加唯一标识符。例如,我通过 NPM 使用包 myDatePicker。 我可以将 ID 标记添加到实际的 html 元素,但嵌套在该元素内部的是
我是一名优秀的程序员,十分优秀!