- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
目前我已经使用 def 函数成功定义了一个自定义内核函数(预计算内核矩阵),现在我正在使用 GridSearchCV 函数来获取最佳参数。
因此,在自定义内核函数中,总共有 2 个参数需要调整(即下例中的 gamm 和 sea_gamma),而且对于 SVR 模型,cost c参数也必须调整。但直到现在,我只能使用 GridSearchCV 调整 cost c 参数 -> 请参阅下面的第一部分:示例。
我已经搜索了一些类似的解决方案,例如:
Is it possible to tune parameters with grid search for custom kernels in scikit-learn?
它说“一种方法是使用 Pipeline、SVC(kernel='precomputed') 并将您的自定义内核函数包装为 sklearn 估计器(BaseEstimator 和 TransformerMixin 的子类)) ”但是这仍然与我的案例和问题不同,但是,我尝试基于此解决方案解决问题,但到目前为止它没有打印任何输出,甚至没有打印任何错误。 -> 请引用第二部分:管道解决方案。
第一部分:示例->我在网格搜索中的原始自定义内核和评分方法是:
import numpy as np
import pandas as pd
import sklearn.svm as svm
from sklearn import preprocessing,svm, datasets
from sklearn.preprocessing import StandardScaler, MaxAbsScaler
from sklearn.metrics.pairwise import rbf_kernel
from sklearn.grid_search import GridSearchCV
from sklearn.svm import SVR
from sklearn.pipeline import Pipeline
from sklearn.metrics.scorer import make_scorer
# weighting the vectors
def distance_scale(X,Y):
K = np.zeros((X.shape[0],Y.shape[0]))
gamma_sea =192
for i in range(X.shape[0]):
for j in range(Y.shape[0]):
dis = min(np.abs(X[i]-Y[j]),1-np.abs(X[i]-Y[j]))
K[i,j] = np.exp(-gamma_sea*dis**2)
return K
# custom RBF kernel : kernel matrix calculation
def sea_rbf(X,Y):
gam=1
t1 = X[:, 5:6]
t2 = Y[:, 5:6]
X = X[:, 0:5]
Y = Y[:, 0:5]
d = distance_scale(t1,t2)
return rbf_kernel(X,Y,gamma=gam)*d
def my_custom_loss_func(y_true, y_pred):
error=np.abs((y_true - y_pred)/y_true)
return np.mean(error)*100
my_scorer = make_scorer(my_custom_loss_func,greater_is_better=False)
# Generate sample data
X_train=np.random.random((100,6))
y_train=np.random.random((100,1))
X_test=np.random.random((40,6))
y_test=np.random.random((40,1))
y_train=np.ravel(y_train)
y_test=np.ravel(y_test)
# scale the input and output in training data set, also scale the input
#in testing data set
max_scale = preprocessing.MaxAbsScaler().fit(X_train)
X_train_max = max_scale.transform(X_train)
X_test_max = max_scale.transform(X_test)
max_scale_y = preprocessing.MaxAbsScaler().fit(y_train)
y_train_max = max_scale_y.transform(y_train)
#precompute the kernel matrix
gam=sea_rbf(X_train_max,X_train_max)
#grid search for the model with the custom scoring method, but can only tune the *cost c* parameter in this case.
clf= GridSearchCV(SVR(kernel='precomputed'),
scoring=my_scorer,
cv=5,
param_grid={"C": [0.1,1,2,3,4,5]
})
clf.fit(gam, y_train_max)
print(clf.best_params_)
print(clf.best_score_)
print(clf.grid_scores_)
第二部分:管道解决方案
from __future__ import print_function
from __future__ import division
import sys
import sklearn
from sklearn.base import BaseEstimator, TransformerMixin
from sklearn.pipeline import Pipeline
# Wrapper class for the custom kernel RBF_kernel
class RBF2Kernel(BaseEstimator,TransformerMixin):
def __init__(self, gamma=1,sea_gamma=20):
super(RBF2Kernel,self).__init__()
self.gamma = gamma
self.sea_gamma = sea_gamma
def fit(self, X, y=None, **fit_params):
return self
#calculate the kernel matrix
def transform(self, X):
self.a_train_ = X[:, 0:5]
self.b_train_ = X[:, 0:5]
self.t1_train_ = X[:, 5:6]
self.t2_train_ = X[:, 5:6]
sea=16
K = np.zeros((t1.shape[0],t2.shape[0]))
for i in range(self.t1_train_.shape[0]):
for j in range(self.t2_train_.shape[0]):
dis = min(np.abs(self.t1_train_[i]*sea- self.t2_train_[j]*sea),sea-np.abs(self.t1_train_[i]*sea-self.t2_train_[j]*sea))
K[i,j] = np.exp(-self.gamma_sea *dis**2)
return K
return rbf_kernel(self.a_train_ , self.b_train_, gamma=self.gamma)*K
def main():
print('python: {}'.format(sys.version))
print('numpy: {}'.format(np.__version__))
print('sklearn: {}'.format(sklearn.__version__))
# Generate sample data
X_train=np.random.random((100,6))
y_train=np.random.random((100,1))
X_test=np.random.random((40,6))
y_test=np.random.random((40,1))
y_train=np.ravel(y_train)
y_test=np.ravel(y_test)
# Create a pipeline where our custom predefined kernel RBF2Kernel
# is run before SVR.
pipe = Pipeline([
('sc', MaxAbsScaler()),
('rbf2', RBF2Kernel()),
('svm', SVR()),
])
# Set the parameter 'gamma' of our custom kernel by
# using the 'estimator__param' syntax.
cv_params = dict([
('rbf2__gamma', 10.0**np.arange(-2,2)),
('rbf2__sea_gamma', 10.0**np.arange(-2,2)),
('svm__kernel', ['precomputed']),
('svm__C', 10.0**np.arange(-2,2)),
])
# Do grid search to get the best parameter value of 'gamma'.
# here i am also trying to tune the parameters of the custom kernel
model = GridSearchCV(pipe, cv_params, verbose=1, n_jobs=-1,scoring=my_scorer)
model.fit(X_train, y_train)
y_pred = model.predict(X_test)
acc_test = mean_absolute_error(y_test, y_pred)
mape_100 = my_custom_loss_func (y_test, y_pred)
print("Test accuracy: {}".format(acc_test))
print("mape_100: {}".format(mape_100))
print("Best params:")
print(model.best_params_)
print(model.grid_scores_)
if __name__ == '__main__':
main()
所以,总结一下:
非常感谢您的阅读,希望详细的描述能让您更清楚一点,欢迎所有建议:)
最佳答案
使用函数包装模型:
def GBC(self):
model = GradientBoostingRegressor()
p = [{'learning_rate':[[0.0005,0.01,0.02,0.03]],'n_estimators':[[for i in range(1,100)]],'max_depth':[[4]]}]
return model,p
然后通过参数网格用内核测试它:
def kernel(self,model,p):
parameter = ParameterGrid(p)
clf = GridSearchCV(model, parameter, cv=5, scoring='neg_mean_squared_error',n_jobs=2)
clf.fit(X,Y)
使用这种方法,您可以在不同的函数上管理函数的种类及其超参数集,直接在 main 中调用该函数
a = the_class()
a.kernel(a.GBC())
关于python - 如何在 scikit-learn 中使用管道调整自定义内核函数的参数,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/43470610/
好的,所以我编辑了以下... 只需将以下内容放入我的 custom.css #rt-utility .rt-block {CODE HERE} 但是当我尝试改变... 与 #rt-sideslid
在表格 View 中,我有一个自定义单元格(在界面生成器中高度为 500)。在该单元格中,我有一个 Collection View ,我按 (10,10,10,10) 固定到边缘。但是在 tablev
对于我的无能,我很抱歉,但总的来说,我对 Cocoa、Swift 和面向对象编程还很陌生。我的主要来源是《Cocoa Programming for OS X》(第 5 版),以及 Apple 的充满
我正在使用 meta-tegra 为我的 NVIDIA Jetson Nano 构建自定义图像。我需要 PyTorch,但没有它的配方。我在设备上构建了 PyTorch,并将其打包到设备上的轮子中。现
在 jquery 中使用 $.POST 和 $.GET 时,有没有办法将自定义变量添加到 URL 并发送它们?我尝试了以下方法: $.ajax({type:"POST", url:"file.php?
Traefik 已经默认实现了很多中间件,可以满足大部分我们日常的需求,但是在实际工作中,用户仍然还是有自定义中间件的需求,为解决这个问题,官方推出了一个 Traefik Pilot[1] 的功
我想让我的 CustomTextInputLayout 将 Widget.MaterialComponents.TextInputLayout.OutlinedBox 作为默认样式,无需在 XML 中
我在 ~/.emacs 中有以下自定义函数: (defun xi-rgrep (term) (grep-compute-defaults) (interactive "sSearch Te
我有下表: 考虑到每个月的权重,我的目标是在 5 个月内分散 10,000 个单位。与 10,000 相邻的行是我最好的尝试(我在这上面花了几个小时)。黄色是我所追求的。 我试图用来计算的逻辑如下:计
我的表单中有一个字段,它是文件类型。当用户点击保存图标时,我想自然地将文件上传到服务器并将文件名保存在数据库中。我尝试通过回显文件名来测试它,但它似乎不起作用。另外,如何将文件名添加到数据库中?是在模
我有一个 python 脚本来发送电子邮件,它工作得很好,但问题是当我检查我的电子邮件收件箱时。 我希望该用户名是自定义用户名,而不是整个电子邮件地址。 最佳答案 发件人地址应该使用的格式是: You
我想减小 ggcorrplot 中标记的大小,并减少文本和绘图之间的空间。 library(ggcorrplot) data(mtcars) corr <- round(cor(mtcars), 1)
GTK+ noob 问题在这里: 是否可以自定义 GtkFileChooserButton 或 GtkFileChooserDialog 以删除“位置”部分(左侧)和顶部的“位置”输入框? 我实际上要
我正在尝试在主页上使用 ajax 在 magento 中使用 ajax 显示流行的产品列表,我可以为 5 或“N”个产品执行此操作,但我想要的是将分页工具栏与结果集一起添加. 这是我添加的以显示流行产
我正在尝试使用 PasswordResetForm 内置函数。 由于我想要自定义表单字段,因此我编写了自己的表单: class FpasswordForm(PasswordResetForm):
据我了解,新的 Angular 7 提供了拖放功能。我搜索了有关 DnD 的 Tree 组件,但没有找到与树相关的内容。 我在 Stackblitz 上找到的一个工作示例.对比drag'ndrop功能
我必须开发一个自定义选项卡控件并决定使用 WPF/XAML 创建它,因为我无论如何都打算学习它。完成后应该是这样的: 到目前为止,我取得了很好的进展,但还有两个问题: 只有第一个/最后一个标签项应该有
我要定制xtable用于导出到 LaTeX。我知道有些问题是关于 xtable在这里,但我找不到我要找的具体东西。 以下是我的表的外观示例: my.table <- data.frame(Specif
用ejs在这里显示日期 它给我结果 Tue Feb 02 2016 16:02:24 GMT+0530 (IST) 但是我需要表现为 19th January, 2016 如何在ejs中执行此操作?
我想问在 JavaFX 中使用自定义对象制作 ListView 的最佳方法,我想要一个每个项目如下所示的列表: 我搜了一下,发现大部分人都是用细胞工厂的方法来做的。有没有其他办法?例如使用客户 fxm
我是一名优秀的程序员,十分优秀!