- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我创建了一个Python代码来解决群套索惩罚线性模型。对于那些不习惯使用这些模型的人来说,基本思想是提供数据集 (x) 和响应变量 (y) 以及参数值 (lambda1) 作为输入,改变该参数改变模型的解。所以我决定使用多处理库并解决不同的模型(与不同的参数值相关)。我创建了一个名为“model.py”的 python 文件,其中包含以下函数:
# -*- coding: utf-8 -*-
from __future__ import division
import functools
import multiprocessing as mp
import numpy as np
from cvxpy import *
def lm_gl_preprocessing(x, y, index, lambda1=None):
lambda_vector = [lambda1]
m = x.shape[1]
n = x.shape[0]
lambda_param = Parameter(sign="positive")
m = m+1
index = np.append(0, index)
x = np.c_[np.ones(n), x]
group_sizes = []
beta_var = []
unique_index = np.unique(index)
for idx in unique_index:
group_sizes.append(len(np.where(index == idx)[0]))
beta_var.append(Variable(len(np.where(index == idx)[0])))
num_groups = len(group_sizes)
group_lasso_penalization = 0
model_prediction = x[:, np.where(index == unique_index[0])[0]] * beta_var[0]
for i in range(1, num_groups):
model_prediction += x[:, np.where(index == unique_index[i])[0]] * beta_var[i]
group_lasso_penalization += sqrt(group_sizes[i]) * norm(beta_var[i], 2)
lm_penalization = (1.0/n) * sum_squares(y - model_prediction)
objective = Minimize(lm_penalization + (lambda_param * group_lasso_penalization))
problem = Problem(objective)
response = {'problem': problem, 'beta_var': beta_var, 'lambda_param': lambda_param, 'lambda_vector': lambda_vector}
return response
def solver(problem, beta_var, lambda_param, lambda_vector):
beta_sol_list = []
for i in range(len(lambda_vector)):
lambda_param.value = lambda_vector[i]
problem.solve(solver=ECOS)
beta_sol = np.asarray(np.row_stack([b.value for b in beta_var])).flatten()
beta_sol_list.append(beta_sol)
return beta_sol_list
def parallel_solver(problem, beta_var, lambda_param, lambda_vector):
# Divide parameter vector into chunks to be executed in parallel
num_chunks = mp.cpu_count()
chunks = np.array_split(lambda_vector, num_chunks)
# Solve problem in parallel
pool = mp.Pool(num_chunks)
global_results = pool.map(functools.partial(solver, problem, beta_var, lambda_param), chunks)
pool.close()
pool.join()
return global_results
如果在 python 控制台中,我开始运行并行求解器,它会给出一个解决方案。该解决方案与顺序求解器提供的解决方案不同。如果我重新启动 python 控制台并开始运行顺序求解器,然后运行并行求解器,则并行求解器会给出与顺序求解器相同的解决方案。我将展示:
from __future__ import division
from sklearn.datasets import load_boston
import numpy as np
import model as t
boston = load_boston()
x = boston.data
y = boston.target
index = np.array([1, 1, 1, 2, 2, 2, 3, 3, 3, 4, 4, 4, 5])
lambda1 = 1e-3
r1 = t.lm_gl_preprocessing(x=x, y=y, index=index, lambda1=lambda1)
s_parallel_1 = t.parallel_solver(problem=r1['problem'], beta_var=r1['beta_var'], lambda_param=r1['lambda_param'], lambda_vector=r1['lambda_vector'])
print(s_parallel_1)
[[array([ 4.61648376e+01, -1.22394832e-04, 0.00000000e+00,
0.00000000e+00, 1.37065733e-04, 1.51910696e-03,
0.00000000e+00, 1.51910696e-03, 0.00000000e+00,
7.00079603e-03, 1.52776114e-03, -8.67357376e-01,
7.16429750e-03, -8.67357376e-01])], [], [], []]
s_1 = t.solver(problem=r1['problem'], beta_var=r1['beta_var'], lambda_param=r1['lambda_param'], lambda_vector=r1['lambda_vector'])
print(s_1)
[array([ 3.62813738e+01, -1.06995338e-01, 4.64210526e-02,
1.97112192e-02, 2.68475527e+00, -1.75142155e+01,
3.80741843e+00, 5.14842823e-04, -1.47105323e+00,
3.04949407e-01, -1.23508259e-02, -9.50143293e-01,
9.40708993e-03, -5.25758097e-01])]
#####################################################
r1 = t.lm_gl_preprocessing(x=x, y=y, index=index, lambda1=lambda1)
s_1 = t.solver(problem=r1['problem'], beta_var=r1['beta_var'], lambda_param=r1['lambda_param'], lambda_vector=r1['lambda_vector'])
print(s_1)
[array([ 3.62813738e+01, -1.06995338e-01, 4.64210526e-02,
1.97112192e-02, 2.68475527e+00, -1.75142155e+01,
3.80741843e+00, 5.14842823e-04, -1.47105323e+00,
3.04949407e-01, -1.23508259e-02, -9.50143293e-01,
9.40708993e-03, -5.25758097e-01])]
s_parallel_1 = t.parallel_solver(problem=r1['problem'], beta_var=r1['beta_var'], lambda_param=r1['lambda_param'], lambda_vector=r1['lambda_vector'])
print(s_parallel_1)
[[array([ 3.62813738e+01, -1.06995338e-01, 4.64210526e-02,
1.97112192e-02, 2.68475527e+00, -1.75142155e+01,
3.80741843e+00, 5.14842823e-04, -1.47105323e+00,
3.04949407e-01, -1.23508259e-02, -9.50143293e-01,
9.40708993e-03, -5.25758097e-01])], [], [], []]
PS:我知道在这个例子中,我使用并行编程只是为了求解一个具有一个可能参数值的模型,但这只是一个小例子,旨在展示顺序编程和并行编程提供的解决方案的差异。我会感谢任何提示,因为我完全迷失在这里。
最佳答案
如果我执行你的代码,在所有情况下都会得到相同的结果。这是我正在运行的代码(我合并了 2 个文件):
from __future__ import division
import functools
import multiprocessing as mp
import numpy as np
from cvxpy import *
from sklearn.datasets import load_boston
def lm_gl_preprocessing(x, y, index, lambda1=None):
lambda_vector = [lambda1]
m = x.shape[1]
n = x.shape[0]
lambda_param = Parameter(sign="positive")
m = m+1
index = np.append(0, index)
x = np.c_[np.ones(n), x]
group_sizes = []
beta_var = []
unique_index = np.unique(index)
for idx in unique_index:
group_sizes.append(len(np.where(index == idx)[0]))
beta_var.append(Variable(len(np.where(index == idx)[0])))
num_groups = len(group_sizes)
group_lasso_penalization = 0
model_prediction = x[:, np.where(index == unique_index[0])[0]] * beta_var[0]
for i in range(1, num_groups):
model_prediction += x[:, np.where(index == unique_index[i])[0]] * beta_var[i]
group_lasso_penalization += sqrt(group_sizes[i]) * norm(beta_var[i], 2)
lm_penalization = (1.0/n) * sum_squares(y - model_prediction)
objective = Minimize(lm_penalization + (lambda_param * group_lasso_penalization))
problem = Problem(objective)
response = {'problem': problem, 'beta_var': beta_var, 'lambda_param': lambda_param, 'lambda_vector': lambda_vector}
return response
def solver(problem, beta_var, lambda_param, lambda_vector):
beta_sol_list = []
for i in range(len(lambda_vector)):
lambda_param.value = lambda_vector[i]
problem.solve(solver=ECOS)
beta_sol = np.asarray(np.row_stack([b.value for b in beta_var])).flatten()
beta_sol_list.append(beta_sol)
return beta_sol_list
def parallel_solver(problem, beta_var, lambda_param, lambda_vector):
# Divide parameter vector into chunks to be executed in parallel
num_chunks = mp.cpu_count()
chunks = np.array_split(lambda_vector, num_chunks)
# Solve problem in parallel
pool = mp.Pool(num_chunks)
global_results = pool.map(functools.partial(solver, problem, beta_var, lambda_param), chunks)
pool.close()
pool.join()
return global_results
if __name__ == "__main__":
boston = load_boston()
x = boston.data
y = boston.target
index = np.array([1, 1, 1, 2, 2, 2, 3, 3, 3, 4, 4, 4, 5])
lambda1 = 1e-3
r1 = lm_gl_preprocessing(x=x, y=y, index=index, lambda1=lambda1)
s_parallel_1 = parallel_solver(problem=r1['problem'], beta_var=r1['beta_var'], lambda_param=r1['lambda_param'], lambda_vector=r1['lambda_vector'])
print(s_parallel_1)
r1 = lm_gl_preprocessing(x=x, y=y, index=index, lambda1=lambda1)
s_1 = solver(problem=r1['problem'], beta_var=r1['beta_var'], lambda_param=r1['lambda_param'], lambda_vector=r1['lambda_vector'])
print(s_1)
print ("#####################################################")
r1 = lm_gl_preprocessing(x=x, y=y, index=index, lambda1=lambda1)
s_1 = solver(problem=r1['problem'], beta_var=r1['beta_var'], lambda_param=r1['lambda_param'], lambda_vector=r1['lambda_vector'])
print(s_1)
r1 = lm_gl_preprocessing(x=x, y=y, index=index, lambda1=lambda1)
s_parallel_1 = parallel_solver(problem=r1['problem'], beta_var=r1['beta_var'], lambda_param=r1['lambda_param'], lambda_vector=r1['lambda_vector'])
print(s_parallel_1)
和输出:
[[array([ 3.62813738e+01, -1.06995338e-01, 4.64210526e-02, 1.97112192e-02,
2.68475527e+00, -1.75142155e+01, 3.80741843e+00, 5.14842823e-04,
-1.47105323e+00, 3.04949407e-01, -1.23508259e-02, -9.50143293e-01,
9.40708993e-03, -5.25758097e-01])], [], [], []]
[array([ 3.62813738e+01, -1.06995338e-01, 4.64210526e-02, 1.97112192e-02,
2.68475527e+00, -1.75142155e+01, 3.80741843e+00, 5.14842823e-04,
-1.47105323e+00, 3.04949407e-01, -1.23508259e-02, -9.50143293e-01,
9.40708993e-03, -5.25758097e-01])]
#####################################################
[array([ 3.62813738e+01, -1.06995338e-01, 4.64210526e-02, 1.97112192e-02,
2.68475527e+00, -1.75142155e+01, 3.80741843e+00, 5.14842823e-04,
-1.47105323e+00, 3.04949407e-01, -1.23508259e-02, -9.50143293e-01,
9.40708993e-03, -5.25758097e-01])]
[[array([ 3.62813738e+01, -1.06995338e-01, 4.64210526e-02, 1.97112192e-02,
2.68475527e+00, -1.75142155e+01, 3.80741843e+00, 5.14842823e-04,
-1.47105323e+00, 3.04949407e-01, -1.23508259e-02, -9.50143293e-01,
9.40708993e-03, -5.25758097e-01])], [], [], []]
如您所见,我有相同数量的 CPU (4)。
我的环境是Linux上的Python2.7,这些是相关软件包的版本:
>>> import sklearn
>>> sklearn.__version__
'0.19.2'
>>> import scipy
>>> scipy.__version__
'1.1.0'
>>> import numpy
>>> numpy.__version__
'1.15.2'
>>> import cvxpy
>>> cvxpy.__version__
'0.4.0'
>>> import multiprocessing
>>> multiprocessing.__version__
'0.70a1'
关于python - 顺序编程和并行编程解法的区别,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52373807/
平时很少在jquery中用到this。查看代码时发现用到了,就调试出this的值,心想原来如此。还是挺有用的。这里总结一下this与$(this)的区别和使用。 $(this)生成的是什么?
使用单例类和应用程序范围的托管 bean 来保存应用程序数据有区别吗? 我需要查找某些 JNDI 资源,例如远程 bean 接口(interface),因此我为自己编写了一个单例来缓存我的引用并且只允
如果您仔细查看包含的图片,您会注意到您可以使用 Eclipse IDE 重构 Groovy 代码并将方法转换为闭包,反之亦然。那么,闭包到底是什么,它与方法有什么不同呢?有人可以举一个使用闭包的好例子
vagrant box repackage有什么区别( docs ) 和 vagrant package ( docs )? 我意识到 vagrant package仅适用于 VirtualBox 提
我想看看是否有人可以解释为什么以下代码适用于 valueOf 但不适用于其他代码。 import java.math.BigDecimal; public class Change { publ
这个问题已经有答案了: 已关闭12 年前。 Possible Duplicates: What is Closures/Lambda in PHP or Javascript in layman te
This question already has answers here: Vagrant, Docker, Puppet, Chef (3个答案) 2年前关闭。 docker和chef有什么共同
以下代码在95%的机器上产生相同的输出,但是在几台机器上却有所不同。在 Debug模式下,输出: Changing from New to Fin OK 但在 Release模式下: Changing
////Creating Object var Obj; // init Object Obj= {}; 它们之间有什么区别两个? 有没有可能把它变成一个单行? 这样使用有什么好处吗?
我想找出定时器服务之间的区别。我应该使用哪个以及何时使用。我正在使用 Jboss 应用服务器。 1) java.ejb.Schedule。 @Schedule注解或配置自xml。 2) javax.e
我发现在 C++ 中可以通过三种不同的方式将对象传递给函数。假设我的类(class)是这样的: class Test { int i; public: Test(int x);
有什么区别。 public class Test { public static void main(String args[]) { String toBeCast = "c
如果我有一列,设置为主索引,设置为INT。 如果我不将其设置为自动递增,而只是将唯一的随机整数插入其中,与自动递增相比,这是否会减慢 future 的查询速度? 如果我在主索引和唯一索引为 INT 的
这两种日期格式有什么区别。第一个给出实际时间,第二个给出时间购买添加时区偏移值。 NSDateFormatter * dateFormatter = [[NSDateFormatter alloc]
如果有一个函数,请说foo: function foo() { console.log('bar'); } 那么在 JavaScript 中,从另一个函数调用一个函数有什么区别,如下所示: f
关闭。这个问题是opinion-based 。目前不接受答案。 想要改进这个问题吗?更新问题,以便 editing this post 可以用事实和引文来回答它。 . 已关闭 4 年前。 Improv
代码是什么: class Time { private: int hours; int minutes; int seconds; pu
我知道这是非常基本的,但有人介意解释一下这两个数组声明之间的区别吗: #include array myints; ...和: int myints[5]; ...以及为什么 myints.size
我学会了如何根据 http://reference.sitepoint.com/css/specificity 计算 css 特异性但是,基于this reference,我不明白伪类(来自c)和伪元
为什么在运行 2) 时会出现额外的空行?对我来说 1 就像 2。那么为什么 2) 中的额外行? 1) export p1=$(cd $(dirname $0) && pwd) #
我是一名优秀的程序员,十分优秀!