r - 无法在 R 上运行 LBFGS

Question

我正在尝试在 R 上运行 lbfgs-algorithm，但我总是得到这样的结果:

L-BFGS optimization terminated with status code = -1001 fx = -0.0119691 

我尝试了不同的设置，但我一直得到相同的结果。

TI <- read.csv("Alphabet01-2000.csv", header = TRUE)
TIn <- TI[9:28]
relPreisBew <- TI[8]
x <- vector(mode = "numeric", length = 20L)
i <- integer()
d=0
b=rep.int(0,20)
grad <- function(x, j = 90, n = 100){for(i in j:n)
{b <- b-as.vector(t(TIn[i,]), mode = "numeric")*relPreisBew[i,]/(cosh(sum(x*as.vector(t(TIn[i,]), mode="numeric"))))*cosh(sum(x*as.vector(t(TIn[i,]), mode = "numeric")))}; return(b)}
Profit <- function(x, j = 90, n = 100){for(i in j:n)
{d <- d-tanh(sum(x*as.vector(t(TIn[i,]), mode = "numeric")))*relPreisBew[i,]}; return(d)}
lbfgs.out <- lbfgs(Profit, grad, rep.int(0, 20))

我猜问题出在 grad 函数对某些值返回 NaN。我试图通过限制 stepsize 和 max_iterations 来解决这个问题，但没有成功。 relPreisBew 和 TIn 中的值介于 0 和 1 之间，这些 data.frame 的长度为 2956。我尝试重新创建以下算法: https://minerva-access.unimelb.edu.au/bitstream/handle/11343/51750/bitvai_cohn_day_trading.pdf?sequence=1请参阅第 4-7 页。

问题

这是我实现的问题还是功能的问题？

Answer 1

我认为你的代码可以重写为

set.seed(1)
TIn         <- as.data.frame(matrix(runif(2956 * 20), 2956, 20))
relPreisBew <- as.data.frame(matrix(runif(2956 *  1), 2956,  1))

grad <- function(x, j = 90, n = 100){
  b <- numeric(20)
  for(i in j:n)
    b <- b - as.numeric(TIn[i,]) * relPreisBew[i,] / 
      cosh(sum(x * as.numeric(TIn[i,])))^2
  b
}
Profit <- function(x, j = 90, n = 100){
  d <- numeric(1)
  for(i in j:n)
    d <- d - tanh(sum(x * as.numeric(TIn[i,]))) * relPreisBew[i,]
  d
}

library(lbfgs)
lbfgs.out <- lbfgs(Profit, grad, numeric(20), invisible = 1)
lbfgs.out
#R> $value
#R> [1] -3.95898
#R> 
#R> $par
#R> [1] 0.6454434 0.4368204 0.8539061 0.7784060 1.2161234 0.9605967 1.1229975 0.3174475 0.5408638 0.9498033 0.5697073 0.7133112 0.8297062 0.5387137
#R> [15] 0.3503997 0.4985034 0.8430027 0.3826048 0.9294685 0.9222503
#R> 
#R> $convergence
#R> [1] 0

这似乎适用于 0 到 1 之间的数据。尽管如此，如果没有实际数据，要查看我是否得到相同的结果或问题是什么并不容易。

I'm guessing the problem is the gradient function returns NaNs for certain values.

除非与数据相关，否则我看不出这是怎么发生的。如果我没记错的话，cosh 不能返回任何小于 1 的值，因此梯度中的分子永远不会变为零。

I tried to solve this problem with restrictions to stepsize and max_iterations, but with no success.

虽然更改 stepsize 可能有所帮助，但我不确定您对更改 max_iterations 有何期望。

Is this a problem with my implementation or is it because of the function?

我猜的数据集。但没有实际数据很难知道。