math - 这是在 python 中查找 sigmoid 函数的导数的正确方法吗？

Question

我想出了这个代码:

def DSigmoid(value):  
    return (math.exp(float(value))/((1+math.exp(float(value)))**2))  

a.) 这会返回正确的导数吗？
b.) 这是一种有效的方法吗？

亲切的问候，
大快克

Answer 1

在我看来是正确的。通常，检查此类导数计算的两种好方法是:

1. Wolfram Alpha .输入 sigmoid 函数 1/(1+e^(-t))，我们得到了与您的相匹配的导数的显式公式。更直接一点，您可以输入 D[1/(1+e^(-t)), t] 以获得导数，而无需所有附加信息。

   <

2. 将其与数值近似值进行比较。在你的例子中，我假设你已经有一个函数 Sigmoid(value)。服用

   Dapprox = (Sigmoid(value+epsilon) - Sigmoid(value))/epsilon

   对于一些小的 epsilon 并将其与您的函数 DSigmoid(value) 的输出进行比较应该捕获除最小错误之外的所有错误。一般而言，以数字方式估算导数是仔细检查您是否正确编写了导数的最佳方法，即使您已经确定了公式，而且几乎不费吹灰之力。