multithreading - 多线程反向传播

Question

我已经在VB.NET中编写了一个反向传播类-它工作得很好-并且我正在C#人工智能项目中使用它。

但是我在家有AMD Phenom X3，在学校有Intel i5。而且我的神经网络不是多线程的。

如何将反向传播类转换为多线程算法？或如何在其中使用GPGPU编程？还是应该使用具有多线程反向传播神经网络的任何第三方库？

Answer 1

JeffHeaton has recommend that you use resilient propagation (RPROP)而不是反向传播。有关如何执行多线程RPROP(MPROP)的示例:

Article on C# multithreaded backpropagation(来自Jeff Heaton)

Chapter 7.2.1- "Propagation and Multithreading" (p.94 of Introduction to Encog 2.5 for C#)

很难在这里讨论所有细节，因此我建议您要么阅读该文章，然后查看我所引用的书的相关章节。当然，这是假设您熟悉并发编程。

更新:

Resilient propagation will typically outperform backpropagation by a considerable factor. Additionally, RPROP has no parameters that must be set. Backpropagation requires that a learning rate and momentum value be specified. Finding an optimal learning rate and momentum value for backpropagation can be difficult. This is not necessary with resilient propagation. (source: Encog Machine Learning)