python - 您最初选择机器学习算法/进行初始设置的经验法则是什么？

Question

关闭。这个问题需要多问 focused 。目前不接受答案。

---

想要改进此问题吗？更新问题，使其仅关注一个问题 editing this post .

已关闭 9 年前。

Improve this question

我在 .tsv 文件中有一组数据可用 here 。我编写了几个分类器来确定给定网站是短暂的还是常青的。

我最初的实践是快速原型(prototype)设计，做了随机分类器、1R分类器，尝试了一些特征工程、线性回归、逻辑回归、朴素贝叶斯...等。

然而，我以一种困惑、不连贯的方式完成了这一切。我想知道的是，如果给你一组数据(为了论证，上面发布的数据)你将如何分析它以找到合适的分类器？您最初会考虑什么来从数据集中提取含义？

在这个高级编程时代我所做的是否正确，我可以在一晚上对我的数据运行 5/6 算法？快速原型(prototype)设计方法是最好的想法还是可以采取更合理、更有逻辑的方法？

目前，我已经清理了数据，删除了所有无意义的行(这些行数量很少，因此可以将其丢弃)。我编写了一个脚本来交叉验证我的分类器，因此我有一个指标来测试偏差/方差并检查整体算法性能。

我该去哪里？我需要考虑哪些方面？我在这里想到什么？

Answer 1

你可以加入一些理论元素。例如:

• 朴素贝叶斯分类器假设所有变量都是独立的。也许事实并非如此？但这个分类器快速且简单，因此对于许多问题来说它仍然是一个不错的选择，即使变量并不是真正独立的。
• 线性回归对远离分类边界的样本给予过多的权重。这通常是个坏主意。
• 逻辑回归试图解决这个问题，但仍然假设输入变量之间存在线性相关性。换句话说，类之间的边界是输入变量空间中的一个平面。

当我研究数据集时，我通常首先绘制每类样本的每个变量的分布，以找到最具辨别力的变量。

然后，对于每一类样本，我通常会绘制给定输入变量与另一个输入变量的关系图，以研究变量之间的相关性:是否存在非线性相关性？如果是，我可能会选择可以处理此类相关性的分类器。两个输入变量之间是否存在强相关性？如果是，则可以删除其中一个变量以降低问题的维度。

这些图还可以让您发现数据集中的问题。

但毕竟，像您所做的那样，尝试许多分类器并优化其参数以获得交叉验证中的最佳结果是一种务实且有效的方法，而且无论如何都必须在某个时候完成。

从这篇文章的标签中我了解到您使用了 scikit-learn 的分类器。如果您还没有注意到，这个包还提供了强大的交叉验证工具 http://scikit-learn.org/stable/modules/cross_validation.html