java - 用于检查 "unseriousness"的应用程序/脚本可能吗？

Question

我有一个分类广告网站，用户可以在其中买卖任何东西...

我的问题是公司需要花费大量金钱、时间等，所有分类广告在发布到网站之前必须由自然人(员工)审核。

因此，当您创建新的分类实体时，您会收到类似“您的广告将根据我们的政策进行审核并在两小时内发布”之类的消息。

所以一个人必须实际检查是否存在诅咒、歧视、不认真等......

我的问题:

您认为可以创建一个 php 代码来检查所有这些事情而不是雇人去做吗？例如，Ebay 如何解决这个问题？

将单词列入黑名单很容易，检查重复条目也很容易，但是歧视和“不严肃”呢？

Answer 1

我认为您无法 100% 完全自动化 - 但您可以让审阅者的工作更轻松。

您可以为此创建一个应用程序，为分类分配“评级”。

出现的分类越严重，得分越高。每个“可能的违规行为”(错误的单词列表、太短的消息、错误的语法、错误的格式、错误的打字)都会降低分数。

然后您可以实现“分数太低会被自动拒绝”。

您可以为审阅者提供一个系统，让他们首先对“得分较高的项目”进行评分(也要考虑发布日期，因此肯定会评估得分较低的帖子 - 只是稍后)。这将提高他们的效率。

向审阅者显示违反的规则(“这篇文章可能有错误的语法”，突出显示黑名单中的词，...)。也许允许他们添加坏词(和惩罚修饰符，例如 -0.5)。

但看看专业网站是如何做到的:每个帖子下面都有一个“标记”按钮 - 让社区帮助您。他们标记一个帖子，版主去检查。