- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
使用 Elasticsearch/Elastic,我想合并 n 个文档集合并按 zScore(或任何标准化分数)对它们进行排序。
详细信息:
合并 2..n 个文档集合,每个文档都有一个不同范围的分数字段(例如 0-100,0-10000, 0-57, ...),然后合并所有文档并使用 zScore 进行排序合并表。
我目前的计划:
问题
这种方法有意义吗?
我可以在一个 elasticsearch 查询(脚本分数)中执行此操作吗?换句话说,我可以先查询所有分数然后计算 zScore 吗?
有谁知道合并和排序具有不同分数范围的文档集合的其他方法吗?
谢谢!
示例分布- Google Spreadsheet
引用
最佳答案
正如我经常告诉我的学生,“哪种方法最好”的答案几乎总是以“视情况而定”开始。我将把计算 Z 分数的机制放在一边;在此处、ES 文档或其他地方在线查找非常容易。
最佳的归一化方法取决于原始分布,以及您需要保留的哪些属性。 Z 分数与高斯分布高度一致,前提是分布是对称的并且 s.d.与“相对平滑”的分布有关。
此外,Z 分数非常有效,因为您可以对任何有序指标进行计算。转换保留了顺序、连续性和各种其他拓扑和数学属性。
另一方面……
考虑一下泊松分布,mu = sd = 1。您可以无限制地获得正 Z 分数; +1 到 +3 范围内的那些已经足够常见了。另一方面,Z 分数低于 -1 是不可能的,尽管从那里到 0 的范围足够大。如果这不是您打算表示的内容,请考虑另一种方法。
类似地,考虑模式为 +1 和 -1、mu=0、sd = 2 的双正态分布。Z 分数在 -0.5 和 +0.5 附近会有集群,在 0 时相对较少。
也就是说,一个重要的考虑因素是您要合并的分布是否具有相似的形状。如果是这样,那么您选择的缩放变换无关紧要,只要您可以使用合并的 Z 分数,或者变换是可逆的:您能否“解压”生成的 Z 分数以恢复原始分布形状。
如果您使用 Z 得分合并一组泊松分布,您将很容易将它们解压成一个组合泊松分布。如果你用 Gaussians 试试这个,你也会得到很好的结果。但是,如果您合并一组具有截然不同纹理的双正态分布(关注 Z=0 附近的谷深度),您可能会把合并弄得过大;您希望尽可能多地关注模式,也许调整 Z 分数,使模式在每个转换中落在 -1 和 +1。
如果您有不同的分布,还请考虑每个分布中的观测值数量。如果您有 10,000 个来自泊松分布的观测值和 100 个来自教科书正态分布的观测值,则合并结果将消除正态分布。
这些不同形状分布的问题,但合并到同一个空间中,应该是使用 Z 分数的唯一问题。如果您正在合并此类分布,请为我们提供更多详细信息,因为合并方法将取决于我在此处提到的一些注意事项。
这些不是 normal分布在所有。这些似乎是指数几何族中的东西。然而,属于同一个家庭使他们成为合并的好人选。
但是,形状上的差异使它们成为通过 z-score 合并的不佳候选者:均值对最大的少数元素过于敏感。相反,我建议您对每个数字(任何基数)取对数,然后将这些 值转换为 z 分数。要恢复组合形状,请将选定的基数 (2, 10, e) 提高到 z 得分次方。如果您不喜欢这些微小的值,只需将所有值乘以一个选定的比例因子——也许足以恢复一个或另一个原始分布的实际值。
关于sorting - Elasticsearch zScore 计算(合并 2 个具有不同分数分布的文档集合),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35721446/
这是代码片段。 请说出这种用小内存存储大数据的算法是什么。 public static void main(String[] args) { long longValue = 21474836
所以我使用 imap 从 gmail 和 outlook 接收电子邮件。 Gmail 像这样编码 =?UTF-8?B?UmU6IM69zq3OvyDOtc68zrHOuc67IG5ldyBlbWFpb
很久以前就学会了 C 代码;想用 Scheme 尝试一些新的和不同的东西。我正在尝试制作一个接受两个参数并返回两者中较大者的过程,例如 (define (larger x y) (if (> x
Azure 恢复服务保管库有两个备份配置选项 - LRS 与 GRS 这是一个有关 Azure 恢复服务保管库的问题。 当其驻留区域发生故障时,如何处理启用异地冗余的恢复服务保管库?如果未为恢复服务启
说,我有以下实体: @Entity public class A { @Id @GeneratedValue private Long id; @Embedded private
我有下一个问题。 我有下一个标准: criteria.add(Restrictions.in("entity.otherEntity", getOtherEntitiesList())); 如果我的
如果这是任何类型的重复,我会提前申请,但我找不到任何可以解决我的具体问题的内容。 这是我的程序: import java.util.Random; public class CarnivalGame{
我目前正在使用golang创建一个聚合管道,在其中使用“$ or”运算符查询文档。 结果是一堆需要分组的未分组文档,这样我就可以进入下一阶段,找到两个数据集之间的交集。 然后将其用于在单独的集合中进行
是否可以在正则表达式中创建 OR 条件。 我正在尝试查找包含此类模式的文件名列表的匹配项 第一个案例 xxxxx-hello.file 或者案例二 xxxx-hello-unasigned.file
该程序只是在用户输入行数时创建菱形的形状,因此它有 6 个 for 循环; 3 个循环创建第一个三角形,3 个循环创建另一个三角形,通过这 2 个三角形和 6 个循环,我们得到了一个菱形,这是整个程序
我有一个像这样的查询字符串 www.google.com?Department=Education & Finance&Department=Health 我有这些 li 标签,它们的查询字符串是这样
我有一个带有静态构造函数的类,我用它来读取 app.config 值。如何使用不同的配置值对类进行单元测试。我正在考虑在不同的应用程序域中运行每个测试,这样我就可以为每个测试执行静态构造函数 - 但我
我正在寻找一个可以容纳多个键的容器,如果我为其中一个键值输入保留值(例如 0),它会被视为“或”搜索。 map, int > myContainer; myContainer.insert(make_
我正在为 Web 应用程序创建数据库,并正在寻找一些建议来对可能具有多种类型的单个实体进行建模,每种类型具有不同的属性。 作为示例,假设我想为“数据源”对象创建一个关系模型。所有数据源都会有一些共享属
(1) =>CREATE TABLE T1(id BIGSERIAL PRIMARY KEY, name TEXT); CREATE TABLE (2) =>INSERT INTO T1 (name)
我不确定在使用别名时如何解决不明确的列引用。 假设有两个表,a 和 b,它们都有一个 name 列。如果我加入这两个表并为结果添加别名,我不知道如何为这两个表引用 name 列。我已经尝试了一些变体,
我的查询是: select * from table where id IN (1,5,4,3,2) 我想要的与这个顺序完全相同,不是从1...5,而是从1,5,4,3,2。我怎样才能做到这一点? 最
我正在使用 C# 代码执行动态生成的 MySQL 查询。抛出异常: CREATE TABLE dump ("@employee_OID" VARCHAR(50)); "{"You have an er
我有日期 2016-03-30T23:59:59.000000+0000。我可以知道它的格式是什么吗?因为如果我使用 yyyy-MM-dd'T'HH:mm:ss.SSS,它会抛出异常 最佳答案 Sim
我有一个示例模式,它的 SQL Fiddle 如下: http://sqlfiddle.com/#!2/6816b/2 这个 fiddle 只是根据 where 子句中的条件查询示例数据库,如下所示:
我是一名优秀的程序员,十分优秀!