- android - RelativeLayout 背景可绘制重叠内容
- android - 如何链接 cpufeatures lib 以获取 native android 库?
- java - OnItemClickListener 不起作用,但 OnLongItemClickListener 在自定义 ListView 中起作用
- java - Android 文件转字符串
我有一个系统可以跟踪用户查看的文档。每个文档都有它的 ID 和它所属的集群。我的系统跟踪 session ID 和查看次数。我现在想构建一个 SQL 查询,它会给我两列 - session ID 和分类集群。分类算法很简单:
1. select all sessions
2. for each session S
I. prepare an accumulator ACC for clusters
II. select the clusters of viewed documents for this session
III. for each cluster C accumulate the cluster count ( ACC[C]++ )
IV. find the maximum in the ACC. That is the cluster that the session was classified to
表结构如下,我用的是MySQL 5.5.16:
session
+-------+-----------+--------------------+
| ID | sessionID | classified_cluster |
+-------+-----------+--------------------+
session 文档
+-------+-----------+------------+
| ID | sessionID | documentID |
+-------+-----------+------------+
集群
+-------+-------+
| ID | label |
+-------+-------+
集群文档
+-------+-----------+------------+
| ID | clusterID | documentID |
+-------+-----------+------------+
所以基本上,我想为每个 session 选择集群,计算每个集群在查看文档中的出现次数,并找到最大出现次数。那么出现次数最多的集群的 ID 就是 session 的结果,因此最终结果集包含 session ID 和出现次数最多的集群:
结果
+-----------+-----------------------+
| sessionID | classifiedIntoCluster |
+-----------+-----------------------+
我设法通过以下查询获取每个 session (步骤 2/II.)的已查看文档的集群:
SELECT SD.session_id, CD.cluster_id
FROM cluster_document AS CD
INNER JOIN session_document AS SD
ON CD.document_id = SD.document_id
WHERE session_id IN (SELECT session_id FROM session)
我无法弄清楚其余部分。这甚至可以用于嵌套的 SELECT 查询吗?我应该使用光标吗?如果是的话,有人可以用光标展示一个例子吗?任何帮助都感激不尽。
编辑 #1:添加了 C# 实现、MySQL 转储和预期结果
C# 实现
private void ClassifyUsers() {
int nClusters = Database.SelectClusterCount(); //get number of clusters
DataSet sessions = Database.SelectSessions(); //get all sessions
foreach (DataRow session in sessions.Tables[0].Rows) { //foreach session
int[] acc = new int[nClusters]; //prepare an accumulator for each known cluster
string s_id = session["session_id"].ToString();
DataSet sessionClusters = Database.SelectSessionClusters(s_id); //get clusters for this session
foreach (DataRow cluster in sessionClusters.Tables[0].Rows) { //for each cluster
int c = Convert.ToInt32(cluster["cluster_id"].ToString()) - 1;
acc[c]++; //accumulate the cluster count
}
//find the maximum in the accumulator -> that is the most relevant cluster
int max = 0;
for (int j = 0; j < acc.Length; j++) {
if (acc[j] >= acc[max]) max = j;
}
max++;
Database.UpdateSessionCluster(s_id, max); //update the session with its new assigned cluster
}
}
表结构、测试数据和预期结果
编辑 #2:添加了一个较小的数据集和进一步的算法演练
这是一个较小的数据集:
session
session id | cluster
abc 0
def 0
ghi 0
jkl 0
mno 0
集群
cluster_id | label
1 A
2 B
3 C
4 D
5 E
SESSION_DOCUMENT
id | session_id | document_id
1 abc 1
2 def 5
3 jkl 3
4 ghi 4
5 mno 2
6 def 2
7 abc 5
8 ghi 3
CLUSTER_DOCUMENT
id | cluster_id | document_id
1 1 2
2 1 3
3 2 5
4 3 5
5 3 1
6 4 3
7 5 2
8 5 4
算法详解
第 1 步:获取 session 查看的文档的集群
session_id | cluster_id | label | document_id
abc 3 C 1
abc 2 B 5
abc 3 C 5
-----
def 2 B 5
def 3 C 5
def 1 A 2
def 5 E 2
----
ghi 5 E 4
ghi 1 A 3
ghi 4 D 3
----
jkl 1 A 3
jkl 4 D 3
----
mno 1 A 2
mno 5 E 2
第 2 步:计算簇的出现次数
session_id | cluster_id | label | occurrence
abc 3 C 2 <--- MAX
abc 2 B 1
----
def 2 B 1
def 3 C 1
def 1 A 1
def 5 E 1 <--- MAX
----
ghi 5 E 1
ghi 1 A 1
ghi 4 D 1 <--- MAX
----
jkl 1 A 1
jkl 4 D 1 <--- MAX
----
mno 1 A 1
mno 5 E 1 <--- MAX
第 3 步(最终结果):为每个 session 找到最大发生的簇(见上文)并构建最终结果集(session_id、cluster_id):
session_id | cluster_id
abc 3
def 5
ghi 4
jkl 4
mno 5
编辑 #3:已接受的答案说明
给出的两个答案都是正确的。他们都提供了解决问题的方法。我给了 Mosty Mostacho 可接受的答案,因为他首先交付了解决方案,并提供了带有 VIEW
的解决方案的另一个版本。来自 mankuTimma 的解决方案与 Mosty Mostacho 的解决方案质量相同。因此,我们有两个同样好的解决方案,我只是选择了 Mosty Mostacho,因为他是第一个。
感谢他们的贡献。.
最佳答案
好吧,我对如何在有很多相等的情况下选择一个事件表示怀疑,但查看 C# 代码似乎这个选择是不确定的。
现在,给定样本数据,第 2 步实际导致:
+------------+------------+-------+------------+
| SESSION_ID | CLUSTER_ID | LABEL | OCCURRENCE |
+------------+------------+-------+------------+
| abc | 3 | C | 2 |
| def | 1 | A | 1 |
| def | 2 | B | 1 |
| def | 3 | C | 1 |
| def | 5 | E | 1 |
| ghi | 1 | A | 1 |
| ghi | 4 | D | 1 |
| ghi | 5 | E | 1 |
| jkl | 1 | A | 1 |
| jkl | 4 | D | 1 |
| mno | 1 | A | 1 |
| mno | 5 | E | 1 |
+------------+------------+-------+------------+
因此,继续处理这些数据,我得到了该 session ID 的 session_id 和 max(cluster_id),结果是:
+------------+------------+
| SESSION_ID | CLUSTER_ID |
+------------+------------+
| abc | 3 |
| def | 5 |
| ghi | 5 |
| jkl | 4 |
| mno | 5 |
+------------+------------+
max(cluster_id) 就是用来执行非确定性选择的。这是查询:
select s1.session_id, max(s1.cluster_id) as cluster_id from (
select sd.session_id, cd.cluster_id, count(*) as Occurrence
from session_document sd
join cluster_document cd
on sd.document_id = cd.document_id
join cluster c
on c.cluster_id = cd.cluster_id
group by sd.session_id, cd.cluster_id, c.label
) as s1
left join (
select sd.session_id, count(*) as Occurrence
from session_document sd
join cluster_document cd
on sd.document_id = cd.document_id
join cluster c
on c.cluster_id = cd.cluster_id
group by sd.session_id, cd.cluster_id, c.label
) as s2
on s1.session_id = s2.session_id and s1.occurrence < s2.occurrence
where s2.occurrence is null
group by s1.session_id
也许添加一个 View 会提高性能(替换上面的查询):
create view MaxOccurrences as (
select sd.session_id, cd.cluster_id, count(*) as Occurrence
from session_document sd
join cluster_document cd
on sd.document_id = cd.document_id
join cluster c
on c.cluster_id = cd.cluster_id
group by sd.session_id, cd.cluster_id, c.label
);
select s1.session_id, max(s1.cluster_id) as cluster_id
from MaxOccurrences as s1
left join MaxOccurrences as s2
on s1.session_id = s2.session_id and s1.occurrence < s2.occurrence
where s2.occurrence is null
group by s1.session_id
让我知道它是否有效。
关于mysql - SQL分类,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/9308216/
我正在尝试使用 Pandas 和 scikit-learn 在 Python 中执行分类。我的数据集包含文本变量、数值变量和分类变量的混合。 假设我的数据集如下所示: Project Cost
我想要一种图形化且有吸引力的方式来表示二进制数据的列总和,而不是表格格式。我似乎无法让它发挥作用,尽管有人会认为这将是一次上篮。 数据看起来像这样(我尝试创建一个可重现的示例,但无法让代码填充 0 和
我有一个简单的类别模型: class Category(models.Model): name = models.CharField(max_length=200) slug = mo
我正在开发一个知识系统,当用户进入一道菜时,该系统可以返回酒。我的想法是根据用户的输入为每个葡萄酒类别添加分数,然后显示最适合的葡萄酒类别的前 3 个。例如,如果有人输入鱼,那么知识库中的所有红葡萄酒
我目前正在研究流失问题的预测模型。 每当我尝试运行以下模型时,都会收到此错误:至少一个类级别不是有效的 R 变量名称。这将在生成类概率时导致错误,因为变量名称将转换为 X0、X1。请使用可用作有效 R
如何对栅格重新分类(子集)r1 (与 r2 具有相同的尺寸和范围)基于 r2 中的以下条件在给定的示例中。 条件: 如果网格单元格值为 r2是 >0.5 ,保留>0.5中对应的值以及紧邻0.5个值的相
我想知道在 java 中进行以下分类的最佳方法是什么。例如,我们有一个简单的应用程序,其分类如下: 空气 -----电机类型 -----------平面对象 -----非电机型 -----------
这是一个非常基本的示例。但我正在做一些数据分析,并且不断发现自己编写非常类似的 SQL 计数查询来生成概率表。 我的表被定义为值 0 表示事件未发生,而值 1 表示事件确实发生。 > sqldf(
假设我有一组护照图像。我正在开展一个项目,我必须识别每本护照上的姓名,并最终将该对象转换为文本。 对于标签(或分类(我认为是初学者))的第一部分,每本护照上都有姓名,我该怎么做? 我可以使用哪些技术/
我有这张图片: 我想做的是在花和树之间对这张图片进行分类,这样我就可以找到图片中被树木覆盖的区域,以及被那些花覆盖的区域。 我在想这可能是某种 FFT 问题,但我不确定它是如何工作的。单个花的 FFT
我的数据集有 32 个分类变量和一个数值连续变量(sales_volume) 首先,我使用单热编码 (pd.get_dummies) 将分类变量转换为二进制,现在我有 1294 列,因为每一列都有多个
我正在尝试学习一些神经网络来获得乐趣。我决定尝试从 kaggle 的数据集中对一些神奇宝贝传奇卡进行分类。我阅读了文档并遵循了机器学习掌握指南,同时阅读了媒体以尝试理解该过程。 我的问题/疑问:我尝试
我目前正在进行推文情绪分析,并且有几个关于步骤的正确顺序的问题。请假设数据已经过相应的预处理和准备。所以这就是我将如何进行: 使用 train_test_split(80:20 比例)停止测试数据集。
一些上下文:Working with text classification and big sparse matrices in R 我一直在研究 text2vec 的文本多类分类问题。包装和 ca
数据 我有以下(简化的)数据集,我们称之为 df从现在开始: species rank value 1
我一直在尝试创建一个 RNN。我总共有一个包含 1661 个单独“条目”的数据集,每个条目中有 158 个时间序列坐标。 以下是一个条目的一小部分: 0.00000000e+00 1.9260968
我有一个关于机器学习的分类和回归问题。第一个问题,以下数据集 http://it.tinypic.com/view.php?pic=oh3gj7&s=8#.VIjhRDGG_lF 我们可以说,数据集是
我用1~200个数据作为训练数据,201~220个作为测试数据格式如下:3 个类(类 1、类 2、类 3)和 20 个特征 2 1:100 2:96 3:88 4:94 5:96 6:94 7:72
我有 2 个基于多个数字特征(例如 v1….v20)的输出类别(好和差)。 如果 v1、v2、v3 和 v4 为“高”,则该类别为“差”。如果 v1、v2、v3 和 v4 为“低”,则该类别为“好”
我遇到了使用朴素贝叶斯将文档分类为各种类别问题的问题。 实际上我想知道 P(C) 或我们最初掌握的类别的先验概率会随着时间的推移而不断变化。例如,对于类(class) - [音乐、体育、新闻] 初始概
我是一名优秀的程序员,十分优秀!