- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在使用 k-means 算法进行数据聚类并使用大数据集。我有近 100000 篇研究论文,我想使用 k 均值对它们进行聚类。我使用传统的 k 均值,也使用倒排索引,但在这两个程序中。当我输入 50000 时,Java 中的堆内存不足(使用 NetBeans)。
代码:
import java.util.*;
import java.io.*;
public class kmeans
{
public static void main(String[]args) throws IOException
{
//read in documents from all .txt files in same folder as kmeans.java
//save parallel lists of documents (String[]) and their filenames, and create global set list of words
ArrayList<String[]> docs = new ArrayList<String[]>();
ArrayList<String> filenames = new ArrayList<String>();
ArrayList<String> global = new ArrayList<String>();
File folder = new File(".");
List<File> files = Arrays.asList(folder.listFiles(new FileFilter() {
public boolean accept(File f) {
return f.isFile() && f.getName().endsWith(".txt");
}
}));
BufferedReader in = null;
for(File f:files){
in = new BufferedReader(new FileReader(f));
StringBuffer sb = new StringBuffer();
String s = null;
while((s = in.readLine()) != null){
sb.append(s);
}
//input cleaning regex
String[] d = sb.toString().replaceAll("[\\W&&[^\\s]]","").split("\\W+");
for(String u:d)
if(!global.contains(u))
global.add(u);
docs.add(d);
filenames.add(f.getName());
}
//
//compute tf-idf and create document vectors (double[])
ArrayList<double[]> vecspace = new ArrayList<double[]>();
for(String[] s:docs){
double[] d = new double[global.size()];
for(int i=0;i<global.size();i++)
d[i] = tf(s,global.get(i)) * idf(docs,global.get(i));
vecspace.add(d);
}
//iterate k-means
HashMap<double[],TreeSet<Integer>> clusters = new HashMap<double[],TreeSet<Integer>>();
HashMap<double[],TreeSet<Integer>> step = new HashMap<double[],TreeSet<Integer>>();
HashSet<Integer> rand = new HashSet<Integer>();
TreeMap<Double,HashMap<double[],TreeSet<Integer>>> errorsums = new TreeMap<Double,HashMap<double[],TreeSet<Integer>>>();
int k = 3;
int maxiter = 500;
for(int init=0;init<100;init++){
clusters.clear();
step.clear();
rand.clear();
//randomly initialize cluster centers
while(rand.size()< k)
rand.add((int)(Math.random()*vecspace.size()));
for(int r:rand){
double[] temp = new double[vecspace.get(r).length];
System.arraycopy(vecspace.get(r),0,temp,0,temp.length);
step.put(temp,new TreeSet<Integer>());
}
boolean go = true;
int iter = 0;
while(go){
clusters = new HashMap<double[],TreeSet<Integer>>(step);
//cluster assignment step
for(int i=0;i<vecspace.size();i++){
double[] cent = null;
double sim = 0;
for(double[] c:clusters.keySet()){
double csim = cosSim(vecspace.get(i),c);
if(csim > sim){
sim = csim;
cent = c;
}
}
clusters.get(cent).add(i);
}
//centroid update step
step.clear();
for(double[] cent:clusters.keySet()){
double[] updatec = new double[cent.length];
for(int d:clusters.get(cent)){
double[] doc = vecspace.get(d);
for(int i=0;i<updatec.length;i++)
updatec[i]+=doc[i];
}
for(int i=0;i<updatec.length;i++)
updatec[i]/=clusters.get(cent).size();
step.put(updatec,new TreeSet<Integer>());
}
//check break conditions
String oldcent="", newcent="";
for(double[] x:clusters.keySet())
oldcent+=Arrays.toString(x);
for(double[] x:step.keySet())
newcent+=Arrays.toString(x);
if(oldcent.equals(newcent)) go = false;
if(++iter >= maxiter) go = false;
}
System.out.println(clusters.toString().replaceAll("\\[[\\w@]+=",""));
if(iter<maxiter)
System.out.println("Converged in "+iter+" steps.");
else System.out.println("Stopped after "+maxiter+" iterations.");
System.out.println("");
//calculate similarity sum and map it to the clustering
double sumsim = 0;
for(double[] c:clusters.keySet()){
TreeSet<Integer> cl = clusters.get(c);
for(int vi:cl){
sumsim+=cosSim(c,vecspace.get(vi));
}
}
errorsums.put(sumsim,new HashMap<double[],TreeSet<Integer>>(clusters));
}
//pick the clustering with the maximum similarity sum and print the filenames and indices
System.out.println("Best Convergence:");
System.out.println(errorsums.get(errorsums.lastKey()).toString().replaceAll("\\[[\\w@]+=",""));
System.out.print("{");
for(double[] cent:errorsums.get(errorsums.lastKey()).keySet()){
System.out.print("[");
for(int pts:errorsums.get(errorsums.lastKey()).get(cent)){
System.out.print(filenames.get(pts).substring(0,filenames.get(pts).lastIndexOf(".txt"))+", ");
}
System.out.print("\b\b], ");
}
System.out.println("\b\b}");
}
static double cosSim(double[] a, double[] b){
double dotp=0, maga=0, magb=0;
for(int i=0;i<a.length;i++){
dotp+=a[i]*b[i];
maga+=Math.pow(a[i],2);
magb+=Math.pow(b[i],2);
}
maga = Math.sqrt(maga);
magb = Math.sqrt(magb);
double d = dotp / (maga * magb);
return d==Double.NaN?0:d;
}
static double tf(String[] doc, String term){
double n = 0;
for(String s:doc)
if(s.equalsIgnoreCase(term))
n++;
return n/doc.length;
}
static double idf(ArrayList<String[]> docs, String term){
double n = 0;
for(String[] x:docs)
for(String s:x)
if(s.equalsIgnoreCase(term)){
n++;
break;
}
return Math.log(docs.size()/n);
}
}
最佳答案
您可以使用 -Xmx... 作为 java.exe 的命令行参数来增加堆内存量;例如-Xmx1024m 将最大堆大小设置为 1024Mb。
关于java - 大数据集上的 k 均值导致堆内存溢出,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/17588373/
很难说出这里问的是什么。这个问题是含糊的、模糊的、不完整的、过于宽泛的或修辞性的,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开它,visit the help center 。 已关
我们可以说 O(K + (N-K)logK)相当于O(K + N logK)对于 1 < = K <= N ? 最佳答案 简短的回答是它们不等价,这取决于k 的值。如果k等于N,那么第一个复杂度是O(
我有以下解决方案,但我从其他评论者那里听说它是 O(N * K * K),而不是 O(N * K)其中 N 是 K 列表的(最大)长度,K 是列表的数量。例如,给定列表 [1, 2, 3] 和 [4,
我试图理解这些语法结构之间的语义差异。 if ((i% k) == (l % k) == 0) 和 if ((i % k) == 0 && (l % k) == 0) 最佳答案 您的特定表达式((i
我有时会使用一维数组: A = np.array([1, 2, 3, 4]) 或 2D 阵列(使用 scipy.io.wavfile 读取单声道或立体声信号): A = np.array([[1, 2
在文档聚类过程中,作为数据预处理步骤,我首先应用奇异向量分解得到U、S和Vt 然后通过选择适当数量的特征值,我截断了 Vt,这让我从阅读的内容中得到了很好的文档-文档相关性 here .现在我正在对矩
我问的是关于 Top K 算法的问题。我认为 O(n + k log n) 应该更快,因为……例如,如果您尝试插入 k = 300 和 n = 100000000,我们可以看到 O(n + k log
这个问题与另一个问题R:sample()密切相关。 。我想在 R 中找到一种方法来列出 k 个数字的所有排列,总和为 k,其中每个数字都是从 0:k 中选择的。如果k=7,我可以从0,1,...,7中
我目前正在评估基于隐式反馈的推荐系统。我对排名任务的评估指标有点困惑。具体来说,我希望通过精确度和召回率来进行评估。 Precision@k has the advantage of not requ
我在 Python 中工作,需要找到一种算法来生成所有可能的 n 维 k,k,...,k 数组,每个数组都沿轴有一行 1。因此,该函数接受两个数字 - n 和 k,并且应该返回一个数组列表,其中包含沿
我们有 N 对。每对包含两个数字。我们必须找到最大数 K,这样如果我们从给定的 N 对中取 J (1 2,如果我们选择三对 (1,2),我们只有两个不同的数字,即 1 和 2。 从一个开始检查每个可能
鉴于以下问题,我不能完全确定我当前的解决方案: 问题: 给定一个包含 n 元素的最大堆,它存储在数组 A 中,是否可以打印所有最大的 K 元素在 O(K*log(K)) 中? 我的回答: 是的,是的,
我明白了: val vector: RDD[(String, Array[String])] = [("a", {v1,v2,..}),("b", {u1,u2,..})] 想转换成: RDD[(St
我有 X 个正数,索引为 x_i。每个 x_i 需要进入 K 组之一(其中 K 是预先确定的)。令 S_j 为 K_j 中所有 x_i 的总和。我需要分配所有 x_i 以使所有 S_j 的方差最小化。
关闭。这个问题是not reproducible or was caused by typos .它目前不接受答案。 这个问题是由于错别字或无法再重现的问题引起的。虽然类似的问题可能是on-topi
我正在研究寻找原始数的算法,看到下面的语句,我不明白为什么。 while (k*k <= n) 优于 while (k <= Math.sqrt(n)) 是因为函数调用吗?该调用函数使用更多资源。 更
我想找到一种尽可能快的方法来将两个小 bool 矩阵相乘,其中小意味着 8x8、9x9 ... 16x16。这个例程会被大量使用,所以需要非常高效,所以请不要建议直截了当的解决方案应该足够快。 对于
有没有一种惯用的方法来获取 Set和 Function ,并获得 Map实时取景? (即 Map 由 Set 和 Function 组合支持,例如,如果将元素添加到 Set ,则相应的条目也存在于 M
这个问题在这里已经有了答案: Can a local variable's memory be accessed outside its scope? (20 个答案) returning addr
给定一个矩阵:- k = [1 2 3 ; 4 5 6 ; 7 8 NaN]; 如果我想用 0 替换一个数字,比如 2,我可以使用这个:k(k==2) =
我是一名优秀的程序员,十分优秀!