个人中心
文章发布
退出
作者热门文章
- html - 出于某种原因，IE8 对我的 Sass 文件中继承的 html5 CSS 不友好？
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景？
25
4
我在hbase中有一个很大的项目数据集，我想加载到spark rdd中进行处理。我的理解是hbase针对hadoop上的低延迟单项搜索进行了优化，因此我想知道是否有可能在hbase中有效地查询1亿个项目(大小约为10Tb)？
最佳答案
这是使Spark和HBase协同工作的一些一般建议。
数据共置和分区
Spark避免了改组:如果您的Spark worker和HBase区域位于同一台机器上，Spark将根据区域创建分区。
HBase中良好的区域划分将映射到Spark中的良好分区。
如果可能，请考虑处理行键和区域拆分。
Spark中的操作与HBase中的操作
经验法则:仅使用HBase扫描，并使用Spark执行其他所有操作。
为了避免在Spark操作中拖尾，您可以考虑对分区进行处理。例如:您可以在HBase扫描的Rowkey或Rowkey前缀上加入2个Spark rdd，而无需进行任何改组。
Hbase配置tweeks
该讨论有点陈旧(某些配置不是最新的)，但仍然很有趣:http://community.cloudera.com/t5/Storage-Random-Access-HDFS/How-to-optimise-Full-Table-Scan-FTS-in-HBase/td-p/97
而且下面的链接也有一些线索:
http://blog.asquareb.com/blog/2015/01/01/configuration-parameters-that-can-influence-hbase-performance/
您可能会发现多个来源(包括上述来源)建议更改扫描仪缓存配置，但这仅适用于HBase <1.x
关于hadoop - 是否可以从hbase转换为spark rdd效率？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/46921778/
25
4
0
我有一个 if 语句，如下所示 if (not(fullpath.lower().endswith(".pdf")) or not (fullpath.lower().endswith(tup
然而，在 PHP 中，可以: only appears if $foo is true. only appears if $foo is false. 在 Javascript 中，能否在一个脚
XML有很多好处。它既是机器可读的，也是人类可读的，它具有标准化的格式，并且用途广泛。 它也有一些缺点。它是冗长的，不是传输大量数据的非常有效的方法。 XML最有用的方面之一是模式语言。使用模式，您可
由于长期使用 SQL2000，我并没有真正深入了解公用表表达式。 我给出的答案here (#4025380)和 here (#4018793)违背了潮流，因为他们没有使用 CTE。 我很欣赏它们对于递
我有一个应用程序: void deleteObj(id){ MyObj obj = getObjById(id); if (obj == null) { throw n
我的代码如下。可能我以类似的方式多次使用它，即简单地说，我正在以这种方式管理 session 和事务: List users= null; try{ sess
在开发J2EE Web应用程序时，我通常会按以下方式组织我的包结构 com.jameselsey.. 控制器-控制器/操作转到此处 服务-事务服务类，由控制器调用 域-应用程序使用的我的域类/对象 D
这更多是出于好奇而不是任何重要问题，但我只是想知道 memmove 中的以下片段文档: Copying takes place as if an intermediate buffer were us
路径压缩涉及将根指定为路径上每个节点的新父节点——这可能会降低根的等级，并可能降低路径上所有节点的等级。有办法解决这个问题吗？有必要处理这个吗？或者，也许可以将等级视为树高的上限而不是确切的高度？ 谢
我有两个类，A 和 B。A 是 B 的父类，我有一个函数接收指向 A 类型类的指针，检查它是否也是 B 类型，如果是将调用另一个函数，该函数接受一个指向类型 B 的类的指针。当函数调用另一个函数时，我
有没有办法让 valgrind 使用多个处理器？ 我正在使用 valgrind 的 callgrind 进行一些瓶颈分析，并注意到我的应用程序中的资源使用行为与在 valgrind/callgrind
假设我们要使用 ReaderT [(a,b)]超过 Maybe monad，然后我们想在列表中进行查找。 现在，一个简单且不常见的方法是: 第一种可能性 find a = ReaderT (looku
我的代码似乎有问题。我需要说的是: if ( $('html').attr('lang').val() == 'fr-FR' ) { // do this } else { // do
根据this文章(2018 年 4 月)AKS 在可用性集中运行时能够跨故障域智能放置 Pod，但尚不考虑更新域。很快就会使用更新域将 Pod 放入 AKS 中吗？ 最佳答案 当您设置集群时，它已经自
course | section | type comart2 : bsit201 : lec comart2 :
我正在开发自己的 SDK，而这又依赖于某些第 3 方 SDK。例如 - OkHttp。 我应该将 OkHttp 添加到我的 build.gradle 中，还是让我的 SDK 用户包含它？在这种情况下，
随着 Rust 越来越充实，我对它的兴趣开始激起。我喜欢它支持代数数据类型，尤其是那些匹配的事实，但是对其他功能习语有什么想法吗？ 例如标准库中是否有标准过滤器/映射/归约函数的集合，更重要的是，您能
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 这个问题似乎与 help center 中定义的范围内的编程无关。 . 关闭 9 年前。 Improve
我一直在研究 PHP 中的对象。我见过的所有示例甚至在它们自己的对象上都使用了对象构造函数。 PHP 会强制您这样做吗？如果是，为什么？ 例如: firstname = $firstname;
...比关联数组？ 关联数组会占用更多内存吗？ $arr = array(1, 1, 1); $arr[10] = 1; $arr[] = 1; // <- index is 11; does the
我是一名优秀的程序员,十分优秀！