dxer


  • 首页

  • 归档

  • 标签

HBase过滤器总结

发表于 2016-06-21   |  

HBase过滤器提供了非常强大的特性来帮助用户提高其处理表中数据的效率。用户不仅可以使用HBase中已经定义好的过滤器,还可以自定义过滤器。

阅读全文 »

HBase协处理器

发表于 2016-06-20   |  

使用Scan的时候,可以配合各种Filter进行数据的筛选以减少返回的数据量,同样也可以通过选择特定的列族和列来减少返回的数据量。若是能将该特性进一步的优化则HBase会更强大。HBase在0.92版本后引入了协处理器来实现该功能。

阅读全文 »

HBase的RowKey设计

发表于 2016-06-16   |  

HBase是三维有序存储的,通过rowkey(行键),column key(column family和qualifier)和TimeStamp(时间戳)这个三个维度可以对HBase中的数据进行快速定位。

HBase中rowkey可以唯一标识一行记录,在HBase查询的时候,有两种方式:

  1. 通过get方式,指定rowkey获取唯一一条记录
  2. 通过scan方式,设置startRow和stopRow参数进行范围匹配
  3. 全表扫描,即直接扫描整张表中所有行记录
    阅读全文 »

分布式文件系统FastDFS快速入门

发表于 2016-06-15   |  

什么是FastDFS?

FastDFS是一个开源的轻量级分布式文件系统。它解决了大数据量存储和负载均衡等问题。特别适合以中小文件(建议范围:4KB < file_size <500MB)为载体的在线服务,如相册网站、视频网站等等。

阅读全文 »

Hadoop不能加载本地库问题解决

发表于 2016-04-05   |  

在执行hadoop命令或者启动dfs、yarn的时候总会出现这个警告

1
2
WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... 
using builtin-java classes where applicable
阅读全文 »
123…6
dxer

dxer

29 日志
25 标签
RSS
GitHub
© 2015 - 2016 dxer
由 Hexo 强力驱动
主题 - NexT.Mist