Python中将list等分成N块

#arr是被分割的list,n是每个chunk中含n元素。
def chunks(arr, n):
return [arr[i:i+n] for i in range(0, len(arr), n)]

#或者让一共有m块,自动分(尽可能平均)
#split the arr into N chunks
def chunks(arr, m):
n = int(math.ceil(len(arr) / float(m)))
return [arr[i:i +[......]

继续阅读

Hadoop The Definitive Guide 2nd读书笔记 – 第九章

1、Hadoop集群的机器最好是多核、多通道硬盘,但不要使用RAID。选用中档机器。例如8核、16GB内存、4×1TB硬盘。

2、集群可随着规模而不断扩充,当小集群时(10的数量级),namenode和jobtracker可以放在同一台机器上(同时保证有一份NFS远端的namenode备份)即可。再大就最好分别放在两台机器上。

3、Windows这么不靠谱的东西就不要用于生产环境了,生产环境最好用Linux,或者Unix。

4、Hadoop的网络拓扑结构分为:机架内Rack(在[......]

继续阅读

Bloom Filter实现的一些文章

1、给出了Java实现,用Random做为一致性哈希算法。。。
http://blog.locut.us/2008/01/12/a-decent-stand-alone-java-bloom-filter-implementation/

2、分析比较到位:
http://blog.csdn.net/jiaomeng/article/details/1495500

3、这个写的也不错
http://www.cnblogs.com/heaad/archive/2011/01/02/[......]

继续阅读