Skip to content

四号程序员

Keep It Simple and Stupid

  • Home
  • 读过的书
  • 从0到1实战微服务架构(第2版)

Hive中找出Table和Partition的真实路径。

Leave a reply

在Hive中,如果使用了External Table或者Partition,那么路径是不在自己的hive warehouse下的。
-- 获取table的真实hdfs路径
desc formatted my_table;

-- 获取partition的真实hdfs路径
desc formatted my_table (pt='20140804');
 [......]

继续阅读

This entry was posted in 大数据技术 and tagged Hadoop, HDFS, Hive, partition, table, 路径 on 2014-08-05 by coder4.

Hadoop Streaming Python的一个简单Wrapper

Leave a reply

Map比较简单,不贴了。
class Reduce:

KV_SEP = "\t"

def __init__(self):
self.last_key = None
self.value_list = []

def reduce(self, key, value_list):
pass

def processLine(self, key, value):
# First[......]

继续阅读

This entry was posted in 大数据技术 on 2014-08-01 by coder4.

Tornado多进程启动的2种方法

Leave a reply

单进程:
server = HTTPServer(app)
server.listen(8888)
IOLoop.instance().start()
多进程,方案1:
server = HTTPServer(app)
server.bind(8888)
server.start(0) # Forks multiple sub-processes
IOLoop.instance().start()
多进程,方案2:
sockets = tornado.netutil.bin[......]

继续阅读

This entry was posted in Python and tagged Tornado, 多进程 on 2014-06-30 by coder4.

Shell中,间接引用(打印变量的变量)

Leave a reply

Shell中的二次引用:
a=b
b=123

echo $a # is b
echo ${!a} # is 123
如上所属,使用${!var},就可以获得变量var中存储的变量的变量了~[......]

继续阅读

This entry was posted in Linux and tagged shell, 二次引用, 间接引用 on 2014-06-27 by coder4.

Shell读取ini文件

Leave a reply

参考stackoverflow的例子,改了一个出来:
while IFS='= ' read var val
do
if [[ $var == \[*] ]]
then
section=$(echo $var | sed 's/^\[\(.*\)\]$/\1/')
elif [[ $val ]]
then
if [ -z $section ];then
declare "${var}=$val"[......]

继续阅读

This entry was posted in Linux and tagged INI, shell on 2014-06-27 by coder4.

Post navigation

← Older posts
Newer posts →

Categories

  • Android
  • C && C++
  • Go
  • iOS
  • Java
  • Linux
  • Mac
  • NLP
  • opencv
  • Perl
  • PHP
  • Python
  • RPC
  • Ruby
  • Visual C++ && C#
  • Windows
  • Wordpress
  • 前端技术
  • 大数据技术
  • 心情随笔
  • 搜索技术
  • 数据库技术
  • 未分类
  • 机器学习
  • 笔面题
  • 算法&数据结构
  • 网络&网络模拟
  • 计算机技术
  • 设计

Tags

  • Android
  • C
  • CentOS
  • c语言
  • Debian
  • docker
  • go
  • gtk
  • Hadoop
  • Hive
  • ios
  • Java && J2EE
  • Java && J2EE
  • Java核心技术
  • KVM
  • Linux
  • MySQL
  • nginx
  • Oracle
  • PHP
  • Python
  • Python Essential Reference
  • shell
  • socket
  • Ubuntu
  • VC
  • windows
  • 严蔚敏
  • 中文
  • 乱码
  • 卷2
  • 字符串
  • 安装
  • 实现
  • 排序
  • 教程
  • 数据结构
  • 核心技术
  • 算法
  • 算法技术手册
  • 编译
  • 读书笔记
  • 递归
  • 配置
  • 重读
Proudly powered by WordPress