Tag Archives: hdfs

fsck命令查看HDFS文件对应的文件块信息(Block)和位置信息(Locations)

http://lxw1234.com/archives/2015/08/452.htm 在HDFS中,提供了fsck命令,用于检查HDFS上文件和目录的健康状态、获取文件的block信息和位置信息等。 fsck命令必须由HDFS超级用户来执行,普通用户无权限。 $... Read More | Share it now!

HDFS权限管理用户指南

http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_permissions_guide.html#%E6%96%87%E4%BB%B6%E7%B3%BB%E7%BB%9FAPI%E5%8F%98%E6%9B%B4 概述 Hadoop分布式文件系统实现了一个和POSIX系统类似的文件和目录的权限模型。每个文件和目录有一个所有者(owner)和一个组(group)。文件或目录对其所有者、同组的其他用户以及所有其他用户分别有着不同的权限。对文件而言,当读取这个文件时需要有r权限,当写入或者追加到文件时需要有w权限。对目录而言,当列出目录内容时需要具有r权限,当新建或删除子文件或子目录时需要有w权限,当访问目录的子节点时需要有x权限。不同于POSIX模型,HDFS权限模型中的文件没有sticky,setuid或setgid位,因为这里没有可执行文件的概念。为了简单起见,这里也没有目录的sticky,setuid或setgid位。总的来说,文件或目录的权限就是它的模式(mode)。HDFS采用了Unix表示和显示模式的习惯,包括使用八进制数来表示权限。当新建一个文件或目录,它的所有者即客户进程的用户,它的所属组是父目录的组(BSD的规定)。 每个访问HDFS的用户进程的标识分为两个部分,分别是用户名和组名列表。每次用户进程访问一个文件或目录foo,HDFS都要对其进行权限检查, 如果用户即foo的所有者,则检查所有者的访问权限; 如果foo关联的组在组名列表中出现,则检查组用户的访问权限; 否则检查foo其他用户的访问权限。 如果权限检查失败,则客户的操作会失败。 用户身份 在这个版本的Hadoop中,客户端用户身份是通过宿主操作系统给出。对类Unix系统来说, 用户名等于`whoami`; 组列表等于`bash... Read More | Share it now!

[转]Hadoop FS Shell命令

FS Shell 调用文件系统(FS)Shell命令应使用 bin/hadoop fs <args> 的形式。 所有的的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path 。对 HDFS文件系统,scheme是hdfs... Read More | Share it now!