美文网首页
文件目录下的子目录数量是有限制的

文件目录下的子目录数量是有限制的

作者: 97690CE50CC872D | 来源:发表于2017-08-04 11:26 被阅读420次

昨晚排查了在自动录音系统中的一个问题,跟踪到后面发现在一个目录下mkdir创建目录失败。我手动试了一下,提示如下:cannot create directory /home/master/temp too many links。我发现是在一个目录下的一级子目录数量是有限制的,遂做了点实验和调查,结合网上其他人写的博客,得到如下的一些关于目录个数和文件个数限制的结论。

1.ext3文件系统一级子目录的个数默认为31998(个),准确地说是32000个。
Linux为了cpu的搜索效率而规定的,要想改变数目限制需要重新编译内核。我看到在kernel代码中有这样的:

  • include/linux/ext2_fs.h:#define EXT2_LINK_MAX 32000
  • include/linux/ext3_fs.h:#define EXT3_LINK_MAX 32000

为什么说31998个呢?这是因为mkdir创建一个目录时,目录下默认就会创建两个子目录的,一个是.目录(代表当前目录),另一个是..目录(代表上级目录)。这两个子目录是删除不掉的,“ rm . ” 会得到“rm: cannot remove . or ..'”的提示。所以32000-2=31998。
另外,你可以通过如下的脚本来尝试。

#!/bin/bash
mkdir tmp
cd tmp
i=1
while [ $i -lt 35000 ]
do
mkdir $i
if [ $? -ne 0 ]; then
   echo "cannot make dir $i"
   exit
fi
((i++))
done

运行这个脚本,你最后将得到“mkdir: cannot create directory `31999': Too many links”的错误信息。
另外,不建议在一个目录下有太多的文件或者目录,这回降低文件系统查找文件或目录的性能。忽然想起阿里巴巴的图片服务器中将图片的存储按照年月等分为不同的各级子目录而不是在一个目录下,其中一个原因也是出于性能的Linux操作系统考虑。

2.ext3文件系统下单个目录里的最大文件数无特别的限制,是受限于所在文件系统的inode数。
我在RHEL5u5的ext3文件系统中测试,在一个目录下,touch了100万个文件是没有问题的。但是肯定会受到所在文件系统的inode数的限制。
df -i /dev/sdaX或者使用tune2fs -l /dev/sdaX或者dumpe2fs -h /dev/sdaX查看可用inode数,后两个命令输出结果是一样的,但是跟df所得出的可用inode数会有些误差,其中原因,我也没搞清楚。
网上有两种解决inode数限制的办法如下,不过我没试过了。

  • 2.1 重新mkfs,mkfs时将inode数调的多一些(根据你fs中文件的总数而定),块尺寸调得小一些(根据每个文件的平均大小而定)
  • 2.2 使用loopback文件系统临时解决:在/usr中(也可以在别处)创建一个大文件,然后做成loopback文件系统,将原来的文件移到这个文件系统中,并将它mount到/usr下合适的位置。这样可以大大减少你/usr中的文件数目。但是系统性能会有点损失。

3.默认打开文件个数(文件描述符)限制(默认是1024个)
ulimit -n 命令可以查看
修改这个限制可以使用ulimt -SHn 65535 命令
还可以在/etc/security/limit.conf 里设置用户打开文件数、进程数、CPU等信息

4.ext3文件系统下filename最大字符长度(默认255个英文字符)
LENTH=for i in {1..255};do for x in a;do echo -n $x;done;done
touch $LENTH
当增加到256时,touch报错,File name too long
linux系统下ext3文件系统内给文件/目录命名,最长只能支持127个中文字符,英文则可以支持255个字符

那么问题来了,一个文件夹下面最多可以放多少文件,这个问题其实我也不知道,不过我们可以来进行个测试,看看文件夹下面最多能放多少个文件。

那么怎么来测试这样一个问题呢,很显然我们一个个的去建立文件是不现实的,没那么多时间,而且这个方法也太笨了。这里我们会用到批处理命令,新建一个bat文件,然后将“for /l %%a in (1,1,10000000000000000) do cd.> %%a.txt”这段代码复制进去,保存后退出。这段代码的意思是在文件夹下面从1.txt开始建立10000000000000000个文件。

@echo off
echo 开始
for /L %%f in (1,1,10000000000000000) do cd.>%%f.txt
echo 结束
pause

tips:
在当前目录创建100个空的txt,编号从1到100 for /L %%f in (1,1,100) do cd.>%%f.txt
其中:
(1,1,100)。第一个1表示创建的文件编号从1开始,第二个1表示编号每加1创建1个文件,100表示文件编号最大为100。整个表示创建编号从1到100的文件。
若改为:(1,2,100)则表示,创建第一个文件编号为1,第二个文件编号为3(=1+2),第三个文件编号为5(=3+2),第四个文件编号为7,第五个编号为9,依此类推。
若为(1,1,1000)创建编号1到1000的文件。
若为(1,3,1000)则是编号自加3.

在FAT32文件格式的硬盘中双击这个批处理文件后,再耐性等待一会儿,我们发现在建立到第65535个文件时,出现“无法创建目录或文件”的提示了,这说明在FAT32文件格式下一个文件夹下面最多能放65535个文件。

那么在NTFS文件格式的硬盘中能一个文件夹能存放多少文件呢,我们同样也可以用上面这个批处理来进行测试,不过还是先告诉大家答案吧,在NTFS文件格式下一个文件家下面可以存放4294967295个文件,你至少需要有16.7TB的空余磁盘才能完成这个测试,所以大家其实不必纠结一个文件夹下面最多可以放多少文件,在Windows的机制下面,这些数值是完全够你使用的。

相关文章

网友评论

      本文标题:文件目录下的子目录数量是有限制的

      本文链接:https://www.haomeiwen.com/subject/aajvlxtx.html