Linux:八种重定向详解(万字长文警告)
相关阅读Linuxhttps://blog.csdn.net/weixin_45791458/category_12234591.html?spm=1001.2014.3001.5482
本文将讨论Linux中的重定向相关问题,在阅读本文前,强烈建议先学习文件描述符的相关内容Linux:文件描述符详解。
重定向分为两类:第一类是全局重定向,它对后续在Bash中创建的所有子进程都生效(因为文件描述符的继承);第二类是命令重定向,它只对单个命令生效。
全局重定向
输入重定向
exec [number|varname]< filename
# 如果不使用exec,则无法影响当前Bash进程
# [number|varname]和<之间不能有空格
输入重定向会首先将文件名进行拓展(如参数扩展和命令替换),如果使用number,会在文件描述符number上以读模式打开该文件(实际上,系统调用open打开一个文件返回的文件描述符是最小可用的整数值,这是不能直接控制的,但可以用系统调用dup、dup2或fcntl进行复制);如果使用varname,则会自动分配一个大于等于10的文件描述符并将其赋值给变量varname;如果未指定number或varname,则默认为标准输入(文件描述符0)。
例1展示了指定数字分配文件描述符和自动分配文件描述符的过程。
例1
[zhangchen@EDA Desktop]$ psPID TTY TIME CMD34005 pts/0 00:00:00 bash34070 pts/0 00:00:00 ps
[zhangchen@EDA Desktop]$ ls -al /proc/34005/fd # 查询bash进程的文件描述符
total 0
dr-x------. 2 zhangchen zhangchen 0 Sep 24 14:08 .
dr-xr-xr-x. 9 zhangchen zhangchen 0 Sep 24 14:08 ..
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 0 -> /dev/pts/0
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 1 -> /dev/pts/0
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 2 -> /dev/pts/0
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:09 255 -> /dev/pts/0
[zhangchen@EDA Desktop]$ exec 5< test1 # 指定数字分配文件描述符
[zhangchen@EDA Desktop]$ ls -al /proc/34005/fd
total 0
dr-x------. 2 zhangchen zhangchen 0 Sep 24 14:08 .
dr-xr-xr-x. 9 zhangchen zhangchen 0 Sep 24 14:08 ..
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 0 -> /dev/pts/0
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 1 -> /dev/pts/0
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 2 -> /dev/pts/0
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:09 255 -> /dev/pts/0
l-wx------. 1 zhangchen zhangchen 64 Sep 24 14:08 5 -> /home/zhangchen/Desktop/test1
[zhangchen@EDA Desktop]$ exec {fd}< test2 # 自动分配文件描述符
[zhangchen@EDA Desktop]$ echo $fd
10
[zhangchen@EDA Desktop]$ ls -al /proc/34005/fd
total 0
dr-x------. 2 zhangchen zhangchen 0 Sep 24 14:08 .
dr-xr-xr-x. 9 zhangchen zhangchen 0 Sep 24 14:08 ..
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 0 -> /dev/pts/0
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 1 -> /dev/pts/0
l-wx------. 1 zhangchen zhangchen 64 Sep 24 14:08 10 -> /home/zhangchen/Desktop/test2
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:08 2 -> /dev/pts/0
lrwx------. 1 zhangchen zhangchen 64 Sep 24 14:09 255 -> /dev/pts/0
l-wx------. 1 zhangchen zhangchen 64 Sep 24 14:08 5 -> /home/zhangchen/Desktop/test1
例2展示了输入重定向过程中的系统调用,由于strace无法直接在交互式bash中追踪内建命令exec,我们选择编写一个测试脚本。
# 例2
# 文件:redirection.sh
exec 5< test1
exec {fd}< test2[zhangchen@EDA Desktop]$ strace bash redirection.sh
*****
open("test1", O_RDONLY) = 3
fcntl(5, F_GETFD) = -1 EBADF (Bad file descriptor)
dup2(3, 5) = 5
close(3) = 0
rt_sigprocmask(SIG_BLOCK, NULL, [], 8) = 0
open("test2", O_RDONLY) = 3
fcntl(3, F_DUPFD, 10) = 10
close(3)
*****
可以看出,在系统调用open打开文件test1和test2时,返回的文件描述符都是其实3,但是系统调用dup2(3, 5)和fcntl(3, F_DUPFD, 10)将其复制为了文件描述符5和10。系统调用open的参数O_RDONLY表示以只读模式打开。
如果在交互式bash中,将标准输入重定向为了其他文件,则终端会直接退出,如例3所示。
# 例3
[zhangchen@EDA Desktop]$ exec 0< test # 终端会直接退出
[zhangchen@EDA Desktop]$ exec 0< test; sleep 5 # 终端会在等待5秒后退出
下面的命令可以关闭已打开的文件描述符,如例4所示。
exec [number|varname]<& -
exec [number|varname]>& -
# 两种命令效果是一样的,并不区分输入还是输出
# 它们唯一的区别在于,不指定number或varname时
# <&-默认指的是关闭标准输入描述符,即0<&-;>&-默认指的是关闭标准输出描述符,即1>&-
# [number|varname]和<、>和&之间不能有空格,和-间可以有
# 例4
[zhangchen@EDA Desktop]$ exec 5<& - # 关闭文件描述符5
[zhangchen@EDA Desktop]$ exec {fd}>& - # fd的值为10,因此关闭文件描述符10
输出重定向
exec [number|varname]>[|] filename
# 如果不使用exec,则无法影响当前Bash进程
# [number|varname]和>h和[|]之间不能有空格
输出重定向会首先将文件名进行拓展(如参数扩展和命令替换),如果使用number,会在文件描述符number上以写模式打开该文件,如果文件不存在则会创建它;如果使用varname,则会自动分配一个大于等于10的文件描述符并将其数字赋值给变量varname;如果未指定number或varname,则默认为标准输出(文件描述符1)。
如果重定向操作符是>,并且启用了noclobber选项(通过命令set -o noclobber启用),则如果目标文件已经存在且是常规文件,则重定向会失败。
如果重定向操作符是>|,或者使用>但未启用noclobber选项,则如果目标文件已经存在,会将其截断为零字节。
例5展示了输出重定向过程中的系统调用,由于strace无法直接在交互式bash中追踪内建命令exec,我们选择编写一个测试脚本。
# 例5
# 文件:redirection.sh
set -o noclobber
exec 5> test1 # 重定向失败
exec {fd}>| test2[zhangchen@EDA Desktop]$ strace bash redirection.sh
*****
write(2, "redirection.sh: line 2: test1: c"..., 62redirection.sh: line 2: test1: cannot overwrite existing file
) = 62
open("test2", O_WRONLY|O_CREAT|O_TRUNC, 0666) = 3
fcntl(3, F_DUPFD, 10) = 10
close(3)
*****
系统调用open的参数O_WDONLY表示以只写模式打开,参数O_CREAT表示如果文件不存在,则创建它,参数O_TRUNC表示如果文件已存在,则将其内容截断为零字节。
例6展示了输出重定向后,后续命令的输出都不出现在终端。
# 例6
[zhangchen@EDA Desktop]$ exec > test1 # 标准输出(文件描述符1)重定向到文件test1
[zhangchen@EDA Desktop]$ echo 123456789 # 向标准输出(文件描述符1)输出文本
[zhangchen@EDA Desktop]$ exec >&- # 关闭标准输出(文件描述符1)
[zhangchen@EDA Desktop]$ cat test1 # 向标准输出(文件描述符1)输出文本
cat: standard output: Bad file descriptor # 标准输出(文件描述符1)已被关闭
[zhangchen@EDA Desktop]$ exec > /dev/pts/0 # 重新让标准输出(文件描述符1)指向终端
[zhangchen@EDA Desktop]$ cat test1 # 向标准输出(文件描述符1)输出文本
123456789 # 成功输出文本
例6中还存在一个插曲,当将标准输出重定向到test1并写入文本12345678后,使用exec >&-关闭文件描述符,此时如果尝试使用cat输出test1文件的内容会报错,这是因为此时标准输出,即文件描述符0并未指向有效的终端,因此需要将标准输出重定向回终端,此时才能正常显示。
输出追加重定向
exec [number|varname]>> filename
# 如果不使用exec,则无法影响当前Bash进程
# [number|varname]和>>之间不能有空格
与输出重定向类似,不同的是,如果文件已经存在,则新的输出将附加到文件末尾,而不会清空原有内容。
例7展示了输出追加重定向过程中的系统调用,由于strace无法直接在交互式bash中追踪内建命令exec,我们选择编写一个测试脚本。
# 例7
# 文件:redirection.sh
exec 5>> test1[zhangchen@EDA Desktop]$ strace bash redirection.sh
*****
open("test1", O_WRONLY|O_CREAT|O_APPEND, 0666) = 3
fcntl(5, F_GETFD) = -1 EBADF (Bad file descriptor)
dup2(3, 5) = 5
close(3) = 0
rt_sigprocmask(SIG_BLOCK, NULL, [], 8) = 0
*****
系统调用open的参数O_WDONLY表示以只写模式打开,参数O_CREAT表示如果文件不存在,则创建它,参数O_APPEND表示在写入数据时,所有数据都会追加到文件的末尾,而不是从文件开头开始写入。
例8展示了输出追加重定向后,输出的内容是追加到文件末尾的。
# 例8
[zhangchen@EDA Desktop]$ cat test1
123456789
[zhangchen@EDA Desktop]$ exec >> test1 # 标准输出(文件描述符1)重定向到文件test1
[zhangchen@EDA Desktop]$ echo 123456789 # 向标准输出(文件描述符1)输出文本
[zhangchen@EDA Desktop]$ exec >&- # 关闭标准输出(文件描述符1)
[zhangchen@EDA Desktop]$ exec > /dev/pts/0 # 重新让标准输出(文件描述符1)指向终端
[zhangchen@EDA Desktop]$ cat test1 # 向标准输出(文件描述符1)输出文本
123456789 # 追加输出
123456789
标准输出和标准错误重定向
exec &> filename # 更好的格式
exec >& filename
# 如果不使用exec,则无法影响当前Bash进程
# &和>之间不能有空格
标准输出和标准错误重定向会首先将文件名进行拓展(如参数扩展和命令替换),然后将标准输出(文件描述符1)和标准错误输出(文件描述符2)都重定向到同一个文件。
需要注意的是,使用>&时文件不能扩展为number或-,如果是,则会被当作是复制文件描述符(见后),这是为了兼容性考虑。
例9展示了标准输出和标准错误重定向过程中的系统调用,由于strace无法直接在交互式bash中追踪内建命令exec,我们选择编写一个测试脚本。
# 例9
# 文件:redirection.sh
exec &> test1[zhangchen@EDA Desktop]$ strace bash redirection.sh
*****
open("test1", O_WRONLY|O_CREAT|O_TRUNC, 0666) = 3
dup2(3, 1) = 1
close(3) = 0
dup2(1, 2) = 2
*****
在系统调用open打开文件test1时,返回的文件描述符是3,而dup2(3, 1)将其复制为了文件描述符1,进一步dup2(1, 2)将文件描述符1复制为了文件描述符2,此时文件描述符1和2都指向test1文件。
例10展示了标准输出和标准错误重定向后,后续命令的输出不出现在终端。
# 例10
# 文件:redirection.sh
exec &> test1
echo "This is standard output" # 标准输出
ls non_existent_file # 这将导致错误,产生标准错误
echo "This will also be standard output" # 另一个标准输出[zhangchen@EDA Desktop]$ bash redirection.sh
[zhangchen@EDA Desktop]$ cat test
This is standard output
ls: cannot access non_existent_file: No such file or directory
This will also be standard output
标准输出和标准错误追加重定向
exec &>> filename
# 如果不使用exec,则无法影响当前Bash进程
# &和>>之间不能有空格
与标准输出和标准错误重定向类似,不同的是,如果文件已经存在,则新的输出将附加到文件末尾,而不会清空原有内容。
例11展示了标准输出和标准错误追加重定向过程中的系统调用,由于strace无法直接在交互式bash中追踪内建命令exec,我们选择编写一个测试脚本。
# 例11
# 文件:redirection.sh
exec &>> test1[zhangchen@EDA Desktop]$ strace bash redirection.sh
*****
open("test1", O_WRONLY|O_CREAT|O_APPEND, 0666) = 3
dup2(3, 1) = 1
close(3) = 0
dup2(1, 2) = 2
*****
在系统调用open打开文件test1时,返回的文件描述符是3,而dup2(3, 1)将其复制为了文件描述符1,进一步dup2(1, 2)将文件描述符1复制为了文件描述符2,此时文件描述符1和2都指向test1文件。
例12展示了标准输出和标准错误追加重定向后,输出的内容是追加到文件末尾的。
# 例12
# 文件:redirection.sh
exec &> test1
echo "This is standard output" # 标准输出
ls non_existent_file # 这将导致错误,产生标准错误
echo "This will also be standard output" # 另一个标准输出[zhangchen@EDA Desktop]$ cat test
12345678
[zhangchen@EDA Desktop]$ bash redirection.sh
[zhangchen@EDA Desktop]$ cat test
12345678
This is standard output
ls: cannot access non_existent_file: No such file or directory
This will also be standard output
复制文件标识符
exec [number|varname]<& filename
exec [number|varname]>& filename
# 两种命令效果是一样的,并不区分输入还是输出,,但建议与被复制(关闭)的文件描述符方向一致
# 它们唯一的区别在于,不指定number或varname时
# <& filename默认指的是被复制(关闭)的标准输入描述符,即0<& filename;>& filename默认指的是被复制(关闭)的标准输出描述符,即1>& filename
# [number|varname]和<、>和&之间不能有空格
- 如果filename展开为数字,则其表示要被复制的文件描述符,那么文件描述符number(指定)或varname(自动分配)将成为该文件描述符的副本,即指向同一个文件。
- 如果filename展开为-,则其表示要关闭文件描述符。
- 如果filename展开文件名,则其表示标准输出和标准错误重定向。
- 其他情况下,会出现错误。
例13展示了复制文件标识符过程中的系统调用,由于strace无法直接在交互式bash中追踪内建命令exec,我们选择编写一个测试脚本。
# 例13
# 文件:redirection.sh
exec 3> test1
exec 4>& 3[zhangchen@EDA Desktop]$ strace bash redirection.sh
*****
open("test1", O_WRONLY|O_CREAT|O_TRUNC, 0666) = 3
rt_sigprocmask(SIG_BLOCK, NULL, [], 8) = 0
fcntl(4, F_GETFD) = -1 EBADF (Bad file descriptor)
dup2(3, 4) = 4
*****
在系统调用open打开文件test1时,返回的文件描述符是3,此时不再需要系统调用dup2调整了,因为这就是我们指定的数字,而dup2(3, 4)将其复制为了文件描述符4,此时文件描述符3和4都指向test1文件。
移动文件描述符
exec [number|varname]<& number-
exec [number|varname]>& number-
# 两种命令效果是一样的,并不区分输入还是输出,但建议与被移动的文件描述符方向一致
# 它们唯一的区别在于,不指定number或varname时
# <& number-默认指的是移动到标准输入描述符,即0<& number-;>& number-默认指的是标准输出描述符,即1>& number-
# [number|varname]和<、>和&之间不能有空格,number和-之间不能有空格,&与和number之间可以有空格
该命令将文件描述符number复制为文件描述符number(指定)或varname(自动分配),并在此后关闭文件描述符number。
例14展示了移动文件描述符过程中的系统调用,由于strace无法直接在交互式bash中追踪内建命令exec,我们选择编写一个测试脚本。
# 例14
# 文件:redirection.sh
exec 3> test1
exec 4>& 3-[zhangchen@EDA Desktop]$ strace bash redirection.sh
*****
open("test1", O_WRONLY|O_CREAT|O_TRUNC, 0666) = 3
rt_sigprocmask(SIG_BLOCK, NULL, [], 8) = 0
fcntl(4, F_GETFD) = -1 EBADF (Bad file descriptor)
fcntl(4, F_GETFD) = -1 EBADF (Bad file descriptor)
dup2(3, 4) = 4
fcntl(3, F_GETFD) = 0
close(3) = 0
*****
可以看到,在系统调用dup2将文件描述符3赋值为了文件描述符4后,紧接着就是用系统调用close关闭了文件描述符3。
输入和输出重定向
exec [number|varname]<> filename
# 如果不使用exec,则无法影响当前Bash进程
# [number|varname]和<和>之间不能有空格
以读写方式打开一个文件,是用文件描述符number(指定)或varname(自动分配),如果未指定number或varname,则默认为标准输入(文件描述符0)。
例15展示了移动文件描述符过程中的系统调用,由于strace无法直接在交互式bash中追踪内建命令exec,我们选择编写一个测试脚本。
# 例15
# 文件:redirection.sh
exec 3<> test1[zhangchen@EDA Desktop]$ strace bash redirection.sh
*****
open("test1", O_RDWR|O_CREAT, 0666) = 3
*****
系统调用open的参数O_RDWR表示以读写模式打开,参数O_CREAT表示如果文件不存在,则创建它。
叠加使用
上面的八种重定向命令,可以多个混合使用,此时从左往右依次执行,如下所示。
exec &> filename 等价于 exec > filename 2>& 1或exec > filename 2<& 1(不建议)
exec &>> filename 等价于 exec > filename 2>>& 1或exec > filename 2<<& 1(不建议)
命令重定向
全局重定向的影响范围很广,所有后续的命令都会受到影响(因为文件描述符继承),但命令重定向只针对一条命令而言,重定向只发生在子进程中,其他都是相同的。
下面给了一个例子,将echo命令的标准输出(文件描述符1)重定向至文件test1。
[zhangchen@EDA Desktop]$ echo test_message > test1
[zhangchen@EDA Desktop]$ cat test1
test_message
下面展示了命令重定向过程中的系统调用情况。
# 文件:redirection.sh
ls > test1
echo 111111111111111111111
[zhangchen@EDA Desktop]$ strace -f bash redirection.sh # -f选项很重要,加上它才能追踪子进程的系统调用
*****
[pid 71192] open("test1", O_WRONLY|O_CREAT|O_TRUNC, 0666) = 3
[pid 71192] dup2(3, 1) = 1
[pid 71192] close(3) = 0
[pid 71192] execve("/usr/bin/ls", ["ls"], 0x12f4bb0 /* 66 vars */) = 0
*****
write(1, "111111111111111111111\n", 22111111111111111111111 # 后面一串是命令的输出
) = 22
*****
可以看到,系统调用open是在子进程[pid 71192]中进行的,echo的输出使用原本的标准输出(文件描述符1),即还是原来的终端,所以在后面看到了命令的输出。
细心的人可能会发现,echo命令并没有创建子进程,虽然echo命令不是内建命令,但它是直接在原bash进程中执行的,如果重定向它的标准输入输出,岂不是会影响全局?其实不会,下面举例说明。
# 文件:redirection.sh
echo 111111111111111111111 > test1
echo 222222222222222222222[zhangchen@EDA Desktop]$ strace -f bash redirection.sh # -f选项很重要,加上它才能追踪子进程的系统调用
open("test1", O_WRONLY|O_CREAT|O_TRUNC, 0666) = 3
fcntl(1, F_GETFD) = 0
fcntl(1, F_DUPFD, 10) = 10
fcntl(1, F_GETFD) = 0
fcntl(10, F_SETFD, FD_CLOEXEC) = 0
dup2(3, 1) = 1
close(3) = 0
fstat(1, {st_mode=S_IFREG|0664, st_size=0, ...}) = 0
mmap(NULL, 4096, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7f6e4f095000
write(1, "111111111111111111111\n", 22) = 22
dup2(10, 1) = 1
fcntl(10, F_GETFD) = 0x1 (flags FD_CLOEXEC)
close(10) = 0
rt_sigprocmask(SIG_BLOCK, NULL, [], 8) = 0
write(1, "222222222222222222222\n", 22222222222222222222222
) = 22
*****
原来在使用dup2函数将标准输出(文件描述符1)指向test1前,先使用了fcntl(1, F_DUPFD, 10)将文件描述符1原本指向的终端保存了下来,第一个echo执行后,又使用了dup2(10, 1) 将其还原!