用inotify监控文件系统事件备份海量小文件

具体过程如下:

1、升级Linux内核，使其支持inotify功能

    使用inotify功能需要采用新的内核，我们以2.6.26的内核为例，编译内核的步骤如下：

[root@supersun.biz linux-2.6.26]# KERNEL_DIR=$(pwd)

[root@supersun.biz linux-2.6.26]# make mrproper

[root@supersun.biz linux-2.6.26]# make menuconfig

[root@supersun.biz linux-2.6.26]# make dep

[root@supersun.biz linux-2.6.26]# make clean

[root@supersun.biz linux-2.6.26]# make bzImage

[root@supersun.biz linux-2.6.26]# cp arch/x86_64/boot/bzImage /boot/vmlinuz-2.6.26

[root@supersun.biz linux-2.6.26]# make modules

[root@supersun.biz linux-2.6.26]# make modules_install

[root@supersun.biz linux-2.6.26]# cd /boot

[root@supersun.biz boot]# mkinitrd initrd-2.6.26 2.6.26

[root@supersun.biz boot]# cd $KERNEL_DIR

[root@supersun.biz linux-2.6.26]# cp System.map /boot/System.map-2.6.26

[root@supersun.biz linux-2.6.26]# cd /boot

[root@supersun.biz linux-2.6.26]# ln -s System.map-2.6.26 System.map

重启系统使用新内核。

 

2、安装脚本所需的Perl模块

[root@supersun.biz ~]# cpan Event

[root@supersun.biz ~]# cpan Linux::Inotify2

3、生成监控数据,运行脚本

创建inotifyd.pl脚本,脚本内容如下:

#!/usr/bin/perl

#auther:supersun

#e-mail:supersun06@gmail.com

#blog:http://supersun.biz

use strict;

use Event;

use Linux::Inotify2;

use POSIX;

use IO::File;

 

#For Daemon

###################################################

sub daemonize {

        chdir "/";

        open STDIN, "</dev/null";

        open STDOUT, ">/dev/null";

        open STDERR, ">&STDOUT";

        defined(my $pid=fork) or die "Can't fork: $!\n";

        exit if($pid);

        POSIX::setsid() or die "Can't start a new session: $!";

        umask 0;

}

 

sub get_log {

        my ($LOG_FILE,$LOGS)=@_;

        my $TIME=localtime;

        open LOG,'>>',$LOG_FILE;

        print LOG "$LOGS\n";

        close LOG;

}

sub add_watch {

        my ($inotify,$log_file)=@_;

        open FH,$log_file;

        while(<FH>){

                my $file=$_;

                chomp $file;

                $inotify->watch ($file, IN_ALL_EVENTS, \&mywatch)

        }

        close FH;

}

 

####################################################

                        

&daemonize;

our $CONF_FILE="/var/log/inotify.db";

our $LOG_FILE="/var/log/inotify.log";

 

our $INOTIFY_OBJECT=new Linux::Inotify2;

Event->io (fd => $INOTIFY_OBJECT->fileno, poll => 'r', repeat => 1, cb => sub { $INOTIFY_OBJECT->poll });

 

Event->signal (signal => 'HUP',cb => \&re_conf);

 

add_watch($INOTIFY_OBJECT,$CONF_FILE);

 

Event::loop;

 

sub re_conf{

        add_watch($INOTIFY_OBJECT,$CONF_FILE);

        Event::loop;

}

 

sub mywatch {

        my $e = shift;

        my $PATH= $e->fullname;

        my $MASK= $e->mask;

  

        $INOTIFY_OBJECT->watch($PATH,IN_ALL_EVENTS, \&mywatch) if ($e->IN_CREATE);

 

        if($e->IN_ISDIR && $e->IN_CREATE) {

                get_log $LOG_FILE, "$PATH";

                return;

        }

        if($e->IN_MODIFY || $e->IN_CREATE){

                get_log $LOG_FILE, "$PATH";

                return

        }

}

添加执行权限,并copy至/usr/local/sbin/目录下.

创建监控目录列表,便例如:

find /home/data -type d >/var/log/inotify.db

启动inotifyd.pl脚本:

 

对于65万行的记录启动时间大约是一分半钟，至此，inotidyd.pl脚本已经开始监控，脚本分将发生IN_MODIFY和IN_CREATE事件的文件记入到/var/log/inotify.log中。

 

4、定制并运行日志外理命令。

 

对于日志文件的处理，自己可以定制相关的命令，我使用的是logrotate和ftp对文件进行备份，

logrotate的配置文件/etc/inotify.logrotate内容如下：

/var/log/inotify.log {

    rotate 1

    postrotate

        sh /usr/bin/backup_inotify.sh

    endscript

}

/usr/bin/backup_inotify.sh的内容如下：

#!/bin/sh

lftp_cmd="/tmp/lftp.cmd.$$"

echo "open xxx.xxx.xxx.xxx" >$lftp_cmd

echo "user xxx xxx" >>$lftp_cmd

cat /var/log/inotify.log.1 |sort |uniq |sed 's|/home/data/|mput -dc |g' >>$lftp_cmd

echo "exit" >>$lftp_cmd

cd /home/data/

lftp -f $lftp_cmd >>/var/log/lftp.log 2>&1

rm $lftp_cmd

 

添加以下条目到cron中

*/1 * * * * /usr/sbin/logrotate -f /etc/inotify.logrotate >/dev/null 2>&1

 

5、管理inotify脚本。

此处的管理脚本是指发送HUP信号给inotifyd.pl脚本，让其重新读取/var/log/inotify.db（PS：脚本对运行过程中新产生的目录会自动进行监控）。

相关资料：

TSM针对大量小文件数据环境的备份策略

http://blog.chinaunix.net/u/10516/showart_469541.html