lsyncd rsyndの設定方法


lsyncd(Live Syncing Daemon)はリアルタイムのファイル同期を提供する仕組みのひとつです。inotifyというファイルの変更を検知すると、rsyncd経由で同期先のサーバへファイルを転送します。このページでは、lsyncd, rsyncdの使い方についてまとめます。

lsyncd 概要

lsyncdの動向

lsyncdは、2009年7月のソフトウェアデザインに掲載されてから徐々に有名になった技術ですが、現在(2014年10月)ではわりと下火になってきました。GitHubを見ると最近のコミットの数が少ないし、新しいバージョンの開発が行われていません。私自身もlsyncdはかなり痛い目にあったオープンソースなので、正直お勧めできません。とは言っても、lsyncdを運用せざるを得ない残念な方もいらっしゃると思いますので、そんな残念なOpsのためにまとめ記事を書きます。

lsyncdのバージョン

lsyncdにはバージョン1とバージョン2があります。ソフトウェアデザインに掲載されたのがバージョン1であった影響もあり、バージョン1を前提としてたブログが多数みられます。他のブログ記事を読む時は、その記事がバージョン1なのかバージョン2なのかを慎重に読み取った方が良いでしょう。

なお、このサイトはバージョン2のみを取り扱います。バージョン1は、もはや公式サイトからダウンロードする事すらできなくなっています。

lsyncd vs DRBD

lsyncdと比較される概念として、DRBDのようなクラスタリングソフトウェアが挙げられます。両者の違いは以下の通りです。

 lsyncdDRBD
転送単位ファイル単位ブロック単位
同期対象数多数 20台以上の運用実績あり多くの場合は2台体制, 最大4台まで可能
手間すぐに構築可能ファイルシステムの再構成やマウントポイントの定義が必要
主な用途少量のファイル同期データベースのクラスタリング

lsyncdはファイル単位の転送であるのに対し、DRBDはブロック単位の転送です。DRBDはブロック単位の転送を行うため、ファイルシステムの再構築やマウントポイントの定義など構築の手間が非常に大きいです。それに対し、lsyncdは比較的容易に導入する事ができます。

lsyncdは多数のホストに対して同期を効かせる事ができるのに対し、DRBDは2台のホストを同期させる用途で使用する事が多いです。多数のホストに対して同期を行いたい場合は、lsyncdを採用しましょう。

結論としては、「データベースの同期にはDRBD, GlusterFS, BindFSのようなクラスタリングソフトを使用し、少量のファイル転送にはlsyncdを使用する」と覚えておけば、原則間違えはないと思います。

rsyncコマンド

rsyncコマンドの使い方

lsyncdはリアルタイムでrsyncを行う常駐プログラムです。lsyncdを設定する前に、まずはrsyncコマンドの復習をしておきましょう。

rsyncはディレクトリ単位の同期を行うコマンドです。同一ホスト内のファイルコピーを行う事もできますが、多くの場合はリモートホストへのファイル転送で使用する事が多いでしょう。さて、rsyncの構文は以下のようになります。

使用頻度が高いオプションをまとめると以下の通りです。

オプション説明
-a-rlptgoDと同じ意味です。詳細な説明はマニュアルに任せますが、-aをつけた方が何かと便利な事が多いです。
-v転送するファイル一覧を表示します。
-eリモートシェルのコマンドを指定します(デフォルトはssh)。例えば、"ssh -p 1022"とすればポート番号を変更できますし、"ssh -i secret.pem"とすれば秘密鍵を指定できます。
--progressファイル転送の進捗を表示します。大きなファイルを転送する進捗が見えないと何かと不安になります。私の精神安定剤。
--exclude転送対象から除外したいファイルを指定します。
--exclude-from転送対象から除外したいファイル一覧を定義した設定ファイルを指定します。
--dry-run-vと併用する事で、実際には転送せずに転送するファイル一覧を表示します。オプション指定やディレクトリ指定に誤りがないか、事前に動作確認したい時に使用します。

使用例は以下の通りです。

rsyncコマンド –exclude

–excludeオプションで転送対象から除外したいファイルを定義する事ができます。ディレクトリ単位で除外したい場合は、コピー元ディレクトからの相対パスで指定します。特定のファイルを除外したい場合は、ワイルドカードと範囲指定でファイル名を指定します(例えば、”*.log.[0-9]”のように指定します。正規表現は使用できません)。

使用例は以下の通りです。”not_sync”ディレクトリとログファイルを除外して転送する例です。

rsyncコマンド –exclude-from

rsyncの除外対象が多くなると、除外対象をコマンドラインで指定するのはメンテナンス上無理があります。そのような場合は、除外対象をファイルで定義する事もできます。

実行例は以下の通りです。

設定例は示しませんが、”+”で除外リストから除く(転送対象に含める)事もできます。”+”でincludeの意味、”-“でexcludeの意味と考えて差し支えございません。

なお、机上で–exclude指定を考えるのは設定ミスをしやすいので、実行前に–dry-runオプションで動作確認する事をお勧めします。

rsyncd (ファイル受信側の設定)

rsyncd, lsyncdによるリアルタイムの同期を実現するためには、ファイルを受信する側のサーバでrsyncdを起動させる必要があります。

このrsyncdという言葉は聞きなれないと思いますが、rsyncとは別物です。多くのエンジニアはrsyncと言えばsshでディレクトリ単位のコピーを行うコマンドを思い浮かべますが、rsyncdはtcp873で待ち受けるファイル同期のための常駐プログラムです。

rsyncdの起動 [必須]

rsyncdはxinetd経由で呼び出されるます。もしxintedがインストールされていない場合は、xinetdをインストールして下さい。

rsyncdはデフォルトで無効化されていますので、/etc/xinetd.d/rsyncの”disable”をyesからnoに変更しrsyncdを有効化します。 また、CentOS6からはデフォルトでIPv6でのみ受信する設定になっていますので、”flags”をIPv6からIPv4に変更します。

xinet.dを再起動し設定を反映させます。設定反映後、IPv4 tcp873でListenしている事を確認します。”0 0.0.0.0:873″との記述がある事を確認してください。もし、”:::873″となっていればIPv6で受信している事を意味しますので、設定の見直しが必要です。

環境によっては、iptablesやhosts.allowのような受信許可設定も必要になる事にもご注意ください。/etc/sysconfig/iptablesの設定変更が必要ならば、以下のような設定例になります。

rsyncd.conf ディレクトリの設定 [必須]

rsyncdの設定を行います。設定は、/etc/rsyncd.confに記述して下さい。以下は、/usr/local/Workdirに対して”Workdir”というラベルを付与する例です。

hosts allow, hosts denyはrsyncdによって接続したいホストを限定したい場合に指定して下さい。特に要件がないならば、設定の必要はございません。

read onlyは書き込みを許すかどうかです。rsyndは公開サーバとしての用途もありますので、デフォルト設定は読取専用です。しかし、lsyncdで使用する場合は書き込み操作が必要になるので、”read only = no”としましょう。

uid, gidは同期ディレクトリに対して読み書きを行うユーザです。恐らく全てのファイルを同期したい場合が大半と思われますので、”uid = root”, “gid = root”とするのが良いでしょう。ちなみに、この設定を省略してしまうとnobodyで読み書きが行われます。

rsyncd.conf 複数ディレクトリの指定 [任意]

複数のディレクトリに対してrsyncdによる同期を行う事もできます。以下は、/usr/local/Workdir, /usr/local/Workdir2の2つのディレクトリに対してrsyncdによる同期を許可した設定です。

ディレクトリを複数指定する場合は、以下のようにグローバルな設定を利用し設定ファイルの簡素化を図りましょう。ディレクトリ設定より前に設定を記述すると、全てのディレクトリに対する共有設定になります。以下は、read only=no, uid=root, gid=rootを共通設定として記載した例です。

rsyncd.conf ログ設定 [任意]

rsyncdはデフォルトで/var/log/messagesに同期を行ったディレクトリをログ出力します。ログ出力例は以下の通りです。

もし、大量のログ出力を嫌うならば、ログ出力を抑制する事ができます。/etc/rsyncd.confに”transfer logging = no”を加筆する事でログ出力を抑制する事ができます。

ただし、私がかつて運用を行っていた現場は非常にrsyncd, lsyncdのトラブルが多かったです。ログを抑制するという事は、後からの追跡ができなくなるデメリットがある事は理解した上で設定を投入して下さい。

rsyncdを大量に使用する現場では、rsyncdのログが膨大になってしまいます。これを/var/log/messagesに出力すると、OSに対するエラーが埋もれてしまう可能性があります。

そのような場合は、rsyncdのログ出力を別ファイル化する事を検討しましょう。rsyncdはデフォルトで、syslog facilityのdaemonに対してログ出力します。これを何か適当なfacilityに変更する事で、ログ出力の別ファイル化ができます。

/etc/rsyncd.confに”syslog facility”を加筆し、ログ出力先を指定して下さい。以下はlocal0にrsyncdのログを出力する例です。

あとは、rsyslogdとログローテーションの設定をすれば、ログ関連の設定が完了です。

rsyslogdの詳細説明はrsyslogd (syslogd) 設定に任せ、ここでは設定例のみ紹介します。/etc/rsyslog.confに以下ハイライトされた部分の設定を加筆します。

rsyslogdを再起動し設定を反映させます。

みんな忘れがち、そして後任の運用担当者がよく泣くログローテーションの設定例は以下の通りです。ログローテーションの詳細説明はlogrotate 設定方法に任せ、ここでは設定例のみ紹介します。rsyncdのログはrsyslogdによって出力されるログですので、ログローテーションの際はrsyslogdに対してHUPシグナルを送って下さい(HUPシグナルを送る対象は、xinetd, rsyncdではありません)。

/etc/logrotate.d/syslogに、ログローテーション対象として/var/log/rsyncを加筆します。以下ハイライトされた部分を加筆して下さい。

lsyncd ( ファイル送信側の設定 )

lsyncdのインストール [必須]

lsyncdをインストールします。現在(2012/02/26)はrpmforgeから提供されていますので、yumコマンドで簡単にインストールできます。rpmforgeの設定については、yumリポジトリの使い方/設定/作成方法を参照下さい。

lsyncdの設定 [必須]

lsyncdは/etc/lsyncd.confに設定を記述します。デフォルト設定やサンプル設定のファイルは存在しないので、設定ファイルを新規作成して下さい。

設定例は以下の通りです。もし、複数のホストに対してファイル転送を行ないたい場合は、rsync { … } のエントリを増やしてください。

lsyncd 起動 [必須]

lsyncdは起動スクリプトを用いて、起動させることができます。操作例は以下の通りです。

lsyncdの起動に成功してもファイル転送に成功しているとは限りません。例えば、公開鍵の設定が間違っていたとしても、psコマンド等によるプロセス確認では正常に見えます。そのため、以下のようにログを確認し正常にファイル転送できているかを確認する必要があります。

エラーがある場合はログファイルに”Retrying startup”のようなメッセージが出力され続けます。以下はエラーが存在する場合のログ出力例です。

一方、ファイル転送が正常に行なわれ射る場合は、以下のように出力されます。

lsyncd ログローテーション [必須]

ログファイルを明示的に定義した場合は、ログローテーションの設定も忘れずに行いましょう。以下はログローテーションの設定例です。/etc/logrotate.d/lsyncdというファイルを以下のような内容で作成します。

なお、ログファイル設定を省略した場合は、facilityがuserでログ出力されます。rsyslog.conf, syslog.confの設定次第ですが、多くの場合は/var/log/messagesにログ出力されると思います。

lsyncd カーネルパラメタの変更 [必須]

lsyncdはionotifyというファイルシステムのイベントを取得するAPIを使用しています。ionotifyは監視できるファイル数の上限が定められており、max_user_watchesで定義されています。

デフォルトでは8192個までしか監視できません。もし大量のファイルを同期したい場合は、カーネルパラメータfs.inotify.max_user_watchesを変更する必要があります。/etc/sysctl.confにfs.inotify.max_user_watchesを追加します。設定例は以下の通りです。

”sysctl -p”により設定を反映させます。

Tips

rsyncd CentOS 5.X系とCentOS 6.X系の違い

この記事は2012年2月に初めて書き、2014年10月に再度見直しを行いました。2012年の時点ではCentOS 5.Xで動作確認を行い、2014年10月ではCentOS 6.5で動作確認を行っております。

その際、rsyncdの仕様変更をいくつか見つけました。注意すべき仕様変更は以下の通りです。

 CentOS 5.XCentOS 6.X
IPv4/IPv6IPv4で待ち受けデフォルト設定はIPv6で待ち受け
設定ファイル/etc/sysconfig/rsyncd.conf/etc/rsyncd.conf

lsyncd 1.X系, 2.0系, 2.1系の違い

lsyncdはバージョンによって書式や指定可能オプションが異なります。

1.X系と2.0系では設定ファイルの書式が大きく異なります。1.X系の頃はXML形式の読みづらい記述になっていましたが、2.0系では読みやすい記述方法になっています。

2.0系から2.1系からのバージョンアップでは、指定可能なオプションが異なります。2.0系の頃は以下のようにrsyncOpsというパラメタを用いて転送対象外となるファイルを定義しましたが、2.1系ではrsyncOpsというパラメタが廃止されています。

ちなみに、2.0系の頃はrsyncOpsを省略するとファイル転送が行われなくなる不具合がありました。

動作確認環境

  • 最終動作確認日 2014/10/19
  • CentOS 6.5 64 bit
  • rsync-3.0.6-9.el6_4.1.x86_64
  • lsyncd-2.1.4-1.el6.rf.x86_64

シェアする

  • このエントリーをはてなブックマークに追加

フォローする

コメント

  1. ななしさん より:

    お陰様で lsyncd が無事にセットアップできました。
    ありがとうございました。

    • syauichi より:

      お褒めの言葉ありがとうございます。

      lsyncdは障害の多い困った子ちゃんだったので、使いどころは気を付けて下さいね。
      あまりクリティカルな用途でlsyncdを使うと痛い目にあいますので。