X

2ch特化型サーバ・ロケーション構築作戦 Part19

レス数が900を超えています。1000を超えると表示できなくなるよ。
1root▲ ★
垢版 |
NGNG
2ch特化型サーバ・ロケーション構築作戦のスレッドです。

・２ちゃんねるのサーバロケーション、PIEに関する関連作業・調整事項
・DNS登録・変更まわりの関連作業・調整事項
・２ちゃんねるのサーバで採用しているOS、FreeBSDに関する情報・調整事項
・各種作戦・プロジェクトとの連携、プロジェクト間の連携

等を取り扱います。

現在、複数サーバによる連携により、
サーバ能力のさらなるスケールアップをめざすための「雪だるま作戦」が進行中です。
雪だるま作戦は、現在以下のスレで雑談しながら進行中です。

＜主な関連スレッド＞
【しらたま】雪だるま作戦に思いを馳せながら雑談するスレッド Part11
http://aa5.2ch.net/test/read.cgi/nanmin/1121875871/

＜主な関連リンク＞
ブレーメンメーター: http://mumumu.mu/bremen/
ＭＲＴＧによる統計情報: http://mumumu.mu/mrtg/
２ちゃんねる サーバ負荷監視所: http://ch2.ath.cx/load/
2ch 鯖監視係。: http://sv2ch.baila6.jp/
2ch CGI 軽量化: http://sunos.saita.ma/2ch-cgi-lw.html
844root▲ ★
垢版 |
NGNG
>>843
> それを用いるプログラム (read.cgi 等) もですね．

おぉ、なるほど。

で、さっきまた症状再発。

アイドルタイムがぐぐぐとなくなり、でもtop的にはプロセスがRUNにならないのに、
ロードアベレージが上がり続けるという、いかにもカーネルのバグっぽい、
謎な状態になる模様。
845root▲ ★
垢版 |
NGNG
症状はこれまでと全く同じ。

%grep backward /var/log/messages
Feb 13 10:27:24 <0.2> tiger2522 kernel: calcru: runtime went backwards from 235116018 usec to 235115799 usec for pid 28466 (httpd)
Feb 13 10:28:06 <0.2> tiger2522 kernel: calcru: runtime went backwards from 557817 usec to 557807 usec for pid 17019 (httpd)
Feb 13 10:28:06 <0.2> tiger2522 kernel: calcru: runtime went backwards from 547476 usec to 547431 usec for pid 16997 (httpd)
Feb 13 10:28:21 <0.2> tiger2522 kernel: calcru: runtime went backwards from 1734019 usec to 1733938 usec for pid 16944 (httpd)
846root▲ ★
垢版 |
NGNG
2006-02-14 03:26:37.805228500 MaxLA = 20, LA = 2.13818359375
2006-02-14 03:27:07.806554500 MaxLA = 20, LA = 14.9033203125
2006-02-14 03:27:37.808498500 MaxLA = 20, LA = 98.05224609375
2006-02-14 03:27:37.809198500 delta = 1139855257
2006-02-14 03:27:37.809226500 Restarting apache...
2006-02-14 03:27:37.893737500 Performing sanity check on apache2 configuration:
2006-02-14 03:27:38.135912500 Syntax OK
2006-02-14 03:27:38.193105500 Stopping apache2.
2006-02-14 03:27:38.208165500 Waiting for PIDS: 55140, 55140, 55140, 55140, 55140, 55140.
2006-02-14 03:27:50.395771500 Starting apache2.
2006-02-14 03:28:21.037681500 MaxLA = 20, LA = 82.00390625
2006-02-14 03:28:21.037954500 delta = 30
2006-02-14 03:28:21.037975500 delta = 30, not restarting
2006-02-14 03:28:51.038550500 MaxLA = 20, LA = 79.72509765625
2006-02-14 03:28:51.038668500 delta = 60
2006-02-14 03:28:51.038692500 delta = 60, not restarting
2006-02-14 03:29:21.039819500 MaxLA = 20, LA = 49.25634765625
2006-02-14 03:29:21.039891500 delta = 90
2006-02-14 03:29:21.039907500 delta = 90, not restarting
2006-02-14 03:29:51.041112500 MaxLA = 20, LA = 30.40380859375
2006-02-14 03:29:51.041344500 delta = 120
(続く)
847root▲ ★
垢版 |
NGNG
2006-02-14 03:29:51.041389500 Restarting apache...
2006-02-14 03:29:51.056401500 Performing sanity check on apache2 configuration:
2006-02-14 03:29:51.104448500 Syntax OK
2006-02-14 03:29:51.121918500 Stopping apache2.
2006-02-14 03:29:51.186926500 Waiting for PIDS: 16927, 16927, 16927.
2006-02-14 03:29:57.209463500 Starting apache2.
2006-02-14 03:30:28.033177500 MaxLA = 20, LA = 53.62548828125
2006-02-14 03:30:28.033181500 delta = 30
2006-02-14 03:30:28.033183500 delta = 30, not restarting
2006-02-14 03:30:58.033944500 MaxLA = 20, LA = 35.7099609375
2006-02-14 03:30:58.034165500 delta = 60
2006-02-14 03:30:58.034201500 delta = 60, not restarting
2006-02-14 03:31:28.035250500 MaxLA = 20, LA = 22.26318359375
2006-02-14 03:31:28.035586500 delta = 90
2006-02-14 03:31:28.035631500 delta = 90, not restarting
2006-02-14 03:31:58.036485500 MaxLA = 20, LA = 12.85009765625
2006-02-14 03:32:28.037717500 MaxLA = 20, LA = 8.75927734375
2006-02-14 03:32:58.038980500 MaxLA = 20, LA = 5.54248046875
2006-02-14 03:33:28.040237500 MaxLA = 20, LA = 3.64404296875
2006-02-14 03:33:58.041496500 MaxLA = 20, LA = 2.49658203125
2006-02-14 03:34:28.042745500 MaxLA = 20, LA = 1.51171875
(以下略)
848root▲ ★
垢版 |
NGNG
[Mon Feb 13 10:27:24 2006] [notice] child pid 28437 exit signal Bus error (10)
[Mon Feb 13 10:27:41 2006] [warn] child process 28391 still did not exit, sending a SIGTERM
[Mon Feb 13 10:27:41 2006] [warn] child process 28392 still did not exit, sending a SIGTERM
[Mon Feb 13 10:27:41 2006] [warn] child process 28393 still did not exit, sending a SIGTERM
[Mon Feb 13 10:27:41 2006] [warn] child process 28394 still did not exit, sending a SIGTERM
...
[Mon Feb 13 10:27:47 2006] [error] child process 28391 still did not exit, sending a SIGKILL
[Mon Feb 13 10:27:47 2006] [error] child process 28392 still did not exit, sending a SIGKILL
[Mon Feb 13 10:27:47 2006] [error] child process 28393 still did not exit, sending a SIGKILL
[Mon Feb 13 10:27:47 2006] [error] child process 28394 still did not exit, sending a SIGKILL
...
[Mon Feb 13 10:27:49 2006] [notice] caught SIGTERM, shutting down
[Mon Feb 13 10:27:50 2006] [notice] suEXEC mechanism enabled (wrapper: /usr/local/sbin/suexec)
[Mon Feb 13 10:27:51 2006] [notice] mod_cgidso enabled
[Mon Feb 13 10:27:56 2006] [notice] Apache/2.0.55 configured -- resuming normal operations
[Mon Feb 13 10:28:02 2006] [notice] child pid 16999 exit signal Bus error (10)
[Mon Feb 13 10:28:03 2006] [notice] child pid 16994 exit signal Bus error (10)
[Mon Feb 13 10:28:03 2006] [notice] child pid 16980 exit signal Bus error (10)
[Mon Feb 13 10:28:04 2006] [notice] child pid 17000 exit signal Bus error (10)
...
[Mon Feb 13 10:29:54 2006] [warn] child process 16944 still did not exit, sending a SIGTERM
[Mon Feb 13 10:29:54 2006] [warn] child process 16946 still did not exit, sending a SIGTERM
[Mon Feb 13 10:29:54 2006] [warn] child process 16947 still did not exit, sending a SIGTERM
[Mon Feb 13 10:29:54 2006] [warn] child process 16948 still did not exit, sending a SIGTERM
...
(続く)
2006/02/14(火) 03:51:09ID:RdibxatF0
ひょっとしてこれが解決策になるかも


ttp://d.hatena.ne.jp/hiro-ueda/20060118
850root▲ ★
垢版 |
NGNG
[Mon Feb 13 10:29:56 2006] [notice] caught SIGTERM, shutting down
[Mon Feb 13 10:29:57 2006] [notice] suEXEC mechanism enabled (wrapper: /usr/local/sbin/suexec)
[Mon Feb 13 10:29:58 2006] [notice] mod_cgidso enabled
[Mon Feb 13 10:30:00 2006] [notice] Apache/2.0.55 configured -- resuming normal operations
(ここまで)
851root▲ ★
垢版 |
NGNG
>>849
↓
>>817-819
852root▲ ★
垢版 |
NGNG
・装置は2回発動
・2回とも死ぬ前に SIGBUS 発生
・1回目はSIGTERMでは死なず、SIGKILLで死んだ
・2回目はSIGTERMで死んだ
853root▲ ★
垢版 |
NGNG
今日作ったインストールキット使って、Apache 2.2を入れてみるか。
2006/02/14(火) 04:04:22ID:RdibxatF0
ついに2.2投入ですか
早朝実況組もいますがざっくり入れちゃっても問題はないと思います。
（どの時間帯に実施しても騒ぎになること必定ですし）
855root▲ ★
垢版 |
NGNG
ううーむ。
http://www.atm.tut.fi/list-archive/freebsd-stable-2005/msg08332.html
856root▲ ★
垢版 |
NGNG
>>854
カーネルバグっぽいので、ちょっと躊躇していたり。
で、>>855 の件を調べちゅう。
857root▲ ★
垢版 |
NGNG
うーむ。
http://www.atm.tut.fi/list-archive/freebsd-stable-2005/msg08344.html
858root▲ ★
垢版 |
NGNG
症状は、これなんですよね。
http://www.freebsd.org/cgi/query-pr.cgi?pr=72338
859root▲ ★
垢版 |
NGNG
http://www.freebsd.org/cgi/cvsweb.cgi/src/sys/kern/kern_resource.c

Revision 1.151 / (download) - annotate - [select for diffs], Mon Jan 23 19:15:13 2006 UTC (3 weeks ago) by ups
Branch: MAIN
Changes since 1.150: +1 -1 lines
Diff to previous 1.150 (colored)

Hopefully fix the "calcru: runtime went backwards from ..." problem by
keeping the resource values locked (where needed) while we use them
for calculations.

MFC after:3 days

…で、これはまだMFCされていない模様。
860root▲ ★
垢版 |
NGNG
>>859 は、
http://www.freebsd.org/cgi/cvsweb.cgi/src/sys/kern/kern_resource.c.diff?r1=1.150&r2=1.151

===================================================================
RCS file: /usr/local/www/cvsroot/FreeBSD/src/sys/kern/kern_resource.c,v
retrieving revision 1.150
retrieving revision 1.151
diff -u -p -r1.150 -r1.151
--- src/sys/kern/kern_resource.c2005/11/02 21:18:071.150
+++ src/sys/kern/kern_resource.c2006/01/23 19:15:131.151
@@ -35,7 +35,7 @@
*/

#include <sys/cdefs.h>
-__FBSDID("$FreeBSD: /usr/local/www/cvsroot/FreeBSD/src/sys/kern/kern_resource.c,v 1.150 2005/11/02 21:18:07 ps Exp $");
+__FBSDID("$FreeBSD: /usr/local/www/cvsroot/FreeBSD/src/sys/kern/kern_resource.c,v 1.151 2006/01/23 19:15:13 ups Exp $");

#include "opt_compat.h"

@@ -733,8 +733,8 @@ calcru(p, up, sp)
&pcpu_find(td->td_oncpu)->pc_switchtime);
}
}
-mtx_unlock_spin(&sched_lock);
calcru1(p, &rux, up, sp);
+mtx_unlock_spin(&sched_lock);
p->p_rux.rux_uu = rux.rux_uu;
p->p_rux.rux_su = rux.rux_su;
p->p_rux.rux_iu = rux.rux_iu;
861root▲ ★
垢版 |
NGNG
…でもこれ、1.154で「ばっさりこん」なんですよね。
>>829 のやつのもより。

うーむうーむ。
862root▲ ★
垢版 |
NGNG
>>859
がびーん。

Revision 1.152 / (download) - annotate - [select for diffs], Wed Jan 25 02:05:47 2006 UTC (2 weeks, 5 days ago) by ups
Branch: MAIN
Changes since 1.151: +1 -1 lines
Diff to previous 1.151 (colored)

Back out changes made in rev. 1.151.
They were bogus.

Cluebat applied by: jhb@
863root▲ ★
垢版 |
NGNG
いずれにせよ、、、カーネルの虫ってことっぽいのかな。

Apacheを変えるのはそれはそれで意味ありそうなんで、
そっちは、たんたんとやるかんじかなと。
864root▲ ★
垢版 |
NGNG
ということで、Apache 2.2.0 を投入。@ live22

TransferLog の動きが、2.0 と違うみたい。

TransferLog "| /usr/local/sbin/logbuffer"

とかやっているのですが、Apache 2.xでは直接起動してくれたlogbufferが、

%ps ax | grep logbuffer
74136 ?? I 0:00.01 /bin/sh -c /usr/local/sbin/logbuffer
74137 ?? S 0:01.30 /usr/local/sbin/logbuffer
74568 p1 S+ 0:00.00 grep logbuffer

のように、sh経由になり、
しかもApacheをリスタートすると、暴走状態で残ってしまうようです。
(kill -TERMで死にはする)
865root▲ ★
垢版 |
NGNG
おぉ、Apache 2.2 系列では
今の read.cgi は、そのままではコンパイルできないっぽい。

gcc -c read.c -I`apxs -q INCLUDEDIR` -O2 -Wall -funsigned-char -fPIC -DSNOWMAN -o read.o
In file included from read.c:1:
read.h:11:22: apr_date.h: No such file or directory
read.h:12:25: apr_file_io.h: No such file or directory
read.h:13:21: apr_lib.h: No such file or directory
read.h:14:25: apr_strings.h: No such file or directory
read.h:15:24: apr_tables.h: No such file or directory
read.h:16:22: apr_time.h: No such file or directory
read.h:20:22: apr_want.h: No such file or directory
2006/02/14(火) 06:12:16ID:RdibxatF0
>864
これですか？

ttp://httpd.apache.org/docs/2.2/ja/mod/mod_log_config.html#logformat
867root▲ ★
垢版 |
NGNG
>>866
そうです。で、

TransferLog "| exec /usr/local/sbin/logbuffer"

とすることで、前と同じ動きになりました。
リスタートしても大丈夫でした。

色々、微妙みたい。
868root▲ ★
垢版 |
NGNG
>>865
/usr/local/include/apr-1 に入るのかぁ。
ってことは、Makefile 更新しないとってことかい。
869root▲ ★
垢版 |
NGNG
-I`apxs -q INCLUDEDIR` -I/usr/local/include/apr-1

とかやって、read.cgi はできる模様。
870root▲ ★
垢版 |
NGNG
あとは、例の装置のリスタート部分を2.2対応にすればOKかな。
やっておこう。

で、今日はそろそろみせじまいで。
2006/02/14(火) 20:40:53ID:o/Ty643u0
2.2 稼働ですか，乙です．あとは mod_cache がちゃんと使えるようになれば
バック側の httpd がかなり楽になりますね．
872root▲ ★
垢版 |
2006/02/14(火) 21:32:25ID:???0
>>869 は、

%apr-1-config --includes
-I/usr/local/include/apr-1

これ使ったほうがよさげ。

で、>>871 (live22x[123]をApache 2.2にする)をそのうち。
NGNG
(´-`).｡ｏＯ(2.3になると、deny allow がなくなるそうな)
874root▲ ★
垢版 |
NGNG
>>873
まじすか。
つまり2.4を使う頃には、あれのしくみ変えないといけないと。
NGNG
これですね
まだ2.3すら出てないし、これからどうなるか知らないですけど

http://svn.apache.org/repos/asf/httpd/httpd/trunk/CHANGES

*) Authz: Mark the directives 'Order', 'Allow', 'Deny' and 'Satisfy' as
deprecated and move them into the new module mod_access_compat which
can be loaded to provide backwards compatibility for these directives.
[Brad Nicholes]
876root▲ ★
垢版 |
NGNG
>>875
mod_access_compat 入れれば、一応互換性は保てることにすると。
たぶん、もっといいしくみにしようってことなのかしら。
2006/02/14(火) 22:16:25ID:o/Ty643u0
このあたりかな......
http://www.mail-archive.com/dev@httpd.apache.org/msg30304.html
878root▲ ★
垢版 |
NGNG
フロント2台追加の第一段階(基本セットアップ)ができました。
以下のDNSへの追加をお願いします。

これをDNSに追加することにより、第二段階(掲示板システムに必要なファイル入れたり、
F22をセットアップしたり等)が、できるようになります。

で、それができた後で、ラウンドロビンへの投入
(= DNSに再度追加し、live22x の仲間に入れる)という手順を踏むことになります。

以上、よろしくです。

(新規追加)
+live22x4.2ch.net:206.223.150.110:300
+live22x5.2ch.net:206.223.150.42:300
879root▲ ★
垢版 |
NGNG
で、これら2台はApache 2.2 + worker MPMです。

キャッシュ関係はオフです。
どうも、Apache 2.0 で入れていた以下の設定は、そのままではエラーになる模様。
CacheSize なんて知らないよ、って言われたです。

# include cache config file
<IfModule cache_module>
# config cache directory and size
CacheRoot /md/cache
CacheSize 65536
</IfModule>
2006/02/15(水) 06:00:41ID:Z22tWptw0
>>879
そこも設定かわっているみたいですな。

ttp://httpd.apache.org/docs/2.2/ja/mod/mod_disk_cache.html
を参考にすると

<IfModule mod_disk_cache>
# config cache directory and size
CacheRoot /md/cache
CacheMinFileSize 64 #(デフォは1)
CacheMaxFileSize 1000000 #(デフォは1000000)
</IfModule>

などと書くのが正しいようですね。
2006/02/15(水) 06:22:19ID:2YuAxdZJ0
>>878-879 乙です．
>で、これら2台はApache 2.2 + worker MPMです。

どうせなら，どちらか片方を event MPM にしてみるとか......
http://httpd.apache.org/docs/2.2/mod/event.html
2006/02/15(水) 06:50:49ID:2YuAxdZJ0
あと，キャッシュ保持時間とかのチューニングの手段は，と......

フロント側 mod_cache のディレクティブ:
    CacheLastModifiedFactor
    CacheMaxExpire

バック側 mod_headers で Cache-Control ヘッダ付加:
    # キャッシュ保持時間が n 秒未満なら再評価なしにキャッシュをそのまま使用
    # その後は conditional GET で再評価する
    Header set Cache-Control s-maxage=n
2006/02/15(水) 10:02:41ID:RsCr69xm0
>>878
そろそろ受付嬢の再投入は？

live22x4,live22x5のIPアドレスを直接ラウンドロビンに
いれるのではなく、受付嬢での振り分け先をlive22x4,live22x5に
して、受付嬢の代表IPアドレスを登録する。

とりあえず、1/4の負荷からはどうでしょう。
おちても、3/4の確率でつながるので、以前ほどはひどくないかと。
884ピロリ
垢版 |
NGNG
>>878
done
885root▲ ★
垢版 |
NGNG
>>880 以降へのレスは別途まとめて。

まずは、くーるすれっずにちょっとﾜｸﾃｶしておこうと。

Sun、『UltraSPARC T1』プロセッサの仕様を公開
http://japan.internet.com/webtech/20060215/12.html
886root▲ ★
垢版 |
NGNG
>>880 >>882
どもです。
ディスクキャッシュの時は、htcacheclean ってのを動かすかんじなのか。
いろいろ読み中。

>>881
Event MPM
The event MPM uses a seperate thread to handle Keep Alive requests and
accepting connections. Keep Alive requests have traditionally required httpd
to dedicate a worker to handle it. This dedicated worker could not be used
again until the Keep Alive timeout was reached.

おぉ、なんかよさげですね。
入れてみるかな。

>>883
魅力的ですが、一歩一歩やっていこうかなと。
普通にラウンドロビンして、次にmatdか。
887root▲ ★
垢版 |
NGNG
で、

フロントは負荷的には足りているような気がするのに、なぜ2つ追加投入するのか

の件ですが(私も疑問を持ちました)、
それは「雪だるまシステム」そのもののテスト、という意味合いがあるとのことです。

ようは、スロー同期とか今の形で構築したシステムが、フロントが増えていっても
ちゃんと動くようになっているかとかを、いまのうちにきちんと試しておきたいと。

どうせ、フロントは増える方向だし、このシステムは将来にわたり使うに違いないので、
いまのうちにきちんとしたものを作っておくほうが、いいんじゃないかなということで。

…ということで、私も納得したと。

で、cobra2247は「コブラをバックエンドにしたらどんなかんじなのか」を試すということで、
バックエンドに仕立てると。
888root▲ ★
垢版 |
NGNG
live22x[45] を作る場合の手順:

・器を作る
・フロントパック(フロントにするためのもの一式)を入れる
・スロー同期のための設定をする (live22x[45], live22)
・スロー同期スクリプトを手で動かす
=> それまでの過去ログがどばーっと転送される (要注意)
・cronの設定をする(定時スロー同期開始)
・BBx 等にIPアドレスを登録する

・DNSに live22x[45] を登録する
・投稿のテストをする
・F22/丁稚どん/配布リストに live22x[45] を登録する

・DNSに live22y として追加登録する => 将来は live22b[12] の matd に追加、になる
・ｳﾏｰ
2006/02/15(水) 19:11:01ID:p7ew1vSW0
>>887
雪だるまスレのほうがよいのかもしれないけど。
なんとなく、フロントで過去ログをもっているのが厳しいかも。

バックを複数もつとフロントは掛算で過去ログを持ちますよね。
そこが大変そう。

ディスクは十分大きいから大丈夫かもしれないし、
自動的にコピーができるから、バックアップする必要がないという
うれしい点があるかもしれないけど。

メンテを考えると、過去ログは、bbsdを動かすバックエンドとは
別のバックエンドに突っ込むほうがよいのかなと思う。
(dat落ちのタイミングでコピーかな。)

ここらへんも実験！実験！なんでしょうが。
890root▲ ★
垢版 |
NGNG
ふむふむ。

そうすれば各フロントが過去ログをバックにとりにいかなくてよくなるから、
バックも軽くできる気がしますね。

cobra2247をバックにしたら、今のtiger2522をそれに転用してみるとか。
891root▲ ★
垢版 |
NGNG
新 epg.2ch.net の Apache を、event MPM にしてみた。
設定そのものはこんなかんで、worker MPMと変わるところがないみたい。

<IfModule mpm_event_module>
StartServers 24
ServerLimit 36
MaxClients 1152
MinSpareThreads 128
MaxSpareThreads 768
ThreadsPerChild 32
MaxRequestsPerChild 1000000
ThreadLimit 32
MaxMemFree 64000
</IfModule>
2006/02/15(水) 22:31:48ID:2YuAxdZJ0
確かに今の過去ログのやり方のままだと，今後大変になるかも知れないんですよね．
とはいえ，ライブな dat と同じように mod_proxy でやると offlaw.cgi の改造が必要だし，
さらに mod_cache を使用するとなると /md を過去ログで食い潰すかも知れないし......

となると，いっそ NFS を使ってみるとか．以前雪だるまでライブな dat の読み出しに
NFS 使ってた時の問題，例えば不規則に dat の内容が壊れるとか ESTALE 発生が
カーネルごとコケる引き金になるとか，そういうのは過去ログでは発生しにくいのでは，
と思えなくもないですし......
2006/02/16(木) 00:35:18ID:uMCHE73p0
ここは一つ、全鯖規模で過去ログの一元化を
2006/02/16(木) 00:46:57ID:jWb1h7lQ0
>>892
過去ログはフロントでキャッシュする必要はないんじゃないかと。
(CacheDisableで過去ログのURLをはずすことはできないんですかね？)
offlaw.cgiは、誰かさんが泣きながら書き換えてもらって。

NFSは、サーバ間がちょっと密結合になってうれしくないかも。
# 感覚だけですが。
895ピロリ
垢版 |
NGNG
>過去ログはフロントでキャッシュする必要はない

私も原理はそれに賛成。
ただ /doom/kako/ 以下はインデックスなんで各フロントにあった方がいいかと
2006/02/16(木) 06:37:34ID:coYsVwz20
Yahoo! User Interface Library
ttp://developer.yahoo.net/yui/

|∀･)ﾉ
2006/02/16(木) 07:11:07ID:hYT7Ynqj0
>>894
>(CacheDisableで過去ログのURLをはずすことはできないんですかね？)

確かに可能ですね．

>offlaw.cgiは、誰かさんが泣きながら書き換えてもらって。

このあたりは，実際に書き換える中の人次第ということで......
2006/02/16(木) 08:33:28ID:jWb1h7lQ0
>>886
> 普通にラウンドロビンして、次にmatdか。

matdできになっているのは、負荷への耐性がどの程度あるか
わからない点なんですよね。

動作はばっちりだと思うのですが、アプリとして
動くみたいなので、カーネルとの切り替えがばかに
ならないのかなと。
(パケット1個単位で切り替えですよね。)

そんなこともあって、いっきにつっこむのではなく、
少しずつ動かした方がよいのではないのかと。
899root▲ ★
垢版 |
2006/02/16(木) 11:52:50ID:???0
>>898
> matdできになっているのは、負荷への耐性がどの程度あるか
> わからない点なんですよね。

まずは(他の系が安定している)どっかで、試してみるか。
携帯(c)とかか。
900root▲ ★
垢版 |
NGNG
>>881
live22x4 を、event MPMで動かしてみた。

・live22x4: Apache 2.2.0 + event MPM
・live22x5: Apache 2.2.0 + worker MPM (比較のため)

今日 or 明日あたりに、フロントに投入予定。
2006/02/16(木) 20:52:53ID:hYT7Ynqj0
>>898
>matdできになっているのは、負荷への耐性がどの程度あるかわからない点なんですよね。

確かに．

>アプリとして動くみたいなので、カーネルとの切り替えがばかにならないのかなと。
>(パケット1個単位で切り替えですよね。)

FreeBSD では BPF，Solaris では bufmod によるバッファリングが効いて
パケット取り込みはある程度まとめて行われると思いますが，
パケットの取りこぼしとか発生しないかどうかってのは，正直わかりません......

パケット送出の方は1パケット単位ですね．マルチスレッドモードなら
まとめて取り込まれたパケットの送出をコンカレントに行いますが，SMP でないと無意味
（シングル CPU だとかえってコンテキストスイッチングによるオーバヘッドが発生する）
だと思うんで，デフォルトではシングルスレッドモードになってます．
902root▲ ★
垢版 |
NGNG
live22x4/live22x5 フロントに投入します。

以下の登録をよろしくです。

(追加)
+live22y.2ch.net:206.223.150.110
+live22y.2ch.net:206.223.150.42
903root▲ ★
垢版 |
NGNG
>>902 訂正です。
TTLは他同様、300でお願いします。

(追加)
+live22y.2ch.net:206.223.150.110:300
+live22y.2ch.net:206.223.150.42:300
904ピロリ
垢版 |
NGNG
>>903

done
905root▲ ★
垢版 |
NGNG
proxy との相性が悪かったのか、event MPM では 502 エラー出まくり。
あわてて、worker MPM に戻すことに。

【実況】 live22x 鯖 Part10
http://qb5.2ch.net/test/read.cgi/operate/1139729945/379 あたり。
906root▲ ★
垢版 |
NGNG
event MPMのバグじゃなくて、設定に1つ抜けがあった模様。
ううむ。
907root▲ ★
垢版 |
NGNG
＊フロント作成時の重要な注意＊

192.168.100.1 live22x.2ch.net

を、/etc/hosts に必ず追加すること。

これを入れないと、mod_proxy による dat 取得が失敗する。
(live22x[1-5]は、live22x.2ch.net という名前で live22.2ch.net のプライベート側に
とりにいくため)

しかしどうして、動いたり動かなかったりってことが起きたんだ?

あ、わかった、、、。live22x は代表名だから、
自分にアクセスが向くと、だめになるということか。
908root▲ ★
垢版 |
NGNG
live22x4 の event MPM を復活。
909root▲ ★
垢版 |
NGNG
様子を観察中ですが、、、。

event MPMって、何か負荷が高いですね。
たまにhttpdがいっせいにRUN状態になります(topで)。

で、Apache statusで見てみると、こんなふうに
1つのworker にほとんどがぶら下がる感じになっているようです。
つまり、分散していない。

________________________________________________________________
________________________________________________________________
________________________________________________________________
________________________________................................
________________________________________________________________
________________________________________________________________
________________________________________________________________
___________C____________________________________________________
________________________________________________________________
_____________________________________R____C____C____C___________
W_RCC_C__C____W_W__CRC_CR_CWCC__________________________________
910root▲ ★
垢版 |
NGNG
で、こんな具合にそのhttpdが負荷高くなって、LAが上がります。
(CPU idle timeが少なくなる)

PID USERNAME THR PRI NICE SIZE RES STATE C TIME WCPU COMMAND
98662 ch2live22x 21 20 0 96076K 68860K kserel 0 13:17 7.18% httpd
2005 ch2live22x 1 97 0 14292K 13572K select 2 0:14 2.78% speedy_back
2659 ch2live22x 1 96 0 13900K 13168K select 2 0:04 2.64% speedy_back
666 dnscache 1 96 0 32804K 32116K select 2 2:08 0.00% dnscache
667 dnslog 1 -8 0 1204K 576K piperd 0 1:29 0.00% multilog
98661 ch2live22x 8 20 0 67652K 44428K kserel 1 0:25 0.00% httpd
98653 ch2live22x 9 20 0 32096K 22444K kserel 1 0:13 0.00% httpd
98651 ch2live22x 7 20 0 25360K 16552K kserel 1 0:11 0.00% httpd
98642 ch2live22x 7 20 0 22668K 14328K kserel 0 0:11 0.00% httpd
98646 ch2live22x 7 20 0 27560K 17652K kserel 1 0:11 0.00% httpd
911root▲ ★
垢版 |
NGNG
ようはひとことでいうと、挙動不審ってかんじですね。

17:00 ぐらいまで様子見たら、worker MPM に戻そうかと。

(Apche 2.2 + worker MPMで動かしているlive22x5は、特に問題なし)
2006/02/17(金) 17:21:54ID:zcLP9cMH0
受付嬢はたくさん窓口にいるのに、いきなりみんななぜか忙しくなって開いている窓口がひとつだけ
しかもその人はごにょごにょしていてまずー

ってな状態と解釈しましたが、違いますかね？
913root▲ ★
垢版 |
NGNG
新 epg も、worker MPM に戻した。
914root▲ ★
垢版 |
NGNG
>>912
概ね、そんなかんじかもです。

というか空いている窓口がいっぱいあるのに、みんな同じ受付に案内されてしまうかんじ。
915root▲ ★
垢版 |
NGNG
次は、キャッシュありの状態に挑戦か。
916root▲ ★
垢版 |
NGNG
mod_disk_cache の場合の容量指定

Apache 2.2系ではディスクキャッシュにした場合、
htcacheclean コマンドでキャッシュのパージをする。

定期的にcron等から起動するか、-d(インターバル)をつけて
デーモンにする。

例えばこんな感じで指定する。

htcacheclean -d60 -p/md/cache -l64m

-d: デーモンモード、インターバル時間(秒)
-p: キャッシュディレクトリ(httpd.confで指定したものを指定)
-l: キャッシュ最大容量
917root▲ ★
垢版 |
NGNG
今の設定:

CacheDisable /dome/SETTING.TXT
CacheEnable disk /dome/
CacheDisable /dancesite/SETTING.TXT
CacheEnable disk /dancesite/
CacheDisable /endless/SETTING.TXT
CacheEnable disk /endless/
... (以下、板の分だけ)

<IfModule cache_module>
Include /home/ch2live22x/test/httpd/cache.conf <= 上記を指定しているファイル
# config cache directory
CacheRoot /md/cache
</IfModule>

これだけ。
今はまだ >>882 等のチューニングは何もしてない状態。
918root▲ ★
垢版 |
NGNG
【実況】 live22x 鯖 Part10
http://qb5.2ch.net/test/read.cgi/operate/1139729945/537

537 名前：root▲ ★[] 投稿日：2006/02/17(金) 20:35:52 ID:???0 ?#
CacheDefaultExpire 1
CacheMaxExpire 1

に再設定。
919root▲ ★
垢版 |
NGNG
さて、キャッシュヒットの様子って、
どうやったら見られるんだろう。
920root▲ ★
垢版 |
NGNG
で、「連打」とか「みんながいっせいに」を防げればいいわけだから、
1秒効いてくれれば、かなりいけるんじゃないかなぁと思ったり。
921root▲ ★
垢版 |
NGNG
で、特に携帯(c)系で妙な挙動が起こったらしく、
いったんオフに戻した。

全フロントをApache 2.2にしてから、再度実験か。
Apache 2.2 @ フロントが大丈夫かの確認も伴うので、明日以降ってかんじで。
2006/02/17(金) 22:15:13ID:x5QQQmGA0
>>908-911 う～む......まだ event MPM は発展途上ってことですかね．
今後は非同期 write / read の機能も加わるようなので，今後に期待かな．

>>919
>さて、キャッシュヒットの様子って、どうやったら見られるんだろう。

LogLevel を debug にすればわかりますが，実運用環境で debug は
さすがにきついか...... HTTP レスポンスヘッダに Age が入ってるのが
ヒットしてる目印になるかな．というか，その Age が Squid に
悪影響を与えているのが >>921 だったり!?
923root▲ ★
垢版 |
NGNG
>>922
> HTTP レスポンスヘッダに Age が入ってるのが
> ヒットしてる目印になるかな．というか，その Age が Squid に
> 悪影響を与えているのが >>921 だったり!?

とっても高い確率で、ビンゴの予感。
2006/02/18(土) 02:20:16ID:CpgUen1PO
そういえば、2chの鯖って(root権ありのやつ)全部root氏の管理っすか？
925root▲ ★
垢版 |
NGNG
>>924
管理というか、おもりしているですね。
私以外にも root password を知っている人はいます。
926root▲ ★
垢版 |
2006/02/18(土) 16:21:44ID:???0
■ XOロケーションの２ちゃんねるラックの現状(2005年2月18日現在)

合計25台(tiger: 17, cobra: 2, banana: 6)
すぐに移設可能なのは上記中6台(tiger: 3, cobra: 1, banana: 2)

○ Love affair作戦 - tiger: 8, banana: 2 = total: 10

tiger2507
tiger2508
tiger2509
tiger2510
tiger2511
tiger2512
banana405
banana406
tiger511
tiger512
927root▲ ★
垢版 |
2006/02/18(土) 16:21:52ID:???0

○ 雪だるま作戦 - tiger: 6, cobra: 1, banana: 2 = total: 9

tiger2522
tiger2523
tiger2524
tiger2525
tiger503
tiger507
cobra2247
banana403
banana404

○ 上記のどちらでもない(移設可能) - tiger: 3, cobra: 1, banana: 2 = total: 6

tiger504 - game10
tiger509 - news19
tiger510 - hobby7
cobra2245 - BBQ
banaan402 - VIP931/stock
banana307 - BBM
928ピロリ
垢版 |
2006/02/18(土) 16:33:15ID:x6qKcASm0
現在 banana402 を別のラックに移設中。。。
929root▲ ★
垢版 |
2006/02/18(土) 16:36:07ID:???0
>>928
了解です。リストを更新しておきます。
IPアドレスは変わらないと。
930ピロリ
垢版 |
NGNG
はい　変わらないように移設とお願いしました。
931root▲ ★
垢版 |
2006/02/18(土) 16:46:25ID:???0
他のも、移設しておきますかね。

準備が整わないなら今日じゃなくてもいいですが、
割と近日中にってかんじで。
932root▲ ★
垢版 |
2006/02/18(土) 16:47:31ID:???0
安全に移設できるなら、今日のほうがいいですが。
やるなら、該当サーバshutdownします。
933ピロリ
垢版 |
NGNG
配置計画とかあるから
今日は無理ー
934ピロリ
垢版 |
NGNG
土曜で人手不足ぎみ
935root▲ ★
垢版 |
2006/02/18(土) 16:53:54ID:???0
>>933
了解です。

んでは、現状を現地に伝えて(私からしたほうがいいのかな: やっておきます)、
配置計画を練ってもらうということで。
936root▲ ★
垢版 |
NGNG
【㌧汁】雪だるま作戦に思いを馳せながら雑談するスレッド Part37
http://aa5.2ch.net/test/read.cgi/nanmin/1139755994/966-967

なるほど。
937ピロリ
垢版 |
NGNG
うげっ

VIP931/stock
同居なのか、しらなかった

ちと鬱
938root▲ ★
垢版 |
NGNG
>>937
適当なところに場所作ってくださいー、という指令で、
root権限ありのうち、いちばん空いていたサーバに入れたです。

ちなみにcook81と同居なことは、雪だるま作戦のスレでさんざん書いていたです。
2006/02/18(土) 17:21:27ID:xiH7Gfms0
>>936 mod_cache のコード見ると，ETag が weak か否かとキャッシュは
直接関係ないように思えますが......weak になるのは mtime が
リクエストタイムから1秒以内ということのようです．


で，フロントの省電力化という課題が浮上ですか．さてさて......
http://polywell.com/us/rackservers/
940ピロリ
垢版 |
NGNG
いやいや

舞い上がって視野狭窄していた自分に鬱ってことだす。
941root▲ ★
垢版 |
NGNG
>>940
そういうことすか。

>>939
さっき私も同じWebページ見てましたが、
Pentium Mあたり使ったよさげなBladeは載ってなかったです。
(なので某スレには、たまたまあったNECのやつを例示)

でも、フレキシブルに相談には乗ってくれるんじゃないかなと。< Polywell
2006/02/18(土) 17:41:10ID:05kc8Ra80
>>939上
ほんとだ・・・>>936は撤回します

live22x4のレスポンスヘッダ見て適当に書いただけだなんて恥ずかしくて言えません
943root▲ ★
垢版 |
NGNG
banana613 の情報受け取りました。
root 権限あり banana に変身と認識。

ちと今日は体調不安につき、明日あたりから。
レス数が900を超えています。1000を超えると表示できなくなるよ。
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。