X



トップページ運用情報
1001コメント323KB
【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part16
■ このスレッドは過去ログ倉庫に格納されています
0001root▲ ★
垢版 |
04/12/04 00:28:18ID:???
peko作戦について語るスレです。
サーバロケーションPIEに関する話題もこちらで。

<現在の主要なテーマ>
・read.cgiのmod_cgidso化によるパフォーマンスアップ
・bbs.cgiのSpeedyCGI化によるパフォーマンスアップ
・FreeBSD 5.3Rへのサーバ更新作業&さらなるチューニング

<関連板・スレッド>
また挑戦。@2ch掲示板
http://dso.2ch.net/myanmar/
また挑戦2。@2ch掲示板
http://dso.2ch.net/yangon/
bbs.cgi再開発プロジェクト4
http://qb5.2ch.net/test/read.cgi/operate/1101984763/
read.cgi再開発スレ
http://qb5.2ch.net/test/read.cgi/operate/1087199303/

<関連サイト>
レンタルサーバー maido3.com 2ちゃんねるの転送量: http://server.maido3.com/pie/
MRTGによる統計情報: http://mumumu.mu/mrtg/
2ちゃんねる/PINKちゃんねる 稼動中のサーバ一覧: http://mumumu.mu/serverlist.html

<前スレ>
【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part15
http://qb5.2ch.net/test/read.cgi/operate/1093068260/
0148root▲ ★
垢版 |
04/12/06 19:18:04ID:???
>>147
そうですね。

でもその部分は、alarm()が効くと思っていたんですが。
それともdnscacheが落ちていると、そこも効かなくなるということなのかしら。
0149root▲ ★
垢版 |
04/12/06 19:19:28ID:???
具体的には、gethostbyname() のところですね。
gethostbyname() から所定の時間内に戻ってこない場合、
次にいってほしいなと。

リモートホストを逆引きしてログにとるところ(gethostbyaddr()のところ)は、
alarm()していないはずなので、そこはブロックしても仕方ないわけですけど。
0150FOX ★
垢版 |
04/12/06 19:20:01ID:???
たんにリモホ引くときは Alarm で引っ掛けていないです
0151FOX ★
垢版 |
04/12/06 19:20:46ID:???
そこの仕様変更は危険と思われ。。。

どんどん BBQ に焼かれます。
0152root▲ ★
垢版 |
04/12/06 19:22:16ID:???
>>150
うん。そこはブロックされるはずです。

でもそこが大丈夫なはずのtigerサーバ/cobraサーバ(= DNSキャッシュ自分もち)のところも、
BBQのチェック部分でひっかかったのが、なぜなのかなと。
0153FOX ★
垢版 |
04/12/06 19:22:36ID:???
live15,ex8

nameserver 実験で確かめるために変更しました。

1) 345
2) 243
3) maido3 のどれか所定のやつ
4) maido3 のどれか所定のやつ
0155root▲ ★
垢版 |
04/12/06 19:23:14ID:???
>>151
BBQは、外からDNSひいても影響ないです。
(外からひくことで登録しているのは、BBX/Rock54)。
0156FOX ★
垢版 |
04/12/06 19:24:11ID:???
Tiger/Cobra のbbs.cgi(SpeedyCGI) のやつは
今のところ何をやっても Alarm をBackEndが受け取ってくれません
たぶん FrontEnd は受け取っていると思われ
これはこれからの研究に委ねられます。
0157root▲ ★
垢版 |
04/12/06 19:24:24ID:???
>>153
245すね。
今 query きているのを確認しました。
0159FOX ★
垢版 |
04/12/06 19:25:22ID:???
>>155
リモホ引けないやつはどんどん焼くという仕組みが
Boo80 にあるですよ、

だから BBQにどんどん投入しちゃう
0160FOX ★
垢版 |
04/12/06 19:26:33ID:???
今 ブロックが起ってかけないサーバは BBQ 云々じゃなく
単に普通のリモホ引きが出来ないために起っています。
0161root▲ ★
垢版 |
04/12/06 19:29:01ID:???
>>159
おー、そういうことだったんですか。
逆引きちゃんと設定してないと、どきどきするわけだ。
了解です。

>>160
そうですね。
0162root▲ ★
垢版 |
04/12/06 19:34:17ID:???
oyster243、HDD交換終了。
受け取りました。
セットアップにとりかかります。
0163FOX ★
垢版 |
04/12/06 19:50:37ID:???
当面の方針は

1) 243 (or245)
2) 245 (or243) 半々くらいに、
3) maido3 設置ラックによる所定のやつ
4) maido3 設置ラックによる所定のやつ

ということにして

243 , 245 のDNS 2台体制にする、(BBM はお引越し)
243 で RAID1 を試してうまく行ったら 245 もRAID1化

でいいかな?
0164root▲ ★
垢版 |
04/12/06 19:54:27ID:???
>>163
1)〜4)は /etc/resolv.conf の設定順ですね。

で、dnscache/BBQとも、2台体制にするというかんじですか。
それともdnscacheだけ2台体制?
0165FOX ★
垢版 |
04/12/06 19:59:35ID:???
BBQ は別に一台

dnscache/BBQ (二台 143,145)
BBQ 別に一台(ひろゆきが買ってくれるのを期待!!)

ということで
現状では BBQ 専用はないので BBQは 243に同居
BBM は 245 に同居

かな?
0166root▲ ★
垢版 |
04/12/06 20:06:36ID:???
ということは、

oyster243 dnscacheその1 BBQ
cobra2245 dnscacheその2 BBM

でまずは動かしておいて、

別サーバ1 BBQその2

をめざすということかしら。
0167FOX ★
垢版 |
04/12/06 20:07:44ID:???
そうそう
どうでしょ?
0168未承諾広告※ ◆TWARamEjuA
垢版 |
04/12/06 20:10:27ID:IYaoxkmt
>>84
%php -v
[Mon Dec 6 02:46:39 2004] [apc-error] apc_shm_create: shmget(0, 31457280,914) failed: Cannot allocate memory

って出ますー(汗)

<q cite="http://moonshine.s32.xrea.com/#news">
04/08/15
ひとりごと。
coreを吐いたり、たまにコンパイルをミスるMMCacheに代わってAPC2の導入を検討中。
まずPHPをconfigureのオプションに --enable-sysvshm を付けてコンパイル。
普通にインストールすると [apc-error] apc_shm_create: shmget(0, 31457280,914) failed: Invalid argument のようなエラーが出て使えない。
FreeBSDではSHMMAXPGSとSHMSEGの値を適当に増やしてカーネルを再構築すれば大丈夫だった。
しかしMacOS Xではカーネルの再構築というわけにもいかない。(Darwinのソースからとかはナシで)
</q>

だそうですー(汗)
0169root▲ ★
垢版 |
04/12/06 20:12:03ID:???
BBQ死亡時が、どきどきしますが、
BBQその2が来るまでは、bbs.cgiごにょごにょとか、
対症療法でなんとかすると。

であれば、当面これでいける気がします。

次の段階で、oyster243とcobra2245のセカンド側のインタフェース使って、
1つのIPアドレス共有をはかりたいですね。
0170root▲ ★
垢版 |
04/12/06 20:13:10ID:???
>>168
おー、なるほど。

携帯サーバ並みにあれをふやさないと、いかんのか @ banana238。
時間とれたところでやっておくです。
0171root▲ ★
垢版 |
04/12/06 20:14:16ID:???
portsをmake updateし、
make -j8 buildworld buildkernelしています。< oyster243

その間に、banana238をみてきます。
0172root▲ ★
垢版 |
04/12/06 20:21:24ID:???
>>168
banana238に、

# keitai server tuning
kern.ipc.nmbclusters=32768
kern.ipc.maxsockets=32768
vm.pmap.shpgperproc=1024

を足して、rebootしました。
どうでしょう。
0173root▲ ★
垢版 |
04/12/06 20:58:39ID:???
5.3Rへのバージョンアップ完了。
これから、本格的にセットアップ入ります。
0174未承諾広告※ ◆TWARamEjuA
垢版 |
04/12/06 21:11:52ID:IYaoxkmt
>>172
%php -v
[Mon Dec 6 04:04:02 2004] [apc-error] apc_shm_create: shmget(0, 31457280,914) failed: Cannot allocate memory

変わらないようですー(汗)

<q cite="http://moonshine.s32.xrea.com/#news">
04/08/28
APCの件は解決。/private/etc/rcでSystem V共有メモリの量を大きくすれば良かった。
8/15に書いた方法はBSDサブシステムが立ち上がってから実行されるため、変更できなかったと考察した。
</q>
と言う記述もありましたー

kernel のオプションについては疎くて適切なアドバイスが出来なくてごめんなさいですm(_ _)m

あと、
%ps auxUch2rck54
USER PID %CPU %MEM VSZ RSS TT STAT STARTED TIME COMMAND
ch2rck54 1001 0.0 0.0 0 0 ?? Z 3:30AM 0:00.00 <defunct>
と云うのも出ていますので、こちらも調査してみるです。。。
(こちらはRock54自動起動で何かが起こっているみたいですので。/Rock54システム自体は正常に稼働しているようです)
0176未承諾広告※ ◆TWARamEjuA
垢版 |
04/12/06 21:14:20ID:IYaoxkmt
あと、こゆのも出てるみたいですー@svc関連
USER PID %CPU %MEM VSZ RSS TT STAT STARTED TIME COMMAND
root 494 0.0 0.1 1180 488 con- I 3:20AM 0:00.00 [readproctitle]
0177root▲ ★
垢版 |
04/12/06 21:27:19ID:???
>>176
それはたぶん、正常動作と思うです。
0178root氏乙です
垢版 |
04/12/06 21:28:56ID:Di6LY82y
なんか話がゴッチャになってよく分かりません
まとめると

・SpeedyCGIの件
・HDD故障原因の件
・oyster243復旧の件
・DNS鯖ミラーの件
・BBQ改良の件
・転んでも泣かない鯖の件

以上でよろしいでしょうか?
すでにdoneのものはSpeedyCGIぐらいかな?
0179root▲ ★
垢版 |
04/12/06 21:38:09ID:???
>>178
どもです。
+
read.cgiをcgidso化する件
banana238のPHPの件
0180未承諾広告※ ◆TWARamEjuA
垢版 |
04/12/06 22:17:12ID:IYaoxkmt
>>174
> (こちらはRock54自動起動で何かが起こっているみたいですので。/Rock54システム自体は正常に稼働しているようです)
join '<>', @status;
この行でwarningが出たみたい、、、なんじゃほら(汗)
あと、%ENVと%SIGをlocalしてみました。
でもってcronさんが3人も居るのは何でだろう?@メールも送ってくれないし(MAILTOの設定済み)

>>177
そういえばコメントが出ていませんですよね。m(_ _)m

>>178-179
ややこしい時に引っかき回してごめんなさいですm(_ _)m重ね重ね
0182root▲ ★
垢版 |
04/12/06 22:59:35ID:???
oyster243のセットアップ、概ねできたはず。

BBQの動作確認中。

最後に、最終的なリブートテストをします。
0184root▲ ★
垢版 |
04/12/06 23:10:30ID:???
リブートテストとおりました。

BBQのログ&データをメモリディスクに入れたので、
リブートするとリセットされます。

最悪10分すると再生成されて、元に戻るはず。
このチェックができれば、作業終了。
0185root▲ ★
垢版 |
04/12/06 23:12:41ID:???
BBQデータが再生成されることを確認しました。

これで、BBQが正しくひけることを確認できたら、
bbs.cgiを元に戻してきます。
0186root▲ ★
垢版 |
04/12/06 23:14:06ID:???
BBQは正しく動くようになりました。

%nslookup 51.19.10.128.niku.2ch.net
Server: localhost
Address: 127.0.0.1

Non-authoritative answer:
Name: 51.19.10.128.niku.2ch.net
Address: 127.0.0.2

後処理にいってきます。
0187root▲ ★
垢版 |
04/12/06 23:16:34ID:???
メモしておこう。

・cobra2245のdnscacheのログも/md化する
・後でbanana238のPHP周りをみてみる
0189root▲ ★
垢版 |
04/12/06 23:35:30ID:???
各サーバの様子を確認中。

今落ちているサーバは、

ex7
that3
travel2

他には?
0190root▲ ★
垢版 |
04/12/06 23:36:21ID:???
that3にログインしようと、トライ中。
0192root▲ ★
垢版 |
04/12/06 23:39:10ID:???
>>189 なサーバは、超重いすね。
原因を調査中。
0195root▲ ★
垢版 |
04/12/06 23:47:03ID:???
news18 news19 game9 game10 hobby7 正常を確認。

>>194
ircは、私、触れません。
0198root▲ ★
垢版 |
04/12/06 23:49:44ID:???
banana で反応がとても遅いもの

that3 travel2 book3 bubble2 (ひょっとして同じマシンに同居しているのもあるかも)

tigerでおかしいもの

ex7

でいいのかな。
0200動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/06 23:52:34ID:5QHQ19PK
>>199 そうだす banana229だす
0201root▲ ★
垢版 |
04/12/06 23:54:57ID:???
live8のbbs.cgiを、BBQを引くものにしました。
様子を観察中。

問題なければ、live16 live17にも配布予定。
0202root▲ ★
垢版 |
04/12/06 23:56:49ID:???
live8のDNS logをチェック中。
問題ない模様。

これから、live16 live17 に同じものを配布します。
0203root▲ ★
垢版 |
04/12/07 00:00:54ID:???
live16 live17 に配布しました。
dsoは、どうだったかな。確認します。

これで banana229 (>>200) と tiger503 以外は、復活したと思う。
0204root▲ ★
垢版 |
04/12/07 00:11:22ID:???
cobra2245 の DNS キャッシュサーバをメモリディスク化する作業を実施中。
0206動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/07 00:24:19ID:JGl7ckm+
とりあえず乙。
そしてがんばれ。
0207root▲ ★
垢版 |
04/12/07 00:26:01ID:???
dso のbbs.cgiは、BBQ参照版になっていました。>>203
0208動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/07 00:27:13ID:JGl7ckm+
鯖落ち回復はしばらくかかりそうですか?
0209root▲ ★
垢版 |
04/12/07 00:29:12ID:???
ex7 (= tiger503) と that3 travel2 book3 bubble2 (= banana229)は、
これから10分ほど待って自力復活しない場合、リブート要請出します。

復活したら、bbs.cgi 配布と。

これから banana238 の PHP 問題にとりかかります。
0210動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/07 00:34:16ID:JGl7ckm+
把握した。
0211動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/07 00:43:44ID:Vlq14OWG
>>209
どうなりましたか?
0213root▲ ★
垢版 |
04/12/07 00:52:19ID:???
# shared memory tunings
kern.ipc.shmall=16384
kern.ipc.shmmax=67108864

を /etc/sysctl.conf に入れ、sysctl コマンドで変更した。

これでどうかな。< banana238
0214root▲ ★
垢版 |
04/12/07 00:53:27ID:???
>>211
とても遅くて、入れないですね。
sshもタイムアウトします。

これから、リブート要請します。
リブートされるかは、かみのみそしる。
0215root▲ ★
垢版 |
04/12/07 00:57:11ID:???
要請出しました。

これで、pending な作業は、ないはず。
0217未承諾広告※ ◆TWARamEjuA
垢版 |
04/12/07 01:00:06ID:9bFTaKj+
>>213
-bash-2.05b$ php -v
PHP 4.3.9 (cli) (built: Dec 5 2004 19:51:51)
Copyright (c) 1997-2004 The PHP Group
Zend Engine v1.3.0, Copyright (c) 1998-2004 Zend Technologies

キタ━━━(゚∀゚)━━━ッ!!

※chfn したのは内緒♪@csh→bash
0218root▲ ★
垢版 |
04/12/07 01:00:28ID:???
ex7 リブートかかりはじめました。
0219root▲ ★
垢版 |
04/12/07 01:00:55ID:???
>>217
お、よかった。

携帯サーバを5.3Rにするときは、これ入れなきゃ。
0221root▲ ★
垢版 |
04/12/07 01:03:53ID:???
ex7 上がりました。
bbs.cgi を live17 と同じものにしました。

復帰依頼かけてきます。
0225動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/07 01:06:07ID:AjqEM8Up
お疲れ様でした
0226root▲ ★
垢版 |
04/12/07 01:06:47ID:???
banana229 もリブート入りました。
bbs.cgi を投入しなおしました。

これで、全部元に戻ったはず。
0231root▲ ★
垢版 |
04/12/07 01:18:40ID:???
>>230
ども。了解です。

伊右衛門の500mlペットを飲み中。
0233動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/07 01:25:20ID:NwR44+on
>>231
ジンギスカン鯖をリブートした後恒例の、
復帰依頼出して復帰してもらうの待つのと、
復帰スクリプトもらって自分で復帰するのとどっちが楽ですか?
0234動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/07 01:26:00ID:JGl7ckm+
今度焼肉おごります
0235root▲ ★
垢版 |
04/12/07 01:32:04ID:???
>>233
どっちが楽かといえば、
自分で復帰できる方が、楽といえば楽ですね。

ログインして様子見ながら、復帰の判断をできるんで。
0241root▲ ★
垢版 |
04/12/07 01:41:46ID:???
RAIDカードを手配いただいたので、機を見てBBQサーバへの導入を試みることになります。
その際には、再度止まります。
やる時間・手順を見ないと。

それも含めてシステム系では、

・BBQサーバ/dnscache(oyster243)のRAID 1化
・残りのroot権限ありサーバを5.3Rにする作業を継続
・banana238のsuidperl問題

あたりか。
あとあるかな。
このスレを頭から読み直して、リストアップしとこう。
0242root▲ ★
垢版 |
04/12/07 02:21:23ID:???
当面のシステム系残作業 おさらい

>>187 >>189 >>198 は解決。

残りは、
・5.3R化(>>86 = >>241)
・dnscache/BBQ周りの再配置 / RAID1 化も含む(>>241)
・上記完成後、bananaサーバの/etc/resolv.conf再設定
・BBMの引越し(rootありbananaの1台確保が必要と思われ)
・BBQその2が来たら、セットアップ
・banana238 の suidperl問題<>>241)

中長期的には、
・Anycastとかして、/etc/resolv.confのIPアドレスを持つDNSサーバを複数にする

ということで、
oyster243はdnscache+BBQ持っているので、余裕を見て1.5Gのメモリディスク、
cobra2245はdnscacheだけなので(BBMは少ない)、128Mのメモリディスク

にしました。
これでdnscacheのDNSログ領域と、rbldns(BBQ)のDNSデータ領域は、
すべてメモリディスク上に載りました。

大幅にディスクI/Oが減り、負荷も下がったことが観測されていますので、
HDDにかなり優しい仕様になったはず。

BBQのDB生成のところの効率化とかは、
受験生さんが時間とれるようになったら、ぼちぼちとりかかるかんじかなと。
0244root▲ ★
垢版 |
04/12/07 23:10:55ID:???
さて、SpeedyCGIで常駐を達成した環境では、bbs.cgiについてはKeepAliveした方がいいのか、
あるいは今のようにbbs.cgiだけはKeepAliveしないで、セッションを切ったほうがいいのか。
0246root▲ ★
垢版 |
04/12/07 23:29:36ID:???
>>245
明日昼間、ex7の設定を変えてみるか。
で、今日と比べてみると。

今日は、httpdの空き具合は概ねいい感じ(下記)。
KKW.._.___K_C_..K._W...W..._.C__W_.KCK..KK_C__.._..._K.....CK...
KK.._..KKKKK___K.R.._..KK..KWKK_K..C..._.KK.KC._CKKWK__KCKC.K.K.
KK..KK..KK__K__.....K........K_KC.____CK.C_KK_..KK....W_K_._K.WK
K...W.K._....K._K__.C._KC.KW_K.KWK_K.KK_._K.C_K.W...__C......K.K
KK._.WW._.K._.C.K..._......__...KK._.C_KK._WK.W.KK..K.__K..._C_.
.K.K_.K._...K.KCC.K._K._RK._._KK__CK.._.._....W.C_..._.....K..C.
KK..W._..__.K....K..CKK_K..._.K.K_.K.._K.._..._.K_KC.KK.CW._..K_
.CCK..._.._._._.KWC__W..CC._.KK_._C.._KCCK._K..K_.KW_KK.....K.WK
.C.KK_.KK_K._KK__.C._.C.W...RK.W..WK_...CC..W__K_.WK_.._W.WK._.K
.K.__.K.....RKK._.KK._CK..KCK.K.C..CK_C.C.K._.._._CWCC.KW...._K_
KKC...._CK.C_K._.KKC._C_W_.C.W_.....K_.K..._.._K.KK_C...___K....
K.K_._K.._....KKKKK.__KK...WW._C_K__.W.K..CKC.K.._KC.K......KKK.

LAは今ピークで、L15〜17ぐらい。

ログインすると重重だけど、
外からは軽い。
0247root▲ ★
垢版 |
04/12/07 23:32:09ID:???
で、KeepAliveがうまく効くなら、

・httpdの空きがちょっと減る(ステータスKが増える)
・セッション張り直す負荷が減って、LAが多少下がる

となるかな。
で、うまくない場合は、

・httpdの空きが足りなくなって、接続待ちが出て、重く感じる
・これを解決するためにhttpdを増やしてセッションを増やすと、メモリを圧迫するかもしれない

かなと。
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況