【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part16

**root▲ ★** · 04/12/04 00:28:18

peko作戦について語るスレです。
サーバロケーションPIEに関する話題もこちらで。

＜現在の主要なテーマ＞
・read.cgiのmod_cgidso化によるパフォーマンスアップ
・bbs.cgiのSpeedyCGI化によるパフォーマンスアップ
・FreeBSD 5.3Rへのサーバ更新作業&さらなるチューニング

＜関連板・スレッド＞
また挑戦。＠2ch掲示板
http://dso.2ch.net/myanmar/
また挑戦２。＠2ch掲示板
http://dso.2ch.net/yangon/
bbs.cgi再開発プロジェクト４
http://qb5.2ch.net/test/read.cgi/operate/1101984763/
read.cgi再開発スレ
http://qb5.2ch.net/test/read.cgi/operate/1087199303/

＜関連サイト＞
レンタルサーバー maido3.com ２ちゃんねるの転送量: http://server.maido3.com/pie/
MRTGによる統計情報: http://mumumu.mu/mrtg/
２ちゃんねる/PINKちゃんねる稼動中のサーバ一覧: http://mumumu.mu/serverlist.html

＜前スレ＞
【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part15
http://qb5.2ch.net/test/read.cgi/operate/1093068260/

**root▲ ★** · 04/12/22 00:26:23

>>482
おもしろそうですね。ぼちぼちやってみるか。
Googleに聞くと、こんなのがあったので貼っておこう。

packages & distfilesサーバーの構築
http://www.otsune.com/bsd/tips/package_server.htm

**root▲ ★** · 04/12/23 20:11:08

携帯→2ch運用情報スレッド14
http://qb5.2ch.net/test/read.cgi/operate/1103457589/151-161

ということで、ロードバランサをpoundからbalanceに変更してみた。
フォアグラウンドで動かして、daemontools配下に。

runはこんなかんじで。
/var/runの下にファイルが残る場合があって
その場合はうまく起動しないみたいなんで、単にrm（ぉぃ。

#!/bin/sh
exec 2>&1
rm -f /var/run/balance/balance.80.206.223.151.216
exec env - PATH="/usr/sbin:/usr/bin:/bin:/usr/local/bin" \
balance -b 206.223.151.216 -B 206.223.151.216 -f 80 \
c-docomo2.2ch.net:80 c-docomo3.2ch.net:80 c-docomo4.2ch.net:80

**FOX ★** · 04/12/24 01:02:05

ex7,ex9 どちらも swap はじまっちゃってるなぁ

read.cgi との兼ね合いもあるけど、 -M64 はやめて -M32 にすることにしよう。
各サーバから板移転いっこ

**動け動けウゴウゴ２ちゃんねる** · 04/12/24 01:08:11

rootさんのイブ予定はどうなんでしょ？

**動け動けウゴウゴ２ちゃんねる** · 04/12/24 01:23:33

妻子持ちに何を聞くんだ。ぱーちぃだろ、ぱーちぃ

じゃんけんじゃないぞ

**動け動けウゴウゴ２ちゃんねる** · 04/12/24 04:09:34

net/balanceかぁ。
あと
net/morebalance
なんてのもあるのね。

**root▲ ★** · 04/12/24 11:12:42

>>488
http://morebalance.coolprojects.org/

面白そうですね。バランサーだけじゃなくて一式ですか。
どうも今のbalanceは毎回forkしてるみたいなんで、こっちも試してみるかな。

**root▲ ★** · 04/12/24 21:04:27

今のex7とか見ていると、-M32だとちょっと少ないみたいですね。
投稿数の割に重いような気がするです。

-M48ぐらいがよさげだけど今はがまんして、まずは今日のあれを観察しよう。

**動け動けウゴウゴ２ちゃんねる** · 04/12/24 22:33:17

ex7、投稿だけ重いですね

**root▲ ★** · 04/12/24 22:51:03

それでもバッファ溢れが観測されているbanana238に対して、

sysctl net.inet.udp.recvspace=524288

を実行してみた。(それまでの4倍)

**root▲ ★** · 04/12/24 23:07:02

…んでも、dropするなぁ。< banana238

CPU・ディスクとも遊んでるから、チューニングでなんとかなると思うんだけど。

**FOX ★** · 04/12/24 23:15:22

live16 みているけど・・・
read.cgi の産児制限が必要なように見える、

**FOX ★** · 04/12/24 23:16:08

というか、
live16 ってdsoじゃなかったっけ

**root▲ ★** · 04/12/24 23:18:26

>>495
一時期dsoにしたんですが、ピロリさんに言われて戻したです。
例の広告の問題かと。

**root▲ ★** · 04/12/24 23:19:37

status reportを見ているとread.cgiというより、
スロットを埋めているのは、単純にdat直読みのひとたちかと。

LA少ないのに、つながらないし。

**FOX ★** · 04/12/24 23:19:43

書き始めたんで
いろいろ実験してfoundationをしっかりしたものにしてから
その上に構築していくという具合に、

(read.cgi)

**FOX ★** · 04/12/24 23:20:37

でも　
ここも書き込みに若干時間かかるなぁ

BBS か?

**root▲ ★** · 04/12/24 23:22:08

>>499
そですね。BBSと思われ。

**FOX ★** · 04/12/24 23:25:49

ここからの注目は
どれくらいの時間で各サーバが自力回復するか・・・だすなぁ

>>500
BBS は 1) 仕組みを変えるに心が傾いています
2) 単に協力サーバ投入より
詳しいことは来年でしょうな、

**root▲ ★** · 04/12/24 23:29:03

>>501
接続リクエストが減れば、自然に回復するですね。
live16とか、CPUは遊んでいるから。

さて、何時ごろ。

**root▲ ★** · 04/12/24 23:37:11

banana238 を再度調整。

>>492 のさらに倍。
sysctl net.inet.udp.recvspace=1048576

**root▲ ★** · 04/12/24 23:41:45

live16は復活かな。
他もまぁ、概ね大丈夫でしょう。

リブート要請しなくても済んだのは、なかなか。

あとはhttpdのスロット数の調整と、
BBSが詰まらないように悪あがきするぐらいかなと。

**FOX ★** · 04/12/25 00:03:22

自力で復元しないbananaサーバは強制的に・・・

**root▲ ★** · 04/12/25 00:06:20

>>505
リブートすか、、、。
music4はこんなかんじだった。たぶん他のbananaも同じすね。

FreeBSDはこの値↓をデフォルトよりもふやさないと、cgiで忙しいサーバはつらいかと。

680 名前：root▲ ★[sage] 投稿日：04/12/25 00:02:33 ID:???
music4はプロセス間通信用バッファ溢れですね(ex9集中時と同じ)。

kern.maxpipekva exceeded, please see tuning(7).
kern.maxpipekva exceeded, please see tuning(7).
kern.maxpipekva exceeded, please see tuning(7).
kern.maxpipekva exceeded, please see tuning(7).
kern.maxpipekva exceeded, please see tuning(7).

カーネル変数のチューニングが必要かと。

**root▲ ★** · 04/12/25 00:07:56

love3も同じですね。
たぶん、他のbananaも同じかと。

**root▲ ★** · 04/12/25 00:16:51

で、>>506 を引き起こすきっかけは、>>499-500 だったということかと。

**FOX ★** · 04/12/25 00:26:08

りぶーとはしないっす

read.cgi とめて
たまっているbbs.cgi 全部 kill して
ほとぼり冷めるのを待つと、

**FOX ★** · 04/12/25 00:34:08

>>507

きっかけが　>>499-500　で(love3は昼間の爆撃か?)
つらにそれを引き金にメモリのスワップが始まるようです。

「BBS を何とかすれば良い」という方向が当たりと思われ、

**FOX ★** · 04/12/25 00:41:36

あと taht3/travel2/bubble2/book3 は　それぞれ -M32 だから
-M128 になっている予感

**root▲ ★** · 04/12/25 01:27:13

>>509
なるほどです。

>>507
ですね。

>>511
うーむ、そういうふうに動くんだっけか。
ソースとドキュメントをちょっとあたってみるです。

**root▲ ★** · 04/12/25 01:55:34

さて、落ち着いたのでtiger/cobraのスロット数を896から1024にした。
live8はものすごい勢いで来てるけど、それなりにこなせているように見えますね。

**root▲ ★** · 04/12/25 01:56:43

で、sysctlで思い切りバッファを増やしてからは、
BBS(banana238)のバッファ溢れは観測されていない模様。

**FOX ★** · 04/12/25 01:58:14

そういえば、、、
シグナル取る実験してなかった。

**root▲ ★** · 04/12/25 01:59:15

>>515
alerm() はだめで poll() でいけるらしいんですが、
どう組むのかなと。

続きはbbs.cgiスレですかね。

**FOX ★** · 04/12/25 02:07:32

んですね、いどー

**root▲ ★** · 04/12/25 18:49:07

tiger512のバージョンアップ完了。
これで、tigerサーバは全部5.3Rに更新済み。

あと5.2.1Rなのは、

c-au系
c/c-others系
www/www2
memories
dnscache2/BBQ2

携帯系、www/www2はたんたんと。
dnscache2/BBQ2は、RAIDカードインストール待ち。
memoriesはちょっと微妙なので、またいつかPIEに行った時にでもぼちぼちと。

**root▲ ★** · 04/12/25 20:26:20

適度に重い感じなので、live8をちょっといじった。
メモリ4Gなので、httpdを1280に設定。
(20:05ぐらいに1024個使い果たしを観測)

**root▲ ★** · 04/12/27 02:56:34

memoriesへの土地造成に伴い、以下のDNS設定変更をお願いします。

(現在)
+ex6.2ch.net:206.223.151.135
+game7.2ch.net:206.223.151.135
+pc6.2ch.net:206.223.150.15

(変更後)
+ex6.2ch.net:206.223.151.230
+game7.2ch.net:206.223.151.230
+pc6.2ch.net:206.223.151.230

**root▲ ★** · 04/12/27 03:39:08

ex6, game7, pc6 memoriesへの格納完了しました。
bbs.cgiとsubbbs.cgiの削除・read.cgiとofflaw.cgiのamd64版への変更も終わっています。

ということで >>520 はいつでもOKです。

**FOX ★** · 04/12/27 03:40:01

りょうかいですー

**FOX ★** · 04/12/27 03:50:30

現在の空きサーバメモ

banana227 (game7)
banana371 (pc6)

**FOX ★** · 04/12/27 06:10:55

root ★さんへ

tiger506 (game9/dso) に etc4 を併設してくださいー

**root▲ ★** · 04/12/27 11:49:44

>>524
作成しました。以下をDNSに追加お願いします。

(新規追加)
+etc4.2ch.net:206.223.152.30

**FOX ★** · 04/12/27 14:00:35

>>520
完了。

**FOX ★** · 04/12/27 14:09:29

>525
完

**FOX ★** · 04/12/27 14:11:29

bubble3.2ch.net (banana371) 作成するです

**FOX ★** · 04/12/27 16:35:53

http://etc4.2ch.net/test/check.cgi

etc4 で PerlのCGI 動かないようです
403 になるぞ、なんでだ?

**/usr/local/bin/ch2 -o i686** ◆P8fXJj6wwo · 04/12/27 17:07:27

>>529
perlのpathがあっていないまたはCGIが許可されていないに一票

**/usr/local/bin/ch2 -o i686** ◆P8fXJj6wwo · 04/12/27 17:11:40

>>530
あ、orパーミッションが不適切ってのもありえまつな
初歩的ですけど

**root▲ ★** · 04/12/27 17:17:03

>>529
確認しますー。

**root▲ ★** · 04/12/27 17:23:00

public_htmlの下のディレクトリが全部700になってるように見えますが、、、。

**root▲ ★** · 04/12/27 17:24:56

ためしにtestだけ755にしてみた。
動いている模様、、、。

http://etc4.2ch.net/test/bbs.cgi

**FOX ★** · 04/12/27 17:24:59

なんでだろ。。。

tar -czpf で固めて
ftp で持ってきて
tar xzvf で解凍したのに。。。

もあ一回やってみるです。

**FOX ★** · 04/12/27 17:29:08

ちよっと　お願いです

news18p.tar を解凍してみてもらえます? > root さん

**root▲ ★** · 04/12/27 17:31:50

etc4のユーザでログインして、__TEST__ ディレクトリの下に解凍しました。
特に問題ないように見えます、、、。

# なぞだ。umaskコマンドの出力は？

**FOX ★** · 04/12/27 17:35:15

>>537
あれん?
それで全部です?

**FOX ★** · 04/12/27 17:36:22

public_html/test とかのフォルダが見当たらない　< __TEST__

**FOX ★** · 04/12/27 17:36:44

あっ　あった

**FOX ★** · 04/12/27 17:38:19

うーん　なぞだ

私が解凍しようとすると Putty 落ちることがあるのよね、
今回は成功しました。

**FOX ★** · 04/12/27 17:38:36

ちなみに　こんな経験はじめてです

**root▲ ★** · 04/12/27 17:41:41

Puttyで、接続保持を有効にするとよいです。

設定変更のメニューから、接続を選んで、
KeepAliveの秒数を0から60とかにすれば、切れなくなります。

どうも、ルータによってはそのセッションに何も流れてないと、
接続を切ってくるものがある模様。

# うちの実家で、これにはまりました。
# ルータ(NECだった)でつなぎっぱなしにしてても、セッションだけ切ってしまうようです。

**root▲ ★** · 04/12/27 17:41:53

>>542
うーむ、、、。

**FOX ★** · 04/12/27 17:45:10

>>543
その話しじゃなくて
tar xzvf news18p.tar とかやると
途中で落ちたのだ

**root▲ ★** · 04/12/27 17:46:04

>>545
うーむ、、、。
Puttyがですか。

変なキャラクターがエコーバックされたんだろうか。

**FOX ★** · 04/12/27 17:50:21

>>546
一回こっきりなら「気のせい」で済ますのですが、、、
8回位やって成功したのは一回という
そして時にはpermissionとかが解凍時に再現されていないし

**FOX ★** · 04/12/27 17:51:15

運が悪かったということにしますが、
何かの前兆でない事を祈って。

**root▲ ★** · 04/12/27 18:07:05

ｶﾞｸｶﾞｸﾌﾞﾙﾌﾞﾙ、、、。

syslogには、それっぽいのはなかったです。

fsck -n /home は特に異常なしか。
他もひととおりfsck -nかけておこう。

**root▲ ★** · 04/12/27 18:17:20

>>537 の __TEST__ を rm -rf しました。

**動け動けウゴウゴ２ちゃんねる** · 04/12/28 01:23:21

あけましておめでとうございますーヾ('-')ﾉ

**動け動けウゴウゴ２ちゃんねる** · 04/12/28 05:04:32

>rm -rf /

ｶﾞｸｶﾞｸ((((;ﾟДﾟ))))ﾌﾞﾙﾌﾞﾙ

**root▲ ★** · 04/12/28 05:35:36

携帯→2ch運用情報スレッド14
http://qb5.2ch.net/test/read.cgi/operate/1103457589/355-361

net.inet.udp.recvspace=1048576 と書くと、
再起動時にNo buffer space availableエラーになるらしい。

**FOX ★** · 04/12/28 14:49:33

うむ
おかしいぞ

**root▲ ★** · 04/12/28 14:51:21

http://mumumu.mu/mrtg/mrtg-rrd.cgi/read/

read.cgi起動数/dat直読み数、bbs.cgi起動数のグラフをリニューアルした。
read/datを1枚のグラフに収めてbbs.cgiを別グラフにし、
counts/5minをcounts/secに変更(5分平均の値)。

**FOX ★** · 04/12/28 14:52:01

現在 game9 -> game10 のftp 転送やっているんだけど、
まったくスピードでません (32.5KB/s)

tiger506(game9)
tiger504(game10)

どちらか or 両方ネットワークの設定がうまく行っていないと思う。
本来 100Mb/s のはず

**root▲ ★** · 04/12/28 14:52:27

>>554
ん。どうしたのかしら。

**root▲ ★** · 04/12/28 14:52:40

>>556
確認します。

**root▲ ★** · 04/12/28 14:58:30

oyster901をftpしてみた。

game9 <= oyster901 への転送異常なし
game10 <= oyster901 への転送異常あり

game10が変な気がします。
調査継続中。

**FOX ★** · 04/12/28 15:01:27

100M full-duplex になっていないということかな? < tiger504

**root▲ ★** · 04/12/28 15:03:24

banana273 => game9 正常
banana273 => game10 おかしい

明らかにgame10おかしいですね。ログインしてても、がくがくする。

これから社内会議を1時間ぐらいしなきゃならないんで、
対応ちょっと遅れます、、、すんません。

**root▲ ★** · 04/12/28 15:04:27

>>560
なってるように見えるんですが、、、。スイッチ側かも。

%uname -a
FreeBSD tiger504.maido3.com 5.3-RELEASE FreeBSD 5.3-RELEASE #3: Thu Nov 4 21:51:36 PST 2004 root@tiger503.maido3.com:/usr/obj/var/src/sys/I386_TIGER_53 i386
%ifconfig em0
em0: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> mtu 1500
options=1b<RXCSUM,TXCSUM,VLAN_MTU,VLAN_HWTAGGING>
inet 206.223.150.115 netmask 0xffffff00 broadcast 206.223.150.255
inet6 fe80::230:48ff:fe2b:2954%em0 prefixlen 64 scopeid 0x1
ether 00:30:48:2b:29:54
media: Ethernet 100baseTX <full-duplex>
status: active

**動け動けウゴウゴ２ちゃんねる** · 04/12/28 15:09:51

BG4と同じ原因では？
パケ落ちしていませんか？

**動け動けウゴウゴ２ちゃんねる** · 04/12/28 15:15:35

game10
famicom/dat/* が一気になくなりました
banana273 側のﾛｹｰｼｮﾝでもなくなったのかな？

**動け動けウゴウゴ２ちゃんねる** · 04/12/28 15:24:27

まんこ

**root▲ ★** · 04/12/28 15:54:47

会議中、、、。

>>563
最初にチェックしました。落ちてはいない模様。

64 bytes from 206.223.151.10: icmp_seq=10 ttl=63 time=2.339 ms
^C
--- 2ch.net ping statistics ---
11 packets transmitted, 11 packets received, 0% packet loss
round-trip min/avg/max/stddev = 0.718/1.866/3.847/0.854 ms

64 bytes from 202.214.202.101: icmp_seq=10 ttl=241 time=115.632 ms
^C
--- www.nhk.or.jp ping statistics ---
11 packets transmitted, 11 packets received, 0% packet loss
round-trip min/avg/max/stddev = 111.353/113.102/115.743/1.469 ms

あとで、他のtigerも調べてみます。

**root▲ ★** · 04/12/28 16:07:27

Name: tiger503.maido3.com
Address: 206.223.150.110
正常

Name: tiger504.maido3.com
Address: 206.223.150.115
おかしい

Name: tiger505.maido3.com
Address: 206.223.150.120
正常

スイッチじゃ、なさそうですね。

tiger504、一度リブートしてよいですか？

**root▲ ★** · 04/12/28 16:08:40

お、、、強制full duplex問題か。(>>563)

ちょっとまってください。やってみます。

**root▲ ★** · 04/12/28 16:16:45

なおった予感。

他のtigerの設定も見直しておきます。

先日のスイッチメンテの時に、強制full-duplexにしないと一部のマシンでhalf-duplexになってしまったので、
その設定を入れたのですが、今は強制full-duplexにしなくても、大丈夫みたい。

**root▲ ★** · 04/12/28 16:17:28

あ、会議さっきおわりますた。勤務中にはかわりないけどね。
不良社員(仮名)と、不良社長(仮名)か。

**root▲ ★** · 04/12/28 16:54:23

うーむ、

○デフォルト(autoselect)でうまくいき、強制100M/full指定すると変になるもの

tiger503 504 506
tiger511 512のプライベート側

○デフォルトだと100M/.halfに設定されてしまって変になり、強制100M/full指定するとうまくいくもの
(先日のスイッチメンテ以降、この症状が発生)

tiger505 507 508 509 510 511 512

最終的に問題は解決したけど、どういうことだろう。
つながっているスイッチが違うのかな。

**FOX ★** · 04/12/28 16:55:22

>つながっているスイッチが違うのかな。

聞いてきます。

**FOX ★** · 04/12/28 17:37:32

・200-48-4
tiger505

・200-48-5
tiger506,507,508,509,510,511,512

・24e3-2
tiger503,504

という構成になっているそうです

**root▲ ★** · 04/12/28 17:52:19

>>573
506だけ一致しないのかな。
あとは、符合しているような。

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 00:19:09

ふと、こんなの思い出した

> 911 名前：動け動けウゴウゴ２ちゃんねる[sage] 投稿日：04/12/16(木) 23:34:41 ID:il+sol+9
> >>909
> そこは足したり引いたりすればいいのか。
>
> >>908
> rootの中の人がうっかりuname -aの結果を書いたら祭り始まりの合図。

**root▲ ★** · 04/12/29 00:31:34

>>575
私も、貼る時にこれがちょっとだけ脳裏をよぎりました。

桶屋 · 04/12/29 02:00:29

>>571-574
スイッチ側の設定はどうなっているんですか？　それももう一度確認したほうがいいです。

○A群
＞・24e3-2
＞tiger503,504

○B群
＞・200-48-4
＞tiger505

＞・200-48-5
＞tiger506,507,508,509,510,511,512

A群のスイッチ側の設定がオートネゴシエーションで、
B群が100M full deplexならば、>>571のようなことが起きそうな予感。

5.3Rのドライバに問題ないとするならば、
スイッチ側とサーバ側で設定を同じにすればいいので、確認するのがよいです。

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 02:33:32

summitか。

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 14:12:25

uname -a は公開されていなかったけか
どこかで一覧みたような希ガス

**root▲ ★** · 04/12/30 11:17:31

bbs.cgi再開発プロジェクト5
http://qb5.2ch.net/test/read.cgi/operate/1103495887/460-461

Secure FreeBSD ports tree updating
http://www.daemonology.net/portsnap/

こんなのがあるのですね。なんと知りませんでした。
使ってみるかな。

**動け動けウゴウゴ２ちゃんねる** · 04/12/30 13:16:51

>580
FreeBSD-updateもportsnapも、サーバー側を立てるportsスケルトンが無いのがちょっと不安。
hosokawaさんがUNIX USERあたりでFreeBSD-updateサーバーの立て方を書いていたけど、けっこうめんどくさかったな。

あとportsnapは/usr/ports/local/みたいなのを作っていると消されちゃうらしいので注意。

**FOX ★** · 04/12/30 15:09:08

root ★さんへ

昔やったアクセスログ取り&激しく取っているところ抽出って覚えています?
もしかしたら全くはじめてかもだけど、