【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part16
■ このスレッドは過去ログ倉庫に格納されています
peko作戦について語るスレです。
サーバロケーションPIEに関する話題もこちらで。
＜現在の主要なテーマ＞
・read.cgiのmod_cgidso化によるパフォーマンスアップ
・bbs.cgiのSpeedyCGI化によるパフォーマンスアップ
・FreeBSD 5.3Rへのサーバ更新作業&さらなるチューニング
＜関連板・スレッド＞
また挑戦。＠2ch掲示板
http://dso.2ch.net/myanmar/
また挑戦２。＠2ch掲示板
http://dso.2ch.net/yangon/
bbs.cgi再開発プロジェクト４
http://qb5.2ch.net/test/read.cgi/operate/1101984763/
read.cgi再開発スレ
http://qb5.2ch.net/test/read.cgi/operate/1087199303/
＜関連サイト＞
レンタルサーバー maido3.com ２ちゃんねるの転送量: http://server.maido3.com/pie/
MRTGによる統計情報: http://mumumu.mu/mrtg/
２ちゃんねる/PINKちゃんねる 稼動中のサーバ一覧: http://mumumu.mu/serverlist.html
＜前スレ＞
【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part15
http://qb5.2ch.net/test/read.cgi/operate/1093068260/ って、>>281 は自分で仕掛けたCPUtime limitにひっかかったのか。
pid 99788 (bsdtar), uid 2001, was killed: exceeded maximum CPU limit
今ごそごそしたので、再度トライ。 >>282
うーん、そんなはずないですが。
自宅からとか入ってますが、そういうのはないはず。
お風呂入ってても、セッション残っているし。(puttyから)
それって、入っていてぶちって切れるってことすよね。 いつも仕方がないから top を毎回動かしています、 質問です
life7 にlife5+life6 の板全部入れて保持数1200で
全ての板をジンギスカン化できますか?
(今日はやりませんけど) >>285
アイドルが多いと切れる、って言ってますね。それ。
何分ぐらいで切れますか。
私が今いる環境(オフィス)から10分ぐらいログインして何もしないで放置してみましたが、
現象が再現しませんでした。
自宅でも再現したことないです。
そういえば、うちの実家ではそうなりました。
アドレスが変わったわけでもないのに、ぶちっと切れます。
topとか動かしていると(何かデータが流れていると)、確かに切れなかったような。 >>286
直感的にはできると思います。
そのぶん、メモリディスクを拡張しないといけないですね。
256Mぐらいとればいいのかな。 メモリディク拡張工事済み。
/mdを256Mとり、life7ユーザで書けるようになっています。 はいー
ぼちぼち始めますが・・・
量の厚い壁の前で、うんこしてしまいそうです。 >>290
【life系】いてーん 断続的に止まります(life5/6)
http://qb5.2ch.net/test/read.cgi/operate/1102571660/6-7
保持数1200のgame10が、9板で32Mぐらい使っています。
34ってことは、4倍見れば大丈夫と。
つまり、さっきの拡張工事で大丈夫と思われ。 >>287
PuttyはKeep Aliveをするために定期的にnull packetを送れます。
TTSSHとか使ってます? >>293
今はPuttyですね。
ttsshはssh version 2への対応が遅くなったので(今はしてるという噂もありますが)、
そのときに乗り換えたです。
今度帰省した時に試してみるか。
FOXさんはPuttyのはずなので、設定方法を教えてあげると喜ぶかも。 >>294
ttssh本家はssh2に対応しないとかいってます
ttp://www.zip.com.au/~roca/ttssh.html
それに業を煮やした日本人が独自開発してます
ttp://sleep.mat-yan.jp/~yutaka/windows/index.html live17のmemoriesへの格納は終了しました。 Vara Term もssh2対応のようです(ぼそっ) life5/6 -> life7 移転完了。
life5(banana273)
life6(banana307)
のどちらかを BBM の独立と考えているのですが、、、 >>298
お、あっちとかぶったですね。
どっちかをBBMにする件、了解です。
root権限ありサーバに変身させる必要がありますね。 HW構成は、何から何まで同じですね(当たり前)。
酷使度が低かった banana307 を BBM にしようと思います。
両機とも memories への収容をこれからやりますので、
それが終わったら、root passwordを渡していただくことにします。
・memories土地作り
・DNS儀式
・収容作業
・root password依頼、受け取り
・BBM用セットアップ
・BBM移動(DNS儀式等)
っていうかんじで。
banana273は、どうしましょうか。 bubble 等重いところの解消に回す予定
でも、ex9での実験/強化bananaの完成後かと、 うーん、何も使う予定がなかったら
banana229組かなぁ、酷使度っていうのがあるのがちょと心配だけど、、
>>292
ちなみに、それ＋家庭板なので、
現life7にあるのは35板だったりします（ぼそ live17がmemoriesじゃなくてtiger508を指してますけど さてさて
次の注目は
live16 -> live8 移転が可能かどうかっすね、 >>306
ns1/ns2.maido3.com は変わっています。
TTL = 1日なので、最悪次の日までには変わります。
ﾏﾀｰﾘ、待たれたし。
>>304
もし火急の予定がないなら、システムおもり用として1台いただけませんか。
FreeBSDのCVSツリーとか、各種システム設定用マスターとか、
そろそろ必要になってきました。 memoriesでの土地造成ができました。
DNSの儀式いきます。
以下の設定変更をよろしくお願いいたします。
(現在)
+life5.2ch.net:206.223.147.225
+life6.2ch.net:206.223.148.155
(変更後)
+life5.2ch.net:206.223.151.230
+life6.2ch.net:206.223.151.230 >>294
英語版なら
ConnectionでSeconds between keepalives、
日本語版なら
Keepalives間の秒数
に0より大きい値を入力でnull packetを送るようになります。
>>307
やるのはいいけどダメだった時に備えてそのまま残しといてくれよん
マシン余ってるみたいだし >>313
了解です。
・収容作業
に入ります。これは終わるでしょう。
これが終わったら、
・root password依頼、受け取り
・BBM用セットアップ
・BBM移動(DNS儀式等)
にすすみます。
日付変わるまでには、banana307の依頼を出せるでしょう。 >>314
おくったです
そろそろ避難訓練のリンクは必要ないかな?
まだ作業のこってましたっけ? >>315
・新BBMセットアップ
・BBM移動作業
がありますね。
それが終わると、システム系は一段落かと。 あと、
・dnscache2 になっている現BBMのバージョンアップ
もありますね。
で、dnscacheをうまい具合に2本だてにすると。 life5 と life6 の memories への収容、終わりました。
これからメール確認します。
BBMセットアップは、しばらくあとで。 >>315
メール確認したです。
今時点での作業は、とりあえずここまでで。 お疲れ様ですー。
life7ってbanana何になるんですか？
>>320
bananaじゃなくてtiger508です(live17が使っていたところ) >>320
tiger508です。
狼、VIP、ラウンジ、野球、競馬、毒男、難民、大学生活が入っている
tiger503と同じハードウェア構成です。
memory: bananaの4倍
ディスクの回転数: bananaの2倍
おもりの方はできる範囲でがんがらせていただきますんで、
限りあるサーバ資源を大事に使っていただくように、
住民の方々によろしくお伝えください。 >>321-322
ありがとうございます。
ここでunknownだったので(^_^；
http://sv2ch.baila6.jp/sv2ch01.html
rootさん了解ですー。
これからもよろしくお願いします。 BBMをbanana307に移動する準備ができました。
以下のDNS変更をお願いしておきます。
サーバ側はセッティング完了しているので(簡単な動作確認もしました)。
いつやっていただいてもOKです。
なお、BBMもこれを機にデータ部分とログ部分をメモリディスク化しました。
(BBQと同様)
(現在)
+m.2ch.net:206.223.151.205
&bbm.2ch.net:206.223.151.205:a
(変更後)
+m.2ch.net:206.223.148.155
&bbm.2ch.net:206.223.148.155:a なお、banana307とbanana273はroot権限ありサーバとなり、
OSのFreeBSD 5.3R-p2へのアップグレード・ディスクパーティション割付の若干の変更、
システムチューニング等を実施しています。 >>219
-bash-2.05b$ php -v
PHP Warning: Unknown(): Unable to load dynamic library '/usr/local/lib/php/20020429/mysql.so' - Shared object "libmysqlclient.so.10" not found, required by "mysql.so" in Unknown on line 0
PHP 4.3.9 (cli) (built: Dec 5 2004 19:51:51)
Copyright (c) 1997-2004 The PHP Group
Zend Engine v1.3.0, Copyright (c) 1998-2004 Zend Technologies
あれれー鞍は入っているのにのに、、、
-bash-2.05b$ mysql -V
mysql Ver 12.22 Distrib 4.0.21, for portbld-freebsd5.3 (i386) >332
cd /usr/local/etc/php.ini && mv php.ini php.ini.bak
cp php.ini-recommended php.ini
なおったはず。
% php -v
PHP 4.3.9 (cli) (built: Dec 5 2004 19:51:51)
Copyright (c) 1997-2004 The PHP Group
Zend Engine v1.3.0, Copyright (c) 1998-2004 Zend Technologies
% pkg_info -aI | grep DB
p5-DBD-mysql-2.9004 MySQL driver for the Perl5 Database Interface (DBI)
p5-DBI-1.42_1 The perl5 Database Interface. Required for DBD::* modules
を入れた時に、mysqlのバージョンが上がったためすね。 tiger510 = hobby7、早朝に panic してリブート入ったようです。
前にもあったかな。FreeBSD 5.3Rのバグかも。
%cat info.0
Good dump found on device /dev/da0s1b
Architecture: i386
Architecture version: 1
Dump length: 2146959360B (2047 MB)
Blocksize: 512
Dumptime: Fri Dec 10 13:05:44 2004
Hostname: tiger510.maido3.com
Versionstring: FreeBSD 5.3-RELEASE #3: Thu Nov 4 21:51:36 PST 2004
root@tiger503.maido3.com:/usr/obj/var/src/sys/I386_TIGER_53
Panicstring: lockmgr: thread 0xc8fc7c80, not exclusive lock holder 0xc35e6af0 unlocking
Bounds: 0 見てみた。前スレの540～542あたりで ex7 で起きたのと同じすね。
発生率低いみたいだけど、5.3Rの虫さんかも。
540 名前：root▲ ★[sage] 投稿日：04/11/20 07:41:10 ID:???
Nov 19 13:14:09 <3.1> tiger503 savecore: reboot after panic: lockmgr: thread 0xc49b24b0, not exclusive lock holder 0xc3565640 unlocking
Nov 19 13:14:09 <3.5> tiger503 savecore: writing core to vmcore.2
だそうで。< ex7
vmcoreはちゃんととれてるっぽいんで、後で見てみます。
搭乗時間が迫ってるんで、とりあえずまた。 live16 も mod_cgidso な read.cgi 化した。
これで現在、live8 live16 ex7 がこのバージョン。 同時に、read.cgiとbbs.cgiの際もKeepAliveすることにし、
httpdの数を768→896にした。
上記、ex7と同じチューニング。 てなわけで、>>329 のDNS設定更新をよろしくですage。 >>338
うわっ
広告とかの関係あるかもですよ、 質問ですー。
最近の"read.cgi ver8.01+ (04/11/29-) 「Special thanks ◆cZfSunOs.U さん」"で、
リンクがime.nuを通さないのは仕様なんですかね？
スポンサーに怒られないのかしら？
専ブラ率が高いから問題ないとか？それとも実験だから？ じっけん じっけん
Cobra/Tiger/Banana 各一台 帰宅。
とりあえず、live16のread.cgiを元に戻しておきました。
これからlive8 @ livecxは負荷試験かな。 本日の live16 落ちの原因推定
1) どばっと投稿。 ほぼ同時にbbs.cgiがものすごく多数起動さけれる
2) 制限無いので 100% 資源を使ってしまう(たぶんメモリ&CPU)
3) たとえばこのときにスワップ始まるとすると、、、
4) どのbbs.cgi も終了しないのに、さらにどんどん起動
5) システムが動く余地もなくなる
6) どーん
の流れが多分五秒くらいの一瞬のうちに起ったと予想。
ちゅーにんぐの方向
すべての段階が均等に資源を使えるように各段階をうまく制御
100本の道が使えて、五(区間)段階あるとすると
一番効率がいいのは 各区間が 20本づつの道路で結ばれるとき
第一区間に100本使い切ったら、誰も次の地点へ行けないと、 >>349
概ねそんな感じかと。
転送量も「ぎゅわ」と上がっているので、読むほうも。
20:05のステータスログが残っている(20:10は既に落ちていた)ので、
各プロセスの起動状況をチェックしてみます。
といっても、バックエンド側の正確な起動数はわからんですね。 live16鯖落ちたのって実況スレ見る限り、20:05:30前だったようだけど、
ここで20:05:00～30で254resってなってるけど、1分間では500res超え換算になるのか。。
その前の5分間は、400resも超えてないんだけど、その時間に急に来たようですね。。
ついでに、このlive16鯖が落ちたと同時にstatsも10分くらい記録が止まったようです。
netstatのを見てると、やっぱりdropped due to full socket buffers のところが急増してるです。。 live16 -M64
ex7 -M128
live8 -M256
で観察してみようか? >>352
全httpdスロット数 896
bbs.cgiの処理待ちだったhttpdの数: 197
read.cgiの処理待ちだったhttpdの数: 6
静的ファイル(datやsubject.txt)の転送中だったhttpdの数: 45
処理を終わって、同じクライアントからの接続をKeepAliveしているhttpdの数: 358
KeepAlive接続をクローズしようとしていたhttpdの数: 93
ステータス(この統計)処理に使っていたhttpdの数: 1
接続待ちだったhttpdの数: 196
最近つらかった時のやつ(千と千尋)と比べてみたほうがいいかもしれないけど、
一見して、bbs.cgiの処理待ちのhttpdの数が多い気がする。
この状態の直後から、仮死状態か。 >>353
20:04～20:05頃に、画面上で何があったんだろう。 ほとんどのサーバが 20:00 - 20:30 の間に影響を受けている
ように見えますね、投稿数を見ると(stats.2ch.net)
実際には「数えられなかった」と見たほうがいいのかな?
それとも、実際に投稿し辛くなったんだろか? 最後に処理した、あるいは処理中だったURL。
ただし、read.cgiは最後のレス番号部分は同じとみなす。
<= が速かったのね。でもまぁ、このぐらいはよくあること。
CPU Usageが多くなっていないので、CPUを使えない状況にあったのか。
1 222 live16.2ch.net POST /test/bbs.cgi
2 111 live16.2ch.net GET /livenhk/dat/1102848643.dat <=
3 95 live16.2ch.net GET /livenhk/dat/1102845878.dat <=
4 73 live16.2ch.net GET /livenhk/
5 65 live16.2ch.net GET /liventv/dat/1102846836.dat <=
6 53 live16.2ch.net GET /livenhk/subject.txt
7 32 live16.2ch.net GET /test/read.cgi/livenhk/1102848643/ <=
8 28 live16.2ch.net GET /test/read.cgi/livenhk/1102845878/ <=
9 27 live16.2ch.net GET /test/read.cgi/liventv/1102846836/ <=
10 24 live16.2ch.net GET /livenhk/dat/1102776831.dat
11 20 live16.2ch.net GET /liventv/
12 15 live16.2ch.net GET /livenhk/dat/1102844858.dat
13 12 live16.2ch.net GET /liventv/subject.txt
14 11 live16.2ch.net GET /livetx/dat/1102844754.dat
15 10 live16.2ch.net GET /test/read.cgi/livetx/1102844754/
16 8 live16.2ch.net GET /livenhk/index.html
17 7 live16.2ch.net GET /test/read.cgi/livenhk/1102776831/
18 6 live16.2ch.net GET /livetx/
19 6 live16.2ch.net GET /liventv/index.html
20 5 live16.2ch.net GET /livenhk/dat/1102849227.dat
21 5 live16.2ch.net GET /livenhk/dat/1102845495.dat
>>361
他の(関係ない)サーバでも重かったとすると、DNSからの戻り
(bbsとかnikuとかリモホ逆引きのように、全投稿において問い合わせが起こるもの)の
うちのどれかが、パフォーマンス低下を起こしていたというのは、ありえますね。
>>353 がビンゴかもしれない。oyster243のnetstatはどうだったんだろう。 見ました。>>360
あんな勢いでAA貼ってたのか、、、。
ｷﾀｰ は1行だけど(そうでないのもあるが)、AAはその数倍だからなぁ。 >>360
はげしく わ・ら・た
んなことやってるんだ、、、 oyster243 (dnscache/BBQ) は、該当時間処理落としてないですね。
http://bbq.2ch.net/_service/netstat-20041212.txt
banana238は、この時間かなり処理を落としています。
つまり、BBS処理(毎回処理するため、ローカルDNSキャッシュが効かない)でブロックが発生している。
http://stats.2ch.net/_service/netstat-20041212.txt
2004/12/12 20:05:00
udp:
12188781 datagrams received
0 with incomplete header
0 with bad data length field
1 with bad checksum
35 with no checksum
4190 dropped due to no socket
74 broadcast/multicast datagrams dropped due to no socket
166104 dropped due to full socket buffers
0 not for hashed pcb
12018412 delivered
12018903 datagrams output
------------------------------------------------
2004/12/12 20:15:00
udp:
12315344 datagrams received
0 with incomplete header
0 with bad data length field
1 with bad checksum
35 with no checksum
4190 dropped due to no socket
74 broadcast/multicast datagrams dropped due to no socket
286824 dropped due to full socket buffers
0 not for hashed pcb
12024255 delivered
12024747 datagrams output
------------------------------------------------
BBS/stats を cobra2245 に緊急移転するに1票。 なんか既にいろいろ忘れているんですが、、、
BBS(stats.2ch.net) ってどんなことしてましたっけ?
1) 数える
2) スピード違反を取り締まる(トカゲの尻尾)
だけだったかな? >>366
そのはず。
(DNS側からは、2本のプログラムにログ流しています) stats.2ch.net(BBS) は・・・
1) DNS 経由をやめて、CGI経由(http)で処理するに変更
2) 数える方は簡単だけどスピード測定(top10を含む)はロジック考え直しかなぁ
3) なんかまたそ゜ろやることが増えてきたなぁ
>>368
例の「DNS側のコストが限界なら、ロジックを変える」ってやつですか。
DNS側より、ネットワーク的問題な気もするんですけどね。
10Mbps Etherなのが理由のひとつとしてあるような気がしています。
あるいは、ネットワーク関連のシステム変数の設定の問題か。
banana238のネットワーク関係のシステム設定を、再度おさらいしてみるです。 今日寝るまでに、banana238のBBSのデータ部分とログ部分をメモリディスク仕様にしておこう。
ログ記録部分で時間かかっているとしたら、これでだいぶかわるはず。 >>369
ネットワーク関係のシステム設定は、oyster243とbanana238で大きな違いはありませんｄした。
前はoyster243はバッファを超大きくとってたけど、メモリディスク1.5Gとったときに小さくして、
banana238はバージョンアップしたときに大きくしたから、偶然同じような設定になっていました。
違いは、
・ネットワーク速度(10Mか100M)
・ネットワークインタフェースの種別、接続I/F(vr/32ビットPCIかbge/64bitPCI)
・メモリの容量により自動セッティングされる各種システム変数
ぐらいか。
いったんめし。 >>371
BBSのログ部分とDNSのDB部分をメモリディスク化した。
・BBQのログ部分、DNSのDB部分
・dnscacheのログ部分
・BBSのログ部分、DNSのDB部分
・新BBMのログ部分、DNSのDB部分(旧BBMは未)
BBXは、とりあえず今のところディスク仕様のまま。 今週は
地道に bbs.cgi(Speedy版) の改良を続けていきますかっと
私はシステム系作業の続きと、
気が向けば read.cgi の dso パッチを読んでみようかと。
明日はやめなんで、今日は早寝の予定。 あとで、live8 live16 ex7のdnscacheのログ部分をメモリディスク化しておこう。 ■ このスレッドは過去ログ倉庫に格納されています
