X

2ch特化型サーバ・ロケーション構築作戦 Part21

■ このスレッドは過去ログ倉庫に格納されています
1root▲ ★
垢版 |
NGNG
2ch特化型サーバ・ロケーション構築作戦のスレッドです。

・2ちゃんねるのサーバロケーション、PIEに関する関連作業・調整事項
・DNS登録・変更関連の各種作業や調整事項
・2ちゃんねるのサーバで採用しているOS、FreeBSDに関する情報・調整事項
・各種作戦・プロジェクトとの連携、プロジェクト間の連携

等を取り扱います。

現在、複数サーバによる連携により、
サーバ能力のさらなるスケールアップをめざすための「雪だるま作戦」が進行中です。
しかし、問題はあらゆる意味で山積の状態です。

また「2ちゃんねる証券取引所」をはじめとする「株」関連や「Be」の機能強化、
あるいは、次世代の携帯アクセス環境をめざした「べっかんこ作戦」の状況など、
気候も暖かくなり、そろそろ気になりだす季節にさしかかりつつある今日この頃、
あいかわらず2ちゃんねるは、刻一刻と確実に変化し続けています。
425root▲ ★
垢版 |
NGNG
というわけで、

live22x という名前で、複数バックエンドにする

もんだと、勘違いしていました。すんません。
news20(x) のつもりで、設定ごにょごにょしてくるです。
NGNG
なんだか様子が変ですー
http://sv2ch.baila6.jp/server.cgi?server=memories.2ch.net
427root▲ ★
垢版 |
NGNG
>>426
んーむ、httpd の暴走ですね。
これも原因つきとめないとなぁ。
428root▲ ★
垢版 |
NGNG
ということで、改めて DNS 登録申請いきます。

以下の追加をお願いします。

+www2f4.2ch.net:206.223.150.110
+www2f5.2ch.net:206.223.150.42
+news20b.2ch.net:206.223.150.52
+news20f1.2ch.net:206.223.150.64
+news20f2.2ch.net:206.223.150.74
+news20f3.2ch.net:206.223.150.84
+news20f4.2ch.net:206.223.150.110
+news20f5.2ch.net:206.223.150.42
+news20.2ch.net:206.223.150.96
429root▲ ★
垢版 |
NGNG
>>390
○live22x3 復活 & フロントに再投入(済)
○live22 OS バージョンアップ(済)

・news20 構築 DNS 変更依頼中、DNS 登録完了後作業継続予定
・live22x1 OS バージョンアップ + Apache 更新 これから
430root▲ ★
垢版 |
NGNG
#!/bin/sh
exec 2>&1
exec env - TZ="JST-9" PATH="/usr/sbin:/usr/bin:/bin:/usr/local/bin" \
LANG="ja_JP.SJIS" \
setuidgid ch2live22 /usr/local/sbin/bbsd -f \
-c -b 192.168.100.1 -d /home/ch2live22/public_html \
-i 10 -I 120 -n 8 -p 2222 -s live22x.2ch.net

bbsd の nice 値 -20 をやめてみた。(きりわけのため)

現在、PREEMPTION なし以外は、概ね通常のサーバ設定。
431root▲ ★
垢版 |
NGNG
寝る前に、news20 関連のアカウント情報をメールしておくです。
432root▲ ★
垢版 |
NGNG
私の環境では見えるみたい。
http://news20.2ch.net/

そのうち、done. が来るかなと。

# 掲示板システムは、news20b に作ることになるです。 > かっこいいおにいさん
NGNG
news20ミエタ\(^o^)/
2006/05/06(土) 14:19:28ID:f1rVV7JE0
(゚∀゚)
2006/05/06(土) 15:29:27ID:6X8cZn1V0
おらわくわくするぞ
2006/05/06(土) 18:23:49ID:mXk+K8xl0
6.1-RELEASE タグ来てますね。
ちょっとだけ遅かった?
2006/05/06(土) 18:56:17ID:t3hL77EW0
きましたか。
ということは今週中にはアナウンス出る感じかしら。
2006/05/06(土) 19:00:14ID:IDtWUQIu0
>>437
むむむさん、memoriesが例によって例の調子です。
NGNG
uptimeをみるとクローラさんがどかどかとかっさらっている最中にhttpdがあっぷっぷしたみたいな。。。
@牡蛎902
440root▲ ★
垢版 |
NGNG
news20b は最初から 6.1R でいけるのかな。

memories は OS 更新したいところだけど、
センシティブな構成だから、リモートコンソールがないと微妙かも。
まずは Apache とか更新しておくか。
2006/05/06(土) 22:37:56ID:n8Q6mkvt0
そろそろ削除呪文系も対応しないと、バックエンドが
2つ(以上?)になるともっと大変になるかも。

おじさんのいう勝ちに行くっていうのは、やっぱり
WCUPに対してなんですよね。
サーバ群(7台)の機能分担が鍵ですよね。今のところ、
単機能のフロント側の負けはないようなので、mod_cacheを
導入しない場合は、正直フロントは3台で十分のような。
live22x1のbbsdを単独サーバにしたほうがよいのかも。
442root▲ ★
垢版 |
NGNG
>>441
呪文は、例のとりあえずmod_proxyでフォワードするというのを、
ちと試してみるです。

で、news20 がうまく稼動したら、たぶん news19 を空けることできて、
news19 は既に XO ロケーションに、、、とか、いろいろと。
443root▲ ★
垢版 |
NGNG
cobra2247 を 6.1R にすべく、make buildworld を流していたら、
突然ハングアップしました。

ううむ、、、。
444root▲ ★
垢版 |
NGNG
・ping かからない
・KVM で見ると画面が出たまま凍っている

…とりあえず、リブート要請出します。ううむ。
445root▲ ★
垢版 |
NGNG
とりあえず、Apache2.0 と PHP4 をそれぞれ最新にしてみた。 < memories
446root▲ ★
垢版 |
NGNG
本日準備できたら、live22x1 のバージョンアップ作業する予定。
規制系 DB 用の bbsd は、一時的に live22 へと(作業済)。
447root▲ ★
垢版 |
NGNG
%uname -a
FreeBSD banana273.maido3.com 6.1-RELEASE FreeBSD 6.1-RELEASE #0: Sat May 6 08:05:11 PDT 2006 root@banana273.maido3.com:/usr/obj/var/src/sys/I386_BANANA_61 i386

cvsup.peko.2ch.net、特に問題なく。
448root▲ ★
垢版 |
NGNG
>>444
リブートしてもらいましたが、
ログインして操作しているうちに、またハングアップしました。

ちと、まじめに調べてみます。 < cobra2247
449root▲ ★
垢版 |
NGNG
リモートコンソールで操作中。

一世代前のカーネルに戻してみる。
450root▲ ★
垢版 |
NGNG
一世代前のカーネルだと、ちゃんと動くようだ。
微妙だ、、、。
451root▲ ★
垢版 |
NGNG
もう1回 make buildworld buildkernel からじっくりやろう。
452root▲ ★
垢版 |
NGNG
>>445
改善しないっすね。

apache2limits_args="-e -t 600"

にしてみた。< 前は 1800 だった。
453root▲ ★
垢版 |
NGNG
bbs.cgi 等配布リストに、live22x4/live22x5 を追加した。
454root▲ ★
垢版 |
NGNG
もう1回、教科書どおりのほうほうでカーネルとユーザランドを更新しなおしてみた。
普通に 6.1R になったところで、SMP ありのカーネルに差し替え。 < cobra2247
455root▲ ★
垢版 |
NGNG
無事に上がったので、make -j 4 buildworld (負荷試験のかわり)を実施中。
456root▲ ★
垢版 |
NGNG
死にました、、、。

SMP なカーネルに問題があるのか。
あるいは CPU が片方いまいちなのか。
457root▲ ★
垢版 |
NGNG
このカーネル config は、ex14 のと同じなので、
問題があるとはちと考えにくいが、、、。ううむ。

リブート要請と、調査依頼を出しておくです。
458root▲ ★
垢版 |
NGNG
>>429
○live22x1 OS バージョンアップ + Apache 更新 … 済 6.1R
・news20 システム構築 … DNS 登録 done 後作業継続予定、ただしトラブル解決後
・news20b = cobra2247 トラブル中、調査依頼中 … 土曜日なので週明けからか
・memories = oyster902 httpd が暴走する問題 … とりあえずその場しのぎを入れてみた
・削除の呪文の mod_proxy でのフォワード … 別途すすめる
459root▲ ★
垢版 |
NGNG
違うとは思えないけど、
config ...; make cleandepend; make depend; make で作ったカーネルと、
make buildkernel KERNCONF=... で作ったカーネルでやってみた。

しかし、やはりだめだった。

リブート依頼と調査依頼(一時的に作業依頼止めていた)出します。

# 今日は、ここまでで、、、。ううむ。
2006/05/07(日) 03:49:17ID:cgA4oCWW0
>459
お疲れ様でした〜
原因は指摘してるCPU1発あぼ〜ん説に一票
SMP無しで動くのに有りにするとこけるなんて1発壊れてるとしか思えない
461root▲ ★
垢版 |
NGNG
>>460
前の謎のパニックメッセージ (>>175) とかを見てみると、
その可能性は高いかもしれないですね。

現地に、その旨もメールして置きました。
2006/05/07(日) 04:11:52ID:ggeP+nf10
乙です。

live22のOS version up後もsignal 10で
落ちていますか?
463root▲ ★
垢版 |
NGNG
>>462
まだ一度も落ちていません。
負荷がかかっていなくてもたまーに落ちてたんですが。

いずれにせよ、このまま観察します。
464root▲ ★
垢版 |
NGNG
6.0R の頃は >>463
465root▲ ★
垢版 |
NGNG
フロントエンド5台も、signal 10 は現在まで一つも観測していない模様。
466root▲ ★
垢版 |
NGNG
今見てみましたが、signal 10 がひとつもありませんね。< live22/live22x1

これは、バージョンアップが有効だったということなのかしら。
467root▲ ★
垢版 |
NGNG
6.1R にして、全体的に明らかに軽くなった気がするんだけど、
何が変わったんだろう。

5.4R → 6.0R の時は、ファイルシステム周りが劇的に軽くなった気がしたんですが、
6.0R → 6.1R では、全体になんとなくっていう感じ。
468root▲ ★
垢版 |
2006/05/07(日) 22:48:05ID:???0
ぢぇんぬさんに教えてもらった削除系標準呪文セットを、
mod_proxy で live22 にとばすようにしてみた。

これで、うまくいくといいけど。
469root▲ ★
垢版 |
NGNG
そういえばいただきオンラインって、
live22x => live22 という処理入れていたんでしたっけ。

もし入れていたら、解除をお願いしますです。 > いただきさん
470root▲ ★
垢版 |
NGNG
お知らせしてきました。

☆ 連絡&報告 6 ☆
http://qb5.2ch.net/test/read.cgi/saku/1127100825/940

>>469 をいただきさんに知らせるには、
どうすればよいのかしら。
2006/05/07(日) 23:03:17ID:1FPhk6Gw0
>>428
done
NGNG
>>470
たもんくんのスレで告知してる人がいらっしゃいました。
473root▲ ★
垢版 |
NGNG
>>471
どもです。

>>472
どもです。
474root▲ ★
垢版 |
NGNG
>>458
・news20 システム構築 … DNS 登録済、ただしトラブル解決後
・news20b = cobra2247 トラブル中、調査依頼中 … 週明けからの見込み
○memories = oyster902 httpd が暴走する問題 … その場しのぎはとりあえず機能している模様(後述)
○削除の呪文の mod_proxy でのフォワード … 設定済、異常報告があれば対応
・なにやら大きな引越しがあるとかなんとか … 動きが決まってきたらということで
475root▲ ★
垢版 |
NGNG
こんなかんじ @ oyster902

May 7 07:05:00 <0.3> oyster902 kernel: pid 11511 (httpd), uid 80, was killed: exceeded maximum CPU limit
May 7 07:30:46 <0.3> oyster902 kernel: pid 11593 (httpd), uid 80, was killed: exceeded maximum CPU limit
May 7 07:33:31 <0.3> oyster902 kernel: pid 11414 (httpd), uid 80, was killed: exceeded maximum CPU limit
May 7 07:46:34 <0.3> oyster902 kernel: pid 11506 (httpd), uid 80, was killed: exceeded maximum CPU limit
May 7 09:03:30 <0.3> oyster902 kernel: pid 11604 (httpd), uid 80, was killed: exceeded maximum CPU limit
476Itadaki ★
垢版 |
NGNG
>>470 修正しました。
477root▲ ★
垢版 |
NGNG
>>476
ありがとうございました。
478root▲ ★
垢版 |
NGNG
>>474
> ・なにやら大きな引越しがあるとかなんとか … 動きが決まってきたらということで

【365Main】 回線増速(ニュー速とかお引越しのご案内)
http://qb5.2ch.net/test/read.cgi/operate/1147078648/

はてさてふふ〜ん♪ ってかんじで。
2006/05/08(月) 18:32:35ID:+IcN8WWS0
でっきるかなー。
480root▲ ★
垢版 |
NGNG
FreeBSD 6.1 Released
http://lists.freebsd.org/pipermail/freebsd-announce/2006-May/001064.html

ということで、正式アナウンス出ました。
2006/05/09(火) 15:41:23ID:MQ3hQHvO0
>>480
おお。さっそくex14(ry
482root▲ ★
垢版 |
NGNG
news20b が退院したという情報が入りました。
負荷テスト後問題なければ、news20 本格稼動へと。
483root▲ ★
垢版 |
NGNG
負荷テスト(make -j 4 buildworld) を流して数分もたずにハングアップしました、、、。
中の人と調整中。
2006/05/09(火) 16:32:18ID:UttHsm1+O
冷却ファンが動いていないとか言うオチはないですよね。
485root▲ ★
垢版 |
NGNG
今回の修理は、ファンの交換だったと聞いているです。
486root▲ ★
垢版 |
NGNG
…しかし、CPUの温度は確かに高いです。

ファン交換前は CPU #0 が52℃、CPU #1 が58℃でした。
今は CPU #0 が49℃、CPU #1 が53℃のようです。

ううむ。
2006/05/09(火) 16:41:16ID:9Ukca2IH0
センターうんこじゃないとか
488root▲ ★
垢版 |
NGNG
ちょっと、他の cobra サーバの様子をみてみるか。
489root▲ ★
垢版 |
NGNG
ちょっと BBQ サーバ、リブートします。
BBQ2 があるので、システム自体は止まらないはず。
490root▲ ★
垢版 |
NGNG
BBQ = cobra2245 は、#0 #1 とも 55℃ ですね。

でも、数ヶ月以上問題なく動いていました。
つまり、CPU ファンの異常とは思えない。
491root▲ ★
垢版 |
NGNG
BIOS のスクリーンショットを保存して、立ち上げなおし中。
…これは、原因は温度上昇ではないですね。
492root▲ ★
垢版 |
NGNG
BBQ ブートアップしました。
493root▲ ★
垢版 |
NGNG
…まさか、とは思うものの、
ex14 から /boot/kernel/kernel だけ抜いてきて、
その環境で動かして、負荷テストしてみることにした。

amd64 な FreeBSD 6.1R は初体験のはずなので。
494root▲ ★
垢版 |
NGNG
なんか、止まらないや、、、。
うーむうーむ。
495root▲ ★
垢版 |
NGNG
FreeBSD for AMD64(and for oyster901)
http://pc8.2ch.net/test/read.cgi/unix/1075691732/804

804 名前:名無しさん@お腹いっぱい。[sage] 投稿日:2006/03/15(水) 09:50:47
X2 4200+ 6.1-PRERELEASE だけど、
options SCHED_ULE
options ADAPTIVE_GIANT
を共に有効にしたカーネルのとき、/をマウントするところで凍ったことはある。
どちらか一方なら平気だけど。

今は ADAPTIVE_GIANT を切って様子見ているけど。
496root▲ ★
垢版 |
NGNG
SCHED_ULE は有効にしていないので、大丈夫だとは思うんですが、
ううむ。
497root▲ ★
垢版 |
NGNG
6.1R で入った機能というと、kbdmux か。
はずしてみます。
498root▲ ★
垢版 |
NGNG
ばりばり make 流してますが、落ちる気配ないですね。

これは、何らかのソフトウェア上の問題で確定かなと(まじかよ)。
>>497 を試すべく、準備中。
499root▲ ★
垢版 |
NGNG
あるいは、これだとちといやだなぁ、、、。

http://www.freebsd.org/releases/6.1R/todo.html
UFS deadlocks on amd64
Needs testing
Tor Egge Seen by Kris Kennaway. This problem seems MI.
500root▲ ★
垢版 |
NGNG
kbdmux を外したカーネルにして、make -j 4 buildworld を実行。
501root▲ ★
垢版 |
NGNG
動いてます、、、。
502root▲ ★
垢版 |
NGNG
make は好調に続いています。

#device kbdmux # keyboard multiplexer

これをカーネル設定ファイルから外したら、動きました。

この設定(キーボードマルチプレクサ)は 6.1R から、
i386 と amd64 では、標準で有効になっています。

i386 では、これまで問題は起こりませんでした。
banana, 旧tiger, 新tiger いずれも。

amd64 (cobra) で、かつデュアルCPU有効のカーネルの場合にのみ、
このオプションがあると、ちょっと負荷をかけると、ハングアップするようです。

で、この機能は2ちゃんねるのサーバでは使用していないので、
無効にしても、特に問題はないです。

# はまった、ってことか。
503root▲ ★
垢版 |
NGNG
…ということで make -j 4 buildworld が完走したら、
問題解決ということでよいと思います。

あとはたんたんと構築して、第二の雪だるまデビューということで。
2006/05/09(火) 18:20:25ID:UttHsm1+O
kbdmux ってキーボードの抜き刺しが出来るってやつ?
コンソールと相性が悪いのかな?
505root▲ ★
垢版 |
NGNG
>>504
BIOS かもしれないし、ACPI かもしれないし、
KVM との相性なのかもしれないし、他の問題かもしれないですね。

デュアルCPUの時だけ再現するというあたりが、なんとも。
506root▲ ★
垢版 |
NGNG
再現 → 発現
2006/05/09(火) 18:27:08ID:bcC6adsBO
http://pc8.2ch.net/test/read.cgi/hosting/1123324035/
ネタだと思いますがrootたんのフルネームばらすとかなんとか言ってるので一応反応お願いします。
508root▲ ★
垢版 |
NGNG
make -j 4 完走しました。
原因確定・問題解決ということで。

セッティング作業の続きは、帰宅後にでも。
かっこいいおにいさんとタイミングが合えば、
今日明日にも本格稼動可能と思います。 < news20
509root▲ ★
垢版 |
NGNG
>>507
反応
2006/05/09(火) 18:50:07ID:MQ3hQHvO0
>>495
のわっ、このスレまだ1000いってなかったのか・・・・

>>507
なにこのネタスレと反応してみる
2006/05/09(火) 18:56:11ID:bcC6adsBO
ネタスレに見えますがこのスレがGW中に規制された●+公開p2の発祥地です。
512root▲ ★
垢版 |
2006/05/09(火) 22:16:31ID:???0
bbsd の nice -20 を復活。< live22, news20b
513root▲ ★
垢版 |
2006/05/09(火) 22:18:51ID:???0
続いて、

# StartServers 96
# ServerLimit 96
# ThreadLimit 32
# ThreadsPerChild 32

を、

StartServers 192
ServerLimit 192
ThreadLimit 16
ThreadsPerChild 16

に変更。< @live22
2006/05/09(火) 23:42:04ID:SInYPmVl0
今日のサッカーでは、2回しか落ちなかったそうですが、
やっぱり今までと同じsignal 10でcoreも同じところを
さしているんですかね。
515root▲ ★
垢版 |
2006/05/10(水) 00:06:28ID:???0
>>514
2回目の時に httpd が二つ落ちました。
今 news20 のフロント作っているので、それができたら解析をば。
516root▲ ★
垢版 |
2006/05/10(水) 00:27:13ID:???0
news20 フロント側、準備できたはず。

バックエンドを、かっこいいおにいさんに作ってもらおうと。
2006/05/10(水) 00:35:31ID:vl4svGdy0
いよいよニュースな雪だるま本格始動ですか
予定としてはnew18と19ついでにlive22からnewsを移転させる形になるんでしょうか?
518root▲ ★
垢版 |
NGNG
>>517
私の皮算用はそんなかんじですが、さて、どうなることやら。
まずは「勝ちに行く」ために、news を移転するかんじかなと。
2006/05/10(水) 00:49:11ID:vl4svGdy0
>518
昨日のデータ

live22x 513,616
news 78,380


※約15%程度減るのでかなり楽になるんじゃないかと思います。
520root▲ ★
垢版 |
NGNG
>>514
(gdb) thread 31
[Switching to thread 31 (Thread 0x809d700 (LWP 100452))]#0 0x282fc363 in kill
() from /lib/libc.so.6
(gdb) where
#0 0x282fc363 in kill () from /lib/libc.so.6
Cannot access memory at address 0xbf6fba0c
(gdb) info frame
Stack level 0, frame at 0xbf6fba10:
eip = 0x282fc363 in kill; saved eip Cannot access memory at address 0xbf6fba0c
(gdb) info registers
eax 0x0 0
ecx 0x1be42ad0 467938000
edx 0x691 1681
ebx 0xa 10
esp 0xbf6fba0c 0xbf6fba0c
ebp 0xbf6fba28 0xbf6fba28
esi 0x285d9000 677220352
edi 0x5af 1455
eip 0x282fc363 0x282fc363
eflags 0x296 662
cs 0x33 51
ss 0x3b 59
ds 0x3b 59
es 0x3b 59
fs 0x3b 59
gs 0x1b 27
(gdb)
521root▲ ★
垢版 |
NGNG
>>519
15% もさることながら、
やっぱりでっかい subject.txt と subback.html と index.html の作成コストですね。
このへんは bbsd になっても、根本的には変わらないところだから。
2006/05/10(水) 01:13:26ID:hn1Ka4nw0
>>520 乙です。

>>325-327 の手順で解析できればもう少し何かわかるんですかね。

ちなみに落ちたときのbbsdのインターバルは10秒のままなんですか。
523root▲ ★
垢版 |
NGNG
>>522
>ちなみに落ちたときのbbsdのインターバルは10秒のままなんですか。

5秒ですね。
2006/05/10(水) 04:41:59ID:GCx+vjmE0
たまたま
はげしく酔っ払いなんで、明日の昼にでも。。。
2006/05/10(水) 07:13:51ID:rXd7eLow0
>>521 ドバッっと来た時にやっぱ苦しそうですか?<bbsd それともディスク I/O かな?
subject.txt は内部的に linked list で持ってるんで,並べ替えはスレ保持数にかかわらず
ポインタ3つ変更するだけなんで,配列をごっそり動かすのに比べれば軽いかとは思うんですが......
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。

ニューススポーツなんでも実況