【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part17
レス数が1000を超えています。これ以上書き込みはできません。
peko作戦について語るスレです。
サーバロケーションPIEに関する話題もこちらで。
<現在の主要なテーマ>
・oyster243(BBQ/dnscache)の突然死対策&cobra2245セットアップによる2台体制化
・oytser902(memories)のFreeBSD 5.3化
・「雪だるま作戦」による、スケーラブルなサーバ群構築
・read.cgi/bbs.cgiの細かな調整・詰め
・携帯サーバのプライベート側スイッチのグレードアップ検討
・各種作戦・プロジェクトとの連携
・FreeBSDのさらなるチューニング詰め
<関連スレッド>
■新春特別企画「雪だるま作戦」liveサーバの飛躍なるか!? Part1
http://qb5.2ch.net/test/read.cgi/operate/1105035540/
■ 自動地震速報@2ch をつくろう
http://qb5.2ch.net/test/read.cgi/operate/1106583619/
■ テレビ番組欄@2ch をつくろう 第2話
http://qb5.2ch.net/test/read.cgi/operate/1107366393/
<関連サイト>
レンタルサーバー maido3.com 2ちゃんねるの転送量: http://server.maido3.com/pie/
MRTGによる統計情報: http://mumumu.mu/mrtg/
2ちゃんねる/PINKちゃんねる 稼動中のサーバ一覧: http://mumumu.mu/serverlist.html
<前スレ>
【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part16
http://qb5.2ch.net/test/read.cgi/operate/1102087698/ oyster243 の RAID 1 カードが到着し、OS のインストールにとりかかったと
one of inside person から連絡がありました。 >>922
nslookupで確認してみますたー
umaとc-auはOK
pekoはIP返さない(そもそも仕様?) >>923
どもです。
>>923
> pekoはIP返さない(そもそも仕様?)
そういう仕様です。 http://qb5.2ch.net/test/read.cgi/operate/1112024113/88
88 名前:動け動けウゴウゴ2ちゃんねる[sage] 投稿日:2005/04/24(日) 23:40:03 ID:9UxsRJ3e0
【板】banana全鯖
【機能】L.A.が10を超えたら1未満になるまで自動的にbbs.cgiの起動を停止
【理由】どうせbbs.cgi止めるまで収まらんし。だったら自動化しちゃえ
【需要】表立っては出てこないけど洗剤的には。
【補足】自動人大杉みたいな感じで。tiger,cobraは自力で立ち直れるからいらない。
を、httpdレベルでやれるといいかも。
具体的にはLA見て、特定のcgiの実行をさせないとかいうかんじか。
(bbs.cgiでやる(昔の「お茶飲め」は結局あまり効果がないことが証明されているので) >>926 例えば,こんな感じで DSO プログラムでチェックしてから実際の bbs.cgi に渡すとか.
#define REAL_BBS_CGI "/test/realbbs.cgi"
int dso_main(request_rec *r, int argc, char **argv)
{
double loadavg;
const char *loadavglimit;
getloadavg(&loadavg, 1);
loadavglimit = apr_table_get(r->subprocess_env, "BbsCgiLoadAvgLimit");
if (loadavglimit && loadavg >= atof(loadavglimit)) {
/* 人大杉 */
apr_table_setn(r->err_headers_out, "X-Load-Avg",
apr_psprintf(r->pool, "%.2f (Limit = %s)", loadavg, loadavglimit));
return HTTP_SERVICE_UNAVAILABLE;
}
ap_internal_redirect(REAL_BBS_CGI, r);
return OK;
}
あと,mod_authz_iplist 入れるなら(>>912),もし
`in6_addr_t' undeclared のようなコンパイルエラーが出たら
-Din6_addr_t=struct\\\ in6_addr
を apxs の呼び出し時に追加しておいて下さい. #RLimitCPU 120
↓
RLimitCPU 30
@ ex10 。
とりあえず重くなった時に起こる、speedy_backendの暴走に仮対応。
(暴走しだしたら前よりも早く死ぬ) 本日の作業予定:
1)banana403 OS再インストール
2)cobra2247 SCSIケーブルインストール
3)oyster243がうまくつながらない問題 oyster901 = ex10
・5.4-RC3の最新に更新
・MIXED_MODEを再度有効にした(5.4-RC3ではデフォルトでは無効)
・メモリディスクの容量を64Mに増やした(40Mではちょっと足りないっぽい) 現在の進捗:
1) ex10のOS更新・調整等(必要に応じて) → 完了
2) いくつかのサーバのOS更新(期日までにFreeBSD 5.4Rが出ていれば) → 5.4Rがまだ出てないのでやらない予定
3) リモートからSumaのファームウェアを更新可能な状態にしてくる → 完了
4) cobra2247のSCSIケーブル追加 → 完了
5) PIE内の新スペース、通称「XO」の視察(ひ(りゃ が予約した携帯用ラックスペースを含む) → 完了
6) >>880 のサーバやスイッチ類が届いていれば、作業のお手伝い → 動作チェック等まだにつきやらない予定
7) 電車男の本をJimさんに渡す → 完了
8)リモートコンソール環境の整備(できるかどうか要確認) → XOの整備のあとになるとのこと
9) banana403 (= c-au/c-au1)システム再インストール&セットアップ → 作業中 前回やったcobraサーバのBIOSバージョンアップ → 今回は必要なし
同じく、Sumaストレージのファームウェアバージョンアップ → 最新ファームにつき必要なし >>931
> 9) banana403 (= c-au/c-au1)システム再インストール&セットアップ → 概ね終了。動作観察中
10) oyster243 の状況チェック → 明日の予定
今日の作業は、ここまで。
しばらくしたら、迎えが来る予定。 >>933
道楽でここまでやるんですねぇ・・・・乙です >>930
> ・MIXED_MODEを再度有効にした(5.4-RC3ではデフォルトでは無効)
NO_MIXED_MODE の間違い。
ちなみに、最新のstableだったかではこのオプションはもう古いという噂も。 Perl のモジュールで Jcode というのを入いれて欲しいですー
>>935
@tiger , cobra >>936
掲示板tiger/cobraにインストール中、、、。 >>936 はできたはず。
標準インストールスクリプトに突っ込んでおこう。 oyster243のネットワークパフォーマンスをチェック。
oyster902 (=memories) との間で360MBytesほどのファイルをFTPしてみましたが、
incoming, outgoingとも特に問題なさげでした。
ちゃんと100Mbps近く(11MBytes/secぐらい)出ている模様。
ただ、ちょっとHDDへの書き込みが遅めな気がします。
で、テストは手元側のファイルを /dev/null にしてやりました。
HDDに書き込むと、20Mbpsとか30Mbpsぐらいしか出ないみたいです。
たぶん、mpt(= LSI1030)コントローラのIntegrated RAIDを使っているせいかなと。
このへんは、Seanさんと別途調整ですね。
(今日は日曜なので、Seanさんはここにはいません @ PIE office)
Jimさんにスイッチの様子をチェックしてもらっていましたが、
パケットの再送やドロップは、ひとつもなかったとのこと。
ということでネットワークの問題は解決したと考えます。
あとは、帰国後でもOKかなと。 1) cobra2245のRAID
(LSI logic MegaRAID U320-2、専用RAIDコントローラ内蔵、パフォーマンスよい)
amrd0: <LSILogic MegaRAID logical drive> on amr0
amrd0: 34938MB (71553024 sectors) RAID 1 (optimal)
2) oyster243のRAID
(LSI logic 1030 Integrated RAID、上のカードよりもパフォーマンス悪いはず)
da0: <LSILOGIC 1030 IM 1000> Fixed Direct Access SCSI-2 device
da0: 320.000MB/s transfers (160.000MHz, offset 63, 16bit), Tagged Queueing Enabled
da0: 35000MB (71682031 512 byte sectors: 255H 63S/T 4462C)
となっていました。
ということでこのへんは、別途Seanさんと調整します。
ということでとりあえずの結論: ハードウェアそのものやネットワークは、異常なしのはず。 tiger/cobraは5.8.5/5.8.6ですが、ないって言われたですね。
portsから入れる時にも「これは標準で入ってるよ」って言われなかったし。 ちょっと、検索してみた。
Jcode作者の公式ページ
http://openlab.jp/Jcode/ より引用
As of Perl 5.8.0, all the Jcode capabilities are avaialble in standard distribution
via Encode module Though I will maitain Jcode for old perls, I recommend that
you use Encode if your perl is new enough. Encode more featureful, robust,
and most of all, standard.
なので、Perl 5.8.0以降な環境*しかない*なら、Encodeモジュールを使ったほうがいいと。
でもたぶん、「しかない」わけじゃない、、、かも。 小飼弾さんの厳密さについていけないから、ラッパーのJEncodeを使ってたりする。 oyster243 の設定状況について、ちと長めのメールを送りました。 > かんけいかくい >>948
すぐに Sean さんから返事が来ました。
# 今、真夜中なんですが、、、。
たぶんこれで、oyster243 の問題も解決の方向かなと。 Encode, Text::Iconv, Jcode のパフォーマンスの比較をちょっとやってみましたが,
Encode はよさげですね.Jcode も 2.0 からは Perl 5.8.1 以上なら Encode の
ラッパになるそうなんで,ラッパとしての Jcode ならいいんじゃないでしょうか.
% time ./jconvtest Encode text.euc
0.705u 0.031s 0:00.73 100.0% 10+1945k 0+0io 0pf+0w
% time ./jconvtest Iconv text.euc
1.291u 0.046s 0:01.33 100.0% 10+2038k 0+0io 0pf+0w
% time ./jconvtest Jcode text.euc
7.147u 0.031s 0:07.17 100.0% 10+2056k 0+0io 0pf+0w
% time ./jconvtest Encode text.utf8
1.078u 0.023s 0:01.10 99.0% 10+1992k 0+0io 0pf+0w
% time ./jconvtest Iconv text.utf8
1.160u 0.054s 0:01.21 100.0% 10+2040k 0+0io 0pf+0w
% time ./jconvtest Jcode text.utf8
7.656u 0.070s 0:07.72 100.0% 10+2082k 0+0io 0pf+0w
・ sunos.saita.ma で拝借している tiger 鯖で実行.
・ このスレの >>1 本文の EUC-JP / UTF-8 版を入力テキストとして使用.
・ Text::Iconv, Jcode は元々入ってなかったので,自分でビルドしたのを使用.
・ Jcode は 0.88(ラッパにならないもの)を使用.
[使用コード (bzip2+base64)]
QlpoOTFBWSZTWcCk1qYAAQhfgETQfe/8/4+13gS/9//uQALRVRUqAJJE1NMj0mCN
TaKehMmnpHoTTajR6mgGmmnogiShNT1PUmjA0gyNqAADQGMoNHoj0hxkyaaYTIyB
gRiaMEYQaNMAAhxkyaaYTIyBgRiaMEYQaNMAAlyI9fCSdUaYuqECmo8dm2wbR+cq
RJsZGVGSUGsqoWIj7s2Grkjy78O5kJiNwwZksjfwWdemgjhKlFVnDWgW8fSOHRX5
LB6j2dA6sl7xfpfWtRVjb+wTJbU9d6wuNpSnvZm46g3kmmA6lYxcfR/c2aPrkSMh
IQj5qoEkqUkDwyMWpediiXwz+jiwXwbRO06IszDMBvZLjGI+JlPYFpbvUthi+CPD
x1uz3jOLI1w7hCyzNOxePANl2NZIsEjE5+/s6dDKo7s7lIq/kax2ULCOjczcIXQK
JdM3vbb8e0rkE4juCR9PcjcX4T0rBMPgZeVW6daYvBjYBspYUZHJrv6/SzAyw/S0
URUiztUwLq682ZBIvCx8f3otM817t8uNYoPrRZWgvP4sXTpX1LYOJWk2Jwvv3+Et
gE7Yx4QlAoz6Ne0Zb3dCPWHFjHzbUrK0tBaganxGGjYS7LjGiSQNvY3pCQOTirs7
IXbScwOFtdLC5tdHaG9kicrJUM8HcJua7DNagNhYk/oLiIxigV4si5hOqA6TOm6x
cEgSm/XeYyho3Qb4O0scuy795MMr0BjOcvMO3EkkCdLyAgrTH0uc5EKMlZqpaYL6
bhanIzIoDqyrYJrvKaUMnIhnoDnExGlQUB5Q4SlZKl6FRkSVjCUe0Vty5QgjDNaK
ypKpQFFBwMikkHcqWChiFRKDCY9r7AKgxXYzkkGITivSUGAx5jzKEwW5MMylVoao
JKC8zmMcVmRepqyrAgmYOFy8VhcLQCtxCDbJzviSrWJycH/F3JFOFCQwKTWpgA== この調子なら中旬くらいには正式版かな
Fourth release candidate 2 May 2005
Heads up to -stable 2 May 2005 こっちで、
まずは
tiger509 , 510 , 511, 512 から
tiger509 , 511 , 512 の新IPアドレスは把握した
しかし 510 が行方不明。 ですね。
どうも、起こったことは、
・携帯系サーバ群を一部? 移動したらしい
・しかし、携帯と関係ないサーバも一部移動してしまったように思える
ということみたいです。ぶー。 <nslookup:tiger510.maido3.com/*>
Non-authoritative answer:
tiger510.maido3.com A 86400 206.223.152.70
tiger510.maido3.com MX 86400 0 tiger510.maido3.com
Authority:
maido3.com NS 253109 ns1.maido3.com 206.223.148.254
maido3.com NS 253109 ns2.maido3.com 206.223.147.254
NSLookup normal completion. hobby7.2ch.net にnslookupしてみたら
いちおう 206.223.151.62 ってでてきました。
pingはつながりませんが、 壊れたスイッチは新しいのに置き換え済み
ただIPかわったサーバの新IPがわからず、(tiger510) 携帯系bananaサーバの状況
・リブートが入った、または入ったと思われるもの
banana402 banana403 banana404 banana405 banana406
・プライベート側I/Fが落ちているもの
banana402
・ログインできないもの
banana403 (pingかからない) 転記。
795 名前:root▲ ★[sage] 投稿日:2005/05/03(火) 22:33:16 ID:???0
tigerサーバの状況を確認。
・リブートが入った、または入ったと思われるもの
tiger503 tiger504 tiger509 tiger510 tiger511 tiger512
・IPアドレスが変わった、または変わったと思われるもの
tiger509 tiger510 tiger511 tiger512
・今ログインできないもの
tiger510 (pingかからない)
tiger512 (pingかかるがsshで入れない)
・/etc/hostsが修正されていなかったもの
tiger509 (さきほど新アドレスに直した) もうひとつ。
871 名前:root▲ ★[sage] 投稿日:2005/05/03(火) 22:46:31 ID:???0
cobraサーバの状況。
・リブートが入ったもの
cobra2244 cobra2245 cobra2246
・プライベート側のネットワークが落ちているもの
cobra2247 >>959
何も作業しないで〜
まずは何をすべきかの洗い出し で、これで全部か。
955 名前:root▲ ★[sage] 投稿日:2005/05/03(火) 23:01:50 ID:???0
あとは、banana225 (= love3) がリブート入ったですね。 >>961
はい、
> ・/etc/hostsが修正されていなかったもの
> tiger509 (さきほど新アドレスに直した)
以外は、作業していません。
他のは/etc/hostsも既に変わっていました。 >>964
たぶん、、、
今 PIE に問い合わせ中。。。
jenjenが向かっているらしい、 さてと。
cobra2244 2256 2246 は、*Gigabitで*繋がっていました。
表、裏(プライベート側)、両方とも。 >>966
2244 2245 2246 だった。 >>966
どたばたするけど
short cut かと、
short cut = Jim の好きな言葉 で、リブートが入っていないcobraサーバ 2247 は、プライベート側が落ちています。
…ということは、たぶんまだつなぎなおしてないんですね。
例の携帯セグメントに。
ひょっとして、いきなり移動した? >>968
うーむ。
で、2247はまだ*100Mbpsで*繋がっています。で、プライベート側が落ちている。
つまり、まだ移動してない、、、ってことなのか。 blackgoat3は、1Gで繋がっていますね。(外側、内側とも)
blackgoat4は今入れないので、わかりません。 リブートが入った tiger503 tiger504 も、1Gで繋がっているようです。(携帯とは関係ないサーバですが) tiger509 = news19 も、1Gで繋がっていました。
リブートが入ったtiger/cobraは、すべて1Gで繋がっている模様。 どうも 新IPをみると
5F のままのようです (tiger509-512) >>975
スイッチだけ、一時的に流用したのかな。 510 の新IPがわからないというのは置いておいて
あとは DNS を更新するだけで ok かな?
>>976 指示お願いします banana402〜406(ログインできない403を除く)も、すべて外側が100Mbps(最大速度)に変わっていました。
やはり、繋ぎ替えしたようです。
>>978
2ch.netのほうはDNSが既に変わっているようですが、、、。
maido3.com のほうは、変わっていないようです。
DNSのほうは、これから状況把握します。
IPアドレスが変わったのは、tiger509〜tiger512だけのようですね。 >980
rootさんがご自分で立てるでしょうから
お任せすればよいかと 2ch.net のDNSは、既に変わっているようです。
ns1.maido3.com ns2.maido3.com で確認しました。
つまり、2ch.net のDNS更新は、既に行われていると思います。
2ch.net のほうの設定が正しいとすると、新アドレスはこうなります。
ただし、tiger510とtiger512は、ログインできていないので、
ほんとうに下記で正しいのかはわかりませんが。
問題なければ、maido3.com のほうの変更をお願いします。
+tiger509.maido3.com:206.223.151.67
+tiger510.maido3.com:206.223.151.62
+tiger511.maido3.com:206.223.151.55
+tiger512.maido3.com:206.223.151.57 で、現在の障害状況
1)banana402のプライベート側ネットワークが落ちている。
no carrierなので、ケーブルが繋がっていないと思われる。
2)banana403に入れない。
pingもかからない状態。
3)tiger510 = hobby7 に入れない。
pingもかからない状態。
4)tiger512 = blackgoat4 に入れない。
pingはかかるが、sshで入れない。
また、プライベート側は ping もかからない。
5)cobra2247のプライベート側ネットワークが落ちている。
no carrierなので、ケーブルが繋がっていないと思われる。
また、外側の接続速度がまだ100Mbpsのままである。
>>984
よろしくお願いします。 こちらからはリブートできなかった < tiger512
jenny到着待ちかと、 >>986
了解です。
到着を確認したら、お知らせください。
とりあえず状況は概ね把握できたので、あとはひとつひとつ確認・修復していくということで。 >>980-982
ということで、立ててきます。
関連スレは確かに増えてますが、そのへんは適当で。 >>993
86400 みたいですね。< maido3.com の各レコード
2ch.net は 300 なので、比較的すぐに変わっているはず、、、。 jenjen & Sean PIEに到着のもよう、 >>995
maido3.com の中の人経由でいきますか?
あるいは私が直接でもOKです。
ICQ上げていますので、向こうとは直接対応も可能な状態。 hobby7 ping かかるようになったみたいです。
みてきます。 このスレッドは1000を超えました。
もう書けないので、新しいスレッドを立ててくださいです。。。 レス数が1000を超えています。これ以上書き込みはできません。