トップページ⇒運用情報
1001コメント326KB

【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part17

■ このスレッドは過去ログ倉庫に格納されています
0001root▲ ★
垢版 |
05/02/03 05:34:37ID:???0
peko作戦について語るスレです。
サーバロケーションPIEに関する話題もこちらで。

＜現在の主要なテーマ＞
・oyster243(BBQ/dnscache)の突然死対策&cobra2245セットアップによる2台体制化
・oytser902(memories)のFreeBSD 5.3化
・「雪だるま作戦」による、スケーラブルなサーバ群構築
・read.cgi/bbs.cgiの細かな調整・詰め
・携帯サーバのプライベート側スイッチのグレードアップ検討
・各種作戦・プロジェクトとの連携
・FreeBSDのさらなるチューニング詰め

＜関連スレッド＞
■新春特別企画「雪だるま作戦」liveサーバの飛躍なるか!? Part1
http://qb5.2ch.net/test/read.cgi/operate/1105035540/
■ 自動地震速報＠2ch をつくろう
http://qb5.2ch.net/test/read.cgi/operate/1106583619/
■ テレビ番組欄＠2ch をつくろう 第2話
http://qb5.2ch.net/test/read.cgi/operate/1107366393/

＜関連サイト＞
レンタルサーバー maido3.com ２ちゃんねるの転送量: http://server.maido3.com/pie/
MRTGによる統計情報: http://mumumu.mu/mrtg/
２ちゃんねる/PINKちゃんねる 稼動中のサーバ一覧: http://mumumu.mu/serverlist.html

＜前スレ＞
【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part16
http://qb5.2ch.net/test/read.cgi/operate/1102087698/
0325root▲ ★
垢版 |
2005/03/23(水) 17:16:33ID:???0
>>321
ログインできました。状況確認。

・/home (#2 disk、掲示板システム)は中身も含めて無事
・システムディスク (#1 disk) は、FreeBSD 5.3Rが入った状態

ということで、これからシステム側をもみもみします。
今夜には復活できる予定。
0330root▲ ★
垢版 |
NGNG
>>329

lang/perl5 has been updated to 5.6.2, and lang/perl5.8 has been updated to 5.8.6.
you should update everything depending on perl, that is:

というわけで、Perlの更新をする時は、Perlに依存したソフトを全部更新する必要があると。
5.4Rにする時には、工事が必要になるわけか。
0332root▲ ★
垢版 |
NGNG
>>331
問題の先送りってやつですね。
たぶん大丈夫なんでしょうけど、どうせ入れ替えると割り切って
流れに身を任せるほうが、あとで禍根を残さないかも。
0334root▲ ★
垢版 |
NGNG
最終段階に入ったのですが、、、。
最後にApache起動テストをしたら、黙ってしまいました。なぜだろう。

リブート依頼します。
0335root▲ ★
垢版 |
NGNG
リブート待ち中。

…とてもいやな落ち方なので、
メモリとか、そういう問題かも。
0336 ◆UFUFUbWUSk
垢版 |
2005/03/23(水) 21:53:08ID:1FFBI2sg0
おつです

(；・∀・)ﾄﾞｷﾄﾞｷ…
0338root▲ ★
垢版 |
NGNG
>>337
仕込みは概ね終わっています。
(bbs.cgiの更新等も含む)

最終テストをしていたところで、謎のハングアップ。
現在リブート待ち中です。

現時点では、メモリ等の別のハードウェア障害がないことを祈るしかなく。
0339 ◆MIPS.kHN86
垢版 |
2005/03/24(木) 00:18:58ID:NhkGMhfU0
>>338
お疲れ様です。とりあえず自分も祈っておきます。（-人-）
0340動け動けウゴウゴ２ちゃんねる
垢版 |
2005/03/24(木) 00:28:13ID:1Vp/ZGx70
>>338

　　　　　　　　　　　　　／￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣
　　 　　,＿＿　　　　　| 　無事に復活しますように
　 　 ／　　.／＼ 　　　＼＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿
　 ／　　.／( ゜ ).＼ 　　　　　　o〇　 　 　　ヾ!;;;::iii|//"
／_____／ .( ・ω・）,＼　　ﾍ⌒ヽﾌ　　　　　 　|;;;;::iii|/ﾞ
￣|| || || ||. |っ¢..||￣　　（,,　　）　ﾅﾓﾅﾓ　 　|;;;;::iii|
　 || || || ||./,,,　|ゝ iii~ 　　⊂　ヾｗｗｗｊｊｒｊｗw!;;;;::iii|ｊｗｊｊｒｊｗw〃
　 |￣￣￣|~~凸（￣）凸　（　　,,）〜　ｗｊｗｊｊｒｊ从ｊｗｗｊｗｊｊｒｊ从ｊｒ
0341名無し募集中。。。
垢版 |
2005/03/24(木) 00:38:19ID:p127zQgn0
愛しのtiger503ｶﾞﾝｶﾞﾚ
寂しくなったら戻っておいで〜ｗ
0344root▲ ★
垢版 |
2005/03/24(木) 10:50:20ID:???0
tiger503 をリブートいただいたのですが、数個パケットが来るようになった後、すぐに黙ってしまいます。
再度リブートしてもらっても同じでした。

Apacheを起こしたとたんにおかしくなったので、
Apacheを自動起動しているところで止まっているのかもしれません。

困りました。
特に変な設定は、していないはずなのですが。

シングルユーザで立ち上げて、Apacheを起動しないようにして立ち上げなおす必要ありか。
その旨、お願いしておきます。

%ping live20.2ch.net
PING live20.2ch.net (206.223.150.110): 56 data bytes
(pingきはじめる)
64 bytes from 206.223.150.110: icmp_seq=673 ttl=63 time=4.623 ms
64 bytes from 206.223.150.110: icmp_seq=674 ttl=63 time=4.572 ms
64 bytes from 206.223.150.110: icmp_seq=675 ttl=63 time=0.805 ms
64 bytes from 206.223.150.110: icmp_seq=676 ttl=63 time=4.761 ms
64 bytes from 206.223.150.110: icmp_seq=677 ttl=63 time=0.784 ms
64 bytes from 206.223.150.110: icmp_seq=678 ttl=63 time=5.525 ms
64 bytes from 206.223.150.110: icmp_seq=679 ttl=63 time=4.690 ms
(ここで黙る)
^C
--- live20.2ch.net ping statistics ---
724 packets transmitted, 7 packets received, 99% packet loss
round-trip min/avg/max/stddev = 0.784/3.680/5.525/1.849 ms
0345root▲ ★
垢版 |
2005/03/24(木) 10:59:28ID:???0
中の人と対策を相談中、、、。
0346動け動けウゴウゴ２ちゃんねる
垢版 |
2005/03/24(木) 12:46:20ID:fCKWTdLK0
さてどうなるか
1)OSからインストールしなおす
2)別のマシンを調達
3)しみじみと設定に変な所がないかを見直し

いずれにしても時間かかりそうだなあ
0347 ◆MIPS.kHN86
垢版 |
2005/03/24(木) 13:07:31ID:NhkGMhfU0
4)なかったことにする

しかし、何やら本当に深刻なようで・・・
0353リボルバーさん ◆LoWvdc0uhQ
垢版 |
2005/03/24(木) 18:03:13ID:oJsp0WZl0
>>350
（私調べ）
liveサーバは14,15,16,19,20が稼動中。
よって退役サーバは15？
0355リボルバーさん ◆LoWvdc0uhQ
垢版 |
2005/03/24(木) 18:16:56ID:oJsp0WZl0
>>350
live14…ニュース実況＋＋
live15…なんでも実況(ビーナス)、実況せんかいｺﾞﾙｧ！＠実況ch、番組ch、BS実況ch(NHK)、BS実況ch(民放)、実況スカパー、ラジオ実況、実況せんかいｺﾞﾙｧ！＠スポーツch、お祭り会場
live16…なんでも実況(サターン)、番組ch(NHK)、番組ch(NTV)、番組ch(TV東京)、オリンピック実況(女)
live19…市況実況2
live20…なんでも実況(ジュピター)、実況(NHK教育)、番組ch(TBS)、番組ch(フジ)、番組ch(朝日)、実況せんかいｺﾞﾙｧ！＠やきうch、実況せんかいｺﾞﾙｧ！＠芸能ch
0356▲ 某ソレ511
垢版 |
2005/03/24(木) 19:38:38ID:jAflViFV0
live18・・・臨時地震、臨時地震2 もね。
あとlive19には株式、投資一般、ネトゲ速報、ネトゲ質問、ネトゲ実況、2、3
live14にはニュース二軍+、大河ドラマもあります
0357動け動けウゴウゴ２ちゃんねる
垢版 |
2005/03/24(木) 20:10:10ID:2xqYW0W30
ハードウェアトラブル？
0358ピロリ
垢版 |
2005/03/24(木) 20:11:53ID:vNTaqkB+0
まんこ舐めたい・・・・・
0360FlashLight♦­....... ◆f.lightAf6
垢版 |
2005/03/24(木) 20:15:46ID:NWv3WqfI0
エエエエエ（´Д｀）エエエエエ
0362 ◆MIPS.kHN86
垢版 |
2005/03/24(木) 20:17:18ID:NhkGMhfU0
ぁゃιぃ・・・　どうなっても知らんぞ
0363讃岐 ◆IamaVIPdCI
垢版 |
2005/03/24(木) 20:18:22ID:y50yTTY90
ﾜﾛｽｗｗｗ
0371root▲ ★
垢版 |
2005/03/24(木) 21:34:29ID:???0
まずは切り分けのために、Apacheの起動をやめることにしよう。
(Apache起動のとたんに死んだので)

ということで、今夜もし私がオンラインでない時にPIEで対応、ということになった場合、
以下のオペレーションをお願いしてもらえると、とても助かります。

(同じ文面をJimさんとSeanさんにメールしておきます)

Jim-san, Sean-san,

I want to determine the cause of the trouble of tiger503.
I suspect that the cause of trouble is my bad apache configuration
because when I started apache manually, the system has been down.

So, if you can, please do the following operations.
It disables Apache server autostarting.

1) Reboot tiger503 as single user mode.

2) Remove Apache startup file, as follows.

rm -f /usr/local/etc/rc.d/apache2.sh

3) Then, reboot the system.

After the system has been up, I will fix the problem remotely.

Regards,
0372ピロリ
垢版 |
2005/03/24(木) 22:05:35ID:vNTaqkB+0
>>371
了解


それにしてもクンニしたい・・・・・・
0373【沈黙-ω-】 ◆.0e0wEv5W6
垢版 |
NGNG
>>372
エッチなのはよくないと思います（＞＜）
0379讃岐 ◆IamaVIPdCI
垢版 |
2005/03/24(木) 22:16:44ID:y50yTTY90
ﾜﾛｽｗｗｗ
0384FOX ★
垢版 |
2005/03/25(金) 00:19:20ID:???0
軽くなった原因をdeflateを止めたからだと「結論つける」ならば、
すでにCPUの能力が限界であると結論づける事になると思う。
ということはこれ以上の容量(キャパシティー)増加は見込めない。
費用対効果では Tiger の方が上である。
0386動け動けウゴウゴ２ちゃんねる
垢版 |
2005/03/25(金) 00:38:15ID:d4ZGrRgJ0
転送量で騒いでた時期もあったけど、
最近は負担のほうが問題ですかあ。
2ちゃんねる君も成長したものです。
0387じじぃ　その４ ◆HETAREzfq.
垢版 |
2005/03/25(金) 00:39:43ID:+EtwiaUg0
http://homepage3.nifty.com/aona/archive/modelnumber_table.html

モデルナンバから考えるに、opteron242は2800〜3000相当じゃろうから
こんなもんなんじゃろうのぅ
セールストークに出てくる電気代云々はこの場合関係なさそうじゃし、

メモリコントローラ直付けはかなり効いておるようじゃが、それならば
安いSempron（32bit）でも効果は同じように（比較対象がPen4になるが）
出てくるはずじゃ　　高いopteronを使う必要はないのう
0388FOX ★
垢版 |
2005/03/25(金) 00:40:14ID:???0
負荷の一種かも知れないけど、
最近ボトルネックというかコストが一番高いのは

「電気代」の事態になりつつあるように思える。
0389動け動けウゴウゴ２ちゃんねる
垢版 |
2005/03/25(金) 00:40:48ID:0TpS8m1q0
CPU負荷の最大の原因がmod_deflateにあるのならば
圧縮率を下げることで、
mod_deflateによる負荷は1/2-1/3程度まで下げられるはず
0390FOX ★
垢版 |
2005/03/25(金) 00:42:01ID:???0
×　事態
○　時代
0391 ◆MIPS.kHN86
垢版 |
2005/03/25(金) 00:43:14ID:2ApxEl1o0
スピードステップ技術を投入すれば多少は減るのかな
0392動け動けウゴウゴ２ちゃんねる
垢版 |
2005/03/25(金) 00:46:53ID:0TpS8m1q0
で、
.datの差分取得をするクライアントは、
Accept-Encoding:gzipを送らないので、mod_deflateは関係ない。

問題は、各種HTMLを取得するクライアント(汎用ブラウザ)、及び
subject.txtを取得する時
.datを全取得する時
に、mod_deflate経由の圧縮が有効になること。

まさかc.2chが.datを取得する時に圧縮することはないだろうし
とりあえずsubject.txtかな。

あと、確かsquidはVary:Accept-Encodingに対応しているはずなので
squidが圧縮後のデータをキャッシュしてくれているのなら効果あるかも。
0393じじぃ　その４ ◆HETAREzfq.
垢版 |
2005/03/25(金) 00:56:32ID:+EtwiaUg0
>>388
AMDのHammar系列はIntelのNetBurst系列よりは
消費電力が低いはずだす

…なんか現状は、ディーゼル車がガソリン車より値段が高いようなもんなのかのう、、
0394FOX ★
垢版 |
2005/03/25(金) 01:22:05ID:???0
>>393
電気代と比べるのは
場所代とか回線代とかです

つまり総コストに占める割合のはなし、
0395root▲ ★
垢版 |
2005/03/25(金) 01:28:32ID:???0
>>384
費用対効果ですか。

oyster901は現在メモリ4Gなわけですが、これのメモリを8Gに増やして
真の力(仮)をしぼり出させるより、玉数を増やす(例えばメモリ2Gのtigerを2つ入れるとか)の
ほうがいいかもとか、そういう話も含めて、考慮することになりますかね。

あとOpteron242(2004年1月当時としても相当下の方のOpteron)は、
Xeonのいくつぐらいに相当するのか、とか。
最近のOpteronなら、もっといけるのかどうか、とか。

あとは、amd64版のコンパイラの出来とかも、ありえるのか?
あるいはamd64は、圧縮・展開が実は不得意だったとか。
0396root▲ ★
垢版 |
2005/03/25(金) 01:34:11ID:???0
>>388
電気代の件

そういえば、4月に出る(遅れているようですが)FreeBSD 5.4Rから、cpufreqという機能が入るみたい。

20050225:
The cpufreq framework has been merged. As part of this, the sysctls
for acpi(4) throttling have been removed. See cpufreq(4) for the
new sysctl interface. The power_profile script has also been updated,
so you can use performance/economy_cpu_freq in rc.conf(5) to set AC
on/offline cpu frequencies. No new cpufreq drivers have been brought
in with this import but drivers from -current can now be built and run
on -stable.
0397FOX ★
垢版 |
2005/03/25(金) 01:35:02ID:???0
電気はCPUが消費しているんじゃなく
たきさん着いているFANのような・・・
0398root▲ ★
垢版 |
2005/03/25(金) 01:36:02ID:???0
>>392
で、これ面白いので、やってみるです。

今日寝る前に、subject.txtだけ圧縮しないようにしてみます。< ex10
ex10 は専用ブラウザ率が高いし祭り率も高いから、subject.txt 読まれ率が異常に高いと推測。
0399FOX ★
垢版 |
2005/03/25(金) 01:36:03ID:???0
>>384
の一行目は皆さん肯定しているんですか?
0401動け動けウゴウゴ２ちゃんねる
垢版 |
2005/03/25(金) 01:37:58ID:I1vqxWiA0
>>392
ぶっちゃけた話、IEだけでもdat2htmlアドオンがあるだけで違うと思うけど、
アドオンの開発の仕方をしらんのでつくれませんのでこの話は霧散しますた
0402root▲ ★
垢版 |
2005/03/25(金) 01:38:20ID:???0
>>397
えっと、ファンのコントロールとかもあるですね。
きょうびの機械はCPUをゆっくりにすると、それを感知してファンもゆっくりになったりするです。

>>399
個人的には、圧縮かかっている回数が他のサーバに比べて異常に高いんではないかと推測。
で、>>398
0403root▲ ★
垢版 |
2005/03/25(金) 01:41:26ID:???0
というか、温度を見てファンがゆっくりになったりするですね。
CPUがゆっくりになると、温度上昇も少ないわけで。

そういえば以前(去年だったかな)、
低消費電力バージョンのOpteronの搭載を売りにしている1Uサーバのメーカが、
私の知り合いのところに、売り込みに来てたです。
最近はサーバファームも、エコロジーの時代だと言っていました。
0404FOX ★
垢版 |
2005/03/25(金) 01:43:30ID:???0
つまり

軽くなった原因をdeflateを止めたからだと「結論つける」ならば、

を否定したいだけだったり、
これを肯定するなら本当に結論はでてしまっているよ
0405root▲ ★
垢版 |
2005/03/25(金) 01:47:09ID:???0
>>404
私も、それじゃつまんないなと思っています。
で、>>395 の第3パラグラフとか、ex10 は他と比べて圧縮され率が異常に高いんじゃないかとか、
いろいろ考えていたわけです。

確かに deflete はそれなりにコスト高いもののひとつだとわかったわけですが、>>304 に立ち返ると、さてどうなのか。
0406じじぃ　その４ ◆HETAREzfq.
垢版 |
2005/03/25(金) 01:48:36ID:+EtwiaUg0
>>397
6800rpmモノじゃとファン１個当たり0.5Aとか喰うからのぅ

>>403
246だすか？
アレならメモリも今のより早くなりますのう、
DDR400が使えるだす
0407FOX ★
垢版 |
2005/03/25(金) 01:50:05ID:???0
「deflate を止めたら軽くなった」は結論の根拠なんかじゃなく
問題解決への糸口だと言ってくれ〜

もしくは勘違いだったと、
0408root▲ ★
垢版 |
2005/03/25(金) 01:50:48ID:???0
で、これまでの実験から考えてみると、

・HDDはまだ天井を見ていないようだ => まだのぞみがある
・メモリを増やすと、効果は望めるのか => 仮にメモリを8Gとかにしたとして、どのようなチューニングを施すべきなのか
つまり、増やしたメモリをどう使うのがいいのか。OSにまかせるのか、あるいはセッティングを変えるのか

といったところが、要検討な点、、、なのかしら。

oyster243が今たまたま使われていないので、一時的にメモリをひっぺがして、
数日だけoyster901に入れてみるとか。
0409FOX ★
垢版 |
2005/03/25(金) 01:51:52ID:???0
>>406
cobra はそんなのが 10個とか20個ついているんじゃなかったかなぁ
tiger も結構なもんです
0410動け動けウゴウゴ２ちゃんねる
垢版 |
2005/03/25(金) 01:52:07ID:mh1RZsj+0
>>399
データがCPUに行って圧縮されて戻ってくるなわけで上り下りで２倍の
帯域を使うわけでバスがネックになってるとか思い付きを書いてみる
0411root▲ ★
垢版 |
2005/03/25(金) 01:55:35ID:???0
>>407
さて、問題解決の糸口だと言うためには、それなりの裏づけが必要なわけです。

で、どのあたりにその糸口があるのか。
たぶんそれは、次以降の実験フェーズで明らかにしていくべきなんではないかと。

「deflete を止めたら軽くなった」という事実がまずあった。
でもそれだけじゃ、なんかあたりまえなわけです。コストかけなくしたんだから。
というか、別のコスト(= 転送量)に転嫁しただけで。

圧縮をうまくやりつつ、HDDというかI/Oの力を発揮させつつ、
うまく力を発揮させられないか、
というか、>>407 でいうところの解決すべき「問題」とはそもそも何なのか、というところから、
考えてみる必要があるような気がするです。
0412FOX ★
垢版 |
2005/03/25(金) 02:00:01ID:???0
現 ex10 で実験を行っている目的は
逆に live8 では駄目だった理由ですが、

私は投稿数の積分値に置いています。

つまり　一日の投稿総数。
ある瞬間重くなる(突然のアクセス増)をなくするのではなく
一日の総数での極大地をつぐりたい。
次の瞬間ぱっと立ち直ってさくさく動けばいいのですから、
0413root▲ ★
垢版 |
2005/03/25(金) 02:01:02ID:???0
一時的に、「subject.txtだけno-gzip」にしてみた。
この時間だと、あんまり参考にならないかも。

ex10だったらsubject.txtだけno-gzip、という設定は、.htaccess的にどうやるのかな。
0414FOX ★
垢版 |
2005/03/25(金) 02:02:10ID:???0
×　つぐりたい
○　さぐりたい
0415root▲ ★
垢版 |
2005/03/25(金) 02:04:07ID:???0
>>412
ふむ。

持続力というか、サーバのキャパシティの問題ですね。
包容力のある、でっかいサーバをめざす、という方向かしら。

300投稿/分 とか 400投稿/分 の状態がずっと続いても、問題なく動くと。
0416FOX ★
垢版 |
2005/03/25(金) 02:06:49ID:???0
>>415
なぜなら　２ちゃんねるのほとんどの板はそれが重要かと、
例外はlive系だけ
0417root▲ ★
垢版 |
NGNG
liveだけ、とは言わないですが(理由は下記)、圧倒的多数の普通の板は、そうですね。

「どーん」に耐えなきゃいけないのは、live系、eq/eqplusと、あとは私が言うところの「アツい板」達かな。
いわゆる「突沸」するところ。

思いつくままにあげると、anime, shar, keiba, soccer あとどこだろ。
なんにせよ、感情のままに何かが起きるみたいな。
0418FOX ★
垢版 |
2005/03/25(金) 02:16:50ID:???0
んで ex10 における実験で目指したいところは

1) 一日投稿数の増加
2) 一撃からの回復の早さ

です。
1) のためには当然最大速度の向上も必要です 500/min 楽勝とか
0419 ◆Reffi/bQ.c
垢版 |
2005/03/25(金) 02:17:29ID:i5ON7vkv0
deflateが重くする原因は何処なのか調べた方が良さそうですね。
まずはメモリ増設で何処まで軽減するかチューニングしながら様子見するとか
0420じじぃ　その４ ◆HETAREzfq.
垢版 |
2005/03/25(金) 02:18:17ID:+EtwiaUg0
>>408
oyster243、全く使われておらんと？
（BBQはどうなっただすか！？）

ほんとうに全く使ってないなら、243にi386版をインスコすて
ex10の中身をそっくり移すと面白いのかも知れぬ

ソレでOSとcgiの現状がどうなのかがわかるで、
結果として>>395の下段の検証がある程度出来るかもでよ
i386版はかなり練れておるはずじゃからね


…あと、量産型Cobraのメモリは512Mモジュール使用でなかったかのう、
　 高価な1Gモジュール入りはプロトタイプな901、902だけでなかったべか？
　 そのへんどうだったべ？
0422root▲ ★
垢版 |
NGNG
>>420
単純に、増設工事の完了を、待っていたです。
前半は私が忘れていた(たぶんJimさんもメールを見落としていた)だけど。
0423root▲ ★
垢版 |
NGNG
>>420
> …あと、量産型Cobraのメモリは512Mモジュール使用でなかったかのう、
> 　 高価な1Gモジュール入りはプロトタイプな901、902だけでなかったべか？

だったはず。少なくともcobra2244〜2246は512Mモジュールでした。
901 243がどうだったかは、再確認が必要かと。
■ このスレッドは過去ログ倉庫に格納されています