【Love Affair】携帯からのアクセスに対する考察・次の一手 Part2
レス数が900を超えています。1000を超えると表示できなくなるよ。
日増しに増加する携帯からのアクセス。
かつて、羨ブラが生まれたように何かが生まれないと
ならない気がする。
たぶん解決策は、時間を売って空間を買うだと思うけど
いろいろ考察して、次の一手を決めようかと、
Love Affair 作戦。
Part2 大黒埠頭
前スレ
【Love Affair】携帯からのアクセスに対する考察・次の一手 Part1
http://qb5.2ch.net/test/read.cgi/operate/1075887465/ 一度に表示するレス数だけでも設定できるようにできないでしょうか? それよりもレス全文表示の設定出来るようにして〜
省略表示だと見るのがめんどくさ〜
以下のサーバを 2ch LAN (c.2ch.net用)に接続しました。
oyster244
oyster245
banana402
oyster244とbanana402は何に使うのかな? ハードウェア不良で掲示板運用を離脱したbanana402、こちらで戦線復帰ですか。
で、blackgoatはあくまでソフトウェア的解決を目指すということなので、
単純な予想
cobra2244 = c-docomo4
banana402 = c-au3 or c-others2 banana402をBlackGoat2にして、負荷分散で
cobra2244はBBM関連かな? BBMってoyster245でやってたような。(m.2ch.net)
244はドコモの3台目(4台目?)になると予想。 auをpeko鯖にして、
BlackGhostの負荷耐性がどのくらいか
チェックするんじゃなかったけ?
c.2ch.net系列のメンテナンスをさせて頂く事になりました。
docomo3のLAが 20040807 16:00 から、
前比2倍くらいの数値を出しておりますが、
この時間、何か設定等変更されましたでしょうか? じさぼけぼけ。
>>818
おお。(今後とも)よろしくお願いします。
その時間は特に触ってないですね。 >>819
お帰りなさい&よろしくお願いします〜
了解です。
先程、16時前後に最新レスに限って、
xxxxxxxxxx.htmlをリクエストするように仕様を変更しました。
BGのキャッシュヒット率の動向に注目したいですー。 >>820
やっぱり変えたですか。html/の下を持ってきているのかな。
「どうしたんだろう」というぐらい、効果ある模様。
http://mumumu.mu/mrtg/mrtg-rrd.cgi/traffic/ というわけで、クラシックメニューが元のバージョンに戻ったのを契機に、
バックエンドサーバとしてのpekoサーバの能力を実証実験中。
携帯→2ch運用情報スレッド11
http://qb5.2ch.net/test/read.cgi/operate/1091869644/220-240 残りの作業は、
・違ったキャリアのURLへのアクセスから、正しいキャリアのものに誘導するしかけ(難しくない)
・クラシックさんからメールで頼まれた作業をぼちぼち
かな。
で、一両日様子を見た後で、フロントエンドにもsquid入れて、
Apacheがブロックしないように策を練ってみるか。 http://mumumu.mu/mrtg/mrtg-rrd.cgi/loveaffair/
ということで1日動かしました。
まだ継続的な観察が必要そうですが、
blackgoatの倍のヒット率を処理できている模様。
またblackgoat2では、今まで観測されていた
アクセスピーク時におけるキャッシュヒット率の急激な低下=>トラフィックの漏れ出しが
かなり少なくなったようです。
つまり、
ピーク時間に漏れ出るトラフィックが少なくなる => ピーク時間の他のサーバへのdatリクエスがト減少 => 負荷軽減
という効果があったと。 >>827
× blackgoatの倍のヒット率を処理できている模様。
○ blackgoatの倍の時間あたりヒット数を処理できている模様。
おやすみなさい。 まちとぴんくを一旦c.2chに復活させて、実際に転送量がどれくらいあるかをみませんか?
とりあえず黒山羊さん1号に飛ばしてみるとか、
もう一台のbananaを黒山羊さん3号にして、別々にプロキシ設定してみるとか、、、
ところでFOXさん、まちも分離の方向でよいのですか? >>829
桃色系をblackgoat1号で処理して統計とるというのは、
仮にPINKちゃんねる側で今のc相当のものを準備する場合、
どの程度の設備が必要かの判断に使えそうですね。
PINKちゃんねるは現在拡大路線なので、これによって必要な設備規模がわかり、
かつ設備に対する効果が有用であるという判断がなされれば、
はれて投入の道も開けるかと。
ということで一時的に期間限定で復活させて、データとってみますか。
blackgoat1号のほうは、昼ぐらいまでにいったんキャッシュクリアして前準備しておきます。
>>830
そうですね。
Banana1台ですむのは明らかだろうけど、
実際にどのくらいの規模なのかいまいちつかめないので、、、
ソースの方はいじっておきますので、準備が出来たら連絡ください。 設定したです。
c-au2(c-docomo1)が重い。。。
どうしたんだろう? ping traceroute それぞれは通りますが、http 、ssh は不出。 ftp 劇重たいですね。。。@banana404 おつでした。
たしかにようすがへんだ。みてきます。> c-au2 数分でログインはできる模様。
>>835
あ、ちょっと待っていただけると。 9:21PM up 21 days, 12:43, 2 users, load averages: 333.31, 283.91, 192.05 >>840
おつです。
新しく入れたPHPをキャッシュするところで何か起こったのかな?
それとも、変更したもののバグ? >>837
I'm freeze it.(^-^;) なんだかわかりませんが、httpdが超高負荷状態に。
エラーログにはこんなものが。
httpd in free(): error: recursive call
httpd in free(): error: recursive call syslogとかには、ハード異常とかそれっぽいのは見当たらないなぁ その他のログにも、変な形跡はない模様。
更新したところで起きたようなので、アクセラレータとのからみの問題か、、、。
しばらく観察ということで。 やっぱり、スクリプトを入れなおしたときに、何か起こったのかな。。。。 >>830
広告関係でオーナーから物凄いクレームが毎回来るので
出来ればやめて欲しいです(or 物凄く短期間にして欲しい)
頼みます、頼みます、
何度激しく起られたことか、、、 >>847
了解です。
1日限定ならOKかな?
もっと短く? まずは、2ちゃん管轄の広告を消しましょうか?
あと、可能であれば、ぴんくちゃんねる管轄の広告をだすとか、、 実験でやるなら、やらないで欲しい、
向こうも広告の方は統計とっているので直ぐに変化がわかるから、
完全に分離してくださいー
つまり c.2ch.net からは bbspink.com はどんなことがあってもアクセスしない。
たぶん そのうち deny等 する事になると思います。
よろしくお願いします。 >>847
そういう事情ですか。
では、24時間限定でいきましょう。
明日の14:00でばっさり止めるということでいかが。
で、>>849 は、c.bbspink.com (仮)とかを作る方向で考えればいいかなと。
( 参考 >>830 ) 了解です。
じゃあ、中止しましょう。
ぴんくちゃんねるで、本当にc.bbspink.comが必要になったら、その時にやりましょう。 (1)今すぐやめる
(2)1日限定
(3)c.bbspink.com(仮)を作る
どうしましょうか? 質問です
c.2ch.net を一週間ぶっつづけでダウンタイムなしで動かすには
どうしたらいいのだろう?
さらに一ヶ月だったら? >>850 >>852
了解です。
そこまで理由が明確であれば、「分離する方向で」ではなく「今後完全分離」かと。
c.bbspink.com についてはbbspinkの板などと同様、bbspinkのオーナー・スポンサー方面の意向で。
>>854
私は「明日の14時までに限定、今後c.2ch.netでの復活なし」でよいと思いますがいかが。 >>855
系全体として、c系のサービスダウンをさせないように、という意味だと理解しました。
金がかかる方法(力技)はたぶんいろいろあるけど(わりと確立している)、
できるだけ知恵で解決できないか、というのが質問の趣旨かしら。 >>857
すべての方法の中から、最善手を考えたいです。
「サーバを六台投入すれば一ヶ月もつ」とかが知りたいです。 なるほど。>>858
それじゃ、これまでわかったことを下敷きに、グランドデザインを考える必要がありそうだ。
大方針a)落ちないように、専用の機器等を使ってガチガチに固める
大方針b)落ちるものと仮定して、一部マシンが落ちても大丈夫な構成でシステムを組む
が、まず大きな分かれ目になりそうですね。
# 個人的にはb)乗りです。 で、「見切り」をどこに作るかが次のステップか。
例: フロントエンドとバックエンドを接続しているネットワークはこわれないとみなし、二重化しない、等 勝手にいろいろい仮定して一つの案を出してみると、
仕組み的にはこれまでやってきた方法の延長線上でok
(新しい仕組みを作るにはさらに数ヶ月かかりそうだから)
で、知恵も絞りつくしてあとは若干の性能向上が見込めるだけ、
ということは、物量作戦なのかな?
BlackGoat 二台増設
au banana 四台増設
docomo cobra 四台増設
others banana 二台増設
c.2ch.net banana 一台で独立
これだけあれば九月を乗り切れる
とか、 ちと、今日はしばらく忙しいので手短に。
>>862
つまり横並び作戦(当初路線の延長線上でいく)ということですね。
どのパーツがどのくらい必要なのかは、これまでとった統計情報から見積もってみるかんじで。
あと試してみたいソフトウェア的な知恵としては、
フロントエンドにsquidを入れて、httpdが満員にならないようにするぐらいですかね。
それか、キャリア毎に分けるのをやめてしまうとか。。。
BlackGoat banana 二台 (取り込む鯖で分ける)
c-x cobra 四台 (同じスペックの方がいいんだよね)
c.2ch.net banana 一台 (ロードバランサ)
BlackGoatの増設だけで結構いけるんじゃないかと思ったりするんですが。 今のところ、au、docomo、otherに分けている目的って分析だけ? キャリア別フロントエンドは既定事項
理由・目的は誰かさんの深謀遠慮 アクセス数が横ばいなら、BlackGoat増強だけで解決しそうですね。 いまのところ、bbspinkは2chのほぼ1/10程度ですね。
浸透していない、かつ、r.i/p.iが生きているのでこれくらいなのかもしれませんが、、、
キャリアごとに分けるの止めると、フロントの数減らせそうだけどな。
あと、一台が落ちても他のに分散して耐えしのげそうなんですけど。
どうなんだろ?
>>823
現在の構成をこのスレッドに書いていただけるとありがたいです
>>507 からどの様に変化しているのですか? >>872 FOXさん
フロント側の構成は>>507で変更ありません。
>>507の時は、BlackGoatにbanana406を使っていましたが、
アクセスピーク時(22:00頃〜2:00頃)におけるキャッシュヒット率の急激な低下
つまり、トラフィックの漏れ出しが発生していました。
そこで、ためしにcobra2244を使ってそのあたりが改善するかを調査中です。
つまりこうかな?
フロント(受付嬢)
c.2ch.net (banana405)
|- c-au1 (banana403) -|
|- c-au2 (banana404) -- 二台でロードバランス
|
|- c-docomo2 (peko247) -|
|- c-docomo3 (peko246) -- 二台でロードバランス
|
|- c-others (banana405) - c と共用
バック(黒山羊さん)
BlackGoat #1 (banana406) - 休止中
BlackGoat #2 (cobra2244) - 稼動中 >アクセスピーク時(22:00頃〜2:00頃)におけるキャッシュヒット率の急激な低下
>つまり、トラフィックの漏れ出しが発生していました。
>そこで、ためしにcobra2244を使ってそのあたりが改善するかを調査中です。
この部分なんですが、背景等を解説していただけるとありがたいです
1) キャッシュヒット率の低下がなぜ起るのか?
2) なぜcobra2244 (pekoサーバ) を使うと解決すると予想したのか?
等々
>>875 FOXさん
そのあたりの技術的なものは、rootさんに正確に答えてもらった方がいいと思うので、
rootさんの回答待ちということで、、、
一応、1日経過時のrootさんの考察が>>827-828にありますので、参考にして下さい。
現在のシステムでは、bananaなBlackGoatでは処理能力不足
そこで、
(1)BlackGoatへのリクエストの量を減らす → 簡易版メニューでの実験
結果、多少改善されたが、負荷ピーク時はBlackGoatに繋がらない状態が頻発
(2)BlackGoatの処理能力を上げる → Cobraで実験
負荷ピーク時でも、BlackGoatに繋がらない状態は起こっていない
次は、じゃあBlackGoatに必要な処理能力はbanana何台分?
になるのではないかと思います。
bananaに搭載されているPen4コアって北森ですか?ぷれすこですか?
用途を考えるとL2の容量差もヒット率の違いに絡んでいそう。
仮にそうでなかった場合は
・peko/Cobraもう一台をblackgoatとして投入
・各フロントエンドサーバと各blackgoatの間は
すべてGbE化して間にロードバランサを挟む
ぐらいのことをかんがえないといけなくなるかも・・・。 >現在のシステムでは、bananaなBlackGoatでは処理能力不足
この処理能力が何を指しているかを顕在化させたいんですよね、
そして「結果的にCobraでよかった」じゃなくて、何がどうなったから
Cobraでよかったと言いたいんですよね、そうしなきゃ無駄な投資を
してしまうですー データベースが同じならCPUの違いで
キャッシュヒット率が変わるのかなあと呟いてみるテスト いろいろ書きたい事/レスすべきことがありますが、ちょっとあとで。
14:00過ぎたので、c系から大人の時間を削除してくださいー。>両氏 あれ?大人の時間、なんで復活しているんでしょう・・・?
取り合えず、作業はいります。 >>882
完了です。
c.2ch系列からは完全にアクセスしなくなったはずです。 >>882
どもです。
1日だけ復活させた経緯は、このスレの>>829あたりから。 本業ばたばたですんませんが、とりあえずざっくりと観察結果を。
2ch : bbspink = 1 : 1/10〜1/12
bbspink系は、
20:00から上昇カーブに入り、2:00あたりまで上昇曲線。
概ねPCの転送量と傾向は同じだが、
PCよりも1〜2時間ぐらい、ピークがうしろにある。 blockgoatがdat取得するの2分ごとに一括更新の同期式?〉転送量の上下が激しい
それともdatごとに更新の非同期式?〉転送量はなだらかに
2ちゃんねるLANにつながっていて
未投入なのは投入しちゃった方がいいような、 >>887
今使ってないのはbanana402かな。
blackgoat1号機も使ってないか。
今帰省先なので、>>875- のQも含めて、月曜以降にいろいろと。
>>875 にようやくレス。
Cobraを使うと解決すると予想したのは、I/Oの速度の向上への期待です。
旧blackgoatでは、ロードアベレージの上昇はそれほどでもないのに、
アクセス集中時にログインすると、対話的パフォーマンスの低下が起きていました。
(コマンドを入れると詰まる感じ)
systat -v/iostat等で、ad0/ad1がめいっぱい使い切られていると思われる
兆候が見えていました。
(ディスクは、ccdを使って2本のディスクをストライピングで使用)
squidのログを確認すると、かなりの割合でキャッシュからデータが獲得できなかった旨の
エラーが出力されていました。
ネットワークの統計からは、この時点ではまだ帯域は使い切っておらず、またパケットの
取りこぼしや再送も、発生していないように見えました。
squidは400Mぐらいメモリを使っていましたが、メモリが不足している兆候は
まだ見えていませんでした。
このような状況から、
・CPU usageはまだめいっぱいではない
・ネットワークもまだ破綻していなかった
・ディスクI/Oが目いっぱいまで使い切られていた
=>squidのソースを読みきれていないが、ディスクI/Oが目いっぱいの状況の時に、
キャッシュヒット率が悪くなっていることから、ディスクI/Oの速度を上げれば、
キャッシュヒット率が向上し、系全体のパフォーマンスも向上するかもしれない
と、判断しました。 >>879
ということで、
> 何がどうなったからCobraでよかった
ですが、私の判断ではディスクI/Oパフォーマンスの向上が
最も大きいと考えています。
ディスク構成:
blackgoat1号機:
・同一バス上に接続された80G UltraATA100 IDE 7200rpmディスク2台
・IDEはオンボード、32bit
・FreeBSDでストライピングを設定
blackgoat2号機:
・別々のバス上に接続された36G Ultra320 SCSI 15000rpmディスク2台
・SCSI cardは64bit PCIで接続、64bit OS
・FreeBSDでストライピングを設定 どもです どもです
http://server.maido3.com/pie/graph/oyster244.gif
さらに質問ですが
このグラフを見る限り、深夜ピーク時キャッシュヒット率が以前よりは
向上していると見られるのですが、あってますか?
さらにヒット率をあげることは可能なのでしょうか?
また 現 BlackGoat#2(peko244) の使用率はどれくらいと推測しますか?
つまりまだまだキャパシティがあるのかどうか・・・ で、>>887-888
banana402: 純粋banana+Intel Ethernet card
memory512M, 10M帯域制限
banana406: 強化banana+Intel Ethernet card (2 I/Fs)
memory1G
投入するとしたら、banana402がcの二重化(現在はcが落ちると全部(りゃ)、
負荷上昇が目立つc-au系の3号機あたりか。
他に何か案は↓ つまり管理人から御代として出されているディレイ60sec実験なんですが、
受付嬢は直接的には何ら変化が無いと予想できるのですが、
(めぐりめぐっての変化はあるかも)
BlackGoatは単純に出口というか入り口というか
2ちゃんねるの各サーバにつながっている方は二倍の量になり
キャッシュしている dat の書き換えも二倍になると予想されるから、
という話しなんですが、 >>892
あってますね。明らかにヒット率は向上しています。
使用率は、きちんと計測しないといけないところですが、
ディスクI/Oはまだなんとかなるかなと。
ただ、2ちゃんねる用ネットワークのほうが、100Mbps接続でもうかなりめいっぱいに近いですね。
http://mumumu.mu/mrtg/mrtg-rrd.cgi/traffic/blackgoat2-privatetraf.html >>893
banana406 が他のau機とスペックが同じでしたっけ?
banana402 がちょと違うスペックで、
>>894
60secにして今のblackgoat2が耐えられるか、ということですね。
どうだろうか。正直、やってみないとなんともいえないところかも。
いままで、ここまでProxyサーバをいじめて使ったことがないし。
>>895 で指摘した、フロントエンド <=> blackgoat2 の間は、
例えばblackgoat2を1G接続にするとかできれば、まだいける気がするです。 >>896
banana403, 404, 405, 406は全く同じH/Wですね。
bananaベース、メモリ1G、Intel Ethernet I/F x 2
banana402は他のbananaサーバと同じ(メモリ512M)に、
Intel Ethernet I/F x 1を追加したものにみえます。 レスが入り乱れますが、
>>895
2ちゃんねる各サーバ ━む→ BlackGoat ━ら→ 受付嬢 ━さ→ 端末
とした場合の 「む」の部分が 100M 目いっぱいになっているってことですか?
解決策はあるんだろうか・・・
というか その部分の容量 GigaBit じゃ無いんですか? >>898
ということは
banana406 = c-au3
banana402 = c の独立 or/and 多重化
に一票。
c-docomo はどこから捻出してくるか。。。
Tiger511,512 を BlackGoat に入れて
Peko機はdocomo用受付に転出か・・・ >>897
今日の夜やってみますかー?
みんなの準備が整えばですけど、
んでだめだったら即時撤退ということで、 >>899
「ら」の部分ですね。
「む」はまだ平気かと。
そこの部分は自動判別で接続してますが、100Mbps full-duplexであると認識されています。
ここは内部ネットで他の部分に影響ないので、スイッチの設定変更でいけるのかな? >>901
設定変更は簡単なので(blackgoat2のsquidの設定を変えるだけ、c-xx側は特に変更なし)、
できると思います。やってみるか。 >>902-903
実験するのであれば「ら」をGbE化してからやってみる提案をしてみる。
「ら」はただでさえトラフィックの集中するところですからね。 >>903
そっすね、やってみよう。
今変えちゃうとか、
現状の設備でどうなるかを観察したい、 >>904
この実験では 「ら」の部分には影響を与えないのでは? >>905
変えてみますか。
では15:45あたりにやってみます。 「ら」は、dat/subject.txtの要求に対する応答部分なので、
今回のには影響しないとおもいますです。>>904 >>906
ああ、そうですね。「む」のトラフィックを倍増させるだけですから。
ただ、状況次第では影響はありそうですがね。 レス数が900を超えています。1000を超えると表示できなくなるよ。