【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part17
■ このスレッドは過去ログ倉庫に格納されています
peko作戦について語るスレです。 サーバロケーションPIEに関する話題もこちらで。 <現在の主要なテーマ> ・oyster243(BBQ/dnscache)の突然死対策&cobra2245セットアップによる2台体制化 ・oytser902(memories)のFreeBSD 5.3化 ・「雪だるま作戦」による、スケーラブルなサーバ群構築 ・read.cgi/bbs.cgiの細かな調整・詰め ・携帯サーバのプライベート側スイッチのグレードアップ検討 ・各種作戦・プロジェクトとの連携 ・FreeBSDのさらなるチューニング詰め <関連スレッド> ■新春特別企画「雪だるま作戦」liveサーバの飛躍なるか!? Part1 http://qb5.2ch.net/test/read.cgi/operate/1105035540/ ■ 自動地震速報@2ch をつくろう http://qb5.2ch.net/test/read.cgi/operate/1106583619/ ■ テレビ番組欄@2ch をつくろう 第2話 http://qb5.2ch.net/test/read.cgi/operate/1107366393/ <関連サイト> レンタルサーバー maido3.com 2ちゃんねるの転送量: http://server.maido3.com/pie/ MRTGによる統計情報: http://mumumu.mu/mrtg/ 2ちゃんねる/PINKちゃんねる 稼動中のサーバ一覧: http://mumumu.mu/serverlist.html <前スレ> 【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part16 http://qb5.2ch.net/test/read.cgi/operate/1102087698/ >>146 日本は対地震対策では先進国ですからね。 こんなウォーターフロントにでさえ、超巨大なデータセンター建てちゃったり。 http://www.attokyo.co.jp/ oyster243の現ディスクイメージをmemoriesにダンプ中。 ぼちぼち、cobra2245と同じRAIDカードの手配を依頼する予定。 oyster243 バックアップ完了。 halt -pで電源落としました。 Jimさんにcobra2245と同じRAID 1カードの手配とOSのインストールをお願いしました。 完成後、BBQを2台体制へと。 news18 なんですが、 FTPでloginしたとき 移動できないフォルダがあるのと すぐ切れちゃうのに困ってます ex7が昨夜死んだ問題ですが、どうもmksnap_ffsがごくたまにうまくいかないことがある予感。 今はうまくいってちゃんとdumpが動き出したので、大丈夫かなと。 この現象はこれまでex7が一番頻度高いので、 やはり24時間いつでも忙しく書き換わっているディスクだと、 虫を踏む可能性も高まるということなのかも。 こっちの方がいいか、 >>162 RAID1化したらbackup作業しなくても良くなる? 最大能力が下がるからそんな事は考えないほうが良い? それとも dat落ち時に二台目のHDにもコピーするとか 別の事を考えたほうが良い? ミラーリングならバックアップは無くてもいい「カモ知れません」ですね。 最大能力はシングルと変わるコトは無いと思われます。 ただ,ミラーリングだと今の高頻度アクセスが分散されるわけではないので, 2台ともどっかんという可能性も無きにしも非ず。てな感じすかねー おぉ、こっちですか。 下記に書いたこと以外には、、、。 処理能力は、それなり以上のRAID1カードを使えば、それほど落ちないはず。 datももちろんですが、例えばcgiのソースとか掲示板システムのこととかも、少し考えてました。 いつでも同じ手順でバックアップから戻せばいいのは、やはり楽なんで。 http://qb5.2ch.net/test/read.cgi/operate/1106798949/583 583 名前:root▲ ★[sage] 投稿日:05/02/21 19:13:11 ID:???0 >>580 RAID1化は系としての信頼性を向上させますが、 容量が半分になるんで、その対策が必要になりますね。 HDDの容量を倍にするかんじで。(36G x 2 => 72G x 2でRAID1) ex7だと既に掲示板だけで10G以上使っているので(しかしみんなよく書くすね)、 合計が36Gx1になると、ちと不安かもです。 あと、間違ってばさっと掲示板システム上の何かを上書きしちゃった場合に x日前の状態(x < 7、日曜夜が起点)に戻すのが、できなくなります。 でもこれは「そのときはあきらめましょー」という形態にする、というのも、ありです。 個人的には、掲示板側の日々のバックアップはあんまり省略したくないなぁと思っていたり。 (システム側は正直、よいのです。また入れればいいだけだから) >>164 それも、ちょっとあるですね。<どっかん そういえば昔、私にいろいろ教えてくれた師匠は「RAIDを過信するな」が口癖でした。 確かにRAIDって、だめになるときはいきなり全部だめになりますからね。 データの保全には3つの種類があると思う。 1.リダンダト 2.バックアップ 3.アーカイヴ RAID1ミラーリングはredundantで堅牢性をあげるだけ。 つまり故障に対する対策だけ。これをリダンダントという。 そしてバックアップとは。 OSやソフトや操作をヘクって間違ったデータを書き込んだり誤消去することへの対策。 過去に名pcサーバーの移転で誤消去があったので必要性は十分。 アーカイブとは、蓄積されたデータを何らかの形で保存すること。 1.はどの段階にも必要な要素。 しかし1.が出来ているからといって2.が不必要なわけではない。 同様に1.と2.が出来ているからといって、3.が不必要なわけではない。 つまり「RAID1でミラーリングしているからバックアップはいらない」というのは バックアップという言葉の意味に2.や3.が含まれてしまっている。 本当はリダンダントが実現しているからといってバックアップは不要ではない。 find.2ch.net 210.135.97.161 -> 210.135.97.29 変更お願いします http://qb5.2ch.net/test/read.cgi/operate/1108830303/592 592 :ひろゆき@どうやら管理人 ★ :05/02/22 17:15:19 ID:sNJciQmQ ?## 2chのzoneファイルを find A 210.135.97.29 に変えてもらおうと思ったら、ジムがいない。。。 >>168 ですけど、 (今) +find.2ch.net:210.135.97.161 (設定後) +find.2ch.net:210.135.97.29 になるんでしょうか? 違ったらスマソ>root先生 find.2ch.net のMXレコードの内容をどの様な 内容に修正すれば良いかご指示下さい。 @find.2ch.net:210.135.97.162:300 修正前の登録情報では、AレコードのIP アドレスは 210.135.97.161、MXレコード では1番違いの 210.135.97.162 となって おりました。 現在Aレコードは指定のIPアドレスに変更 しましたが、MXレコードは未修正のまま となっております。 >>169 It's correct. >>171 これは、ひ(りゃ の指示待ちすね。私にはわかんないです。 user@find.2ch.net のメールを、どう扱うか。 今のままでいいのか、あるいは帰るのか。 >>177 ノシ 工事の明確な時間とかわかればお願いしますです。。。(´・ω・`) >>177 local-host-namesにいままでfind.2ch.net無かった‥orz 足しときました。 >>182 あ、ブ(りゃ の中の人だ。 ごぶさたです。 ちわちわ。 色々お手間かけてすみません。 &ありがとうございます。 >>177 aa5の代わりの新型牡蠣鯖マダ―(・∀・)―ン 物凄い低コストで実行中のプログラムから LA を取る方法ってありますか? C , Perl おっ そりつかって、、、 高LA時のread.cgiの挙動を変えるのに挑戦してみよう。 意味無かったら止めるけどさ、 お、これは例の ex9 的対策(半自動で人大杉にするとか)かしら。 LAだけだと、微妙かもですね。 bananaのLA=10は今の状況だと正直もうだめぽだけど、 tiger/cobraのLA=10はまだ余裕とか、そのへんのバランスは考慮したいかも。 (昔なつかしい「お茶飲め」と同じ理屈です) このへんは、何らかの形でconfigurableにすればいいのかな。 ex7で「ミニ雪だるま」の実験をはじめた。 具体的には、port 80にsquidをかましてみた。 squid + mod_rpaf を利用。 httpdは、127.0.0.1経由でアクセス。 どのくらいキャッシュが効くかとか、果たして意味があるのかとかは、未知数。 しばらく観察ということで。 >>191 mrtgはとってますでしょうか ・・・とおもったけど、既存のex7の統計の変化でわかりますねw というわけで、備忘録。 【ミニ雪だるま作戦】ex7で15:30ごろまで書けたのに急に書けなくなった人はこちらへ http://qb5.2ch.net/test/read.cgi/operate/1110179194/ で、 117 名前:root▲ ★[sage] 投稿日:05/03/07 16:43:34 ID:???0 今のまとめ: ・YBBから書き込めない、スレ立てできない ・一部2ちゃんねるビューワでスレ取得時に416エラーが出る ・〃スレ取得ができない場合がある(たぶん原因は上と同じか) ・i.i2ch.netとかt2 t3とかから見られない・読めない・書けない、c.2ch.netからは正常 といったところか。 一部.jpなISPからも、書けない人がいたのかも。 YBBから書き込めない、スレ立てできない、は、なんとなく理解できたんで、 対策できると思います→設定の問題 416エラーは、Apacheとsquidの相性の問題とか設定の問題がありそう→精査が必要 i2ch.netやt2/t3からだめなのも、たぶん上と同じか。 あと、squidの状況としては、 httpd_accel_with_proxy on で cache_dir aufs /usr/local/squid/cache 128 16 256 の方が、 cache_dir null /tmp の時よりも圧倒的にシステムの負荷が少なかったので、 ローカルキャッシュありの方が、やはりよさげか。 MRTGのほうは、どうだろう。 refresh_patternのところの、override-lastmod と reload-into-imsは、 やめたほうがよさげ。< 416 エラー対策 negative_ttl 0 にしないといけないっぽい。 いろいろ検索していたら、こんなの出てきた。5年前か。 2chのサーバとしてFreeBSDを採用してみる例 http://piza.2ch.net/log/unix/0008251/957884791.html ミニ雪だるま実験 続き ex7.2ch.netだけでなく、tiger503.maido3.comや206.223.150.110でもアクセス可能にした。 YBB書けない問題は、mod_rpafにパッチをあてて対応した。 416エラーは、squidをrange_offset_limit -1にしたら出なくなった。 これからのチェックポイントと解決すべき課題 ・雪だるまのローカルキャッシュが、どのくらい働くのか ・雪だるまのhttpアクセラレーションが、どのくらい働くのか ・i.i2ch.net / t1 t2 t3 が動かない問題の解決 残るTODO: ・携帯プライベートネットワーク用スイッチの件 ・oyster243の件 本日は、ここまで。 squid のソースをざっと見てみると,どうやら HTTP/1.0 ベースで作られているようですね. HTTP/1.0 では,リクエストに Connection ヘッダがない場合のデフォルトが close なのが http://qb5.2ch.net/test/read.cgi/operate/1109941496/845-847n の原因かと. また,chunked 転送ができないので Content-Length 指定のない CGI 出力などは Keep-Alive にはできない,と.HTTP/1.1 利用なら Apache の mod_proxy となりますか. あと,read.cgi 出力の効果的なキャッシュのためには,やはり Last-Modified 吐いた方がいいのかも...... >>202 を見ると、ローカルキャッシュのヒット率が30%ぐらいですね。 ディレイ0秒、しかもcgi出力のキャッシュなし(下記)でこの成績なのは、なかなか。 acl QUERY urlpath_regex \.cgi cgi-bin \? no_cache deny QUERY 確かにHTTP/1.1なら、Apacheのほうがいいかもしれないですね。 Apacheでやるとなると、客の相手するやつはやっぱりworker MPMですかね。 別サーバなら、preforkでもいいのかもですが。 そういえば、Last-Modifiedがないんですね。 だとするとキャッシュさせても、あんまり意味がない予感。 以降は、雪だるま作戦かな。 TODO: memoriesのアクセスログを1つに出力する 難易度: 楽 ★★★ ひさびさにPV(ページビュー)当てクイズでも・・・ Part1 http://qb5.2ch.net/test/read.cgi/operate/1104955745/194-195 ディスクキャッシュは、掲示板型だと(特にex7やlive系だと)、 逆に重荷になるらしい。 雪だるま作戦のスレでもSunOsさんが書いていたけど、メモリキャッシュにいかに乗せるか、 が、重要なポイントらしい。 あと、後ろに回したhttpdは、KeepAliveをそのままで動かしていると、 Kばっかりになって逆効果になる場合も、どうやらあるらしい。 といったところか。 # request_header_max_size 20 KB # for long URL of offlaw.cgi request_header_max_size 40 KB と、 # reply_header_max_size 20 KB # for long URL of offlaw.cgi reply_header_max_size 40 KB を、増やした。下のほうは、念のため。 で、 liveb1をフロントエンド化へと。親はlive15で。 menu.2ch.net 土地作りしました。 PV計測の仕掛けを導入済み。 とりあえず、これで見えます。 http://menu.peko.2ch.net/ ということで、以下のDNS登録依頼を。 +menu.2ch.net:206.223.151.10 >>212 確認したです。 http://menu.2ch.net/ さて、これからアカウント情報発射しておきます。 ・ひ(りゃ ・おじさん ・まほらさん ・サザンさん ・ボヤッキーさん こっち向きの話なので いつの間にか正式リリース予定が近づいていたり Upload to ftp-master. 2 Apr 2005 ttp://www.freebsd.org/releases/5.4R/schedule.html >215 暇だったのでさらに調べたところ、6.0も今年中に来そうでしかもその際にGCC4.0を 標準搭載する模様です。 もう、5.4-PRERELEASE ぐらいのはず。 こんどのはかなり安定度上げる方向みたいですね。 個人的には、ひそかに期待していたりします。 いや5.4Rは4/4の予定だけど、順調に遅れてます。 ということで、DNS登録依頼いきます。 まずは第一段階、ex10とlive20の追加。 (新規追加) +ex10.2ch.net:206.223.151.225 +live20.2ch.net:206.223.150.110 土地作りはできています。 ex10 と live20 に、fox.cgi のしくみを入れました。cron設定済み。 この後の流れ: 1) DNS登録 (>>220 ) by maido3.comの中の人 2) ex10とlive20に掲示板システム入れ込み 3) ex7の板をex10に、live8の板をlive20に全部移転 4) ex7とlive8の中身を全部memoriesに.退避 5) ex7とlive8のDNSの変更 6) ex10とlive20のF22のへの登録 by 受験生さん 7) 同、配布スクリプトとかへの登録(バーボンとか、ファイル配布関連とか) 8) 必要ならbbyliveの更新とか 9) memories内のread.cgi配布プログラムへの登録とか、ひ)りゃが作ったやつへの登録とか 10) httpdの数やら-M値やらを再設定・調整しなおすとか 11) 禁断の果実・SuExec・read.cgiのリミッターを調整しなおすとか あと、私のほうでは稼動後に、 某MRTGの更新 某serverlist.htmlの更新 監視所の中の人たちに、例のやつをお願いする >>223 みえますかね。 見えるなら、たんたんとやりますか。 http://ex10.2ch.net/ http://live20.2ch.net/ まず、ex7 => ex10 、次に live8 => live20 というかんじで。 ほいほーい もうすぐ出発だから、本格的には今晩かな、、、 一旦止めてざっくりやる方式の予感。 本日深夜or明朝 live8 , ex7 全部止まります >>225 了解です。ざっくり方式すか。 そのつもりで あら、暴発(なんか最近多いな)。 そのつもりでいます。 で、単独スレ立てといたほうがよさげなんで、そのへん、やっときます。 どうも。大丈夫そうですね。 じゃ、今夜にでも作戦開始で。 【転校生作戦】ex7とlive8の板たちは一時的に全部止まります[3/15] http://qb5.2ch.net/test/read.cgi/operate/1110865649/ 【Project Peko】 ついに再発動おめでとうございます。 oyster901の真の実力が明らかになるときがキタ━━━━━(゚∀゚)━━━━━!!!! さて、どうなることやら。>>234 ex7(= tiger503)は、300投稿まではゆとりでこなしました。 でも、400投稿はふうふうでした。500はもうだめぽでした。 HDDはtiger503と同じしろものなので、実際には同じところで止まるかもしれません。 メモリは、倍載っています。これがうまく効く事を期待していますが、さて、どうなるか。 もちろん、OSが64bitでメモリアクセスが高速なことは、プラスに働くと信じています。 つか、関係スレを読まずに質問ですが、901を雪だるまに使う、ということでせうか? そのへんがようわかりませんが。 雪だるまはいろいろな局面ですね。 まずは、live15 + liveb1 あたりかなと。 ネットワーク工事はさすがに今週中には終わるだろうから、 来週あたりからそっち方面は、ぼちぼちと。 >>237 らじゃ ということは今回の件は雪だるまとは別件? >>238 今後ex10やlive20で関連する実験をするかもしれませんが、 直接関係するわけではないですね。 単に、サーバの限界値をみたいということで。 ex10.2ch.net ↓ 206.223.151.225 ↓ ('・c_・` ) @ oyster901.peko.2ch.net ですよね? 可能なら逆引きおながいしますーm(_ _)m >>221 1) 2) 3) 6) 7) 8) 9) 完了 4) live8 完了 ex7 進行中 10) 11) 明日以降、動かしながら 5) いきます。 以下のDNSの変更をよろしくお願いします。 (現在) +ex7.2ch.net:206.223.150.110 +live8.2ch.net:206.223.151.225 (変更後) +ex7.2ch.net:206.223.151.230 +live8.2ch.net:206.223.151.230 ex10, live16, live20 で、禁断の果実(speedy_backend直接起動)を有効にしました。 この影響で、ex7とlive8の過去ログが一時的に見られなくなっています。 >>243 が終わってDNSが浸透すると、復活します。 >>244 ex10、speedy_backendの暴走が起こりますね。 結果、speedy_backendがたまっていく。 ex10だけ、一時的にはずしました(元の状態)。 今のex10のセッティングは1280 + -M32。 >>245 /usr/local/bin/speedy_backendを以下のシェルスクリプトに変更し、 本物は/usr/local/sbin/speedy_backendに置いて、 ex10の禁断の果実を再度有効にした。 #! /bin/sh - # speedy_backend with CPU time limit # created by mumumu, 2005/3/16 ulimit -t 120 exec /usr/local/sbin/speedy_backend $* >>246 今1プロセスspeedy_backendの暴走が起こりましたが、 ちゃんと120sec(2min)になった時点で自爆することを確認しました。 これで、相当耐久力あがったはず。 live16とlive20にも入れてこよう。 >>247 done. 落ち着いたら、ex10実験スレを立てるか。 ex10だけどんどん暴走プロセスがたまっていくので、 -t 30 にした。 live16 / live20 も -t30 にした。 あと、5分に1回動く統計処理を軽くする必要があるかな、とチラシの裏。< ex10 実際に使ってるかわからないけど重要修正のようですので投下しておきます。 [patch] ip_fastfwd.c: fast forward will crash the system in 5.x ttp://www.freebsd.org/cgi/query-pr.cgi?pr=kern/78893 >>253 どもです。 2ちゃんねるのサーバは、net.inet.ip.fastforwarding=0 っすね。 ■ このスレッドは過去ログ倉庫に格納されています
read.cgi ver 07.5.5 2024/06/08 Walang Kapalit ★ | Donguri System Team 5ちゃんねる