2ch特化型サーバ・ロケーション構築作戦 Part21

**root▲ ★** · NG

2ch特化型サーバ・ロケーション構築作戦のスレッドです。

・２ちゃんねるのサーバロケーション、PIEに関する関連作業・調整事項
・DNS登録・変更関連の各種作業や調整事項
・２ちゃんねるのサーバで採用しているOS、FreeBSDに関する情報・調整事項
・各種作戦・プロジェクトとの連携、プロジェクト間の連携

等を取り扱います。

現在、複数サーバによる連携により、
サーバ能力のさらなるスケールアップをめざすための「雪だるま作戦」が進行中です。
しかし、問題はあらゆる意味で山積の状態です。

また「２ちゃんねる証券取引所」をはじめとする「株」関連や「Be」の機能強化、
あるいは、次世代の携帯アクセス環境をめざした「べっかんこ作戦」の状況など、
気候も暖かくなり、そろそろ気になりだす季節にさしかかりつつある今日この頃、
あいかわらず２ちゃんねるは、刻一刻と確実に変化し続けています。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/28(日) 10:07:27

CGI.pmって重くないですか？

**動け動けウゴウゴ２ちゃんねる** · 2006/05/28(日) 10:22:12

書き込みバーボン(レス)は BBS を使ってるから、書き込みが成功しないと
読み込みバーボンまでDenyにならないといううわさがあるんですが、あれって改選したんですかね

**動け動けウゴウゴ２ちゃんねる** · 2006/05/28(日) 10:22:41

△読み込みバーボンまで
○読み込みバーボンが発動するまで

**root▲ ★** · NG

>>688
comic6 と tmp6 は、両方とも今回の件で
ウイルスがバグってループになったっぽい気がしますね。
bbs.cgi 叩かれまくりか。

新しい環境でも書けているウイルスは存在するのかしら。

**root▲ ★** · NG

アンカーミスりました。>>688

>>688 については、CGI..pm は bbs.cgi の他の部分で既にロードして
使っていたりして。

株価【510】 ▲ ◆cZfSunOs.U · 2006/05/28(日) 13:41:09

>>691
>bbs.cgi 叩かれまくりか。

ってことは >>689 のように httpd 段階で Deny されてないってことですか．
まずはバーボン改良ですかね．

**動け動けウゴウゴ２ちゃんねる** · 2006/05/28(日) 13:51:35

http://sabo2.kakiko.com/pageview/hourdata.cgi?date=20060527&server=comic6.2ch.net
を見ると、htmlが激しく叩かれているように見えますが、何か関係ありですか？

**root▲ ★** · 2006/05/28(日) 14:07:41

>>694
あまり関係ないっぽいです。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/28(日) 14:11:15

パソコンで人間ができてプログラムが出来ないようなこと
例えば連想とかを書き込みに入れられたらウイルスによる書き込み減るかも

◆boot//5v0I · NG

>>696
それをいうなら画像でできた文字を入力するほうがいいだろ？

**動け動けウゴウゴ２ちゃんねる** · 2006/05/28(日) 17:51:37

>>696-697
書き込み時Captcha（画像）認証制導入議論スレ
http://qb5.2ch.net/test/read.cgi/operate/1144071322/

**動け動けウゴウゴ２ちゃんねる** · 2006/05/28(日) 18:08:36

SDｇｓｄｆ

株価【510】 ▲ ◆cZfSunOs.U · 2006/05/28(日) 20:32:02

とりあえず現在無限ループになってるのは，書き込めた“フリ”だけすればお引き取り願えるかな......
まぁどっちにしろ DoS 対策はしなきゃならんでしょうけど．

**root▲ ★** · NG

live23b = cobra2244 ダウンの件
疑うべきは、

電源問題
FreeBSD 6.1R + amd64 固有の問題 (news20b, live23b で起きている気がする)

あたりか。

**root▲ ★** · NG

フロントの Apache status を見ると、
フロントの httpd のコネクションが完全に詰まることは、避けられている模様。

フロントにログインして確認してみると、
F22, offlaw.cgi が刺さった状態になっている。
バックを NFS で参照している部分。

**root▲ ★** · NG

NFS の I/O 待ちになったものが、正しくタイムアウトしない様子。
df すると、刺さってしまうみたい。

**root▲ ★** · NG

read.cgi は、

例えば適当に、
http://live23.2ch.net/test/read.cgi/livecx/1111111111/

と入れると、詰まってしまう模様。

つまり、read.cgi 的にはうまく ProxyTimeout が働いていないっぽい。

http://live23.2ch.net/livecx/a/b/c/ とかは、すぐに 503 エラーになる模様。

**root▲ ★** · NG

GET /livecx/index.html HTTP/1.1
Host: live23.2ch.net

は、すぐにエラーがかえってくる。

つまり、ダウンを検出して「ダウンな状態」を
キャッシュしているように見える。

**root▲ ★** · NG

GET /バックにフォワードされる呪文 HTTP/1.1
Host: live23.2ch.net

もすぐに 503 になるので、>>705 と同じように検出はしている。

**root▲ ★** · NG

GET /test/read.cgi/livecx/1111111111/ HTTP/1.1
Host: live23.2ch.net

は、止まったままになる。（ううむ）

株価【510】 ▲ ◆cZfSunOs.U · 2006/05/29(月) 00:43:14

read.cgi は，ライブな dat が存在しないと過去ログ調べるのでは？
（つまり NFS でマウントされてるところ）

で，問題はその NFS なわけですが...... soft mount でも retrans とか timeout とか
そのあたり要調整ってことですかね．

**root▲ ★** · 2006/05/29(月) 00:47:39

>>708
なるほど、まさにそれですね。< NFS mount を調べる

read.cgi は、確かにそういうコードになっているです。
つまり、原因は同じか。

NFS の設定は、まだまだ調整が必要な予感。

**root▲ ★** · NG

ということで、>>701-709 のまとめとしては、

ProxyTimeout は、うまく動いているらしい。
で、いったんタイムアウトの状態になると、フロントは状況をある程度覚えるらしい。

Apache status を見ると、dat 直読み系はうまくタイムアウトしているので、
503 エラーになっている。(観測結果)

で、「覚える」までの間、たぶんぐぐぐと詰まるので、
一時的にフロントの httpd が満員になり、それで雪だるま全体が繋がりにくく
なったと考えられる。(これは推測)

「覚えた」あとは速攻でタイムアウトするので、現状では httpd の開きスロットは
ある程度確保されている。(観測結果)

**root▲ ★** · NG

NFS 系は、状況がまったく変わっていない。
つまり /etc/fstab に soft を追加しただけでは、何も変わらない。

別途他の調整を実行する必要ありということで。

**root▲ ★** · NG

ということで、ひととおりチェックしたいところは調べたので、
liveb1 の dat バックアップを固めて、
あとはたんたんとリブート要請へと。

**root▲ ★** · NG

>>712 done.

で、ここまでのチラシの裏リストの棚卸:

とりあえず >>600 あたりから。

・>>601-602

・>>615 kris の資料も置かれた模様。>>656 とかも参考に。

・>>618 の変更が 6.1R cobraダウンの原因っていう感じでもないみたい。
(ex14 は問題ないし)

・>>629-630 は問題なさげなのかな。

・バックエンドが落ちても、NFS が刺さらないようにする
>>633-635 あたり。fstab に書かずに直接 mount_nfs で試してみるか。

・Apache 的に SetEnv し、cgi でそれを参照する

・復帰の呪文の問題 (>>665)

・引越しに伴う default gateway の変更 (*.1 => *.2、153村は *.3)(>>667-668)
手順は >>669 だが、ping が通るなら先回りも。

・live23b/news20b がたまに落ちる(だまる)
>>649 でも落ちている(news20b)。しかも自分でリブートしたっぽい (>>650-652)
で、今日は live23b。

・>>679 の速度チェック
概ね問題なしという噂もありますが、一応。

・>>682 comic6 の問題(ウイルスのbbs.cgiへのDoSによる負荷)

**root▲ ★** · NG

続き

・>>687 クッキー問題
use CGI あたりで、ごにょごにょ。

以上、とりあえず。

**root▲ ★** · NG

【365Main】回線増速(ニュー速とかお引越しのご案内) Part2
http://qb5.2ch.net/test/read.cgi/operate/1148497454/458

やっぱ、i386 と amd64 が活発なようですね。

最近では、big endian でも問題ないことや、
CPU が多くても(例えば14CPUとか)スケールすることの検証などに、
sparc64 も活用されているようです。

**水色＠飛行石 ★** · 2006/05/29(月) 01:37:28

>>682
BBQじゃなくて自動バーボンみたいのがいるんですかねー。
判定方法が難しそうですがー。

スピードとか間隔とかだと、幾らでもかいくぐれますからねー。
1時間に1回でもウイルス作者にとってはいいですからねー。
感染パソコンを何十台も作ればいいわけですからー。

**root▲ ★** · NG

>>716
バーボンって、自動なんでは。

判定が難しいには同意で。

**root▲ ★** · NG

>>700 にあるようなことをするには、
さて、どうすればいいのかなと。

重い重い重い重い重い重い重い×36＠運用情報
http://qb5.2ch.net/test/read.cgi/operate/1147544326/282

に、ウイルスの内部コードっぽいのが貼られてますが、
これだと、さて。

**root▲ ★** · NG

ううむ。

だんだん、フロントの httpd の空きコネクション数に余裕がなくなってきた。
刺さっている read.cgi が増えていっているせいか。

kill -KILL で殺しても死なない可能性ありか。ううむ。

◆Reffiz2Zh. · 2006/05/29(月) 03:03:43

>719
フロント２台ブレーメンメーターエラーになってるのはそういうことだったんですか。。。

**root▲ ★** · NG

httpd のリスタート自体はできた。
でも、微妙に変ですね。

このままだと、live22x や news20 にも影響が出ちゃうから、
cobra2244 のリブート入れない限り、
そのうちおじさんもニュー速で遊べなくなるってことか。ううむ。

**root▲ ★** · NG

>>721 は live22x1 に対して実施。

**ｒｅｆｆｉ@報告人 ★** · 2006/05/29(月) 03:09:16

>721-722
ありゃりゃ
ｘ1ブレーメンメーター復帰は確認しましたがまた挙動不審になるのも時間の問題
って事ですか。。。。

※liveスレで早めに実＋への誘導は入れておきました。

**root▲ ★** · NG

httpd の子プロセスが刺さったまま残ってしまったですね。

他のフロントに対する設定変更は、cobra2244 のリブートが入るまでは、
なしということで。

**root▲ ★** · NG

…つまり、NFS の設定の見直しが急務ってことですね。

・タイムアウトするようにする

ってことで。

**root▲ ★** · 2006/05/29(月) 03:29:07

しかし、soft を指定しているのにハングアップするというのは、
しかもずっと刺さってしまうというのは、ちと納得できないですね。

# さっき間違って入れた df コマンドが、まだ刺さっているので。

**root▲ ★** · 2006/05/29(月) 03:33:15

で、今は UDP で mount しているわけですが、
TCP で mount するということも、試してみる意味はあるのかもですね。

ただ、TCP で mount していると、
NFS サーバのリブート入れた時に、connection reset by peer とかになるような気も
しないでもないかも。

**root▲ ★** · 2006/05/29(月) 03:44:48

6.0R では TCP mount はいまいちらしいけど。
http://lists.freebsd.org/pipermail/freebsd-current/2005-July/052582.html

**root▲ ★** · 2006/05/29(月) 03:45:20

…今は動くはずと。
http://lists.freebsd.org/pipermail/freebsd-current/2005-July/052584.html

**ｒｅｆｆｉ@報告人 ★** · 2006/05/29(月) 03:46:58

live23リブート入ったようですが閲覧できないようです。

**ｒｅｆｆｉ@報告人 ★** · 2006/05/29(月) 03:49:06

>730
データの差し戻しお願いします～＞rootさん

**root▲ ★** · NG

>>731 done.

ということで、NFS の設定詰めのため、
またいろいろやってみるということで。

【実況】　live23+24　Part19【新体制始動】
http://qb5.2ch.net/test/read.cgi/operate/1148046382/790

790 名前：root▲ ★[] 投稿日：2006/05/29(月) 04:08:02 ID:???0 ?#
で、今回みたいな事態にならないように
(live23b のダウンが live22x や news20b にも影響してしまう)
近日中に、設定変更確認 & 試行のため、
一時的にわざと落としたりするかもです。

その場合には、事前に連絡を入れるということで。

**root▲ ★** · NG

live22x3 異常発生ですね。

うまくプロセスが死なない。
まだ落ちていると思っているのかな。

**root▲ ★** · NG

live22x4 も、同じ異常発生。

両サーバとも、NFS の復活を認識しません。
リブートもだめの模様。

これは、NFS に虫がいるっぽいですね。

live22x3 live22x4 フロントから外しておきます。
あとは通常のリブート要請コースで。

live22x1 x2 x5 は正常でした。

**ピロリ** · 2006/05/29(月) 04:20:08

うーむですなぁ、

Cobra だと駄目なんですか?

**root▲ ★** · NG

>>734
> live22x3 live22x4 フロントから外しておきます。

done.

そういえば、

・自動でへくったフロントが切り離されるようにする

というのもあるなぁ。< 棚卸

**root▲ ★** · NG

>>735
どうも、現状ではそうなのかもですね。

設定で回避できるかもしれない可能性は、ありますけど。

一つあった問題(kbdmuxは入っているとおかしくなる)は、
はずすことで回避できました。

6.0R (ex14)ではこの問題は起こっていないので、
6.1R の問題なのかなと。

**root▲ ★** · NG

へくったフロント、うまくリブートできたようです。

reboot -q -n でリブートしてみた。

**root▲ ★** · NG

フロントを5台体制に戻しました。

**root▲ ★** · NG

・NFS しくらないようにする
・6.1R/amd64 の設定でハングアップを回避できないか調べてみる

あたりですかね。まずは。

**root▲ ★** · NG

http://www.freebsd.org/releases/6.1R/todo.html

UFS deadlocks on amd64
Needs testing Tor Egge Seen by Kris Kennaway. This problem seems MI.

これ、かなぁ。

うーむ。

**root▲ ★** · NG

これは >>499 でも指摘したかな。

**root▲ ★** · NG

http://unix.derkeiler.com/Mailing-Lists/FreeBSD/stable/2006-03/msg00678.html

**動け動けウゴウゴ２ちゃんねる** · NG

rootちゃんがんばって！
応援してるよ！大好き

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 17:49:35

>>718
続きいるです？

**root▲ ★** · NG

>>745
あるとうれしいかもしんないです。

しかし、わたし的にはウイルスコードそのものよりも、
どうやったら無限ループじゃなくてとりあえずお引取り願えるかのほうが、
興味ありますね。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 18:07:58

denyした方が早いような

**ｒｅｆｆｉ@報告人 ★** · 2006/05/29(月) 18:16:42

>747
爆撃しているＰＣの数が尋常じゃないので無理かと
例の呪文を追加するタイプの登場も時間の問題なので新クッキー仕様と併せて
考えていかなければならない課題でしょうねぇ

※現状も負荷が高めなので爆撃は減っていないようです。
　無限ループに入る前にバーボン送りにしちゃうってのもあまりスマートじゃない
　しなぁ。。。
（フラグをつけてＢＢＱ焼きにするデータにはなりそうですが）

**root▲ ★** · NG

deny するよりも、graceful にお引取り願うほうが負荷が低いし。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 18:24:41

if body.match(/(書き込み確認)|(2ch_X:check)/)
@board.cookie = head['set-cookie']
retry

elsif body.match(/お茶でも/)
@board.set_tmp_wait(60*5)
return false

elsif body.match(/もうずっと書けませんよ/)
@board.set_tmp_wait(60*65)
return false

elsif body.match(/には書き込めません/)
@over_size = true
@board.wait
@board.set_tmp_wait 0
return false

elsif body.match(/(\d+) sec たたないと書けません/)
@board.set_wait($1.to_i)
sleep($1.to_i + 1)
retry

elsif body.match(/ブラウザ変ですよん-2/)
TwoChannel::set_user_agent
retry

elsif body.match(/連続投稿ですか？？/)
@board.set_tmp_wait(60)
return false

elsif body.match(/連続投稿ですか？/)
return false

elsif body.match(/ブラウザを立ち上げなおしてみてください/)
@board.time_count += 1
retry

elsif body.match(/名前が長すぎます/)
name.chop!
retry

elsif body.match(/Rock/i)
return false

elsif body.match(/規制中/)
retry

elsif body.match(/バーボンハウス/)
raise 'babon'

else
print body if $DEBUG
raise 'Undefined Error'

end

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 18:31:20

書き込みの終了ページをクッキーきちんと渡してくれないのに見せれてみるとどうなるんだろう。

クッキー渡してくれたレスだけ反映する形でやるしかないかも。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 18:34:27

> 対策
ここに書いちゃっていいかな？

**root▲ ★** · NG

>>752
なんか、まずそうですかね。< 対策

書いてしまったらまた亜種が出るだけか。
でもどうせ出るという噂もあるし。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 19:02:11

>>753
出るのが遅れるだけでもずいぶんと違います。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 19:04:42

言葉足らずだからもう少し。

つまりは自力で書き換えられるような人でも
対応がすぐ出来る人と出来ない人がいる。

すぐ対応できる人は、書かなくても自力で規制を突破するだろうけど、
書かれることで突破の敷居が低くなって、より多くの亜種が出回る
かも知れないってことで。

挙動が違うものが複数でてくると、あとでの対策も
面倒になります。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 19:05:08

ひろゆきがソースを公開しないことはどうのこうのとか言ってた過去ログがあったね

**root▲ ★** · NG

>>750 だとすると、「書き込み確認」という文字列を
別のものに変更しない限り、お引取りいただけないということかしら。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 19:10:07

>>757
でも「書き込み確認」で書き込めたかを判定する2chブラウザも多いような…

**root▲ ★** · NG

>>758
で、ここを変えるとまたいろんなことが起こると。

でもそれも、２ちゃんねるっぽいとも言えるのかな。 < いろんなこと

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 19:37:24

現状の爆撃対策だけなら、同人板を移転させて、「もうずっと書けませんよ」を延々と吐くだけの物をbbs.cgiの代わりに
設置するというのは？

**root▲ ★** · NG

>>760
移転させても、download のやつみたいに
bbsmenu/bbstable を読んで追尾するんじゃないかなと。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 19:57:28

>>761
board = TwoChannel::Board.new('comic6', 'doujin')

ハードコードされてて、自動追尾はしてないと思う

**root▲ ★** · 2006/05/29(月) 20:03:59

>>762
download のやつとはとりあえず違うと。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/29(月) 20:12:10

be mail を撃ってみた

>>763
ぐぐるコードは残ってたり、使われてないけど

**root▲ ★** · NG

>>764
お返事を打ちました。
実験開始してみてますが、びんごみたい。

**ピロリ** · 2006/05/30(火) 00:34:43

うーん
なんかまたnews20つまり気味だなぁ

ピンクの小粒ちょうだい

**動け動けウゴウゴ２ちゃんねる** · 2006/05/30(火) 00:35:35

つ●

**root▲ ★** · NG

>>766
うーむ。

様子見てみます。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/30(火) 00:36:10

白インゲンで。

**root▲ ★** · NG

特に問題ないですね。

ちなみに PIE から一部 ISP への経路が、
一部おかしくなっていた時間があった模様。

**ピロリ** · 2006/05/30(火) 00:38:46

そっか、それは失礼。

NidaってViewよりももっさりなのかなぁ

▲ ◆SANUKI/VII · NG

はなもげらぷろきしいれなよ

**root▲ ★** · NG

>>771
ちょっともっさり目だと思ったんで、
私は View に戻してしまいました。

View も既に対応版になっているです。

**root▲ ★** · NG

ただ、もし 64bit (amd64) で発生する虫がいるとすると、
爆弾をかかえているようなものなので、
しばらくは、常にどきどきしますね。

**動け動けウゴウゴ２ちゃんねる** · 2006/05/30(火) 00:47:14

それでもだめならコーラック

**ピロリ** · 2006/05/30(火) 01:08:01

viewに戻した、
快調だ

**動け動けウゴウゴ２ちゃんねる** · 2006/05/30(火) 02:48:29

なんだよｗ
朝顔の種とかいってやろうとおもったのにｗ

**動け動けウゴウゴ２ちゃんねる** · 2006/05/31(水) 04:37:17

あれ？

**動け動けウゴウゴ２ちゃんねる** · NG

>>762
http://aas.u.la/c.cgi/-/operate/1145114275/762

**動け動けウゴウゴ２ちゃんねる** · 2006/06/01(木) 00:51:00

Nidaからのアクセスは全て弾くようにしたらよくね？

**動け動けウゴウゴ２ちゃんねる** · 2006/06/01(木) 12:06:14

style厨うざ

**動け動けウゴウゴ２ちゃんねる** · 2006/06/01(木) 13:11:34

View厨うざ

**動け動けウゴウゴ２ちゃんねる** · 2006/06/01(木) 16:02:12

>>780-782
池沼

**root▲ ★** · NG

ところで ex14 って、どういうシチュエーションで落ちたのかしら。
ping もかからなくなったのかな、、、。

◆BFzK/mtqM2 · 2006/06/04(日) 06:21:42

>>784
pingはかかった
sshは繋がった
Apacheだけがしんでいたっぽい

[―{}@{}@{}-] **root▲ ★** · NG

>>785
なるほど、先日来と同じ症状ですね。
それになると、ログインもできなくなるんだよなぁ。

**root▲ ★** · NG

カーネルパニックしてリブート入った模様。 < news19
amd64 だと、FreeBSD 6.1R は微妙な挙動があるのかも。

cat info.5
Dump header from device /dev/da0s1b
Architecture: amd64
Architecture Version: 2
Dump Length: 4226842624B (4031 MB)
Blocksize: 512
Dumptime: Sun Jun 4 13:08:30 2006
Hostname: cobra2247.maido3.com
Magic: FreeBSD Kernel Dump
Version String: FreeBSD 6.1-RELEASE #0: Tue May 9 01:41:03 PDT 2006
root@cobra2247.maido3.com:/var/src/sys/amd64/compile/AMD64_COBRA_61_NOKBDMUX_NOPREEMPTION
Panic String: spin lock held too long
Dump Parity: 3586994136
Bounds: 5
Dump Status: good