bbs.cgi再開発プロジェクト5

**動け動けウゴウゴ２ちゃんねる** · 04/12/20 07:38:07

peko鯖の稼動によりﾎﾞﾄﾙﾈｯｸの一つである事がより明らかになった
bbs.cgi作り直しプロジェクトです。

【開発環境の工事現場】
また挑戦。＠2ch掲示板　　http://dso.2ch.net/myanmar/
また挑戦２。＠2ch掲示板　http://dso.2ch.net/yangon/

関連スレなどは >>2-5 くらい

**FOX ★** · 04/12/26 03:24:48

そでーす

**FOX ★** · 04/12/26 03:25:08

$FOX->{BBS}　の初期値は 1 で

**FOX ★** · 04/12/26 03:32:46

http://stats.2ch.net/tubame.cgi

よさげなので全部にいれよう

**root▲ ★** · 04/12/26 03:37:22

BBQへの問い合わせが激減しているような、、、。
原因はBBSと同じ?

http://mumumu.mu/mrtg/mrtg-rrd.cgi/bbqbbx/

**root▲ ★** · 04/12/26 03:38:28

例の「不存在」と「タイムアウト」問題っすね。
不存在はBBQ的には「登録なし」ってやつなんで。

**FOX ★** · 04/12/26 03:38:47

ぬおっ

BBQ は何返すんですか?

**root▲ ★** · 04/12/26 03:38:58

たぶん、BBMも同じかと。

**root▲ ★** · 04/12/26 03:40:07

127.0.0.2 登録あり(焼かれてる)
NXDOMAIN 登録なし(焼かれてない)
タイムアウト

の3つですね。BBM/BBXも同じ。

**FOX ★** · 04/12/26 03:41:46

改修

sub foxDNSquery2
{
my ($host) = @_;
#$host .= "bbs.timeout.peko.2ch.net.";
use Net::DNS;
my $res = Net::DNS::Resolver->new;
$res->tcp_timeout(1);
$res->udp_timeout(1);
$res->retry(1);
my $query = $res->query($host);

if($query)
{
my @ans = $query->answer;
foreach(@ans)
{
return $_->address;
}
}
if($res->errorstring eq 'query timed out') {return "127.0.0.0";}

return "127.0.0.1";
}

**FOX ★** · 04/12/26 03:42:47

if($SPAM eq "127.0.0.0"){$FOX->{BBQ} = 0;}

こんなコード呼び出し側に入っています

**root▲ ★** · 04/12/26 03:47:15

>>243
これは、

アドレスがあればそのアドレスを返す
アドレスがなくてタイムアウトなら127.0.0.0を返す
そうでなかったら127.0.0.1を返す

という動き？

**FOX ★** · 04/12/26 03:48:32

そーですー

呼び出し側では
127.0.0.2
127.0.0.0
だけしか見ていません

**root▲ ★** · 04/12/26 03:51:25

>>246
127.0.0.2 => BB{Q,X,M} 登録済み
127.0.0.0 => 各DNSに異常発生

というかんじですか。

で、BB{Q,X,M}はそれぞれ別のDNSサーバなので、bbs.cgi側では、
例えばBBQの異常を検知したら、BBQ＊だけ＊10分停止、
というのがよさげです。

**FOX ★** · 04/12/26 03:52:46

そのようになっています。

$FOX->{BBM} = 1;
$FOX->{BBQ} = 1;
$FOX->{BBX} = 1;
$FOX->{BBY} = 1;
$FOX->{BBS} = 1;

**root▲ ★** · 04/12/26 03:55:10

了解です。

最悪はdnscacheがあぼーんすることですが、
そのときは、、、gethostbyaddr() が詰まっちゃうのか。

**FOX ★** · 04/12/26 03:55:53

>>249
そこはもっと練ってからの実装かと、

**root▲ ★** · 04/12/26 03:56:41

>>250
そっすね。

でもこれで、そうとうよくなった予感がするですよ。

**FOX ★** · 04/12/26 03:56:53

というか、そこは実装しないで
dnscacheをことん強化が本筋かと、

**FOX ★** · 04/12/26 03:58:54

　　　　　 ∩
　　(　ﾟ∀ﾟ)彡　じっけん!じっけん!
　　　 ⊂彡

**root▲ ★** · 04/12/26 03:59:12

>>252
そですね。例の計画(RAID1で強化+Anycast装備)いきます。
そういえばRAID1カードのインストール、どうなってるのかしら。

**root▲ ★** · 04/12/26 03:59:53

>>253

BBxを止める実験ができるようになった、ということでOK?

**FOX ★** · 04/12/26 04:01:26

dnscache が　timeout だったら書けないという仕様にするです　bbs.cgi
qb5&★ だけ書ける様にして

**FOX ★** · 04/12/26 04:01:48

>>255
ok ok

自信まんまん

**root▲ ★** · 04/12/26 04:05:18

BBQを止める実験、やってみますか。
で、うまくいくなら、続いてBBSを止める実験。

BBYはスレ立てしないといけないので、みゃんまーで。

BBMは携帯で書かないとだめだから、FOXさんに携帯で書いてもらおう。
(私H"とPALDIOしか持ってないです)

BBXは例によって、禁止フレーズをみゃんまーで。

では、順番にいきます。

**root▲ ★** · 04/12/26 04:07:26

BBQ止めました。

**root▲ ★** · 04/12/26 04:07:48

お、いいかんじ。

**root▲ ★** · 04/12/26 04:08:51

BBQ動かして、BBS止めました。

**root▲ ★** · 04/12/26 04:09:47

いいかんじ。
これからBBS動かして、BBY止めます。

**root▲ ★** · 04/12/26 04:11:21

BBY止めました。みゃんまーに行ってきます。

**FOX ★** · 04/12/26 04:11:39

http://ex7.2ch.net/morningcoffee/

各板のindex.html をみると状態がわかるようにした

**root▲ ★** · 04/12/26 04:13:47

できました。

BBYを止めてもスレ立てできるのかテスト
http://dso.2ch.net/test/read.cgi/myanmar/1104001957/

これからBBY動かして、BBXとめます。

**root▲ ★** · 04/12/26 04:19:23

BBX止めました。
禁止フレーズは、、、。

**root▲ ★** · 04/12/26 04:28:40

いいNGワード、何かありますかね。

**root▲ ★** · 04/12/26 04:30:21

>>264 みると、BBXが止まっています、って出るから、正常かな。

**root▲ ★** · 04/12/26 04:30:52

でもまだBBM止めてないのに、BBMが止まってるってたまに出るなぁ。

**root▲ ★** · 04/12/26 04:33:59

BBX確認できました。元に戻します。

**FOX ★** · 04/12/26 04:34:52

ほんとに timeout 検出しているとか、、、

**root▲ ★** · 04/12/26 04:35:45

うへー。例のバッファフルがいっぱい。
BBSと同じ対策打ってきます。< BBM

%netstat -s -p udp
udp:
15773031 datagrams received
0 with incomplete header
0 with bad data length field
0 with bad checksum
1 with no checksum
50 dropped due to no socket
2 broadcast/multicast datagrams dropped due to no socket
126085 dropped due to full socket buffers
0 not for hashed pcb
15646894 delivered
15647283 datagrams output

**root▲ ★** · 04/12/26 04:38:43

対策打ちました(対策後は今日のラッシュ時もBBSのバッファフルなし)。

あとはBBMか。これからとめます。とめたらおしらせします。

**root▲ ★** · 04/12/26 04:39:41

BBMとめました。
携帯からどなたかカキコしていただけると。

**FOX ★** · 04/12/26 04:44:10

よさげ

**root▲ ★** · 04/12/26 04:45:58

dnscacheのログみた。BBMにはqueryはそれなりに出てるみたい。
ブロックしてないかの確認ができれば、OKですが、、、。

**root▲ ★** · 04/12/26 04:46:16

>>275
OKです。

では、もとにもどします。

**root▲ ★** · 04/12/26 04:48:46

morningcoffeeの板トップ見てると、たまに止まってないのに「止まっています」って出ることがあるですね。
1秒だと、短すぎ?
それともたまにリトライしてる?

でもブロックはしたくないから、もろはの刃なのかな。

**root▲ ★** · 04/12/26 04:49:11

で、BBM元に戻しました。
全部元に戻ったはず。

**FOX ★** · 04/12/26 04:50:06

>>276
新規に立ち上がったbbs.cgiは一回は聞きにいくですから

>>278
どうでしょうねぇ

**FOX ★** · 04/12/26 04:51:55

>>279
時間での切腹機能入れていないから
何時までもだらだら残るのかも(特に暇なサーバは)

**root▲ ★** · 04/12/26 04:54:20

ex7のspeedy_backendをいったん全部killした。
そしたら、BBMが止まっています、は消えたです。

**root▲ ★** · 04/12/26 04:55:33

これで、BB?系のDNS側の実験は終了しました。
また一歩、進歩したですね。すばらしいっす。

**FOX ★** · 04/12/26 04:56:03

#!/usr/local/bin/speedy -- -M32 -b1048576

に -t600 っていれたら　10分?
#!/usr/local/bin/speedy -- -M32 -b1048576 -t600

**root▲ ★** · 04/12/26 04:57:37

>>284
10分＊全く何も受け取らない＊と、自爆しますね。
一番あれなのは、ぽろ、ぽろ、って来る場合かと。

**FOX ★** · 04/12/26 05:00:06

また今度実験してミルです　< -t option の効果&弊害

**root▲ ★** · 04/12/26 05:00:07

デフォルトでは500回リクエストを受け取ると、自爆します。
(-r500)

-tは3600がデフォルトですね。

つまり、
・500回人を乗せた
・1時間誰も乗らなかった

場合に、自爆すると。

**root▲ ★** · 04/12/26 05:09:37

もう知っているかもですが、Perl内から自爆命令を出すこともできます。

・shutdown_now
perlインタープリタを即座にシャットダウンします。この関数は戻ってきません。

$sp->shutdown_now

・shutdown_next_time
perlインタープリタを、このリクエストが終了したらすぐにシャットダウンします。

$sp->shutdown_next_time

**FOX ★** · 04/12/26 06:03:14

10分で組み込んであります

**動け動けウゴウゴ２ちゃんねる** · 04/12/26 18:30:34

ふと思ったんですが、
今はsubback.htmlを毎回bbs.cgiで作成してるんですよね？

subback.htmlへのリクエストは、subject.txtの更新頻度よりずっと少ないと思うので
もしかしたら、subback.cgiを作成してmod_rewriteを使うとか
あるいはmod_subbackを作成して組み込むとかの方が
鯖に優しいのではないでしょうか。
呼ばれる度にsubject.txtとSETTING.TXT(こちらは後者ならキャッシュも可能)を
読み込む必要がありますが、bbs.cgiでのディスク書き込みを少しは減らせるので。

後者の方法もそんなに難しくないと思いますが、前者なら非常に簡単だと思いますし。

**FOX ★** · 04/12/27 00:17:23

特に問題なく動いているようで、、

◆tuboBGQODY · 04/12/27 00:43:54

うーむ。

伝説の機能の!preはPC系だけでいいから実装してほしいなあ。

**root▲ ★** · 04/12/27 00:54:25

今日のlive8/live16ともえらい軽かった(伸びが良かった)です。
今までは2ブレーメンぐらいでかなりつらそうだったけど、
今は3ブレーメンぐらいでもかなり平気みたい。

**動け動けウゴウゴ２ちゃんねる** · 04/12/27 01:38:05

>>292
転送量対策でread.cgiが余分なスペースを全部削ってしまうからなぁ……。

**FOX ★** · 04/12/27 01:47:47

>>294
そうなの?

**動け動けウゴウゴ２ちゃんねる** · 04/12/27 02:11:32

>>295
http://piza2.2ch.net/test/read.cgi/tech/998736516/924

ここらへんでそんなコードが入ってましたよ。

**FOX ★** · 04/12/27 02:15:48

dat に書くときに?

**動け動けウゴウゴ２ちゃんねる** · 04/12/27 02:19:36

>>297
いえ、read.cgiがdatを読み出すときに。
datには書きこんだとおりのままスペースが保存されてます。

**FOX ★** · 04/12/27 02:30:52

なるほど、、、

今回 read.cgi 書き直すから、その処理はなくなる予定だったりするです

**動け動けウゴウゴ２ちゃんねる** · 04/12/27 04:20:05

書き直すついでに書きこみ欄をrows=20 cols=80ぐらいに
広げてくれないかなー、、とつぶやいてみる。
たまにIE使ったりすると狭くて、、

**動け動けウゴウゴ２ちゃんねる** · 04/12/27 08:58:22

read.cgi再開発スレ
http://qb5.2ch.net/test/read.cgi/operate/1087199303/

**root▲ ★** · 04/12/28 01:19:26

BB? については、連続して3回失敗した時とかにはじめて、
「止まっている」とみなすようにしたほうが、いいのかもしんないですね。

**▲ 某ソレ511** · 04/12/28 01:35:01

スレッドランキングさんのところと比較してると、
BBSが平均的に5～10%くらいカウントミスってる感じですね、、

初期化時に $FOX->{BBS} = 3; くらいにして、
異常を検知した時は --$$FOX->{BBS} くらいにする、とかって考えたけど、
（これだと連続ではない3回検知で、になるかな、）

**未承諾酩酊※** ◆TWARamEjuA · 04/12/28 01:51:13

1bit左にシフトして+1するとか。＠== 7 で3回目検知、スルーできたら1bit目をクリアするとか

**FOX ★** · 04/12/28 14:04:35

根本的なとこを解決しなくてどうするのかと、

**root▲ ★** · 04/12/28 17:47:40

>>305
ふむ。

根本的なところ = 失敗をなくす方向

だとすると、どうするのがいいのか。

やはり、しくみの変更なのか。
でもDNSでやるしくみ+ノンブロッキングでquery、ってのは、
コスト低いし、筋がいい気がするんですけどね。

**動け動けウゴウゴ２ちゃんねる** · 04/12/28 18:50:33

無反応の場合はネガティヴキャッシュで解決しないの？

**root▲ ★** · 04/12/28 19:23:23

>>307
それがですね、、、BBSの場合、毎回queryするものが違うんですよ。
つまり、キャッシュは効かない、というか、効かせていないのです。
キャッシュが効いちゃったら、正しいカウントができないんで。

というか、そうか、、、。Net::DNSって、聞きに行くDNSサーバを指定できたような。
だったら、工数のかかる再帰検索かけなくても、ダイレクトにBBSのサーバ指定できるかも。

ちょっと、考えてみます。
DNSキャッシュサーバ側のコストを、下げられるかもしんない。

**FOX ★** · 04/12/28 21:14:37

質問　質問

1) BBS の現在の問題点は、コール数が多いために数えられないことがある。
2) そもそもコール数が少なくても数え落しが発生するしくみである。

どっちなんでしょか?

**root▲ ★** · 04/12/29 01:55:52

>>309
まさにそれを究明しようってのが、>>308 で浮かんだ試みです。

DNSはご存知のように再帰検索(DNSキャッシュサーバがツリーをたどる)をします。
これは場合により、コストがかかる場合があります。

もちろん、DNSはキャッシュがうまく効くので、かなりの場合はキャッシュサーバに
データが蓄えられ、全部のツリーを再帰検索はしなくてもすむ場合がほとんどです。

でも、BBSやBBYの場合は必ず「ないよ」という応答になるので、
キャッシュサーバ側で、それなりに処理の時間がかかるわけです。
つまり、コストが割と高い。

でもBBSとかの場合は「きめうち」で決まったホストに伝わりさえすればいいので、
いわゆる通常の再帰検索は、しなくていいはずなのです。

具体的には、a.ns.bbs.2ch.net にダイレクトにDNSクエリを出せさえすればよい。
再帰検索要求も、必要ないわけです。

で、Net::DNSでは、これができるはずだと。

少し手がすいたら「こういうふうに組んでいただけますか」というのを
ここに書きますので、それを組み込んで実験をしてみたいなと。

**FOX ★** · 04/12/29 12:36:59

なーるほど、

ねたー、ねまくったー

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 14:04:31

ふーん

FOXも寝ることあるんだ

**FOX ★** · 04/12/29 15:25:39

http://www.net-dns.org/docs/Net/DNS/Resolver.html

nameservers
@nameservers = $res->nameservers;
$res->nameservers('192.168.1.1', '192.168.2.2', '192.168.3.3');

Gets or sets the nameservers to be queried.

これを指定すればいいのか?

**FOX ★** · 04/12/29 15:28:31

recurse
print 'recursion flag: ', $res->recurse, "\n";
$res->recurse(0);

Get or set the recursion flag. If this is true, nameservers will be requested to perform a recursive query. The default is true.

これも関係ある?

**root▲ ★** · 04/12/29 15:58:37

>>313-314
まさにそれっすね。

再帰止めて(>>314)、BB?の用途に応じてそのサーバに直接query出すと。

**root▲ ★** · 04/12/29 16:03:54

こんなかんじでいいみたい。

#! /usr/bin/perl

use Net::DNS;

my $res = Net::DNS::Resolver->new;

# specify bbs.2ch.net server
$res->nameservers('206.223.147.35');

# turn off recurse query
$res->recurse(0);

my $ans = $res->send('a.b.c.bbs.2ch.net');

**root▲ ★** · 04/12/29 16:10:41

これで、DNSキャッシュサーバを経由せずに、
直接データを持っているDNSコンテンツサーバにDNS問い合わせをするようになります。

BBSとBBYは戻りの結果を利用しないし、
ローカル側でデータのキャッシュが効く必要がまったくない(というか邪魔)ので、
この形にするのがよいですね。

その分レスポンスがよくなるし、DNSキャッシュサーバの負荷も減少します。

BBQ/BBX/BBMは通常通りにキャッシュが効いたほうがいいので、
これまで通りのパターンの方がよさげです。

**root▲ ★** · 04/12/29 16:15:08

ホスト名書いても許されるみたい。

BBS
$res->nameservers('a.ns.bbs.2ch.net');

BBY
$res->nameservers('a.ns.bby.2ch.net');

で、いけそう。

**root▲ ★** · 04/12/29 16:16:57

IPアドレスで指定するなら、これかな。

BBS
206.223.147.35

BBY
206.223.147.36

**root▲ ★** · 04/12/29 19:39:31

しばしば暴走しているのは、どうもsubbbs.cgiの模様。

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 21:28:51

subbbs.cgiってもう使われてないですよね？

**FOX ★** · 04/12/29 22:25:08

subbbs.cgi って良く知らないんです。
詳しい人いないかな?

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 22:36:09

昔は投稿確認に使われていた。
今は全てbbs.cgiでやっている。

ってんじゃなかったか。

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 22:42:55

subbbs.cgiを書き替えて見るとか

「subbbs.cgiは使用できなくなりました。」

とか

**FOX ★** · 04/12/29 22:45:20

いいんだろか?

暴走するって、たとえばどうなる出素か? >>320

**FOX ★** · 04/12/29 22:45:55

BBY/BBS 用のらっぱ

sub foxDNSquery
{
my ($host,$nameserver) = @_;
#$host .= "bbs.timeout.peko.2ch.net.";
use Net::DNS;
my $res = Net::DNS::Resolver->new;
$res->tcp_timeout(1);
$res->udp_timeout(1);
$res->retry(1);
$res->recurse(0);# turn off recurse query
$res->nameservers($nameserver);

my $query = $res->query($host);

if($res->errorstring eq 'query timed out') {return 0;}

return 1;
}

**FOX ★** · 04/12/29 22:47:18

>>326 版をex7に入れてみた。

**FOX ★** · 04/12/29 22:52:48

特に問題ないようなので
全サーバに配布。

**FOX ★** · 04/12/29 22:57:45

http://stats.2ch.net/suzume.cgi を見る限りカウントはされているようだ　< BBS
果たして数え落しがなくなるか、果てしなく0に近づくか、、、

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 23:02:06

いや、
SUBBBS_CGI_ON=1 だと、スレ立て時に確認画面（bbs.cgi）が出て、
ボタン押すともう一回確認画面（subbbs.cgi）が出て、
ボタン押すともう一回確認画面（bbs.cgi）が出て、
ボタン押すとスレ立てできる。

**FOX ★** · 04/12/29 23:03:12

>>330
そうなる必要性ってもうないですよね?

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 23:06:25

確認はするとしても一回で良いだろうし、bbs.cgiで足りてるね。

**FOX ★** · 04/12/29 23:11:51

subbbs.cgi へ飛ばないようにしてみた

**動け動けウゴウゴ２ちゃんねる** · 04/12/29 23:15:02

お、SUBBBS_CGI_ONを完全無視な感じ？

**FOX ★** · 04/12/29 23:17:00

そんな感じ、、

どうなることやら