X



トップページ運用情報
1001コメント268KB
クローラー&過剰リロード対策スレ
■ このスレッドは過去ログ倉庫に格納されています
0001reffi@報告人 ★
垢版 |
2005/04/15(金) 04:49:50ID:???0
最近、頻発しているクローラーや過剰リロード対策スレッドです。

★FAQ

■クローラーや過剰リロードとは?
・ツール等を使って板のスレッドを根こそぎDLする行為をクロール行為と
 いいます。
 クローラーとはクロール行為をする人の事です。
・過剰リロードとは文字通り過剰にリロードをしてsubject.txt等を取得
 する行為です。

■どうして迷惑なの?
 クロール行為や過剰リロードは鯖に過剰な負担をかけるため、最悪、鯖落ち
 する危険があります。

■やったらどうなるの?
 発見されて悪質な場合は規制情報板に掲載の上、該当プロバイダに通報
 されます。
 もしも先方が対応しなかったり、再発するような場合は .htaccessで
 denyする場合もあります。

■.htaccessでdenyされるとどうなるの?
 .htaccessでdenyされると書き込みはおろか閲覧すら出来なくなります。
0576ひろゆき@どうやら管理人 ★
垢版 |
NGNG
多数>>制限値>>規定値>>少数
規定値に触れるものを洗い出すのと、
制限する値ってのは別のほうがいい気がします。
0577root▲ ★
垢版 |
NGNG
>>575
前にやったミニ雪だるま作戦による調査で、
少なくとも旧ex7、今のex10では、subject.txtへの激しいアクセスにより、
相当量のコストかかっているとわかりました。

>>576
つまり、

A)やばいやつをリストアップする時に使うパラメータ
B)実際に規制するためのパラメータ

を別にして、B > Aにするのはどうか、ってことすか。
0578ひろゆき@どうやら管理人 ★
垢版 |
NGNG
そです。そです。
0579動け動けウゴウゴ2ちゃんねる
垢版 |
2005/04/16(土) 07:47:51ID:rmIZqSyI0
ex10はVIPとニー速みたいに
subject.txtを更新、新しく立ったスレを片っ端から読み込み、書き込む、subject.txtを更新...
を繰り返すって特異なところだからなぁ・・・
他と同じとは言えないよね。
0581root▲ ★
垢版 |
NGNG
>>579
そですね。
結果をみて、そう思いました。

ただ、その傾向は他の板でも大なり小なりあるわけで、
チューニング/負荷軽減のポイントがひとつわかったという意味では、
収穫だったと。

>>578
了解です。
そのへんは、おじさんがうまく仕込んでくれることでしょう。
0582ひろゆき@どうやら管理人 ★
垢版 |
NGNG
たぶん、サーバごとで閾値が変わってくると思うので、
計測と規制は別のフェーズでやっていったほうが
最適値は出しやすいと思うのですね。
0583root▲ ★
垢版 |
NGNG
>>582
なるほど。

Aは全サーバ共通の低めの値を設定して網をかけることにより、全体や各サーバにおける傾向をさぐる
各サーバにおける「網のかかり方」を参考にしながら、サーバごとに適切なBの値をチューニングする

ってかんじですか。いいかも。
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況