X


2ch特化型サーバ・ロケーション構築作戦 Part21

■ このスレッドは過去ログ倉庫に格納されています
1root▲ ★
垢版 |
NGNG
2ch特化型サーバ・ロケーション構築作戦のスレッドです。

・2ちゃんねるのサーバロケーション、PIEに関する関連作業・調整事項
・DNS登録・変更関連の各種作業や調整事項
・2ちゃんねるのサーバで採用しているOS、FreeBSDに関する情報・調整事項
・各種作戦・プロジェクトとの連携、プロジェクト間の連携

等を取り扱います。

現在、複数サーバによる連携により、
サーバ能力のさらなるスケールアップをめざすための「雪だるま作戦」が進行中です。
しかし、問題はあらゆる意味で山積の状態です。

また「2ちゃんねる証券取引所」をはじめとする「株」関連や「Be」の機能強化、
あるいは、次世代の携帯アクセス環境をめざした「べっかんこ作戦」の状況など、
気候も暖かくなり、そろそろ気になりだす季節にさしかかりつつある今日この頃、
あいかわらず2ちゃんねるは、刻一刻と確実に変化し続けています。
361root▲ ★
垢版 |
NGNG
>>359
1000000 かな。それとも 1048576 ?
2006/05/05(金) 03:42:26ID:BMUb5uVP0
スタックは誰が使うスタックですか?
363root▲ ★
垢版 |
NGNG
だんだん、思い出してきました。

前は、dso 版 read.cgi でこの局面になったですね。
auto 変数で 512M のバッファとかとっていて、
それが Apache 2.0 の worker MPM ではうまく動かなかったんでした。

ちょっと、過去ログを見てみるか。
364root▲ ★
垢版 |
NGNG
>>362
httpd の 1 スレッドのはず。
2006/05/05(金) 03:44:36ID:BMUb5uVP0
512M?
366root▲ ★
垢版 |
NGNG
で、>>363 は、
SunOS さんのアドバイスで、apr_palloc() を使って動的にとるようにして、
解決したのでした。
367root▲ ★
垢版 |
NGNG
× 512M
○ 512K
2006/05/05(金) 03:45:41ID:BMUb5uVP0
それはヒープ? >>366
2006/05/05(金) 03:46:14ID:b3qevcS80
>>361

http://www.freebsd.org/cgi/cvsweb.cgi/src/lib/libthr/thread/thr_private.h.diff?r1=1.42&r2=1.43
なので、1048576。
あと、64bit だと2MBがデフォルトですね。

65536は、5.4までのデフォルト。
(5.5は6.xと同じになるみたいです)
2006/05/05(金) 03:46:50ID:BMUb5uVP0
私の中ではスタックは 1M はあるという意識で組んでいたり、
371root▲ ★
垢版 |
NGNG
read.cgi の件は、これですね。

read.cgi再開発スレ Part2
http://qb5.2ch.net/test/read.cgi/operate/1105909861/428 あたり。
372root▲ ★
垢版 |
NGNG
>>368
そのはずです。
向こうの read.cgi スレでやったはず。
373root▲ ★
垢版 |
2006/05/05(金) 03:48:29ID:???0
>>369
なるほど、5.4R までのデフォルトと変わっているですか。

>>370
そんなわけで、64k しかなかったと。
2006/05/05(金) 03:49:05ID:BMUb5uVP0
1スレッドのスタックとすると
.dso 等にはどれくらいの残りがあるんですかねぇ
375root▲ ★
垢版 |
2006/05/05(金) 03:49:50ID:???0
ということは、これではないっぽい、、、のかな。
あるいは 1M にしたことが、副作用を呼んでいるのか。< live22x

# ってことは、Apacheのドキュメントにあるように
# あえて少なくする(5.4Rの時のように)ことも、ありなのかしら。
376root▲ ★
垢版 |
2006/05/05(金) 03:50:31ID:???0
>>374
ん、ちとはっきりとはわからんです。
(そこに来るまでにどこまで消費されているか、ってことですね)
2006/05/05(金) 03:52:50ID:BMUb5uVP0
どれだけ同時に起動されていて
どのように使っているのかわからないので、一概には言えないけど、
もと 65536 を read.dso に渡していたならそれを巨大にするのはかなり危険かも、
ただし Apache等で必要ならまた別の話ですが、
378root▲ ★
垢版 |
2006/05/05(金) 03:55:19ID:???0
>>377
live22 は read.cgi 動いてないですが、
フロントにも同じことがいえるのかもですね。 < read.cgi の話

で、FreeBSD 6.0R で変わった(でかくなった)とすると、
そこの部分を元のように*減らして*みる、というのは、
意味があることなのかも。
379root▲ ★
垢版 |
NGNG
FreeBSD 6.0R では、こうか。

/*
* Miscellaneous definitions.
*/
#define THR_STACK_DEFAULT (sizeof(void *) / 4 * 1024 * 1024)
380root▲ ★
垢版 |
NGNG
SunOS さんが試したのは、5.3R か。

read.cgi再開発スレ Part2
http://qb5.2ch.net/test/read.cgi/operate/1105909861/482

5.4R まで … 一律64K
6.0R, 5.5R 以降 … 32bit だと 1M 、64bit だと 2M

ということですか。
381root▲ ★
垢版 |
NGNG
…ということは今の設定(>>357)は結果として、
1スレッドあたりのスタックサイズを 1/4 にしたことになるのかな。
382root▲ ★
垢版 |
NGNG
という前提で >>360 を読むと、

> ThreadStackSize を OS のデフォルト値よりも小さな値にすることで、
> 子プロセスあたりの スレッド数をより多く持たせられるようになります。

が、とても気になりますね。
2006/05/05(金) 04:10:12ID:BMUb5uVP0
なるのではないかと、
2006/05/05(金) 04:11:39ID:b3qevcS80
通常、減らすのは、
ThreadsPerChild に 3000 とか、大きな値を指定する場合で、
普通なら減らす必要はないと思います。
385root▲ ★
垢版 |
NGNG
つまり、これで試してみることには、おおいに意味があるかもしれないと。
386root▲ ★
垢版 |
NGNG
>>384
ふむ、、、。

でも問題きりわけのためには、意味があるのかもですね。< 今の設定
2006/05/05(金) 04:14:06ID:BMUb5uVP0
スタック使いすぎでスワップが発生しているなら意味があるのではないかなぁ
そうでないなら意味ないと思う
388root▲ ★
垢版 |
NGNG
>>387
メモリは余裕ある状態と思います。< live22
2006/05/05(金) 04:15:39ID:BMUb5uVP0
「スタック使いすぎで」はランボーないい方か、

子供たちにスタックを与えすぎて合計のメモリが逼迫しているならってことです
390root▲ ★
垢版 |
NGNG
…さて、そんななか明日以降の予定。

○ live22x4, live22x5 フロントに再投入(済)
○ live22x2 OS・Apache 更新(済)
・live22x3 復活 & フロントに再投入
・live22-2 (= cobra2247) 投入 with FreeBSD 6.1-RC2 or 6.1R => まずは問題解決しないと
・live22, live22x1 OS バージョンアップ + Apache 更新
391root▲ ★
垢版 |
NGNG
>>389
なるほど。そういう意味ですか。

…このへん、状況の整理が必要そうですね。
>>325 >>328 の kern. なんたらの話も含めて。

で、今日はちとエネルギー切れという感じです。
といったわけで、そろそろ店じまいの時間で。
2006/05/05(金) 04:31:56ID:b3qevcS80
>>325は私の書き込みですが、
procmapを使用して、VMのマッピング状態をみることにより、
Cannot access memory at address 0xXXXXXXXX の
0xXXXXXXXX がマッピングされているのか、
そのアドレスがスレッドスタック領域内か付近か見たかったわけです。

FreeBSDはgrow stackを使用するので、スレッドスタックが1MBだとしても、
最初は128kの領域しか取りません。以後は必要において1MBまで拡張されます。
通常の状態であれば、procmapを使って稼働中のhttpdの状態を見たときは、
下の方に多くの128kの領域があるはずです。
もし、スタックが拡張されていれば128k+拡張された領域が見えます。
2006/05/05(金) 04:36:01ID:b7udRDHi0
スタックを小さくするのは、単にアドレス空間の枯渇を防ぐためですよ。

例えば某OSのデフォルトだと、スタックは1スレッドあたり10M程。
ということは、32bit環境では、どんなに頑張っても
400スレッド(事実上200以下)しか出来ないわけですね。

これを増やすために、1スレッドのサイズを減らすということで。
2006/05/05(金) 04:37:17ID:b3qevcS80
kern.dflssiz, kern.maxssiz, kern.sgrowsiz は、
これらを設定した方が良いという意味ではなくて、
設定することにより動きが変わってくるので、確認の意味で書きました。
特に、kern.sgrowsizは、上記の最初の128kというサイズに影響を与えます。

kern.dflssiz, kern.maxssiz は、limit などで表示されるスレッドの制限に
影響を与えますが、これは最初の main スレッドの制限なので、
worker の場合はあまり関係ありません。
2006/05/05(金) 04:38:00ID:BMUb5uVP0
ちなみに、今話しているのはPentinumなマシンなんですよね?
2006/05/05(金) 04:51:09ID:b3qevcS80
>>393
そうですね。
FreeBSDはi386(32bit)だと、デフォルトのサイズは1MBなので、
デフォルトでは2500弱のスレッドしか作れないです。
よって、ThreadsPerChildもそのあたりが限界。
もし、ThreadsPerChildを3000とかにすると、pthread_create()が失敗するので、
Apacheが起動できません。
2006/05/05(金) 04:55:53ID:b3qevcS80
>>395
それは、amd64(64bit)ではなくて、i386(32bit)の話という意味でしょうか?
2006/05/05(金) 04:56:31ID:BMUb5uVP0
x86といったほうがいいのだろか、
2006/05/05(金) 05:01:22ID:b3qevcS80
設定うんぬんということならば、
同じFreeBSDである限り、i386でもamd64でも変わらないでしょうが、
amd64だとVMのアドレス空間が莫大になるので、
アドレス空間の枯渇の問題は、ほぼ起こらないと思っていいでしょう。
400root▲ ★
垢版 |
NGNG
おふろを出ると、話が進んでいるですね。

>>392
ふむふむ。

>>393
なるほど、わかってきました。

>>394
そういうことでしたか。
2006/05/05(金) 05:07:55ID:lGySeUIB0
なんか「おいでよどうぶつの森」の博物館の
フクロウさんを思い出したのは内緒です。
2006/05/05(金) 05:10:59ID:b3qevcS80
あと、kern.sgrowsizを設定しているかどうかにより、
Red Zone が作成されるかどうかにも影響を与えます。

FreeBSDは Thread A のスタックと Thread B のスタックの間に
Red Zone と呼ばれるアクセス読み書き不可の領域をわざとつくり、
Thread A が Thread B のスタックを破壊するのを防ごうとします。
ただ、grow stack のせいで、デフォルトの設定だと
Red Zone が作成されないんですね。

kern.sgrowsizの設定を尋ねたのは、Red Zone が作成される設定になっているか
確認する意味もありました。
403root▲ ★
垢版 |
NGNG
>>402
なるほど、
ということは、Red Zone を作る設定にすると、grow stack ではなくなる、
ということですか。

>>401
そのこころは、、、。
2006/05/05(金) 05:15:07ID:BMUb5uVP0
なんか 何十年たっても結局同じ話をしているんだなぁ
面白いっすね、

これからプログラムを書こうという人は是非ここを学んで欲しいと思ったりなんかして、
hehehe
405root▲ ★
垢版 |
NGNG
>>404
> hehehe

表情が思い浮かんだですよ。

で、live22x3 HDD 交換完了とのこと。
これは明日以降、たんたんと。
2006/05/05(金) 05:22:26ID:b3qevcS80
>>403
これは仕様というか、まあバグに近いものだと思いますが、、、

1) Thread Library (libpthread or libthr)は、1MB + 4k(Red Zone)の領域を
mmap()を使用して作成する。
2) カーネルは、grow stack を使用するので、実際には 128k の領域しか作らない。
3) Thread Library は、最後の 4k の領域を、mprotect()を使用して、
読み書き不可に設定する。
4) カーネルは、最後の 4k は実際にマッピングしてないので、何もしない

ということで、デフォルトでは Red Zone は作られないんですね。
なので、Red Zone を作成するためには、デフォルトの1MBという大きさを
128kより小さくするか、kern.sgrowsiz を大きく設定して、最初から大きな
領域をスタックとして割り当てるかどちらかをする必要があります。

ちなみに、これも動きの説明で、kern.sgrowsiz を設定した方が良いという
意味ではないです。
407root▲ ★
垢版 |
NGNG
cobra2247 ですが、oyster901 = ex14 でコンパイルした
GENERIC カーネルでブートしたところ、make buildworld buildkernel 通りました。

# -j 4 つけると 1 error になり、
# /usr/obj の下にひとつ usr -> var なシンボリックリンクが必要だった。
408root▲ ★
垢版 |
NGNG
live22x3 6.1-RC2 で復活。
これで、フロントはとりあえずの完成形に。

cobra2247 をやるか。
409root▲ ★
垢版 |
NGNG
>>408
いや、live22x1 のバージョンアップがありますね。
live22 もか。
2006/05/05(金) 16:31:02ID:v0LBpmeQ0
>>409
姉(live22)のバージョンアップ作業ですが今日の深夜が無難な時間帯です。
明日はF1にダイバスターとサッカー、明後日はF1とサッカーがあります。
411root▲ ★
垢版 |
NGNG
>>410
んじゃ、そうしますかね。

2時間程度、全部止める必要があるので。
412root▲ ★
垢版 |
NGNG
【実況】 live22x Part18
http://qb5.2ch.net/test/read.cgi/operate/1145623625/253

スケジュールしました。
準備しておくか。
413root▲ ★
垢版 |
NGNG
-i 2 -I 60 → -i 10 -I 120 にした。 < bbsd
414root▲ ★
垢版 |
NGNG
signal 10 で落ちる症状は変わらない模様ですね。

バージョンアップ前に、
いったん、 ThreadStackSize 262144 を元に戻すか。
他もいったん、設定の棚卸というかんじで。
2006/05/05(金) 22:49:20ID:b7udRDHi0
>>322
> esp 0xb858aa3c 0xb858aa3c
> ebp 0xb858aa58 0xb858aa58
ってのは、スタックオーバーフローなんですかね?

まあ、スタック領域がこの辺にあってもおかしくは無いのですが
むしろ、バッファオーバーフローで変な領域にspが設定されている気もします。
(ebpの退避されている領域にゴミが書かれると、espにも伝播して壊れるはず)

実行環境(FreeBSD/amd64)での、スタック/ヒープ/コード(リテラル)/静的データ(bssが別ならそれも)の
それぞれのおよその配置と比べてみて
esp/ebpに設定されているのがどの領域なのかは
確認してみたいところですが。
2006/05/05(金) 22:55:44ID:b7udRDHi0
それと、
関連スレは全然チェックしてないのですが

Signal10の原因はOSかApacheのコアだというのは間違いないのですかね?
SpeedyCGIとmod_cgidso、及びdso版read.cgiが原因という可能性は?

というのは、もし単純なバッファオーバーフローがapacheのコア部分にあったら
簡単に発見されて修正されそうな気がするので
もしバッファオーバーフローであれば、追加モジュールに原因があるのではと。
417root▲ ★
垢版 |
NGNG
<IfModule mpm_worker_module>
StartServers 64
ServerLimit 80
MaxClients 640
ThreadLimit 16 <= 8
ThreadsPerChild 16 <= 8
MinSpareThreads 64
MaxSpareThreads 512
MaxRequestsPerChild 1000000
MaxMemFree 16000
</IfModule>

こうしてみた。 < www/menu
418root▲ ★
垢版 |
NGNG
>>416
live22 は read.cgi 動かしてないので read.cgi (cgidso) 動いてないです。
419root▲ ★
垢版 |
NGNG
cobra2247 準備が整いました。
あと、www2 の4号機と5号機の登録も。

まずは DNS 登録依頼いきます。

以下の追加登録をお願いします。

+live22-2.2ch.net:206.223.150.52:300
+www2f4.2ch.net:206.223.150.110:300
+www2f5.2ch.net:206.223.150.42:300
420root▲ ★
垢版 |
NGNG
で、live22-2 を動かすには、
read.cgi と bbs.cgi を更新する必要があるですね。

もちろん、掲示板システムの入れ込みとか F22 (F15?) の起動とか、
そのへんも必要で。
2006/05/05(金) 23:44:55ID:BMUb5uVP0
なんでなんで?

前回その話になったとき、 live22x? を使うんじゃなく
別のvirtualをどんどん追加していくと言っていたような、
422root▲ ★
垢版 |
NGNG
>>421
なるほどなるほど。

live22x っていう名前、変えてもいいんだった。
うっかりしていました。

news20 でよいですかね。
423root▲ ★
垢版 |
NGNG
つまり、

cobra2247 = news20
tiger2523, 2524, 2525, 503, 507 = news20x1 〜 news20x5
424root▲ ★
垢版 |
NGNG
というわけで >>419 はとりさげて、申請出しなおしますです。
425root▲ ★
垢版 |
NGNG
というわけで、

live22x という名前で、複数バックエンドにする

もんだと、勘違いしていました。すんません。
news20(x) のつもりで、設定ごにょごにょしてくるです。
NGNG
なんだか様子が変ですー
http://sv2ch.baila6.jp/server.cgi?server=memories.2ch.net
427root▲ ★
垢版 |
NGNG
>>426
んーむ、httpd の暴走ですね。
これも原因つきとめないとなぁ。
428root▲ ★
垢版 |
NGNG
ということで、改めて DNS 登録申請いきます。

以下の追加をお願いします。

+www2f4.2ch.net:206.223.150.110
+www2f5.2ch.net:206.223.150.42
+news20b.2ch.net:206.223.150.52
+news20f1.2ch.net:206.223.150.64
+news20f2.2ch.net:206.223.150.74
+news20f3.2ch.net:206.223.150.84
+news20f4.2ch.net:206.223.150.110
+news20f5.2ch.net:206.223.150.42
+news20.2ch.net:206.223.150.96
429root▲ ★
垢版 |
NGNG
>>390
○live22x3 復活 & フロントに再投入(済)
○live22 OS バージョンアップ(済)

・news20 構築 DNS 変更依頼中、DNS 登録完了後作業継続予定
・live22x1 OS バージョンアップ + Apache 更新 これから
430root▲ ★
垢版 |
NGNG
#!/bin/sh
exec 2>&1
exec env - TZ="JST-9" PATH="/usr/sbin:/usr/bin:/bin:/usr/local/bin" \
LANG="ja_JP.SJIS" \
setuidgid ch2live22 /usr/local/sbin/bbsd -f \
-c -b 192.168.100.1 -d /home/ch2live22/public_html \
-i 10 -I 120 -n 8 -p 2222 -s live22x.2ch.net

bbsd の nice 値 -20 をやめてみた。(きりわけのため)

現在、PREEMPTION なし以外は、概ね通常のサーバ設定。
431root▲ ★
垢版 |
NGNG
寝る前に、news20 関連のアカウント情報をメールしておくです。
432root▲ ★
垢版 |
NGNG
私の環境では見えるみたい。
http://news20.2ch.net/

そのうち、done. が来るかなと。

# 掲示板システムは、news20b に作ることになるです。 > かっこいいおにいさん
NGNG
news20ミエタ\(^o^)/
2006/05/06(土) 14:19:28ID:f1rVV7JE0
(゚∀゚)
2006/05/06(土) 15:29:27ID:6X8cZn1V0
おらわくわくするぞ
2006/05/06(土) 18:23:49ID:mXk+K8xl0
6.1-RELEASE タグ来てますね。
ちょっとだけ遅かった?
2006/05/06(土) 18:56:17ID:t3hL77EW0
きましたか。
ということは今週中にはアナウンス出る感じかしら。
2006/05/06(土) 19:00:14ID:IDtWUQIu0
>>437
むむむさん、memoriesが例によって例の調子です。
NGNG
uptimeをみるとクローラさんがどかどかとかっさらっている最中にhttpdがあっぷっぷしたみたいな。。。
@牡蛎902
440root▲ ★
垢版 |
NGNG
news20b は最初から 6.1R でいけるのかな。

memories は OS 更新したいところだけど、
センシティブな構成だから、リモートコンソールがないと微妙かも。
まずは Apache とか更新しておくか。
2006/05/06(土) 22:37:56ID:n8Q6mkvt0
そろそろ削除呪文系も対応しないと、バックエンドが
2つ(以上?)になるともっと大変になるかも。

おじさんのいう勝ちに行くっていうのは、やっぱり
WCUPに対してなんですよね。
サーバ群(7台)の機能分担が鍵ですよね。今のところ、
単機能のフロント側の負けはないようなので、mod_cacheを
導入しない場合は、正直フロントは3台で十分のような。
live22x1のbbsdを単独サーバにしたほうがよいのかも。
442root▲ ★
垢版 |
NGNG
>>441
呪文は、例のとりあえずmod_proxyでフォワードするというのを、
ちと試してみるです。

で、news20 がうまく稼動したら、たぶん news19 を空けることできて、
news19 は既に XO ロケーションに、、、とか、いろいろと。
443root▲ ★
垢版 |
NGNG
cobra2247 を 6.1R にすべく、make buildworld を流していたら、
突然ハングアップしました。

ううむ、、、。
444root▲ ★
垢版 |
NGNG
・ping かからない
・KVM で見ると画面が出たまま凍っている

…とりあえず、リブート要請出します。ううむ。
445root▲ ★
垢版 |
NGNG
とりあえず、Apache2.0 と PHP4 をそれぞれ最新にしてみた。 < memories
446root▲ ★
垢版 |
NGNG
本日準備できたら、live22x1 のバージョンアップ作業する予定。
規制系 DB 用の bbsd は、一時的に live22 へと(作業済)。
447root▲ ★
垢版 |
NGNG
%uname -a
FreeBSD banana273.maido3.com 6.1-RELEASE FreeBSD 6.1-RELEASE #0: Sat May 6 08:05:11 PDT 2006 root@banana273.maido3.com:/usr/obj/var/src/sys/I386_BANANA_61 i386

cvsup.peko.2ch.net、特に問題なく。
448root▲ ★
垢版 |
NGNG
>>444
リブートしてもらいましたが、
ログインして操作しているうちに、またハングアップしました。

ちと、まじめに調べてみます。 < cobra2247
449root▲ ★
垢版 |
NGNG
リモートコンソールで操作中。

一世代前のカーネルに戻してみる。
450root▲ ★
垢版 |
NGNG
一世代前のカーネルだと、ちゃんと動くようだ。
微妙だ、、、。
451root▲ ★
垢版 |
NGNG
もう1回 make buildworld buildkernel からじっくりやろう。
452root▲ ★
垢版 |
NGNG
>>445
改善しないっすね。

apache2limits_args="-e -t 600"

にしてみた。< 前は 1800 だった。
453root▲ ★
垢版 |
NGNG
bbs.cgi 等配布リストに、live22x4/live22x5 を追加した。
454root▲ ★
垢版 |
NGNG
もう1回、教科書どおりのほうほうでカーネルとユーザランドを更新しなおしてみた。
普通に 6.1R になったところで、SMP ありのカーネルに差し替え。 < cobra2247
455root▲ ★
垢版 |
NGNG
無事に上がったので、make -j 4 buildworld (負荷試験のかわり)を実施中。
456root▲ ★
垢版 |
NGNG
死にました、、、。

SMP なカーネルに問題があるのか。
あるいは CPU が片方いまいちなのか。
457root▲ ★
垢版 |
NGNG
このカーネル config は、ex14 のと同じなので、
問題があるとはちと考えにくいが、、、。ううむ。

リブート要請と、調査依頼を出しておくです。
458root▲ ★
垢版 |
NGNG
>>429
○live22x1 OS バージョンアップ + Apache 更新 … 済 6.1R
・news20 システム構築 … DNS 登録 done 後作業継続予定、ただしトラブル解決後
・news20b = cobra2247 トラブル中、調査依頼中 … 土曜日なので週明けからか
・memories = oyster902 httpd が暴走する問題 … とりあえずその場しのぎを入れてみた
・削除の呪文の mod_proxy でのフォワード … 別途すすめる
459root▲ ★
垢版 |
NGNG
違うとは思えないけど、
config ...; make cleandepend; make depend; make で作ったカーネルと、
make buildkernel KERNCONF=... で作ったカーネルでやってみた。

しかし、やはりだめだった。

リブート依頼と調査依頼(一時的に作業依頼止めていた)出します。

# 今日は、ここまでで、、、。ううむ。
2006/05/07(日) 03:49:17ID:cgA4oCWW0
>459
お疲れ様でした〜
原因は指摘してるCPU1発あぼ〜ん説に一票
SMP無しで動くのに有りにするとこけるなんて1発壊れてるとしか思えない
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。