X



トップページ運用情報
1001コメント323KB
【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part16
■ このスレッドは過去ログ倉庫に格納されています
0001root▲ ★
垢版 |
04/12/04 00:28:18ID:???
peko作戦について語るスレです。
サーバロケーションPIEに関する話題もこちらで。

<現在の主要なテーマ>
・read.cgiのmod_cgidso化によるパフォーマンスアップ
・bbs.cgiのSpeedyCGI化によるパフォーマンスアップ
・FreeBSD 5.3Rへのサーバ更新作業&さらなるチューニング

<関連板・スレッド>
また挑戦。@2ch掲示板
http://dso.2ch.net/myanmar/
また挑戦2。@2ch掲示板
http://dso.2ch.net/yangon/
bbs.cgi再開発プロジェクト4
http://qb5.2ch.net/test/read.cgi/operate/1101984763/
read.cgi再開発スレ
http://qb5.2ch.net/test/read.cgi/operate/1087199303/

<関連サイト>
レンタルサーバー maido3.com 2ちゃんねるの転送量: http://server.maido3.com/pie/
MRTGによる統計情報: http://mumumu.mu/mrtg/
2ちゃんねる/PINKちゃんねる 稼動中のサーバ一覧: http://mumumu.mu/serverlist.html

<前スレ>
【Project peko】2ch特化型サーバ・ロケーション構築作戦 Part15
http://qb5.2ch.net/test/read.cgi/operate/1093068260/
0484root▲ ★
垢版 |
04/12/23 20:11:08ID:???
携帯→2ch運用情報スレッド14
http://qb5.2ch.net/test/read.cgi/operate/1103457589/151-161

ということで、ロードバランサをpoundからbalanceに変更してみた。
フォアグラウンドで動かして、daemontools配下に。

runはこんなかんじで。
/var/runの下にファイルが残る場合があって
その場合はうまく起動しないみたいなんで、単にrm(ぉぃ。

#!/bin/sh
exec 2>&1
rm -f /var/run/balance/balance.80.206.223.151.216
exec env - PATH="/usr/sbin:/usr/bin:/bin:/usr/local/bin" \
balance -b 206.223.151.216 -B 206.223.151.216 -f 80 \
c-docomo2.2ch.net:80 c-docomo3.2ch.net:80 c-docomo4.2ch.net:80
0485FOX ★
垢版 |
04/12/24 01:02:05ID:???
ex7,ex9 どちらも swap はじまっちゃってるなぁ

read.cgi との兼ね合いもあるけど、 -M64 はやめて -M32 にすることにしよう。
各サーバから板移転いっこ
0490root▲ ★
垢版 |
04/12/24 21:04:27ID:???
今のex7とか見ていると、-M32だとちょっと少ないみたいですね。
投稿数の割に重いような気がするです。

-M48ぐらいがよさげだけど今はがまんして、まずは今日のあれを観察しよう。
0492root▲ ★
垢版 |
04/12/24 22:51:03ID:???
それでもバッファ溢れが観測されているbanana238に対して、

sysctl net.inet.udp.recvspace=524288

を実行してみた。(それまでの4倍)
0493root▲ ★
垢版 |
04/12/24 23:07:02ID:???
…んでも、dropするなぁ。< banana238

CPU・ディスクとも遊んでるから、チューニングでなんとかなると思うんだけど。
0494FOX ★
垢版 |
04/12/24 23:15:22ID:???
live16 みているけど・・・
read.cgi の産児制限が必要なように見える、
0495FOX ★
垢版 |
04/12/24 23:16:08ID:???
というか、
live16 ってdsoじゃなかったっけ
0496root▲ ★
垢版 |
04/12/24 23:18:26ID:???
>>495
一時期dsoにしたんですが、ピロリさんに言われて戻したです。
例の広告の問題かと。
0497root▲ ★
垢版 |
04/12/24 23:19:37ID:???
status reportを見ているとread.cgiというより、
スロットを埋めているのは、単純にdat直読みのひとたちかと。

LA少ないのに、つながらないし。
0498FOX ★
垢版 |
04/12/24 23:19:43ID:???
書き始めたんで
いろいろ実験してfoundationをしっかりしたものにしてから
その上に構築していくという具合に、

(read.cgi)
0499FOX ★
垢版 |
04/12/24 23:20:37ID:???
でも 
ここも書き込みに若干時間かかるなぁ

BBS か?
0501FOX ★
垢版 |
04/12/24 23:25:49ID:???
ここからの注目は
どれくらいの時間で各サーバが自力回復するか・・・だすなぁ

>>500
BBS は 1) 仕組みを変えるに心が傾いています
2) 単に協力サーバ投入より
詳しいことは来年でしょうな、
0502root▲ ★
垢版 |
04/12/24 23:29:03ID:???
>>501
接続リクエストが減れば、自然に回復するですね。
live16とか、CPUは遊んでいるから。

さて、何時ごろ。
0503root▲ ★
垢版 |
04/12/24 23:37:11ID:???
banana238 を再度調整。

>>492 のさらに倍。
sysctl net.inet.udp.recvspace=1048576
0504root▲ ★
垢版 |
04/12/24 23:41:45ID:???
live16は復活かな。
他もまぁ、概ね大丈夫でしょう。

リブート要請しなくても済んだのは、なかなか。

あとはhttpdのスロット数の調整と、
BBSが詰まらないように悪あがきするぐらいかなと。
0505FOX ★
垢版 |
04/12/25 00:03:22ID:???
自力で復元しないbananaサーバは強制的に・・・
0506root▲ ★
垢版 |
04/12/25 00:06:20ID:???
>>505
リブートすか、、、。
music4はこんなかんじだった。たぶん他のbananaも同じすね。

FreeBSDはこの値↓をデフォルトよりもふやさないと、cgiで忙しいサーバはつらいかと。

680 名前:root▲ ★[sage] 投稿日:04/12/25 00:02:33 ID:???
music4はプロセス間通信用バッファ溢れですね(ex9集中時と同じ)。

kern.maxpipekva exceeded, please see tuning(7).
kern.maxpipekva exceeded, please see tuning(7).
kern.maxpipekva exceeded, please see tuning(7).
kern.maxpipekva exceeded, please see tuning(7).
kern.maxpipekva exceeded, please see tuning(7).

カーネル変数のチューニングが必要かと。
0507root▲ ★
垢版 |
04/12/25 00:07:56ID:???
love3も同じですね。
たぶん、他のbananaも同じかと。
0509FOX ★
垢版 |
04/12/25 00:26:08ID:???
りぶーとはしないっす

read.cgi とめて
たまっているbbs.cgi 全部 kill して
ほとぼり冷めるのを待つと、
0510FOX ★
垢版 |
04/12/25 00:34:08ID:???
>>507

きっかけが >>499-500 で(love3は昼間の爆撃か?)
つらにそれを引き金にメモリのスワップが始まるようです。

「BBS を何とかすれば良い」という方向が当たりと思われ、
0511FOX ★
垢版 |
04/12/25 00:41:36ID:???
あと taht3/travel2/bubble2/book3 は それぞれ -M32 だから
-M128 になっている予感
0512root▲ ★
垢版 |
04/12/25 01:27:13ID:???
>>509
なるほどです。

>>507
ですね。

>>511
うーむ、そういうふうに動くんだっけか。
ソースとドキュメントをちょっとあたってみるです。
0513root▲ ★
垢版 |
04/12/25 01:55:34ID:???
さて、落ち着いたのでtiger/cobraのスロット数を896から1024にした。
live8はものすごい勢いで来てるけど、それなりにこなせているように見えますね。
0514root▲ ★
垢版 |
04/12/25 01:56:43ID:???
で、sysctlで思い切りバッファを増やしてからは、
BBS(banana238)のバッファ溢れは観測されていない模様。
0515FOX ★
垢版 |
04/12/25 01:58:14ID:???
そういえば、、、
シグナル取る実験してなかった。
0516root▲ ★
垢版 |
04/12/25 01:59:15ID:???
>>515
alerm() はだめで poll() でいけるらしいんですが、
どう組むのかなと。

続きはbbs.cgiスレですかね。
0517FOX ★
垢版 |
04/12/25 02:07:32ID:???
んですね、いどー
0518root▲ ★
垢版 |
04/12/25 18:49:07ID:???
tiger512のバージョンアップ完了。
これで、tigerサーバは全部5.3Rに更新済み。

あと5.2.1Rなのは、

c-au系
c/c-others系
www/www2
memories
dnscache2/BBQ2

携帯系、www/www2はたんたんと。
dnscache2/BBQ2は、RAIDカードインストール待ち。
memoriesはちょっと微妙なので、またいつかPIEに行った時にでもぼちぼちと。
0519root▲ ★
垢版 |
04/12/25 20:26:20ID:???
適度に重い感じなので、live8をちょっといじった。
メモリ4Gなので、httpdを1280に設定。
(20:05ぐらいに1024個使い果たしを観測)
0520root▲ ★
垢版 |
04/12/27 02:56:34ID:???
memoriesへの土地造成に伴い、以下のDNS設定変更をお願いします。

(現在)
+ex6.2ch.net:206.223.151.135
+game7.2ch.net:206.223.151.135
+pc6.2ch.net:206.223.150.15

(変更後)
+ex6.2ch.net:206.223.151.230
+game7.2ch.net:206.223.151.230
+pc6.2ch.net:206.223.151.230
0521root▲ ★
垢版 |
04/12/27 03:39:08ID:???
ex6, game7, pc6 memoriesへの格納完了しました。
bbs.cgiとsubbbs.cgiの削除・read.cgiとofflaw.cgiのamd64版への変更も終わっています。

ということで >>520 はいつでもOKです。
0522FOX ★
垢版 |
04/12/27 03:40:01ID:???
りょうかいですー
0523FOX ★
垢版 |
04/12/27 03:50:30ID:???
現在の空きサーバメモ

banana227 (game7)
banana371 (pc6)
0524FOX ★
垢版 |
04/12/27 06:10:55ID:???
root ★さんへ

tiger506 (game9/dso) に etc4 を併設してくださいー
0525root▲ ★
垢版 |
04/12/27 11:49:44ID:???
>>524
作成しました。以下をDNSに追加お願いします。

(新規追加)
+etc4.2ch.net:206.223.152.30
0528FOX ★
垢版 |
04/12/27 14:11:29ID:???
bubble3.2ch.net (banana371) 作成するです
0532root▲ ★
垢版 |
04/12/27 17:17:03ID:???
>>529
確認しますー。
0533root▲ ★
垢版 |
04/12/27 17:23:00ID:???
public_htmlの下のディレクトリが全部700になってるように見えますが、、、。
0535FOX ★
垢版 |
04/12/27 17:24:59ID:???
なんでだろ。。。

tar -czpf で固めて
ftp で持ってきて
tar xzvf で解凍したのに。。。

もあ一回やってみるです。
0536FOX ★
垢版 |
04/12/27 17:29:08ID:???
ちよっと お願いです

news18p.tar を解凍してみてもらえます? > root さん
0537root▲ ★
垢版 |
04/12/27 17:31:50ID:???
etc4のユーザでログインして、__TEST__ ディレクトリの下に解凍しました。
特に問題ないように見えます、、、。

# なぞだ。umaskコマンドの出力は?
0538FOX ★
垢版 |
04/12/27 17:35:15ID:???
>>537
あれん?
それで全部です?
0539FOX ★
垢版 |
04/12/27 17:36:22ID:???
public_html/test とかのフォルダが見当たらない < __TEST__
0540FOX ★
垢版 |
04/12/27 17:36:44ID:???
あっ あった
0541FOX ★
垢版 |
04/12/27 17:38:19ID:???
うーん なぞだ

私が解凍しようとすると Putty 落ちることがあるのよね、
今回は成功しました。
0542FOX ★
垢版 |
04/12/27 17:38:36ID:???
ちなみに こんな経験はじめてです
0543root▲ ★
垢版 |
04/12/27 17:41:41ID:???
Puttyで、接続保持を有効にするとよいです。

設定変更のメニューから、接続を選んで、
KeepAliveの秒数を0から60とかにすれば、切れなくなります。

どうも、ルータによってはそのセッションに何も流れてないと、
接続を切ってくるものがある模様。

# うちの実家で、これにはまりました。
# ルータ(NECだった)でつなぎっぱなしにしてても、セッションだけ切ってしまうようです。
0544root▲ ★
垢版 |
04/12/27 17:41:53ID:???
>>542
うーむ、、、。
0545FOX ★
垢版 |
04/12/27 17:45:10ID:???
>>543
その話しじゃなくて
tar xzvf news18p.tar とかやると
途中で落ちたのだ
0546root▲ ★
垢版 |
04/12/27 17:46:04ID:???
>>545
うーむ、、、。
Puttyがですか。

変なキャラクターがエコーバックされたんだろうか。
0547FOX ★
垢版 |
04/12/27 17:50:21ID:???
>>546
一回こっきりなら「気のせい」で済ますのですが、、、
8回位やって成功したのは一回という
そして時にはpermissionとかが解凍時に再現されていないし
0548FOX ★
垢版 |
04/12/27 17:51:15ID:???
運が悪かったということにしますが、
何かの前兆でない事を祈って。
0549root▲ ★
垢版 |
04/12/27 18:07:05ID:???
ガクガクブルブル、、、。

syslogには、それっぽいのはなかったです。

fsck -n /home は特に異常なしか。
他もひととおりfsck -nかけておこう。
0554FOX ★
垢版 |
04/12/28 14:49:33ID:???
うむ
おかしいぞ
0555root▲ ★
垢版 |
04/12/28 14:51:21ID:???
http://mumumu.mu/mrtg/mrtg-rrd.cgi/read/

read.cgi起動数/dat直読み数、bbs.cgi起動数のグラフをリニューアルした。
read/datを1枚のグラフに収めてbbs.cgiを別グラフにし、
counts/5minをcounts/secに変更(5分平均の値)。
0556FOX ★
垢版 |
04/12/28 14:52:01ID:???
現在 game9 -> game10 のftp 転送やっているんだけど、
まったくスピードでません (32.5KB/s)

tiger506(game9)
tiger504(game10)

どちらか or 両方 ネットワークの設定がうまく行っていないと思う。
本来 100Mb/s のはず
0559root▲ ★
垢版 |
04/12/28 14:58:30ID:???
oyster901をftpしてみた。

game9 <= oyster901 への転送 異常なし
game10 <= oyster901 への転送 異常あり

game10が変な気がします。
調査継続中。
0560FOX ★
垢版 |
04/12/28 15:01:27ID:???
100M full-duplex になっていないということかな? < tiger504
0561root▲ ★
垢版 |
04/12/28 15:03:24ID:???
banana273 => game9 正常
banana273 => game10 おかしい

明らかにgame10おかしいですね。ログインしてても、がくがくする。

これから社内会議を1時間ぐらいしなきゃならないんで、
対応ちょっと遅れます、、、すんません。
0562root▲ ★
垢版 |
04/12/28 15:04:27ID:???
>>560
なってるように見えるんですが、、、。スイッチ側かも。

%uname -a
FreeBSD tiger504.maido3.com 5.3-RELEASE FreeBSD 5.3-RELEASE #3: Thu Nov 4 21:51:36 PST 2004 root@tiger503.maido3.com:/usr/obj/var/src/sys/I386_TIGER_53 i386
%ifconfig em0
em0: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> mtu 1500
options=1b<RXCSUM,TXCSUM,VLAN_MTU,VLAN_HWTAGGING>
inet 206.223.150.115 netmask 0xffffff00 broadcast 206.223.150.255
inet6 fe80::230:48ff:fe2b:2954%em0 prefixlen 64 scopeid 0x1
ether 00:30:48:2b:29:54
media: Ethernet 100baseTX <full-duplex>
status: active
0566root▲ ★
垢版 |
04/12/28 15:54:47ID:???
会議中、、、。

>>563
最初にチェックしました。落ちてはいない模様。

64 bytes from 206.223.151.10: icmp_seq=10 ttl=63 time=2.339 ms
^C
--- 2ch.net ping statistics ---
11 packets transmitted, 11 packets received, 0% packet loss
round-trip min/avg/max/stddev = 0.718/1.866/3.847/0.854 ms

64 bytes from 202.214.202.101: icmp_seq=10 ttl=241 time=115.632 ms
^C
--- www.nhk.or.jp ping statistics ---
11 packets transmitted, 11 packets received, 0% packet loss
round-trip min/avg/max/stddev = 111.353/113.102/115.743/1.469 ms

あとで、他のtigerも調べてみます。
0567root▲ ★
垢版 |
04/12/28 16:07:27ID:???
Name: tiger503.maido3.com
Address: 206.223.150.110
正常

Name: tiger504.maido3.com
Address: 206.223.150.115
おかしい

Name: tiger505.maido3.com
Address: 206.223.150.120
正常

スイッチじゃ、なさそうですね。

tiger504、一度リブートしてよいですか?
0568root▲ ★
垢版 |
04/12/28 16:08:40ID:???
お、、、強制full duplex問題か。(>>563)

ちょっとまってください。やってみます。
0569root▲ ★
垢版 |
04/12/28 16:16:45ID:???
なおった予感。

他のtigerの設定も見直しておきます。

先日のスイッチメンテの時に、強制full-duplexにしないと一部のマシンでhalf-duplexになってしまったので、
その設定を入れたのですが、今は強制full-duplexにしなくても、大丈夫みたい。
0570root▲ ★
垢版 |
04/12/28 16:17:28ID:???
あ、会議さっきおわりますた。勤務中にはかわりないけどね。
不良社員(仮名)と、不良社長(仮名)か。
0571root▲ ★
垢版 |
04/12/28 16:54:23ID:???
うーむ、

○デフォルト(autoselect)でうまくいき、強制100M/full指定すると変になるもの

tiger503 504 506
tiger511 512のプライベート側

○デフォルトだと100M/.halfに設定されてしまって変になり、強制100M/full指定するとうまくいくもの
(先日のスイッチメンテ以降、この症状が発生)

tiger505 507 508 509 510 511 512

最終的に問題は解決したけど、どういうことだろう。
つながっているスイッチが違うのかな。
0572FOX ★
垢版 |
04/12/28 16:55:22ID:???
>つながっているスイッチが違うのかな。

聞いてきます。
0573FOX ★
垢版 |
04/12/28 17:37:32ID:???
・200-48-4
tiger505

・200-48-5
tiger506,507,508,509,510,511,512

・24e3-2
tiger503,504

という構成になっているそうです
0574root▲ ★
垢版 |
04/12/28 17:52:19ID:???
>>573
506だけ一致しないのかな。
あとは、符合しているような。
0575動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/29 00:19:09ID:5NWztrn/
ふと、こんなの思い出した

> 911 名前:動け動けウゴウゴ2ちゃんねる[sage] 投稿日:04/12/16(木) 23:34:41 ID:il+sol+9
> >>909
> そこは足したり引いたりすればいいのか。
>
> >>908
> rootの中の人がうっかりuname -aの結果を書いたら祭り始まりの合図。
0576root▲ ★
垢版 |
04/12/29 00:31:34ID:???
>>575
私も、貼る時にこれがちょっとだけ脳裏をよぎりました。
0577桶屋
垢版 |
04/12/29 02:00:29ID:7GfZElf5
>>571-574
スイッチ側の設定はどうなっているんですか? それももう一度確認したほうがいいです。

○A群
>・24e3-2
>tiger503,504

○B群
>・200-48-4
>tiger505

>・200-48-5
>tiger506,507,508,509,510,511,512


A群のスイッチ側の設定がオートネゴシエーションで、
B群が100M full deplexならば、>>571のようなことが起きそうな予感。

5.3Rのドライバに問題ないとするならば、
スイッチ側とサーバ側で設定を同じにすればいいので、確認するのがよいです。
0581動け動けウゴウゴ2ちゃんねる
垢版 |
04/12/30 13:16:51ID:8wAXoZLv
>580
FreeBSD-updateもportsnapも、サーバー側を立てるportsスケルトンが無いのがちょっと不安。
hosokawaさんがUNIX USERあたりでFreeBSD-updateサーバーの立て方を書いていたけど、けっこうめんどくさかったな。

あとportsnapは/usr/ports/local/みたいなのを作っていると消されちゃうらしいので注意。
0582FOX ★
垢版 |
04/12/30 15:09:08ID:???
root ★さんへ

昔やったアクセスログ取り&激しく取っているところ抽出って覚えています?
もしかしたら全くはじめてかもだけど、
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況