2008/10/09
Xgrid (続編)
by
菊地時夫
—
posted at
2008-10-09 17:19
last modified
2008-10-09 17:19
Xgrid 覚書(その2)
- たくさんジョブを投入して、あれこれやってたら、controller が crash するという現象に。
- どうも、こういうこと らしい。
- 要約すると、同じコマンドで引数を変えて計算するようなジョブだと、
- 引数を変えるごとにジョブを分けるのでなく、
- 一つのジョブに、引数を変えたタスクを登録する方がよい
- タスクの追加には、XML を作成すればよい
- あー、XML をナマで書くのってやだよね。何かいい方法ないかな。
- そういえば PyXG ってあったよね。
- で、こんなスクリプトを書いてみる:
#!/sw/bin/python from xg import * import os myspec = JobSpecification() myspec.setName('xgtest') myspec.addFile('/path/to/xgtest.sh', 'xgtest.sh', True) myspec.addTask('./xgtest.sh', '2008') myspec.addTask('./xgtest.sh', '2009') myspec.addTask('./xgtest.sh', '2010') conn = Connection(hostname='hostname', password='secret') myjob = Job(connection=conn) myjob.batch(myspec)
- 実行するシェルスクリプト xgtest.sh は:
#!/bin/bash /usr/bin/cal $1 > $1 hostname >> $1
- 一応、結果は引数のファイルに入るようにしておく
- が、PyXG のカレントリリースだと、微妙にバグがあるようで、svn の方に入れ替えたりして、現在テスト中。
- Category(s)
- なんでも
- The URL to Trackback this entry is:
- http://sango.lab.tkikuchi.net/Members/tkikuchi/30e130e2/xgrid2/tbping
- xgrid
- ¦
- Main
- ¦
- Xgrid(続々編)
If You Are Trying to Submit Jobs over 2 GB
The Xgrid controller is a 32-bit process and keeps most job input and output data in
memory. This means that the controller can crash if your jobs require a large amount of
input or produce a large amount of output. This limitation might change in the future.
ということらしいが、、、