セットアップ

アカウント申請

Application for an account of KAGRA Main Storage System に従い申請する．

startup

主にアカウント発行の際にメールでもらえるguideに沿って行えば良い。一応、JGW docにも資料がある

frame fileを読んでみる(python)

環境はdefaultでほとんどできているはずなのでgwpyを使ってframe fileを読んでみる Lecture in Japanese

frame fileを読んで様々なplotを書くためのsample codeやcondor_jobを使ってjobを投げるためのshellなどが豊富にある Kozapy

condorの使い方

https://git.ligo.org/yuzurihara/commissioning-tools-for-kagra/-/tree/main/script

condorのコマンドについては澤田さんのスライドを見てみてください

https://gwdoc.icrr.u-tokyo.ac.jp/cgi-bin/private/DocDB/ShowDocument?docid=11049

自身のPC上でprogram編集と結果閲覧を完結したい人向け

自身のpc上のeditorを愛している方や、ネットワークが弱くsshでm31-01にログインした状態で作業するのにストレスがある方向け

自身のpc上に作業用のディレクトリを適当に作る（mkdir以下は当然任意）

mkdir ~/work

作ったdirectoryにcodeを書く

emacs ~/work/test.py
.
.
.

以下のshell scriptを作業用のdirectiryにおく

exePath=$(pwd)/$2
exePath=~${exePath#*$(cd $(dirname $0); cd ../ ;pwd)}

rsync  -arp --inplace  $(cd $(dirname $0); pwd) m31-01:~/
ssh -Y -t -t m31-01 <<EOC
source ~/.virtualenvs/new_env/bin/activate
$1 ${exePath}
exit
EOC
rsync -arp --inplace m31-01:~/$(basename $(cd $(dirname $0); pwd))/ $(cd $(dirname $0); pwd)

公開鍵の設定を済ましておけばかなりリモートで作業を行なってfileを持ち帰るという作業はスムーズになる

詰まった問題

詰まった問題やこのページの通りやってもうまくいかないことを書き込む

gwpy 1.0.0 にするとframe fileがtimeseries.readで読めなくなる

単一source fileなら読めるが複数source fileを読もうとするとerrorが出る

単一ファイル読み出し(ok)
data = TimeSeries.read(['/data/full/12567/K-K1_C-1256700000-32.gwf', '/data/full/12567/K-K1_C-1256700032-32.gwf', '/data/full/12567/K-K1_C-1256700064-32.gwf', '/data/full/12567/K-K1_C-1256700096-32.gwf'], c K1:CAL-CS_PROC_C00_STRAIN_DBL_DQ, start =  1256700000, end = 1256700100, format='gwf.lalframe')

TimeSeries([ 2.24202135e-11,  2.24398064e-11,  2.24622275e-11,
            ..., -1.91058005e-11, -1.90862017e-11,
            -1.90661226e-11]
           unit: dimensionless,
           t0: 1256700000.0 s,
           dt: 6.103515625e-05 s,
           name: K1:CAL-CS_PROC_C00_STRAIN_DBL_DQ,
           channel: K1:CAL-CS_PROC_C00_STRAIN_DBL_DQ)

複数ファイル読み出し(ng)
data = TimeSeries.read(['/data/full/12567/K-K1_C-1256700000-32.gwf', '/data/full/12567/K-K1_C-1256700032-32.gwf', '/data/full/12567/K-K1_C-1256700064-32.gwf', '/data/full/12567/K-K1_C-1256700096-32.gwf'], c K1:CAL-CS_PROC_C00_STRAIN_DBL_DQ, start =  1256700000, end = 1256700100, format='gwf.lalframe')

RuntimeError: Failed to read /data/full/12470/K-K1_C-1247030016-32.gwf: Internal function call failed: I/O error

gwpy0.15.0だとこのエラーは起こらず、1.0.0だと起こる

今のところ1.0.0でこの問題を解決する方法が分からないので、pipでのinstallの際は

pip install gwpy==0.15.0

とすることを勧める。ちなみにTimeSeriesDict.readなら複数ファイルでも問題なく読めるので、1チャンネルだけのときもこちらを使うようにすれば問題ない。

KAGRA/Subgroups/PEM/UseKashiwaPC (last edited 2025-02-15 09:40:55 by tatsuki.washimi)

-  ⇤ ← Revision 1 as of 2019-11-21 18:21:23 → 
  Size: 1667
  Editor: taiki.tanaka
  Comment:
+   ← Revision 43 as of 2023-01-12 11:07:29 → ⇥
  Size: 4657
  Editor: tatsuki.washimi
  Comment:
-Deletions are marked like this.
+Additions are marked like this.
 Line 1:
-柏PCの使い方
+~+ KAGRA主データ保管装置の使い方 +~
 Line 3:
-~+<<TableOfContents(2)>>+~
-Line 5:
+Line 4:
-= 目的 =
kashiwa PCを使用してframe fileをみんなが快適に解析できるようにできるようにしたい
+以下では簡単のため、このシステムを柏PCと呼びます。<<BR>>
柏PCを使用してみんなが快適に解析できるようにできるようにしたい。あと環境構築などで詰まったことの備忘録。
-Line 8:
+Line 7:
-あと環境構築などで詰まったことの備忘録
+ちなみにframe fileのデータが欲しいだけなら、[[http://157.82.231.170/past_data_viewer/|Pastavi]]を使えば良い(宇宙線研のネットワークにつなぐ必要あり)

~+<<TableOfContents(3)>>+~
-Line 11:
+Line 14:
+[[https://gwdoc.icrr.u-tokyo.ac.jp/cgi-bin/private/DocDB/ShowDocument?docid=10201|Application for an account of KAGRA Main Storage System]]
に従い申請する．

== startup ==
主にアカウント発行の際にメールでもらえるguideに沿って行えば良い。
一応、[[https://gwdoc.icrr.u-tokyo.ac.jp/cgi-bin/private/DocDB/ShowDocument?docid=10076|JGW doc]]にも資料がある
-Line 12:
+Line 22:
-環境はほとんどできているはずなのでgwpyを使ってframe fileを読んでみる
+環境はdefaultでほとんどできているはずなのでgwpyを使ってframe fileを読んでみる
-Line 18:
+Line 28:
-= kashiwa PCのdefault環境では満足できない方へ =
== virtualenv ==
matplotlibが古すぎてplotがダサくなる方やgwpyのerrorが自身のPCと異なり困る方など向け
-Line 22:
+Line 29:
-おそらくkashiwaでpython環境構築に使うのが推奨されているのがvirtualenvである
+-----
-Line 24:
+Line 31:
-pipを用いてライブラリをinstallする
{{{
ssh m31-01
}}}
などでkashiwa PCにログイン
仮想環境の構築（python3.7の部分は好みのversionで良い, 後ろの~/.vir~の部分も好きなpathに好きな名前で置いても良い）
{{{
virtualenv -p python3.7 ~/.virtualenvs/new_env 
}}}
仮想環境を有効にする
{{{
source ~/.virtualenvs/new_env/bin/activate
}}}
面倒くさいので~/.bashrcなどに
{{{
alias nenv='source ~/.virtualenvs/new_env/bin/activate'
}}}
+-----
= condorの使い方 =
-Line 43:
+Line 35:
+https://git.ligo.org/yuzurihara/commissioning-tools-for-kagra/-/tree/main/script

condorのコマンドについては澤田さんのスライドを見てみてください

https://gwdoc.icrr.u-tokyo.ac.jp/cgi-bin/private/DocDB/ShowDocument?docid=11049

-----
 Line 44:
+自身のpc上のeditorを愛している方や、ネットワークが弱くsshでm31-01にログインした状態で作業するのにストレスがある方向け

自身のpc上に作業用のディレクトリを適当に作る（mkdir以下は当然任意）
{{{
mkdir ~/work
}}}
作ったdirectoryにcodeを書く
{{{
emacs ~/work/test.py
.
.
.
}}}
以下のshell scriptを作業用のdirectiryにおく
{{{
exePath=$(pwd)/$2
exePath=~${exePath#*$(cd $(dirname $0); cd ../ ;pwd)}

rsync  -arp --inplace  $(cd $(dirname $0); pwd) m31-01:~/
ssh -Y -t -t m31-01 <<EOC
source ~/.virtualenvs/new_env/bin/activate
$1 ${exePath}
exit
EOC
rsync -arp --inplace m31-01:~/$(basename $(cd $(dirname $0); pwd))/ $(cd $(dirname $0); pwd)
}}}
公開鍵の設定を済ましておけばかなりリモートで作業を行なってfileを持ち帰るという作業はスムーズになる

-----
-Line 46:
+Line 76:
+詰まった問題やこのページの通りやってもうまくいかないことを書き込む

=== gwpy 1.0.0 にするとframe fileがtimeseries.readで読めなくなる ===
単一source fileなら読めるが複数source fileを読もうとするとerrorが出る
{{{
単一ファイル読み出し(ok)
data = TimeSeries.read(['/data/full/12567/K-K1_C-1256700000-32.gwf', '/data/full/12567/K-K1_C-1256700032-32.gwf', '/data/full/12567/K-K1_C-1256700064-32.gwf', '/data/full/12567/K-K1_C-1256700096-32.gwf'], c K1:CAL-CS_PROC_C00_STRAIN_DBL_DQ, start =  1256700000, end = 1256700100, format='gwf.lalframe')

TimeSeries([ 2.24202135e-11,  2.24398064e-11,  2.24622275e-11,
            ..., -1.91058005e-11, -1.90862017e-11,
            -1.90661226e-11]
           unit: dimensionless,
           t0: 1256700000.0 s,
           dt: 6.103515625e-05 s,
           name: K1:CAL-CS_PROC_C00_STRAIN_DBL_DQ,
           channel: K1:CAL-CS_PROC_C00_STRAIN_DBL_DQ)

複数ファイル読み出し(ng)
data = TimeSeries.read(['/data/full/12567/K-K1_C-1256700000-32.gwf', '/data/full/12567/K-K1_C-1256700032-32.gwf', '/data/full/12567/K-K1_C-1256700064-32.gwf', '/data/full/12567/K-K1_C-1256700096-32.gwf'], c K1:CAL-CS_PROC_C00_STRAIN_DBL_DQ, start =  1256700000, end = 1256700100, format='gwf.lalframe')

RuntimeError: Failed to read /data/full/12470/K-K1_C-1247030016-32.gwf: Internal function call failed: I/O error
}}}
gwpy0.15.0だとこのエラーは起こらず、1.0.0だと起こる

今のところ1.0.0でこの問題を解決する方法が分からないので、pipでのinstallの際は
{{{
pip install gwpy==0.15.0
}}}
とすることを勧める。
ちなみに{{{TimeSeriesDict.read}}}なら複数ファイルでも問題なく読めるので、1チャンネルだけのときもこちらを使うようにすれば問題ない。