Differences between revisions 1 and 20 (spanning 19 versions)
⇤ ← Revision 1 as of 2020-03-15 10:53:21 →
Size: 801
Editor: tatsuki.washimi
Comment:
← Revision 20 as of 2023-01-12 10:49:41 → ⇥
Size: 4526
Editor: tatsuki.washimi
Comment:
Deletions are marked like this. Additions are marked like this.
Line 2: Line 2:
pythonを使ってframe fileのデータを解析するときの情報を日本語でメモしています。
世の中に便利なパッケージがたくさんあるのがpythonの強みでもあるが、調べ物をする際にあちこち回ることになるというデメリットにもなっている。<<BR>>
また、[[https://gwpy.github.io/docs/stable/examples/index.html|GWpy本家のexamples]]は検索性がよくなく、答えを知らないと必要な情報になかなかたどり着けない。<<BR>>
日本語で書かれた資料もほとんどないので、とっつきにくい。

そこでこのwikiページでは、やりたいことベースで大まかに分類し、pythonを使ったframe fileデータ解析でよく使う情報を日本語でメモしていく。
Line 6: Line 11:
== 1. Pythonを使う環境構築 ==
 * 環境構築とかナシでとりあえずgwpyを使いたい場合
   * [[KAGRA/Subgroups/PEM/Portable/GWpy_Chromebook|Google Colaboratoryを使う]]
 * KAGRAメインサーバーを使う場合 (当然、KAGRAコラボレーター限定)
   * アカウント申請: [[https://gwdoc.icrr.u-tokyo.ac.jp/cgi-bin/private/DocDB/ShowDocument?docid=10201|JGW-M191020]]
   * スタートアップガイド: [[https://gwdoc.icrr.u-tokyo.ac.jp/cgi-bin/private/DocDB/ShowDocument?docid=10076|JGW-M1910076]]
   * DMGマニュアル: [[https://dac.icrr.u-tokyo.ac.jp/KAGRA/DAWG/DMG/Manuals]] <- DAC wikiへ入る方法: [[https://gwdoc.icrr.u-tokyo.ac.jp/cgi-bin/private/DocDB/ShowDocument?docid=11668|JGW-L2011668]]
   * 各データがどこにあるのか： [[https://gwdoc.icrr.u-tokyo.ac.jp/cgi-bin/private/DocDB/ShowDocument?docid=11083|JGW-G1911083]]
   * [[KAGRA/Subgroups/PEM/UseKashiwaPC|KAGRAメインサーバーの使い方]]
 * 自分や研究室のPCを使う場合
   * Windwsの場合、WSLでlinux (Ubuntsu/Debian)を入れる
   * [[KAGRA/Subgroups/PEM/Conda|Condaの導入]]
 * 共通事項
   * モジュールのインストール
   * [[KAGRA/Subgroups/PEM/PythonMemoJP/Jupyter|Jupyter]] (Notebook, Lab)の導入

== 2. GWpyで遊ぼう ==
Line 7: Line 29:
 * [[KAGRA/Subgroups/PEM/UseKashiwaPC|KAGRAメインサーバーの使い方]]
Line 9: Line 30:
  * .gwf, .txt, .csv, .wav, ...
Line 11: Line 31:
  * numpy, scipyなどのメモ
  * gwpyのTime SeriesやFrequency Seriesなどの計算小技
 * [[KAGRA/Subgroups/PEM/PythonMemoJP/plot|Plot関連]]
  * Matplotlib, ...
== X. その他 ==
 * [[KAGRA/Subgroups/PEM/PythonMemoJP/plot|Matplotlibでの描画関連]]
Line 16: Line 35:
 * [[KAGRA/Subgroups/PEM/PythonMemoJP/|]]  * [[KAGRA/Subgroups/PEM/PythonMemoJP/speedup|高速化の小技]]


----

== よく使う(インストールしておくべき)モジュールリスト ==

 * ファイル操作など
    * glob
    * os


 * 数値計算関係
    * numpy : 基本はコレ
    * scipy
    * datetime ; 時刻を扱う
    * iminuit : Fitするときに使う ([[https://hackmd.io/@tenoto/Skl_wArqD|参考]])
    * probfit : Fitするときに使う
    * lmfit : Fitするときに使う
    * bottleneck
    * pandas : 表計算をしたり、csvファイルを読み書きしたり
    * numexpr : PandasのQueryの処理を高速化する
    * pandas-profiling : pandasのデータフレームの概要を表示する


 * 描画関係
   * matplotlib : 基本はコレ
   * plotly : ブラウザ上で拡大縮小などがインタラクティブにできる
   * PyQt5 : matplotlibよりも高速で、リアルタイム描画に向いているらしい

 * 機械学習
   * tensorflow
   * scikit-learn

 * 重力波関係
   * GWpy : 基本はコレ
   * lalsuite : フレームファイルの読み書きに必要。直接使わなくてもインストール必須
   * pycbc : CBC解析 (Matched filtering とか)
   * GWDetChar : DetChar解析
   * GWSumm : サマリーページ
   * GWDataFind : 重力波データを引っ張ってくる
   * pyomicron : オミクロントリガーを使う
   * dttxml : diagguiのxmlファイルを読み込む
   * nds2utils
   * python-nds2-client

 * 天文関係
   * astropy

 * 地球物理系
   * geopandas : 位置情報入りの表計算や地図のplotなど (注意：igwn-py39を元に構築した環境には、依存性か何かのせいでインストールできない！)
   * pyprj : 地球上の距離計算
   * [[https://docs.obspy.org/|obspy]] : 地震波解析
   * [[https://github.com/MTgeophysics/mtpy|mtpy]] : 地磁気地電流法(MT法)解析

 * オーディオ関係
   * pysoundfile
   * playsound
   * python-sounddevice
   * wavio

Python memo in Japanese

世の中に便利なパッケージがたくさんあるのがpythonの強みでもあるが、調べ物をする際にあちこち回ることになるというデメリットにもなっている。
また、GWpy本家のexamplesは検索性がよくなく、答えを知らないと必要な情報になかなかたどり着けない。
日本語で書かれた資料もほとんどないので、とっつきにくい。

そこでこのwikiページでは、やりたいことベースで大まかに分類し、pythonを使ったframe fileデータ解析でよく使う情報を日本語でメモしていく。

1. Pythonを使う環境構築

2. GWpyで遊ぼう

X. その他

よく使う(インストールしておくべき)モジュールリスト

  • ファイル操作など
    • glob
    • os
  • 数値計算関係
    • numpy : 基本はコレ
    • scipy
    • datetime ; 時刻を扱う

    • iminuit : Fitするときに使う (参考)

    • probfit : Fitするときに使う
    • lmfit : Fitするときに使う
    • bottleneck
    • pandas : 表計算をしたり、csvファイルを読み書きしたり
    • numexpr : PandasのQueryの処理を高速化する
    • pandas-profiling : pandasのデータフレームの概要を表示する
  • 描画関係
    • matplotlib : 基本はコレ
    • plotly : ブラウザ上で拡大縮小などがインタラクティブにできる

    • PyQt5 : matplotlibよりも高速で、リアルタイム描画に向いているらしい

  • 機械学習
    • tensorflow
    • scikit-learn
  • 重力波関係
    • GWpy : 基本はコレ
    • lalsuite : フレームファイルの読み書きに必要。直接使わなくてもインストール必須
    • pycbc : CBC解析 (Matched filtering とか)

    • GWDetChar : DetChar解析

    • GWSumm : サマリーページ
    • GWDataFind : 重力波データを引っ張ってくる
    • pyomicron : オミクロントリガーを使う
    • dttxml : diagguiのxmlファイルを読み込む
    • nds2utils
    • python-nds2-client
  • 天文関係
    • astropy
  • 地球物理系
    • geopandas : 位置情報入りの表計算や地図のplotなど (注意：igwn-py39を元に構築した環境には、依存性か何かのせいでインストールできない！)
    • pyprj : 地球上の距離計算

    • obspy : 地震波解析

    • mtpy : 地磁気地電流法(MT法)解析

  • オーディオ関係
    • pysoundfile
    • playsound
    • python-sounddevice
    • wavio

KAGRA/Subgroups/PEM/PythonMemoJP (last edited 2023-11-14 09:34:12 by tatsuki.washimi)