• KAGRA
• Subgroups
• DGS
• Meeting
• 20230801
• minute

2023/8/1 16:00~ DGS meeting

• 宮川、押野、山本、池田、中垣

0. 2023年度予算

DGS total: 2000

• Test bench for O5: 900
• PC/Network maintenance: 500

• 20bit ADC: 500 -> 2枚買えたら

• IO chassis test cable: 100
• (X end optical fiber cable: 200)
• Optical fiber cable at corner station for new IO chassis.

1. IPC glitch

• rtsystabの2つ目まではエラーが出ない。それ以降は出る。順序を変えると出方が変わるが、その影響が順序を変えていないところにもでる。
• mx streamの立ち上げの引数の順序を直接変えて、mx streamを立ち上げ直したら切り分けができないか？
• ethtoolでlatencyを遅くして影響が出るかみてみる。
• latencyはDC0もRTPCも最小になっていると思われる。
• アップデートで解決しないのか？

2. MTP光ファイバーケーブル

• new IO chassis
  • 計算機室からセンターエリアの中心（LCSラックくらい？）まで、例えば64芯のスプライスボックスを設置すれば8台のシャーシを接続できる。
    • 何本かにかけるか？ITMの2階が最初で48芯、2U分のスプライスボックス。次にLSC、IOO、OMC。
  • 夏くらいを目処に。
• MPO規格のスプライスボックはある。インフォファームがもう少し調べてくれている。
• 10Gbで良くて、それだとOM3で300m届。それで十分では？
  • 500万越えの工事をするか？
• センター2階が最優先。RFMを無くさなければならないから。もしくはlogn Dolphinだが、数を増やしたくない。
  • IRIG-Bシャーシが1台浮くことになる。
• Endの1-2階間をどうするか？logn Dolphinを1、2階共に設置するか、計算機を（2階に）集めてIOシャーシを1台1階におく。1ー2階のネットワークも増やす。
  • IRIG-Bシャーシが2台浮くことになる。
• 別計算機を立ち上げて、新IO chassisとDonphiin GEN3のテストをするといい。
  • O4bが始まる前に見込みをつけておいた方がいい。
  • V4が数台。Xeon Gold　27台ある。Dolphin（制御をDAQ）とIRIG-B、DGSを全てハーフハイトで。
  • DC0で16個のend point（スレッドに相当）が立ちあがる。30台のRTPCからデータを受け取る。コアが12個なので、入れ替えながら受け取る。NIC1台で32個のエンドポイントを扱えるのでNICを増やすか、コア数を増やすかするといい。エンドポイントを1ー2年前に8個から16個に増やした。
• 古いIO chassisはGEN1で動いているので、biosのGEN3モードで動くかどうかのテストをする必要がある。
• センター2階が最優先。太いケーブル(8芯x6台=48芯以上)で繋ぐ
• センター1階は予算があれば進める。最終的にはBSあたりとIOOあたりの2か所で、段階的にやってもいい。
• エンドはMTPは無しでも良く、1-2階間のマルチモードの8芯以上の追加がX,Y共に必要。

空調機

• 空調を追加する。真ん中に冷気を集めて、上に暖気を逃す。暖気は天井近くでエアコン方向へ。

3. GPSのジャンプ

• KAGRAのGPSに4月に大きなジャンプが起きた。
• SKに6月にCommon Viewの作業中に大きなジャンプが起きた。少なくとも4月には何もなかった。
• 9/13 天文学会で特別セッションで発表する。
• (5/9)衛星の数が正午に減るようなことはなさそう。

4. 1ヶ月の進捗状況

• 時刻情報をすぐに比較できるようにしようと考えている。FPGAでSKのTDCというのを作るか？
  • LIGOのComparatorは？
• Dropboxのディレクリ構造が変更になったのが問題。真空引きのときに構造が変わってしまったので、構造を戻して真空作業が終わって構造を戻すときにファイルが二重化されてしまった。さらに、内外でズレが出てしまったのでいまだに混乱している。

  • (1/10)一応同期する準備ができたところまできた。->(2/7)gctの範疇で同期を開始する。-> (3/7)gctの方でスクリプトの準備ができたくらい。まだ動かしていない。次回gctで議題として出す。-> (4/4) データが2重化されたので躊躇していたが、このまま進めるとおそらく3重化される。問題が複雑なので、gctが中心に関係者を集める。

• Wifiのルーターの設定変更のレビューが必要。(3/7)今後DGS内でコンセンサスを取る。観測中でも可能。

5. テストベンチ

• 11/1 IO chassis8台を神岡研究棟の方に移した。
• 回路室のラックの押野君機材を移動する。
• 北部会館2階を3月はじめくらいまでに開ける。
  • IO chassisは組み立てで業者に戻す。Back Plane BoardはSKのテストベンチの方に。
• 100Vでブレーカー2つ分使えるように手配した。計算機は200Vなので、これでOK。
• (3/7) F2Fなどで話すといいかも。
• 新しいRCG4以上で古いIOシャーシが動くかどうかのチェック。
  • 計算機室から中央まで多芯ケーブルで持っていって、スプライスボックスで分散できないか？
• k1dc0

  • klog25270

• RCG version 5.1.4

  • klog25273

• Modified model

  • klog25279

• コンデンサ故障

  • klog25660

• ベンチマーク

  • klog25836

• PC交換

  • klog25841

• RCGがLIGOの方で5にまでなった。RFMは使えなくなっている。

  • -> テストベンチでも5.1.4を入れてある。IOシャーシのコンデンサ故障が発覚。GPSは取れている。V2のCPUが遅くてリアルタイムモデルが動かなかったが、V4にしたら動くようになった。

  • BIOが4枚までの制限があるかも。

スケジュール

• 7月：DAQ立ち上げ
• 8月：テストベンチ移動
• 9-11月：Dolphin用テストベンチ立ち上げ
• 12-1月:Dolphon-光変換PC立ち上げ
• -24年12月： テスト

5. メンテンナス

• 古いUPSバッテリーを一斉交換する。->　山本 -> 9/6:すでに切れているものは交換した。O4までに、後2台残っている。

• DAQにやはりトラブルが残る。FW0のCPUでトラブルの確率が変わるようだ。
  • タイミングエラーが出た時点でその時点のデータが使えなくなる。dc0がダメなので、両系列ダメになる。
  • 8/9 TPが増えるとエラーの頻度が上がる。
  • 10/4 負荷が増えるとDAQがエラーになる傾向にある。
• 観測中は安定して動いているかのチェックがメインだった。今後は自動でチェックできるような方向でいきたい。
• カメラサーバーを新しいOSと環境を用意してテストする。HDD交換で、計算機はそんまま使用。
• k1scriptでSegmentation faultが出ているので、メンテナンスの時に直す。

6. ADC noise

• ADCの遅延。新しいカードが1クロック(16usec)遅れる。ただ、新しいADCの方がノイズが少ない。
• 8/9 18Vと24VのGNDが繋がるとだめ。
  • 8/9 IO chassisの出力側: DACのSCSIケーブルと、DIOのケーブルのDO側が繋がっていると、IO chassisの電源(24V)のGNDとIO chassisの筐体が繋がる。ラックのフレームと回路電源(18V)のGNDが繋がっている。そのためさらに何らかの理由で24Vと18Vの繋がっているよう。

  • 例えばDOの37ピンのシールドと各回路のシャーシが繋がっているのでは？->ササキに作ってもらうか？

  • Oplevはあまり問題ないが、オフセットが大きくて揺れの絶対量自身が問題になっているところがダメ。
  • BOのGNDを切るアダプターを作るのはどうか？
  • BIとADCのケーブルは関係なさそう。
• 回路室に再現できるスタンドアロンを作る。今の回路室にあるスタンドアロンは測定で使うのでいじらない。
  • 回路室ラックにある押野君管理の計算機を旧SK計算機室に移す方向で進める。
  • スタンドアロンがそこそこ動くようになってきた。
  • DACのch数で抵抗が分割される。枚数分のch数でわられる。BIOのch数が関係するかも、ただしまだ検証の必要あり。
• 坑内の各ラックのどこのチャンネルが悪いのかを調べておく。PRとOMCあたりを調べる予定。
  • 12/23にSRとOMCラックのADCを測定した。
• (2/7)両エンド1回を除いて、測定すべきものはほぼ測定した。
• (3/7) Xendの1階を測定した。いくつかのチャンネルがノイジーだったが、今回はそこまで問題にはならないチャンネルだった。残りはYend 1階。
• (4/4) DACの方の測定をテスト的に試す。テストマスのコイル周りを優先的に。
  • 周波数で見てノイズがあまりフラットでなく、ブロードなピークが見える。

7. IP 枯渇問題

• 押野君がWS networkを立てる案を作ってくれた。
• 10.60.10.XXのサブネットを変える。
• Oは多分無理。1週間くらいのメンテナンスデーが欲しい。
• 10/4 EPICS信号をTCP/IPのネットワークから分ける。（池田）
  • awgはnds経由で指令しているのか？
• O4以前は諦める。

8. interlock

• 真空関連で進めている。PLCだと予算が厳しいので、廉価なものを選んでいる。（中垣）
  • IPが数十必要になる。
• (3/7) 2月に上久保田さんがきて、いくつかのポンプ関連のモニターテストをした。次回上久保田さんがきて、上位PCと繋ぐ。
• (4/4)3/16に上久保田さんとヤンさんがきてくれて、Yarmで動作確認をした。サーボと真空ゲージの接続にトラブルがまだある。
• (5/9)5/11, 12にヤンさんがきて真空モニターを設置予定でIPはすでに取得した。来週16,17日に上久保田さんがくる。
• (7/4) 5/16, 17に上窪田さんと打ち合わせ、6/29,30にヤンさんがきてY21とTMPとの接続テストをした。来週また上窪田さんがきて進める。

長期的でやるタスク

• 大きいモニターもいずれ交換。O4a後くらいか？

• 坑内のIOO付近のWi-Fiを安定化させる。-> クリーンブース内を有線化

• テストベンチ。
  • Dolphinが主流に。DAQもDolphin。
• SINETのアップグレード
• 坑内ネットワークのアップグレード
• 新IO chassisをどう稼動させていくか？
  • 今回買った計算機で稼動
• RGCのアップグレード
• DCの冗長化
• 20bit DAC
• 18bit ADC
• タイミング関連が変わる。
• 計算機のreplace
• 回路の交換
• 柏と神岡の10G化
• 柏が止まる時の逃げ道、冗長性など
• 予算

To do

ケーブル

• 計算機室の出口のケーブル整理。

その他

• D-SUB37pinケーブルを作る。

今後の予定

• 次回: 8月1日（火） 16:00~
• 次々回: 9月5日（火） 16:00~