v7e-alpha61 起動確認
Web版 DataLake
J-Quants DataLake
普段はここだけ使えばOKです。
日次更新
データの抜け確認・自動補完
①は全ての年別Shardを確認します。②は候補日だけJ-Quantsへ照会し、実際の取引日だけ補完します。祝日・休場日は0件として除外します。
② 銘柄マスター Shard
日足テクニカルの次のDataLake層です。J-Quants V2 /equities/master を基準日指定で取得し、/jq_equities_master_v1.sqlite に保存します。
APIキーはページ最上部の共通入力欄を使います。
未実行
③ 銘柄マスター PC/Web Parity
PC版 screening_candidates.csv の候補銘柄について、Web Masterの会社名・市場・業種17/33・信用区分を突合します。
未実行
④ 財務サマリー Shard
J-Quants V2 /fins/summary の開示データを日次保存します。まずraw JSONを完全保持し、PC版の財務列Parity後に正規化列を固定します。
未実行
⑤ 決算予定 Shard
J-Quants V2 /equities/earnings-calendar を日次保存します。決算跨ぎ除外・カタリスト管理の基礎層です。
未実行
⑥ 市場基礎 Shard(TOPIX + 営業日)
PC版の相対強度・市場状態判定に必要な基礎層です。初回は既存DataLakeと同じ2016-08-30から一括構築できます。
未実行
未実行
未実行
⑦ Standard需給 Shard 5種
信用残・日々公表信用・空売り比率・空売り報告・投資部門別を独立Shardで保持します。API仕様に合わせ、信用残は週次date走査、日々公表信用は営業日date走査、空売り報告は開示日範囲、その他はrange取得します。Plan差で取得不能な項目があっても他項目は継続します。
未実行
未実行
未実行
未実行
未実行
未実行
マイ銘柄
自分の保有・管理銘柄をこの端末のprivate DBへ登録します。追加・更新・削除できます。
PC版 portfolio.csv から登録
保存先は /jq_private_v1.sqlite。市場DataLakeとは分離します。同じコード+口座は追加ではなく更新になります。
マイ銘柄を分析
マイ銘柄:PC / Web 突合
PC版JQPの technical_snapshot.csv を読み込み、登録済みマイ銘柄の同一基準日テクニカルを比較します。
新規発掘 Screening:PC / Web 計算値突合
PC版で選ばれた候補の screening_candidates.csv を使い、その候補銘柄についてWeb側のテクニカル計算値が一致するか検証します。※候補選定ロジックそのものの一致テストではありません。
比較対象: Close / MA5 / MA25 / MA75 / MA25・75乖離率 / Return5D / Return20D / RSI14 / 最新出来高20日比 / High・Low 20D・60D。不一致だけ下に表示します。
年別Shard移行
過去年を一括Shard化
不足期間をJ-Quantsから直接補完
SAH Pool 緊急診断
J-Quants DataLake 更新
高速バックフィル v7e-alpha61
開発者診断(通常は開かなくてOK)
本番 日次更新
J-Quants V2の日足を取得し、bars_recent+当年Shardへ同時保存します。旧巨大DataLakeは使いません。
保存先: jq_bars_recent_v1.sqlite(直近30取引日)+ jq_bars_YYYY_v1.sqlite。両方を検証後Catalogを更新します。
DataLake 読み取り / Catalog
日付範囲を渡すとCatalogが必要な年別Shardだけを選び、利用側からは1つのDataLakeとして読み取ります。
年をまたぐ場合も自動で複数Shardを解決します。年別Shardを優先し、bars_recentは年Shardが無い場合だけfallbackします。
日足Gap 自動補完
Catalog監査で見つかった長期GapをJ-Quants V2から日ごとに取得し、該当年Shardへ直接UPSERTします。旧巨大DataLakeは使いません。
土日はAPIを呼ばずスキップ。平日の祝日・休場日はAPI 0件としてスキップ。1日ごとに取得→該当年ShardへCommit→日次行数+quick_checkを検証します。再実行はUPSERTなので安全です。
正式バックアップ / 復元
Catalog+年別ShardをiPhoneのFilesなどブラウザ外へ保存します。 SAH Pool内だけのコピーではなく、Safariのサイトデータ消失にも備える正式バックアップです。
外部バックアップから復元
保存した jq_catalog_v1.sqlite / jq_bars_YYYY_v1.sqlite 等を複数選択できます。
各ファイルはStreaming Import後に quick_check を実行します。
旧・同一ブラウザ内スナップショット
Legacy巨大DataLake向けの旧機能です。外部バックアップの代わりにはなりません。
自動連続バックフィル v7e-alpha61
穴を再検出しながら連続処理。日付単位Commitなので安全停止・再開できます。Safariは前面表示のままにしてください。