Denser neq Better: Limits of On-Policy Self-Distillation for Continual Post-Training
実装難易度
Easy
推論・学習コスト
High
想定用途
異常検知
概要
Continual post-training enables foundation models to acquire new knowledge while preserving existing capabilities. Recent work suggests that on-policy learning can mitigate forgetting, with on-policy self-distillation emerging as a particularly attractive approach. In this work, we revisit this optimistic view through self-distillation policy optimization (SDPO). Our experiments show that SDPO can…
何が新しいか
Continual post-training enables foundation models to acquire new knowledge while preserving existing capabilities. Recent work suggests that on-policy learning can mitigate forgetting, with on-policy…
何に使えるか
異常検知
実装情報
- GitHub URL
- あり
- Hugging Face URL
- あり
実装チェックリスト
実装または配布ページ
OKコードまたはモデル配布ページから検証を始められます。
一次情報リンク
OKHugging Face / GitHub
検証しやすさ
OK実装またはモデル配布ページから試せる可能性が高いです。
計算資源
要確認学習や高解像度推論ではGPUメモリと実行時間に注意が必要です。
ライセンス
未取得配布元のLICENSE、モデルカード、Paperの利用条件を確認してください。
商用利用
未取得研究利用限定、データセット由来制限、API規約の有無を確認してください。
自社データで試すなら
製造業・材料開発のExcel/CSVデータに落とし込むための最初の手順です。
- 1まず自社データを、入力条件、目的変数、評価したい指標に分けて整理します。
- 2LightGBMやRandom Forestなどのベースラインを先に作り、この手法と比較します。
- 3評価指標はR2/RMSE、AUC、異常検知の再現率、実験回数削減率など、現場の意思決定に近いものを選びます。
- 4SHAPや特徴量重要度で、効いている因子が物理・化学・工程知識と矛盾しないか確認します。
実装難易度
Easy - 実装またはモデル配布ページから試せる可能性が高いです。
必要リソース
- GPU目安: High
- データセット: 論文・リポジトリ側の指定を確認してください。
- 学習要否: 推論だけで試せる可能性があります。
- 学習や高解像度推論ではGPUメモリと実行時間に注意が必要です。
実務で使う場合の注意点
- ライセンスと商用利用条件は、Paper / GitHub / Hugging Face の配布元で確認してください。
- 精度、再現性、計算コストはデータセットや評価条件に依存します。
- 個人情報や機密データを扱う場合は、入力データの保存先と外部API利用条件を確認してください。
関連記事
Quantum Spectral Anomaly Detection
A core task in quantum anomaly detection is to compute an anomaly score that quantifies how strongly a test qu
Learning Only What Valid Adapters Can Express: Subspace-Constrained Adaptation Against Fine-Tuning Poisoning
旧型のモデルをアップデートする際、パラメータを変えるだけでなく新しいタスクに適応する機能も加えられます。この手法は、パラメータを調整せずに、学習済みモデルに新しいタスクの機能を追加するというアイデアを実証しています。
Trajectory-Anchor Optimization for Overconfident Thermal Visual Place Recognition: Zero-Leakage OOD Auditing and Kidnapped-Robot Recovery
この研究では、衛星画像特徴抽出において、近影熱像処理（熱像撮影による画像処理）フロントエンドが、クローズドセットの検索において優れた性能を示すが、クローズドセット外のデータや未マッピング画像の検索において、過度に確信を持
Distill Where the Student Goes: Teacher-Regularized RL for English-Evidence Cross-Lingual RAG
Cross-lingual retrieval-augmented generation (RAG) is often deployed in an English-evidence regime, where user