学習手法

DMindのモデルは、独自の2つの学習手法（HPSとC³-SFT）を、SFT、RLHF、LoRA、蒸留といった標準的な手法と組み合わせています。このページではそれぞれを簡単に説明し、どのモデルが何を使っているかを示します。

基盤モデル

シリーズ	パラメータ	基盤	基盤提供元	役割
DMind-3	21B	gpt-oss-20b	ChatGPT	システミックリスク、クロスチェーンのナラティブ、機関投資家向けリサーチ、エージェント・オーケストレーションのための、クラウドおよび企業向けVPCのマクロ戦略・金融エンジン。
DMind-3	4B	Qwen3.5-4B	Qwen	ローカル向けの金融モデリングおよび戦略推論モデル。プライバシー重視で、オフラインでも利用でき、端末上で深い推論が可能です。
DMind-3	270M	functiongemma-270m-it	Gemini	端末上のウォレットおよびDEXの意図認識と関数呼び出し。SEARCH_TOKENとEXECUTE_SWAP、マルチチェーン、中国語/英語の意図に対応します。
DMind-2	107B	GLM-4.5-Air	GLM	フラッグシップの暗号資産投資分析モデル。オンチェーンの挙動を通じてマクロトレンドを扱い、専門的な助言と機関投資家向け分析に対応します。
DMind-2	4B	Qwen3-4B-Thinking-2507	Qwen	ローカルおよびエッジ環境への展開、プライバシー、低遅延用途に適した軽量な暗号資産投資分析モデル。
DMind-1	33B	Qwen3-32B	Qwen	DeFi、トークノミクス、ガバナンス、スマートコントラクトのQ&Aと推論のためのWeb3専門モデル。
DMind-1	15B	Qwen3-14B	Qwen	DMind-1の軽量蒸留版。低遅延のリアルタイムQ&A、オンチェーン分析、軽量エージェントに適しています。

DMindモデルを使用するには、DMindのモデル契約と、基盤となるベースモデルの元のライセンスの両方を遵守する必要があります。

標準的な手法

教師ありファインチューニング（SFT）

基本となる手法です。質問と参考回答をペアにして、モデルがそれに一致するよう学習します。DMind-1の第1学習段階ではSFTを使用します。

LoRA（低ランク適応）

SFTを行うための、パラメータ効率の高い手法です。モデルの全パラメータを更新する代わりに、LoRAは各層に小さな低ランク行列のペアを追加し、それらだけを学習します。これにより、学習コストを1桁以上削減できます。DMind-1ではSFTにLoRAを使用しています。ベンチマーク論文の制御実験でも、rank 16 と alpha 32 のLoRAを使用しています。

RLHF と PPO

人間のフィードバックによる強化学習。まず、人間の選好データ（この質問では回答Aのほうが回答Bより良い、というデータ）で報酬モデルを学習します。次に、その報酬モデルを学習シグナルとして用い、PPO（Proximal Policy Optimization、近接方策最適化）で本体モデルを最適化します。これはGPT-3をChatGPTに変えたのと同じ手法です。DMind-1の第2学習段階ではこの組み合わせを使用します。

知識蒸留

小さな学生モデルが、大きな教師モデルから学習します。DMind-1-miniは二重教師から蒸留されています。すなわち、DMind-1自身に加えて、一般的なSOTAモデル（DMindのDeepResearchフレームワークを通して、出力をWeb3の文脈に整合させたもの）です。蒸留は3つのレベルで行われます。学生は教師の最終出力に一致し、各トークンに対する教師の完全な確率分布に一致し、中間層の表現も整合させます。

DMind独自の2つの手法

HPS（階層的予測統合）

DMind-3（21B）の背後にある学習目的です。HPSは、層状構造の入力全体にわたって推論するようオラクルを訓練します。最下層には、個々のトランザクションやコントラクト呼び出しといった生のオンチェーンイベントがあります。中間層には、集約された市場指標があります。最上層には、FRBの政策、CPI、地政学的イベントといったマクロシグナルがあります。

各入力モダリティごとに、モデルは次のグローバル市場状態を予測することを学習します。学習損失は、マルチモーダルな重み付き対数尤度と、基盤モデルのパラメータから乖離しすぎることを罰する正則化項を組み合わせたものです。この正則化は破滅的忘却を防ぐためのもので、モデルが一般的な言語能力を失うことなく金融に特化できるようにします。

HPSはまた、オラクルに2モードの推論切り替え機能を与えます。標準モードでは直接的な回答を返します。特別な [STRATEGY] トークンを使うとモデルは戦略モードに切り替わり、回答前にリスク経路を追加で考慮し、過去に類似したシナリオを検索します。高速思考と低速思考を、呼び出し元が制御します。

C³-SFT（対比的修正連鎖SFT）

DMind-3-Mini（4B）の背後にある学習手法です。C³-SFTは1つの問題を軸に設計されています。小さなモデルが自信を持って誤ったことを述べるのは、不確実性を認めるモデルよりも危険だからです。

標準的なSFTは、質問に対して正しい回答を出すようモデルを訓練します。C³-SFTでは学習データを4段階の連鎖に変えます。連鎖は質問から始まり、次にもっともらしいが欠陥のある初期回答、その初期回答が見落とした点を指摘する明示的な批評（たとえば、考慮されていなかったオラクル操作リスクなど）、そして批評を踏まえて修正した回答、という流れになります。

モデルはこの4段階すべてを生成するよう学習します。推論時には、これが自己問いかけの振る舞いになります。モデルは初期回答を出し、自分で批評し、修正します。名前の「contrastive（対比）」の部分は、学習中に正しい回答と典型的な誤答の両方をモデルに示すことに由来し、失敗モードの具体的な形を学習できるようにするものです。

これは、より大きなモデルが別個の思考トークンで実装するSystem-2型推論アプローチの軽量版です。これを4Bモデルに直接組み込むことで、Miniは安全策を保ちながらユーザーの端末上で動作できます。

学習データ

DMind-1の学習データは、DeFi、トークノミクス、ガバナンス、スマートコントラクト、Layer-1/2アーキテクチャ、NFT、DAO、セキュリティにまたがる32.7GBのWeb3ソース文書から蒸留された、専門家が精選した13,276件の知識項目です。

DMind-3の学習データは、より大規模で、より構造化されています。

ソース	割合	内容
機関投資家向けアルファ研究	35%	暗号資産ネイティブのファンドおよびTradFiレポートを、因果モデルで分解したもの
グローバルなマクロ経済データ	25%	FRED、世界銀行、IMFの時系列データを、オンチェーン指標と結合したもの
クロスチェーンのインデックスデータ	20%	主要なEVMチェーン、Solana、Cosmos全体の完全なトランザクション、ステート、ログ履歴
事後分析と監査	10%	システム障害、経済攻撃、プロトコルハック。初期シグナルと伝播経路に重点を置く
地政学と規制	10%	デジタル資産に影響を与える世界的な規制変更、政策提案、地政学的イベント

合計: 50万件超の精選文書に加え、マルチテラバイト規模のオンチェーン構造化データ。

すべての学習データは、スクレイピングではなくドメイン専門家によってレビューされています。選定基準はモデルカードと論文で公開されています。