この記事に掲載されている図には、技術的な観点から違和感を覚えます。
特に、System 2 の隣に SSM(State Space Model)が並べられている点が不自然です。より正確には、System 2 は現状の Transformer や SSM 単体では実装不可能であると言うべきでしょう。System 2 は、統計的なアプローチによる「もっともらしさ」の追求だけで実現できるものではありません。
graph TD
subgraph Layer3 [Layer 3: Orchestration]
RAG[RAG]
ReAct[ReAct]
MCP[MCP]
Agents[Agents]
end
subgraph Layer2 [Layer 2: Inference Strategy]
CoT[CoT]
ToT[ToT]
Planning[Planning/Search]
end
subgraph Layer1 [Layer 1: Architecture]
Transformer[Transformer]
SSM[SSM]
RWKV[RWKV]
MoE[MoE]
end
Layer1 --> Layer2
Layer2 --> Layer3
レイヤー 構成要素(例) 本質的な役割 Layer 1: Architecture Transformer, SSM, RWKV, MoE 統計的な計算効率と表現力。計算複雑性をどう克服し、並列性をどう担保するかという 「土台」 の議論。 Layer 2: Inference Strategy CoT, ToT, Planning/Search 統計モデルの「回し方」。モデルに思考プロセスを模倣させ、統計的な妥当性を高めるための 「手順」 の議論。 Layer 3: Orchestration RAG, ReAct, MCP, Agents 外部世界とのインタフェース。モデルが感知できない最新情報や外部ツールと連携するための 「運用の仕組み」 の議論。 元の図の作成者にとって、AI は「課題を解決するための魔法のツール」の詰め合わせに見えているのかもしれません。しかし、以下の境界線が曖昧になっているように見受けられます。
...