GenRL

image.png

image.png

image.png

分かりやすく言うと

MAMBA

https://qiita.com/peony_snow/items/649ecb307cd3b5c10aa7

https://arxiv.org/abs/2312.00752

https://github.com/state-spaces/mamba?tab=readme-ov-file

1.MambaはAttentionやMLPBlockを持たない簡素化されたアーキテクチャを有します。

選択的状態空間モデル(Selective SSM:Selective State Space Model)という新しい構造を用いることで、必要な情報のみに注目し、計算効率の大幅な向上を達成しています。