pythonic生物人

大语言模型可视化

分享是一个大语言模型可视化工具LLM Visualization,能清晰演示 LLM 基本架构和运行细节,如Embedding、SelfAttention、Transformer、Softmax等等,初学者有福了。

通过可交互动画学习LLM,直观理解抽象的LLM细节,例如 

  • 🔸嵌入(Embedding)

  • 🔸层归一化(Layer Norm)

  • 🔸自注意力机制(SelfAttention)

  • 🔸投射(Projection)

  • 🔸多层感知器(MLP)

  • 🔸变换器(Transformer)

  • 🔸归一化指数函数(Softmax)

  • 🔸输出(Output)

真是太强了,

👇交流学习

图片