Transformer 位置编码与 Causal Mask

页面读取 fixture.json,展示正弦位置编码和 Decoder-only 生成中使用的下三角 mask;悬停 mask 行查看该位置可见范围。

Positional Encoding

Causal Mask

位置编码为 Self-Attention 提供顺序信息;causal mask 禁止当前位置看到未来 token。测试用例读取同一份 fixture 校验这两部分。

返回可视化入口