Attention Is All You Need

建立于2025-12-04，继承自CS231n笔记和MVIG

之前看CS231n笔记相关lecture，感觉没学明白，找了各种网课，看bolg，问ai，总还是不理解。还是得亲自看一看这篇文章讲了什么，建立自己的理解，同时也建立一个文件记录汇总这些理解。

2025-12-07

$\text{Attention}(Q,K,V)=\text{softmax}\left(\frac{Q{K}^T}{\sqrt{d_k}}\right)V$ 突然意识到，那个softmax算出来的是概率，乘在V上就是加权，有点意思。