AI/Deep Learning
Self Attention, Cross Attention
이성훈 Ethan
2024. 3. 11. 16:06
2022년 여름에 transformer 를 공부하고 기억이 가물가물하여 다시 한 번 정리합니다!
Self Attention
Cross Attention
Key Value 는 같은 곳에서, Query 만 다른 곳에서 가져옴