Penultimate: 마지막(끝) 에서 두 번째
Penultimate Layer: 제일 마지막 Layer 인 Classifier (Linear + softmax) 바로 전 layer 를 뜻함
예를 들어, ViT에선 제일 마지막 block 에서 768 dimension으로 output 이 나오는 layer 를 뜻함
'AI > Deep Learning' 카테고리의 다른 글
| Variational Auto-Encoder (VAE) (0) | 2024.02.28 |
|---|---|
| Generative Adversarial Nets (GAN) 수식으로 이해 (0) | 2023.09.13 |
| Transfer learning (0) | 2022.02.15 |
| Mode collapse (0) | 2022.01.26 |
| End-to-End Learning (0) | 2022.01.25 |