rm 파일명 # 파일 삭제 rm -rf 디렉토리명 # 하위 디렉토리까지 한 번에 강제 삭제

Terminal 에서 git 처음 사용하는 경우 git config --global user.name "Github USERNAME" git config --global user.email "Github USEREMAIL" 올리고자 하는 디렉토리로 cd example git init : git 초기화, 맨 처음 프로젝트 올릴 때 git add . : 모든 파일을 올리겠다 git add example git status git commit -m “first commit” “” 안에 수정한 내용, description git remote add origin https://github.com/Ethan-Lee-Sunghoon/**example** git remote -v : 연결 내용 확인 git push o..

/data/sunghoon/anaconda3/envs/가상환경 이름/bin/python3 conda activate 가상환경 이름

sbatch: 긴 job 돌릴 때, out file 로 확인 train.sh 파일을 다음과 같이 작성 #SBATCH --job-name=job 이름 #SBATCH --nodes=1 #SBATCH --gres=gpu:1 #SBATCH -p batch #SBATCH -w agi1 #SBATCH --cpus-per-gpu=4 #SBATCH --mem-per-gpu=20G #SBATCH --time=14-0 #SBATCH -o %N_%x_%j.out #SBTACH -e %N_%x_%j.err source /data/sunghoon/init.sh conda activate 가상환경이름 python -m torch.distributed.launch \ --nproc_per_node=1 \ --use_env main..

Screen manual screen -S [name] : screen 생성 screen -ls : screen 목록 screen -r [name] : [name] screen 에 접속 Screen -X -S [name] kill Ctrl + a, c : window 생성 Ctrl + a, w : window 목록 Ctrl + a, d : screen에서 나오기

- Introduction 기존에 널리 사용하던 rehearsal based method 의 단점 Increase memory costs Violate data privacy Pretrained ViT 의 등장으로 rehearsal based method 를 대체할 prompting method 등장 일반적인 prompting method 는 key-query 메커니즘을 이용하는데, task sequence 에 end-to-end 로 학습되지 않는 문제점이 있음 이로 인해 plasticity 의 감소가 일어나고, new task의 학습이 원활하게 이루어지지 않으며, parameter capacity 증가로 이득을 얻지 못함 저자들은 자신들의 연구가 prior work 와 달리 end-to-end 방식으로..

Penultimate: 마지막(끝) 에서 두 번째 Penultimate Layer: 제일 마지막 Layer 인 Classifier (Linear + softmax) 바로 전 layer 를 뜻함 예를 들어, ViT에선 제일 마지막 block 에서 768 dimension으로 output 이 나오는 layer 를 뜻함

- Introduction OOD detection 의 main challenge Deep neural network 가 OOD sample 에 대해서 overconfident 한 prediction 을 보임 ID (In-Distribution) 과 OOD 의 구분을 어렵게 만듦 기존 OOD 기법들은 sparcification 을 간과하며 오직 overparameterized weight 만을 이용하여 OOD score 를 계산 저자들은 중요하지 않은 unit 과 weight 에 의존하는것이 OOD detection 을 취약하게 만들 수 있다고 주장 ID 인 CIFAR10 에 학습된 network 가 OOD 인 SVHN 의 데이터가 입력으로 들어왔을 때 무시할 수 없을 정도의 unit 을 penultim..

- Introduction Pinhole camera model (바늘 구멍 사진기) Normalized Plane: 3D 의 object 를 2D 로 mapping $\left[\begin{array}{l}X \\ Y \\ Z\end{array}\right]=Z\left[\begin{array}{l}u \\ v \\ 1\end{array}\right]$ Intrinsic Parameter: Normalized Plane 위의 meter 단위로 표현된 좌표 $\left[\begin{array}{l}u \\ v \\ 1\end{array}\right]$ 를 pixel 단위 좌표 $\left[\begin{array}{l}x \\ y \\ 1\end{array}\right]$로 변환 $\left[\begin{..

- Introduction Real world 에선 pre-defined class 이외에도 user-defined class 에 adapt 되어야하는데, 굉장히 few 인 경우가 존재한다. 이런 상황에서도 새로운 class 에 대하여 잘 학습하기 위해서 few-shot class-incremental learning 이 존재한다. 하지만 fewshot 상황에서 일반적인 finetune 을 적용하게되면 두 가지 severe problem을 일으킨다. 1. Forgetting old: Catastrophic forgetting 으로 인해 이전 데이터들에 대한 성능이 감소 2. Overfitting new: 적은 수의 support set 으로 인해 새로운 class 에 overfitting 되어 gener..