Ethan's Winery

- Introduction OOD detection scenarios Covariate shift: Change in the input distribution Semantic shift: Change in the label distribution Existing OOD detection works Predictive distribution Incorporate feature statistics for ID data Requires a portion of training data Internal feature activation GOAL: Explore and push the limits of OOD detection when the output of a softmax layer is the only av..

- Introduction In real-world applications, incremental data are often partially labeled. ex) Face Recognition, Fingerprint Identification, Video Recognition → Semi-Supervised Continual Learning: Insufficient supervision and large amount of unlabeled data. SSCL 에선 기존 CL 에서 사용하던 regularization-based method, replay-based method 가 잘 작동하지 않음 (왜 Architecture-based method 를 뺐는지는 모르겠음) 다만, Joint trainin..

Singular Value Decomposition (SVD): 행렬을 분해하는 방법 (Square, Symmetric 상관없이) $\boldsymbol{A}=\boldsymbol{U}\boldsymbol{\Sigma}\boldsymbol{V}^T$ $\boldsymbol{A}\in \mathbb{R}^{m\times n}$ $\boldsymbol{U}\in \mathbb{R}^{m\times m}$ orthogonal matrix $\boldsymbol{\Sigma}\in \mathbb{R}^{m\times n}$ diagonal matrix $\boldsymbol{V}\in \mathbb{R}^{n\times n}$ orthogonal matrix $\boldsymbol{V}$에서 orthogonal..

pytorch 에서 일반적으로 optimizer 를 다음과 같이 사용 optimizer = optim.Adam(model, lr=0.0001) 만약 model 의 각 parameter 에 다른 옵션 (learning rate, eps 등)을 주고 싶은 경우 다음과 같이 각 parameter group 지정 optim.Adam([{'params': model.base.parameters()}, {'params': model.classifier.parameters(), 'lr': 1e-3}], lr=1e-2) Parameter group 은 다음으로 확인 가능 #n 번째 parameter group 을 보고 싶은 경우 print(optimizer.param_groups[n]) >>> Adam (Paramet..

list 연장 a = [1,2,3] b = [4,5] a.extend(b) print(a) >>> [1,2,3,4,5] list element 추가 a = [1,2,3] b = 4 a.insert(2,b) print(a) >>> [1,2,4,3]

두 개의 데이터 원소를 각각 tuple 로 짝지어줌 Transpose 로 볼 수도 있음 >>> for item in zip([1, 2, 3], ['sugar', 'spice', 'everything nice']): print(item) (1, 'sugar') (2, 'spice') (3, 'everything nice') # unzip >>> *zip 두 개의 데이터의 길이가 같지 않다면 길이가 짧은 데이터 기준으로 stop

# 찾고싶은 디렉토리 내부에서 grep -r '찾고 싶은 내용' ./

# Master branch clonegit clone [repo link]# Developer branch clonegit clone -b [branch name] [repo link] 가끔 레포 안쪽에 symbolic link 로 연결되어있는 경우, 패키지가 제대로 깔리지 않을 수 있음 git clone [repo link] --recursive

Conference Deadline 체크할 때 헷갈려서 정리 UTC: Coordinated Universal Time, KST-9 UTC-12: UTC 보다 12시간 더 느림, KST-21 GMT: Greenwich Mean Time, UTC 랑 거의 같지만 기술적인 표기는 보통 UTC로 함 KST: Korea Standard Time 예시) 2023.08.15 11:59 PM UTC-12 → 2023.08.16 8:59 PM KST

Interpolation: 보간 Linear interpolation: 1D 선형보간법 위치를 알고 있는 두 점 $(x_0,y_0), (x_1,y_1)$ 이 있을 때 그 사이에 있는 점 $(x,y)$를 추정하는 방법 Bilinear interpolation: 2D 선형보간법 1D 선형보간법을 확장한 것