Code & Framework/ONNX 2

Onnx 모델과 pth 모델 성능 비교

최근에 업무를 진행하여 npu 를 위한 모델 변환을 진행함모델 변환 후 평가를 진행해보니, 기존 서버에서 측정한 모델 성능이 재현되지 않음문제가 발생했을 가능성이 있는 부분은 2곳변환된 모델에 입력으로 넣어준 데이터변환하기 전 모델일단 변환하기 전 onnx 모델을 살펴보기 위해 onnxruntime 으로 평가를 진행해보니 이 또한 서버 성능을 재현하지 못함.import numpy as npimport onnxruntime as ortimport osimport globbin_directory = [데이터 디렉토리]model_path = [모델 경로]session = ort.InferenceSession(model_path)input_name = session.get_inputs()[0].nameclass..

ONNX 란 무엇일까? (onnx 읽는 법)

ONNX (Open Neural Network Exchange): 다른 DL framework 에서 만들어진 모델들이 서로 호환될 수 있게 만들어진 공유 플랫폼 그래서 일단 제일 중요한건.. 도대체 이걸 어떻게 읽느냐?온엔엑스 / 오닉스 / 오넥스 / 오엔엔엑스 등 사람마다 읽는 방법이 다양함유튜브에 찾아보니, 외국인들도 비슷하게 다양한 방식으로 읽음오닉스 / 오넥스 발음 예시: https://youtu.be/BEXQS6_YB8A?si=U-CfO1oAcpthwWe8포켓몬 롱스톤이 영어로 Onix 인데, 같은 발음이지 않을까 싶음온엔엑스 발음 예시: https://youtu.be/cZtXdMao7Ic?si=oymA6oySHFkyH2e4 결론: 의미만 통하면 된다!

728x90