반응형 Deployment1 ONNX(Open Neural Network Exchange)에 대한 이해 ONNX는 다양한 ML 프레임워크 간 변환에 사용되는 중간단계의 ML 프레임워크라고 보면된다.예를 들어, TensorFlow에서 TensorRT로 변환하고 싶거나 PyTorch에서 TFLite와 같은 다른 머신 러닝 프레임워크로 변환할 때 ONNX는 각 프레임워크들 사이에서 중간다리 역할을 할 수 있다. 그래서 이런 중간다리가 왜 필요한가? 라는 질문이 생길 수 있다.Inference 단계에서 ML 모델을 최적화를 하려면 하드웨어 기능을 최대한 활용하기 위해 학습된 모델과 라이브러리를 최적해야할 필요가 있다. 이 때 클라우드, 엣지, CPU, GPU 등과 같은 다양한 플랫폼에서 최적의 성능을 얻고자 할 때, 각 플랫폼들은 서로 다른 기능과 특성이 있기 때문에 프레임워크가 제각각이면 각 프레임워크의 모델을.. 2024. 11. 8. 이전 1 다음 반응형
