이번에는 Azure ML에서 모델을 배포하고, Online/Batch Endpoint를 통해 모델을 실제로 사용하는 흐름에 대해서 정리하였다. 현재 회사에서 진행하고 있는 프로젝트에서는 Online Endpoint만 사용하고 있지만 Batch Endpoint 개념도 확실히 잡고 넘어가고자 한다. Online Endpoint란?Azure ML의 Online Endpoint는 실시간 추론을 위한 REST API 진입점이다. 애플리케이션에서 실시간으로 데이터를 전송하고, 그에 대한 예측 결과를 바로 받아야 하는 경우 사용된다. 예를 들어 웹사이트에서 사용자의 행동을 바탕으로 실시간 광고 추천을 할 때 유용하다.왜 필요한가?REST API 형태로 모델 서빙 가능실시간 응답 처리트래픽 분산 및 A/B 테스트 지원..
