One model deployment to route them all
컵케이크 매장의 단순 문의와 복잡한 단체 주문을 서로 다른 모델에 배정하는 Foundry Model Router 사용 사례다. 설명은 단순 요청을 저렴한 모델, 어려운 요청을 고성능 모델로 보낸다고 소개한다.
핵심 내용
- 설명은 단순 요청을 저렴한 모델, 어려운 요청을 고성능 모델로 보낸다고 소개한다.
따라 하기 순서
- 라우터를 배포하고 에이전트의 모델 연결을 변경한다.
- 요청별 선택 모델을 기록한다.
- 라우터 전체의 품질·비용을 평가한다.
나오는 도구
- Microsoft Foundry Model Router
- 채널
- Microsoft Developer
- 분류
- 개발 자동화 · 실시간 모델 라우팅
- 언어
- 영어
- 영상일
- 2026.09.26