10월 9일, Microsoft가 Decision AI를 내놨습니다. 이름은 Microsoft-Decision-1. GPT처럼 글을 쓰는 모델이 아닙니다. 정해진 선택지 중에서 뭘 고를지, 확률로 답하는 모델입니다.
발표 문장만 보면 "35배 빠르다"가 먼저 눈에 들어옵니다. 이 글에서는 그 숫자 얘기 전에, 먼저 이 모델이 뭔지부터 차분히 정리해봅니다. 숫자를 정확히 읽는 얘기는 다음 글에서 따로 다룹니다.
한 줄 요약: 글을 안 쓰고 고르기만 한다
공식 발표의 표현을 그대로 가져오면 이렇습니다.
고정된 선택지가 주어지면, 각 선택지에 보정된 확률을 매긴다.
쉽게 말하면 판단 함수에 가까운 모델입니다. 상황을 넣으면 문단 대신 JSON 숫자가 나옵니다.
일반 LLM: 상황 → 긴 글, 추론 과정 (토큰 많이, 느림)
Decision-1: 상황 + 선택지 → 선택 + 확률 (한 번의 통과, 빠름)
이 흐름은 낯설지 않습니다. Jev 글에서 본 System One 모델과 같은 자리이고, Strands Decider 글의 오픈소스 모델과도 같은 역할입니다. 다른 점은 Microsoft Foundry라는 관리형 통로로 들어왔다는 것입니다.
위 그림이 전체 구조입니다. 모델은 확률을 계산하고, 실제로 뭘 할지는 애플리케이션 코드와 정책이 정합니다. 이 구분이 이 글에서 가장 중요한 대목입니다.
뭘로 만들었나: Qwen3.5-9B를 판단용으로 후속 학습
Microsoft 발표에 따르면 Decision-1은 알리바바의 공개 가중치 모델 Qwen3.5-9B를 가져와서 판단 점수용으로 후속 학습한 것입니다. 앞으로는 Microsoft 자체 MAI나 OpenAI 계열로 기반을 바꿔갈 수도 있다고 밝혔습니다. 인터페이스는 유지하고 밑에 깔리는 모델을 바꾸는 방식입니다.
정리하면 이렇습니다.
| 항목 | 내용 |
|---|---|
| 기반 | Qwen3.5-9B 후속 학습, 파라미터 수 미공개 |
| 입력 | 텍스트만, 최대 32,768 토큰 |
| 출력 | 선택지별 확률 JSON, 생성 문장 없음, 출력 토큰 없음 |
| 제공 | Microsoft Foundry 카탈로그 공개 프리뷰, OpenRouter 지원 안내 |
| 배포 | 호스팅 API만, 가중치 다운로드·셀프호스팅 없음 |
호스팅 전용이라는 점이 Jev와 비슷하고, Laya처럼 내려받아 로컬에서 돌리는 방식과는 다릅니다. Azure 인증과 과금, 거버넌스가 붙는 대신, 어디에 두 어떻게 돌릴지의 자유도는 낮습니다.
Foundry 카탈로그의 Benchmarks 탭에는 방법론 설명만 있고 외부에서 바로 확인할 수 있는 수치가 비어 있다는 지적도 있습니다. 그래서 이 글의 모든 성능 수치는 "Microsoft가 측정한 결과"라는 단서를 달고 읽어야 합니다.
질문 세 가지 모양: Choice, Yes/No, Score와 루브릭
호출 방식은 생각보다 단순합니다. 판단할 상황(state) 하나와, 물어볼 질문(questions)을 함께 보냅니다. 질문 형태는 네 가지입니다.
| 종류 | 하는 일 | 예시 |
|---|---|---|
| Choice | 정해진 선택지 중 하나 고르기 | 담당팀: billing, technical, account |
| Yes/No | 어떤 문장이 참일 확률 | 환불 요청이 맞나 (0~1 값) |
| Score | 순서 있는 기준으로 점수 | 긴급도 low, medium, high |
| Rubric | AI 답변이나 에이전트 행동을 기준표로 등급 매기기 | 수용, 수정, 반려 판단 |
여러 질문을 한 번에 보내면 병렬로 평가된다는 점이 실무에서 편합니다. "어느 팀이 맡나, 환불 요청인가, 자동 처리해도 되나"를 한 요청으로 묶을 수 있습니다. 라우팅 구현 글에서 분류 단계를 따로 두는 게 좋다고 했는데, 그 분류 자리에 그대로 들어가는 모양입니다.
Foundry Playground 예시도 같은 결입니다. 고객 요청 하나를 넣고 긴급 여부 확인, 담당팀 선택, 우선순위 점수를 함께 보여줍니다. 공식 TechCommunity 글에 실제 화면이 있으니, 구현 전에 그 화면과 데모 영상을 먼저 보는 게 좋습니다. 이 글에는 저작권 문제 때문에 공식 화면을 직접 붙이지 않고, 위 개념도로 대신합니다.
진짜 예시로 감 잡기: 고객 문의 하나
"카드가 두 번 결제됐어요. 추가 결제를 환불해주세요."라는 문의가 왔다고 하죠. 이때 시스템이 먼저 해야 할 일은 예쁜 답장이 아니라 판단입니다.
state: "카드가 두 번 결제됐어요. 추가 결제를 환불해주세요."
questions:
- team: [billing, technical, account]
- refund_requested: yes/no 확률
- auto_route_ok: yes/no 확률
answers (예시, 실제 출력 아님):
- team: billing 0.91
- refund_requested: 0.99
- auto_route_ok: 0.82 + confidence
위 숫자는 이해를 돕기 위한 예시입니다. 실제 값은 입력과 모델 버전에 따라 달라집니다. 중요한 건 형식이 아니라 역할입니다. 모델은 의미를 읽고, 코드는 결제 기록과 환불 정책, 승인 규칙을 확인하고, LLM은 마지막에 사람에게 보여줄 문장을 씁니다. 책임이 갈라지는 겁니다.
공식 문서의 Python 예제도 같은 구조입니다. providers/microsoft/v1/systemone 경로로 state와 questions를 보내고, 돌아온 answers에서 choice를 읽어 정확도와 지연을 재는 흐름입니다. 배포 지역과 인증 방식은 계정마다 다르니, 실행 전 Foundry quickstart의 값을 확인해야 합니다. 자격 증명은 코드 밖에 두는 게 원칙입니다.
에이전트 안에서 어디에 앉나
Microsoft가 꼽은 쓰임새를 보면 이 모델의 자리가 분명해집니다.
자주 거론되는 자리:
- 에이전트 제어: 다음 단계를 계속· 중단· 재시도· 사람 인계 중 하나로
- 모델 라우팅: 요청을 보고 싼 모델과 강한 모델 중 선택
- 의도 분석· 분류· 라벨링: 문의· 피드백을 정해진 기준에 배정
- AI 심사: LLM 답변을 기준표에 비춰 수용· 수정· 반려
- 검색 적합도· 안전 스크리닝· 컴퓨터· UI 조작· 로봇 행동 선택
Xbox 리서치는 1만 개가 넘는 게임 피드백을 정해진 주제에 묶는 데 썼고, Copilot 팀은 답장 품질 측정에, Discovery 팀은 실험 재계획의 루브릭 채점에 썼다고 합니다. 셋 다 "긴 글을 새로 쓰는 일"이 아니라 "이미 있는 걸 기준에 맞춰 고르는 일"입니다.
그래서 결론은 "LLM을 대체한다"가 아니라 "일을 나눈다"입니다. 복잡한 생성과 추론은 LLM이, 반복되는 구조화 판단은 Decision AI가 맡는 겁니다. 뒤에서 코드가 검증하고, 위험한 일은 사람이 승인합니다. 이 분업 구조는 다음 실전 패턴 글에서 예제와 함께 이어집니다.
이 글에서 가져갈 것 하나
Decision-1을 한 문장으로 다시 쓰면 이렇습니다.
고르기는 모델의 기능이 아니라 스택의 계층이 되고 있다.
어제 Decider라는 오픈 모델이 나왔고, LocalAI 글에서는 decisions가 스택의 정식 API가 됐습니다. 오늘은 그 흐름에 Microsoft의 관리형 선택지가 하나 더해진 겁니다. 모델은 바뀌어도 계층은 남습니다.
오늘 할 일은 하나입니다. 여러분 서비스에서 답을 쓰는 게 아니라 고르는 단계 하나를 찾아보세요. 그 단계의 입력 100개만 모아두면, 다음 글의 숫자 읽기와 비교 실험이 바로 시작됩니다.
함께 읽으면 좋은 글
- Jev란? 문장을 쓰지 않고 결정을 내리는 AI
- AI는 이제 글보다 결정을 한다: Strands Decider 2B
- Decision Model이 로컬 스택의 정식 기능이 된다: LocalAI 4.11
- AI 모델 라우팅 직접 구현
참고 자료
- Microsoft Command Line: Introducing Microsoft-Decision-1 (2026-10-09)
- Microsoft Foundry Blog: Introducing Microsoft-Decision-1 in Microsoft Foundry (2026-10-09)
- Microsoft Foundry Model Catalog: Microsoft-Decision-1
- MarkTechPost: Microsoft AI Releases Microsoft-Decision-1 (2026-10-09)
- Magica: Microsoft Decision-1 launches in Foundry (2026-10-09)
이 주제를 직접 따라가며 배우고 싶다면
이 글에서 본 Choice와 Score, 확신도 읽는 감각은 직접 돌려봐야 남습니다. 어디까지를 코드 규칙으로 두고, 어디를 모델 판단에 맡기고, 어디서 사람 검토를 넣을지 정하는 부분이 실무에서 가장 막막합니다.
실무 Decision AI 과정에서는 Laya를 직접 실행하면서 상태와 질문을 만들고, 확신도를 정책과 Human Review로 연결하는 법과 내 업무에 적용하기 전 검증 틀을 함께 잡습니다. 반복되는 판단 하나를 떼어내고 싶은 분이라면, 이 글 다음 순서로 이어서 보셔도 좋습니다.