Ollama 답변을 JSON으로 받는 법: 형식 지정과 스키마 검증의 차이

Ollama에 “JSON으로만 답해 줘”라고 했는데, 답변마다 키 이름이 달라지거나 숫자가 문자열로 돌아온 적이 있나요? 결과를 눈으로 볼 때는 별일 아니지만, 다음 프로그램이 quantity라는 정수 필드를 기대하면 오류가 납니다. 로컬 Ollama에서는 JSON 스키마를 요청에 넣어 형식을 지정하고, 받은 답변이 그 계약에 맞는지 프로그램에서 다시 검사할 수 있습니다.

공식 문서 확인일: 2026년 11월 21일. Python과 로컬 Ollama를 사용하는 예시입니다. 아래 기록과 출력은 설명을 위해 만든 가상 데이터이며, 특정 모델을 실행해 얻은 결과나 정확도 시험이 아닙니다.

읽을 수 있는 JSON과 프로그램이 쓸 수 있는 JSON은 다릅니다

예를 들어 “연필 12개, 수납 위치 B-2”라는 기록을 정리한다고 해 봅시다. {"item":"연필","quantity":"12"}는 JSON 문법에 맞습니다. 하지만 수량 "12"는 문자열이고 위치 키가 빠졌습니다. JSON 파서가 읽을 수 있는지 확인하는 것만으로는 수량에 덧셈을 할 수 있는지, 위치를 별도 칸에 넣을 수 있는지 판단하기 어렵습니다.

  • format="json": 답변을 JSON 형식으로 요청합니다. 어떤 키가 필요한지와 각 값의 자료형까지 지정하려면 JSON 스키마를 사용합니다.
  • format=스키마: Ollama에 필요한 키와 자료형 같은 구조를 전달합니다.
  • 실행 코드의 검증: 실제로 받은 값을 검사합니다. 기대한 구조가 아니라면 저장·집계 단계로 넘기지 않습니다.

Ollama 공식 구조화 출력 안내와 채팅 API 문서에 따르면 요청의 format에 json 또는 JSON 스키마를 넣을 수 있습니다. 아래에서는 같은 데이터 모델에서 스키마를 만든 뒤, 응답 검증에도 그 모델을 사용합니다.

가상의 문구류 재고 메모 한 줄을 정리해 봅니다

규칙은 단순합니다. 품목명은 문자, 수량은 0 이상인 정수, 위치는 문자여야 합니다. 위치가 원문에 없으면 추측하지 않고 null로 남깁니다. 아래 코드는 Python의 ollama와 pydantic 2.x 패키지, 실행 중인 로컬 Ollama 서버가 필요합니다. MODEL에는 이미 내려받아 둔 로컬 모델의 실제 이름과 태그를 적으세요.

from ollama import chat
from pydantic import BaseModel, ConfigDict, Field, ValidationError

class InventoryRow(BaseModel):
    model_config = ConfigDict(extra="forbid", strict=True)
    item: str
    quantity: int = Field(ge=0)
    location: str | None

MODEL = "설치해 둔 로컬 모델명:태그"
response = chat(
    model=MODEL,
    messages=[{
        "role": "user",
        "content": (
            "아래 재고 메모에서 품목명(item), 수량(quantity), "
            "수납 위치(location)를 추출해. "
            "수량은 단위가 없는 정수로, 위치가 없으면 null로 써. "
            "원문에 없는 값은 추측하지 마.\n"
            "재고 메모: 연필 12개, 수납 위치 B-2"
        ),
    }],
    format=InventoryRow.model_json_schema(),
    stream=False,
)

try:
    row = InventoryRow.model_validate_json(response.message.content)
except ValidationError as error:
    print("형식 검증 실패:", error)
else:
    print(row.model_dump_json())

Pydantic 공식 모델 문서에 나오는 model_json_schema()는 요청에 넣을 스키마를 만들고, model_validate_json()은 받은 JSON을 그 모델에 맞춰 검증합니다. 이 예시의 strict=True와 extra="forbid"는 문자열 수량을 숫자로 조용히 바꾸거나 등록하지 않은 키를 버린 채 통과하는 일을 막기 위해 넣었습니다. location은 키를 생략하는 것이 아니라, 정보가 없을 때 명시적으로 null을 넣는 필드입니다.

검증이 통과했다고 원문과 같다는 뜻은 아닙니다

같은 재고 메모에 대한 가상의 JSON 응답 비교
가상 응답엄격한 형식 검증원문 대조
{"item":"연필","quantity":12,"location":"B-2"}통과일치
{"item":"연필","quantity":"12","location":"B-2"}실패: 수량이 문자열정수로 넘겨야 하는 계약 위반
{"item":"연필","quantity":21,"location":"B-2"}통과실패: 원문은 12개

마지막 행이 핵심입니다. 스키마는 수량이 정수인지 확인하지만, 원문에 적힌 정답이 12인지는 모릅니다. 실제 재고에 반영하기 전에 원문과 수량을 대조하세요. 특히 형식 오류가 났다고 임의로 키를 고치거나 누락 값을 채우면 잘못된 답이 정상으로 처리될 수 있습니다. 실패한 답은 원문과 함께 검토 대상으로 남겨 두는 쪽이 안전합니다.

답변을 자동으로 넘길 때는 JSON 스키마로 형식을 요청하고 → 응답을 검증하고 → 중요한 값은 원문과 대조하는 세 단계를 나눠 보세요. “JSON으로만 답해 줘”보다 어떤 지점에서 실패했는지 알기 쉬워집니다.