토큰은 AI가 입력과 출력을 처리하는 단위이고, 컨텍스트 창은 한 번의 처리에서 참조할 수 있는 정보량의 범위입니다. 문서가 한도 안에 들어간다고 모든 문장을 정확히 활용한다는 뜻은 아닙니다. 긴 문서의 답변이 빠진다면 한도 초과, 텍스트 추출 오류, 검색 누락, 질문 범위 문제를 구분해 살펴봐야 합니다.
토큰을 글자 수로 계산하면 생기는 오해
토큰은 단어 전체일 수도 있고 단어의 일부일 수도 있습니다. Google의 공식 토큰 안내는 텍스트뿐 아니라 이미지 등 다른 입력도 토큰 처리 대상이 될 수 있다고 설명합니다. 영어를 기준으로 제시된 글자 수 환산을 한국어 문서에 그대로 적용하면 오차가 생길 수 있으므로, 실제 사용할 모델의 토큰 계산 기능으로 확인하는 것이 낫습니다. Google 토큰 계산 안내
서로 다른 세 가지 한도를 확인하세요
- 입력 한도: 질문, 문서, 대화 기록 등 전달할 수 있는 입력의 범위입니다.
- 컨텍스트 창: 모델이 작업 중 참고하는 정보량의 범위입니다. 입력·출력의 포함 방식은 모델 문서에서 확인해야 합니다.
- 출력 한도: 한 응답에서 생성할 수 있는 최대 분량입니다. 긴 문서를 넣을 수 있는 모델도 그만큼 긴 답변을 한 번에 출력하지 못할 수 있습니다.
여기에 서비스의 파일 업로드 제한이 따로 있을 수 있습니다. 파일이 업로드되었다는 표시만으로 전체 내용이 매번 모델 입력에 포함됐다고 판단하지 마세요. 문서 검색을 거쳐 일부만 전달하는 서비스도 있어 실제 처리 방식을 확인해야 합니다.
컨텍스트가 크면 누락이 사라질까?
Google의 긴 컨텍스트 안내는 여러 정보를 동시에 찾아야 하는 작업에서 정확도가 문맥에 따라 달라질 수 있다고 설명합니다. 또한 불필요한 입력은 줄이고, 긴 문맥에서는 질문을 뒤에 두는 방식을 안내합니다. 이는 모든 모델에 동일하게 적용되는 보장이나 고정 성능 수치가 아닙니다. Google 긴 컨텍스트 안내
긴 PDF를 넣기 전후의 점검 순서
- 텍스트를 확인합니다. 스캔 PDF라면 글자가 추출되는지, 표의 행과 열이 뒤섞이지 않았는지 확인합니다. 본문 문제를 모델의 기억 문제로 오해하지 않도록 합니다.
- 질문 범위를 정합니다. “전부 요약해 줘” 대신 “해지 조건과 예외를 구분하고 근거 쪽수를 표시해 줘”처럼 결과물을 구체화합니다.
- 찾기 시험을 합니다. 앞·중간·뒤에서 실제로 확인한 사실을 하나씩 골라 질문하고, 원문 위치와 답변을 대조합니다.
- 누락을 나눠 재검사합니다. 빠진 구간만 별도로 넣어 같은 질문을 합니다. 작은 구간에서도 틀린다면 추출 품질이나 질문 해석부터 봅니다.
- 통합할 때 충돌을 남깁니다. 장별 결과를 합칠 때 서로 다른 버전이나 예외를 지우지 말고, 해당 쪽수와 함께 표시하도록 요청합니다.
요약으로 줄일 때 주의할 점
중간 요약을 반복하면 최초 요약에서 빠진 조건이 최종 답변에서도 사라질 수 있습니다. 중요한 표, 날짜, 예외 조항은 원문 위치를 함께 남기고 최종 검토 때 다시 대조하세요. 컨텍스트 크기보다 “어떤 근거를 끝까지 보존할 것인가”를 먼저 정하면 문서 검토 과정이 명확해집니다.
기준일 및 공식 자료 확인일: 2026년 10월 10일 KST. 특정 모델의 최대 토큰 수나 실제 성능을 비교한 글이 아닙니다. 한도는 사용하는 모델과 서비스의 공식 문서에서 별도로 확인하세요.