RAG vs 미세조정 차이: 사내 문서 AI에는 무엇부터 쓸까?

자주 바뀌는 사내 문서를 근거로 답해야 한다면 RAG를 먼저 검토하고, 일정한 분류 방식이나 답변 형식을 반복해서 학습시켜야 한다면 미세조정을 검토할 수 있습니다. 둘은 함께 사용할 수도 있습니다. 도구를 고르기 전에 실제 오류가 “자료를 못 찾는 문제”인지 “자료를 보고도 원하는 방식으로 답하지 못하는 문제”인지 나누는 것이 좋습니다.RAG와 미세조정은 무엇을 바꿀까?RAG는 질문과 관련된 정보를 검색한 뒤 그 내용을 모델의 입력에 넣어 답하도록 하는 방식입니다. 모델이 참고할 자료를 바꿉니다. Anthropic의 Contextual Retrieval 설명은 문서를 잘게 나누는 과정에서 문맥이 사라지면 필요한 내용을 찾기 어려워질 수 있다는 점을 다룹니다. 따라서 RAG의 품질은 모델뿐 아니라 검색 과..