로컬 AI는 기기 안에서 모델을 실행할 때 외부 전송을 줄일 수 있지만, 설치했다는 사실만으로 개인정보 보호가 보장되지는 않습니다. 실제 선택한 모델의 실행 위치, 함께 사용하는 채팅 앱, 웹 검색 기능, 기록 저장 위치를 확인해야 합니다. 가장 먼저 할 일은 민감한 문서를 넣는 대신 가짜 데이터로 처리 경로를 점검하는 것입니다.
로컬 실행과 클라우드 실행을 구분하세요
Ollama는 로컬에서 실행할 때 이용자의 프롬프트나 데이터를 보지 않는다고 안내합니다. 반면 클라우드 호스팅 모델은 서비스를 제공하기 위해 입력과 응답을 처리한다고 설명합니다. 같은 앱 안에서 모델을 고르더라도 실행 위치가 달라질 수 있습니다. Ollama 공식 FAQ
개인정보 처리방침도 함께 읽어야 합니다. 서비스 운영에 필요한 계정 정보와 사용 관련 정보의 처리 범위는 프롬프트 본문의 처리 여부와 구분됩니다. “학습에 쓰지 않는다”는 설명과 “데이터가 내 기기를 떠나지 않는다”는 설명은 각각 확인할 항목입니다. Ollama 개인정보 처리방침
데이터 경로를 적어보는 점검표
- 모델: 다운로드한 모델을 내 기기에서 실행하는지, 외부 서버의 모델을 호출하는지 확인합니다.
- 입력 앱: 채팅 화면을 제공하는 별도 앱의 대화 저장·동기화 설정과 개인정보 처리방침을 살펴봅니다.
- 도구: 웹 검색, 번역, OCR, 문서 검색 기능이 별도 외부 서비스에 내용을 보내는지 확인합니다.
- 저장: 대화 기록, 업로드 파일, 내보낸 결과가 어디에 남는지 확인합니다. 해당 폴더가 자동 백업이나 공유 대상인지도 점검합니다.
- 접근: 같은 기기를 쓰는 다른 계정이나 네트워크의 다른 기기에서 접근할 수 있는지 살펴봅니다.
Ollama의 로컬 전용 설정 확인
공식 FAQ는 Ollama 클라우드 기능을 끄는 설정으로 OLLAMA_NO_CLOUD=1 환경 변수 또는 서버 설정 파일의 disable_ollama_cloud 항목을 안내합니다. 변경 후 재시작이 필요하며, 로그의 클라우드 비활성화 표시로 적용 여부를 확인하도록 설명합니다. 운영체제별 설정 방법은 FAQ를 따르세요. 이 설정은 다른 채팅 앱이나 확장 프로그램의 외부 전송까지 차단하는 기능으로 해석하면 안 됩니다. Ollama 클라우드 기능 비활성화 안내
민감한 파일 없이 확인하는 순서
- 실제 이름이나 고객 정보 대신 “가상고객 A, 테스트 주문 001” 같은 데이터를 준비합니다.
- 모델 실행 위치와 연결된 도구 목록을 기록합니다. 연결 대상을 설명할 수 없는 기능은 사용을 보류합니다.
- 대화를 진행한 뒤 앱의 기록, 내보내기, 동기화 위치를 확인합니다.
- 필요한 모델을 내려받은 후 인터넷 연결 없이 기본 대화가 가능한지 시험할 수 있습니다. 다만 오프라인 실행 성공만으로 이후 동기화나 모든 전송 가능성이 없다는 사실까지 입증되지는 않습니다.
- 회사 자료라면 내부 반출·보관 규정을 확인한 뒤 승인된 범위에서 사용합니다.
언제 입력을 멈춰야 할까?
모델이 로컬인지 알 수 없거나, 외부 도구가 어떤 내용을 받는지 확인할 수 없다면 민감한 원문 입력을 미루는 편이 안전합니다. 업무상 필요한 정보만 남기는 익명화도 검토하되, 여러 단서를 합쳐 개인이 드러날 가능성까지 생각해야 합니다. 로컬 AI를 평가할 때는 모델 이름보다 입력부터 저장까지 이어지는 전체 경로를 확인하세요.
기준일 및 공식 자료 확인일: 2026년 10월 10일 KST. 공식 안내와 일반적인 점검 절차를 정리한 글이며 보안 감사나 패킷 분석을 직접 수행한 결과는 아닙니다.