내 회사 문서를 AI에게 던져놓으면 알아서 답을 찾아준다 — 무료 오픈소스 OpenRAG
PDF, 워드, PPT를 올려놓고 AI에게 질문하면 문서 내용을 검색해 출처까지 알려주는 무료 오픈소스 OpenRAG가 일주일 만에 깃허브 스타 3천 3백을 돌파했습니다. 명령어 한 줄이면 내 컴퓨터에서 바로 실행됩니다.
회사에서 수백 페이지짜리 문서를 받으면, 필요한 내용을 찾느라 시간을 낭비한 경험 누구나 있을 것입니다. OpenRAG는 그 문서를 AI에게 통째로 넘기고, 채팅으로 질문하면 답과 출처를 동시에 알려주는 무료 오픈소스 도구입니다. 일주일 만에 깃허브 스타 3,300개를 넘기며 개발자 커뮤니티에서 폭발적인 관심을 받고 있습니다.
명령어 한 줄이면 내 컴퓨터에서 바로 시작
OpenRAG의 가장 큰 장점은 설치가 놀라울 만큼 간단하다는 것입니다. Python이 설치된 컴퓨터라면 터미널에 딱 한 줄만 입력하면 됩니다.
# 폴더를 만들고 이동
mkdir openrag-workspace && cd openrag-workspace
# 한 줄로 설치 및 실행
uvx --python 3.13 openrag설치가 끝나면 웹 브라우저에서 바로 채팅 화면이 열립니다. OpenAI API 키만 넣으면 곧바로 문서를 올리고 질문할 수 있습니다. 복잡한 서버 설정이나 데이터베이스 구축이 필요 없습니다 — 모든 것이 자동으로 세팅됩니다.
문서를 올리면 AI가 알아서 분석하고 검색해준다
사용법은 직관적입니다. 왼쪽 메뉴에서 'Knowledge' 탭을 누르고 파일이나 폴더를 끌어다 놓으면 끝입니다. PDF, Word(DOCX), PowerPoint(PPTX), 이미지까지 알아서 처리합니다. 문서 안에 있는 표, 그림 속 글자까지 AI가 인식(OCR)해서 검색 가능한 상태로 만들어줍니다.
이렇게 올린 문서에 대해 채팅창에서 질문하면, AI가 관련 내용을 문서에서 찾아 답변해줍니다. 답변 옆에 출처 문서와 페이지가 표시되기 때문에, AI가 만들어낸 답인지 실제 문서 내용인지 바로 구분할 수 있습니다.
세 가지 검증된 오픈소스의 조합
OpenRAG가 단순한 채팅봇과 다른 이유는 내부 구조에 있습니다. 세 가지 검증된 오픈소스 프로젝트를 하나로 묶었습니다.
1. Langflow — 워크플로우 엔진. AI가 문서를 찾고, 답변을 생성하는 전체 과정을 눈에 보이는 흐름도로 만들어줍니다. 드래그 앤 드롭으로 직접 수정할 수도 있습니다.
2. Docling — 문서 해석기. PDF 안의 표, 이미지 속 글자, PPT 슬라이드를 AI가 이해할 수 있는 형태로 변환합니다.
3. OpenSearch — 검색 엔진. 수천 페이지의 문서에서 질문과 의미가 비슷한 내용을 0.1초 만에 찾아냅니다. 단순한 키워드 일치가 아니라 '의미 검색'(뜻이 비슷한 문장을 찾는 방식)을 사용합니다.
Claude Desktop과 Cursor에서도 바로 연결
개발자라면 더 반가운 소식이 있습니다. OpenRAG는 MCP(AI가 외부 도구를 연결해서 쓸 수 있게 해주는 규격)를 지원합니다. 이 말은 Claude Desktop이나 Cursor 같은 AI 코딩 도구에서 내 OpenRAG 문서 저장소에 직접 접근할 수 있다는 뜻입니다.
예를 들어 Cursor에서 코딩하다가 회사 내부 문서가 필요하면, 브라우저를 열지 않아도 AI가 OpenRAG에 저장된 문서를 검색해서 답을 가져옵니다. Python SDK와 JavaScript SDK도 제공되어 자체 앱에 문서 검색 기능을 추가하는 것도 가능합니다.
# Python SDK로 문서 검색
pip install openrag-sdk
# JavaScript/TypeScript SDK
npm install openrag-sdk누가 쓰면 좋을까
사무직·관리자 — 계약서, 사내 매뉴얼, 보고서를 올려놓고 "3분기 매출 목표가 뭐였지?" 같은 질문을 하면 출처와 함께 답을 받을 수 있습니다.
연구자·학생 — 논문 수십 편을 올려놓고 "A 방법론과 B 방법론의 차이점은?" 같은 복합 질문도 문서를 교차 검색해서 정리해줍니다.
개발자 — API 문서, 기술 스펙을 올려놓고 "이 함수의 반환값이 뭐야?" 하면 정확한 답을 받습니다. Claude Desktop/Cursor와 연동하면 IDE를 떠나지 않고도 문서를 참조할 수 있습니다.
왜 지금 주목받는가
ChatGPT에 파일을 올려서 질문하는 것은 이미 가능합니다. 하지만 회사 기밀 문서를 외부 서버에 보내는 건 보안상 불가능한 경우가 많습니다. OpenRAG는 내 컴퓨터(또는 회사 서버)에서 돌아가기 때문에 데이터가 외부로 나가지 않습니다.
또한 일반 AI 챗봇은 한 번에 올릴 수 있는 파일 수에 제한이 있지만, OpenRAG는 수천 개의 문서를 한꺼번에 색인해놓고 필요할 때마다 검색합니다. 3월 16일에 출시된 v0.3.2에서는 성능과 안정성이 크게 개선되었고, 깃허브 저장소에는 40명의 기여자가 활발하게 참여하고 있습니다.
RAG(검색 증강 생성 — AI가 답변하기 전에 관련 문서를 먼저 검색하는 기술)는 AI 환각(없는 내용을 지어내는 문제)을 줄이는 가장 효과적인 방법으로 알려져 있습니다. OpenRAG는 이 기술을 설치 한 줄, 비용 0원으로 누구나 쓸 수 있게 만들었습니다.
관련 콘텐츠 — Easy클코로 AI 시작하기 | 무료 학습 가이드 | AI 뉴스 더보기