ChatGPT에 회사 기밀을 올리기 불안하다면 — Onyx로 내 서버에서 AI를 돌리세요

직원이 ChatGPT에 계약서를 붙여 넣는 순간, 그 내용은 OpenAI 서버로 전송됩니다. 2023년 삼성전자 엔지니어들이 반도체 관련 기밀 코드를 ChatGPT에 입력해 유출 우려가 생겼던 사건은 많은 기업 담당자들에게 경종을 울렸습니다. 그렇다고 AI를 아예 쓰지 않을 수는 없습니다. AI를 쓰되, 데이터는 내 서버 안에 두는 방법이 있습니다. 바로 Onyx입니다.

왜 기업 AI에서 데이터 보안이 이렇게 중요한가

AI 도구를 업무에 활용하는 기업이 늘어나면서, "어디서 AI를 돌리느냐"가 핵심 보안 질문이 됐습니다. ChatGPT, Claude, Gemini 같은 클라우드 기반 AI는 편리하지만, 대화 내용이 외부 서버로 전송됩니다. 물론 주요 AI 회사들은 기업용 플랜에서 데이터를 학습에 사용하지 않는다고 밝히고 있지만, 데이터 자체가 서버를 오간다는 사실은 달라지지 않습니다.

특히 다음과 같은 상황에서 문제가 됩니다.

• 의료·법률·금융 분야: 환자 정보, 소송 서류, 투자 전략이 외부로 나가면 규정 위반이 될 수 있습니다.
• 미출시 제품 정보: 아직 공개되지 않은 신제품 기획서를 AI에게 보내면 영업 기밀 유출 위험이 있습니다.
• 인사 정보: 직원 평가서나 연봉 정보를 AI가 처리하면 GDPR(유럽 개인정보보호법)이나 국내 개인정보보호법 위반 소지가 있습니다.

결국 기업이 원하는 건 단순합니다. AI의 편리함은 누리되, 데이터는 절대 밖으로 나가지 않기를 바라는 것입니다. Onyx는 이 요구를 정면으로 해결합니다.

Onyx가 뭔지, 비개발자도 이해할 수 있게 설명합니다

Onyx(공식 사이트: onyx.app)는 원래 Danswer라는 이름으로 2023년 처음 공개됐습니다. GitHub(깃허브, 소프트웨어 코드를 공개 공유하는 플랫폼)에서 빠르게 인기를 얻으며 기업용 AI 검색 도구로 자리 잡았고, 이후 Onyx로 이름을 바꿨습니다.

쉽게 말하면, Onyx는 "우리 회사 내부 자료를 아는 ChatGPT"입니다. 회사 직원이 "지난달 마케팅 예산 보고서 어디 있어?" 혹은 "신규 입사자 온보딩 절차가 뭐야?"라고 물으면, Onyx가 Notion 문서, Confluence 위키, Slack 대화 기록 등을 뒤져서 정확한 답변과 출처를 제공합니다.

중요한 차이점은 이 모든 과정이 내 서버 안에서만 이루어진다는 것입니다. 외부 클라우드로 데이터가 나가지 않습니다. MIT Expat 라이선스(소스코드 사용에 거의 제한이 없는 허용적 라이선스) 아래 무료로 사용할 수 있습니다.

주요 기능: 어떤 도구들과 연동되나

Onyx의 가장 큰 강점 중 하나는 40개 이상의 업무 도구와 연동된다는 점입니다. 별도로 파일을 옮기거나 복사할 필요 없이, 기존에 쓰던 도구들을 그대로 연결하면 됩니다.

지원하는 주요 연동 도구는 다음과 같습니다.

• 커뮤니케이션: Slack, Microsoft Teams, 이메일(Gmail, Outlook)
• 문서/위키: Notion, Confluence, Google Drive, SharePoint, OneDrive
• 코드/개발: GitHub, GitLab, Jira
• 영업/CRM(고객 관계 관리 소프트웨어): Salesforce, HubSpot, Zendesk
• 기타: Dropbox, Box, Linear, Asana 등

기능 면에서도 단순 검색을 넘어섭니다.

• RAG(검색 증강 생성, Retrieval-Augmented Generation): AI가 내부 문서를 찾아서 그 내용을 바탕으로 답변을 생성합니다. 환각(AI가 사실이 아닌 내용을 만들어내는 현상)을 크게 줄입니다.
• AI 에이전트(Agent, 자율적으로 여러 단계 작업을 수행하는 AI): 단순 질의응답을 넘어 복잡한 업무를 자동으로 처리합니다.
• 딥 리서치(Deep Research): 복잡한 질문에 대해 여러 문서를 종합해 심층 분석 보고서를 생성합니다.
• 웹 검색: 내부 문서와 외부 웹 정보를 함께 활용할 수 있습니다.
• 권한 관리: 원본 시스템의 접근 권한을 그대로 유지해, 볼 수 없는 문서는 AI도 참조하지 않습니다.

ChatGPT Enterprise vs Onyx: 무엇이 다른가

많은 기업이 OpenAI의 ChatGPT Enterprise를 이미 쓰거나 검토 중입니다. 두 서비스를 직접 비교해봅니다.

결론적으로, 데이터 보안이 최우선이고 내부 IT 인력이 있는 기업이라면 Onyx가 압도적으로 유리합니다. 반면 빠르게 쓰고 싶고 보안보다 편의성이 중요하다면 ChatGPT Enterprise가 더 쉬운 선택입니다.

Onyx 설치 방법: Docker로 시작하기

Onyx는 Docker(도커, 소프트웨어를 컨테이너라는 격리된 환경에 패키징해 어디서든 동일하게 실행하게 해주는 기술)를 사용해 비교적 간단하게 설치할 수 있습니다. 설치에 필요한 최소 사양은 RAM(메모리) 4GB, CPU 2코어입니다. 8GB RAM이면 더 쾌적하게 작동합니다.

기본 설치 명령어는 다음과 같습니다.

# 설치 스크립트 다운로드 및 실행 (터미널에 입력)
curl -fsSL https://raw.githubusercontent.com/onyx-dot-app/onyx/main/deployment/docker_compose/install.sh > install.sh
chmod +x install.sh
./install.sh

설치 후에는 브라우저에서 http://localhost:3000에 접속해 관리자 계정을 만들고, 원하는 커넥터(Slack, Notion 등)를 연결하면 됩니다. 각 커넥터 연결 방법은 공식 문서에 상세히 안내돼 있습니다.

클라우드 환경에서는 AWS, GCP, Azure 등 주요 클라우드 제공업체와 Kubernetes(쿠버네티스, 여러 서버에서 컨테이너를 자동으로 관리해주는 시스템), Terraform(테라폼, 클라우드 인프라를 코드로 관리하는 도구) 방식도 지원합니다.

Onyx가 필요한 조직은 어디인가

Onyx는 모든 기업에 적합하지는 않습니다. 다음에 해당한다면 진지하게 검토해볼 가치가 있습니다.

• 의료·법률·금융 기업: 환자 데이터, 법률 문서, 금융 거래 정보를 외부 AI 서버에 올리면 규정 위반 위험이 있습니다.
• 정부·공공기관: 보안 규정이 엄격해 클라우드 AI 도입이 어려운 조직에서 에어갭 환경으로 운영 가능합니다.
• 기술 스타트업: 아직 출시 전인 제품 정보나 투자 관련 문서를 AI로 분석하고 싶지만 유출을 우려하는 팀.
• 지식 집약적 팀: Notion, Confluence, Slack에 수년치 노하우가 쌓여 있는데, 새 팀원이 찾아 헤매는 시간이 너무 많은 조직.

Netflix, Ramp, Thales Group 같은 기업들이 이미 Onyx를 도입해 운영하고 있다는 점도 신뢰할 수 있는 근거입니다. GitHub 레포지토리 주소는 github.com/onyx-dot-app/onyx입니다.

관련 콘텐츠 — Easy클코로 AI 시작하기 | 무료 학습 가이드 | AI 뉴스 더보기