"NVIDIA의 Auto Ontology 프로젝트는 데이터 위에 의미 기반 그래프 추론 계층을 구축합니다."

이 문장만 보면 오픈소스 프레임워크인 줄 알 수 있습니다. 하지만 실제로는 다릅니다. NVIDIA Auto Ontology는 공식 오픈소스 리포지토리가 없는 유료 엔터프라이즈 제품입니다. 대신 Aiven이 공개한 데모 리포지토리에서 실제 동작 구조를 확인할 수 있습니다.

이 글에서는 데모 소스를 통해 Auto Ontology의 실제 아키텍처를 분석하고, 기존 벡터 검색과 어떤 점이 다른지 비교합니다.

Auto Ontology의 실제 구조

데모 리포지토리는 다음 컴포넌트로 구성됩니다.

Concern Aiven 컴포넌트
채팅 / NL-to-SQL AI Gateway (https://ai.aiven.io/v1)
임베딩 OpenSearch ML Commons (apps/os-embed-shim)
Ontology 저장 + 벡터 PostgreSQL + pgvector
분석 데이터원 saas_analytics 데이터베이스 (수익 정의 충돌)

핵심은 "NVIDIA Auto Ontology"라는 proprietary 엔진이 Aiven의 AI Gateway, OpenSearch, PostgreSQL과 통합되어 작동한다는 점입니다. NVIDIA NGC 자격증명이 필요하고, Aiven 계정이 필요합니다.

데모 시나리오: "Q3 2025 booked revenue는 얼마인가?"

데모의 실제 시나리오를 보면 Auto Ontology가 해결하려는 문제가 명확합니다.

질문: What was booked revenue in Q3 2025?
예상 결과: 717000 USD (finance invoices만)

중요한 점은 booked_revenue라는 용어가 ontology에서 인증(certified)되었다는 것입니다. 인증된 용어는 정확한 SQL 쿼리로 연결됩니다:

SELECT SUM(amount) FROM finance.invoices
WHERE status = 'booked' AND quarter = 'Q3_2025'

반면, ontology가 없다면 어떻게 될까요?

"revenue"라고 말하면:
- Sales ARR: 수십만 달러
- Marketing pipeline: 수백만 달러
- Finance booked: 717,000달러

세 정의가 모두 "수익"입니다. 벡터 검색은 이 차이를 구분하지 못합니다.

벡터 검색 vs ontology 기반 검색

이 차이가 RAG 시스템에서 어떤 의미인지 구조적으로 비교해 보겠습니다.

벡터 검색 (기존 방식)

질문: "last quarter의 revenue는?"
  → 텍스트 유사도 검색
  → "revenue"라는 단어가 포함된 모든 문서에 유사도 점수 부여
  → Sales, Marketing, Finance 문서가 모두 높은 점수
  → LLM이 세 결과를 종합 → 모호한 답변

ontology 기반 검색 (Auto Ontology)

질문: "last quarter의 revenue는?"
  → AI Gateway가 ontology-certified term 확인
  → "booked_revenue"가 certified → finance.invoices 테이블로 라우팅
  → "revenue"가 uncertified → Sales/Marketing은 제외
  → 정확한 SQL 쿼리 실행 → 명확한 답변

v1의 한계: 아직 완성되지 않은 제품

데모 소스를 보면 Auto Ontology v1의 명확한 한계가 드러납니다.

  • 임베딩 엔드포인트 없음: AI Gateway는 채팅 전용입니다. 임베딩 기능은 AIG-416(JIRA)로 추적 중입니다. 데모는 OpenSearch ML Commons를 임베딩용 shim으로 우회합니다.
  • Rerank 비활성화: v1에서 API 형태 불일치로 비활성화되었습니다. 채팅은 작동합니다.
  • DataHub 미배포: v1에는 DataHub가 없습니다. DataHub는 estate catalog/lineage용이고, Auto Ontology는 certified answers용입니다. 서로 다른 목적입니다.
  • NGC 인증 필요: Docker 이미지 빌드에 vendor/nvidia-auto-ontology가 필요하며, NGC app tag는 인증 없이 공개 pull이 불가능합니다.

개발자에게 주는 교훈

Auto Ontology를 평가할 때 확인해야 할 것들:

  • 오픈소스가 아님: 공식 오픈소스 리포지토리가 없습니다. Aiven 데모는 커뮤니티 기여입니다.
  • 비용 구조 불명: 엔터프라이즈 제품으로 pricing 정보가 공개되어 있지 않습니다.
  • 벡터 검색 대체가 아님: Auto Ontology는 벡터 검색을 대체하는 것이 아니라, 벡터 검색이 실패하는 "모호한 용어" 영역을 보완합니다.
  • 인증된 용어가 핵심: certified glossary term이 존재할 때만 작동합니다. uncertified term은 기존 벡터 검색과 다를 바 없습니다.

벡터 검색이 "revenue"라는 단어의 유사도만 보고 모든 문서를 반환한다면, Auto Ontology는 "booked_revenue"가 certified된 경우에만 finance.invoices로 정확한 쿼리를 실행합니다. 이 차이는 데이터에 명확한 용어 정의가 존재할 때만 의미가 있습니다.

제품 자체는 아직 v1이며, 공식 오픈소스 릴리스가 없는 상태입니다. 하지만 "벡터 검색의 한계"를 해결하려는 접근 방식 자체는 RAG 시스템 설계자에게 참고할 만한 방향입니다.